Süni intellektlə (AI) bağlı təhlükəsizlikdən danışanda adətən diqqəti AI modelinin özünə yönəldirik. Amma yaxın dövrdə müəssisələr üçün əsas problemlərdən biri AI-nin özü yox, insanların AI-dən necə istifadə etməsi olacaq.

Bunu  Xüsusi Rabitə və İnformasiya Təhlükəsizliyi Dövlət Xidmətinin baş idarə rəisinin müavini Tural Məmmədov deyib.

O bildirib ki, işçilərin süni intellekt alətlərindən istifadə edərək şirkətdaxili məlumatları gizli şəkildə çıxarması 2026-cı ilin əsas korporativ risklərindən birinə çevrilir. “Əvvəllər daxili təhdid dedikdə məlumatı USB-yə köçürən, şəxsi “e-mailə” göndərən və ya bilərəkdən təşkilatdan çıxaran əməkdaşı düşünürdük. İndi isə hətta istifadəçi bunu bilmədən də edə bilər. Bəzi hallarda isə AI məlumatı təşkilatdan çıxarmağın daha rahat vasitəsinə çevrilə bilər. Mən bunu müəyyən mənada “daxili təhdidin AI ilə maskalanması” kimi qiymətləndirərdim”, – deyə o qeyd edib.

Ekspertin sözlərinə görə, əməkdaşın gündəlik işini sürətləndirmək üçün etdiyi adi bir hərəkət belə informasiya təhlükəsizliyi insidentinə səbəb ola bilər: “Şirkətə məxsus müqaviləni “ChatGPT”yə yükləyib xülasə etdirmək, proqram kodunu AI-yə verib səhvi tapmasını istəmək, daxili yazışmanı və ya hesabatı yerləşdirib cavab hazırlatmaq, müştəri məlumatlarını analiz etdirmək, hətta ekran görüntüsünü AI-yə göndərib ondan kömək almaq mümkündür. İstifadəçi burada məlumat oğurladığını düşünmür. O, sadəcə işini daha sürətli görmək istəyir. Amma informasiya təhlükəsizliyi baxımından həmin məlumat artıq təşkilatın nəzarət etdiyi informasiya mühitindən kənara çıxmış ola bilər”.

O bildirib ki, bu cür “Data Exfiltration” hallarının artması təhlükəsizlik alətləri hazırlayan şirkətləri yeni mühafizə mexanizmlərinin yaradılmasına sövq edir. Bu istiqamətdə artıq konkret texnoloji həllər də tətbiq olunur: “Məsələn, “Microsoft”un hazırkı “Purview” imkanları artıq istifadəçilərin AI saytlarına girişini, AI-yə göndərilən promptlarda həssas məlumatların olub-olmadığını aşkarlamağa, müəyyən hallarda isə həssas məlumatın AI sisteminə göndərilməsini bloklamağa imkan verir. Bu, məncə, bazarın hara getdiyini kifayət qədər yaxşı göstərir”.

T.Məmmədov hesab edir ki, yaxın zamanda müəssisələr süni intellektdən istifadənin təhlükəsizliyinə yönəlmiş daha çox həllərlə qarşılaşacaqlar.

“Dövlətlər də artıq sadəcə AI-ni ümumi şəkildə tənzimləmir. AI-dən istifadə zamanı yaranan konkret davranışları tənzimləməyə başlayırlar. Məsələn, Avropa İttifaqında “AI Act”ın 50-ci maddəsi üzrə şəffaflıq tələbləri bu il avqustun 2-dən tətbiq olunur. Burada maraqlı tələblərdən biri “deepfake” məzmunla bağlıdır. AI vasitəsilə yaradılmış və ya manipulyasiya edilmiş “deepfake” görüntü, video və audioməzmunla qarşılaşan insan bunun süni şəkildə yaradıldığını və ya dəyişdirildiyini bilməlidir”, – deyə o qeyd edib.

T.Məmmədov vurğulayıb ki, qanunvericilikdə diqqət tədricən süni intellekt modelindən onun istifadəsinə yönəlir: “Qanunvericilik artıq sadəcə “Süni intellekt təhlükəsiz olmalıdır” demir. Artıq konkret olaraq “AI ilə nə etmisən və nəticəsini insanlara necə təqdim edirsən?” sualını verir”.

Ekspert ABŞ-nin Minnesota ştatında süni intellekt və “nudification” texnologiyası ilə bağlı qəbul edilən yeni qanunu da bu tendensiyanın nümunəsi kimi göstərib. Onun sözlərinə görə, söhbət real insanın şəklini və ya videosunu AI və digər texnologiyalar vasitəsilə real görünən çılpaq görüntüyə çevirməyə imkan verən xidmətlərdən gedir. Yeni qanun müəyyən “nudification” xidmətlərinin istifadəçilərə bu imkanı təqdim etməsini, həmçinin belə xidmətlərin reklamını və təşviqini qadağan edir.

O hesab edir ki, informasiya təhlükəsizliyində də oxşar yanaşma daha geniş yayılacaq. “Məncə, növbəti mərhələdə müəssisələrin qarşısında duran əsas suallardan biri “Biz AI-ni necə təhlükəsiz edək?” yox, “İnsanlarımızın AI-dən təhlükəsiz istifadə etməsini necə idarə edək?” olacaq. Çünki gələcəkdə informasiya təhlükəsizliyinin qoruduğu “obyektlərdən” biri də məhz istifadəçi ilə süni intellekt arasındakı qarşılıqlı əlaqə olacaq”, – deyə T.Məmmədov vurğulayıb.