“OpenAI”ın süni intellekt agentləri üç ay ərzində BMT-yə bağlı UNCTAD-ın statistika saytına 16 mindən çox sorğu göndərib. Agentlərin giriş məhdudiyyətlərini aşmaq üçün istifadə etdiyi üsullar diqqət çəkib.
Qaynarinfo xəbər verir ki, “OpenAI”ın süni intellekt agentləri Birləşmiş Millətlər Təşkilatına bağlı statistika saytına üç ay ərzində 16 mindən çox sorğu göndərib. Təhlükəsizlik tədqiqatçısı Rouan Hovard-Consun üzə çıxardığı hadisədə süni intellekt agentlərinin qarşılaşdıqları giriş məhdudiyyətlərini aşmaq üçün gözlənilməz üsullara əl atdığı bildirilir.
Hovard-Consun araşdırmasına görə, “OpenAI” agentləri aprel-iyun ayları arasında Birləşmiş Millətlər Təşkilatının Ticarət və İnkişaf Konfransının (UNCTAD) statistika saytını 16 mindən çox dəfə skan edib.
Hadisə böyük məlumat sızması və ya birbaşa kiberhücum kimi qiymətləndirilmir. Lakin süni intellekt agentlərinin qarşılarına qoyulan tapşırığı yerinə yetirmək üçün müəyyən edilmiş məhdudiyyətlərdən kənara çıxa bilməsi təhlükəsizlik baxımından yeni suallar yaradır.
Məqsəd ictimai məlumatlara çıxış əldə etmək idi
Hovard-Cons agentlərin Məhsuldar İmkanlar İndeksi (PCI) ilə bağlı açıq məlumatları UNCTADstat API vasitəsilə toplamağa çalışdığını düşünür.
Lakin agentlərin API-yə birbaşa çıxışı olmayıb. İstifadə etdikləri HTTP alətlərindəki məhdudiyyətlər də UNCTADstat vasitəsilə məlumat əldə etməyi çətinləşdirib.
Bunun üzərinə süni intellekt agentləri müxtəlif üsulları sınaqdan keçirərək bu məhdudiyyətləri aşmağa və saytdan məlumat toplamağa nail olublar. Lakin proses zamanı müxtəlif xətalarla qarşılaşıblar.
Mövcud olmayan bloklama sistemini aşmağa çalışıblar
Araşdırmanın diqqətçəkən hissəsi də bundan sonra başlayıb. Agentlər qarşılaşdıqları xətaların əslində mövcud olmayan filtrasiya sistemindən qaynaqlandığını düşünüblər. Bundan sonra sorğularının aşkar edilməsini çətinləşdirəcək üsulları sınamağa başlayıblar.
Hovard-Consun sözlərinə görə, sistem daha sonra “Google”un veb təhlükəsizliyi üzrə təlim məqsədilə hazırladığı “XSS Game” alətindən istifadə edə biləcəyini müəyyənləşdirib. Agentlər bu üsuldan yararlanaraq BMT-nin məlumatlarına çıxış əldə etməyə çalışmaqda davam ediblər.
Proses irəlilədikcə agentlərin istifadə etdiyi üsulların da daha israrlı xarakter aldığı bildirilir. Hadisə süni intellekt agentlərinin hətta sadə məlumat toplama tapşırığı zamanı belə əvvəlcədən nəzərdə tutulmayan üsullar hazırlaya biləcəyini göstərən nümunələrdən biri kimi diqqət çəkir.
“OpenAI” və Birləşmiş Millətlər Təşkilatı xəbərin yayımlandığı vaxta qədər məsələ ilə bağlı şərh tələblərinə cavab verməyib.
