Təhlükəsizlik üzrə fəaliyyət göstərən Redware şirkəti “Shadow Leak” adlı araşdırma layihəsində Gmail poçt hesablarından şəxsi məlumatların oğurlanması üçün ChatGPT süni intellektindən istifadə edilməsi ehtimalını araşdırıb.  

Gent.az xəbər verir ki, OpenAI bu zəifliyi artıq düzəltmiş olsa da, bu hadisə süni intellekt agentlərinin daşıya biləcəyi təhlükələri bir daha gündəmə gətirir. 

Tədqiqatçılar “prompt inyeksiyası” metodundan istifadə edərək, istifadəçiyə görünməyən əlavə əmrlər yerləşdirmək yolu ilə süni intellekt modelini istəmədən zərərli fəaliyyətlərə sövq edə bilərlər. Məsələn, Gmail-ə gələn məktubda yerləşdirilmiş gizli təlimatlar agenti şəxsi departament məktublarını və şəxsi məlumatları təhlil edib hücumçulara ötürməyə məcbur edirmiş. 

Bu cür sızma hallarını aşkarlamaq və qarşısını almaq çətin olsa da, mütəxəssislər qeyd edir ki, istifadəçilər, xüsusən də süni intellekt agentlərinə giriş verdikləri xidmətlərə qarşı ehtiyatlı olmalıdırlar.