OpenAI Codex Jailbreak Alətində ‘Prompt Adware’ Təhlükəsi Aşkar Edildi
13rose
2 min read
OpenAI Codex Jailbreak Alətində ‘Prompt Adware’ Təhlükəsi Aşkar Edildi
Kibertəhlükəsizlik tədqiqatçıları, OpenAI Codex Süni İntellekt (Sİ) agentlərinin etibarlı təlimatlarını dəyişdirmək və üçüncü tərəf Sİ qapısı üçün reklamlar yerləşdirmək məqsədi daşıyan bir ‘jailbreak’ dəstinin təfərrüatlarını açıqlayıblar. Check Point Research tərəfindən ‘prompt adware’ olaraq kodlaşdırılan bu fenomen, Süni İntellekt sistemlərinin istifadəsi və təhlükəsizliyi ilə bağlı yeni narahatlıqlar doğurur.
‘Haiou’ – Gizli Reklam Mexanizmi
Çin dilində ‘qağayı’ mənasını verən ‘Haiou’ adlı bu ‘jailbreak’ aləti, OpenAI Codex-in konfiqurasiyasını dəyişdirir. Alət, Sİ agentinin əsas təlimatlarına (promptlarına) müdaxilə edərək, istifadəçilərə fərqli Sİ xidmətlərini təbliğ edən reklamlar yerləşdirir. Bu, yalnız Sİ-nin davranışını sındırmaqla qalmayıb, həm də onu maliyyə qazancı üçün sui-istifadə etmək cəhdidir. Tədqiqatçılar bu cür alətlərin Sİ sistemlərinin daxili məntiqinə nə dərəcədə təsir edə biləcəyini araşdırırlar.
‘Prompt Adware’ Nədir və Niyə Təhlükəlidir?
Gənc bir konsepsiya olan ‘prompt adware’, Sİ agentlərinin ilkin təlimatlarını (promptlarını) hədəf alaraq reklam məzmunu daxil edir. Bu, ənənəvi ‘adware’ proqramlarından fərqlənir, çünki Sİ-nin öz ‘düşünmə’ və ‘cavab vermə’ mexanizmlərinə birbaşa təsir göstərir. İstifadəçilər, bilmədən Sİ agentləri vasitəsilə reklam bombardmanına məruz qala bilər və Sİ-nin çıxışlarının etibarlılığı şübhə altına düşə bilər. Bundan əlavə, belə modifikasiyalar gələcəkdə daha ziyanlı fəaliyyətlər, məsələn, məlumat oğurluğu və ya yanlış məlumat yaymaq üçün bir yol aça bilər.
Süni İntellekt Təhlükəsizliyinin Artan Əhəmiyyəti
Bu hadisə, Süni İntellekt modellərinin təhlükəsizliyinin nə qədər həssas olduğunu və kibercinayətkarların yeni hücum vektorları axtarışında daim yenilik etdiyini bir daha göstərir. Sİ sistemlərinin geniş tətbiqi ilə yanaşı, onların müdafiə mexanizmlərinin də inkişaf etdirilməsi zəruridir. Tədqiqatçılar Sİ təhlükəsizliyinə dair daha dərindən araşdırmaların aparılmasının vacibliyini vurğulayır, istifadəçiləri isə etibarlı mənbələrdən olmayan Sİ alətlərindən istifadə etməkdən çəkinməyə çağırır. Bu, gələcəkdə Sİ-ə əsaslanan hücumların artacağının ilk əlamətlərindən biri ola bilər.
