Süni İntellekt Tövsiyələrinin Zəhərlənməsi: ‘Ask AI’ Düymələri LLM Yaddaşını Necə Gizli Şəkildə Dəyişir?
13rose
2 min read
Yeni Növ Prompt Injection Aşkar Edildi
Kibertəhlükəsizlik mütəxəssisləri kommersiya veb-saytlarında sürətlə yayılan, yeni bir növ prompt injection hücumunu müəyyən ediblər. Bu hücum növü ənənəvi təhdidlərdən fərqli olaraq, heç bir malware, oğurlanmış identifikasiya məlumatı və ya zero-day exploit tələb etmir. Onun əsas hədəfi demək olar ki, hər bir əsas süni intellekt köməkçisində mövcud olan standart bir funksiya – əvvəlcədən doldurulmuş (pre-filled) deep link-lərdir.
“Ask AI” Düymələrinin Gizli Təhlükəsi
Tədqiqatlar göstərir ki, istehsalat veb-saytları, xüsusilə marketinq və rəqiblərin müqayisə səhifələrindəki “Ask AI” düymələrinin daxilində gizli prompt injection payload-ları yerləşdirir. İstifadəçi bu düymələrdən birinə kliklədikdə, görünməyən şəkildə böyük dil modellərinə (LLM) müəyyən bir təsir göstərir. Bu, süni intellektin daxili yaddaşını və sonradan verdiyi tövsiyələri gizli şəkildə dəyişdirir ki, bu da “tövsiyə zəhərlənməsi” (AI recommendation poisoning) olaraq adlandırılır.
Təhlükəsizlikə Yeni Baxış
Bu yeni yanaşma, süni intellekt sistemlərinin təhlükəsizliyinə dair mövcud anlayışları yenidən nəzərdən keçirməyə ehtiyac yaradır. Hücumun qeyri-ənənəvi təbiəti, onun aşkarlanmasını və qarşısının alınmasını daha çətin edir. Çünki o, zərərli proqram təminatının xarakteristikalarını daşımır və mövcud təhlükəsizlik həllərini yan keçə bilər. Bu hal, süni intellekt köməkçilərinin fəaliyyət prinsipləri və istifadəçi interfeyslərinin necə təhlükəsiz dizayn edilməsi barədə daha dərin düşünməyə vadar edir.
Nəticə
Süni intellektin gündəlik həyatımızda və biznes proseslərində artan inteqrasiyası ilə yanaşı, onun manipulyasiya edilməsi üçün yeni və daha incə üsulların yaranması qaçılmazdır. “Ask AI” düymələri vasitəsilə həyata keçirilən bu prompt injection növü, tərtibatçıları və istifadəçiləri AI ilə qarşılıqlı əlaqədə daha diqqətli olmağa çağırır. Müdafiə mexanizmləri yalnız ənənəvi kiberhücumları deyil, həm də süni intellektin özünə yönəlmiş daha incə manipulyasiya cəhdlərini də nəzərə almalıdır.
