Microsoft-dan Çatbot Tövsiyələrini Hədəfləyən Yeni AI Hücum Növü: ‘AI Recommendation Poisoning’

Microsoft Axtarış Motoru Zəhərlənməsinə Bənzər Yeni AI Manipulyasiyası Aşkarlayıb

Microsoft tərəfindən aparılan son araşdırmalar, vebsaytlarda geniş yayılmış “Summarize with AI” düyməsinin qanuni şirkətlər tərəfindən süni intellekt (AI) çatbotlarını manipulyasiya etmək üçün istifadə edildiyini ortaya qoyub. Bu yeni üsul, çatbotların istifadəçilərə verdiyi tövsiyələrin və məlumatların təhrif edilməsinə yol açır, bu da klassik axtarış motoru zəhərlənməsi (search engine poisoning) taktikalarına bənzəyir.

‘AI Recommendation Poisoning’: Texnologiya Nəhənginin Yeni Adı

Texnologiya nəhəngi Microsoft-un Defender Security Research Team tərəfindən “AI Recommendation Poisoning” adlandırılan bu yeni AI hücum texnikası, məqsədli şəkildə yaradılan məzmun vasitəsilə çatbotların öyrənmə modelini təhrif etməyə əsaslanır. “Summarize with AI” funksiyası, vebsayt sahiblərinə öz məzmunlarını AI üçün necə xülasə ediləcəyini göstərmək imkanı verir. Təhlükəsizlik tədqiqatçıları, bu imkanın sui-istifadə edilərək AI-nın müəyyən məhsulları, xidmətləri və ya ideyaları daha çox tövsiyə etməsinə nail olunduğunu aşkar ediblər. Bu, əslində, AI-nın obyektivliyini və neytrallığını pozmağa yönəlmiş bir cəhddir.

AI Etibarlılığına Yeni Təhdid

Bu kəşf, AI-nın obyektivliyi və etibarlılığı ilə bağlı ciddi suallar yaradır. Süni intellekt sistemləri getdikcə daha çox məlumat mənbəyi kimi istifadə edildiyindən, onların manipulyasiyası istifadəçilərin yanlış məlumatlara məruz qalmasına və ya qərəzli tövsiyələr almasına səbəb ola bilər. Klassik search engine poisoning taktikalarında olduğu kimi, bu üsul da rəqabət üstünlüyü qazanmaq, nüfuzu zədələmək və ya müəyyən narrativləri irəli sürmək üçün istifadə oluna bilər. Microsoft-un bu araşdırması, AI təhlükəsizliyinin genişlənməsi və AI sistemlərinin kənar müdaxilələrdən qorunmasının vacibliyini bir daha vurğulayır.

Gələcəkdəki Tətbiqlər və Müdafiə Mexanizmləri

AI-nın gələcəkdə daha geniş tətbiqləri nəzərə alındığında, bu cür manipulyasiya cəhdlərinə qarşı effektiv müdafiə mexanizmlərinin inkişaf etdirilməsi kritik əhəmiyyət kəsb edir. Tədqiqat, həmçinin, AI etikası və məsuliyyətli AI inkişafı sahəsindəki müzakirələrin dərinləşməsinə töhfə verir. Kibertəhlükəsizlik mütəxəssisləri, AI modellərinin təlim məlumatlarının bütövlüyünü təmin etmək və manipulyasiya əlamətlərini aşkarlamaq üçün daha qabaqcıl üsullar üzərində işləməli olacaqlar.