Grok Chatbot-da Təhlükəli Zəiflik: ‘Cryptographic Context Injection’ İstifadəçi Məlumatlarını Oğurlayır

Adversa AI Təhlükəli Hücum Metodu Aşkarladı

Süni intellekt təhlükəsizliyi şirkəti Adversa AI, xAI-ın Grok chatbotuna qarşı “Cryptographic Context Injection” adlandırdığı yeni və təhlükəli hücum metodunu açıqlayıb. Bu texnika, istifadəçilərin chatbot-a adi bir veb səhifəni ümumiləşdirməyi xahiş etdikləri zaman onların şəxsi məlumatlarını və söhbət tarixçələrini hücumçunun nəzarətində olan serverlərə ötürməsinə səbəb ola bilər.

Hücum Necə Həyata Keçirilir?

“Cryptographic Context Injection” metodu, Grok chatbotunun veb səhifələri emal edərkən daxil edilmiş pisniyyətli kontekstləri təhlükəsizlik baryerlərini aşaraq icra etməsinə əsaslanır. Adversa AI-ın araşdırmalarına görə, istifadəçi zərərli elementlər ehtiva edən bir veb səhifəni Grok-a ümumiləşdirmək üçün verdikdə, chatbot istifadəçinin adını, təxmini coğrafi yerini, abunəlik səviyyəsini və cari söhbətdəki məlumatları öz istəyi xaricində üçüncü tərəfə ötürür.

Potensial Nəticələr və Təhlükəsizlik Çətinlikləri

Bu cür məlumat sızması istifadəçi məxfiliyi üçün ciddi təhlükə yaradır. Şəxsi məlumatların və söhbət məzmununun icazəsiz ələ keçirilməsi kimlik oğurluğu, phishing kampaniyaları və digər zərərli fəaliyyətlər üçün istifadə edilə bilər. Aşkar edilən zəiflik, süni intellektə əsaslanan sistemlərin veb məzmununu emal edərkən üzləşdiyi təhlükəsizlik problemlərini bir daha vurğulayır və AI modellərinin daxili məlumat emalı mexanizmlərinin daha ciddi auditinə ehtiyac olduğunu göstərir.

Kibertəhlükəsizlik mütəxəssisləri, AI sistemlərinin veb məzmununu təhlil edərkən tətbiq etdiyi izolyasiya və validasiya mexanizmlərinin gücləndirilməsinin vacibliyini qeyd edirlər. İstifadəçilərə isə şübhəli mənbələrdən gələn veb səhifələri chatbot-lar vasitəsilə ümumiləşdirməkdən çəkinmək tövsiyə olunur.