Rusiyaya Bağlı UAC-0099 Qrupu AI Təhlilini Pozmaq Üçün ‘GuardBreaker’ Texnikasını İşə Salır: Malware-də Nüvə Silahı Səbəbi

Yeni Təhdid: GuardBreaker Texnikası

Kibertəhlükəsizlik tədqiqatçıları, Rusiyaya bağlı UAC-0099 təhdid aktyoru tərəfindən Ukraynada bir hədəfə qarşı tətbiq edilən yeni bir texnikanı – ‘GuardBreaker’ı – aşkarlayıblar. Bu innovativ üsulun əsas məqsədi süni intellekt (AI) dəstəkli təhlili pozmaq və ya onun effektivliyini azaltmaqdır.

AI Təhlilini Necə Pozur?

ESET-in X (keçmiş Twitter) üzərindəki paylaşımlar silsiləsində qeyd etdiyi kimi, GuardBreaker-ın arxasında duran ideya böyük dil modellərinin (LLM) təhlükəsizlik mexanizmlərini qəsdən işə salmaqdır. UAC-0099 qrupu öz Malware-inə “nüvə silahı” ilə bağlı spesifik sözlər və ya ifadələr daxil edərək, təhlil üçün istifadə olunan AI sistemlərini manipulyasiya etməyə çalışır. Bu cür həssas mövzular adətən LLM-lərin daxili mühafizə protokollarını aktivləşdirir, nəticədə model ya məlumat çıxarmaqdan imtina edir, ya da faydasız, senzura edilmiş cavablar verir. Bu yolla, AI tərəfindən aparılan təhlillərin obyektivliyi və tamlığı ciddi şəkildə pozulur.

Kibertəhlükəsizlik üçün Nə Anlama Gəlir?

Bu, kibermüharibədə süni intellektin rolunun artdığı bir dövrdə yeni və narahatedici bir təhdid vektorudur. Təhlükəsizlik analitikləri və müdafiə sistemləri getdikcə daha çox AI-dən asılı olduqca, bu cür qarışdırıcı texnikalar xüsusilə əhəmiyyət kəsb edir. GuardBreaker, düşmən qüvvələrin kəşfiyyat fəaliyyətlərini və ya təhlükəsizlik tədbirlərini hədəf almaq üçün AI-nin öz zəif tərəflərindən necə istifadə edə biləcəyini nümayiş etdirir. Kibertəhlükəsizlik cəmiyyəti üçün bu, AI modellərinin daha davamlı və manipulyasiyaya qarşı dayanıqlı olmasını təmin etmək üçün yeni müdafiə strategiyaları hazırlamağın vacibliyini vurğulayır.