NVIDIA NemoClaw Təhlükəsizlik Zəifliyi: Zərərli Veb-səhifələr Süni İntellekt Modellərini Zəhərləyə Bilər

NVIDIA NemoClaw Təhlükəsizlik Zəifliyi Aşkarlanıb

Oasis Security kibertəhlükəsizlik şirkəti NVIDIA NemoClaw platformasında ciddi bir zəifliyi üzə çıxarıb. Bu boşluq, hakerlərə nəzarət edilən zərərli veb-səhifələr vasitəsilə yerli süni intellekt modellərini manipulyasiya etmək imkanı verir. Aşkarlanan zəiflik, AI agentlərinin işlədiyi Ollama instansiyalarına icazəsiz müdaxiləyə şərait yaradır.

Zəifliyin Detalları və Hücum Mexanizmi

Tədqiqatçılar, hücumçunun idarəsində olan zərərli bir veb-səhifənin yerli Ollama instansiyasına — yəni bir AI agentinə xidmət edən proqram təminatına — autentifikasiyasız nəzarəti ələ keçirə biləcəyini müəyyən ediblər. Bu təhlükənin ən ciddi tərəfi, hücumçunun birbaşa süni intellekt modelinin daxilinə gizli təlimatlar yerləşdirmək qabiliyyətidir. Bu o deməkdir ki, modelin normal fəaliyyətini dəyişdirə biləcək “zəhərlənmiş” kodlar və ya davranış qaydaları əlavə edilə bilər.

Süni İntellekt Modellərinin Zəhərlənməsi Riski

Modelə yerləşdirilmiş gizli təlimatlar AI agentinin qərarlarını, çıxışlarını və ümumilikdə davranışını manipulyasiya etməyə xidmət edə bilər. Bu cür zəhərlənmə, yanlış informasiyanın yayılması, həssas məlumatların sızması, zərərli əmrlərin icrası və ya digər pis niyyətli hərəkətlər üçün bir platforma yaradır. Nəticədə, istifadəçilərin etibarı sarsıla və AI-əsaslı sistemlərin bütövlüyü, etibarlılığı və məxfiliyi ciddi şəkildə pozula bilər.

Məsuliyyətli Aşkarlama və Həll Yolları

Oasis Security-nin araşdırmaları The Hacker News-ə nəşrdən əvvəl təqdim edilib. Şirkət bu tapıntıları NVIDIA-nın Məhsul Təhlükəsizliyi Hadisələrinə Cavab Komandasına (Product Security Incident Response Team – PSIRT) məsuliyyətli şəkildə məruzə etdiyini bildirib. Bu, problemin həlli istiqamətində ilk addımların atıldığını və zəifliyin aradan qaldırılması üçün işlərin başlandığını göstərir.

AI Təhlükəsizliyinin Gələcəyi

Bu hadisə, süni intellekt texnologiyalarının geniş yayılması fonunda onların təhlükəsizliyinin nə qədər vacib olduğunu bir daha vurğulayır. AI modellərinin inkişafı və tətbiqi ilə yanaşı, onların mümkün zəifliklərindən qorunmaq, təhlükəsizlik boşluqlarını aşkarlamaq və aradan qaldırmaq üçün davamlı audit və təhlükəsizlik tədbirlərinin gücləndirilməsi kritik əhəmiyyət kəsb edir. AI sistemlərinin etibarlılığını təmin etmək üçün proaktiv yanaşma zəruridir.