OpenAI Kompaktlama Funksiyasında Aşkar Edilən Boşluq Gizli Düşüncəni Sızdırır
13rose
2 min read
OpenAI Kompaktlama Funksiyasında Aşkar Edilən Boşluq Gizli Düşüncəni Sızdırır
Təhlükəsizlik firması Xint tərəfindən aparılan araşdırmalar nəticəsində, OpenAI-ın uzun söhbətləri yaddaşa qənaət etmək məqsədilə kiçildən kompaktlama funksiyasında ciddi bir boşluq aşkar edilib. Bu zəiflik sayəsində, süni intellekt modellərinin gizli düşüncə proseslərini, normalda şifrələnmiş formada saxlanılan məlumatları adi mətn şəklində çıxarmaq mümkün olduğu nümayiş etdirilib.
OpenAI-ın düşüncə modelləri istifadəçiyə cavab verməzdən əvvəl bir problemi daxili olaraq analiz edir və həll edir. Adətən, xidmət bu xam düşüncə məlumatlarını yalnız şifrələnmiş bir element kimi geri qaytarır ki, bu da istifadəçi tərəfindən oxuna bilməz. Bu şifrələmə, modelin daxili iş prinsiplərini və potensial həssas məlumatları qorumaq üçün nəzərdə tutulub.
Aşkar edilmiş metod, modellərin daxili məntiqinə və qərar qəbuletmə mexanizmlərinə birbaşa çıxış imkanı verir ki, bu da gələcəkdə potensial zərərli istifadəyə yol aça bilər. Belə bir məlumatın sızması, modellərin necə işlədiyini anlamaq, onların zəif tərəflərini müəyyənləşdirmək və hətta manipulyasiya etmək üçün istifadə oluna bilər. Təhlükəsizlik mütəxəssisləri bu cür boşluqların süni intellekt sistemlərinin etibarlılığı və təhlükəsizliyi baxımından ciddi nəticələrə səbəb ola biləcəyini vurğulayırlar. OpenAI-ın bu zəifliyi aradan qaldırmaq üçün təcili tədbirlər görməsi gözlənilir.
