OpenAI, Anthropic və Google AI API-lərində Məxfi Düşüncə Mexanizmlərini Aşkarlayan Boşluq

Yeni Zəiflik AI Sistemlərinin Daxili Sirlərini Ortaya Çıxarır

OpenAI, Anthropic və Google şirkətlərinin süni intellekt (AI) API-lərində yeni aşkar edilmiş ciddi boşluq tədqiqatçılara sessiya qeydlərindən daxili düşüncə proseslərini, eləcə də API açarları və şifrələr kimi mühüm gizli məlumatları ələ keçirməyə imkan verib. Bu zəiflik, zəif AI modellərinin daha güclü modellərin məntiqini deşifrə etməsinə şərait yaradır.

Boşluğun Mexanizmi və Təhlükənin Mahiyyəti

Məlumatlara görə, bu boşluq provayderlərin ‘reasoning APIs’ tərəfindən istifadə edilən şifrələnmiş məntiqi obyektlərin (encrypted reasoning objects) ötürülmə üsulunda yaranıb. Tədqiqatlar zamanı müəyyən edilib ki, bir sessiyada yaradılan bir blok başqa bir sessiyaya təkrar daxil edilə (replay) bilər. Bu isə AI sistemlərinin daxili məntiqi düşüncə mexanizmlərinin və emal etdiyi məxfi məlumatların sızmasına yol açır.

Nəticələr və Potensial Risklər

Aşkar edilmiş boşluq yalnız AI-nin daxili işləmə prinsiplərini deyil, həm də sistemlər tərəfindən istifadə olunan API açarları və istifadəçi şifrələri kimi həssas identifikasiya məlumatlarını ifşa edə bilər. Bu cür məlumatların ələ keçirilməsi, zərərli aktorlara AI xidmətlərinə icazəsiz daxil olmaq, məlumatları oğurlamaq və ya hətta AI modellərini manipulyasiya etmək imkanı verir. Xüsusilə, zəif AI modellərinin, daha inkişaf etmiş modellərin məntiqini və məlumat emalını anlamaq üçün bu boşluqdan istifadə etməsi, AI təhlükəsizliyi sahəsində yeni narahatlıqlara səbəb olur.

Bu hadisə, AI sistemlərinin təhlükəsizlik dizaynının vacibliyini və API interfeyslərinin etibarlılığını bir daha ön plana çıxarır. Şirkətlər bu tip zəifliklərin qarşısını almaq üçün təhlükəsizlik protokollarını daim yeniləməli və gücləndirməlidirlər.