Google, GitHub Boşluğu Səbəbindən ADK AI Agent İş Axınlarını Sildi

Google, GitHub Boşluğu Səbəbindən ADK AI Agent İş Axınlarını Sildi

Google şirkəti, Agent İnkişaf Dəsti (ADK) Python deposundan üç süni intellekt (AI) agenti iş axınını ləğv etdiyini açıqlayıb. Bu addım, Pillar Security təhlükəsizlik firması tərəfindən aşkar edilmiş ciddi bir zəifliyin nəticəsidir.

Aşkarlanmış Zəifliyin Təfərrüatları

Pillar Security-nin araşdırmaları göstərib ki, açıq bir GitHub problemi bir triage agentini manipulyasiya edərək, imtiyazlı kod-təmir agentini işə salmağa vadar edə bilərdi. Tədqiqatçılar qeyd ediblər ki, açıq agent ‘prompt-injection’ üsulu ilə adk-bot olaraq /adk-issue-fix postunu yerləşdirə bilərdi.

Ən təhlükəli cəhət ondadır ki, adk-bot bir əməkdaş (collaborator) kimi tanındığı üçün onun bu şərhi etibarlı hesab edilmiş və nəticədə imtiyazlı kodun işə düşməsinə səbəb ola bilərdi. Bu, avtomatlaşdırılmış sistemlərdə etibarın yanlış idarə olunmasının potensial risklərini bir daha ortaya qoyur.

AI Agent Təhlükəsizliyi üçün Dərs

Google-un bu iş axınlarını silməsi, süni intellekt agentlərinin inkişafında təhlükəsizlik aspektlərinin nə qədər vacib olduğunu vurğulayır. AI sistemlərinin mürəkkəbliyi artdıqca, onların qarşılıqlı əlaqələrindəki zəif nöqtələrinin aşkarlanması və aradan qaldırılması kritik əhəmiyyət kəsb edir. Bu hadisə, AI agentlərinin həm dizayn, həm də əməliyyat mərhələsində ciddi təhlükəsizlik yoxlamalarından keçməsinin zəruriliyini bir daha göstərir.