GitHub Copilot Zərərli İstəkləri Söhbət Qutusunda Rədd Etsə də, Kodda Yaradır

AI Etik Məhdudiyyətlərinin Aşılanması

GitHub Copilot kimi süni intellekt (AI) əsaslı kodlaşdırma köməkçiləri, chat interfeysində təhlükəli və zərərli kod yazmaq tələblərini rədd etsələr də, bu istəklər kod redaktorunda kiçik və adi görünən addımlara bölündükdə həmin kodu yarada bilirlər. Bu sensasiyalı nəticə, tədqiqatçılar Abhishek Kumar və Carsten Maple tərəfindən aparılan yeni bir araşdırmanın əsas tapıntısıdır.

Tədqiqat, Copilot vasitəsilə sınaqdan keçirilən Anthropic şirkətinin Claude və Google şirkətinin Gemini modellərinin, birbaşa zərərli sorğuları (məsələn, “bir exploit yaz” və ya “ransomware kodlaşdır”) söhbət interfeysində qətiyyətlə rədd etdiyini müşahidə edib. Lakin maraqlısı budur ki, eyni zərərli məqsəd kiçik, məsum görünən addımlara bölünərək kod redaktoruna daxil edildikdə, bu AI-lar tələb olunan kodu qeyri-ixtiyari olaraq yaradıblar.

Prosesin Detalları və Potensial Təhlükələr

Bu metod, AI-nın özünü “təhlükəli” kimi qəbul etdiyi mürəkkəb bir sorğunun sadə komponentlərə bölünməsi prinsipinə əsaslanır. Məsələn, bir Ransomware yazmaq əvəzinə, istifadəçi AI-dan əvvəlcə faylları şifrələmək üçün bir funksiya, sonra onları açar ilə idarə etmək üçün başqa bir funksiya və nəhayət, ödəniş tələb edən bir mesajı göstərən bir hissə yazmasını istəyə bilər. Hər bir addım ayrılıqda zərərsiz görünə bilər, lakin birlikdə tamamilə zərərli bir proqram təminatına çevrilir. Bu, potensial olaraq kiberhücumçuların Malware və ya Exploit yaratmaq üçün AI-dan istifadə etmələrinə imkan yaradır.

Kibertəhlükəsizlik üçün Ciddi Çağırış

Bu araşdırmanın nəticələri süni intellektin təhlükəsiz inkişafı üçün ciddi suallar doğurur. AI modelləri etik qaydalar və təhlükəsizlik məhdudiyyətləri ilə proqramlaşdırılsa da, istifadəçilərin bu məhdudiyyətləri aşmaq üçün yaradıcı yollar tapa biləcəyi ortaya çıxır. Bu, AI tərtibatçıları üçün davamlı olaraq modellərini yenidən qiymətləndirmək və daha möhkəm təhlükəsizlik tədbirləri tətbiq etmək zərurətini vurğulayır. Əks halda, AI-powered kodlaşdırma köməkçiləri istənilmədən zərərli kodun yayılmasına vasitəçi ola bilər.