Microsoft Açıq Çəki Böyük Dil Modellərindəki ‘Backdoor’ları Aşkarlayan Skaner Hazırlayıb

Microsoft Süni İntellekt Sistemlərinə Etibarı Artırır

Microsoft korporasiyası, çərşənbə günü verdiyi açıqlamada, açıq çəki böyük dil modellərində (LLM) mövcud olan ‘backdoor’ları aşkar etmək üçün hazırlanmış yüngül bir skaneri təqdim etdiyini bildirib. Şirkət bu alətin süni intellekt (AI) sistemlərinə olan ümumi etibarı artırmağa xidmət edəcəyini vurğulayıb.

Yeni Skanerin İş Prinsipi

Texnologiya nəhənginin AI Təhlükəsizlik komandası, skanerin ‘backdoor’ların mövcudluğunu etibarlı şəkildə aşkar etmək üçün istifadə edilə bilən üç müşahidə edilə bilən siqnaldan istifadə etdiyini qeyd edib. Bu yanaşma, aşağı yanlış müsbət göstərici (false positive) saxlamaqla yanaşı, təhdidlərin dəqiq müəyyən edilməsini təmin edir. Bu, modelin zərərli məqsədlər üçün manipulyasiya edilib-edilmədiyini müəyyənləşdirməkdə kritik bir rol oynayır.

AI Təhlükəsizliyinin Artan Əhəmiyyəti

Açıq çəki LLM-lərin geniş yayılması və onların müxtəlif tətbiqlərdə, o cümlədən kritik infrastrukturda və biznes proseslərində istifadəsi ilə, bu modellərin təhlükəsizliyi getdikcə daha kritik əhəmiyyət kəsb edir. Potensial ‘backdoor’lar, sistemlərə icazəsiz giriş, məxfi məlumatların sızması və ya modelin gözlənilməz, zərərli davranışlar sərgiləməsi kimi ciddi risklər yarada bilər. Microsoft-un bu təşəbbüsü, süni intellektin təhlükəsiz və etibarlı şəkildə inkişaf etdirilməsi və tətbiq edilməsi üçün mühüm bir addımdır, eyni zamanda AI-yə olan ictimai etibarı gücləndirməyə kömək edir.