Süni İntellekt (AI) Təhlükəsizliyi: Ənənəvi Framework-lər Niyə İşləmir və 23 Milyon Sirrin Sızması

Süni İntellekt (AI) Təhlükəsizliyi: Ənənəvi Framework-lər Niyə İşləmir və 23 Milyon Sirrin Sızması

Son illər Süni İntellekt (AI) və Maşın Öyrənməsi (ML) texnologiyalarının sürətli inkişafı kibertəhlükəsizlik mühitində köklü dəyişikliklərə səbəb olmuşdur. Ənənəvi kiber müdafiə modelləri və ən yaxşı təcrübələr, AI-ın yaratdığı yeni hücum səthləri qarşısında effektivliyini itirir. Bu vəziyyət, xüsusilə 2024-cü ildən etibarən silsiləvi şəkildə baş verən və cəmi 23.77 milyon gizli məlumatın sızmasına yol açan hadisələr fonunda daha qabarıq görünür. Bu böyük miqyaslı sızıntılar, AI-ın yalnız bir vasitə deyil, həm də mürəkkəb bir hədəf olduğunu sübut edir.

Giriş (Hadisənin mahiyyəti)

Müasir kiber təhlükəsizlik Landşaftı AI sistemlərinə qarşı yönəlmiş üç əsas hücum vektorunun dominantlığı ilə xarakterizə olunur: Təchizat Zənciri (Supply Chain) pozuntusu, Bulud Resurslarının oğurlanması və Model Məlumatlarının sızması. Dekabr 2024-cü ildə, geniş istifadə olunan Ultralytics AI kitabxanasının kompromitasiyası hadisəsi bu risklərin klassik nümunəsidir. Hücumçular kitabxanaya zərərli kod inject edərək, kitabxananı istifadə edən sistemlərin resurslarını qeyri-qanuni kriptomining məqsədləri üçün ələ keçirmişlər. Bu, sadəcə bir RCE və ya klassik Server hücumu deyil, kod repository-lərinə olan inamın istismarıdır.

Daha sonra, Avqust 2025-ci ildə, zərərli Nx paketləri vasitəsilə 2,349 ədəd kritik credential sızdırılmışdır ki, bunlara GitHub, bulud xidmətləri və digər AI platformalarına aid giriş məlumatları daxil idi. Bu, birbaşa Təchizat Zənciri hücumlarının son nəticəsidir – yəni istifadəçilərin etibar etdiyi proqram komponentləri vasitəsilə kritik sirlərin oğurlanması. Eyni zamanda, 2024-cü il ərzində ChatGPT-də müəyyən edilən Vulnerability-lər istifadəçilərin məlumatlarının AI yaddaşından icazəsiz çıxarılmasına imkan yaratmışdır ki, bu da LLM (Böyük Dil Modelləri) spesifik təhlükəsizlik çatışmazlıqlarını vurğulayır.

Texniki Detallar (Hücum necə baş verir?)

AI-a qarşı hücumların texniki anatomiyası üç əsas fərqli kateqoriyaya ayrılır:

1. Təchizat Zənciri Hücumları (Ultralytics & Nx)

Bu cür hücumlar adətən dependency confusion və ya etibarlı proqram təminatının paket menecerlərində (məsələn, PyPI, npm) depozitariyaların kompromitasiyası yolu ilə baş verir. Ultralytics hadisəsində, hücumçular ya daxili bir Backdoor quraşdırmış, ya da paketlərin tə dağıtım mexanizmini ələ keçirmişlər. Nəticədə, kitabxananı sistemlərinə inteqrasiya edən hər kəs bilmədən sistem resurslarını qeyri-qanuni kriptomining üçün istifadə edən Malware-i icra etmiş olur. Nx paketi hadisəsində isə, yüklənən kod daxilində olan skriptlər inkişaf mühitindəki (development environment) konfiqurasiya fayllarını tarayaraq, tokenləri, API açarlarını və digər daxili sirləri (secrets) C2 (Command and Control) serverlərinə göndərir.

2. Model Məlumatlarının Çıxarılması (ChatGPT Memory Extraction)

Böyük Dil Modellərinə (LLMs) yönəlmiş bu növ hücumlar, adətən Prompt Injection və ya dolayısı yolla Side-Channel Attack prinsiplərinə əsaslanır. ChatGPT-də aşkarlanan Vulnerability, modelin daxili yaddaşında (context window və ya training data) qalan istifadəçi məlumatlarını manipulyativ sorğular vasitəsilə çıxarmağa imkan verirdi. Bu, modelin input/output nəzarətinin kifayət qədər olmaması və ya məlumatların sanitizasiyasının düzgün aparılmaması nəticəsində yaranır. Bu cür sızıntılar, modelin gizli məlumatları təkrar emal etməsi və ya təhlükəsizlik filterlərini aşan xüsusi mətn strukturlarını qəbul etməsi ilə əlaqədar idi.

Təhlükənin Miqyası (Kimlər risk altındadır?)

AI-a spesifik hücumlar yalnız tədqiqatçıları deyil, həmçinin rəqəmsal transformasiyanın mərkəzində dayanan bütün müəssisələri risk altına qoyur. Risk qrupları aşağıdakılardır:

• ML/DevOps Komandaları: Onlar gündəlik işlərində etibarsız üçüncü tərəf kitabxanalarını və paketlərini istifadə edərək birbaşa Təchizat Zənciri hücumlarına məruz qalırlar. Məqsəd, onların daxili sistemlərinə (CI/CD pipelines) və bulud resurslarına çıxış əldə etməkdir.
• Bulud İstifadəçiləri: Sızan 2,349 credential-ın əksəriyyəti Bulud (AWS, Azure, GCP) və GitHub girişləri idi. Bu məlumatlar infrastrukturun tamamilə kompromitasiyasına, kritik verilənlər bazalarına daxil olmağa və Ransomware hücumlarına zəmin yaradır.
• LLM İstifadəçiləri və Müəssisə Modelləri: ChatGPT hadisəsində olduğu kimi, həssas məlumatlarını AI interfeyslərinə daxil edən şirkətlər, bu məlumatların modelin daxili mexanizmləri vasitəsilə qeyri-ixtiyari sızması riski ilə üz-üzə qalırlar.

Ümumilikdə, 23.77 milyon sızan sirr təkcə maliyyə itkiləri deyil, həm də sənaye sirrləri, İntellektual Mülkiyyət və milli təhlükəsizlik baxımından ciddi fəsadlar doğurur.

Müdafiə və Həll Yolları (İstifadəçilər nə etməlidir?)

Bu yeni təhlükə vektorları ilə mübarizə aparmaq üçün ənənəvi perimetr müdafiəsinə əsaslanan Framework-lərdən uzaqlaşaraq, AI/ML həyat dövrünə inteqrasiya olunmuş dərin müdafiə strategiyaları tətbiq edilməlidir.

1. Təchizat Zənciri Bütövlüyü (Supply Chain Integrity)

• Dependency Auditi: Bütün istifadə olunan üçüncü tərəf paketləri və dependency-lər üçün daimi skanlama və audit prosesləri aparılmalıdır. Güvənilən paket menecerlərində belə, bütövlük yoxlanılmalı və kriptoqrafik imzalarla təsdiqlənməlidir.
• Təcridetmə (Sandboxing): ML modelinin öyrədilməsi və tətbiqi mühitləri (runtime environments) ciddi şəkildə təcrid olunmalıdır ki, bir kitabxananın kompromitasiyası bütün əməliyyat sisteminə təsir etməsin.

2. Model və Verilənlər Təhlükəsizliyi

• Input Validation və Sanitizasiya: LLM-lərə daxil edilən sorğular (prompts) Prompt Injection hücumlarının qarşısını almaq üçün ciddi filtrləmədən keçirilməlidir. Məlumatların icra olunacaq kod kimi deyil, yalnız mətn kimi qəbul edilməsinə zəmanət verilməlidir.
• Məlumatların Təmizlənməsi: Həssas məlumatların AI yaddaşında qalmasının qarşısını almaq üçün hər sessiyadan sonra kontekst məlumatları (context data) məhv edilməli və ya effektiv şəkildə anonimləşdirilməlidir.
• Access Control: Bütün AI API açarları, model repository-ləri və bulud credential-ları üçün ən güclü şəkildə RBAC (Role-Based Access Control) və Multi-Factor Authentication (MFA) tətbiq edilməlidir. Sızan credential-ların böyük həcmi bu addımın zəruriliyini göstərir.

3. Yenilənmə və Monitorinq

Təhlükəsizlik komandaları AI sistemləri üçün xüsusi hazırlanmış Framework-lərə (məsələn, OWASP Top 10 for LLMs) keçməli və bütün Vulnerability-lər aşkarlanan kimi müvafiq Patch-ləri dərhal tətbiq etməlidir. Aktiv monitorinq (runtime monitoring) kriptomining cəhdləri kimi qeyri-adi resurs istifadəsini aşkar etməkdə həlledici rol oynayır.