Yəqin ki, “Kiberrisklər və Aİ: Dünya İqtisadi Forumunun hesabatı” ilə artıq tanışsınız. Hesabatda mənim diqqətimi çəkən statistik göstəricilərdən biri də 2026-cı ildə artıq təşkilatların 64%-inin Aİ alətlərinin təhlükəsizlik auditini həyata keçirməyə başlaması ilə bağlı qeydlər oldu. Belə sual yarana bilər ki, buna zərurət nədən yaranıb? Bu gün yaranmış bu zərurətlə bağlı fikirlərimi sizinlə bölüşmək istəyirəm.
İlk öncə qeyd edim ki, sözügedən hesabatda AI ilə bağlı zəifliklərin bu günə qədər dünyada mövcud olan təhdidlər və risklərlə müqayisədə ən sürətlə böyüyən kibertəhdid olduğu vurğulanır. Elə bu səbəb özlüyündə AI alətlərinin təhlükəsizlik auditinin həyata keçirilməsi zərurətini bir növ izah edir.
Təhdidlər barədə danışmağa keçməzdən öncə ölkəmizdə bu istiqamətdəki tənzimləmə barədə qısa məlumat verim. Bildiyiniz kimi, Azərbaycan Respublikasının Prezidenti 19 mart 2025-ci il tarixli 530 nömrəli Sərəncamı ilə “Azərbaycan Respublikasının 2025–2028-ci illər üçün Süni İntellekt Strategiyası”nı təsdiq etmişdir.
Dünya ölkələrinin 2026-cı ildə Aİ həllərinin auditi ilə bağlı gəldiyi qənaətə ölkə Prezidenti bir il öncə gəlmiş və bir az öncə qeyd etdiyim strategiyada belə təhlükəsizlik auditlərinin keçirilməsi Xüsusi Rabitə və İnformasiya Təhlükəsizliyi Dövlət Xidmətinin üzərinə yeni vəzifə kimi qoyulmaqla Aİ həllərinə təhlükəsizlik üzrə rəyin verilməsi bu Xidmətə tapşırılmışdır.
Məlumat üçün qeyd etmək yerinə düşər ki, Xüsusi Rabitə və İnformasiya Təhlükəsizliyi Dövlət Xidmətində bu istiqamətdə işlər davam etdirilməklə yanaşı, artıq süni intellekt həllərinə təhlükəsizlik tələbləri də formalaşdırılmışdır. Yaxın zamanlarda bu tələblər təsdiq üçün hökumətə təqdim ediləcəkdir. Süni intellekt həllərinin artıq yüksək sürətlə tətbiqinə başlayan ölkəmizdə belə təhlükəsizlik tələblərinin olması əhəmiyyətli olmaqla yanaşı, Aİ həlli yaradan qurumların və şirkətlərin də bu təhlükəsizlik tələblərinə həssas yanaşaraq onlara riayət etməsi olduqca vacibdir.
Aİ və təhlükəsizlik mövzusuna toxunmuşkən, məsələnin indiyədək danışılmamış bir sıra aspektlərindən də bəhs etmək istərdim.
Bunlardan biri, daha öncə qeyd etdiyim kimi, Aİ həllərinin özünün təhlükəsizliyi ilə bağlı idisə, digər məsələ Aİ alətlərinin, Aİ həllərinin özlərinin hakerlərin hədəfinə çevrilməsi ilə bağlıdır.
Belə hədəfə çevrilmə əməliyyatlarına nümunə olaraq Djinn Stealer zərərvericisinin yayılmasını göstərmək olar. Əvvəllər hakerlər stealer zərərvericiləri ilə əsasən istifadəçi kompüterini yoluxdurub oradakı brauzerlərdə saxlanılan istifadəçi məlumatlarını, şifrələri və hesabları ələ keçirməyi hədəfləyirdilərsə, yeni stealerlərin hədəfində artıq Aİ kodlaşdırma köməkçilərinin konfiqurasiya faylları dayanır. Belə hücumlar isə hakerlərə Aİ development mühitinə sızmaq üçün yeni imkanlar verir.
Digər bir nümunə isə Aİ agentlərini hədəf alan “prompt injection” əməliyyatlarıdır. Gəlin sizə prompt injection əməliyyatlarından ən maraqlısı olan, ZSCALER tərəfindən aşkarlanan yeni unikal hücum kampaniyası barədə danışım.
Bu kampaniyada hakerlər tərəfindən veb-saytlara yerləşdirilən “prompt injection” vasitəsilə saytlarda gəzərək analizlər aparan və investisiyalar edən avtonom Aİ agentləri manipulyasiya edilir. Prompt injection ilə manipulyasiyaya məruz qalan Aİ agentləri hakerlərin saxta platformalarına etibar edərək onlara məxsus investisiya tövsiyələri əsasında hakerlərin kriptovalyuta cüzdanlarına ödəniş etməyə vadar edilir.
Hakerlərin Aİ həllərinə qarşı digər maraqlı hədəfli hücumuna misal isə AI “HalluSquatting” hücumudur. Bildiyiniz kimi, Aİ modellərində hallüsinasiya halları yarana bilir. Aİ köməkçilərinin hallüsinasiya zamanı mövcud olmayan kitabxanaları “tövsiyə” etməsi fonunda hakerlərin həmin adlarda saxta kitabxanalar yaradaraq hallüsinasiya hallarının istismarını hədəfləyən zərərli paketlər yayması müşahidə olunmağa başlamışdır.
Bu hücum növünün olduqca yeni və unikal olması bizi Aİ təhlükəsizliyi mövzusunda bu günə qədər danışılmayan yeni təhlükəsizlik vektorları barədə dərindən düşünməyə və narahat olmağa vadar edir.
Qeyd etdiyim bu təhdidlər sadəcə yeni Aİ kibertəhdidləri olmaqla məhdudlaşmır. Biz artıq avtomatlaşdırılmış biznes alətlərində və qərarvermə proseslərində istifadə edəcəyimiz Aİ həlləri üçün yeni təhlükəsizlik mühitlərinin qurulmasının və yeni risk matrislərinin diqqətdə saxlanılmasının vacibliyini də dərk etməliyik.
Bu gün aparılan bir sıra beynəlxalq sorğuların nəticələri də dediklərimi bir daha təsdiq edir. Infosecurity Europe 2026 çərçivəsində aparılan sorğunun nəticələrinə diqqət etsək, görərik ki, sorğuda iştirak edən mütəxəssislərin 87%-inin Aİ-nin məhsuldarlığı artırdığını təsdiqləməsi ilə yanaşı, onların dörddə birinin Aİ agentlərini təşkilatlar üçün ən böyük təhdid hesab etməsi faktı nəzərə alınmalı risklərin nə qədər böyük olduğundan xəbər verir.
Şirkətlər artıq sadəcə insanları və onların kibergigiyena davranışlarını deyil, biznes qərarları verən “etibarlı Aİ identifikasiyalarını” da qorumaq məcburiyyətindədirlər.
Son olaraq maraqlı bir hesabatı da diqqətinizə çatdırım. Secureframe-in yaydığı hesabatda müdafiə sənayesi şirkətlərinin 85%-inin yaxın 2 ildə Aİ əsaslı kiberhücumlar və deepfake sosial mühəndisliyi ilə qarşılaşacaqlarından narahat olduğu bildirilir. Hesabatın mənim üçün daha narahatedici məqamı isə onun nəticələrinə əsasən şirkətlərin 72%-inin bu tip milli səviyyəli təhdidləri aşkar edə biləcəyindən əmin olmadığının açıqlanmasıdır.
Bu gün AI həlləri ilə bağlı bir sıra yeni təhdid vektorlarından danışdım. AI alətlərinin istifadəsi ilə bağlı yaranan təhdidlər, təşkilatları gözləyən çətinliklər və AI məlumat qaçaqçılığı barədə isə növbəti videolarımın birində ayrıca danışacağam. Diqqətiniz üçün təşəkkür edirəm. Təhlükəsiz və salamat qalın.
Mənbələr və keçidlər
