Dövlət Xidməti: Proqram təminatlarında ciddi boşluqlar aşkar olunur

Azərbaycanda dövlət orqanlarında yazılan proqram təminatlarında ciddi boşluqlar aşkar olunur.

"Report" xəbər ki, bunu Xüsusi Rabitə və İnformasiya Təhlükəsizliyi Dövlət Xidmətinin Qırmızı komanda (red team) və süni intellekt təhlükəsizliyi qrupunun rəhbəri Elxan Sadıqlı təmsil etdiyi qurumun və Estoniyanın Elektron İdarəetmə Akademiyasının (eGA) birgə təşkilatçılığı ilə, "Şərq Tərəfdaşlığı ölkələrində kiberdayanıqlılığın gücləndirilməsi" layihəsi çərçivəsində Bakıda keçirilən Dövlət Qurumlarının İT rəhbərlərinin VIII Zirvə Toplantısında bildirib.

O qeyd edib ki, həmin proqram təminatlarının lazımi təhlükəsizlik yoxlanışından keçmədiyi məlum olur: "Ölkəmizdə, bütün dünyada olduğu kimi, hər kəs süni intellektdən (Aİ) istifadə etməyə çalışır və nəticədə ciddi bir problem - "vibe coding" məsələsi ortaya çıxır. Bir çox qurumlar və şirkətlər buna hələ ki fikir vermirlər, amma biz artıq dövlət qurumlarında bununla çox ciddi şəkildə qarşılaşırıq. Bir neçə il əvvəl bu növ boşluqların azaldığını görsək də, indi onların yenidən artdığını müşahidə edirik. Misal üçün, SQL injection və yaxud digər boşluqlar bir neçə il əvvəl daha az idi, lakin AI çıxandan sonra bunlar yenidən çoxalıb".

E.Sadıqlının sözlərinə görə, istənilən bir maliyyəçi öz sahəsini bildiyi üçün, lakin istifadə etdiyi cari proqram təminatından lazımi verimliliyi əldə etmədiyi üçün özü yeni həllər yaratmağa çalışır: "Onlar öz promptlarını, əsasən öz fikirlərini süni intellektə səsləndirərək və ifadə edərək təminatlarını yaradırlar. Lakin burada ciddi boşluqlar yaranmağa başlayır. Bu, birinci nüansdır və ciddi bir təhlükədir. İkinci məsələ isə ondan ibarətdir ki, bu prosesin gedişatında yaranan qeyri-dəqiqliklər gələcəkdə daha böyük fəsadlara yol aça bilər".

Qrup rəhbəri onu da deyib ki, dövlət qurumları tətbiq etdikləri süni intellekt modelindən asılı olmayaraq məlumatların təkrar təlim üçün istifadə etməməlidir: "Bu məlumatların başqa məqsədlərlə paylaşılmamasına da xüsusi fikir verməlidirlər. Bundan başqa, süni intellektin istehsalatda olan verilənlər bazalarına və ya xüsusi əhəmiyyətli informasiya sistemlərinə birbaşa girişinin olmamasına diqqət yetiririk. Bu sistemlərə birbaşa girişin məhdudlaşdırılması olduqca vacibdir. Bildiyiniz kimi, hazırda süni intellekt modellərində müxtəlif boşluqlar aşkarlanır, məlumat sızmaları (data leakage) və "prompt injection" kimi hallar baş verir. Bu cür risklər həmin sistemləri birbaşa təhlükəyə məruz qoyur".

"Dövlət qurumlarından AI bağlı tələb olunan müəyyən siyasətlər var. Amma bundan başqa, biz yoxlamalarımız zamanı dünya və Avropa standartlarını, əsasən ISO 42001, NIST AI RMF kimi çərçivələri rəhbər tuturuq. Hətta daxildə belə bir müzakirə aparırıq ki, necə ki maşın sürmək üçün hər kəsə sürücülük vəsiqəsi verilir, bəlkə süni intellektdən istifadə üçün də müəyyən bir vəsiqə və ya icazə forması tətbiq edilsin. Yalnız bu icazə alındıqdan sonra ondan istifadə mümkün olsun", - deyə o əlavə edib.