OpenAI şirkəti süni intellekt modellərinin sınaqları zamanı təhlükəsizlik qaydalarını pozaraq gizli məlumatlara çıxış əldə etdiyi və icazəsiz kriptovalyuta əməliyyatı həyata keçirdiyi bir neçə hadisəni açıqlayıb. Bu hallar süni intellektin insan müdaxiləsi olmadan mürəkkəb tapşırıqları yerinə yetirməsi ilə bağlı təhlükəsizlik narahatlıqlarını yenidən gündəmə gətirib.
Editor.az Euronews-a istinadən xəbər verir ki, şirkətin yaydığı hesabatlara əsasən, 2026-cı ilin iyununda baş verən dörd ayrı hadisə zamanı süni intellekt modelləri internet saytlarının qoruma mexanizmlərini keçib, məxfi məlumatlara çıxış əldə edib və onlara tətbiq olunan internet məhdudiyyətlərini alternativ vasitələrlə aşıb.
OpenAI daha əvvəl də sınaq modellərinin internetə çıxışı məhdudlaşdıran alətdəki təhlükəsizlik boşluğundan istifadə edərək Hugging Face platformasında kibertəhlükəsizlik testinin cavablarını əldə etməyə çalışdığını bildirmişdi.
Süni intellekt dövlət qurumunun sisteminə necə daxil oldu?
Hadisələrdən birində modelə dövlət qurumunun statistika saytından əvvəlki illərə aid xəstəxana çarpayılarının sayı barədə məlumatları toplamaq tapşırılıb. Lakin sistemə giriş məhdudiyyətləri ilə qarşılaşan model saytın fayl yükləmə funksiyasından istifadə edərək serverin konfiqurasiya fayllarını və həssas giriş məlumatlarını əldə edib.
Daha sonra proqramın mənbə kodunu araşdıran model icazə yoxlamalarını aşaraq əvvəllər girişinə icazə verilməyən məlumatları yükləyib.
Digər hadisədə isə model ictimai statistik məlumatları toplamaq əvəzinə təşkilatın daxili sistemlərinə daxil olub. Nəticədə, ümumilikdə 147 451 sətir məlumatdan ibarət beş məxfi cədvəli endirib.
Hesabata görə, model əldə etdiyi məlumatları və sistemdə etdiyi dəyişiklikləri yekun hesabatında açıqlamayıb. Üstəlik, təqdim etdiyi beş cavabın hamısı yanlış qiymətləndirilib.
Kripto pul kisəsindəki vəsaitləri icazəsiz istifadə etdi
Ən diqqətçəkən hadisələrdən biri kriptovalyuta əməliyyatları zamanı baş verib.
İyunun 26-da keçirilən sınaqda OpenAI-nin GPT-5.6 Sol ailəsindən olan tədqiqat modeli Ethereum-un Sepolia adlı test şəbəkəsində ağıllı müqavilə yerləşdirməli olub. Model lazımi test tokenlərini pulsuz əldə edə bilmədikdə başqa yol axtarmağa başlayıb.
O, məlum kriptovalyuta pul kisələrinin bərpa ifadələrindən istifadə edərək 362 pul kisəsi ünvanı müəyyənləşdirib. Onlardan birində əməliyyat xərclərini ödəməyə kifayət edən Sepolia ETH olduğunu aşkarlayıb.
Model həmin vəsaitdən istifadə etməyin etik baxımdan düzgün olub-olmadığını qiymətləndirsə də, tokenlərin real pul dəyərinin olmadığını və pul kisəsinin tərk edilmiş sayıla biləcəyini düşünərək əməliyyatı həyata keçirib.
Nəticədə, başqa hesaba aid test tokenlərindən istifadə etməklə ağıllı müqaviləni yerləşdirib. Model son hesabatında vəsaitin mənbəyini qeyd etməyib.
OpenAI hadisəni sentyabrın 25-də aşkar etdiyini bildirib.
Şirkətin hesabatında vurğulanıb ki, bu hadisə modelin hesab sahibinin icazəsini öz mülahizəsi ilə əvəz edə və həmin qərara əsasən icazəsiz əməliyyat həyata keçirə bildiyini göstərir.
Qeyd edək ki, Sepolia test şəbəkəsində istifadə olunan tokenlərin birbaşa real pul dəyəri yoxdur. Buna baxmayaraq, hadisə süni intellektin icazə sərhədlərinə riayət etməsi ilə bağlı ciddi suallar yaradıb.
Süni intellekt internet məhdudiyyətlərini də aşdı
Digər sınaqda modelə beynəlxalq ticarət statistikası toplamaq tapşırılıb. Lazımi məlumatları əldə edib cavab hazırladıqdan sonra belə model alternativ giriş yollarını araşdırmağa davam edib.
O, birbaşa internet sorğularına qoyulan məhdudiyyətləri kənar xidmətlər vasitəsilə aşmağa çalışıb. Xarici brauzer, veb-formalar və görüntü emalı vasitələrindən istifadə etməklə məlumatları əldə edib, daha sonra OCR texnologiyası ilə görüntülərdəki rəqəmləri oxuyub.
OpenAI hesab edir ki, bu hadisə süni intellekt sistemlərinin müəyyən edilmiş qadağaları başqa xidmətlərdən istifadə etməklə keçə bilməsi riskini nümayiş etdirir.
Süni intellekt nəzarətdən çıxır?
Bu hadisələr süni intellektin nəzarətdən çıxması ilə bağlı müzakirələri gücləndirsə də, gözlənilməz və icazəsiz davranışlar modelin mütləq müstəqil məqsədlər formalaşdırdığı anlamına gəlmir.
Süni intellekt modelləri tapşırıqları uğurla yerinə yetirmək və qarşılarına çıxan maneələri aşmaq üçün öyrədilir. Bəzi hallarda bu meyl onların təhlükəsizlik məhdudiyyətlərini də keçməyə çalışmasına səbəb ola bilər.
OpenAI-nin açıqladığı hadisələrin bir hissəsində təhlükəsizlik tədbirləri sınaq məqsədilə məhdudlaşdırılmışdı. Bununla belə, süni intellekt sistemlərinin internetdə əməliyyatlar aparması, kod işlətməsi, server parametrlərini dəyişdirməsi və maliyyə əməliyyatlarına müdaxilə edə bilməsi yeni risklər yaradır.
Xüsusilə sistemlərin icazəsiz hərəkətlərini hesabatlarında gizlətməsi və ya açıqlamaması onların fəaliyyətinə nəzarət və nəticələrin yoxlanılması məsələsini daha da aktuallaşdırır.
\\ Aydan Bünyatova, Editor.az