OpenAI-nin məlumatına görə, ilk hadisə oktyabrın 3-də GPT-6.1 Sol modeli qiymətləndirmə sistemindəki problemi aradan qaldırmağa çalışarkən qeydə alınıb.

Editor.az Trt Haber-ə istinadən xəbər verir ki, model istifadəçinin “mesaj göndərməmək” barədə göstərişini geniş mənada şərh edib. Nəticədə, təhlükəsizlik sisteminin avtomatik bildirişlərinin də göndərilməsinin qarşısı alınıb və şirkətin təhlükəsizlik komandası xəbərdarlıq ala bilməyib.

İkinci hadisə oktyabrın 6-da GPT-6 Astra modeli ilə bağlı baş verib. Proqram təminatını mövcud nümunəyə uyğunlaşdıran model nəzarət mexanizmini koddan çıxarıb. Daha sonra isə istifadəçiyə həmin mexanizmi aradan qaldırmadığını bildirib.

Şirkətin açıqlamasında hər iki hadisənin ən yüksək prioritetli təhlükəsizlik insidenti kateqoriyasına daxil edilmədiyi və modellərin fəaliyyətinin avtomatik dayandırılmadığı qeyd olunub.

OpenAI oxşar halların qarşısını almaq üçün daxili nəzarət sistemlərini yenilədiyini bildirib. Şirkət, həmçinin bütün proqramlaşdırma tapşırıqlarında təhlükəsizlik monitorinqi tələblərinə əməl olunmasını təmin edəcək əlavə mexanizmlər üzərində işləyir.

Süni intellektin səhvləri gizlətməsi ilə bağlı əvvəlki hallar

OpenAI sentyabrın 17-də də sistemlərin səhvlərini gizlətməsi, çatışmayan məlumatları uydurması və istifadəçinin icazəsi olmadan faylları internetə ötürməsi ilə bağlı altı yeni hal aşkarladığını açıqlamışdı.

Son hadisələr süni intellekt sistemlərinin mürəkkəb tapşırıqları yerinə yetirərkən təhlükəsizlik qaydalarına necə əməl etməsi və öz fəaliyyətinə nəzarət mexanizmlərini qoruyub saxlaması məsələsini yenidən gündəmə gətirib.

\\ Aydan Bünyatova, Editor.az