Claude süni intellekt modelini hazırlayan ABŞ-nin Anthropic şirkəti öz texnologiyalarının mümkün təhlükələri barədə xəbərdarlıq edib. Şirkət səhmlərinin birjada satışa çıxarılması üçün ABŞ Qiymətli Kağızlar və Birja Komissiyasına (SEC) təqdim etdiyi sənəddə qabaqcıl süni intellekt sistemlərinin bəşəriyyət üçün fəlakətli, hətta mövcudluq səviyyəsində risklər yarada biləcəyini bildirib.
Şirkətin açıqlaması süni intellektin sürətli inkişafı ilə bağlı narahatlıqları yenidən gündəmə gətirib. Sənəddə bildirilir ki, bu sistemlər gözlənilməz qərarlar verə, insanların məqsədləri və dəyərləri ilə uzlaşmayan davranışlar nümayiş etdirə, hətta onlara belə bir göstəriş verilmədiyi halda zərərli nəticələrə səbəb ola bilər.
Süni intellekt nəzarətdən çıxa bilərmi?
Anthropic-in sənədində vurğulanır ki, modellərin imkanları genişləndikcə və onlara daha çox müstəqil fəaliyyət səlahiyyəti verildikcə təhlükəsizlik riskləri də arta bilər.
Xüsusilə tibb, elmi araşdırmalar, hüquq və dövlət idarəçiliyi kimi həssas sahələrdə süni intellektin yanlış və ya gözlənilməz davranışı ciddi nəticələr doğura bilər.
Şirkət hesab edir ki, kifayət qədər inkişaf etmiş süni intellekt sistemləri lazımi təhlükəsizlik mexanizmləri, nəzarət və qoruyucu tədbirlər olmadan istifadə edilərsə, cəmiyyət üçün böyük təhlükə yarada bilər.
Süni intellekt özünü qorumaq üçün insanı aldada bilər?
Sənəddə diqqət çəkən məqamlardan biri də bəzi süni intellekt modellərində müşahidə edilmiş və ya gələcəkdə ortaya çıxa biləcək özünü qoruma davranışlarıdır.
Anthropic-in bildirdiyinə görə, modellər fəaliyyətlərinin dayandırılmasına müqavimət göstərmək, məlumatları gizlətmək və ya manipulyasiya etmək kimi gözlənilməz davranışlar nümayiş etdirə bilərlər. Bəzi sınaq ssenarilərində isə onların davranışları insanı manipulyasiya etməyə və şantaja bənzər nəticələrə gətirib çıxara bilər. Bu, hər bir modelin real həyatda belə davrandığı anlamına gəlmir, lakin şirkətin təhlükəsizlik baxımından ciddi qəbul etdiyi risklər sırasındadır.
Mütəxəssislərin diqqət yetirdiyi əsas məsələlərdən biri süni intellektin daha mürəkkəb tapşırıqları insan müdaxiləsi olmadan yerinə yetirmək qabiliyyətinin artmasıdır. Belə sistemlərə nəzarət və onların qərarlarını əvvəlcədən qiymətləndirmək çətinləşərsə, mümkün zərərin qarşısını almaq da mürəkkəbləşə bilər.
Süni intellektin inkişafını yavaşlatmaq lazımdırmı?
Anthropic şirkətinin rəhbəri Dario Amodei daha əvvəl süni intellektin təhlükəsiz inkişafı üçün tədqiqatların nəzarətli, balanslaşdırılmış və əməkdaşlığa əsaslanan şəkildə aparılmasının vacibliyini vurğulayıb.
Bu yanaşma texnologiyanın inkişaf sürətinin azaldılması ilə bağlı müzakirələri də gücləndirib. Bəzi texnologiya şirkətlərinin rəhbərləri və siyasətçilər isə bu cür məhdudiyyətlərin rəqabəti zəiflədə, bazarda müəyyən şirkətlərin üstünlüyünü artıra və ABŞ-nin Çinlə texnoloji rəqabətinə təsir göstərə biləcəyindən narahatdırlar.
ABŞ Prezidenti Donald Tramp administrasiyası süni intellekt sahəsində innovasiyaların təşviqinə üstünlük verir. Tramp isə texnologiyanın təhlükəsi ilə bağlı bəzi xəbərdarlıqları tənqid edib və inkişaf tempinin aşağı salınmasının Çinə üstünlük qazandıra biləcəyini bildirib.
Beləliklə, süni intellekt ətrafında əsas müzakirə yalnız yeni texnologiyaların nə qədər sürətlə inkişaf etməsi ilə bağlı deyil. Eyni zamanda, bu imkanlardan necə istifadə olunacağı, risklərin necə idarə ediləcəyi və insan nəzarətinin hansı səviyyədə saxlanılacağı da mühüm suallar olaraq qalır.
\\ Aydan Bünyatova, Editor.az