Əvvəlki məqaləmizdə generativ süni intellekt texnologiyalarının media üçün yaratdığı əsas risklərdən bəhs etdik. Bu risklər sırasında AI sistemlərinin yanlış, uydurma məlumatlar yaratmasına, “AI hallucination” (hallüsinasiya) fenomeninə toxunduq. Həmçinin, dezinformasiya və “deepfake” məzmunların artmasından bəhs etdik. Vurğuladıq ki, bu üç istiqamət generativ süni intellektin informasiya mühitinə təsirinin spesifik formaları olduğundan, onların hər birinə ayrıca və daha ətraflı nəzər salmağa ehtiyac vardır. Bu məqalədə məhz AI məhsulu olan hallüsinasiya, dezinformasiya və deepfake fenomenlərinin mahiyyəti və informasiya mühitinə yaratdığı təhlükələr araşdırılır.
AI sistemləri böyük həcmdə inandırıcı mətn, foto, audio və video məzmunu qısa müddətdə yaratmağa imkan verdiyi üçün, saxta-manipulyativ informasiyanın hazırlanması əvvəlki illərlə müqayisədə daha asan və sürətli olur. Eyni zamanda, AI tərəfindən yaradılan məzmunun yüksək “keyfiyyətli” və realistik görünüşü istifadəçinin həqiqi məlumatla saxta məzmunu ayırmasını çətinləşdirir ( CoE: Guidance Note on Generative AI implications for freedom of expression https://www.coe.int/en/web/freedom-expression/-/new-guidance-note-on-generative-ai-implications-for-freedom-of-expression ).
Bu problemlərin təsiri yalnız media sektoru ilə məhdudlaşmır. Hallüsinasiya istifadəçiyə yanlış məlumatın inandırıcı formada təqdim olunmasına, dezinformasiya ictimai rəyə məqsədli təsir göstərməsinə, deepfake isə real şəxslərin heç vaxt söyləmədiyi sözləri söyləmiş və ya etmədiyi hərəkətləri etmiş kimi göstərməyə imkan yaradır. Bu məqalədə həmin üç fenomen (hallüsinasiya, dezinformasiya və deepfake) ayrı-ayrılıqda nəzərdən keçirilir, onların hansı təhlükələr yaratdığı və xüsusilə media mühitinə necə təsir göstərdiyi araşdırılır.
AI hallüsinasiyası: inandırıcı formada təqdim olunan yanlış məlumat
Generativ süni intellekt sistemlərinin yaratdığı ən mühüm problemlərdən biri “AI hallucination” (AI hallüsinasiyası) fenomendir. Mahiyyəti budur ki, AI sistemi istifadəçinin sualına, verdiyi tapşırığa cavabında bəzən yanlış, hətta uydurma və ya mövcud olmayan məlumatlar təqdim edir. Uydurma mətnləri AI özü yaradır və həmin məlumatı çox vaxt yüksək inamla, inandırıcı formada təqdim edir. ABŞ Milli Standartlar və Texnologiya İnstitutu (NIST) bu hadisəni “confabulation” termini ilə izah edir . Bildirir ki, bu problem generativ modellərin işləmə prinsipindən irəli gəlir: sistem cavab hazırlayarkən faktları insan kimi “yoxlamır”, öyrəndiyi məlumatlardakı statistik nümunələr əsasında növbəti söz və ya məzmun elementini proqnozlaşdırır (NIST – Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence ).
Hallüsinasiyanın əsas təhlükəsi budur ki, o hər zaman aşkar şəkildə səhv kimi görünmür. AI sistemi mövcud olmayan hadisəni, şəxsi, sənədi və ya statistik göstəricini real fakt kimi təqdim edə, mövcud məlumatı yanlış kontekstdə istifadə edə və ya bir neçə fərqli mənbədən götürülmüş məlumatı birləşdirərək səhv nəticə çıxara bilər. Xüsusilə jurnalistika baxımından problem ondadır ki, belə məlumatlar sürətli xəbər hazırlanması prosesində əlavə yoxlama aparılmadan istifadə olunarsa, yanlış informasiya auditoriyaya çatdırıla bilər.
Reuters İnstitutunun araşdırmaları göstərir ki, istifadəçilərin yalnız 12 faizi AI tərəfindən hazırlanmış xəbərləri istinsasız olaraq qəbul etməyə rahat yanaşır. 88 faiz istifadəçi isə AI məlumatında yanlışlıq və uydurma faktlar ola biləcəyindən şübhələnir. Jurnalist üçün burada əsas tələb AI tərəfindən yaradılan məlumatı hazır fakt kimi qəbul etməmək və mütləq şəkildə müstəqil mənbələrlə yoxlamaqdır. Xüsusilə adlar, tarixlər, rəqəmlər, sitatlar, hadisələrin detalları və hüquqi məlumatlar ayrıca təsdiqlənməlidir.
AI hallüsinasiyası sadəcə texniki səhv deyil, jurnalistikanın əsas prinsiplərindən biri olan dəqiqlik və etibarlılıq üçün birbaşa riskdir. AI-nin inandırıcı, lakin yanlış məlumat yaratmaq qabiliyyəti jurnalistin faktları yoxlamaq və məlumatın ilkin mənbəyini müəyyənləşdirmək məsuliyyətini aradan qaldırmır, əksinə, bu məsuliyyəti daha da artırır.
AI dezinformasiya üçün yeni imkandır
Dezinformasiya yeni fenomen deyil. Yanlış və manipulyativ məlumatlar internetdən və sosial şəbəkələrdən əvvəl də müxtəlif siyasi, iqtisadi və sosial məqsədlərlə yayılıb. Lakin generativ süni intellekt texnologiyalarının inkişafı dezinformasiyanın hazırlanması və yayılması üçün daha geniş imkanlar yaradıb. AI sistemləri qısa müddətdə böyük həcmdə mətn, görüntü, audio və video hazırlamağa, həmin məzmunu müxtəlif dillərə çevirməyə və ayrı-ayrı auditoriyalara uyğunlaşdırmağa imkan verir. Nəticədə əvvəllər daha çox insan resursu və vaxt tələb edən manipulyativ informasiya kampaniyalarını daha sürətli və daha geniş miqyasda həyata keçirmək mümkün olur.
Avropa Şurasının 2025-ci ildə qəbul etdiyi “Guidance Note on Generative AI Implications for Freedom of Expression” sənədində generativ AI-nin yaratdığı risklər sırasında birbaşa dezinformasiya, ictimai rəyin manipulyasiyası, deepfake və səs klonlaşdırılması qeyd edilir. Sənəddə vurğulanır ki, generativ AI-nin sürəti və miqyası informasiya məkanında şəffaflıq və etibarlılıq problemlərinin dərinləşməsinə səbəb ola bilər ( https://rm.coe.int/cdmsi-2025-15rev-guidance-note-on-the-implications-of-generative-artif/488029df80 ).
Generativ AI-nin dezinformasiyaya təsirinin digər mühüm tərəfi fərdiləşdirmə imkanlarıdır. Eyni yanlış məlumat müxtəlif auditoriyalara onların maraqlarına, dilinə və dünyagörüşünə uyğun formada təqdim edilə bilər. Bu isə manipulyativ məzmunun daha inandırıcı görünməsinə və daha geniş auditoriyaya çatmasına şərait yaradır. UNESCO AI-nin bu xüsusiyyətini nəzərə alaraq, onu ən böyük dezinformasiya yayıcısı kimi təqdim edir.
UNESCO qeyd edir ki, AI dezinformasiyanın mahiyyətini dəyişdirməkdən daha çox, onun istehsal və yayılma imkanlarını gücləndirən texnologiya kimi çıxış edir. Təşkilatın 2025-ci il üzrə hesabatında generativ AI-nin inandırıcı saxta mətn, görüntü, audio və video yaratmaq xərclərini əhəmiyyətli dərəcədə aşağı saldığı və bunun dezinformasiya problemini daha da kəskinləşdirdiyi vurğulanır ( https://courier.unesco.org/en/articles/how-can-journalism-reinvent-itself ).
Deepfake: saxta reallığın yaradılması
Generativ süni intellektin inkişafı ilə daha geniş yayılan təhlükəli fenomenlərdən biri də “deepfake”lərdir. Deepfake texnologiyası süni intellektdən istifadə etməklə real şəxslərin üzünü, səsini, görüntüsünü və ya hərəkətlərini dəyişdirməyə, yaxud heç vaxt baş verməmiş hadisəni real görüntü və ya səs yazısı kimi təqdim etməyə imkan verir. UNESCO deepfake-ləri insanın səsini və ya görünüşünü inandırıcı şəkildə təqlid edə bilən rəqəmsal saxtalaşdırmalar kimi xarakterizə edir.
Deepfake-lərin əsas təhlükəsi onların reallıq təsəvvürünü və ictimai etimadı sarsıtmasıdır. Siyasi xadimin heç vaxt söyləmədiyi fikri söyləmiş kimi göstərən video, jurnalistin və ya ictimai şəxsin səsinin saxtalaşdırılması, yaxud hadisə yerindən olmayan görüntünün real hadisə kimi təqdim edilməsi auditoriyanı yanıltmaqla yanaşı, real informasiyanın da şübhə altına düşməsinə səbəb ola bilər. Avropa Şurası generativ AI ilə bağlı 2025-ci il təlimatında deepfake, səs klonlaşdırılması, dezinformasiya və ictimai rəyin manipulyasiyasını ifadə azadlığı və demokratik proseslər üçün məlum risklər sırasında göstərir.
Jurnalistlər üçün əsas müdafiə mexanizmlərindən biri mənbənin və materialın doğrulanmasıdır. Foto və videonun haradan əldə edildiyi, ilk dəfə nə vaxt yayımlandığı, materialın başqa mənbələrdə olub-olmaması, görüntünün kontekstinin dəyişdirilib-dəyişdirilməməsi yoxlanılmalıdır. AI tərəfindən yaradılmış və ya dəyişdirilmiş materialların müəyyənləşdirilməsi üçün texnoloji alətlər əhəmiyyətli olsa da, yalnız avtomatik aşkarlama sistemlərinə güvənmək kifayət etmir. Jurnalist yoxlaması, etibarlı ilkin mənbələr və materialın mənşəyinin müəyyənləşdirilməsi birlikdə tətbiq edilməlidir.
AI dövründə jurnalistin rolu aradan qalxmır; əksinə, fakt yoxlayan, mənbəni qiymətləndirən və etibarlı informasiya ilə saxta məzmun arasında fərq qoyan peşəkarın əhəmiyyəti daha da artır. Bu isə AI-dan istifadə zamanı həm texnoloji imkanlardan faydalanmağı, həm də jurnalistikanın əsas prinsiplərini (dəqiqlik, obyektivlik, şəffaflıq və məsuliyyət) qorumağı tələb edir.
Məqalə Mediada İnnovativ Təşəbbüslərə Dəstək İctimai Birliyi
tərəfindən, Müşfiq Ələsgərlinin müəllifliyi ilə hazırlanıb
Məqalələr maarifləndirici xarakterlidir. Süni intellekt sistemlərindən etik çərçivədə və effektiv şəkildə istifadə etmək vərdişlərin yaradılması prosesinə töhvə vermək məqsədilə hazırlanıb. Mövzu üzrə beynəlxalq nəzəri fikirlər təqdim olunur, təcrübədən nümunələr göstərilir.
Fəaliyyət Mediada İnnovativ Təşəbbüslərə Dəstək İctimai Birliyi (MİTDİB) tərəfindən icra olunan “Süni intellektin mediaya təsirləri: fürsətlər və risklər” adlı layihə çərçivəsində icra edilir. Layihənin maliyyə dəstəkçisi Azərbaycan Respublikasının Qeyri-Hökumət Təşkilatlarına Dövlət Dəstəyi Agentliyidir.
Proqram çərçivəsində ümumilikdə 12 məqalənin hazırlanıb dərc edilməsi nəzərdə tutulub.
Məqalələrin məzmununda əks olunan fikir və mülahizələr müəllifə aiddir və Azərbaycan Respublikasının Qeyri-Hökumət Təşkilatlarına Dövlət Dəstəyi Agentliyinin rəsmi mövqeyini əks etdirməyə bilər.