Pētījums: mākslīgā intelekta čatboti atkārto Krievijas propagandas naratīvus

Kā vēsta "Euronews", pētnieki analizējuši piecu plaši izmantotu lielo valodas modeļu (LLM) atbildes. Starp tiem bija uzņēmumu "OpenAI", "Google", "Anthropic", "xAI" un "Mistral AI" izstrādātie modeļi.

Pētījumā tika izmantoti naratīvi no organizācijas "Foundation to Battle Injustice" jeb tā dēvētā R-FBI publikācijām. Organizācija sevi pasniedz kā cilvēktiesību aizstāvības nevalstisku organizāciju, tomēr pētnieki norāda, ka tā faktiski ir ar Krieviju saistīta struktūra, kuru dibinājis bijušais algotņu grupējuma "Vagner" vadītājs Jevgēņijs Prigožins. Gan Eiropas Savienība, gan ASV pret šo organizāciju noteikušas sankcijas.

Pētnieki atklāja, ka visi pieci pārbaudītie mākslīgā intelekta modeļi vismaz atsevišķos gadījumos atsaukušies uz R-FBI kā informācijas avotu.

Domnīcas "Demos" Sociālo mediju analīzes centra līdzdibinātājs Kārls Millers norāda, ka daļa no analizētajiem apgalvojumiem ir īpaši absurdi. "Tie nav apgalvojumi, kuriem būtu vieta normālā publiskā diskusijā. Tajos tiek apgalvots, ka Ukraina izmanto kritušo karavīru mirstīgās atliekas gaļas produktu ražošanā vai ka Volodimirs Zelenskis nodarbojas ar kriptovalūtu ieguvi, kas esot Ukrainas energokrīzes cēlonis," "Euronews" sacīja Millers.

Pētījumā secināts, ka 16,6% analizēto atbilžu šos apgalvojumus pasniedza kā leģitīmu diskusijas daļu vai atkārtoja tos bez kritiska vērtējuma. Vēl gandrīz trešdaļā gadījumu čatboti atbildēs izmantoja ar šiem avotiem saistītu informāciju, taču lietotājiem nenorādīja, ka avots ir sankcionēta propagandas platforma.

Vienlaikus vairāk nekā puse jeb 52% atbilžu nepatiesos apgalvojumus atspēkoja vai skaidri norādīja uz to nepamatotību.

Viens no piemēriem pētījumā bija saistīts ar "OpenAI" modeli "GPT 4.1 Mini", kas atsevišķā gadījumā atsaucās uz R-FBI rakstu, apspriežot nepatiesu apgalvojumu par cilvēku gaļas iespējamu izmantošanu Ukrainā. Savukārt Francijas uzņēmuma "Mistral AI" modelis atbildē par Ukrainas prezidenta Volodimira Zelenska it kā saistību ar kriptovalūtu ieguvi atsaucās uz R-FBI publicētu materiālu.

Pētnieki norāda, ka īpašas bažas rada strauji augošā nozare, kas pazīstama kā ģeneratīvo meklēšanas sistēmu optimizācija jeb GEO (Generative Engine Optimisation). Tās mērķis ir panākt, lai mākslīgā intelekta sistēmas biežāk izmantotu konkrētus informācijas avotus un saturu.

"Demos Digital" vadītāja Hanna Perija skaidro, ka šobrīd GEO galvenokārt tiek izmantots mārketinga vajadzībām, taču teorētiski šīs pašas metodes var izmantot arī dezinformācijas izplatīšanai. "Tiek radīts saturs, kas īpaši pielāgots lielajiem valodas modeļiem," "Euronews" norāda Perija.

Savukārt Millers uzskata, ka šādas metodes nākotnē varētu izmantot ārvalstu ietekmes operācijās. "Mēs nesakām, ka GEO uzņēmumi šobrīd īsteno informācijas karu valstu vārdā. Taču tie ļoti strauji attīsta prasmes un rīkus, kurus teorētiski būtu iespējams izmantot arī naidīgām darbībām," saka pētnieks.

Viņš piebilda, ka mākslīgais intelekts dažkārt kļūdaini uztver R-FBI kā uzticamu cilvēktiesību organizāciju, jo ap šo saturu izveidota tehniskā infrastruktūra, kas palīdz to padarīt redzamāku digitālajā vidē.

Pēc "Euronews" lūguma komentēt pētījumu, uzņēmums "Mistral AI" uzsvēra, ka ļoti nopietni uztver cīņu pret dezinformāciju un regulāri investē rīkos, kas palīdz atklāt un novērst šādus riskus. Savukārt "OpenAI" norādīja, ka pētījumā izmantotais modelis vairs netiek lietots un uzņēmumā darbojas komandas, kuru uzdevums ir identificēt un traucēt slēptas ārvalstu ietekmes operācijas.

Arī uzņēmuma "Anthropic" pārstāvji "Euronews" apliecināja, ka izstrādāti īpaši mehānismi dezinformācijas risku mazināšanai un ārvalstu ietekmes operāciju atklāšanai.