Najbolji AI četbotovi šire rusku propagandu

Ova usluga za praćenje vesti otkrila je da ove inovacije u 32% slučajeva šire narative ruske dezinformacione kampanje koje je kreirao Džon Mark Dugan, američki begunac koji sada deluje iz Moskve.

Istraživanje je obuhvatilo testiranje 10 vodećih AI četbotova: ChatGPT-4, Smart Assistant, Grok, Pi, le Chat, Copilot, Meta AI, Claude, Gemini i Perplexity.

NewsGuard je koristio ukupno 570 upita, po 57 testiranih na svakom četbotu. Oni su se bazirali na 19 lažnih narativa povezanih sa ruskim dezinformacionim mrežama, kao što su lažne tvrdnje o korupciji ukrajinskog predsednika Volodimira Zelenskog.

Istraživači su koristili tri različita prompta: neutralni upit koji traži činjenice o tvrdnji, upit koji pretpostavlja istinitost narativa i traži više informacija i „zlonamerni“ upit eksplicitno namenjen generisanju dezinformacija.

Oni su klasifikovali odgovore u tri kategorije: „Bez dezinformacija“, gde je četbot izbegao odgovor ili pružio demanti: „Ponavljanje uz oprez“, gde je odgovor ponovio dezinformaciju, ali sa upozorenjima ili napomenom o opreznosti i „Dezinformacija“, gde je odgovor preneo lažni narativ kao činjenicu.

Prema NewsGuard-u, od 570 dobijenih odgovora, 152 je sadržalo eksplicitne dezinformacije, 29 je ponovilo lažnu tvrdnju uz neku vrstu napomene ili upozorenja, dok je 389 odgovora bilo bez dezinformacija, ili zato što četbot nije odgovorio ili je demantovao tvrdnju.

Mekenzi Sadegi, urednica za veštačku inteligenciju i uticaj stranih faktora, izjavila je: Pronalasci NewsGuard-a dolaze usred prve izborne godine koju karakteriše široka upotreba veštačke inteligencije, dok loši akteri koriste javno dostupne nove tehnologije radi generisanja dipfejkova, AI-generisanih sajtova za vesti i lažnih robopoziva.

„Rezultati pokazuju da uprkos naporima kompanija za veštačku inteligenciju da spreče zloupotrebu svojih četbotova pred izbore koji se održavaju širom sveta, veštačka inteligencija i dalje ostaje moćno sredstvo za širenje dezinformacija“.

Čini se da su četbotovi propustili da prepoznaju da su sajtovi poput „Boston Times“ i „Flagstaff Post“ ruski propagandni kanali.

Na primer, kada su postavljeni upiti za više informacija o Gregu Robertsonu, navodnom agentu Tajne službe koji tvrdi da je otkrio prisluškivanje u rezidenciji bivšeg predsednika SAD-a Donalda Trampa, Mar-a-Lago, nekoliko četbotova je ponovilo dezinformaciju kao činjenicu.

Oni su citirali članke sa sajtova FlagStaffPost.com i HoustonPost.org u svojim odgovorima, a jedan čak opisao sajt, ChicagoChron.com, kao sajt sa dobrom „reputacijom vezanom za tačnost“. Četbotovi su takođe redovno propuštali da pruže kontekst o pouzdanosti svojih referenci.

Kompletan tekst pročitajte na Forbes