Klix koristi AI za sprečavanja govora mržnje u komentarima posjetilaca

Portal Klix.ba je početkom mjeseca izvijestio da je uveo korištenje umjetne inteligencije (AI) na svojoj platformi kako bi efikasnije suzbio govor mržnje u sekciji komentari.

Uvođenje alata AI je, kako je saopšteno iz redakcije, došlo nakon godina korištenja raznih algoritama i angažovanja administratora, čiji su napori bili značajni, ali, kako je istaknuto, nedovoljni za potpuno eliminisanje problema.

Kako bi suzbili govor mržnje u sekciji komentara počeli su koristiti posljednju verziju alata ChatGPT iz kompanije Open AI, američke organizacije za istraživanje umjetne inteligencije koja je i razvila navedeni popularni chatbot. Semir Hambo, glavni i odgovorni urednik na Klixu, kaže da ga koriste isključivo u navedenoj sekciji.

“S obzirom da je spomenuta verzija unaprijeđena da može detektovati govor mržnje i to prilično precizno i na našem jeziku zadovoljni smo što u te svrhe možemo koristiti tehnologiju”, rekao je Hambo za Media.ba.

Objašnjava da alat radi tako što prije objave komentara detektuje da li sadržava govor mržnje. Dodao je da može raditi u realnom vremenu i da prilično pouzdano može detektovati i pokušaje prevare kod korisnika, odnosno onih koji koriste određene simbole ili znakove da napišu komentar koji je govor mržnje. Ipak, kako je naglasio, može se desiti da određeni komentari, odnosno neke riječi prođu, ali je to, kako je dodao Hambo, zanemarivo u odnosu na benefite koje alat donosi.

Klix je izvijestio i da je uvođenje umjetne inteligencije značajno smanjilo količinu govora mržnje na platformi, a precizne statistike za sada nemaju jer je, kako je kazao Hambo, potrebno da prođe određeno vrijeme da bi vidjeli konkretne brojke.

“Ono što do sada mi vidimo u statistici je ogroman korak ka potpunom sprečavanju govora mržnje”, rekao je.

Redakcije u svijetu koriste alate AI za moderaciju komentara, a jedna od njih je i Finacial Times. U razgovoru za Journalism.co.uk, urednica Financial Timesa Lucy Warwick-Ching je ispričala da je njihov medij imao posvećen tim ljudskih moderatora, ali da nisu mogli pratiti sve komentare s obzirom na količinu objavljenih priča. Odlučili su da počnu koristiti alat Utopia Analyticsa, finske kompanije koja omogućava automatizovano moderiranje na bilo kojem jeziku komentara čitatelja. I u ovom slučaju se filtrira neprikladno ponašanje, maltretiranje, govor mržnje, diskriminacija, seksualno uznemiravanje, ali i neželjena pošta.

Globalno istraživanje JournalismAI iz 2023. o korištenju AI i generativne AI je pokazalo da velika većina ispitanika iz medija, oko 85 posto, je eksperimentisala sa genAI tehnologijama poput pisanja koda, generisanja slika i sažetaka tekstova.

Tekst Mediacentra Sarajevo je pokazao da novinari i urednici u Bosni i Hercegovini sramežljivo i sa oprezom govore o upotrebi AI. Većina novinara s kojima smo razgovarali kazali su ili da do sada nisu koristili AI alate ili su nakon testiranja odlučili da ih ne koriste jer sumnjaju u istinitost informacija koje pruža.

Alat Open AI-a za moderaciju sadržaja je, kako je saopštila kompanija, besplatna za korištenje za većinu programera i koristi se za identifikaciju sadržaja koji bi mogao biti štetan. Kompaniji modeli klasifikuju kategorije poput govora mržnje, prijetećeg sadržaja, uznemiravanja, samoozljeđivanja, nasilnog sadržaja. Open AI je postavio i kodove i objašnjenja za programere za funkcionisanje alata.