"Fejsbuk papiri" - kompanija znala za propuste u moderaciji i eliminisanju govora mržnje

U Gazi i Siriji, novinari i aktivisti smatrali su da Fejsbuk cenzuriše njihov govor, i obeležava obične statuse na arapskom kao teroristički sadržaj. U Indiji i Mjanmaru, političke grupe koriste Fesjbuk da podstaknu nasilje. A sve se to događa zato što kompanija ne uspeva da reguliše sadržaje na svojoj platformi, pošto nema dovoljno moderatora koji govore lokalne jezike i razumeju kulturni kontekst.

Interna dokumenta kompanije koje je američkim vlastima dostavila bivša analitičarka podataka Frensis Haugen, koja je podigla uzbunu zabrinuta zbog prakse kompanije, pokazuju da su problemi sa moderacijom sadržaja na platformi – sistemski, kao i da je Fejsbuk godinama znao koliko su ozbiljni ti problemi i nedostaci, a nije mnogo toga preduzeo.

Fejsbukove platforme nisu uspele da razviju rešenja, zasnovana na veštačkoj inteligenciji, za prepoznavanje štetnog sadržaja na različitim jezicima. Zbog toga, teroristički sadržaji i jezik mržnje cvetaju u nekim od najnestabilnijih regija sveta, dok u drugim delovima dolazi do suviše strogog regulisanja svakodnevnog govora.

Ova priča, kao i druge objavljene u ponedeljak, zasnovane su na podacima koje je uzbunjivačica Frensis Haugen otkrila Komisiji za hartije od vrednosti, a koje je njen pravni tim, u redigovanoj verziji, takođe predao Kongresu. Do redigovane verzije predate Kongresu došao je i konzorcijum od 17 medijskih organizacija, među kojima je Asošijeted Pres. Novinari iz malih i velikih redakcija su zajedno radili da dobiju pristup hiljadama stranica internih dokumenata do kojih je došla Haugen, koji se sada nazivaju „Fejsbuk papiri“. Odvojeni konzorcijum evropskih medija je imao pristup istim dokumentima, a članovi obe grupe počeli su da objavljuju sadržaj na osnovu svoje analize materijala 25. oktobra. Taj datum su odredile partnerske medijske kuće kako bi svi u konzorcijumu imali priliku da u potpunosti analiziraju dokumenta a Fejsbukovi predstavnici za odnose s javnošću imali vremena da odgovore na pitanja.

U dokumentima se navodi da je Fejsbuk stavio profit iznad bezbednosti, i sopstvena istraživanja sakrivao od investitora i javnosti, prenosi AP. Neka od saznanja iz dosijea dostavljenih Kongresu su već objavljena, kao što je priča o unutrašnjim previranjima u kompaniji posle upada u Kapitol 6. januara, a biće objavljena i druga dokumenta.

Uzbunjivačica: Mržnja na internetu gora zbog Fejsbuka

Frensis Hojgen, bivša radnica Fejsbuka koja je podigla uzbunu zabrinuta zbog poslovne prakse kompanije, u ponedeljak je svedočila pred britankim parlamentom, navodeći da Fejsbuk podstiče mržnju i ekstremizam na internetu, ne uspeva da zaštiti decu od štetnih sadržaja i nema poseban podsticaj da reši probleme. Njeno svedočenje je snažan argument za inicijative evropskih vlada koje rade na strožijoj regulaciji tehnoloških giganata.

Dok je u svedočenju pretežno ponovila ono što je već rekla američkom Senatu ranije ovog meseca, njeno pojavljivanje je izazvalo veliko interesovanje britanske parlamentarne komisije koja radi na zakonu o regulisanju društvenih platformi.

Haugen je odboru britanskih poslanika rekla da grupe na Fejsbuku pojačavaju mržnju na internetu, i da algoritmi, koji prioritet daju angažmanu korisnika, dovode do toga da se ljudi sa običnim, mejnstrim statovima „guraju“ ka ekstremnijim gledištima. Haugen, koja je u Fejsbuku radila kao stručnjak za analizu podataka, izjavila je da bi kompanija mogla da angažuje dodatnne moderatore da sprečava veće grupe da se koriste za širenje ekstremističkih stavova. „Bez sumnje, mržnja je zbog ovoga sve veća“, rekla je.

Haugen je dodala da je „nedavno bila šokirana da čuje da Fejsbuk želi da udvostruči metarverzum i planira da angažuje 10.000 inženjera u Evropi da rade na tome“, rekla je, što se odnosilo na planove kompanije da stvori virtuelni onlajn svet koji će postati sledeći veliki trend na internetu.

U odgovoru Asošijeted presu, Fesjbukov portparol je naveo da je u protekle dve godine, kompanija ulagala u regrutovanje većeg broja zaposlenih sa znanjem lokalnih dijalekata i ekspertizom iz domaćih tema, kako bi pojačala svoje kapacitete globalne analize sadržaja. Kada je reč o moderaciji sadržaja na arapskom jeziku, kompanija je navela da „na tome ostaje još mnogo posla.“

Međutim, dokumenta pokazuju da problemi nisu ograničeni samo na arapski jezik. U Mjanmaru, gde su dezinformacije koje su se širile na Fejsbuku više puta dovođene u vezu sa etničkim nasiljem, interni izveštaji kompanije pokazuju da nije zaustavila širenje jezika mržnje protiv manjinskih Rohingdža muslimana.

Dokumenta, takođe, pokazuju da u Indiji, moderatori nikada nisu označili govor mržnje protiv muslimana koji je iznosila desničarska Hindu nacionalistička grupa premijera Narednre Modija, zato što Fejsbuk nije imao dovoljno moderatora i automatizovanih filtera sa znanjem hindija i bengalskog jezika.

Arapski, treći najčešće korišćeni jezik na Fejsbuku, predstavlja specijalni izazov za moderatore, kao i automatizovane sisteme kompanije, koji imaju probleme da razumeju govorne dijalekte karakteristične za svaku zemlju i region, i rečnik obojen različitim istorijskim uticajima i kulturološkim kontekstima.Platforma je stekla veliki broj novih članova u regionu tokom Arapskog proleća 2011, ali se njen ugled foruma za slobodno izražavanje u regionu punom autokratskih vlada u međuvremenu promenio.

Desetinama palestinskih novinara su obrisani nalozi. Arhive o građanskom ratu u Siriji su nestale. Tokom 11-dnevnog rata u Gazi prošlog maja, Fejsbukova aplikacija Instagram je na kratko zabranila hešteg #AlAqsa, koji je označavao džamiju u Starom gradu u Jerusalimu – mesto u centru nastalog sukoba. Kompanija sa kasnije izvinila, navodeći da je islamsko sveto mesto „pomešala“ sa jednom terorističkom grupom.

Kritike, satira pa čak i obično pominjanje grupa sa Fejsbukove liste „opasnih pojedinaca i organizacija“, koja je formirana na osnovu liste američke vlade – smatraju se osnovom za uklanjanje tih sadržaja.

„Na neispravan način smo promovisali anti-terorističke sadržaje na arapskom“, navodi se u jednom dokumentu, u kome se konstatuje da „sistem ograničava korisnike u učešću u političkom govoru, i sputava njihovo pravo na slobodu izražavanja.“

Na „crnoj listi“ Fejsbuka se nalazi vladajuća partija u Gazi Hamas, kao i Hezbolah, militantna grupa koja ima svoje poslanike u parlamentu Libana, kao i mnoge druge grupe koje predstavljaju velike grupacije ljudi i teritorije širom Bliskog istoka.

Jezički propusti i predrasude doveli su do masovne percepcije da su Fejsbukovi analitičari skloni da donose odluke koje idu u prilog vlada, a protiv manjinskih grupa.

Izraelske bezbednosne agencije i aktivsiti takođe prate sadržaje na Fejsbuku i „bombarduju“ kompaniju hiljadama zahteva da se uklone palestinski nalozi i statusi, dok pokušavaju da suzbiju podsticanje nasilja. „Oni potpuno preplave i savladaju naš sistem“, kaže Ašraf Zejtun, bivši šef politike za Bliski istok i region Severne Afrike, koji je napustio kompaniju 2017.

Sirijski novinari i aktivisti koji izveštavaju o opoziciji u zemlji takođe se žale na cenzuru, a elektronske armije koje podržavaju predsednika Bašara al Asada agressivno prijavljuju statuse disidenata i traže da budu uklonjeni.

Za to vreme, u Avganistanu, Fejsbuk nema banku termina sa uvredama i govorom mržnje, tako da ne može da napravi automatske filtere koji bi sprečili najteže prekršaje. Na Filipinima, Fejsbukova dokumenta pokazuju da inženjeri softvera imaju problem da otkriju prijave radnika u domaćinstvima koje zloupotrebljavaju i zlostavljaju njihovi poslodavci, zato što kompanija ne može da označava reči na tagalogu, glavnom jeziku na Filipinima.

Na Bliskom istoku, Fejsbuk se preterano oslanja na filtere veštačke inteligencije koji prave greške. Moderatori, koji obično nisu eksperti za jezik i poveren im je pretežak zadatak, a povremeno se oslanjaju na Guglov softver za prevođenje, često pasivno odgovaraju na zahteve za uklanjanje uvredljivih sadržaja umesto da proaktivno obavljaju analizu sadržaja.

Moderatori u 77% slučajeva označavaju neuvredljive sadržaje na arapskom jeziku kao terorističke, navodi se u jednom izveštaju. Iako su dokumenta koja je predala Haugen iz perioda pre ovogodišnjeg rata u Gazi, epizode iz tog krvavog sukoba pokazuju da je malo toga učinjeno da se odgovori na probleme,

Aktivisti u Gazi i Zapadnoj obali izgubili su mogućnost da strimuju uživo. Cele arhitve o konfliktu su nestale sa Fejsbuk fida, koji je primalni portal za informisanje. Influenseri koji su navikli na desetine hiljada lajkova za svoje postove videli su da im uticaj drastično opada kada bi napisali status o Palestincima, pokazuju izveštaji koje američki mediji nazivaju „Fejsbuk papirima.“