Društvene mreže i govor mržnje: Tviter ne može više da vas zaštiti od vređanja

Ekskluzivni akademski podaci plus svedočanstva korisnika ove društvene mreže potkrepljuju navode, sugerišući da mržnja cveta pod Maskovim rukovodstvom.

Trolovi se ohrabruju, uznemiravanje se pojačava, a nalozi koji prate mizogine i zlostavljačke profile u stalnom su porastu.

Aktuelni i bivši zaposleni ove kompanije kažu za BBC da je funkcije namenjene zaštiti korisnika Tvitera od trolovanja i uznemiravanja sve teže održavati, usred, kako opisuju, haotičnog radnog okruženja u kom Maska u svakom trenutku okružuju telohranitelji.

Razgovarala sam sa desetinama njih, neki su prvi put dali zvaničnu izjavu.

Bivša šefica dizajna sadržaja kaže da su svi iz njenog tima – koji je stvorio bezbednosne mere kao što su „dugmad za gurkanje“ – dobili otkaz.

I ona je sama kasnije podnela ostavku.

Inženjer koji radi u ovoj kompaniji mi je rekao da se sada „niko ne bavi tom vrstom posla“, uporedivši platformu sa zgradom koja izgleda dobro spolja, ali je iznutra „u plamenu“.

Tviter nije odgovorio na BBC-jev zahtev za komentar.

Moje istraživanje pokazuje još i sledeće:

• Vlada zabrinutost da je seksualna eksploatacija dece na Tviteru u porastu i da se ovo pitanje nedovoljno prijavljuje službama za sprovođenje zakona
• Kampanje ciljanog uznemiravanja zarad suzbijanja slobode izražavanja i operacije stranih uticaja – nekada svakodnevno uklanjane sa Tvitera – prolaze „neprimećeno“, prema tvrdnjama jednog donedavnog zaposlenog
• Ekskluzivni podaci pokazuju da je onlajn mizoginija protiv mene u stalnom porastu od dolaska novog rukovodstva i da je došlo do porasta od 69 odsto novih naloga koji prate mizogine i profile koji promovišu zlostavljanje.
• Žrtve silovanja napadaju nalozi koji su postali aktivniji posle dolaska novog rukovodstva, sa nagoveštajima da su vraćeni ili novootvoreni.

Zlostavljanje na Tviteru nije ništa novo za mene – ja sam novinarka koja na tom mestu deli sopstveno izveštavanje o dezinformacijama, zaverama i mržnji.

Ali tokom većeg dela prošle godine primetila sam da se ono redovno smanjivalo na svim društvenim mrežama.

A onda sam u novembru primetila da je na Tviteru ponovo postalo gore.

Ispostavilo se da sam bila u pravu.

Tim iz Međunarodnog centra za novinare i sa Univerziteta u Šefildu prati mržnju koja mi se upućuje, a njihovi podaci pokazali su da se zlostavljanje usmereno protiv mene na Tviteru više nego utrostručilo otkako je Mask preuzeo kontrolu nad kompanijom, u poređenju sa istim periodom godinu dana ranije.

Sve društvene mreže su se našle pod pritiskom da čine nešto u borbi protiv onlajn mržnje i štetnog sadržaja – ali one tvrde da su aktivno preduzimale mere povodom ovog problema.

Mere koje, čini se, više ne predstavljaju prioritet u Tviteru.

Spremila sam se da odgovore potražim u San Francisku, u kom se nalazi sedište kompanije.

Ima li bolje osobe od koje bih mogla da ih dobijem nego od inženjera – i to odgovornog za kompjuterski kod na osnovu kog funkcioniše ova platforma.

Zbog toga što on još uvek radi tamo, zamolio nas je da ne otkrivamo njegov identitet i zato ćemo ga zvati „Sem“.

„Nekome ko je iznutra, to liči na zgradu u kojoj su svi segmenti u plamenu“, otkrio je on.

„Kad pogledate spolja, fasada izgleda normalno, ali ja vidim da ništa ne funkcioniše. Čitav vodovod je pokvaren, nijedna česma ne radi, ništa ne radi.“

On tvrdi da je do haosa došlo zbog ogromnog smanjenja osoblja.

Najmanje polovina radne snage Tvitera je otpuštena ili je odlučila da ode otkako ga je Mask kupio.

Sada ljudi iz drugih timova moraju da preusmeravaju pažnju na druge stvari, kaže on.

„Potpuno nova osoba, bez ikakve stručnosti, sada radi ono što je nekada radilo više od 20 ljudi“, kaže Sem.

„To ostavlja prostora za mnogo više rizika, mnogo više mogućnosti da nešto pođe naopako.“

On kaže da nekadašnje funkcije još postoje, ali oni koji su ih osmislili i održavali su otišli – on misli da se sada njima više niko ne bavi.

„Toliko toga ne radi i niko se više time ne bavi da primećujemo krajnje nedosledno ponašanje“, kaže mi on.

Ovaj nivo haosa vlada, prema njegovom mišljenju, zato što Mask ne veruje zaposlenima u Tviteru.

Dodaje i da je Mask dovodio inženjere iz njegove druge kompanije – proizvođača električnih vozila Tesla – i tražio od njih da za svega nekoliko dana procene kodove inženjera pre nego što on odluči koga da otpusti.

Za razumevanje takvog koda potrebni su „meseci“, kaže mi Sem.

On veruje da je ovaj stepen nepoverenja očigledan i po stepenu bezbednosti kojim se Mask okružuje.

„Gde god da ide u poslovnoj zgradi, prati ga najmanje dvojica telohranitelja – krupni, visoki, telohranitelji iz holivudskih filmova. Čak i kad ide u toalet“, priča mi on.

Smatra i da je za Maska sve u novcu.

On kaže da je kompletno osoblje za čišćenje i ketering otpušteno – da je Mask čak pokušao da proda kancelarijsko bilje zaposlenima.

Lisa Dženings Jang, Tviterova bivša šefica dizajna sadržaja, bila je jedna od ljudi specijalizovanih za uvođenje funkcija osmišljenih da štite korisnike od mržnje.

Tviter je bio žarište trolovanja mnogo pre nego što je Mask preuzeo kontrolu, ali ona kaže da je njen tim ostvario veliki napredak u njegovom sprečavanju.

Interno Tviterovo istraživanje, u koje je BBC imao uvid, izgleda da to potkrepljuje.

Lisa Dženings Jang, bivša šefica dizajna sadržaja, kaže da je čitav njen tim otpušten

„Uopšte nije bilo savršeno. Ali smo se trudili i sve vreme smo ostvarivali napredak“, kaže ona.

To je prvi put da ona javno govori o iskustvu otkako je otišla posle Maskovog preuzimanja kontrole nad kompanijom.

Tim koji je predvodila radio je na nekoliko novih funkcija između ostalih bezbedni mod, koji može automatski da blokira agresivne naloge.

Oni su osmislili i etikete koje su se stavljali na obmanjujuće tvitove i nešto što se zove „gurkanje da je u pitanju štetan odgovor“.

„Gurkanje“ upozorava korisnike pre nego što pošalju tvit u kom je tehnologija veštačke inteligencije prepoznala reči koje trigeruju ili štetni jezik.

Tviterovo vlastito istraživanje, u koje je BBC imao uvid, pokazuje da su ovo „gurkanje“ i drugi zaštitni alati bili efikasni.

„Ukupno 60 odsto korisnika izbrisalo je ili promenilo sopstveni odgovor kad je dobilo priliku za to putem gurkanja“, kaže ona.

„Ali još interesantnije je da pošto smo ‘gurnuli’ ljude jednom, oni su proizvodili 11 odsto manje štetnih odgovore u budućnosti.“

Ove zaštitne funkcije bile su u upotrebi u vreme kad je izgledalo kao da se zlostavljanje protiv mene na Tviteru smanjilo, prema podacima koje je sakupio Univerzitet iz Šefilda i Međunarodni centar za novinare.

Nemoguće je izvršiti direktnu korelaciju između ta dva, ali imajući u vidu ono što nam dokazi govore o efikasnosti ovih mera, moguće je napraviti vezu.

Ali po dolasku Ilona Maska, u oktobru 2022. godine, Lisin čitav tim je dobio otkaz, a ona sama je odlučila da ode u novembru.

Pitala sam Dženings Jang šta se desilo sa funkcijama kao što su upozorenje „gurkanjem“ na štetan odgovor.

„Nema sada tamo nikoga ko bi mogao na tome da radi“, rekla mi je ona.

Ona ne zna šta se desilo sa projektima na kojima je ona radila.

I zato smo isprobali jedan eksperiment.

Ona je predložila tvit za koji je očekivala da će pokrenuti „gurkanje“.

„Zaposleni u Tviteru su lenji luzeri, skočite sa Golden Gejta i umrite.“

Objavila sam ga sa privatnog profila kao odgovor na jedan od njenih tvitova, ali na iznenađenje Dženings Jang, nije poslat nikakvo „gurkanje“.

Još jedan tvit sa uvredljivim rečnikom koji smo objavili jeste bio registrovan – ali Lisa kaže da je „gurkanje“ trebalo da prepozna poruku koja želi smrt korisniku, a ne samo psovke.

Kao što je Sem predvideo, izgledalo je da ono ne radi kao što bi trebalo.

Tokom ove istrage, dobijala sam poruke od velikog broja ljudi koji su mi govorili kako se mržnja koja im se upućuje na Tviteru povećala otkako je Mask preuzeo kompaniju – navevši primere rasizma, antisemitizma i mizoginije.

Eli Vilson, koja živi u Glazgovu, bila je silovana dok je studirala i počela je prošlog leta da objavljuje tvitove o tom iskustvu na društvenoj mreži.

U to vreme je dobijala poruke podrške na Tviteru.

Ali kad je tvitovala o napadaču u januaru pošto su ga osudili, bila je zatrpana talasom poruka punih mržnje.

Dobijala je agresivne i mizogine odgovore – neki od njih su joj čak poručivali da je zaslužila da bude silovana.

„Najteže od svega mi padaju ljudi koji kažu da nisam silovana ili da se to nije desilo i da lažem. To vam je kao sekundarna trauma“, kaže mi Vilson.

Broj njenih pratilaca na Tviteru bio je manji pre Maskovog dolaska, ali kad sam proučila naloge koji su je ovaj put obasuli mržnjom, primetila sam da su profili trolova postali aktivni od dolaska novog vlasnika, što sugeriše da su prethodno bili zabranjeni i nedavno vraćeni.

Neki od tih naloga su čak prvi put otvoreni u vreme kad je Mask preuzeo Tviter.

Oni izgledaju kao da su posvećeni isključivo obasipanju mržnjom, bez profilskih slika ili bilo kakve druge identifikacije.

Nekoliko njih prati ili ima interakciju sa sadržajem sa popularnih naloga optuženih za širenje mizoginije i mržnje – koji su opet na ovoj društvenoj mreži, posle Maskove odluke da vrati hiljade zabranjenih naloga, među njima i nalog kontroverznog influensera Endrjua Tejta.

„Dajući platformu tim ljudima, vi im dajete moć. I vi poručujete: ‘Ovo je u redu, to smete da radite.'“

Nekoliko naloga napadalo je i druge žrtve silovanja sa kojima je ona bila u kontaktu.

Endrju Tejt nije odgovorio na zahtev BBC-ja za komentar.

Novo istraživanje Instituta za strateški dijalog – britanske ekspertske grupe koja istražuje dezinformacije i mržnju – podržava ono što sam otkrila o trolovskim nalozima koji napadaju Eli.

Ono pokazuje da je otvoreno desetine hiljada novih naloga otkako je Mask preuzeo kompaniju, koji su potom odmah počeli da prate slavne agresivne i mizogine profile – 69 odsto više nego pre nego što je on preuzeo upravljanje.

Istraživanje pokazuje da ove zlostavljačke mreže sada samo rastu – i da je Maskovo preuzimanje dužnosti stvorilo „blagonaklono okruženje“ za nastanak i upotrebu te vrste naloga.

Maskovi glavni prioriteti od preuzimanja – prema njegovim tvitovima – bili su profitabilnost kompanije i zalaganje za slobodu izražavanja.

U decembru 2022. godine, on je objavio interna dokumenta nazvana „Dosijei Tviter“ kako bi objasnio zašto veruje da kompanija nije pravedno sprovodila politiku moderacije i zabrane pod starim rukovodstvom.

Ali oni iznutra smatraju da Mask koristi ovaj izgovor da u potpunosti ukine prioritet zaštite korisnika od štetnih uticaja.

Čak i opasan sadržaj protiv kog je on sam ranije dizao glas, poput seksualnog zlostavljanja dece i mreže takozvanih bot naloga namerno stvorenih da dovedu u zabludu, ne rešava se kao pre, kažu oni.

Tviter nije pokušavao da zaštiti ljude samo od pojedinačnih trolova, već i od takozvanih „operacija uticaja“ – državnih kampanja koje žele da podriju demokratiju i napadnu disidente i novinare.

Rej Serato je radio u timu specijalizovanom za borbu protiv takvih operacija.

Otišao je u novembru zato što je smatrao da ne postoji jasna vizija zaštite korisnika pod novim rukovodstvom.

Kaže i da je njegov tim otkrivao takve sumnjive aktivnosti „svakodnevno“.

Sada je njegov tim „desetkovan“ i radi samo „smanjenim kapacitetom“.

Rej Serato
Potpis ispod fotografije,
Rej Serato, koji se specijalizovao za borbu protiv državnih kampanja dezinformacija, kaže da je njegov tim „desetkovan“

„Tviter je nekada bio utočište na kom su se oglašavali novinari, gde je slobodno mogao da se čuje njihov glas i gde su oni mogli da kritikuju vlast. Ali nisam siguran da će to i nadalje biti tako.“

„Postoji veliki broj ključnih eksperata koji više nisu u tom timu koji je pokrivao specijalne oblasti ili preteće aktere, od Rusije do Kine“, dodaje.

I jedan drugi insajder, koga ćemo zvati Rori, je zabrinut zbog odliva eksperata – i kako to štetno utiče na Maskov prioritet sprečavanja pedofila da koriste Tviter za „grumovanje“ žrtava i deljenje linkova koji vode do zlostavljanja.

Rori je do skora bio zaposlen u timu koji se borio protiv seksualne eksploatacije dece.

Njegov tim bi otkrivao naloge koji dele sadržaje sa zlostavljanjem dece, prosleđujući najgore od njih službama za sprovođenje zakona.

Pre preuzimanja, takav sadržaj je predstavljao ogroman problem, kaže on – a on je već smatrao da nemaju dovoljno ljudi za obavljanje tog posla.

„Svaki dan biste pronalazili takav materijal“, kaže on.

Ali njegov tim je skresan ubrzo posle akvizicije, kaže on, sa dvadesetoro ljudi na svega šest-sedam.

Prema njegovom mišljenju, to je premalo da bi se izlazilo na kraj sa tom količinom posla.

Rori kaže da – pre nego što je otišao – ni Mask ni bilo koji drugi član nove uprave nije kontaktirao ni njega ni njegov stari tim, koji su zajednički imali mnogo godina iskustva u ovoj oblasti.

„Ne možete da preuzmete kompaniju i da odjednom verujete da posedujete svo znanje za izlaženje na kraj sa seksualnom eksploatacijom dece bez eksperata koji rade na tom zadatku“, kaže on.

Tviter nalozi poznatih hakovani u bitkoin prevari
Zašto je važno kako su hakovani Tviter profili Kanjea Vesta, Ilona Maska, Baraka Obame i drugih
Kako su se porno snimci devojčica iz Severne Makedonije našli na internetu
Tviter tvrdi da je uklonio 400.000 naloga samo za mesec dana kako bi pomogao da se „Tviter oseća bezbednije“.

Ali Rori se plaši da sada ima manje ljudi sa znanjem kako efikasno prenositi zabrinutost u vezi sa ovim sadržajem službama za sprovođenje zakona.

„Vi svakako možete da ugasite stotine hiljada naloga za mesec dana. Ali ako opadne prijavljivanje tog sadržaja policiji, onda to zapravo ništa ne znači, i većina korisnika kojima su ugašeni nalozi će ionako otvoriti nove.“

On dodaje da korisnici koji čine prekršaj onda mogu samo da otvore nove naloge, u vreme kad se ugašeni profili ionako rado primaju nazad na Tviter.

Želela sam da pitam Ilona Maska o preuzimanju, njegovoj viziji za Tviter i kako misli da će ga realizovati u stvarnosti.

Pokušala sam da stupim u kontakt s njim preko mejla, tvitova, pa čak i Tviter ankete.

To nije bila prava anketa, već je Mask ranije koristio to glasanje za donošenje odluka o budućnosti Tvitera i nadala sam se da će mu to privući pažnju.

Glasalo je više od 40.000 korisnika, a 89 odsto njih reklo je da Mask treba da uradi intervju sa mnom.

Nisam dobila nikakav odgovor.

Ilon Mask nije formalno odgovorio BBC-ju – ali jeste tvitovao ovo pošto smo objavili članak

Tviter i Mask još nisu formalno odgovorili na istragu BBC-ja.

Rečeno mi je da su svi Tviterovi timovi zaduženi za komunikaciju ili podneli ostavku ili dobili otkaz.

Politika ove kompanije je javno dostupna onlajn, tvrdi da „odbrana i poštovanja glasova korisnika“ ostaje jedna od njegovih „najvećih vrednosti“.

Mask, međutim, jeste tvitovao o našem članku posle njegovog objavljivanja, rekavši:

„Izvinite što sam pretvorio Tviter iz blagorodnog raja u mesto koje ima… trolove.“