Snouden: Eplova aplikacija je katastrofa u nastajanju. IPI: Ugrožavanje privatnosti i medijskih sloboda

Novi sistem praćenja i skeniranja fotografija koji je razvila kompanija Epl (Apple) ne otvara samo Pandorinu kutiju mogućnosti ugrožavanja privatnosti pojedinca, ona rizikuje i da ugrozi medijske slobode, upozorio je Međunarodni institut za štampu (International Press Institute).

Zabrinutost leži u tome što aplikacija, načelno dizajnirana da prepoznaje slučajeve seksualnog zlostavljanja dece, u isto vreme vlastima ostavlja prostor za cenzuru, prisluškivanje i progon.

Međunarodni institut za štampu, mreža izdavača i novinara iz više od 120 zemalja, ističe da novinari, po prirodi posla, na telefonima čuvaju osetljive informacije. U odnosima s izvorima i kolegama oni se uzdaju u siguran komunikacijski kanal (end-to-end encryption) u kojem isključivo pošiljalac i primalac imaju pristup poruci. To poverenje je narušeno.

Snouden: Nije inovacija, već tragedija

Usledile su brojne reakcije novinarskih i drugih organizacija u Evropi i Sjedinjenim Američkim Državama.

„Ovo nije inovacija, već tragedija, katastrofa u nastajanju“, ocenio je Edvard Snouden, uzbunjivač i bivši agent američke Nacionalne obaveštajne agencije (NSA).

Šta zapravo radi novi sistem i zbog čega bi on potencijalno mogao biti opasan?

Da li se ovde radi samo o dostizanju konkurencije? Tokom 2020. Fejsbuk je NCMEC-u prijavio 20,3 miliona slika, dok ih je Epl prijavio 256 (profesor Džon Nauton)

Ukratko, glavna ideja jeste da kompjuter prepoznaje fotografije na kojima se deca seksualno zloupotrebljavaju. Takav sadržaj, klasifikovan kao CSAM (Child Sexual Abuse Material), izdvaja se kroz proces koji se naziva hešing (hashing).

Softver praktično transformiše sliku u seriju brojeva i upoređuje ih s onima u CSAM bazi koju je kreirao američki Nacionalni centar za nestalu i eksploatisanu decu (NCMEC). Ako se dovoljan segment koda podudara, Epl ga dešifruje i direktno pristupa tom vizuelnom sadržaju. Prema zakonu, dužni su da to i prijave.

Druga bitna upotreba novog sistema jeste roditeljska kontrola. Roditelji će primati obaveštenja ukoliko njihova deca šalju i primaju „eksplicitan materijal“ ili pak pristupaju takvom materijalu.

Treća značajna promena u programu odnosi se na opcije pretrage: sistem će reagovati prilikom pokušaja pretrage CSAM materijala.

U Eplu kažu da je njihov cilj da „kreiraju tehnologiju koja će osnažiti ljude i obogatiti njihove živote – pomažući im da ostanu bezbedni“. „Želimo da pomognemo u zaštiti dece od predatora koji koriste komunikacione alate da regrutuju i eksploatišu decu“, navodi kompanija sa sedištem u Kaliforniji.

Namere ljudi iz Epla mogu biti dobre i iskrene, međutim, one na globalnom nivou nose rizik od lančane reakcije praćenja i prisluškivanja mnogih pojedinaca, uključujući i novinare, smatraju u Međunarodnom pres institutu.

Ništa neće moći da spreči Epl da nadzire sve

Stručnjaci upozoravaju da, tehnički govoreći, ne postoji ništa što može sprečiti Epl da nadzire druge sadržaje, uključujući i fotografije i informacije.

Zasad, novi sistem je predviđen da se koristi samo u Sjedinjenim Američkim Državama. Njegovi kritičari pribojavaju se da je pitanje vremena kada će i druge vlade poželeti ovu prečicu.

Kompanija Epl je, doduše, saopštila da neće dozvoliti vladama da na listu svojih zahteva stave fotografije koje ne spadaju u CSAM kategoriju. No, njihov generalni menadžer Tim Kuk ranije je kazao i da „kompanija poštuje zakone zemalja u kojima posluje“.

Ukoliko ne odustanete od nove tehnologije, postavićete temelje za cenzuru, praćenje i progon na globalnom nivou (Organizacije posvećene slobodi govora u pismu Timu Kuku)

Šta to zapravo znači?

Postoji, dakle, prostor da vlade, po zakonu, zahtevaju od Epla da skenira čitav niz drugih poruka, kao što su fotografije s političkih protesta, procurela dokumenta od javnog značaja, ili one sadržaje koje bi vlade okarakterisale kao „ekstremističke“.

Međunarodni institut za štampu ističe mogućnost zloupotrebe programa u autoritarnim režimima, a podseća da su i neke demokratske države (npr. Indija i Indonezija) donele zakone o cenzuri u koje bi se Eplov mehanizam savršeno uklopio.

„Šta će se dogoditi kada partija u Indiji zatraži skeniranje svih mimova povezanih sa separatističkim pokretima? Šta će se dogoditi kad Ujedinjeno Kraljevstvo bude zahtevalo galeriju slika terorista?“, upitao je Edvard Snouden.

„Koliko vremena će proći dok ajfon u vašem džepu ne počne tiho da popunjava izveštaje o vašim pristupima ‘ekstremističkom’ političkom materijalu ili učestvovanju u ‘građanskoj neposlušnosti’. Ili o mogućnosti da vaš ajfon sadrži, a možda i ne sadrži, mutnu sliku slučajnog prolaznika koji liči na nekoga ko je, po algoritmu, ‘osoba od značaja’?“

Postoji prostor da vlade, po zakonu, zahtevaju od Epla da skenira čitav niz drugih poruka, kao što su fotografije s političkih protesta, procurela dokumenta od javnog značaja, ili sadržaje koje bi vlade okarakterisale kao „ekstremističke“

Prema Snoudenovim rečima, posledice Eplovog sistema, kako god neko pokušao da ga opravda, „zauvek će redefinisati šta pripada vama, a šta pripada njima“.

Epl je brzo reagovao tako što je izdao listu „često postavljanih pitanja“ (FAQ). Na dilemu da li će vlade prisiliti Epl da proširi svoju hešing listu, iz ove kompanije dali su kratak odgovor:

„Ne. Epl će odbiti svaki takav zahtev.“

Pravnici su pak upozorili da to i nije najpovoljnija situacija za korisnike, koji, osim trenutne odluke jedne kompanije, ne uživaju nikakvu pravnu zaštitu.

Dafni Keler, direktorka Centra za sajber politiku na Univerzitetu Stanford i nekadašnja savetnica u kompaniji Gugl (Google), izjavila je:

„Kao neko ko je lično učestvovao i gubio parnice u identičnim slučajevima u tri zemlje (Ujedinjeno Kraljevstvo, Nemačka, Francuska), pouzdano mogu da kažem da odlučno odbijanje kompanije da filtrira i druge sadržaje osim CSAM-a ne znači mnogo kada je suočeno s državnom moći.“

Podsećamo, kada je Kina 2017. godine naredila Eplu da sprovede njihovu zabranu VPN-a, kompanija se povinovala tom zahtevu.

Pismo Kuku: Postavićete temelje za cenzuru, praćenje i progon

U međuvremenu je otvoreno pismo protiv novih programskih rešenja potpisalo više od osam hiljada pojedinaca, među kojima su i brojni novinari i borci za medijske slobode.

U pismu kompaniji Epl navode se dva izričita zahteva: (1) odustajanje od predložene tehnologije monitoringa sadržaja i (2) javno iskazivanje posvećenosti end-to-end enkripciji i privatnosti korisnika.

Kasnije su organizacije koje se bave slobodom govora i digitalnim pravima – njih ukupno 90, sa sedištem na šest kontinenata – pisale direktno Timu Kuku. Upozorili su ga da će, ukoliko ne odustanu od nove tehnologije, „postaviti temelje za cenzuru, praćenje i progon na globalnom nivou“.

Namere ljudi iz Epla mogu biti dobre i iskrene, međutim, one na globalnom nivou nose rizik od lančane reakcije praćenja i prisluškivanja mnogih pojedinaca, uključujući i novinare (Međunarodni institut za štampu)

Algoritam za prepoznavanje fotografija, ocenjuje se u pismu, „notorno je nepouzdan“. Organizacije upozoravaju da sistem „stavlja zastavicu“ i na zdravstvene informacije, edukativni materijal i društveno angažovane poruke, te podsećaju da je pravo dece da bezbedno razmenjuje takav sadržaj zaštićen Konvencijom UN o pravima deteta.

Dodatni problem je to što se u posebno osetljiv položaj dovode mladi iz LGBTQ+ populacije. Ocena je da Epl „podrazumeva zdrav odnos roditeljskog i dečjeg profila“ i zaboravlja sasvim realnu opciju – nasilne odrasle osobe koje ne podržavaju izbore i životne stilove članova svojih porodica.

Upućeni u tehnološke inovacije podsećaju da ideja nije nova i da se ovde ne radi samo o kompaniji Epl.

Tehnologija se donekle razlikuje, ali ideja je potpuno ista kao ona koju su već razradili Fejsbuk, Gugl i Majkrosoft. Oni takođe porede postavljene fotografije sa bazom sadržaja na kojima se pojavljuju zloupotrebljena deca, zatim izdvajaju sumnjive profile i obaveštavaju vlasti.

U autorskom tekstu u Gardijanu profesor Džon Nauton pita se da li se ovde radi samo „o igri dostizanja konkurencije“. On navodi podatak po kojem je NCMEC-u tokom 2020. godine Fejsbuk prijavio 20,3 miliona slika, dok ih je Epl prijavio 256.