Usvojen AI akt: Ljudska prava ostala u drugom planu

Akt o veštačkoj inteligenciji (AI Act) koji će se direktno primenjivati u svim članicama Evropske unije, usvojen je u sredu, 13. marta, ogromnom većinom glasova poslanika Evropskog parlamenta. Na jednoj od poslednjih sesija pred izlazak građana Unije na izbore u junu, za usvajanje regulative glasalo je 523 evroparlamentaraca (od 618 prisutnih), protiv je bilo 46, a uzdržanih 49. Evropski parlament ima 705 poslanika.

AI Akt reguliše sisteme koji generišu sadržaj, predikcije, preporuke ili odluke koje utiču na okruženja – uključujući alate za interakciju sa ljudima, pametne sisteme za nadzor ili aplikacije koje se mogu koristiti za generisanje tzv. deepfake sadržaja (sintetički mediji). Ovakvi sistemi veštačke inteligencije se novim pravilima klasifikuju prema visini rizika, od minimalnog do nedopustivog (zabranjenog), dok su javnim i privatnim akterima koji ih proizvode ili koriste propisane odgovarajuće obaveze. Kazne se kreću i do 35 miliona evra ili 7% globalnog prometa, ukoliko je taj procenat veći.

U završnim etapama usaglašavanja teksta zakona, između ostalog, definisanje opsega visokog i nedopustivog rizika bilo je predmet žestokih sporova, posebno kad je reč o primeni u oblastima kao što su policija, sudstvo, upravljanje granicama, kritična infrastruktura i bezbednost proizvoda.

Uz prigodne čestitke za ogroman zakonodavni posao obavljen uprkos snažnom lobiranju industrije i konzervativnih političara, u prvim reakcijama na vest o usvajanju regulative ističe se da interes građana ipak nije stavljen na prvo mesto. Kako se navodi, uvođenjem dvostrukih standarda za policiju i službe bezbednosti, zakonodavci su ostavili previše rupa u propisu i dovoljno mogućnosti za kršenje ljudskih prava.

Međunarodna organizacija za digitalna prava Access Now upozorila je da neke od najopasnijih primena veštačke inteligencije nisu označene kao nedopustiv rizik, odnosno nisu zabranjene, uključujući sisteme koji omogućavaju masovni biometrijski nadzor i prediktivne policijske sisteme. Takođe se navodi da su bezbednosne službe izuzete od zahteva za transparentnošću u primeni visokorizičnih AI sistema, dok je sam pravni izuzetak nacionalne bezbednosti širi od onog propisanog temeljnim dokumentima EU.

Access Now i srodne organizacije kritikuju stvaranje posebnog pravnog režima za ljude u pokretu – migrante, tražioce azila, ljude bez dokumenata, što ih lišava mnogih prava i ostavlja gotovo bez pristupa pravnoj zaštiti u slučaju kršenja.

Organizacija posvećena slobodi govora i informisanja, Article 19, u svom saopštenju ističe da regulativa ne zabranjuje tehnologije za prepoznavanje emocija koje su, kako se navodi, u osnovi nespojive sa poštovanjem ljudskih prava. Takođe se ističe zabrinutost zbog činjenice da nije zabranjena upotreba sistema za biometrijsku identifikaciju na daljinu u realnom vremenu na javnim mestima.

Reporteri bez granica su upozorili da AI Akt kao temeljni zakon propušta da zaštitom obuhvati pravo na informisanje, budući da algoritme koji se koriste u proizvodnji i distribuciji informacija ne klasifikuje kao visokorizične, što bi nametnulo ispunjavanje strožih zahteva pre njihovog plasiranja na tržište.

Očekuje se da će zakon biti objavljen u službenom glasniku EU u maju, pošto se novim glasanjem ili formalnom odlukom potvrde manje jezičke izmene unete tokom prevoda teksta na jezike zemalja-članica.

Pažnja se sada okreće ka članicama EU, koje treba da odrede institucije nadležne za primenu regulative. Španija je prošlog septembra prva osnovala posebno kontrolno telo (Agencia Española de Supervisión de la Inteligencia Artificial, AESIA), dok se pojedine članice, poput Holandije, opredeljuju za posebna odeljenja unutar već postojećih službi za zaštitu podataka. Druge su zasad samo odredile sektor u vladi kojem je poverena izrada nacionalnog plana za implementaciju AI Akta.

Na nivou Evropske unije, osnovana je evropska kancelarija za AI koja je početkom marta već uputila poziv zainteresovanim kandidatima za radna mesta.