Evropski parlament usvojio Zakon o veštačkoj inteligenciji

Evropska unija dve godine raspravlja o tom zakonu, koji bi mogao da stupi na snagu početkom 2025, a regulisaće svaki proizvod ili uslugu koja koristi sistem veštačke inteligencije, podseća AP.

Prvi sveobuhvatni zakon o veštačkoj inteligenciji predviđa pravila za primenu AI u uslovima raznih nivoa rizika, od minimalnog do neprihvatljivog.

Biće zabranjeni AI sistemi „neprihvatljog rizika“ koji se smatraju pretnjom jer na neprihvatljiv način po ljude analiziraju, predviđaju i utiču na društveno ponašanje ljudi.

To su sistemi „društvenog bodovanja“ koji klasifikuju ljude na osnovu ponašanja, socio-ekonomskog statusa ili ličnih karakteristika i sistemi biometrijske identifikacije u realnom vremenu i daljinski, kao što je prepoznavanje lica.

Međutim, stranke desnog centra u poslednjem trenutku su dodale amandman kojim se dozvoljava upotreba tih sistma u situacijama kao što su traganje za nestalom decom, identifikacija osumnjičenih zločinaca i sprečavanje terorističkih pretnji.

Sistemi kategorije „visokog rizika“, poput aplikacija za zapošljavanje ili za proizvode namenjene deci, suočiće se sa težim zahtevima i pravilima ograničenja koja se tiču transparentnosti i korišćenja podataka.

Zakon neće preterano ograničavati sisteme „ograničenog rizika“, kategoriju u koji će najverovatnije biti klasifikovan generator tekstova ChatGPT. Izvesno je da će sve usluge koje budu stvorene uz pomoć AI, imati posebne oznake i da će model sprečavati generisanje nezakonitog sadržaja.

Sistemi veštačke inteligencije sa „ograničenim rizikom“ treba da budu u skladu s minimalnim zahtevima za transparentnost koji bi omogućili korisnicima da donose odluke na osnovu informacija. Posle interakcije sa aplikacijama za to, korisnik može odlučiti da li želi da nastavi da je koristi.

Korisnici treba da budu obavešteni kada su u interakciji sa AI, kao i kada sistemi AI generišu ili manipulišu slikama, audio ili video sadržajem, na primer „Deepfakes“.

Po predlogu zakona, firme koje žele da u Evropi prodaju „rizične sisteme“ moraju da ispune stroge uslove i uspostave „menadžment rizika“ za svoje proizvode.

Biće provere podataka kojima se uspostavljaju zasebni programi veštačke inteligencije, a firme u obavezane da informišu korisnike takvih sistema o svrsi u koju će biti upotrebljeni njihovi podaci koje unose.

Predsednik kompanije koja je prozvela softver za veštačku inteligenciju ChatGPT Sem Altman je prilikom posete Nemačkoj upozorio na opasnost od suviše velike regulacije, ali nije ponovio ranije pretnje da popularni softver neće biti dostupan u Evropi ako njeni zakoni budu prestrogi.

Evroposlanik Rene Repasi saopštio je, međutim, da ne treba brinuti, jer je evropsko tržište, sa 450 miliona potrošača, isuviše privlačno za ponuđače veštačke inteligencije da bi ga zaobišli.

„Onaj ko ovde želi da prodaje svoju veštačku inteligenciju, mora da se ravna prema našim standardima“, kaže Repasi koji tu temu prati za evropske socijaldemokrate.

Repasi kaže da su evroposlanici u stalnom kontaktu sa američkim kolegama jer navode da EU želi da stvori „standarde koji imaju smisla, a ne one koji su u međusobnoj konkurenciji“.

Evropska unija nije veliki igrač u vrhunskom razvoju veštačke inteligencije. Tu ulogu preuzimaju SAD i Kina, ali Brisel često postavlja propise koji imaju tendenciju da postanu globalni standardi.

Prošle godine Bela kuća je objavila „Nacrt zakona o pravima za AI“ koji postavlja pet principa za sprečavanje diskriminacije i zaštitu privatnosti i sigurnosti korisnika, dok je američki Institut za standarde i tehnologiju objavio u januaru svoj okvir upravljanja rizikom od AI.

S druge strane, Velika Britanija koja je napustila EU 2020. godine, bori se za poziciju lidera u tom naprednom tehnološkom polju. Premijer Riši Sunak planira da najesen bude domaćin svetskog samita o bezbednosti veštačke inteligencije.

„Veštačka inteligencija ima neviđeni potencijal da transformiše naše živote na bolje. Ali moramo da se osiguramo da će ona biti razvijena i korišćena potpuno bezbedno“, rekao je Sunak i dodao da Britanija ne rizikuje da bude isključena iz priprema koje sprovode Evropska unija i SAD.

Jedan od tvoraca veštačke inteligencije, bivši saradnik Gugla Džefri Hinton, nedavno je u intervjuima upozoravao na opasnosti od sopstvenog proizvoda koji može da postane inteligentniji od ljudi koji su ga stvorili.

On je izneo stav da se još ne mogu sagledati promene koje AI donosi na tržište rada i da čak i oni koji razvijaju te sisteme i vodeći ljudi Majkosofta ili Gugla priznaju da više ne znaju kako tačno funkcionišeu primena veštačke inteligencije.