Europska komisija (EK) 21. travnja predložila je niz pravila koja bi bila prvi svjetski projekt sveobuhvatne regulacije umjetne inteligencije (AI). Do sada su se pojedinačne norme usvajale samo na nacionalnoj razini (npr. definicija računalno generiranog djela u zakonodavstvu Ujedinjenog Kraljevstva ili zahtjev njemačkog zakona da vozač mora biti prisutan u autonomnom vozilu). Zemlje EU češće koriste političke dokumente, poput strategija za umjetnu inteligenciju (Francuska, Estonija, Poljska, Njemačka, između ostalih). Slijedom Opće uredbe o zaštiti podataka (GDPR), Unija ponovno ima priliku postaviti globalni normativni standard. Cilj je uredbe osigurati poštivanje etike, sigurnosti, vrijednosti EU-a i temeljnih prava u stvaranju umjetne inteligencije. Utvrđivanje pravne sigurnosti trebalo bi potaknuti ulaganja i razvoj umjetne inteligencije u EU, ojačati konkurentnost Unije i zaštititi njezinu digitalnu suverenost.
Nacrt predviđa usklađena pravila za razvoj, marketing i uporabu umjetne inteligencije u EU. Temelji se na podjeli sustava AI na neprihvatljive, visoke, niske i minimalne varijante rizika. Prva kategorija odnosi se na sustave koji koriste subliminalne tehnike namijenjene utjecaju na ponašanje osobe na štetan način ili koriste socijalno bodovanje. Projekt regulira najopsežnije sustave umjetne inteligencije s visokim rizikom, koji djeluju, na primjer, u područjima prometa, procjenu zahtjeva za zajam ili odluku o dodjeli socijalnih naknada. AI sustavi morat će ispuniti brojne zahtjeve, uključujući odgovarajuće ispitivanje, procjenu usklađenosti s EU standardima, registraciju u bazu podataka EU-a i pravilnu brigu o korisničkim podacima. Te će se obveze odnositi na proizvođače i dobavljače AI sustava, bez obzira imaju li sjedište u Uniji ili izvan nje, kao i na korisnike takvih sustava unutar EU. U slučaju ostalih AI sustava (npr. Chatbotova), prijedlog prvenstveno stvara obvezu informiranja korisnika da komuniciraju s AI.
Za nepoštivanje propisa predložiti će se još veća kazna nego u slučaju GDPR-a - do 6% ukupnog godišnjeg prometa tvrtke u svijetu. U državama članicama odgovornost za provedbu uredbe odredit će nacionalna tijela. Na razini EU-a, ti će nacionalni nadzornici formirati Europski odbor za umjetnu inteligenciju (EAIB) s Europskim nadzornikom za zaštitu podataka (EDPS), kojim će predsjedati Komisija. Zadatak EAIB-a bit će savjetovanje EK i koordinacija aktivnosti tijela AI država članica. Nacrt podržava EDPS, iako inzistira na još strožem pristupu. Iako se nekoliko država članica, na primjer, Njemačka, zalažu za široku regulativu, mnoge se plaše usporavanja tehnološkog razvoja. U EU 14 zemalja podržava ograničavanje propisa o inteligenciji na nužni minimum ili upotrebu neobvezujućih instrumenata.
Prijedlog sadrži mnoga izuzeća i neprecizne definicije. Na primjer, zabrana biometrijske identifikacije u stvarnom vremenu odnosi se samo na agencije za provođenje zakona u javnim prostorima. Stoga neće pokrivati privatne prostore i druga javna tijela ili privatne subjekte. Štoviše, neće se primjenjivati kada se sustav koristi za suzbijanje terorizma ili prijetnje životu ili sigurnosti ljudi, što ostavlja puno prostora za tumačenje.
Kategorizaciju rizika pripremila je EK, ali kriteriji nisu izričiti. Na primjer, metoda procjene rizika uključuje procjenu na temelju primjenjivosti, koja je nejasna. Budući da se modeli mogu prilagoditi bilo kojoj aplikaciji, ocjenjivači imaju puno sive zone kako bi opravdali svako mišljenje. To bi moglo stvoriti nestabilne uvjete za razvoj AI, jer EK može slobodno ažurirati kategorije rizika, što utječe na buduće primjene. Na primjer, takozvani sustavi crne kutije - koji funkcioniraju bez ljudskog unosa - kvalificirani su kao visoko rizični. U 'normalnim' modelima naveden je algoritam po kojem model treba učiti. U ovom slučaju, AI neovisno definira varijable i njihove težine, poput podataka koje treba izostaviti (dok sustav donosi vlastite odluke, teško je, ako ne i nemoguće, izvana odrediti koje su varijable korištene, kako, i zašto). Oni su vrlo učinkoviti (prikladni svrsi), ali ne udovoljavaju zahtjevima analize rizika. Njihova kvalifikacija značajno je ograničenje inovacija u EU. Iako prijedlog polaže primat pojedinaca nad tehnologijom, on ne uzima u obzir perspektivu korisnika AI sustava. Konkretno, ne postoje posebni pravni lijekovi, na primjer, poseban mehanizam za podnošenje zahtjeva za naknadu kao rezultat neovlaštenog ili nepredviđenog rada sustava AI.
Poštovani, za čitanje cijelog ovog teksta morate biti pretplatnik.
