Subscribe
Prošle godine na razini EU-a dogovoreno je globalno zakonodavstvo bez presedana, čime je Europa postala prvi kontinent koji je uveo pravila o korištenju umjetne inteligencije – AI. Nacrt zakona Komisija je predstavila u travnju 2021., a Europski parlament usvojio ga je dvije i pol godine kasnije. Na regulatorni proces utjecala je pojava ChatGPT-a – generatora teksta koji je razvila kalifornijska tvrtka, koji je istaknuo, izvan potencijala umjetne inteligencije, rizike njegove upotrebe – a bio je potaknut zamahom fenomena dubokog lažiranja – tj. krađe identiteta , koji se oslanja na tehnologiju video manipulacije.
Obrazac teksta zakona trebao bi odobriti Europsko vijeće negdje u travnju, a potom države članice imaju dvije godine da ga provedu. Ostaje za vidjeti koliko će njih uspjeti ispoštovati rok, jer neki – primjerice Rumunjska – tek sada usvajaju nacionalne strategije umjetne inteligencije. Ali jedna je europska država preduhitrila sve – uključujući Bruxelles – i već je osnovala agenciju za nadzor umjetne inteligencije. To je slučaj u Španjolskoj, koja je počela poduzimati korake da ga uspostavi mnogo prije nego što je zakonodavstvo EU-a stupilo na snagu 2022. Stoga će AESIA – Agencia Espaniol de Supervision de la Inteligencia Artificial – osim svoje unutarnje uloge, moći pomoći tijelima u Bruxellesu da brže i učinkovitije provedu zakonodavstvo o umjetnoj inteligenciji.
Europski zakon po prvi put definira sustave visokog rizika i podvrgava ih strogim pravilima
Europsko zakonodavstvo u području umjetne inteligencije osmišljeno je oko potrebe održavanja ravnoteže između zaštite demokracije i temeljnih ljudskih prava i poticanja istraživanja i inovacija te ulaganja u to područje. Počinje od klasifikacije AI sustava prema rizicima i postupno nameće pravila prema tim rizicima, sve do potpune zabrane nekih od njih.
Drugim riječima, što je aplikacija rizičnija, to su pravila stroža. Stoga će sustavi za preporuku sadržaja ili filtri neželjene pošte imati pravila koja će se lakše pridržavati i smatrat će se “ograničenim rizikom” . Oni će u biti samo morati reći korisnicima da ih pokreće AI. Ostali sustavi “visokog rizika” stvoreni umjetnom inteligencijom bit će podvrgnuti strožoj kontroli. Medicinski uređaji, primjerice, morat će pružati kvalitetnije podatke i morat će pružati jasne informacije korisnicima.
Određene upotrebe nekih od ovih “sustava visokog rizika”, posebno onih koji se oslanjaju na biometrijsko prepoznavanje, kao što su društvene ocjene koje reguliraju ponašanje ljudi, prepoznavanje emocija u školi ili na radnom mjestu, pa čak i neke vrste prediktivne policije, u potpunosti su zabranjene . Kineski sustavi za prepoznavanje lica također spadaju u ovu kategoriju, što je u suprotnosti s načelima liberalnih demokracija. Ali čak iu demokraciji potrebne su neke iznimke za teška kaznena djela poput otmice ili terorizma. U tim će slučajevima biti dopušteno skeniranje lica ljudi u javnosti korištenjem sustava daljinske biometrijske identifikacije.
Paketom zakona o umjetnoj inteligenciji predviđen je nadzor nad primjenom tih pravila, uz osnivanje ureda pri Europskoj komisiji. Također postoje velike novčane kazne za tvrtke koje se ne pridržavaju, procjenjuju se na 7% prometa ili 35 milijuna eura. Ovo europsko zakonodavstvo velika je pobjeda u borbi protiv opasnosti neodgovornog korištenja tehnologija temeljenih na umjetnoj inteligenciji i veliki korak naprijed u usporedbi s inozemnim pristupom. U SAD-u, sigurnost na terenu oslanja se na zajedničku predanost velikih kompanija na tom području – uključujući Google, Meta, Amazon, Microsoft i OpenIA – da provedu mjere za označavanje sadržaja generiranog umjetnom inteligencijom.
Rumunjska se ubacuje u rat protiv lažnog lažiranja prijedlogom zakona koji ga ne zabranjuje
Regulacija ovog područja tim je važnija što je tehnologija videomanipulacije sve sofisticiranija i dostupnija javnosti. Deep faking, izvorno korišten za stvaranje pornografskog sadržaja bez pristanka, u samo je nekoliko godina postao moćno oružje dezinformiranja i manipulacije javnim mnijenjem. Stoga u cijelom europskom političkom spektru postoji opravdan strah da bi se tehnologija temeljena na umjetnoj inteligenciji mogla koristiti u klevetničkim kampanjama, za utjecaj na izborne kampanje ili za nametanje važnih političkih mjera. Među prvim osobama koje su postale žrtve takve prakse bili su bivši američki predsjednici Barack Obama i Donald Trump, a među žrtvama su i pokojna kraljica Elizabeta II i papa Franjo. U novije vrijeme, duboki lažnjak je također pogodio europsku periferiju, s lažiranim slikama moldavske predsjednice Maie Sandu koja kruži internetom.
U pozadini zabrinutosti oko borbe protiv dubinskog lažiranja, u Rumunjskoj – zemlji koja trenutačno nema nacionalnu strategiju umjetne inteligencije – pojavio se nacrt zakona koji ne zabranjuje takve slike, već samo zahtijeva označavanje takvih slika. Prema inicijatorima, “javnost mora biti upoznata s lažnim sadržajima” . Do sada nacrt zakona nije niti usvojen niti odbijen.
Vlada u Bukureštu još nema strategiju umjetne inteligencije
Ministarstvo digitalizacije nedavno je predstavilo ažuriranu verziju nacrta strategije umjetne inteligencije za 2019. godinu. Kako bi pokazao da se ozbiljno bavi svojim poslom, pročelnik za digitalizaciju pripremio je i Odluku kojom će strategiju usvojiti Vlada. Usvajanje je prvotno bilo planirano za 2020., a od tada pa sve do danas, osnovan je odbor za AI koji je prikupljao “inicijative na terenu”, bilo je konzultacija s tvrtkama i istraživačkim subjektima, čak je postojala i zajednička radna skupina ministarstvo sa sveučilištem (Tehničko sveučilište u Cluju, gradu koji je postao glavni stožer IT razvoja u Rumunjskoj) i, konačno, Ministarstvo istraživanja razvilo je “strateški okvir”. Nakon nekoliko promjena nositelja portfelja u prošlim vladama u Bukureštu, projekt je prošle godine preuzeo mladi ministar za digitalizaciju Bogdan Ivan.
Prilikom predstavljanja strategije ranije ove godine, dao je jamstva da dokument uključuje prijedloge rumunjskog Odbora za umjetnu inteligenciju, koji je pak uzeo u obzir rezultate konzultacija sa stručnjacima. Ukratko, cilj strategije bio bi “zaštititi prava Rumunja u online okruženju” . Istodobno je rumunjski ministar istaknuo kako je strategija inspirirana “konkretnim akcijama” predloženim na razini EU-a, ali je “čvrsto ukorijenjena u specifične stvarnosti i potrebe rumunjskog konteksta”.
Objašnjenje za ovo usidrenje u “rumunjskim potrebama” je da je rumunjska strategija u umjetnoj inteligenciji razvijena na … Europska sredstva, dobivena za provedbu „Strateškog okvira za usvajanje i korištenje inovativnih tehnologija u javnoj upravi 2021.-2027.“ , financiranog iz Operativnog programa EU za upravnu sposobnost 2014.-2020.
Rumunjski “izvanredni” rezultati “dostignuća” u području spremnosti u implementaciji AI tehnologija u vladi zabilježeni su u Oxford Insights Indexu, u kojem je Rumunjska na 64. mjestu u svijetu i posljednjem u istočnoj Europi. Regija je u tom pogledu daleko iza Zapadne Europe, prema ljestvici koju je sastavila britanska tvrtka koja savjetuje vlade i tvrtke o mogućnostima umjetne inteligencije. U izvješću, koje promatra 193 zemlje, tri zemlje članice EU-a u zapadnoj Europi su među prvih 10, predvođene SAD-om – Francuska (6.), Njemačka (8.) i Nizozemska (10.).
Španjolska lekcija o tome kako jedna država članica može pružiti konkretnu pomoć u provedbi zakonodavstva na razini cijele EU
Jedna od zemalja koja stoji mnogo bolje od ostalih članica EU bloka je, kao što je već spomenuto, Španjolska. Iako je na ovoj ljestvici 17 mjesta iza posljednje u top 10, na 27. mjestu, Španjolska je prva zemlja EU-a koja je već uspostavila agenciju s ulogom u donošenju zakona o umjetnoj inteligenciji. Već ima ured u A Coruni, financijskom i industrijskom središtu Galicije. Također ima početni proračun od 5 milijuna eura i 23 zaposlenika, s planovima za povećanje broja zaposlenih ove godine, prema madridskoj vladi.
AESIA će biti ključni igrač u upravljanju i vođenju španjolskog ekosustava umjetne inteligencije i do stupanja na snagu europskog zakonodavstva provodit će dobrovoljni nadzor nad tim područjem, povezujući se s europskim ekosustavom i generirajući redovita testna okruženja za visokorizične AI sustave. Stoga je AESIA već započela rad s sandboxom namijenjenim španjolskim tvrtkama. Sandboxes su testna okruženja čija je svrha pokazati kako nešto – na primjer tehnologija – može funkcionirati prije pokretanja. Ali oni su također korisni za zakonodavstvo. A AESIA će upravo to učiniti, dati zaključke praktičnih vježbi koje će olakšati moguće izmjene zakonodavstva prije implementacije.