Subscribe
Ured će nadzirati provedbu Zakona o AI
U veljači 2024. godine na snagu je stupila odluka Europske komisije kojom je unutar Opće uprave za komunikacijske mreže, sadržaj i tehnologije (DG CNECT) uspostavljen Europski ured za umjetnu inteligenciju, kao svojevrsna interna agencija unutar same Komisije. To svakako predstavlja važnu novinu i iskaz interesa EU za ovo pitanje; međutim, čini se da su njegove funkcije smanjene u usporedbi s početnim željama Europskog parlamenta, koji je predviđao stvaranje tijela koje bi moglo centralizirati primjenu svih standarda umjetne inteligencije.
Artificial Intelligence ACT: što je to i što radi
Ured će imati zadaću olakšati provedbu Zakona o umjetnoj inteligenciji, koji će – kada bude konačno odobren – predstavljati prvu svjetsku regulativu o korištenju umjetne inteligencije i koji je dio Digitalne strategije EU-a, kojom Europska unija želi osigurati pažljiviji i promišljeniji razvoj i korištenje ove nove tehnologije. Uredba je ukorijenjena u Europskoj strategiji o umjetnoj inteligenciji, koja je predstavljena još 2018., i Bijeloj knjizi o umjetnoj inteligenciji, predstavljenoj 2020., te predstavlja izbor Europske unije da prva i incizivno intervenira na tu temu, kako bi utjecala, a ne biti podvrgnut razvojnom procesu upravljanja tehnologijom.
Umjetna inteligencija (AI) danas predstavlja jedan od velikih izazova s kojima se čovječanstvo suočava, zbog svog golemog potencijala – koji neki nazivaju čak i revolucionarnim – ali i uz velike rizike. Korištenje umjetne inteligencije u područjima poput medicine, obrazovanja i inženjerstva otvara mogućnost velikih i brzih transformacija koje mogu donijeti značajna poboljšanja u životima svih nas. Međutim, potrebno je ne zanemariti opasnost za pojedince i društvo u cjelini koju korištenje takve tehnologije može imati tamo gdje nije pravilno regulirano.
Prvi zakonodavni okvir usmjeren na reguliranje umjetne inteligencije i njezine upotrebe Europska komisija predstavila je u travnju 2021., no tek su u prosincu 2023. Europski parlament i Europsko vijeće uspjeli postići privremeni dogovor.
Nakon početnog odobrenja teksta od strane Vijeća Europske unije, Europski parlament je glasovao o vlastitom prijedlogu, koji je usvojen velikom većinom, s 499 glasova za, 28 protiv i 93 suzdržana, a koji je uključivao proširenje popisa visokorizičnih aplikacija i zabranjenih AI praksi. Tekst je bio osnova za pregovore između Parlamenta, Europske komisije i Europskog vijeća.
Nacrt uredbe već sadrži prijedloge koji se odnose na izračun mogućih sankcija koje će se izreći tvrtkama koje krše pravila Bruxellesa.
Procjena rizika i načela za dobar zakon
Zakon o umjetnoj inteligenciji ima za cilj poticati razvoj umjetne inteligencije u svih 27 država članica, ali uz jasna načela i pravila koja se moraju poštivati, ne samo kako bi se spriječili i riješili potencijalni rizici koje ova nova tehnologija predstavlja u smislu sigurnosti i prava. Sustavi umjetne inteligencije koji će se smatrati opasnima za sigurnost, sredstva za život i temeljna prava europskih građana i svih ljudi (na ljestvici od 4 razine, identificirani kao “minimalni rizik”, “ograničeni rizik”, “visoki rizik” i “neprihvatljivo” rizik’) bit će zabranjeno. Rizik klasificiran kao neprihvatljiv i stoga zabranjen je, na primjer, društveni rezultat koji koristi kineska vlada; neprihvatljivom se smatra i psihološka uvjetovanost određenim oglasnim porukama. Visokim rizikom smatra se, primjerice, odabir osoblja ili operacije koje se provode uz pomoć asistirane kirurgije. Niskim rizikom smatraju se, na primjer, chatbotovi. Konačno, video igre i antispam sustavi smatraju se niskim rizikom.
Ali koje su ključne točke za donošenje dobrog, konačnog zakonodavstva? Svakako, Uredba bi se u svojoj konačnoj verziji prije svega trebala pozabaviti pitanjem sigurnosti, kako bi se postavili standardi kvalitete kako bi se spriječila šteta od zlouporabe ili mogućeg neispravnog rada AI sustava prema korisnicima. Također je važno razjasniti tko će biti zakonski odgovoran za izbore (a time i za eventualne pogreške koje učini) AI, kako bi građani bili zajamčeni u slučaju štete. Još jedan ključni čimbenik je osigurati da su izbori koje donosi umjetna inteligencija transparentni i razumljivi ljudima. Na kraju, ali ne manje važno, ništa manje važno je i pitanje privatnosti, koja se sve više pojavljuje kao ključno područje koje treba zaštititi.
Zadaci Ureda za AI
Ured će prije svega imati zadatak izraditi smjernice i smjernice koje mogu omogućiti jasno korištenje relevantnih propisa. Uredbom se jasno navodi da Ured neće zamijeniti niti na bilo koji način nadjačati posebne nadležnosti nadležnih država članica i nacionalnih tijela, već ga treba shvatiti kao tijelo za podršku i usmjeravanje.
Ured će stoga raditi na nacionalnoj i EU razini kako bi olakšao usklađivanje i provedbu zakonodavstva o umjetnoj inteligenciji, nadzirući takozvane sustave umjetne inteligencije opće namjene (GPAI), tj. sustave koji koriste umjetnu inteligenciju, i razvijajući metodologije za procjenu obrazaca upotrebe (npr. OpenAI-jev GPT-4, koji je odgovoran za chatbot ChatGPT).
Ured će također morati upravljati pravilima koja će se primjenjivati prema novoj uredbi u odnosu na sustave umjetne inteligencije koji već podliježu drugim propisima EU-a, poput Zakona o digitalnim uslugama na društvenim mrežama.
Kratak osvrt na međunarodni kontekst
Dok Europska unija radi na konačnom donošenju Uredbe o umjetnoj inteligenciji, druga međunarodna tijela također usmjeravaju svoju pozornost na potrebu kontrole razvoja i upravljanja ovom novom tehnologijom i njezinom primjenom.
Organizacija Ujedinjenih naroda za obrazovanje, znanost i kulturu (UNESCO), specijalizirana agencija Ujedinjenih naroda s ciljem promicanja mira i sigurnosti u svijetu, izdala je ‘Preporuku o etici umjetne inteligencije’ koju su usvojile sve 193 države članice. UNESCO se želio usredotočiti na četiri temeljne vrijednosti, povezane s deset općih načela koja štite ljudska bića u etičkoj uporabi umjetne inteligencije.
Na razini Ujedinjenih naroda, glavni tajnik Guterres uspostavio je odbor na visokoj razini za digitalnu suradnju kako bi omogućio konstruktivan dijalog o mogućnostima koje nudi tehnologija za unapređenje dobrobiti ljudi, uz naravno rješavanje rizika i sprječavanje štete. Neke od preporuka uključenih u „Doba digitalne međuovisnosti – Izvješće panela na visokoj razini o digitalnoj suradnji glavnog tajnika UN-a” naglašavaju potrebu za inteligentnim sustavima koji mogu objasniti svoje odluke. Još jedna tema koja se također pojavila ovdje je važnost mogućnosti jasnog identificiranja čija je odgovornost za njihovu upotrebu, u slučaju oštećenja.
Zamjenica glavnog tajnika UN-a Amina J. Mohammed u svom govoru na događaju ‘Unaprjeđenje globalnih ciljeva s umjetnom inteligencijom’ također se osvrnula na temu razvoja umjetne inteligencije, opisavši je kao jedan od najvažnijih napredaka našeg vremena, na primjer zbog njegove upotrebe koja se već koristi u određenim strateškim sektorima kao što je industrijska automatizacija. Međutim, zamjenik tajnika također je želio istaknuti rizike povezane s neetičkom i nereguliranom uporabom umjetne inteligencije, poput povećanja nejednakosti ili opasnosti od manipulacije političkim procesima i informacijama.