Subscribe
Počevši od 2. kolovoza 2026., Europska unija ulazi u novu fazu u regulaciji umjetne inteligencije pokretanjem operativne primjene Zakona o umjetnoj inteligenciji. Nadzor će biti povjeren Uredu za umjetnu inteligenciju Europske komisije, koji će surađivati s nadležnim nacionalnim tijelima kako bi osigurao usklađenost s odredbama uredbe. Istodobno će stupiti na snagu novi zahtjevi za transparentnost, osmišljeni kako bi se ojačalo povjerenje građana i poduzeća u tehnologije temeljene na umjetnoj inteligenciji te osigurao siguran razvoj i korištenje takvih sustava diljem Unije.
ZAHTJEVI ZA TRANSPARENTNOST ZA SUSTAVE UMJETNE INTELIGENCIJE
Chatbotovi i drugi konverzacijski sustavi morat će jasno obavijestiti korisnike da je sugovornik automatizirani sustav, a ne fizička osoba. Slično načelo primjenjuje se i na multimedijski sadržaj proizveden ili modificiran korištenjem tehnika umjetne inteligencije. Slike, videozapisi i audio datoteke klasificirane kao deepfakeovi moraju biti jasno identificirani kao takvi. Nadalje, sav sadržaj generiran ili izmijenjen umjetnom inteligencijom mora biti popraćen strojno čitljivim oznakama, što olakšava identifikaciju i prepoznavanje. Cilj ovih zahtjeva je ograničiti obmanu, manipulaciju i dezinformacije, omogućujući korisnicima da donose informirane odluke. Istodobno, nove odredbe tvrtkama pružaju jasnije operativne smjernice u vezi sa zahtjevima i alatima koje mogu koristiti za dokazivanje usklađenosti s uredbom.
UPRAVLJANJE SUSTAVSKIM RIZIKOM I ZABRANA NAJŠTETNIJIH PRAKSI
Uredba uvodi dodatne obveze za najnaprednije modele umjetne inteligencije, za koje se smatra da potencijalno mogu generirati sistemske rizike. Njihovi pružatelji usluga morat će usvojiti posebne mjere kako bi spriječili štetu velikih razmjera koja proizlazi iz korištenja tih tehnologija. Rizici koji se obrađuju uključuju one povezane s kemijskim, biološkim, radiološkim i nuklearnim nesrećama, gubitkom kontrole nad sustavima umjetne inteligencije, kibernetičkim napadima, zlonamjernim manipulacijama i prijetnjama temeljnim pravima. Zakonodavstvo se također bavi pitanjima koja su se nedavno pojavila u javnoj raspravi, poput rizika za europsku kibernetičku sigurnost i mogućnosti da sustavi umjetne inteligencije djeluju izvan ljudske kontrole. Istodobno, počinje provedba pravila koja zabranjuju određene prakse umjetne inteligencije koje se smatraju nespojivima s temeljnim vrijednostima Europske unije. To uključuje sustave sposobne manipulirati ponašanjem ljudi, zlonamjerno iskorištavati njihove ranjivosti ili donositi diskriminirajuće ili neopravdane procjene koje bi mogle ugroziti ostvarivanje temeljnih prava.
STRUKTURA INSTITUCIONALNOG NADZORA I ZNANSTVENA PODRŠKA
Provedba novih pravila temelji se na podjeli odgovornosti među različitim tijelima. Ured za umjetnu inteligenciju nadzire sustave koje je razvio isti pružatelj usluga kao i temeljni model umjetne inteligencije i sustave integrirane u vrlo velike online platforme ili velike tražilice određene Zakonom o digitalnim uslugama. Nadležna nacionalna tijela odgovorna su za nadzor drugih sustava umjetne inteligencije, dok Europski nadzornik za zaštitu podataka nadzire aplikacije koje koriste institucije, tijela i agencije Europske unije. Ukupna učinkovitost sustava ovisit će i o sposobnosti država članica da brzo odrede nadležna tijela i osiguraju da imaju odgovarajuće organizacijske i financijske resurse. Nadzornu aktivnost podržavat će Znanstveni panel sastavljen od šezdeset neovisnih stručnjaka iz područja umjetne inteligencije, savjetodavno tijelo koje je nedavno održalo svoj prvi sastanak. Ovu strukturu nadopunjuje imenovanje profesora Alessandra Abatea, predavača na Odjelu za računarstvo Sveučilišta u Oxfordu, za glavnog znanstvenog savjetnika Ureda za umjetnu inteligenciju. Njegova uloga uključuje podršku znanstvenim aktivnostima vezanim uz modele umjetne inteligencije opće namjene, s posebnim naglaskom na inovacije, širenje, testiranje i procese ocjenjivanja učinkovitosti.
ALATI ZA IZVJEŠĆIVANJE I VREMENSKI RASPORED ZA BUDUĆE ODREDBE
Kako bi se olakšala provedba zakonodavstva, Ured za umjetnu inteligenciju razvio je nekoliko alata za građane, tvrtke i stručnjake iz industrije. Pojedinci i pravne osobe mogu koristiti namjenski sustav za podnošenje prijava o navodnim kršenjima Zakona o umjetnoj inteligenciji od strane dobavljača pod nadležnošću Ureda. Radnici zaposleni kod dobavljača sustava ili modela umjetne inteligencije također imaju namjenski kanal za prijavu nepravilnosti putem kojeg mogu sigurno prijaviti potencijalne prekršaje. Konačno, uspostavljen je dodatni kanal za dobavljače koji razvijaju sustave temeljene na modelima umjetne inteligencije opće namjene i koji žele prijaviti bilo kakve prekršaje koje su počinili dobavljači modela koje koriste. Sve informacije prenesene putem ovih alata bit će tretirane povjerljivo. Vremenski okvir provedbe Zakona o umjetnoj inteligenciji od tada je izmijenjen AI Omnibusom. Odredbe o visokorizičnim sustavima umjetne inteligencije stupit će na snagu 2. prosinca 2027., dok će se one o visokorizičnim sustavima integriranim u regulirane proizvode primjenjivati od 2. kolovoza 2028. Ista regulatorna intervencija uvodi daljnje zabrane u vezi sa sustavima umjetne inteligencije namijenjenima proizvodnji seksualno eksplicitnog sadržaja bez pristanka i materijala koji uključuje seksualno zlostavljanje djece. Ove nove zabrane stupit će na snagu 2. prosinca 2026., postupno dovršavajući europski regulatorni okvir usmjeren na osiguranje korištenja umjetne inteligencije u skladu s načelima sigurnosti, transparentnosti i zaštite temeljnih prava.