Subscribe
Od 2. srpna 2026 vstoupí Evropská unie do nové fáze regulace umělé inteligence, a to se zahájením praktického uplatňování zákona o umělé inteligenci (AI Act). Dohled bude svěřen Úřadu pro umělou inteligenci při Evropské komisi, který bude spolupracovat s příslušnými vnitrostátními orgány s cílem zajistit dodržování ustanovení tohoto nařízení. Zároveň vstoupí v platnost nové požadavky na transparentnost, jejichž cílem je posílit důvěru občanů a podniků v technologie založené na umělé inteligenci a zajistit bezpečný vývoj a používání těchto systémů v celé Unii.
POŽADAVKY NA TRANSPARENTNOST SYSTÉMŮ UMĚLÉ INTELIGENCE
Chatboty a další konverzační systémy budou muset uživatele jasně informovat o tom, že jejich partnerem v konverzaci je automatizovaný systém, a nikoli fyzická osoba. Podobný princip platí i pro multimediální obsah vytvořený nebo upravený s využitím technik umělé inteligence. Obrázky, videa a zvukové soubory klasifikované jako deepfakes musí být jasně označeny jako takové. Kromě toho musí být veškerý obsah generovaný nebo upravený umělou inteligencí opatřen strojově čitelnými značkami, které usnadní jeho identifikaci a rozpoznání. Cílem těchto požadavků je omezit klamání, manipulaci a dezinformace a umožnit tak uživatelům činit informovaná rozhodnutí. Zároveň nová ustanovení poskytují společnostem jasnější provozní pokyny ohledně požadavků a nástrojů, které mohou použít k prokázání souladu s nařízením.
ŘÍZENÍ SYSTÉMOVÉHO RIZIKA A ZÁKAZ NEJŠKODLIVĚJŠÍCH PRAKTIK
Nařízení zavádí dodatečné povinnosti pro nejpokročilejší modely umělé inteligence, u nichž se předpokládá, že mohou představovat systémová rizika. Jejich poskytovatelé budou povinni přijmout konkrétní opatření, aby zabránili rozsáhlým škodám vyplývajícím z používání těchto technologií. Mezi řešená rizika patří rizika související s chemickými, biologickými, radiologickými a jadernými haváriemi, ztrátou kontroly nad systémy umělé inteligence, kyberútoky, zlovolnou manipulací a ohrožením základních práv. Právní předpis se rovněž zabývá otázkami, které se v poslední době objevily ve veřejné debatě, jako jsou rizika pro evropskou kyberbezpečnost a možnost, že by systémy umělé inteligence fungovaly mimo lidskou kontrolu. Zároveň začíná uplatňování pravidel zakazujících určité praktiky v oblasti umělé inteligence, které jsou považovány za neslučitelné se základními hodnotami Evropské unie. Patří mezi ně systémy schopné manipulovat s chováním lidí, zlovolně zneužívat jejich zranitelnosti nebo provádět diskriminační či neopodstatněná hodnocení, která by mohla ohrozit výkon základních práv.
STRUKTURA INSTITUCIONÁLNÍHO DOHLEDU A VĚDECKÁ PODPORA
Uplatňování nových pravidel je založeno na rozdělení odpovědností mezi různé orgány. Úřad pro umělou inteligenci dohlíží na systémy vyvinuté stejným poskytovatelem jako základní model umělé inteligence a na systémy integrované do velmi velkých online platforem nebo velkých vyhledávačů určených podle zákona o digitálních službách. Příslušné vnitrostátní orgány jsou odpovědné za dohled nad ostatními systémy umělé inteligence, zatímco Evropský inspektor ochrany údajů dohlíží na aplikace používané institucemi, orgány a agenturami Evropské unie. Celková účinnost systému bude záviset také na schopnosti členských států včas určit příslušné orgány a zajistit, aby disponovaly odpovídajícími organizačními a finančními zdroji. Dozorovou činnost bude podporovat vědecký panel složený ze šedesáti nezávislých odborníků v oblasti umělé inteligence, což je poradní orgán, který nedávno uspořádal své první zasedání. Tuto strukturu doplňuje jmenování profesora Alessandra Abateho, přednášejícího na katedře informatiky Oxfordské univerzity, do funkce hlavního vědeckého poradce Úřadu pro umělou inteligenci. Jeho úkolem je podporovat vědecké činnosti související s modely umělé inteligence pro všeobecné účely, se zvláštním zaměřením na inovace, šíření, testování a procesy hodnocení výkonu.
NÁSTROJE PRO VYKAZOVÁNÍ A ČASOVÝ PLÁN PRO BUDOUCÍ USTANOVENÍ
Za účelem usnadnění prosazování právních předpisů vyvinul Úřad pro umělou inteligenci několik nástrojů pro občany, podniky a odborníky z oboru. Fyzické i právnické osoby mohou využít specializovaný systém k podávání oznámení o údajných porušeních zákona o umělé inteligenci ze strany dodavatelů spadajících do působnosti úřadu. Zaměstnanci dodavatelů systémů nebo modelů umělé inteligence mají rovněž k dispozici specializovaný kanál pro oznamování podezření, prostřednictvím kterého mohou bezpečně nahlásit potenciální porušení předpisů. Konečně byl zřízen další kanál pro dodavatele vyvíjející systémy založené na modelech umělé inteligence pro všeobecné účely, kteří chtějí nahlásit jakákoli porušení spáchaná dodavateli modelů, které používají. Veškeré informace předané prostřednictvím těchto nástrojů budou považovány za důvěrné. Harmonogram provádění zákona o umělé inteligenci byl mezitím pozměněn balíčkem AI Omnibus. Ustanovení týkající se vysoce rizikových systémů umělé inteligence vstoupí v platnost 2. prosince 2027, zatímco ustanovení týkající se vysoce rizikových systémů integrovaných do regulovaných výrobků budou platit od 2. srpna 2028. Stejný regulační zásah zavádí další zákazy týkající se systémů umělé inteligence určených k výrobě sexuálně explicitního obsahu bez souhlasu a materiálu zahrnujícího sexuální zneužívání dětí. Tyto nové zákazy vstoupí v platnost od 2. prosince 2026 a postupně tak doplní evropský regulační rámec zaměřený na zajištění používání umělé inteligence v souladu se zásadami bezpečnosti, transparentnosti a ochrany základních práv.