Zřízení úřadu EU pro umělou inteligenci

Úřad bude dohlížet na provádění zákona o umělé inteligenci.

V únoru 2024 vstoupilo v platnost rozhodnutí Evropské komise, kterým byl v rámci Generálního ředitelství pro komunikační sítě, obsah a technologie (DG CNECT) zřízen Evropský úřad pro umělou inteligenci jako jakási interní agentura v rámci samotné Komise. Je to jistě důležitá novinka a projev zájmu EU o tuto problematiku, nicméně jeho funkce se zdají být omezené oproti původním přáním Evropského parlamentu, který předpokládal vytvoření orgánu, který by mohl centralizovat uplatňování všech norem v oblasti umělé inteligence.

Umělá inteligence ACT: co je a co dělá

Úřad bude mít za úkol usnadnit provádění zákona o umělé inteligenci, který bude – až bude konečně schválen – představovat první nařízení o používání umělé inteligence na světě a který je součástí digitální strategie EU, jejímž prostřednictvím chce Evropská unie zajistit pečlivější a uvážlivější rozvoj a využívání této nové technologie. Nařízení vychází z evropské strategie pro umělou inteligenci, která byla předložena v roce 2018, a z bílé knihy o umělé inteligenci, která byla předložena v roce 2020, a představuje rozhodnutí Evropské unie zasáhnout do tohoto tématu jako první a důrazně, aby ovlivnila proces vývoje řízení této technologie a nepodléhala mu.

Umělá inteligence (AI) dnes představuje jednu z největších výzev, kterým lidstvo čelí, a to díky svému obrovskému potenciálu, který někteří označují dokonce za revoluční, ale také díky velkým rizikům. Využití umělé inteligence v oborech, jako je medicína, vzdělávání a inženýrství, otevírá možnost velkých a rychlých změn, které mohou přinést výrazné zlepšení života nás všech. Je však třeba nepřehlédnout nebezpečí, které může používání těchto technologií znamenat pro jednotlivce i celou společnost, pokud není řádně regulováno.

První legislativní rámec zaměřený na regulaci umělé inteligence a jejího využívání předložila Evropská komise v dubnu 2021, ale teprve v prosinci 2023 se Evropskému parlamentu a Evropské radě podařilo dosáhnout předběžné dohody.

Poté, co Rada Evropské unie text původně schválila, hlasoval Evropský parlament o svém vlastním návrhu, který byl přijat velkou většinou hlasů (499 hlasů pro, 28 proti a 93 se zdrželo hlasování) a který obsahoval rozšíření seznamu vysoce rizikových aplikací a zakázaných praktik v oblasti UI. Text byl základem pro jednání mezi Parlamentem, Evropskou komisí a Evropskou radou.

Návrh nařízení již obsahuje návrhy týkající se výpočtu možných sankcí ukládaných společnostem, které porušují pravidla stanovená Bruselem.

Hodnocení rizik a zásady správného práva

Cílem Aktu o umělé inteligenci je podpořit rozvoj umělé inteligence ve všech 27 členských státech, avšak s jasnými zásadami a pravidly, která musí být dodržována, a to i s cílem předcházet potenciálním rizikům, která tato nová technologie představuje z hlediska bezpečnosti a práv, a řešit je. Systémy umělé inteligence, které budou považovány za nebezpečné pro bezpečnost, živobytí a základní práva evropských občanů a všech lidí (na čtyřstupňové škále označené jako „minimální riziko“, „omezené riziko“, „vysoké riziko“ a „nepřijatelné riziko“), budou zakázány. Riziko klasifikované jako nepřijatelné, a tedy zakázané, je například sociální skóre používané čínskou vládou; za nepřijatelné je považováno také psychologické podmiňování prováděné určitými reklamními sděleními. Za vysoce rizikové se považuje například výběr personálu nebo operace prováděné pomocí asistované chirurgie. Za nízké riziko se považují například chatboti. Videohry a antispamové systémy jsou považovány za nízké riziko.

Jaké jsou však rozhodující body pro přijetí dobrých a konečných právních předpisů? Nařízení by se ve své konečné verzi mělo určitě zabývat především otázkou bezpečnosti, aby se stanovily normy kvality, které by zabránily škodám způsobeným zneužitím nebo možným selháním systémů umělé inteligence vůči uživatelům. Je také důležité vyjasnit, kdo bude právně odpovědný za volby (a tedy i za případné chyby) umělé inteligence, aby bylo možné občanům zaručit, že v případě škody dojde k poškození. Dalším klíčovým faktorem je zajistit, aby volby prováděné umělou inteligencí byly transparentní a srozumitelné pro člověka. V neposlední řadě je neméně důležitá otázka soukromí, která se stále více jeví jako klíčová oblast, kterou je třeba chránit.

Úkoly Úřadu pro umělou inteligenci

Úřad bude mít především za úkol vypracovat pokyny a směrnice, které mohou usnadnit jasné používání příslušných právních předpisů. Nařízení jasně stanoví, že Úřad nenahrazuje ani nijak neruší konkrétní pravomoci členských států a příslušných vnitrostátních orgánů, ale měl by být chápán jako podpůrný a řídící orgán.

Úřad proto bude na vnitrostátní úrovni a na úrovni EU pracovat na usnadnění harmonizace a prosazování právních předpisů v oblasti umělé inteligence, monitorovat tzv. systémy umělé inteligence pro všeobecné účely (GPAI), tj. systémy využívající umělou inteligenci, a vyvíjet metodiky pro hodnocení vzorců používání (např. GPT-4 společnosti OpenAI, která je odpovědná za chatbota ChatGPT).

Úřad bude muset rovněž řídit pravidla, která se budou podle nového nařízení uplatňovat na systémy umělé inteligence, které již podléhají jiným předpisům EU, jako je zákon o digitálních službách v oblasti sociálních médií.

Stručný přehled mezinárodních souvislostí

Zatímco Evropská unie pracuje na konečném přijetí nařízení o umělé inteligenci, další mezinárodní orgány zaměřují svou pozornost na potřebu kontroly vývoje a řízení této nové technologie a jejího používání.

Organizace spojených národů pro výchovu, vědu a kulturu (UNESCO), která je specializovanou agenturou OSN a jejímž cílem je podporovat mír a bezpečnost ve světě, vydala „Doporučení o etice umělé inteligence“, které přijalo všech 193 členských států. UNESCO se chtělo zaměřit na čtyři základní hodnoty spojené s deseti obecnými zásadami, které chrání člověka při etickém využívání UI.

Na úrovni OSN zřídil generální tajemník Guterres výbor na vysoké úrovni pro digitální spolupráci, který má usnadnit konstruktivní dialog o možnostech, jež technologie nabízejí pro rozvoj lidského blahobytu, a zároveň samozřejmě řešit rizika a předcházet škodám. Některá z doporučení obsažených ve zprávě „Věk digitální vzájemné závislosti – zpráva panelu generálního tajemníka OSN na vysoké úrovni o digitální spolupráci“ zdůrazňují potřebu inteligentních systémů, které dokáží vysvětlit svá rozhodnutí. Dalším tématem, které se zde také objevilo, je důležitost schopnosti jasně určit, kdo je zodpovědný za jejich použití v případě škody.

Náměstkyně generálního tajemníka OSN Amina J. Mohammedová se ve svém projevu na akci „Pokrok v plnění globálních cílů pomocí umělé inteligence“ rovněž věnovala tématu rozvoje umělé inteligence a označila ji za jeden z nejdůležitějších pokroků současnosti, například proto, že se již využívá v některých strategických odvětvích, jako je průmyslová automatizace. Náměstek ministra však chtěl také upozornit na rizika spojená s neetickým a neregulovaným využíváním umělé inteligence, jako je nárůst nerovnosti nebo nebezpečí manipulace s politickými procesy a informacemi.