Subscribe
Vznik pokročilých modelů umělé inteligence zásadně mění situaci v oblasti kyberbezpečnosti a přináší bezprecedentní příležitosti, ale také nové formy rizik. Na jedné straně tyto technologie zlepšují schopnost odhalovat zranitelná místa, urychlují identifikaci hrozeb a posilují odolnost digitálních infrastruktur. Na druhé straně mohou být tytéž nástroje zneužity k automatizaci kybernetických útoků, odhalování slabých míst systémů a ke zvýšení rychlosti a rozsahu kybernetických incidentů. V reakci na tuto situaci vypracovala Evropská komise akční plán zaměřený na vybudování koordinované reakce na rizika a příležitosti vyplývající z pokročilé umělé inteligence uplatňované v oblasti kybernetické bezpečnosti. Do této iniciativy jsou zapojeny členské státy, evropské instituce a průmyslový sektor s cílem posílit bezpečnost evropského digitálního ekosystému prostřednictvím integrovaného přístupu založeného na spolupráci, technologických inovacích a společném regulačním rámci.
HODNOCENÍ A EVROPSKÝ REGULAČNÍ RÁMEC
Jedním z klíčových prvků této strategie je preventivní hodnocení pokročilých modelů umělé inteligence. Pravidla zavedená zákonem o umělé inteligenci (AI Act) vyžadují, aby tyto systémy před uvedením na evropský trh prošly analýzou rizik a byla u nich přijata vhodná opatření ke snížení rizik. Za účelem konsolidace nezávislých odborných znalostí v této oblasti bude Komise podporovat vytvoření evropské organizace zaměřené na hodnocení modelů umělé inteligence, se zvláštním důrazem na aspekty kyberbezpečnosti. Tato infrastruktura, která by měla být zprovozněna do roku 2027, posílí nezávislá hodnocení schopností a rizik umělé inteligence na mezinárodní úrovni a podpoří regulační činnost Úřadu pro umělou inteligenci. Tato iniciativa je součástí již tak komplexního regulačního rámce. Kromě zákona o umělé inteligenci, jehož ustanovení týkající se pokročilých modelů vstoupí do fáze plného provádění dne 2. srpna 2026, a spolu s Kodexem chování pro umělou inteligenci evropská strategie vychází ze zákona o kybernetické odolnosti, který do konce roku 2027 zavede zásadu „bezpečnost již od návrhu“ pro hardware a software; směrnici NIS2 na ochranu kritických odvětví; zákon o digitální operační odolnosti pro finanční sektor; a zákon o kybernetické solidaritě, jehož cílem je posílit schopnosti Evropy v oblasti prevence, přípravy a reakce na rozsáhlé kybernetické útoky.
PŘÍSTUP K POKROČILÝM TECHNOLOGIÍM A BEZPEČNÉMU VÝZKUMU
Dalším cílem plánu je vytvořit transparentní a strukturované podmínky pro přístup k nejmodernějším systémům umělé inteligence. Za tímto účelem bude Komise spolupracovat s Agenturou Evropské unie pro kyberbezpečnost (ENISA) na vypracování evropského modelu upravujícího přístup k schopnostem umělé inteligence v oblasti kyberbezpečnosti, který umožní veřejným i soukromým organizacím využívat tyto nástroje v souladu se společnými kritérii. Souběžně s tím vyvinou agentura ENISA a Společné výzkumné středisko Komise bezpečnou platformu určenou k testování umělé inteligence aplikované v oblasti kyberbezpečnosti. Simulovaná prostředí umožní testování chování systémů a šíření odborných znalostí o bezpečném využívání umělé inteligence mezi provozovateli ve strategických odvětvích, jako jsou energetika, doprava, zdravotnictví, finance a veřejná správa.
POSÍLENÍ ODOLNOSTI EVROPY A ZVÝŠENÍ NÁRODNÍCH KAPACIT
Plán klade zvláštní důraz na ochranu kritické infrastruktury Evropy, která je považována za obzvláště náchylnou k zranitelnostem vyplývajícím ze zneužití umělé inteligence. Organizace jsou proto vyzývány k posílení postupů v oblasti kybernetické hygieny, činností v oblasti řízení rizik a k přijetí zásady „bezpečnost již od návrhu“. Současně se podporuje využívání stávajících schopností umělé inteligence, včetně modelů s otevřeným zdrojovým kódem, s cílem urychlit identifikaci a nápravu zranitelností a zlepšit prevenci a reakci na kybernetické útoky. V této souvislosti je obzvláště zřejmý význam zachování silné národní kapacity pro ovlivňování digitálních politik. Ačkoli je evropská koordinace nezbytná pro řešení nadnárodních hrozeb, musí si každý členský stát zachovat autonomní technologickou odbornost, rozhodovací schopnosti a průmyslové nástroje k ochraně své národní bezpečnosti. Dostupnost vlastních odborných znalostí umožňuje ochranu klíčové infrastruktury, snížení vnější technologické závislosti a rychlý zásah v případě kybernetické krize. Investice do národního rozvoje nových technologií zároveň slouží jako páka pro průmyslovou politiku, podporují růst inovativních podniků, přitahují investice, rozvíjejí vysoce kvalifikovaný lidský kapitál a posilují hospodářskou konkurenceschopnost. Schopnost aktivně přispívat k utváření evropských digitálních politik je proto nejen otázkou bezpečnosti, ale také nezbytnou podmínkou pro zajištění dlouhodobého hospodářského rozvoje, inovací a strategické autonomie.