Subscribe
Plán EU na skenování soukromých zpráv pomocí umělé inteligence vyvolal ostrou debatu o ochraně dětí, soukromí a budoucnosti digitálních práv
Evropská unie se chystá učinit jedno ze svých nejdůležitějších rozhodnutí v oblasti digitální bezpečnosti. Návrh známý jako „kontrola chatu“ by mohl brzy umožnit, aby soukromé zprávy odesílané prostřednictvím platforem, jako jsou WhatsApp, Telegram a Signal, byly před zašifrováním automaticky kontrolovány umělou inteligencí. Devatenáct členských států již vyjádřilo podporu, a pokud Německo odevzdá svůj rozhodující hlas pro, opatření by mohlo vstoupit v platnost 14. října 2025.
Cílem iniciativy je chránit nezletilé před zneužíváním na internetu, což je priorita, kterou by žádný politik otevřeně neodmítl. Přesto navrhovaný mechanismus vyvolal bouři kritiky nejen kvůli svým technickým a právním důsledkům, ale také kvůli tomu, co symbolizuje: hluboký posun v přístupu Evropy k soukromí, dohledu a digitální svobodě.
Jak by fungovalo „řízení chatu“
Systém počítá s monitorováním každé soukromé zprávy odeslané prostřednictvím hlavních komunikačních platforem na základě umělé inteligence. Místo toho, aby se opatření zaměřovalo na vyšetřované osoby, mělo by platit univerzálně. Každá zpráva by byla analyzována algoritmem a jakýkoli obsah považovaný za „podezřelý“ by byl automaticky předán vnitrostátním orgánům k přezkoumání.
Současně se širší strategie EU ProtectEU zaměřuje ještě dále. Předpokládá, že do roku 2030 budou vyvinuty nástroje, které by orgánům činným v trestním řízení umožnily přímý přístup k šifrovanému obsahu, čímž by se fakticky zrušila jedna z klíčových záruk moderní digitální komunikace: šifrování end-to-end.
Zatímco zastánci tvrdí, že tyto kroky jsou nezbytné pro boj proti zneužívání dětí na internetu, kritici tvrdí, že návrh znamená systematický dohled, kdy o tom, co se považuje za zákonný projev, rozhodují algoritmy, nikoli soudci.
Soukromí vs. ochrana: Napjatá rovnováha
Ušlechtilý cíl ochrany dětí se střetává s obavami z narušení občanských svobod. Obhájci ochrany soukromí varují, že jakmile bude vytvořen precedens skenování veškeré komunikace, může se rozsah sledování snadno rozšířit nad rámec ochrany dětí.
Navíc spolehlivost umělé inteligence zůstává sporná. Falešně pozitivní zprávy – nevinné zprávy označené jako urážlivé – by mohly zahltit úřady, nespravedlivě stigmatizovat uživatele a podkopat důvěru v digitální platformy. Naopak falešně negativní zprávy by mohly umožnit, aby proklouzl skutečně škodlivý obsah.
Širší obava spočívá v tom, že pokud je každá komunikace preventivně analyzována, rozdíl mezi ochranou a narušením se hroutí. Podle mnoha kritiků by to znamenalo konec soukromé komunikace jako smysluplného pojmu v Evropě.
Hospodářské a geopolitické důsledky
Kromě občanských svobod s sebou návrh nese i velká ekonomická rizika. EU se již několik let staví do role globálního šampiona v oblasti ochrany soukromí, zejména díky přelomovému obecnému nařízení o ochraně osobních údajů (GDPR). Tato pověst Evropu odlišuje od modelů Spojených států a Číny, které jsou více zaměřeny na dohled.
Pokud se systém Chat Control stane zákonem, může to poškodit důvěryhodnost EU. Technologické společnosti by mohly přehodnotit své investice a přesunout infrastrukturu a talenty do regionů s méně rušivými předpisy. To by oslabilo evropský digitální ekosystém v době, kdy se zostřuje globální konkurence v oblasti umělé inteligence, kybernetické bezpečnosti a odvětvích založených na datech.
Náklady na poškození pověsti by mohly přesáhnout i ekonomickou stránku věci. Pro občany by přeměna EU ze strážce soukromí na architekta dohledu znamenala hluboký politický posun a podkopala by důvěru v její instituce.
Německo má klíč k úspěchu
Rozhodnutí je nyní na Německu, jehož vláda se k tomu zatím nevyjádřila. Berlín čelí delikátnímu dilematu: na jedné straně by podporou návrhu projevil solidaritu se snahou EU vybudovat bezpečnější digitální prostor pro děti. Na druhé straně hrozí, že si znepřátelí občany, obhájce soukromí a podniky, kteří považují šifrování za neoddiskutovatelnou záruku demokracie.
Pro Německo je v sázce jak politický, tak ekonomický faktor. Podpora Chat Control by mohla posílit kolektivní postoj EU k bezpečnosti, ale také by mohla Berlín označit za podporovatele nejkontroverznějšího evropského zákona o sledování.
Definování digitální budoucnosti Evropy
V jádru debaty nejde jen o technickou regulaci, ale o to, jakou digitální společnost chce Evropa vybudovat. Mělo by se o bezpečnost usilovat tím, že umělá inteligence bude prověřovat každou zprávu? Nebo by soukromí mělo zůstat nedotknutelné, i když to ztíží kontrolu zneužívání online?
Tato otázka sahá daleko za hranice chytrých telefonů. Dotýká se definice občanství v digitálním věku – zda mohou jednotlivci očekávat soukromý komunikační prostor, nebo zda veškerá výměna informací podléhá dohledu v zájmu bezpečnosti.
S blížícím se říjnovým hlasováním je jasné jedno: EU stojí na zásadní křižovatce. Ochrana dětí je nepochybně morálním imperativem, ale preventivní masový dohled by mohl ohrozit právě ty svobody, které Evropa dlouhodobě hájí. Výsledek rozhodne nejen o tom, jak si Evropané posílají zprávy dnes, ale i o základních principech, kterými se budou řídit jejich digitální životy zítra.
Alessandro Fiorentino