Subscribe
Plan EU-a za skeniranje privatnih poruka umjetnom inteligencijom izaziva žestoku raspravu o zaštiti djece, privatnosti i budućnosti digitalnih prava
Europska unija priprema se donijeti jednu od svojih najznačajnijih odluka u području digitalne sigurnosti. Prijedlog poznat kao „Kontrola chata“ uskoro bi mogao omogućiti automatsko skeniranje privatnih poruka poslanih putem platformi poput WhatsAppa, Telegrama i Signala umjetnom inteligencijom prije enkripcije. Devetnaest država članica već je izrazilo podršku, a ako Njemačka da svoj odlučujući glas za, mjera bi mogla stupiti na snagu 14. listopada 2025.
Navedeni cilj inicijative je zaštita maloljetnika od online zlostavljanja, prioritet koji nijedan kreator politike ne bi otvoreno odbacio. Ipak, predloženi mehanizam izazvao je oluju kritika, ne samo zbog svojih tehničkih i pravnih implikacija, već i zbog onoga što simbolizira: duboku promjenu u europskom pristupu privatnosti, nadzoru i digitalnoj slobodi.
Kako bi funkcionirala “Kontrola chata”
Sustav predviđa nadzor svake privatne poruke poslane putem glavnih komunikacijskih platformi, vođen umjetnom inteligencijom. Umjesto ciljanja pojedinaca pod istragom, mjera bi se primjenjivala univerzalno. Svaku poruku bi analizirao algoritam, a svaki sadržaj koji se smatra “sumnjivim” automatski bi se prosljeđivao nacionalnim vlastima na pregled.
Paralelno s tim, šira strategija EU-a pod nazivom ProtectEU ide još dalje. Do 2030. predviđa razvoj alata koji bi agencijama za provedbu zakona omogućili izravan pristup šifriranom sadržaju, čime bi se učinkovito ukinulo jedno od ključnih jamstava moderne digitalne komunikacije: šifriranje od početka do kraja.
Dok zagovornici tvrde da su ovi koraci nužni za borbu protiv iskorištavanja djece na internetu, kritičari tvrde da prijedlog predstavlja sustavni nadzor, pri čemu algoritmi, a ne suci, odlučuju što se smatra zakonitim govorom.
Privatnost nasuprot zaštiti: Napeta ravnoteža
Plemeniti cilj zaštite djece sudara se sa strahovima od narušavanja građanskih sloboda. Zagovornici privatnosti upozoravaju da bi se, nakon što se uspostavi presedan skeniranja sve komunikacije, opseg praćenja lako mogao proširiti izvan zaštite djece.
Štoviše, pouzdanost umjetne inteligencije ostaje upitna. Lažno pozitivni rezultati – nevine poruke označene kao uvredljive – mogli bi preopteretiti vlasti, nepravedno stigmatizirati korisnike i narušiti povjerenje u digitalne platforme. S druge strane, lažno negativni rezultati mogli bi omogućiti prolazak istinski štetnog sadržaja.
Šira je zabrinutost da ako se svaka komunikacija preventivno analizira, razlika između zaštite i upada se urušava. Za mnoge kritičare, to bi označilo kraj privatne komunikacije kao smislenog koncepta u Europi.
Ekonomske i geopolitičke implikacije
Osim građanskih sloboda, prijedlog nosi velike ekonomske rizike. Godinama se EU pozicionirao kao globalni prvak privatnosti, posebno s prekretničkom Općom uredbom o zaštiti podataka (GDPR). Taj ugled izdvojio je Europu od modela u Sjedinjenim Državama i Kini koji su više usmjereni na nadzor.
Ako Kontrola chata postane zakon, kredibilitet EU-a mogao bi patiti. Tehnološke tvrtke mogle bi preispitati svoja ulaganja, preseliti infrastrukturu i talente u regije s manje nametljivim propisima. To bi oslabilo europski digitalni ekosustav u vrijeme kada se globalna konkurencija u umjetnoj inteligenciji, kibernetičkoj sigurnosti i industrijama temeljenim na podacima intenzivira.
Cijena štete za ugled mogla bi se proširiti i izvan ekonomske granice. Za građane bi transformacija EU-a od čuvara privatnosti do arhitekta nadzora predstavljala duboku političku promjenu, potkopavajući povjerenje u njezine institucije.
Njemačka drži ključ
Odluka je sada na Njemačkoj, čija se vlada još nije obvezala. Berlin se suočava s delikatnom dilemom: s jedne strane, podržavanje prijedloga pokazalo bi solidarnost s naporima EU-a da izgradi sigurniji digitalni prostor za djecu. S druge strane, riskira otuđenje građana, zagovornika privatnosti i tvrtki koje enkripciju smatraju neizostavnom zaštitom demokracije.
Za Njemačku, ulozi su i politički i ekonomski. Podržavanje kontrole chata moglo bi ojačati kolektivni stav EU o sigurnosti, ali bi također moglo Berlin prikazati kao onoga koji omogućuje najkontroverzniji europski zakon o nadzoru.
Definiranje digitalne budućnosti Europe
U svojoj srži, rasprava nije samo o tehničkoj regulativi, već o vrsti digitalnog društva kakvo Europa želi izgraditi. Treba li se sigurnost usmjeravati dopuštanjem umjetnoj inteligenciji da provjerava svaku poruku? Ili bi privatnost trebala ostati svetom, čak i ako to otežava nadzor nad online zlostavljanjem?
Pitanje seže daleko izvan pametnih telefona. Dotiče se definicije građanstva u digitalnom dobu – mogu li pojedinci očekivati privatne prostore komunikacije ili su sve razmjene podložne nadzoru radi sigurnosti.
Kako se približava listopadsko glasanje, jedno je jasno: EU se nalazi na ključnom raskrižju. Zaštita djece je nesumnjivo moralni imperativ, ali preventivni masovni nadzor mogao bi ugroziti upravo one slobode za koje Europa dugo tvrdi da ih brani. Ishod će odrediti ne samo kako Europljani danas šalju poruke, već i temeljna načela koja će upravljati njihovim digitalnim životima sutra.
Alessandro Fiorentino