Subscribe
Den europeiska lagen om artificiell intelligens, känd som AI-lagen, en världsnyhet, antogs nyligen av Europaparlamentet med stor majoritet. Lagen är resultatet av mer än tre års arbete i Bryssel för att ta itu med nya utmaningar på området, som har uppstått i snabb takt under det senaste årtiondet. Med den exempellösa utvecklingen av AI-system, som också har medfört ett antal risker, har det gett upphov till oönskade fenomen som djupa förfalskningar. Lagtexten har utformats för att både skydda medborgarnas grundläggande rättigheter, demokratin och rättsstatsprincipen, men också för att stimulera innovation och forskning, med det uttalade målet att etablera Europa som ledande inom området. Genom den nya lagstiftningen införs två styrningsnivåer för tillsyn över brottsbekämpning – en nationell och en europeisk, där både medlemsstaterna och EU inrättar nya myndigheter för detta ändamål. I princip kommer medlemsstaterna att ha två år på sig att genomföra bestämmelserna efter ikraftträdandet, men vissa av lagens förbud kommer att träda i kraft ett halvår efter antagandet.
I Rumänien debatteras lagen mot deep fake i parlamentet
Även om medlemsstaterna hittills bara har tagit blygsamma steg på detta område har det gjorts försök till nationell reglering på området, bland annat i Rumänien, där ett lagförslag för att bekämpa deep fake har nått parlamentet. Lagförslaget är extremt kontroversiellt, vissa säger att det är utformat efter kinesisk modell – eftersom det straffar djupa bedrägerier med fängelse – och har fastnat i den parlamentariska debatten. Men nu när AI-lagen har antagits skulle texten kunna förbättras eller, som vissa hävdar, en ny skulle kunna utarbetas för att uppfylla kraven i europeisk lagstiftning.
”EU har hållit sitt löfte. Vi har kopplat begreppet artificiell intelligens till de grundläggande värderingar som ligger till grund för våra samhällen. Men mycket arbete ligger framför oss, som går utöver själva AI-lagen. AI kommer att tvinga oss att ompröva det sociala kontrakt som ligger till grund för våra demokratier, våra utbildningsmodeller, våra arbetsmarknader och vårt sätt att föra krig. AI-lagen är en startpunkt för en ny styrningsmodell som bygger på teknik. Nu måste vi fokusera på att omsätta denna lag i praktiken”, sade Dragoș Tudorache, medföredragande för utskottet för medborgerliga fri- och rättigheter i Europaparlamentet.
En annan medföredragande, Brando Benifei, betonade också vikten av att inrätta det nya europeiska IA-kontoret, som ”kommer att hjälpa företag att börja följa reglerna innan de träder i kraft”.
Förordningen befinner sig för närvarande i det så kallade rättelseförfarandet och förväntas antas under de kommande månaderna, i slutet av parlamentets mandatperiod. Därefter måste det också godkännas formellt av Europeiska rådet. Den förväntas träda i kraft 20 dagar efter offentliggörandet i Europeiska unionens officiella tidning och kommer att vara fullt tillämplig inom 24 månader från det datumet, med undantag för förbuden mot förbjudna metoder som kommer att behöva efterlevas redan efter sex månader. Dessutom måste uppförandekoder vara klara efter 9 månader, regler för allmänna ändamål, inklusive styrning, måste tillämpas efter 12 månader och skyldigheter för högriskprogram – efter 36 månader.
Enligt Europaparlamentets officiella pressmeddelande som utfärdades efter antagandet innebär förordningen skyldigheter för artificiell intelligens, beroende på dess potentiella risker och förväntade effekter. I synnerhet förbjuds vissa tillämpningar och åläggs andra skyldigheter. Den föreskriver också höga böter för bristande efterlevnad. De nya reglerna förbjuder vissa AI-tillämpningar som hotar medborgarnas rättigheter, bland annat biometriska kategoriseringssystem. Känsloigenkänning på arbetsplatser och i skolor, social scoring, prediktivt polisarbete (när det enbart baseras på profilering av en person eller bedömning av dennes egenskaper) och AI som manipulerar mänskligt beteende eller utnyttjar människors sårbarheter kommer också att förbjudas.
AI-system för allmänna ändamål (GPAI) och de GPAI-modeller som de bygger på måste uppfylla vissa öppenhetskrav, inklusive överensstämmelse med EU:s upphovsrättslagstiftning och offentliggörande av detaljerade sammanfattningar av det innehåll som används för utbildning. Dessutom måste konstgjorda eller manipulerade bilder, ljud- eller videoinnehåll (”deep fakes”) tydligt märkas som sådana.
I EU-lagstiftningen definieras för första gången system med hög risk och de omfattas av strikta regler. Den börjar med att klassificera AI-system efter risk och inför gradvis regler efter risk, upp till ett totalförbud för vissa av dem. Med andra ord, ju mer riskfylld en ansökan är, desto strängare är reglerna. Således kommer system för innehållsrekommendationer eller spamfilter att ha enklare regler att följa och kommer att betraktas som ”begränsad risk”. De kommer i princip bara att behöva berätta för användarna att de drivs av AI. Andra AI-skapade system med ”hög risk” kommer att bli föremål för en mer rigorös granskning. Vissa användningar av några av dessa ”högrisksystem”, nämligen de som bygger på biometrisk identifiering, som bygger på känsliga kännetecken och icke målinriktad insamling av bilder från Internet eller övervakningsfilmer för att skapa databaser för ansiktsigenkänning, är således förbjudna. Till exempel är social bedömning som reglerar människors beteende, känsloigenkänning i skolan eller på arbetsplatsen och vissa typer av prediktivt polisarbete förbjudet. Som undantag tillåts de för allvarliga brott som kidnappning eller terrorism. I dessa fall kommer det att vara tillåtet att skanna människors ansikten offentligt med hjälp av biometriska identifieringssystem på distans. För andra AI-system med hög risk – som har en betydande potential att skada hälsa, säkerhet, grundläggande rättigheter, miljön, demokratin och rättsstatsprincipen – föreskrivs vissa skyldigheter.
Medborgare har rätt att klaga på AI-system
Exempel på högriskanvändning av AI är kritisk infrastruktur, utbildning, sysselsättning, viktiga privata och offentliga tjänster (t.ex. sjukvård, bankverksamhet), vissa system inom brottsbekämpning, migration och gränsförvaltning, rättsväsende och demokratiska processer (t.ex. påverkan på val). Sådana system måste bedöma och minska riskerna, upprätthålla användningsloggar, vara transparenta och korrekta samt tillhandahålla mänsklig tillsyn. Medborgarna kommer också att ha rätt att lämna in klagomål om AI-system och att få förklaringar om beslut baserade på AI-system med hög risk som påverkar deras rättigheter, enligt Europaparlamentets officiella pressmeddelande. Lagpaketet om AI innehåller bestämmelser om övervakning av tillämpningen av dessa regler, med en byrå som ska inrättas inom Europeiska kommissionen. Böter på 7 % av omsättningen planeras också för företag som inte följer reglerna. Denna europeiska lagstiftning är en stor seger i kampen mot farorna med oansvarig användning av AI-baserad teknik och ett stort steg framåt jämfört med tillvägagångssättet utomlands. I USA är säkerheten på området beroende av ett gemensamt åtagande från stora företag på området – inklusive Google, Meta, Amazon, Microsoft och OpenIA – att genomföra åtgärder för att flagga AI-genererat innehåll.
Deep fake-videor används för bedrägerier på nätet
Tidigare i år meddelade Rumäniens energiminister Sebastian Burduja att han skulle lämna in en brottsanmälan efter att hans ansikte använts i en djupt fejkad video. Chefen för Rumäniens centralbank, Mugur Isărescu, var också ett offer för sådan manipulation på nätet. I båda fallen användes en tjänstemans ansikte för att främja investeringar som inte existerade. Omedelbart därefter lades ett lagstiftningsinitiativ fram i Bukarests parlament av två rumänska parlamentsledamöter för att bekämpa detta fenomen med deep fake, som föreskriver fängelsestraff för dem som befinns skyldiga till att ha gjort sådana videor. Lagförslaget har väckt stor offentlig debatt, och vissa icke-statliga människorättsorganisationer hävdar att en sådan åtgärd skulle kränka yttrandefriheten. Andra röster stödde lagstiftningsinitiativet och krävde hårda straff i fall där sådana videor har en allvarlig känslomässig eller ekonomisk inverkan. Hela debatten – utöver det ganska heiropiska sätt på vilket lagförslaget föddes – visar i grund och botten på behovet av reglering – även på nationell nivå – på detta område. Efter att deputeradekammaren antagit en form som skilde sig radikalt från senatens – den senare införde endast ekonomiska påföljder för de som begår djupgående förfalskningar, medan deputeradekammaren gick så långt som till fängelsestraff – skickades förslaget tillbaka till de specialiserade kommittéerna för behandling. Enligt Europaparlamentarikern Dragoș Tudorache är det bra, eftersom han anser att antagandet av lagen kan vänta och att Rumänien bör följa IA-lagens riktlinjer vid utarbetandet av den.
”Jag skulle säga att lagen om deep fake i det rumänska parlamentet kanske kan vänta, eftersom vi genom IA-lagen faktiskt också reglerar detta ansvarsområde för deep fakes. Så i princip är en gång inte ett alternativ. Den lag som kommer från EU-nivå kommer att genomföras i Rumänien eller kommer att behöva genomföras. Hur svårt det kommer att bli, upprepar jag, beror på den kapacitet som den rumänska staten kommer att ha för att attrahera rätt personer för den roll som lagen erkänner för dessa myndigheter (…)”, sade Dragos Tudorache.
I ett öppet brev från Active Watch, med stöd av nio andra människorättsorganisationer, påpekades att texten innehåller tvetydigheter och termer eller uttryck som visar på en ytlig förståelse av fenomenet. Denna uppfattning delades också av det lagstiftande rådet och den audiovisuella tillsynsmyndigheten CAN.
”Det finns inga undantag för att skydda olika former av yttrandefrihet, såsom användning av djupt förfalskat innehåll för pamfletter eller konstnärliga ändamål eller i kommersiella produktioner (annonser) eller i filmindustrin, vilket redan är fallet i praktiken och som förutses i den kommande europeiska lagstiftningen”, hävdar Active Watch.