Subscribe
Миналата година на равнище ЕС беше договорено безпрецедентно глобално законодателство, с което Европа стана първият континент, наложил правила за използването на изкуствен интелект (ИИ). Проектозаконът беше представен от Комисията през април 2021 г. и приет от Европейския парламент две години и половина по-късно. Регулаторният процес беше повлиян от появата на ChatGPT – генератор на текст, разработен от калифорнийска компания, който освен потенциала на изкуствения интелект, показа и рисковете от използването му – и беше подсилен от динамиката на явлението deep fake – т.е. кражба на самоличност, която се основава на технология за манипулиране на видео.
Формата на текста на закона трябва да бъде одобрена от Европейския съвет през април, а след това държавите членки ще имат две години, за да го приложат. Предстои да видим колко от тях ще успеят да спазят крайния срок, тъй като някои – например Румъния – едва сега приемат национални стратегии за ИИ. Но една европейска държава изпревари всички, включително Брюксел, и вече създаде агенция за надзор на ИИ. Такъв е случаят в Испания, която започна да предприема стъпки за създаването му много преди влизането в сила на законодателството на ЕС през 2022 г. По този начин AESIA – Agencia Espaniol de Supervision de la Inteligencia Artificial – освен вътрешната си роля, ще може да подпомага органите на Брюксел за по-бързо и по-ефективно прилагане на законодателството в областта на изкуствения интелект.
Европейското законодателство за първи път дефинира високорискови системи и ги подчинява на строги правила
Европейското законодателство в областта на изкуствения интелект е разработено с оглед на необходимостта да се поддържа баланс между защитата на демокрацията и основните права на човека и насърчаването на научните изследвания, иновациите и инвестициите в тази област. Тя започва с класифициране на системите за ИИ според рисковете и постепенно налага правила в зависимост от тези рискове, като стига до пълна забрана на някои от тях.
С други думи, колкото по-рисково е дадено приложение, толкова по-строги са правилата. По този начин системите за препоръчване на съдържание или филтрите за спам ще имат по-лесни правила за спазване и ще се считат за „ограничен риск“. По същество те ще трябва само да казват на потребителите, че са захранвани от AI. Други „високорискови “ системи, създадени от изкуствен интелект, ще подлежат на по-строг контрол. Медицинските изделия например ще трябва да предоставят данни с по-високо качество и да предоставят ясна информация на потребителите.
Някои приложения на тези „високорискови системи“, по-специално тези, които разчитат на биометрично разпознаване, като например социални оценки, които регулират поведението на хората, разпознаване на емоции в училище или на работното място и дори някои видове прогнозна полицейска дейност, са напълно забранени. Китайските системи за лицево разпознаване също попадат в тази категория, което е в противоречие с принципите на либералните демокрации. Но дори и в една демократична държава са необходими някои изключения за тежки престъпления като отвличане или тероризъм. В тези случаи ще бъде разрешено да се сканират лицата на хората на обществени места с помощта на системи за дистанционна биометрична идентификация.
Пакетът от закони за изкуствения интелект предвижда надзор на прилагането на тези правила, като за целта ще бъде създадена служба към Европейската комисия. За компаниите, които не спазват изискванията, са предвидени и големи глоби, които се оценяват на 7% от оборота или 35 млн. евро. Това европейско законодателство е голяма победа в борбата срещу опасностите от безотговорното използване на технологии, базирани на изкуствен интелект, и огромна крачка напред в сравнение с подхода в чужбина. В САЩ безопасността в тази област се основава на съвместен ангажимент на големите компании в тази област – включително Google, Meta, Amazon, Microsoft и OpenIA – за прилагане на мерки за сигнализиране на съдържание, генерирано от изкуствен интелект.
Румъния се хвърля във войната срещу дълбоките фалшификати със законопроект, който не ги забранява
Регулирането на тази област е още по-важно, тъй като технологията за манипулиране на видео става все по-усъвършенствана и достъпна за обществеността. Дълбокият фалшификат, първоначално използван за създаване на порнографско съдържание без съгласие, само за няколко години се превърна в мощно оръжие за дезинформация и манипулиране на общественото мнение. Ето защо в европейския политически спектър има основателни опасения, че технологията, базирана на изкуствен интелект, може да бъде използвана за клеветнически кампании, за оказване на влияние върху предизборни кампании или за налагане на важни политически мерки. Сред първите личности, станали жертва на подобни практики, са бившите президенти на САЩ Барак Обама и Доналд Тръмп, а сред потърпевшите са покойната кралица Елизабет II и папа Франциск. Неотдавна фалшификацията засегна и европейската периферия, като в интернет се разпространиха подправени снимки на молдовския президент Майа Санду.
На фона на загрижеността за борбата с дълбоките фалшификати в Румъния – страна, която понастоящем няма национална стратегия за ИИ – се появи проектозакон, който не забранява подобни изображения, а само изисква тяхното маркиране. Според инициаторите „обществото трябва да бъде информирано за фалшивото съдържание“. Досега проектозаконът не е нито приет, нито отхвърлен.
Правителството в Букурещ все още няма стратегия за ИИ
Министерството на цифровизацията наскоро представи актуализиран вариант на проекта на стратегия за изкуствения интелект за 2019 г. За да докаже, че се отнася сериозно към работата си, ръководителят на отдел „Цифровизация“ е подготвил и решението, с което стратегията ще бъде приета от правителството. Първоначално приемането беше планирано за 2020 г., а оттогава досега беше създаден комитет по изкуствен интелект, който да събира „инициативи в областта“, бяха проведени консултации с дружества и научноизследователски структури, имаше дори съвместна работна група на министерството с университет (Техническия университет в Клуж, град, който се превърна в основен полюс на развитието на ИТ в Румъния) и накрая Министерството на научните изследвания разработи „стратегическа рамка“. След няколко смени на ресорни министри по време на последните правителства в Букурещ, миналата година проектът беше поет от младия министър на цифровизацията Богдан Иван.
По време на представянето на стратегията по-рано тази година той увери, че документът включва предложенията на Румънския комитет за ИИ, който на свой ред е взел предвид резултатите от консултациите с експерти. Накратко, целта на стратегията ще бъде „да се защитят правата на румънците в онлайн среда“. Същевременно румънският министър подчерта, че стратегията е вдъхновена от „конкретни действия“, предложени на равнище ЕС, но е „здраво обвързана със специфичните реалности и нужди на румънския контекст“.
Обяснението за това обвързване с „румънските нужди “ е, че румънската стратегия в областта на изкуствения интелект е разработена на базата на … Европейски средства, получени за изпълнението на „Стратегическа рамка за внедряване и използване на иновативни технологии в държавната администрация 2021 -2027 г.„, финансирана от Оперативна програма „Административен капацитет“ 2014-2020 г. на ЕС.
„Забележителните“ резултати от „постиженията“ на Румъния в областта на готовността за прилагане на технологиите на изкуствения интелект в държавното управление са отбелязани в индекса Oxford Insights, в който Румъния заема 64-то място в света и последно в Източна Европа. Според класацията, изготвена от британската компания, която консултира правителства и компании относно възможностите за използване на изкуствен интелект, регионът изостава значително в това отношение от Западна Европа. В доклада, в който се разглеждат 193 държави, три от държавите – членки на ЕС, в Западна Европа са в топ 10, водени от САЩ – Франция (6-о място), Германия (8-о място) и Нидерландия (10-о място).
Испанският урок за това как една държава членка може да окаже конкретна помощ при прилагането на законодателството на целия ЕС
Една от страните, които се справят много по-добре от другите членове на блока на ЕС, е Испания, както беше споменато по-горе. Въпреки че в тази класация Испания е на 17 места след последния в топ 10, на 27-о място, тя е първата страна от ЕС, която вече е създала агенция, участваща в законотворчеството в областта на изкуствения интелект. Тя вече има офис в А Коруня, финансовия и промишлен център на Галисия. Според правителството на Мадрид първоначалният бюджет на центъра е 5 млн. евро, а персоналът му е 23 души, като през тази година се планира да бъдат назначени още служители.
AESIA ще бъде основният участник в управлението и ръководството на испанската екосистема за изкуствен интелект и до влизането в сила на европейското законодателство ще осъществява доброволен надзор в областта, като поддържа връзка с европейската екосистема и създава редовни среди за изпитване на високорискови системи за изкуствен интелект. По този начин AESIA вече е започнала работа с пясъчник, предназначен за испанските компании. Пясъчниците са тестови среди, които имат за цел да покажат как нещо – например дадена технология – може да работи преди пускането му в експлоатация. Но те са полезни и за законодателството. Точно това ще направи AESIA, за да предостави заключенията от практическите упражнения, които ще улеснят евентуалните промени в законодателството преди прилагането му.