Subscribe
Службата ще контролира прилагането на Закона за ИИ
През февруари 2024 г. влезе в сила решение на Европейската комисия, с което в рамките на Генерална дирекция „Комуникационни мрежи, съдържание и технологии“ (ГД CNECT) беше създадена Европейска служба за изкуствен интелект като своеобразна вътрешна агенция в самата Комисия. Той несъмнено представлява важна новост и доказателство за интереса на ЕС към този въпрос; въпреки това функциите му изглеждат ограничени в сравнение с първоначалните желания на Европейския парламент, който предвиждаше създаването на орган, който да централизира прилагането на всички стандарти за изкуствен интелект.
АКТ за изкуствен интелект: какво представлява и какво прави
Службата ще има за задача да улесни прилагането на Закона за изкуствения интелект, който, когато бъде окончателно одобрен, ще представлява първият в света регламент за използването на изкуствения интелект и който е част от Цифровата стратегия на ЕС, чрез която Европейският съюз иска да осигури по-внимателно и обмислено развитие и използване на тази нова технология. Регламентът се основава на Европейската стратегия за изкуствения интелект, представена през 2018 г., и на Бялата книга за изкуствения интелект, представена през 2020 г., и представлява решението на Европейския съюз да се намеси пръв и решително по темата, за да повлияе, а не да бъде подвластен на процеса на развитие на управлението на технологията.
Изкуственият интелект (ИИ) днес представлява едно от най-големите предизвикателства пред човечеството поради огромния си потенциал, който някои дори наричат революционен, но и поради големите рискове. Използването на изкуствен интелект в области като медицината, образованието и инженерството дава възможност за големи и бързи трансформации, които могат да доведат до значителни подобрения в живота на всички нас. Въпреки това не бива да се пренебрегва опасността, която употребата на такива технологии може да представлява за отделните хора и обществото като цяло, ако не е правилно регулирана.
Първата законодателна рамка, насочена към регулиране на изкуствения интелект и неговото използване, беше представена от Европейската комисия през април 2021 г., но едва през декември 2023 г. Европейският парламент и Европейският съвет успяха да постигнат предварително споразумение.
След като Съветът на Европейския съюз първоначално одобри текста, Европейският парламент гласува собственото си предложение, което беше прието с голямо мнозинство – 499 гласа „за“, 28 „против“ и 93 „въздържал се“, и което включваше разширяване на списъка с високорискови приложения и забранени практики в областта на изкуствените интелектуални продукти. Текстът беше основа за преговорите между Парламента, Европейската комисия и Европейския съвет.
Проектът за регламент вече съдържа предложения относно изчисляването на възможните санкции, които да бъдат налагани на дружества, нарушаващи правилата, определени от Брюксел.
Оценка на риска и принципи за добър закон
Актът за изкуствения интелект има за цел да насърчи развитието на изкуствения интелект във всички 27 държави членки, но с ясни принципи и правила, които трябва да бъдат спазвани, не на последно място за предотвратяване и преодоляване на потенциалните рискове, които тази нова технология създава по отношение на сигурността и правата. Системите с изкуствен интелект, които се считат за опасни за сигурността, прехраната и основните права на европейските граждани и всички хора (по скала от 4 нива, определени като „минимален риск“, „ограничен риск“, „висок риск“ и „неприемлив риск“), ще бъдат забранени. Риск, класифициран като неприемлив и следователно забранен, е например социалната оценка, използвана от правителството на Китай; за неприемлив се смята и психологическото обуславяне, упражнявано от определени рекламни послания. За висок риск се смятат например подборът на персонал или операциите, извършвани с помощта на асистирана хирургия. За нисък риск се смятат например чатботовете. И накрая, видеоигрите и антиспам системите се считат за нискорискови.
Но кои са решаващите моменти за приемането на добро и окончателно законодателство? Разбира се, в окончателния си вариант регламентът трябва да разгледа преди всичко въпроса за сигурността, за да се определят стандарти за качество, които да предотвратят щети от злоупотреба или възможни неизправности на системите с изкуствен интелект по отношение на потребителите. Важно е също така да се изясни кой ще носи правна отговорност за избора (и следователно за евентуални грешки), направен от ИИ, за да могат гражданите да бъдат гарантирани в случай на щети. Друг ключов фактор е да се гарантира, че изборите, направени от ИИ, са прозрачни и разбираеми за хората. И накрая, но не на последно място, не по-малко важен е въпросът за неприкосновеността на личния живот, който все повече се превръща в ключова област, която трябва да бъде защитена.
Задачи на Службата за изкуствен интелект
Службата ще има за задача преди всичко да изготви насоки и указания, които могат да улеснят ясното използване на съответното законодателство. В регламента ясно се посочва, че Службата няма да замени или по какъвто и да е начин да отмени специфичните компетенции на държавите-членки и отговорните национални органи, а следва да се разбира като подпомагащ и насочващ орган.
Ето защо Службата ще работи на национално равнище и на равнище ЕС за улесняване на хармонизирането и прилагането на законодателството в областта на изкуствения интелект, за наблюдение на т.нар. системи за изкуствен интелект с общо предназначение (GPAI), т.е. системи, които използват изкуствен интелект, и за разработване на методологии за оценка на моделите на използване (напр. GPT-4 на OpenAI, която отговаря за чатбота ChatGPT).
Службата ще трябва също така да управлява правилата, които ще се прилагат съгласно новия регламент по отношение на системите с изкуствен интелект, които вече са предмет на други регламенти на ЕС, като например Закона за цифровите услуги в областта на социалните медии.
Кратък преглед на международния контекст
Докато Европейският съюз работи по окончателното приемане на регламента за изкуствения интелект, други международни органи също насочват вниманието си към необходимостта от контрол върху развитието и управлението на тази нова технология и нейното приложение.
Организацията на ООН по въпросите на образованието, науката и културата (ЮНЕСКО), която е специализирана агенция на ООН с цел насърчаване на мира и сигурността в света, издаде „Препоръка относно етиката на изкуствения интелект“, приета от всички 193 държави членки. ЮНЕСКО искаше да се съсредоточи върху четири основни ценности, свързани с десет общи принципа, които защитават човешкото същество при етичното използване на ИИ.
На равнище ООН генералният секретар Гутериш създаде комитет на високо равнище за цифрово сътрудничество, за да улесни конструктивния диалог относно възможностите, които технологиите предлагат за повишаване на човешкото благосъстояние, като същевременно се обръща внимание на рисковете и се предотвратяват вредите. Някои от препоръките, включени в „Ерата на цифровата взаимозависимост – Доклад на експертната група на високо равнище за цифрово сътрудничество към генералния секретар на ООН“, подчертават необходимостта от интелигентни системи, които могат да обясняват своите решения. Друга тема, която също се очертава тук, е важността на това да може ясно да се определи чия е отговорността за използването им в случай на повреда.
Заместник-генералният секретар на ООН Амина Мохамед в речта си на събитието „Постигане на глобалните цели с помощта на изкуствения интелект“ също засегна темата за развитието на изкуствения интелект, като го определи като едно от най-важните постижения на нашето време, например поради използването му в някои стратегически сектори като промишлената автоматизация. Заместник-министърът обаче искаше да подчертае и рисковете, свързани с неетичното и нерегулирано използване на ИИ, като например увеличаването на неравенството или опасността от манипулиране на политическите процеси и информация.