Показалец 
 Назад 
 Напред 
 Пълен текст 
Процедура : 2018/2088(INI)
Етапи на разглеждане в заседание
Етапи на разглеждане на документа : A8-0019/2019

Внесени текстове :

A8-0019/2019

Разисквания :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Гласувания :

PV 12/02/2019 - 9.20
Обяснение на вота

Приети текстове :

P8_TA(2019)0081

Приети текстове
PDF 278kWORD 93k
Вторник, 12 февруари 2019 г. - Страсбург Неокончателна версия
Всеобхватна европейска промишлена политика в областта на изкуствения интелект и роботиката
P8_TA-PROV(2019)0081A8-0019/2019

Резолюция на Европейския парламент от 12 февруари 2019 г. относно всеобхватната европейска промишлена политика в областта на изкуствения интелект и роботиката (2018/2088(INI))

Европейският парламент,

—  като взе предвид своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката(1),

—  като взе предвид своята резолюция от 1 юни 2017 г. относно цифровизацията на европейската промишленост(2),

—  като взе предвид своята резолюция от 12 септември 2018 г. относно автономните оръжейни системи(3);

—  като взе предвид своята резолюция от 11 септември 2018 г. относно езиковото равенство в ерата на цифровите технологии(4),

—  като взе предвид предложението на Комисията от 6 юни 2018 г. за създаване на програмата „Цифрова Европа“ за периода 2021—2027 г. (COM(2018)0434),

—  като взе предвид Регламент № 2018/1488 на Съвета от 28 септември 2018 г. за създаване на Съвместно предприятие за европейски високопроизводителни изчислителни технологии(5);

—  като взе предвид член 52 от своя Правилник за дейността,

—  като взе предвид доклада на комисията по промишленост, изследвания и енергетика и становищата на комисията по вътрешния пазар и защита на потребителите, комисията по правни въпроси, комисията по граждански свободи, правосъдие и вътрешни работи и комисията по околна среда, обществено здраве и безопасност на храните (A8-0019/2019),

A.  като има предвид, че прозрачният и етично издържан изкуствен интелект (ИИ) и роботиката имат потенциала да обогатят живота ни и да разширят способностите ни както като личности, така и за общото благо;

Б.  като има предвид, че развитието на ИИ напредва с бързи темпове, и като има предвид, че от няколко години ИИ вече участва в нашето ежедневие; като има предвид, че ИИ и роботиката насърчават иновациите, което води до нови бизнес модели и играе ключова роля за преобразяването на нашите общества и за цифровизирането на нашите икономики в множество сектори, например промишлеността, здравеопазването, строителството и транспорта;

В.  като има предвид, че нарастващата интеграция на роботиката в човешките системи изисква сериозни политически насоки за това как да се увеличат максимално ползите и да се сведат до минимум рисковете за обществото и да се гарантира безопасно и справедливо развитие на изкуствения интелект;

Г.  като има предвид, че изкуственият интелект е една от стратегическите технологии за ХХI век както в световен мащаб, така и в Европа, и носи положителна промяна за европейската икономика, като дава възможност за иновации, производителност, конкурентоспособност и благополучие;

Д.  като има предвид, че около една четвърт от всички промишлени роботи и половината от всички роботи в областта на професионалните услуги в света се произвеждат от европейски дружества, поради което ЕС вече разполага с важни активи, на които следва да основава своята европейска промишлена политика;

Е.  като има предвид, че ИИ и роботиката имат потенциала да преобразят множество промишлени сектори и водят до по-голяма ефективност на производството, както и повишават конкурентоспособността на европейската промишленост и на МСП на световно равнище; като има предвид, че наличието на големи масиви от данни и съоръжения за изпитване и експериментиране са от голямо значение за развитието на изкуствения интелект;

Ж.  като има предвид, че чрез общ подход ще се улесни развитието на технологиите в областта на ИИ в полза на обществото, като същевременно ще се отговори на свързаните с тези технологии предизвикателства, за да се насърчат иновациите, да се подобри качеството на основаните на ИИ продукти и услуги, да се подобри опитът на потребителите и доверието в технологиите в областта на ИИ и роботиката, както и да се избегне фрагментирането на вътрешния пазар;

З.  като има предвид, че изчислителните технологии в Съюза трябва да се поддържат на водещо равнище, което следва да предостави възможности за доставчиците в ЕС и да увеличи тяхната ефективност, като технологичното развитие бъде насочено към продукти и услуги, ориентирани към търсенето и основани на приложения, което ще доведе до тяхното приемане в широкомащабни и нововъзникващи приложения, подкрепени от изкуствен интелект;

И.  като има предвид, че спешно е необходим координиран подход на европейско равнище, за да може ЕС да се конкурира с огромните инвестиции, направени от трети държави, особено от САЩ и Китай;

Й.  като има предвид, че на 25 април 2018 г.(6) Комисията пое ангажимент да предложи европейски подход към ИИ, като разработи проект на насоки в областта на ИИ в сътрудничество със заинтересованите страни в рамките на Алианса за ИИ — група от експерти в областта на изкуствения интелект, за да даде тласък на основаващите се на ИИ приложения и предприятия в Европа;

К.  като има предвид, че действащите правила и процеси трябва да бъдат преразгледани и при необходимост изменени, така че да отчитат изкуствения интелект и роботиката;

Л.  като има предвид, че европейската рамка за ИИ трябва да бъде разработена при пълно зачитане на правата, залегнали в Хартата на основните права, и по-специално на принципите за защита на данните, неприкосновеност на личния живот и сигурност;

М.  като има предвид, че развитието на изкуствения интелект може и следва да бъде проектирано по такъв начин, че да запази достойнството, автономността и самоопределението на индивида;

Н.  като има предвид, че в своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката, Парламентът призова Комисията да предложи съгласувана правна уредба по отношение на развитието на роботиката, включително автономните системи и интелигентните автономни роботи;

О.  като има предвид, че развитието на ИИ и на роботиката трябва да включва обществото като цяло; като има предвид обаче, че през 2017 г. селските райони останаха до голяма степен изключени от ползите от ИИ, тъй като 8% от домакинствата не са обхванати от никаква фиксирана мрежа, а 53% не са обхванати от технология за достъп от следващо поколение (VDSL, Cable Docsis 3.0 или FTTP);

П.  като има предвид, че развитието на основаните на ИИ услуги и продукти изисква свързаност, свободно движение на данни и достъпност на данните в рамките на ЕС; като има предвид, че използването на съвременни техники за извличане на данни в сферата на продуктите и услугите може да спомогне за повишаване на качеството на процеса на вземане на решения, а оттам и на избора на потребителите, както и за подобряване на стопанските резултати;

Р.  като има предвид, че технологичното развитие в областта на интелигентните продукти и услуги може да бъде от полза за икономиката на знанието, която се основава на количеството, качеството и достъпността на наличната информация и по този начин може да доведе до по-добро адаптиране към потребностите на потребителите;

С.  като има предвид, че киберсигурността е от съществено значение, за да се гарантира, че данните не са злонамерено компрометирани или че с тях се не се злоупотребява, за да функционира ИИ по начин, който е в ущърб на гражданите или на дружествата, което би уронило доверието на промишлеността и потребителите в ИИ; като има предвид, че развитието на ИИ все повече разчита на тези системи за действия и решения, което на свой ред налага високи стандарти за киберустойчивост в ЕС с цел защита от пробиви и недостатъци в киберсигурността;

Т.  като има предвид, че тенденцията към автоматизация изисква от тези, които участват в разработването и предлагането на пазара на приложения с изкуствен интелект, да изградят безопасност и етика още в началото, като признават по този начин задължението си да бъдат подготвени да поемат правна отговорност за качеството на технологията, която произвеждат;

У.  като има предвид, че изграждането на надеждна екосистема за развитието на технологията за ИИ следва да се основава на архитектурата на политиката за данни; като има предвид, че това предполага създаването на безпроблемни и опростени програми за събиране и управление на данни за целите на образователните научни изследвания, за да се даде възможност за развитието на ИИ в много области: медицински, финансов, биологичен, енергиен, промишлен, химически или публичен сектор; като има предвид, че основаната на данни екосистема на ИИ може да съдържа паневропейски инициативи, предприети по открити стандарти и въз основа на взаимно признаване на сертификати и прозрачни правила за оперативна съвместимост;

Ф.  като има предвид, че ИИ сам по себе си не осигурява истина или справедливост, тъй като може да се прояви пристрастност в начина, по който се събират данните, и в начина, по който се пише алгоритъмът, което може да произтича от пристрастност, присъстваща в обществото; като има предвид, че качеството на данните, заедно с проектирането на алгоритмите и постоянните процеси за повторна оценка, следва да предотвратяват пристрастността;

Х.  като има предвид, че ИИ и роботиката следва да се развиват и прилагат по начин, насочен към човека, с цел да се подпомагат хората в своята работа и у дома; като има предвид, че ИИ може да се използва и за избягване на опасен за хората труд;

Ц.  като има предвид, че по-нататъшното развитие и повишеното използване на автоматизирано и основано на алгоритъм вземане на решения несъмнено оказва въздействие върху избора, който дадено частно лице (например предприемач или ползвател на интернет) или административен, съдебен или друг публичен орган прави при вземането на окончателното си решение от потребителски, предприемачески или управленски характер; като има предвид, че е необходимо в процеса на автоматизирано и основано на алгоритъм вземане на решения да бъдат въведени предпазни мерки и възможност за осъществяване на контрол и проверка от човека;

Ч.  като има предвид, че машинното самообучение създава също така предизвикателства за гарантирането на недискриминация, справедлив процес, прозрачност и разбираемост в процесите на вземане на решения;

Ш.  като има предвид, че ИИ представлява важен инструмент за справяне с глобалните предизвикателства пред обществото, и като има предвид следователно, че държавите членки чрез своята обществена политика следва да насърчават инвестициите, да предоставят средства за научноизследователска и развойна дейност и да се справят с пречките пред развитието и приемането на ИИ;

Щ.  като има предвид, че търговските платформи с изкуствен интелект преминаха от тестова фаза към реални приложения в областите на здравеопазването, околната среда, енергетиката и транспорта; като има предвид, че техниките за машинно самообучение са в центъра на всички основни уеб платформи и приложения с големи информационни масиви;

AA.  счита, че изследователите и дружествата в Европа се занимават с множество теми, свързани с блоковите вериги, сред които веригата на доставки, държавни услуги, финанси, интернет на нещата, здравеопазване, медии, интелигентни градове, енергетика и транспорт; като има предвид, че Европа е силен участник във важни области, свързани с блоковите вериги, като например ИИ; като има предвид, че блоковата верига може да играе важна роля в засилването на европейските иновации;

АБ.  като има предвид, че технологиите за киберсигурност, като например цифровите самоличности, криптографията или засичането на проникване, както и прилагането им в области като финансите, Четвъртата индустриална революция, енергетиката, транспорта, здравеопазването и електронното държавно управление, са от първостепенно значение за гарантиране на сигурността и доверието в дейностите и сделките онлайн на гражданите, публичните администрации и предприятията;

АВ.  като има предвид, че извличането на текст и данни служи като основа за приложения за ИИ и машинно самообучение и са от жизненоважно значение за малките и средните предприятия и стартиращите предприятия, тъй като те им позволяват достъп до големи количества данни, за да обучават алгоритми за ИИ;

АГ.  като има предвид, че ИИ може да се окаже много енергоемък; като има предвид, че с оглед на това е важно използването на напредъка на ИИ да бъде поддържано в съответствие с актуалните цели на ЕС в областта на енергийната ефективност и кръговата икономика;

АД.  като има предвид, че ИИ следва да поддържа изцяло всички европейски езици, за да предостави на всички европейски граждани равни възможности да се възползват от съвременните разработки на ИИ в рамките на многоезичното европейско информационно общество;

АЕ.  като има предвид, че в промишлеността и услугите, свързани с високите технологии, ИИ е ключът към превръщането на Европа в „стартиращ континент“ чрез използване на най-новите технологии за генериране на растеж в Европа, по-специално в областта на здравните технологии, здравните услуги и програми, откриването на лекарства, роботизираната и подпомаганата от роботи хирургия, лекуването на хроничните заболявания и медицинските системи за образна диагностика и документация, както и осигуряване на устойчива околна среда и безопасно производство на храни; като има предвид, че понастоящем Европа изостава от Северна Америка и Азия от гледна точка на научните изследвания и на патентоването в областта на изкуствения интелект;

АЖ.  като има предвид, че развитието на технологиите в областта на ИИ може да спомогне за подобряване на живота на хората с хронични заболявания и с увреждания и за справяне със социални предизвикателства, каквото е застаряването на нашето население, като направи здравните технологии по-прецизни и ефективни при предоставянето на здравно обслужване;

АЗ.  като има предвид, че е налице широк набор от възможни приложения на ИИ и роботиката в областта на медицинското обслужване, като управление на медицинска документация и данни, извършване на повтарящи се действия (анализиране на тестове, рентгенови снимки, компютърна томография, въвеждане на данни), проектиране на лечението, цифрови консултации (като например медицински консултации, основани на личната медицинска история и общи медицински знания), виртуални медицински сестри, управление на употребата на лекарства, създаване на лекарства, прецизна медицина (тъй като генетиката и геномиката търсят мутации и връзки с болестта от информацията в ДНК), здравно наблюдение, анализ на системата на здравеопазването, както и други приложения;

АИ.  като има предвид, че достъпността не означава еднакви услуги и уреди за всички; като има предвид, че достъпността на ИИ и роботиката се основава на приобщаващо планиране и проектиране; като има предвид, че потребностите, желанията и опитът на потребителите трябва да бъдат отправна точка за проектирането;

АЙ.  като има предвид, че съществуват силни етични, психологически и юридически опасения относно автономността на роботите, очевидната липса на човешка емпатия у тях и въздействието им върху връзката между лекар и пациент, които все още не са разгледани по подходящ начин на равнище ЕС, по-специално по отношение на защитата на личните данни на пациентите, отговорността и новите икономически и трудови отношения, които ще възникнат; като има предвид, че „автономността“ като такава може да бъде характерна само за човешки същества; като има предвид, че съществува необходимост от солидна законова и етична рамка за изкуствения интелект;

АК.  като има предвид, че въвеждането на изкуствения интелект, особено в областта на здравеопазването, винаги трябва да се основава на принципа на отговорност „човекът управлява машината“;

1.Общество, подкрепяно от изкуствения интелект и роботиката

1.1.Труд в ерата на изкуствения интелект и роботиката

1.  подчертава, че автоматизацията, съчетана с изкуствен интелект, ще увеличи производителността и следователно ще увеличи производството; отбелязва, че както и при предишните технологически революции, някои работни места ще бъдат заменени, но ще бъдат създадени и нови работни места, като се преобразуват животът и работните практики; подчертава, че увеличеното използване на роботиката и ИИ следва също така да намали излагането на човека на вредни и опасни условия на труд и също така следва да спомогне за създаването на повече качествени и достойни работни места и за подобряването на производителността;

2.  настоятелно призовава държавите членки да се съсредоточат върху преквалификацията на работниците в секторите, които са най-силно засегнати от автоматизацията на задачите; подчертава, че новите образователни програми следва да се съсредоточат върху развитието на уменията на работниците, така че те да могат да се възползват от възможностите за работа в рамките на новите работни места, създадени от ИИ; насърчава разработването на програми за цифрова грамотност в училищата, разработването на приоритети за чиракуване и професионално обучение, за да се помогне на работниците да се приспособят към технологичните промени;

3.  препоръчва държавите членки заедно с участниците в частния сектор да идентифицират рисковете и да изготвят стратегии, за да се осигури разработването на подходящи програми за преквалификация и обучение за нови умения; подчертава, че самите дружества трябва да инвестират в обучение и преквалификация на действащата работна сила, за да задоволят своите потребности;

4.  подчертава, че развитието на роботиката в ЕС ще окаже силно въздействие върху промишлените отношения; счита, че това въздействие следва да бъде преодоляно по балансиран начин, така че да се насърчи повторната индустриализация и да се позволи и на работниците да се ползват от повишаването на производителността;

5.  отбелязва, че в сегашния промишлен пейзаж има деликатен баланс между собствениците и работниците; счита, че напредъкът в прилагането на ИИ в промишлеността следва да се извърши с широки консултации със социалните партньори, тъй като потенциалната промяна в броя на работещите в промишлеността изисква проактивни политики, които да помогнат на работниците да се адаптират към новите изисквания и да гарантират, че печалбите са широко споделени; отбелязва, че това изисква преосмисляне и преразглеждане на политиките на пазара на труда, схемите за социално осигуряване и данъчното облагане;

6.  настоятелно призовава държавите членки да се справят с препятствията пред навлизането на пазара на труда, например прекомерните квалификации;

7.  счита, че цифровата грамотност е един от най-важните фактори за бъдещото развитие на ИИ, и настоятелно призовава Комисията и държавите членки да разработят и прилагат стратегии за обучение и преквалификация в областта на цифровите умения; отбелязва, че цифровата грамотност може да подпомогне широкото и приобщаващо участие в решенията за основаната на данни икономика и да улесни комуникацията и сътрудничеството с всички заинтересовани страни;

8.  отбелязва, че тъй като процесът ще има въздействие върху гражданите от всички възрастови групи, учебните програми трябва да бъдат адаптирани, включително чрез установяване на нови модели за обучение и използване на нови технологии за представяне на материала; подчертава, че аспектите, свързани с образованието, следва да бъдат разгледани правилно; отчита по-специално необходимостта от това цифрови умения, включително кодиране, да бъдат включени в преподаването и обучението от ранните години в училище до продължаващото през целия живот обучение;

1.2.Злонамерено използване на изкуствения интелект и основни права

9.  подчертава факта, че злонамереното или небрежно използване на ИИ би могло да застраши цифровата сигурност, физическата и обществената безопасност, тъй като ИИ би могъл да се използва за извършване на мащабни, прецизно насочени и високоефективни атаки срещу услуги на информационното общество и свързаните машини, както и за кампании за дезинформация, и в общ план да отслаби правото на хората на самоопределение; подчертава, че злонамереното или небрежно използване на ИИ може също така да представлява риск за демокрацията и основните права;

10.  призовава Комисията да предложи рамка, която да наказва практиките за манипулиране на възприемането, когато персонализираното съдържание или информационните канали водят до отрицателни чувства и изкривяване на възприемането на реалността, което може да доведе до отрицателни последици (например резултати от избори или изкривени възприятия по социални въпроси като миграцията);

11.  подчертава значението на признаването, идентифицирането и наблюдението на революционните процеси във и около развитието на ИИ; насърчава идеята научните изследвания в областта на ИИ да се съсредоточат и върху откриването на случайно или злонамерено компрометирани ИИ и роботика;

12.  настоятелно призовава Комисията да вземе предвид социалните предизвикателства, произтичащи от практиките на класиране на гражданите; подчертава, че гражданите не следва да бъдат дискриминирани според тяхното класиране и че следва да имат право на „друг шанс“;

13.  изразява голяма загриженост относно използването на приложения с ИИ, включително разпознаване по лице и глас, в програми за „емоционално наблюдение“, т.е. наблюдение на психичните състояния на работниците и гражданите, за да се увеличи производителността и да се запази социалната стабилност, понякога в съчетание със социални кредитни системи, като например вече въведените в Китай; подчертава, че тези програми са присъщо противоречащи на европейските ценности и норми, защитаващи правата и свободите на физическите лица;

2.Технологичният път към изкуствения интелект и роботиката

2.1.Научноизследователска и развойна дейност

14.  припомня факта, че Европа има водеща в световен мащаб научноизследователска общност в областта на ИИ, която представлява 32% от научноизследователските институции в областта на ИИ в световен мащаб;

15.  приветства предложението на Комисията относно програмата „Цифрова Европа“ и бюджета от 2,5 милиарда евро, заделен за изкуствения интелект, както и увеличеното финансиране по програмата „Хоризонт 2020“; разбира значението на финансирането от ЕС, което допълва бюджетите на държавите членки и на промишлеността за научни изследвания в областта на ИИ, и необходимостта от сътрудничество между публичните и частните научноизследователски програми и тези на ЕС;

16.  подкрепя оперативните цели на програмата „Цифрова Европа“ за изграждане и укрепване на основен капацитет за изкуствен интелект в Съюза, който да е достъпен за всички предприятия и публични администрации, както и за укрепване и обединяване в мрежа на съществуващите съоръжения за изпитване на и експериментиране с изкуствен интелект в държавите членки;

17.  насърчава държавите членки да развиват партньорства между множество заинтересовани страни от промишлеността и научноизследователските институти, както и съвместни центрове за високи постижения в областта на ИИ;

18.  подчертава, че научните изследвания в областта на ИИ следва да инвестират не само в технологичното и иновационното развитие на ИИ, но също така и в свързаните с ИИ социална област, етика и юридическа отговорност; счита, че всеки разгръщан модел на ИИ трябва да има етика още от етапа на проектирането;

19.  подчертава, че макар да насърчават напредъка в полза на обществото и околната среда, научните изследвания в областта на ИИ и други свързани дейности следва да се извършват в съответствие с принципа на предпазните мерки и с основните права; подчертава, че всеки, който участва в разработването, прилагането, разпространението и използването на ИИ, следва да взема предвид и да зачита човешкото достойнство, самоопределянето и благосъстоянието — както във физически, така и в психологически план — на индивида и на обществото като цяло, да предвижда потенциалните въздействия върху безопасността и да взема надлежни предпазни мерки, пропорционални на нивото на защита, включително бързото оповестяване на факторите, които могат да застрашат обществеността или околната среда;

20.  подчертава, че конкурентната научноизследователска среда също е от ключово значение за развитието на изкуствения интелект; подчертава, че е важно да се подкрепят върхови изследвания, включително фундаментални научни проекти и високорискови проекти с висока възвръщаемост, и да се насърчи създаването на европейско изследователско пространство с привлекателни условия за финансиране, мобилност и достъп до инфраструктура и технология в рамките на Съюза въз основа на принципа на отвореност към трети държави и експертен опит от страни извън Съюза, при условие че това не накърнява кибернетичната сигурност на ЕС;

21.  подчертава факта, че изследователите в ЕС продължават да печелят за труда си значително по-малко от своите колеги в САЩ и Китай и че това е известно като основна причина да напускат Европа; призовава Комисията и държавите членки да се съсредоточат върху привличането на най-добри таланти в европейските предприятия, а държавите членки — да създадат привлекателни условия;

22.  подчертава, че Европа трябва да насочи новите водещи инициативи в областта на FET(7) към изкуствения интелект, като обърне особено внимание на ориентирания към човека подход и езиковите технологии;

23.  счита, че изкуственият интелект, машинното самообучение, експоненциалното увеличаване на наличността на данните и изчисленията в облак подпомагат инициативите за научни изследвания с цел изучаване на биологията на молекулно и клетъчно равнище и насочват развитието на медицинското лечение и анализа на потоците от данни за откриване на опасности за здравето, за предвиждане на огнища на заболявания и за консултиране на пациенти; отбелязва, че техниките за извличане и навигация на данни могат да бъдат използвани за установяване на пропуски в предоставянето на грижи, както и на рискове, тенденции и модели;

24.  подчертава, че когато възникват рискове като неизбежна и неразделна част от научните изследвания в областта на ИИ, следва да се разработват и спазват строги протоколи за оценка и управление на риска, като се има предвид, че рискът от вреда не следва да е по-голям от този, който се среща в нормалния живот (т.е. хората не следва да бъдат изложени на рискове, по-големи от или допълнителни спрямо тези, на които са изложени при обичайния си начин на живот);

2.2.Инвестиции

25.  отбелязва значението на увеличаването на инвестициите в тази област, за да се запази конкурентоспособността; признава, че въпреки че по-голямата част от инвестициите и иновациите в тази област идват от предприятия от частния сектор, държавите членки и Комисията следва също така да бъдат насърчавани да продължат да инвестират в научни изследвания в този сектор и да очертават приоритетите си за развитие; приветства предложението за InvestEU и други публично-частни партньорства, които ще насърчават частното финансиране; счита, че координацията на инвестициите от частния и публичния сектор следва да се насърчава, за да се гарантира насоченост на развитието;

26.  подчертава, че инвестициите в ИИ, които могат да се характеризират със значителна несигурност, следва да бъдат допълнени с финансиране от ЕС, например от Европейската инвестиционна банка (ЕИБ) или Европейския инвестиционен фонд (ЕИФ), или пък чрез InvestEU и от Европейския фонд за стратегически инвестиции (ЕФСИ), които схеми могат да помогнат по отношение на споделянето на риска;

27.  настоятелно призовава Комисията да не допусне финансиране от ЕС на оръжеен ИИ; настоятелно призовава Комисията да изключи от финансирането от страна на ЕС дружества, които изследват и развиват изкуствено съзнание;

28.  препоръчва на Комисията да гарантира, че интелектуалната собственост върху изследванията, провеждани с финансиране от ЕС, ще остане в ЕС и в европейските университети;

2.3.Иновации, приемане от обществото и отговорност

29.  отбелязва, че всички основни технологични постижения изискват преходен период, който е необходим за по-голямата част от обществото, за да придобие по-задълбочено познаване на технологията и да я интегрира в ежедневието си;

30.  отбелязва, че бъдещето на тази технология зависи от нейното приемане от обществото и че трябва да се постави по-голям акцент върху съобщаването на ползите от нея, за да се гарантира по-добро разбиране на технологията и нейните приложения; отбелязва също така, че ако обществото не е информирано за технологиите с ИИ, ще има по-малко стремеж към иновации в този сектор;

31.  счита, че общественото приемане разчита на това как обществеността е информирана за възможностите, предизвикателствата и развитието на изкуствения интелект; препоръчва на държавите членки и на Комисията да улеснят достъпа до надеждна информация, която да помогне за преодоляване на основните опасения във връзка с ИИ и роботиката, като например неприкосновеността на личния живот, безопасността и прозрачността на процеса на вземане на решенията;

32.  приветства използването на регулаторни ограничителни режими („пясъчници“) за въвеждане, в сътрудничество с регулаторите, на новаторски нови идеи, които позволяват вграждането на предпазни механизми в технологията от самото начало, като по този начин се улеснява и насърчава навлизането ѝ на пазара; подчертава необходимостта от въвеждане на специфични за ИИ регулаторни ограничителни режими за изпитване на безопасното и ефективно използване на технологии с ИИ в реална среда;

33.  отбелязва, че за по-голямо обществено приемане на изкуствения интелект трябва да се гарантира, че използваните системи са безопасни и сигурни;

34.  отбелязва, че ИИ и езиковите технологии могат да предоставят важни приложения за насърчаване на единството на Европа в нейното многообразие: автоматизирани преводи, разговорни агенти и лични асистенти, интерфейси на говорими езици за роботи и интернет на нещата, интелигентни анализи, автоматизирана идентификация на онлайн пропаганда, фалшиви новини, и на реч на омраза;

2.4.Условия за подкрепа: свързаност, достъпност на данните и високопроизводителни изчислителни технологии, инфраструктура за изчисления в облак

35.  подчертава, че интеграцията на роботиката и свързаните с ИИ технологии в рамките на икономиката и обществото изисква цифрова инфраструктура, която предоставя универсална свързаност;

36.  подчертава, че свързаността е предпоставка за включването на Европа в обществото на гигабитов интернет, а ИИ е ясен пример за експоненциален растеж на търсенето на висококачествена, бърза, сигурна и широко разпространена свързаност; счита, че Съюзът и държавите членки следва да продължат да насърчават мерки за стимулиране на инвестициите в мрежите с много голям капацитет в ЕС и достъпа до тях;

37.  подчертава, че бързото, безопасно и сигурно развитие на 5G е от съществено значение, за да се гарантира, че Съюзът може да извлече всички ползи от ИИ при защита от заплахи за киберсигурността, като позволи да се подновят и развият сектори и услуги, които са гръбнакът на европейската икономика, и да се подкрепи появата на нови услуги, производство и пазари, което е от съществено значение за гарантирането на нови работни места и високо равнище на заетост;

38.  припомня, че наличието на висококачествени и значими данни е от съществено значение за реалната конкурентоспособност на промишлеността в областта на ИИ, и призовава публичните органи да гарантират начини за изготвяне, обмен и управление на данни, като превърнат публичните данни в общо благо, като същевременно се защитават неприкосновеността на личния живот и чувствителните данни;

39.  подчертава значението на качеството на данните, използвани за задълбочено машинно учене; отбелязва, че използването на нискокачествени, неактуални, непълни или неточни данни може да доведе до лоши прогнози, както и до дискриминация и пристрастност;

40.  счита, че новият набор от правила, уреждащи свободното движение на нелични данни в Съюза, дава възможност все повече данни да бъдат на разположение за иновациите, основани на данни, което улеснява МСП и стартиращите предприятия при разработването на иновативни услуги, основани на ИИ, и за навлизането им на нови пазари, като същевременно позволява на гражданите и предприятията да се възползват от по-добри продукти и услуги;

41.  отбелязва, че ИИ има потенциал да увеличи ефективността, комфорта и благосъстоянието в много сектори, ако утвърдените заинтересовани страни в промишлеността си сътрудничат с разработчиците на ИИ; освен това отбелязва, че голям обем от данни, които не са от личен характер, понастоящем са на разположение на заинтересованите страни и чрез партньорства могат да се използват за увеличаване на тяхната ефективност; счита, че за да се превърне това в реалност, сътрудничеството между потребителите и разработчиците на ИИ е необходимо предварително условие;

42.  подчертава значението на оперативната съвместимост и точността на данните, за да се гарантират високо равнище на надеждност и стандарти за сигурност в новите технологии;

43.  счита, че успехът на приложенията с ИИ, които са съобразени с потребителите в ЕС, често изисква задълбочено познаване на местните пазари, както и достъп до и използване на подходящи местни данни за обучение на наборите от данни, изпитването и валидирането на системите, особено в секторите, свързани с обработка на естествени езици; призовава държавите членки да насърчават наличието на висококачествени, оперативно съвместими и отворени данни, които са на разположение както на публичния сектор, така и на частни лица;

44.  изтъква необходимостта да се гарантира максимална съгласуваност с политиката на ЕС относно големите информационни масиви;

45.  приветства мерките за улесняване и подкрепа на обмена и споделянето на данни през границите;

46.  отбелязва, че понастоящем споделянето на данни е далеч под потенциала си и не се използват достатъчно големи количества данни;

47.  признава, че съществува нежелание да се споделят данни, и подчертава необходимостта от действия за насърчаване на това; отбелязва, че липсата на общи стандарти играе също важна роля за способността за споделяне на данни;

48.  приветства регламенти като Регламента за свободното движение на данни и значението, което той има в области като ИИ, за да се позволят по-ефективни и ефикасни процеси;

49.  признава, че е необходимо да се въведат по-големи пазарни стимули, за да се насърчи достъпът до и споделянето на данни; отбелязва риска, който откритостта на данните поражда преди всичко за инвестициите в данни;

50.  призовава за по-голяма яснота относно правилата за притежание на данни и действащите правни рамки; отбелязва, че регулаторната несигурност е довела до прекалено предпазливи отговори от страна на промишлеността;

51.  подчертава значението на европейските инициативи в областта на изчисленията в облак и високопроизводителните изчисления, които допълнително ще подобрят разработването на алгоритми за задълбочено машинно обучение и обработката на големи информационни масиви; изразява твърдо убеждение, че за да бъдат тези инициативи успешни и уместни за развитието на ИИ, инфраструктурата трябва да бъде отворена както за публични, така и за частни субекти, установени в Съюза и другаде, и да бъде регламентирана от минимално ограничаващи критерии за достъп;

52.  приветства създаването на Съвместното предприятие за европейски високопроизводителни изчислителни технологии; подчертава, че суперизчисленията и инфраструктурата за данни са от съществено значение за осигуряването на конкурентна иновационна екосистема за разработването на технологии и приложения с ИИ;

53.  подчертава, че изчисленията в облак играят ключова роля в стимулирането на възприемането на ИИ; подчертава, че достъпът до услуги в облак позволява на частни дружества, обществени институции, изследователски и академични институции и потребители да развиват и използват ИИ по ефикасен и икономически жизнеспособен начин;

3.Промишлена политика

54.  припомня, че макар в областта на ИИ и роботиката вече да има отдавна установени промишлени приложения, напредъкът в тази област се разраства и включва широки и разнообразни приложения във всички човешки дейности; счита, че всяка регулаторна рамка трябва да включва гъвкавост, която да позволява иновации и свободно разработване на нови технологии и употреби на ИИ;

55.  подчертава, че определянето на обхвата и приложенията на ИИ следва да бъде резултат от процес на проектиране, воден от потребностите и ръководен от принципи, които отчитат предвидения резултат и най-добрия път за постигането му от икономическа и социална гледна точка; счита, че наличието на ясни политики на всички етапи на развитие ще доведе до подходящо за целта изпълнение и справяне с рисковете и недостатъците;

56.  препоръчва използването и популяризирането на публично-частни партньорства, за да се търсят решения на ключови предизвикателства като изграждане на екосистема за данни, улесняване на достъпа до данни и тяхното споделяне и разпространение, като същевременно се защитава правото на хората на неприкосновеност на личния живот;

57.  подчертава, че сериозно предизвикателство за бъдещето на системите с ИИ е непоследователното качество на технологията за производство на софтуер, и поради това подчертава, че съществува голяма потребност от стандартизиране на изграждането и използването на системите с ИИ;

58.  отбелязва работата, която се извършва в световен мащаб, и признава необходимостта от проактивна работа с партньорите, особено с ОИСР и Г-20, в определянето на посоката, в която се движи този сектор, за да се гарантира, че ЕС продължава да бъде конкурентоспособен и гарантира равен достъп на нациите, както и споделяне на ползите от развитието на ИИ възможно най-широко;

59.  отбелязва със загриженост, че редица неевропейски дружества и други субекти от трети държави все повече използват прогностични модели, основани на ИИ, за предоставяне на услуги и извличане на добавена стойност на пазарите на ЕС, особено на местно равнище, както и за наблюдение и евентуално влияние върху политическите настроения, като по този начин представляват потенциални заплахи за технологичния суверенитет на гражданите на ЕС;

60.  подчертава, че публичната подкрепа за ИИ следва да се съсредоточи върху онези стратегически сектори, в които промишлеността на ЕС има най-големи възможности да играе водеща роля на световно равнище и които имат добавена стойност в общ интерес на обществото;

3.1.Приоритетни сектори

3.1.1.Публичен сектор

61.  подчертава, че в публичния сектор могат да се извлекат редица ползи от ИИ и роботиката, и приветства увеличаването на инвестициите в научноизследователска и развойна дейност, за да се гарантира, че те се развиват успешно;

62.  подчертава, че държавите членки също следва да инвестират в образователни програми и програми за обучение в областта на ИИ, за да подпомогнат служителите в публичния сектор при въвеждането на ИИ и роботиката за използване; отбелязва, че следва да бъдат проведени и информационни кампании за гражданите, които ще използват услугите на публичния сектор, предоставяни от системи с ИИ и роботика, за да се успокоят страховете им от загуба на контрол над личните им данни и за да се създаде доверие;

63.  подчертава, че информацията от публичния сектор представлява изключителен източник на данни, който може да спомогне за бързия напредък и за създаването на нова стратегия за внедряване на нови цифрови технологии, особено на изкуствения интелект;

64.  счита, че приемането на надежден изкуствен интелект от страна на публичния сектор може решително да подкрепи реформата на публичната администрация при вземането на решения и подобряването на обществените услуги, както и да засили широкото възприемане на ИИ в други сектори;

65.  признава използването на автоматизация на роботизирани процеси и въздействието, което тя оказва върху подобряването на процесите в публичния сектор; отбелязва нейната оперативна съвместимост със старите системи;

66.  изисква държавите членки да водят тази дигитална трансформация, като се позиционират като основни отговорни потребители и купувачи на технология с ИИ; подчертава, че в този контекст държавите членки трябва да адаптират своите политики в областта на данните, включително, наред с други свързани въпроси, по отношение на събирането на публични данни, използването, хранилищата или анотациите, за да позволят внедряването на ИИ във всички публични сектори;

67.  подчертава необходимостта от включване на обществеността в процеса на разработване на ИИ; поради това призовава Комисията да публикува всички алгоритми, инструменти и технологии, финансирани или съфинансирани от обществеността, като отворен код;

68.  счита, че ИИ ще бъде голям актив по отношение на прилагането на принципа на еднократност, който позволява комбинирането на бази данни и информация от различни източници, като по този начин се улеснява взаимодействието на гражданите с публичните администрации;

69.  призовава Комисията да гарантира защитата на гражданите от системите с ИИ за вземане на решения по класиране в публичните администрации, подобни на планираните за използване в Китай;

3.1.2.Здравеопазване

70.  подчертава, че човешкият контакт представлява ключов аспект на грижата за човека;

71.  отбелязва, че ИИ и роботиката носят потенциални ползи в сектора на полагането на грижи, тъй като продължителността на живота се увеличава, например помагайки на лекарите и медицинските сестри да имат повече време за дейности с висока стойност (като взаимодействие с пациенти);

72.  отбелязва въздействието, което ИИ вече е оказал върху благосъстоянието, превенцията, диагностиката, изследванията, и големия му потенциал за проектиране на персонализирани грижи; счита, че това в крайна сметка води до по-устойчива, ефикасна и основана на резултатите екосистема на здравеопазването;

73.  отбелязва, че когато ИИ е съчетан с диагностициране от човека, процентът на грешки е значително по-нисък, в сравнение с диагностициране само от страна на лекарите(8);

74.  подчертава, че използването на данни в здравния сектор трябва да се наблюдава внимателно и етично и не трябва по никакъв начин да възпрепятства достъпа до социална закрила или застраховане;

75.  счита, че когато се използва ИИ в имплантирани медицински изделия, носителят следва да има право да проверява и променя изходния код, използван в изделието;

76.  следва да се обърне специално внимание на използването на големи информационни масиви в здравеопазването, с цел да се увеличат максимално възможностите, които те могат да създадат – например подобряване на здравето на отделните пациенти, както и на резултатността на системите за обществено здравеопазване на държавите членки – без да се занижават етичните стандарти и без да се застрашава неприкосновеността на личния живот или безопасността на гражданите;

77.  подчертава обаче, че съществуващата система за одобрение на медицинските изделия може да не е подходяща за технологиите в областта на ИИ; призовава Комисията да следи отблизо напредъка по тези технологии и при необходимост да предложи промени в регулаторната рамка, за да установи рамката за определяне на съответната отговорност на потребителя (лекар/специалист), производителя на технологичното решение и здравното заведение, което предлага лечението; подчертава, че юридическата отговорност за причинени вреди е основен проблем в сектора на здравеопазването, когато се отнася за използването на ИИ; поради това подчертава необходимостта да се гарантира, че потребителите няма да бъдат принудени винаги да подкрепят диагностичното решение или лечение, предложено от технологичен инструмент, поради страх да не бъдат съдени за вреди, ако въз основа на своята информирана професионална преценка те трябва да стигнат до заключения, които се разминават дори частично;

78.  призовава държавите членки и Комисията да увеличат финансирането за свързаните със здравето технологии в областта на ИИ в публичния и в частния сектор; приветства във връзка с това декларацията за сътрудничество, подписана от 24 държави – членки на ЕС, и от Норвегия, с цел да се увеличи въздействието на инвестициите в ИИ на европейско равнище; призовава държавите членки и Комисията да обмислят дали програмите за обучение на медицинския и здравния персонал не следва да бъдат актуализирани и стандартизирани навсякъде в Европа, за да се гарантират високи равнища на експертен опит и равни условия за държавите членки по отношение на знанието и използването на най-напреднали технологични инструменти в областта на роботизираната хирургия, биомедицината и основаната на изкуствения интелект образна диагностика в биомедицината;

79.  призовава Комисията да работи по стратегии и политики, които да могат да поставят ЕС като световен лидер в нарастващия сектор на технологиите в областта на здравеопазването, като същевременно гарантират, че пациентите имат достъп до безпроблемна и ефективна медицинска помощ;

80.  признава, че по-добрата диагностика би могла да спаси живота на милиони хора, тъй като според Световната здравна организация 89% от случаите на преждевременна смърт в Европа са причинени от незаразни болести;

81.  насърчава приноса, който ИИ и роботиката осигуряват за иновациите в превантивните, клиничните и рехабилитационните практики и техники в здравния сектор, като особено внимание се обръща на ползата за пациентите с увреждания;

82.  признава, че увеличеното използване на датчици в областта на роботиката разшири обхвата на полагането на грижи и дава възможност на пациентите да получават по-персонализирано лечение и услуги, както и да получават грижи дистанционно, от собствените си домове, като същевременно се генерират по-значими данни;

83.  признава, че според проучването на Евробарометър от май 2017 г.(9) понастоящем гражданите на ЕС все още се чувстват дискомфортно поради идеята за използване на роботи в ежедневните здравни грижи; призовава Комисията и държавите членки да разработят стратегии и комуникационни кампании за повишаване на осведомеността относно ползите от ежедневното използване на роботи; отбелязва по-специално амбицията на японската стратегия за роботите;

3.1.3.Енергетика

84.  отбелязва, че ИИ позволява на доставчиците на енергия да преминат от превантивна поддръжка на активите към поддръжка, основана на прогнози, както и да постигнат по-ефективно производство на енергия чрез подобряване на надеждността по-специално на възобновяемите енергийни източници и чрез определяне на най-ефективните местоположения за нови съоръжения, като по този начин се гарантира по-добро управление на оптимизацията на потреблението;

85.  признава, че по-точните данни, получени от ИИ относно потенциала на производството на възобновяема енергия, ще създадат по-голяма сигурност на инвестициите за предприятията и физическите лица, като по този начин ще ускорят прехода към енергия от възобновяеми източници и ще допринесат за дългосрочната стратегия на Съюза за неутрална по отношение на климата икономика;

86.  отбелязва, че решения, включващи датчици, вече се използват за управление на потреблението на енергия в домовете и че това е довело до значителни икономии на енергия и парични средства;

87.  приветства потенциала на ИИ за моделиране, определяне и смекчаване на въздействието на човешката дейност върху климата; отбелязва, че макар че повишената дигитализация носи и нови енергийни потребности, тя може също така да доведе до повишена ефективност в енергоемките сектори и да осигури по-добро разбиране на процесите, което води до тяхното подобряване;

88.  подчертава, че с по-дигитализиран енергиен сектор енергийните мрежи стават по-големи и по-изложени на киберзаплахи; призовава държавите членки и Комисията да придружат цифровата трансформация в секторите на енергетиката с мерки като изкуствен интелект, подобряващи киберсигурността;

3.1.4.Транспорт

89.  приветства способността на ИИ и роботиката значително да подобрят нашите транспортни системи чрез въвеждането на автономни влакове и моторни превозни средства; призовава за повече научни изследвания и инвестиции в тази област, за да се гарантира нейното безопасно и ефективно развитие; подчертава огромните възможности както за големите технологични дружества, така и за МСП;

90.  отбелязва, че чрез намаляването на човешките грешки в транспортния сектор системата може потенциално да стане по-ефективна, с по-малко на брой произшествия, благодарение на по-голяма яснота в преценката и на прогнозното естество на технологията, с по-малко закъснения, със способността за картографиране на моделите на движение и за експлоатация на услугите по график, и по-големи икономии, при по-малко свързани с водачите грешки и рационализирани вътрешни процеси;

91.  отбелязва, че разпространението на автономните превозни средства в бъдеще създава рискове за неприкосновеността на личните данни и технически неизправности и ще прехвърли отговорността от водача към производителя, което ще наложи застрахователните дружества да променят начина, по който включват риска в подписваческата си дейност;

92.  отбелязва, че гласовата комуникация все повече се използва при взаимодействие с превозни средства и транспортни системи, но тези функции са достъпни само на няколко европейски езика, и затова следва да се гарантира, че всички европейци могат да използват тези възможности на майчиния си език;

3.1.5.Селско стопанство и верига за доставки на храни

93.  отбелязва, че ИИ има потенциала да катализира революционна трансформация на сегашната продоволствена система към по-разнообразен, устойчив, регионално адаптиран и здравословен модел за бъдещето;

94.  отбелязва, че ИИ може да играе основна роля в усилията за спомагане за справяне с проблемите на продоволствената сигурност, за предсказване на огнища на глад и хранителни болести, за намаляване на загубата на храни и отпадъците и за подобряване на устойчивото управление на земите, водите и други екологични ресурси от решаващо значение за здравето на екосистемите;

95.  подчертава, че ИИ може да се намеси в критичните точки по веригата на добавената стойност на продоволствената система от производството до потреблението и да подобри способността ни да променяме из основи начина, по който произвеждаме, преработваме и купуваме храна, чрез по-добре информирани практики за планиране на земеползването;

96.  отбелязва, че ИИ може да подобри управлението на ресурсите и ефективността на вложените ресурси, да помогне за намаляване на отпадъците след прибиране на реколтата и да повлияе върху избора на потребление;

97.  отбелязва, че ИИ под формата на прецизно земеделие има потенциал революционно да трансформира производството в селското стопанство, както и по-широкото управление на земите, чрез подобряване на планирането на земеползването, прогнозиране на промените в земеползването и наблюдение на здравето на културите, като в същото време има потенциал да преобразува прогнозирането на екстремни метеорологични събития;

98.  отбелязва, че ИИ може радикално да промени доставките на влагани вещества, контролирането на вредителите и управлението на стопанствата, да повлияе на земеделските практики, да промени начина, по който се доставят застрахователните продукти, и да помогне за предвиждането и избягването на бъдещи огнища на глад и тежко остро недохранване;

99.  отбелязва, че ИИ може да доведе до по-добри решения относно начина на управление на земеделските системи и стимулиране на разработването на системи за подпомагане на вземането на решения и препоръки чрез подобряване на ефективността и здравето на стопанствата;

3.1.6.Киберсигурност

100.  отбелязва, че киберсигурността е важен аспект на ИИ, особено предвид предизвикателствата, свързани с прозрачността на ИИ на високо равнище; счита, че технологичната перспектива, включваща одитиране на изходния код и изисквания за прозрачност и отчетност, следва да бъде допълнена от институционален подход, който да се занимава с предизвикателствата на въвеждането на ИИ, разработен в други държави, на единния пазар на ЕС;

101.  призовава за бързото прилагане на Акта за киберсигурността; отбелязва, че разработването на схеми на ЕС за сертифициране следва да гарантира по-устойчиво развитие и внедряване на безопасни системи с ИИ и роботизирани системи;

102.  счита, че ИИ може да бъде едновременно заплаха за киберсигурността и инструмент за борба с кибератаките; счита, че Агенцията на ЕС за мрежова и информационна сигурност (ENISA) следва да изготви план за действие относно киберсигурността в областта на ИИ, който следва да оценява и да се занимава със заплахите и слабостите, специфични за ИИ;

103.  подчертава значението на укрепването на промишлената база като стратегически компонент на сигурното развитие на ИИ; подчертава, че за да се гарантира амбициозно равнище на киберсигурност, защита на данните и надеждни услуги в областта на ИКТ, Европа трябва да инвестира в своята технологична независимост; подчертава неотложната необходимост ЕС да разработи собствена инфраструктура, центрове за данни, системи за изчислителни облаци и компоненти като графични процесори и чипове;

104.  отбелязва, че тъй като ИИ се развива и хакерите стават по-усъвършенствани, ще бъде наложително да има силни решения за киберсигурността;

105.  признава, че прилагането на решения на ИИ в киберсигурността ще позволи прогнозиране, предотвратяване и смекчаване на заплахите;

106.  подчертава, че докато ИИ ще може да осигури по-голямо покритие за откриването на заплахи, е наложително човешкото тълкуване на тези заплахи, за да се установи дали те са истински или не;

107.  призовава Комисията да проучи използването на базирани на блокови вериги приложения за киберсигурност, които подобряват устойчивостта, доверието и стабилността на инфраструктурите за ИИ чрез модели за криптиране на данни без посредничество; призовава Комисията да проучи възможността за възнаграждаване на гражданите за техните данни чрез жетони;

108.  призовава Комисията да укрепи капацитета за киберсигурност чрез допълнително обединяване и координиране на усилията в цяла Европа;

3.1.7.МСП

109.  признава значението на МСП за успеха на ИИ; приветства инициативата на Комисията за създаване на платформа за ИИ по заявка, която ще стимулира трансфера на технологии и ще катализира растежа на стартиращи предприятия и МСП; призовава Комисията да насърчава цифрови иновационни центрове за ИИ, които да не водят до създаването на допълнителни административни слоеве, а да се съсредоточават върху ускоряване на инвестициите в проекти, доказали своята ефективност;

110.  отбелязва, че разходите за инвестиране в ИИ водят до големи пречки за навлизане на МСП; признава, че широкото приемане на ИИ от потребителите би премахнало риска от тази инвестиция за МСП;

111.  подчертава необходимостта от насърчаване на приемането на ИИ от страна на МСП, както и насърчаването на потребителите да го използват;

112.  подчертава значението на целеви мерки, за да се гарантира, че МСП, както и стартиращите предприятия, са в състояние да приемат и да се възползват от технологиите с ИИ; счита, че оценките на въздействието на новото законодателство на ЕС върху технологичното развитие на ИИ следва да бъдат задължителни и че такива оценки на въздействието следва да бъдат обмислени и на национално равнище;

113.  подчертава, че ИИ може да създаде възможности за МСП, но също така да увеличи влиянието на големите лидери във въвеждането и големите разработчици; посочва следователно, от гледна точка на конкуренцията, необходимостта да се гарантира правилна оценка и разглеждане на новите изкривявания;

4.Правна рамка за изкуствения интелект и роботиката

114.  призовава Комисията, с оглед на насърчаването на регулаторна среда, която да е благоприятна за развитието на ИИ и да съответства на принципа на по-доброто регулиране, редовно да прави преоценка на действащото законодателство, за да гарантира, че то е пригодно към целта си по отношение на ИИ, като същевременно се зачитат основните ценности на ЕС, и за да се стреми да изменя или да замества нови предложения, когато е доказано, че това не е така;

115.  приветства създаването на основани на участието платформи относно ИИ, които да позволяват на гражданите да бъдат успешно изслушвани и да взаимодействат с правителствата, като правят предложения, включително чрез основани на участието бюджети и други инструменти на пряката демокрация; подчертава, че проектите „отдолу нагоре“ могат да насърчават участието на гражданите и да помагат на хората да вземат информирани решения по по-ефективен и демократичен начин;

116.  отбелязва, че ИИ е понятие, обхващащо широк спектър от продукти и приложения, от автоматизация, алгоритми и тесен изкуствен интелект до общ изкуствен интелект; счита, че към всеобхватен закон или регламент относно ИИ следва да се подхожда внимателно, тъй като секторното регулиране може да осигури политики, които са достатъчно общи, но и усъвършенствани до равнището, на което те са значими за промишления сектор;

117.  подчертава, че политическата рамка трябва да бъде разработена така, че да насърчава развитието на всички видове ИИ, а не само на системите за дълбоко машинно обучение, които изискват огромно количество данни;

4.1.Вътрешен пазар за изкуствен интелект

118.  подчертава значението на принципа на взаимното признаване при трансграничното използване на интелигентни стоки, включително роботи и роботизирани системи; припомня, че когато е необходимо, изпитването, сертифицирането и безопасността на продуктите следва да гарантират, че някои стоки са безопасни по проектиране и по подразбиране; в този контекст отбелязва значението и на работата по етичните аспекти на ИИ;

119.  подчертава, че законодателството на ЕС, свързано с изпълнението на стратегията за цифровия единен пазар, следва да премахне пречките пред разгръщането на ИИ; призовава Комисията да оцени дали е необходимо да се актуализират политическите и регулаторните рамки, за да се изгради единен европейски пазар за ИИ;

120.  признава, че технологиите в областта на роботиката и ИИ намират все по-голямо приложение в автономните превозни средства, например автономните автомобили и дроновете за граждански цели; отбелязва, че някои държави членки са в процес на изготвяне и приемане на законодателство или обмислят законодателство в тази конкретна област, което би могло да доведе до разнообразие от национални закони, възпрепятстващо разработването на автономни превозни средства; поради това призовава за единен набор от правила на Съюза, с които да се постигне точният баланс между интересите и потенциалните рискове за ползвателите, предприятията и другите засегнати страни, като същевременно се избягва свръхрегулирането в областта на роботиката и системите с ИИ;

121.  настоятелно призовава държавите членки да модернизират своите системи за професионално обучение и образование, за да се вземат предвид научният прогрес и развитията в областта на ИИ, в съответствие с Директивата за проверка на пропорционалността(10) и Директивата за професионалните квалификации(11), и да направят професионалните услуги в ЕС конкурентоспособни в световен мащаб през следващите десетилетия;

122.  подчертава, че ИИ се прилага за редица сектори, в които стандартизацията е от голямо значение, например интелигентното производство, роботиката, автономните превозни средства, виртуалната реалност, здравеопазването и анализа на данни, и счита, че стандартизацията за ИИ в целия ЕС ще насърчи иновациите и ще гарантира висока степен на защита на потребителите; признава, че макар да съществуват значителен брой стандарти по въпроси като безопасността, надеждността, оперативната съвместимост и сигурността, е необходимо допълнително да се насърчат и разработят общи стандарти за роботиката и ИИ и това следва да бъде част от приоритетите на Съюза; призовава Комисията, в сътрудничество с органите по стандартизация на ЕС, да продължи да се ангажира проактивно с международните органи по стандартизация за подобряване на стандартите в тази област;

123.  припомня, че редица аспекти на политиката, които са от значение за услугите, базирани на ИИ, включително правилата за защита на потребителите и политиката в областта на етиката и отговорността, са обхванати от съществуващата регулаторна рамка за услугите, а именно Директивата за услугите(12), Директивата за професионалните квалификации и Директивата за електронната търговия(13); подчертава в този контекст, че хората трябва винаги да носят крайната отговорност за вземането на решения, особено за професионални услуги, като медицинските, правните и счетоводните професии; счита, че е необходимо да се обмисли дали е необходим надзор от квалифициран специалист с оглед на защитата на легитимните цели от обществен интерес и на предоставянето на висококачествени услуги;

124.  признава значението на подобряването на цифровите услуги, например виртуални асистенти, чатботове и виртуални служители, което води до безпрецедентна оперативна ефективност, като същевременно надлежно отчита необходимостта от разработване на ориентиран към човека и пазарно ориентиран ИИ, за да се изготвят по-добри и по-надеждни решения с оглед на ограниченията на автономността на ИИ и роботиката;

4.2.Лични данни и неприкосновеност на личния живот

125.  подчертава, че трябва да се гарантира високо равнище на безопасност, сигурност и неприкосновеност на личния живот по отношение на данните, използвани за комуникация между хората и роботите и изкуствения интелект; следователно призовава Комисията и държавите членки да интегрират принципите за сигурност и защита на неприкосновеността на личния живот още при проектирането в своите политики, свързани с роботиката и изкуствения интелект;

126.  отново заявява, че правото на защита на личния живот и правото на защита на личните данни, предвидени в членове 7 и 8 от Хартата на основните права и в член 16 от Договора за функционирането на Европейския съюз, се прилагат за всички области на роботиката и изкуствения интелект и че правната уредба на Съюза за защита на данните трябва да се спазва изцяло; подчертава отговорността на проектантите на системи за роботика и изкуствен интелект за разработване на продуктите по такъв начин, че да бъдат безопасни, сигурни и подходящи за целта и да следват процедурите за обработка на данни в съответствие с действащото законодателство, поверителността, анонимността, справедливото третиране и справедливия процес;

127.  призовава Комисията да гарантира, че всяко законодателство на Съюза относно изкуствения интелект включва мерки и правила, които отчитат бързото технологично развитие в тази област, за да се гарантира, че законодателството на Съюза не изостава от кривата на технологичното развитие и разгръщане; подчертава необходимостта такова законодателство да съответства на правилата за неприкосновеност на личния живот и защита на данните; призовава за преглед на правилата, принципите и критериите по отношение на използването на камери и датчици в роботите и по отношение на изкуствения интелект в съответствие с правната рамка на Съюза за защита на данните;

128.  призовава Комисията да гарантира, че всяка бъдеща регулаторна рамка на ЕС относно ИИ осигурява неприкосновеността на личния живот и поверителността на съобщенията, защитата на личните данни, включително принципите на законосъобразност, справедливост и прозрачност, защитата на данните още при проектирането и по подразбиране, ограничаването на целите, ограничаването на съхранението, точността и свеждането до минимум на данните, при пълно спазване на законодателството на Съюза за защита на данните, както и на сигурността, личната безопасност и други основни права, като например правото на свобода на изразяване на мнение и на информация;

129.  подчертава, че правото на неприкосновеност на личния живот трябва винаги да бъде зачитано и лицата не трябва да бъдат конкретно идентифицирани; подчертава, че разработчикът на ИИ следва винаги да има ясно, недвусмислено и информирано съгласие и че проектантите в областта на ИИ имат отговорността да изготвят и спазват процедури за валидно съгласие, поверителност, анонимност, справедливо третиране и справедлив процес; подчертава, че проектантите трябва да удовлетворяват всички искания за унищожаване на свързани данни и за отстраняването им от всички набори от данни;

130.  припомня, че в Регламент (EС) 2018/1807 на Европейския парламент и на Съвета от 14 ноември 2018 г. относно рамка за свободното движение на нелични данни в Европейския съюз(14) се посочва, че „ако напредъкът в технологичното развитие направи възможно превръщането на анонимизираните данни в лични данни, тези данни трябва да се третират като лични данни и Общият регламент относно защитата на данните (ОРЗД)(15) трябва да се прилага съответно“;

4.3.Отговорност

131.  приветства инициативата на Комисията за създаване на експертна група за отговорността и новите технологии, която да предостави на ЕС експертен опит относно приложимостта на Директивата за отговорността за продуктите(16) към традиционните продукти, новите технологии и новите обществени предизвикателства (подгрупа по Директивата за отговорността за продуктите) и да подпомогне ЕС при разработването на принципи, които могат да служат за насоки за евентуални адаптации на приложимите закони на равнището на ЕС и на национално равнище по отношение на новите технологии (подгрупа по новите технологии);

132.  при все това изразява съжаление, че през настоящия парламентарен мандат не беше представено законодателно предложение, което забавя актуализирането на правилата за отговорност на равнището на ЕС и застрашава правната сигурност в целия ЕС в тази област както за търговците, така и за потребителите;

133.  отбелязва, че инженерите в областта на ИИ или дружествата, които ги наемат на работа, следва да продължават да носят отговорност за социалните последствия и последствията за околната среда и здравето на човека, до които системите с ИИ и роботиката може да доведат по отношение на настоящото и бъдещите поколения;

4.4.Защита и овластяване на потребителите

134.  подчертава, че доверието на потребителите е от съществено значение за развитието на ИИ и че системите, основани на ИИ, се занимават с все повече и повече потребителски данни, което ги превръща в основни цели за кибератаки; подчертава също така факта, че ИИ трябва да функционира по начин, който не е в ущърб на гражданите и потребителите, и счита, че следователно трябва да се осигури целостта на данните и алгоритмите, на които той разчита;

135.  счита, че технологиите в областта на ИИ, разработени както за производство, така и за индивидуална употреба, следва да подлежат на проверки за безопасност на продуктите от страна на органите за надзор на пазара и да спазват правилата за защита на потребителите, като се гарантират, когато е целесъобразно, минимални стандарти за безопасност и се преодолява рискът от произшествия, произтичащи от взаимодействието с хора или от работата в близост до тях; счита, че въпросите, свързани с етиката, защитата на данните, включително данните на трети страни и личните данни, гражданската отговорност и киберсигурността, следва да бъдат разглеждани във всяка политика в областта на ИИ;

4.5.Права върху интелектуалната собственост

136.  припомня своята гореспомената резолюция от 16 февруари 2017 г., в която отбелязва, че не съществуват правни разпоредби, които да се прилагат конкретно за роботиката, но че съществуващите правни режими и доктрини могат лесно да се приложат към роботиката, въпреки че изглежда, че някои аспекти изискват специално разглеждане; повтаря отправения в тази резолюция призив към Комисията да подкрепи хоризонтален и неутрален от технологична гледна точка подход към интелектуалната собственост, приложим към различните сектори, в които може да се използва роботиката;

137.  приветства в това отношение съобщението на Комисията до институциите относно насоки за някои аспекти на Директива 2004/48/ЕО на Европейския парламент и на Съвета относно упражняването на права върху интелектуалната собственост(17) (COM(2017)0708), но подчертава необходимостта от наблюдение на целесъобразността и ефективността на правилата за правата върху интелектуалната собственост, които ще уреждат развитието на ИИ; подчертава в този контекст значението на проверките за пригодност;

5.Етични аспекти

138.  счита, че действията и приложенията за изкуствен интелект следва да бъдат в съответствие с етичните принципи и съответното национално право, право на Съюза и международно право;

139.  призовава за създаването на етична харта на най-добрите практики за ИИ и роботиката, която дружествата и експертите следва да следват;

140.  призовава Комисията и държавите членки да насърчават тясното и прозрачно сътрудничество между публичния и частния сектор и академичните среди, което да засили обмена на знания, и да насърчават образованието и обучението на проектантите по отношение на етичните аспекти, безопасността и зачитането на основните права, както и на потребителите относно използването на роботиката и изкуствения интелект, със специален акцент върху сигурността и неприкосновеността на данните;

141.  призовава Комисията да гарантира, че приложенията, основаващи се на ИИ, не следва да използват данни, събрани от различни източници, без първо да получават съгласието на субекта на данните; призовава Комисията да създаде рамка, която да гарантира, че съгласието, дадено от субекта на данните, ще генерира данни само за предвидените цели;

142.  призовава Комисията да зачита правото на гражданите на живот извън интернет и да гарантира, че няма дискриминация на гражданите, за които няма записани данни;

5.1.Ориентирана към човека технология

143.  подчертава, че трябва да са налице етични правила, за да се гарантират развитието на ИИ, ориентирано към човека, отчетността и прозрачността на системите за вземане на решения въз основата на алгоритми, ясните правила за отговорност и справедливостта;

144.  приветства инициативата на Комисията за създаване на експертната група на високо равнище по въпросите на изкуствения интелект, както и мрежата на алианса на ИИ на ЕС, с цел да се изготвят етични насоки за ИИ; отправя искане към Комисията да гарантира възможно най-голямото приемане на тези етични насоки от страна на промишлеността, академичните среди и публичните органи; препоръчва държавите членки да включат насоките в своите национални стратегии за ИИ и да разработят реални структури за отчетност за секторите и правителствата, тъй като те проектират и разгръщат ИИ;

145.  счита, че непрекъснатото проследяване на прилагането на етичните насоки за ИИ и въздействието му върху развитието на ориентиран към човека ИИ е от съществено значение; отправя искане към Комисията да анализира дали доброволните етични насоки са достатъчни, за да гарантират, че приобщаващото, етично внедряване на ИИ не създава икономически и социални различия в обществата на ЕС, и да предложи, ако е необходимо, регулаторни и политически мерки;

146.  отбелязва последните събития в наблюдението на и адаптирането към поведенческите анализи; призовава Комисията да разработи етична рамка, която да ограничи тяхното използване; настоятелно призовава Комисията да повиши осведомеността и да стартира информационна кампания за ИИ и използването му по отношение на поведенчески анализи;

5.2.Интегрирани ценности в областта на технологиите – етика още на етапа на проектирането

147.  посочва, че насочващата етична рамка следва да се основава на принципите за действие в най-добрия интерес на ползвателите, непричиняване на вреди на ползвателите, автономност и справедливост, на принципите и ценностите, залегнали в член 2 от Договора за Европейския съюз и Хартата на основните права, като човешко достойнство, равенство, справедливост и равнопоставеност, недопускане на дискриминация, информирано съгласие, защита на личния и семейния живот и на данните, както и на другите основополагащи принципи и ценности на правото на Съюза, като недопускане на стигматизиране, прозрачност, автономност, индивидуална отговорност и социална отговорност, и на съществуващите етични практики и кодекси;

148.  счита, че Европа трябва да бъде лидер в световен мащаб чрез разгръщането само на етично интегриран ИИ; подчертава, че за да се постигне това, трябва да се гарантира управлението на етиката в областта на ИИ на различни равнища; препоръчва на държавите членки да създадат органи за мониторинг и надзор на етиката на ИИ и да насърчат дружествата, разработващи ИИ, да създадат съвети по етика и да разработят етични насоки за своите разработчици на ИИ;

149.  подчертава, че европейските стандарти за ИИ трябва да се основават на принципите на цифровата етика, човешкото достойнство, зачитането на основните права, защитата на данните и сигурността, като по този начин се допринася за изграждането на доверие сред потребителите; подчертава значението на използването на потенциала на ЕС за създаване на силна инфраструктура за системи с ИИ, основаващи се на високи стандарти за данни и уважение към хората; отбелязва, че прозрачността и обяснимостта трябва да бъдат интегрирани в развитието на ИИ;

150.  отбелязва, че автоматизираните оръжейни системи следва да продължат да имат подход на „командване от човек“ спрямо изкуствения интелект;

5.3.Вземане на решения— ограничения на автономията на изкуствения интелект и роботиката

151.  подчертава трудността и сложността на предвиждането на бъдещото поведение на много сложни системи с ИИ и възникващото поведение на взаимодействащите системи с ИИ; отправя искане към Комисията да прецени дали има нужда от специфични регламенти, свързани с процеса на вземане на решения, основан на ИИ;

152.  отбелязва, че изкуственият интелект ще продължи да бъде полезен инструмент за сътрудничество в човешките действия, за да се подобри тяхната ефективност и да се намалят грешките;

153.  призовава хората да имат право да знаят, право на обжалване и право на правна защита, когато ИИ се използва за решения, засягащи физически лица, които носят значителен риск за правата или свободата им, или могат да им навредят;

154.  подчертава, че алгоритмите в системите за вземане на решения не следва да се използват без предварителна оценка на въздействието на алгоритмите (ОВА), освен ако е ясно, че те нямат значително въздействие върху живота на физическите лица;

155.  счита, че изкуственият интелект, особено системите с вградена автономия, включваща способността за самостоятелно извличане, събиране и обмен на чувствителна информация с различни заинтересовани страни, както и възможността за самообучение или дори за еволюиране до самостоятелно модифициране, следва да бъдат обект на солидни принципи; подчертава, че системите с ИИ не трябва да съхраняват или разкриват лична поверителна информация без изрично одобрение от източника на тази информация;

5.4.Прозрачност, пристрастност и обяснимост на алгоритмите

156.  посочва, че докато ИИ носи големи ползи в областта на автоматизацията и вземането на решения, той води и до присъщ риск, когато алгоритмите са статични и непрозрачни; в този контекст подчертава необходимостта от по-голяма прозрачност по отношение на алгоритмите;

157.  призовава Комисията, държавите членки и органите за защита на данните да установяват алгоритмичната дискриминация и пристрастност и да вземат всички възможни мерки да ги предотвратят или сведат до минимум, и да разработят силна обща етична рамка за прозрачната обработката на лични данни и автоматизираното вземане на решения, която да може да направлява използването на данни и прилагането на правото на Съюза;

158.  подчертава, че всяка система с ИИ трябва да бъде разработена при зачитане на принципите на прозрачност и на алгоритмичната отчетност, които дават възможност за разбиране на нейните действия от страна на хората; отбелязва, че за да се изгради доверие в ИИ и да се даде възможност за неговия напредък, потребителите трябва да знаят как се използват техните данни, както и други данни и данни, изведени от техни данни, и кога общуват или взаимодействат със система с ИИ или с хора, подпомагани от система с ИИ; счита, че това ще допринесе за по-добро разбиране и доверие сред потребителите; подчертава, че разбираемостта на решенията трябва да бъде стандарт на ЕС в съответствие с членове 13, 14 и 15 от ОРЗД; припомня, че ОРЗД вече предвижда право на информиране относно логиката, използвана при обработката на данни; подчертава, че съгласно член 22 от ОРЗД физическите лица имат право да получат човешка намеса, когато решение, основано на автоматизирана обработка, ги засяга в значителна степен;

159.  подчертава, че Комисията, Европейският комитет по защита на данните, националните органи по защита на данните и други независими надзорни органи следва да изпълняват оттук нататък решаваща роля, за да се насърчава прозрачността, справедливият процес, правната сигурност като цяло, и по-специфично конкретните стандарти за защита на основните права и гаранциите, свързани с обработката и анализа на данни; призовава за по-тясно сътрудничество между органите, отговарящи за надзора и регулирането на поведението в цифровата среда; призовава за адекватно финансиране и осигуряване на персонал за подобни органи;

160.  признава, че алгоритмите за машинно самообучение са обучени да се учат сами, в полза на автоматизацията и вземането на решения; призовава за насоки за етика на ИИ, които да разглеждат въпроси, свързани с алгоритмичната прозрачност, обяснимостта, отчетността и справедливостта;

161.  подчертава значението на обяснимостта на резултатите, процесите и ценностите на системите с ИИ, която ги прави разбираеми от нетехнически аудитории и която е необходима, за да се оцени справедливостта и да се спечели доверие;

162.  посочва, че липсата на прозрачност по отношение на тези технологии и техните приложения повдига редица етични въпроси;

163.  отбелязва, че системите с ИИ следва да бъдат обясними за хората и да предоставят съдържателна информация, така че да може да се даде обратна връзка; признава, че силата на моделите на ИИ зависи от обратната връзка и преоценката, и насърчава този процес;

164.  отбелязва, че гражданите са загрижени от това, че не знаят кога се използва ИИ и каква информация ще бъде обработвана; препоръчва ясно оповестяване, когато ИИ се използва от гражданите; подчертава, че за да се запази доверието на потребителите, е важно предаваните данни да остават сигурни;

165.  счита, че алгоритмичната отчетност следва да се регулира от лицата, определящи политиките, чрез оценки на въздействието, основани на установени параметри;

166.  отбелязва, че разкриването на самия компютърен код няма да разреши проблема с прозрачността на ИИ, тъй като не би разкрило съществуващите вътрешни пристрастия и не би обяснило процеса на машинно самообучение; подчертава, че прозрачността означава не само прозрачност на кода, но и на данните и автоматизираното вземане на решения;

167.  признава, че оповестяването на изходния код може да доведе до злоупотреба и до игра на алгоритми;

168.  подчертава значението на борбата с пристрастността по отношение на разработчиците, а оттам и на необходимостта от разнородна работна сила във всички клонове на сектора на ИТ, както и на предпазните механизми, за да се избягват пристрастия, основани на пол и възраст и интегрирани в системите с ИИ;

169.  признава, че разкриването на кода или търговски тайни също така би обезкуражило предприятията да провеждат изследвания и развойна дейност за нов код, тъй като тяхната интелектуална собственост би била изложена на риск; отбелязва, че разработването на ИИ следва вместо това да насърчава тълкуването на моделите и взаимодействието им с входните данни и данните за обучението;

170.  признава, че въпреки че прозрачността и обяснимостта могат да разкрият недостатъци, те не гарантират надеждност, сигурност и справедливост; поради това счита, че отчетността е неразделна част от постигането на надежден изкуствен интелект, което може да бъде чрез различни средства, като например ОВА, одитиране и сертифициране;

171.  подчертава необходимостта от разработване на протоколи за текущото наблюдение и откриване на алгоритмична пристрастност;

172.  посочва, че проектантите на алгоритми следва да гарантират спазването на съществените изисквания, като справедливост или обяснимост, от началото на етапа на проектиране и през целия цикъл на разработване;

173.  отбелязва необходимостта от насоки, описващи добри практики за разработване;

174.  подчертава значението на показването на генезиса, за да може да се проследи историята на модела на ИИ; счита, че това ще подобри разбирането на моделите и ще спомогне за установяването на доверие въз основа на тяхната история;

175.  подчертава, че използването на системи с ИИ трябва да бъде ясно идентифицирано при взаимодействията с потребителите;

176.  подчертава, че разпространението на ИИ и роботиката трябва да се извършва при пълно зачитане на правата на човека и в никакъв случай не трябва да възпроизвежда в машините и роботите стереотипите по отношение на жените, нито каквато и да било друга форма на дискриминация;

177.  посочва, че дори висококачествени данни за обучение могат да доведат до увековечаване на съществуващата дискриминация и несправедливост, когато не се използват внимателно и съзнателно; отбелязва, че използването на нискокачествени, остарели, непълни или неточни данни на различни етапи от обработката на данни може да доведе до лоши прогнози и оценки и от своя страна — до пристрастия, които в крайна сметка могат да доведат до нарушаване на основните права на отделни лица или до напълно неточни заключения или неверни резултати; поради това счита, че е важно в ерата на големите информационни масиви да се гарантира, че алгоритмите са обучавани на представителни извадки от висококачествени данни с цел постигане на статистическо изравняване; подчертава, че дори ако се използват точни висококачествени данни, прогнозният анализ, основан на ИИ, може да предложи само статистическа вероятност; припомня, че съгласно ОРЗД допълнителното обработване на лични данни за статистически цели, включително за обучение на ИИ, може да води само до обобщени данни, които не могат да бъдат повторно приложени към отделни хора;

178.  призовава Комисията да гарантира, че всеки, който произвежда материали, тип „дийп фейк“, или синтетични видеоклипове, или други реалистично направени синтетични видеоклипове, изрично заявява, че те не са оригинални;

179.  отбелязва, че ИИ по своята същност се основава на събирането на големи количества данни и често на създаването на нови бази данни, които се използват, за да се правят предположения за хората; счита, че следва да се наблегне на идентифицирането и изграждането на механизми за реагиране на потенциални заплахи, за да се гарантира смекчаване на отрицателните въздействия;

180.  отново заявява, че системите с ИИ не следва да създават или засилват пристрастност; подчертава, че при разработването и използването на алгоритми трябва да се включат съображения за пристрастност и справедливост на всички етапи – от проектирането до прилагането; изтъква, че наборът от данни и алгоритъмът трябва да бъдат оценявани и редовно изпитвани, за да се гарантира точността на вземането на решения;

6.Управление

6.1.Координация на равнището на Съюза

181.  призовава Комисията да работи за изграждането на силно лидерство на ЕС, което да предотврати дублирането и фрагментирането на усилията и да гарантира последователни политики на национално равнище и обмен на най-добри практики за по-широко използване на ИИ;

182.  приветства различните национални стратегии, разработени от държавите членки; приветства Координирания план на Комисията относно изкуствения интелект, публикуван на 7 декември 2018 г.; призовава за по-добро сътрудничество между държавите членки и Комисията в това отношение;

183.  отбелязва, че редица държави членки вече имат свои собствени национални стратегии за ИИ, и приветства факта, че всички държави членки са подписали Декларация за сътрудничество в областта на изкуствения интелект през април 2018 г.; приветства също така предстоящия координиран план относно ИИ между Комисията и държавите членки, но призовава всички участващи страни да се стремят към възможно най-високо равнище на сътрудничество;

184.  счита, че е необходимо засилено сътрудничество между държавите членки и Комисията, за да се гарантират съгласувани трансгранични правила в Съюза, насърчаващи сътрудничество между европейските сектори и позволяващи разгръщането в целия Съюз на ИИ, който е в съответствие с изискваните равнища на безопасност и сигурност, както и с етичните принципи, залегнали в правото на Съюза;

185.  подчертава, че хармонизирана, основана на риска и прогресивна рамка на политиката на ЕС в областта на данните би увеличила доверието и подкрепата за пътя на ИИ в Европа, като по този начин осигури завършването на цифровия единен пазар и повиши производителността на базираните в Европа предприятия;

186.  препоръчва осъществяваните от Комисията текущи и бъдещи инициативи и пилотни проекти, свързани с ИИ, да бъдат тясно координирани, евентуално под ръководството на предложения механизъм за надзор, за да се реализират ползи от взаимодействието и да се осигури създаването на реална добавена стойност, като същевременно се избегнат скъпоструващи дублирани структури;

187.  призовава Комисията и държавите членки да обмислят създаването на европейска регулаторна агенция за ИИ и алгоритмично вземане на решения, натоварена със:

   създаване на матрица за оценка на риска за класифициране на типове алгоритми и области на приложение в зависимост от потенциала им за значително отрицателно въздействие върху гражданите;
   проучване на използването на алгоритмични системи, при които има подозрение (например доказателства, предоставени от лице, сигнализиращо за нередности) за нарушаване на правата на човека;
   предоставяне на консултации на други регулаторни агенции относно алгоритмичните системи, попадащи в тяхната сфера на компетентност;
   повишаване на ефективността на механизма за отговорност при нередности като средство за регулиране на отчетността на алгоритмичните системи чрез осигуряване на контактна точка за гражданите, които не са запознати с правните процедури;
   одитиране на ОВА на системите за въздействие на високо равнище с цел одобряване или отхвърляне на предложеното използване на алгоритмично вземане на решения в области с висока чувствителност и/или с критично значение за безопасността (например частно здравеопазване); ОВА за приложения в частния сектор би могла да следва много подобен процес като предложения за публичния сектор, с възможната разлика, че различните етапи на публичното оповестяване биха могли да се разглеждат като поверително съобщение към регулаторната агенция (съгласно споразумение за неоповестяване на информация), за да се запазят жизненоважни търговски тайни;
   проучване на предполагаеми случаи на нарушения на правата от алгоритмични системи за вземане на решения, както за отделни решения (например единични анормални резултати), така и за модели на статистическо решение (например дискриминационна пристрастност); разследванията могат да бъдат предприети след подаване на жалби или на базата на доказателства, предоставени от лица, сигнализиращи за нередности, разследващи журналисти или независими изследователи (включително НПО и представители на академичните среди);

188.  отбелязва текущата работа на Международната организация по стандартизация (ISO) в областта на ИИ и настоятелно призовава държавите членки да координират своите членове на ISO, за да се гарантира подходящо представителство на европейските интереси при разработването на стандарти в тази област;

6.2.Международно управление

189.  приветства създаването на Обсерватория на политиката за ИИ към ОИСР и призовава за повече амбиции при разработването на пътна карта за по-нататъшно сътрудничество;

190.  подчертава, че в трети държави, по-конкретно в САЩ, Китай, Русия и Израел, се разработват различни модели, и подчертава подхода, основан на ценности, който се използва в Европа, и необходимостта да се работи с международните партньори в двустранен и многостранен контекст, за етичен напредък и приемане на ИИ; признава, че тази технология няма граници и изисква сътрудничество извън границите на държавите – членки на ЕС;

191.  призовава Комисията да работи на международно равнище, за да гарантира максимална съгласуваност между международните участници, и да се застъпва за етичните принципи на ЕС в световен план;

192.  подчертава, че ИИ е технология със световно въздействие, даваща споделени ползи и повдигаща сходни предизвикателства; изтъква необходимостта от глобален подход, какъвто е случаят с икономическата система, и особено в случая на технология със значително въздействие върху пазарите; подчертава необходимостта от включване на ИИ в дневния ред на съществуващите институции и организации и призовава за оценка на необходимостта от допълнителни форуми, които да бъдат създадени, ако е необходимо;

o
o   o

193.  възлага на своя председател да предаде настоящата резолюция на Съвета и на Комисията.

(1) ОВ C 252, 18.7.2018 г., стр. 239.
(2) ОВ C 307, 30.8.2018 г., стр. 163.
(3) Приети текстове, P8_TA(2018)0341.
(4) Приети текстове, P8_TA(2018)0332.
(5) ОВ L 252, 8.10.2018 г., стр. 1.
(6) COM(2018)0237.
(7) Future and Emerging Technologies („Бъдещи и нововъзникващи технологии“).
(8) OECD Digital Economy Outlook 2017 (Перспективи на ОИСР за цифровата икономика, 2017 г.).
(9) Специално издание на Евробарометър № 460.
(10) Директива (ЕС) 2018/958 на Европейския парламент и на Съвета от 28 юни 2018 година относно проверката за пропорционалност преди приемането на ново регулиране на професии, OВ L 173, 9.7.2018 г., стр. 25.
(11) Директива 2013/55/ЕС на Европейския парламент и на Съвета от 20 ноември 2013 г. за изменение на Директива 2005/36/ЕО относно признаването на професионалните квалификации и на Регламент (ЕС) № 1024/2012 относно административно сътрудничество посредством Информационната система за вътрешния пазар ( „Регламент за ИСВП“), ОВ L 354, 28.12.2013 г., стр. 132.
(12) Директива 2006/123/ЕО на Европейския парламент и на Съвета от 12 декември 2006 г. относно услугите на вътрешния пазар, ОВ L 376, 27.12.2006 г., стр. 36.
(13) Директива 2000/31/ЕО на Европейския парламент и на Съвета от 8 юни 2000 г. за някои правни аспекти на услугите на информационното общество, и по-специално на електронната търговия на вътрешния пазар („Директива за електронната търговия“), ОВ L 178, 17.7.2000 г., стр. 1.
(14) OВ L 303, 28.11.2018 г., стр. 59.
(15) Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/ЕО (ОВ L 119, 4.5.2016 г., стр. 1).
(16) Директива 85/374/ЕИО на Съвета от 25 юли 1985 г. за сближаване на законовите, подзаконовите и административните разпоредби на държавите членки относно отговорността за вреди, причинени от дефект на стока, ОВ L 210, 7.8.1985 г., стр. 29.
(17) OВ L 195, 2.6.2004 г., стр. 16.

Последно осъвременяване: 13 февруари 2019 г.Правна информация