Процедура : 2018/2088(INI)
Етапи на разглеждане в заседание
Етапи на разглеждане на документа : A8-0019/2019

Внесени текстове :

A8-0019/2019

Разисквания :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Гласувания :

PV 12/02/2019 - 9.20
Обяснение на вота

Приети текстове :

P8_TA(2019)0081

ДОКЛАД     
PDF 399kWORD 131k
30.1.2019 г.
PE 630.525v04-00 A8-0019/2019

относно всеобхватната европейска промишлена политика в областта на изкуствения интелект и роботиката

(2018/2088(INI))

Комисия по промишленост, изследвания и енергетика

Докладчик: Ашли Фокс

Докладчици по становище (*):Дита Харанзова, комисия по вътрешния пазар и защита на потребителите

Мади Делво, комисия по правни въпроси

Михал Бони, комисия по граждански свободи, правосъдие и вътрешни работи

(*) Процедура с асоциирани комисии – член 54 от Правилника за дейността

ПРЕДЛОЖЕНИЕ ЗА РЕЗОЛЮЦИЯ НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ
 СТАНОВИЩЕ на комисията по вътрешния пазар и защита на потребителите
 СТАНОВИЩЕ НА КОМИСИЯТА ПО ПРАВНИ ВЪПРОСИ ОТНОСНО ПРАВНОТО ОСНОВАНИЕ
 СТАНОВИЩЕ на комисията по граждански свободи, правосъдие и вътрешни работи
 СТАНОВИЩЕ на комисията по околна среда, обществено здраве и безопасност на храните
 ИНФОРМАЦИЯ ОТНОСНО ПРИЕМАНЕТО ВЪВ ВОДЕЩАТА КОМИСИЯ
 ПОИМЕННО ОКОНЧАТЕЛНО ГЛАСУВАНЕ ВЪВ ВОДЕЩАТА КОМИСИЯ

ПРЕДЛОЖЕНИЕ ЗА РЕЗОЛЮЦИЯ НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ

относно всеобхватната европейска промишлена политика в областта на изкуствения интелект и роботиката

((2018/2088(INI))

Европейският парламент,

–  като взе предвид своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката(1),

–  като взе предвид своята резолюция от 1 юни 2017 г. относно цифровизацията на европейската промишленост(2),

–  като взе предвид своята резолюция от 12 септември 2018 г. относно автономните оръжейни системи(3);

–  като взе предвид своята резолюция от 11 септември 2018 г. относно езиковото равенство в ерата на цифровите технологии(4),

–  като взе предвид предложението на Комисията от 6 юни 2018 г. за създаване на програмата „Цифрова Европа“ за периода 2021 – 2027 г. (COM(2018)0434),

–  като взе предвид Регламент № 2018/1488 на Съвета от 28 септември 2018 г. за създаване на Съвместно предприятие за европейски високопроизводителни изчислителни технологии(5);

–  като взе предвид член 52 от своя правилник,

–  като взе предвид доклада на комисията по промишленост, изследвания и енергетика и становищата на комисията по вътрешния пазар и защита на потребителите, комисията по правни въпроси, комисията по граждански свободи, правосъдие и вътрешни работи и комисията по околна среда, обществено здраве и безопасност на храните (A8-0019/2019),

A.  като има предвид, че прозрачният и етично издържан изкуствен интелект (ИИ) и роботиката имат потенциала да обогатят живота ни и да разширят способностите ни както като личности, така и за общото благо;

Б.  като има предвид, че развитието на ИИ напредва с бързи темпове, и като има предвид, че от няколко години ИИ вече участва в нашето ежедневие; като има предвид, че ИИ и роботиката насърчават иновациите, което води до нови бизнес модели и играе ключова роля за преобразяването на нашите общества и за цифровизирането на нашите икономики в множество сектори, например промишлеността, здравеопазването, строителството и транспорта;

В.  като има предвид, че нарастващата интеграция на роботиката в човешките системи изисква сериозни политически насоки за това как да се увеличат максимално ползите и да се сведат до минимум рисковете за обществото и да се гарантира безопасно и справедливо развитие на изкуствения интелект;

Г.  като има предвид, че изкуственият интелект е една от стратегическите технологии за ХХI век както в световен мащаб, така и в Европа, и носи положителна промяна за европейската икономика, като дава възможност за иновации, производителност, конкурентоспособност и благополучие;

Д.  като има предвид, че около една четвърт от всички промишлени роботи и половината от всички роботи в областта на професионалните услуги в света се произвеждат от европейски дружества, поради което ЕС вече разполага с важни активи, на които следва да основава своята европейска промишлена политика;

Е.  като има предвид, че ИИ и роботиката имат потенциала да преобразят множество промишлени сектори и водят до по-голяма ефективност на производството, както и повишават конкурентоспособността на европейската промишленост и на МСП на световно равнище; като има предвид, че наличието на големи масиви от данни и съоръжения за изпитване и експериментиране са от голямо значение за развитието на изкуствения интелект;

Ж.  като има предвид, че чрез общ подход ще се улесни развитието на технологиите в областта на ИИ в полза на обществото, като същевременно ще се отговори на свързаните с тези технологии предизвикателства, за да се насърчат иновациите, да се подобри качеството на основаните на ИИ продукти и услуги, да се подобри опитът на потребителите и доверието в технологиите в областта на ИИ и роботиката, както и да се избегне фрагментирането на вътрешния пазар;

З.  като има предвид, че изчислителните технологии в Съюза трябва да се поддържат на водещо равнище, което следва да предостави възможности за доставчиците в ЕС и да увеличи тяхната ефективност, като технологичното развитие бъде насочено към продукти и услуги, ориентирани към търсенето и основани на приложения, което ще доведе до тяхното приемане в широкомащабни и нововъзникващи приложения, подкрепени от изкуствен интелект;

И.  като има предвид, че спешно е необходим координиран подход на европейско равнище, за да може ЕС да се конкурира с огромните инвестиции, направени от трети държави, особено от САЩ и Китай;

Й.  като има предвид, че на 25 април 2018 г.(6) Комисията пое ангажимент да предложи европейски подход към ИИ, като разработи проект на насоки в областта на ИИ в сътрудничество със заинтересованите страни в рамките на Алианса за ИИ – група от експерти в областта на изкуствения интелект, за да даде тласък на основаващите се на ИИ приложения и предприятия в Европа;

К.  като има предвид, че действащите правила и процеси трябва да бъдат преразгледани и при необходимост изменени, така че да отчитат изкуствения интелект и роботиката;

Л.  като има предвид, че европейската рамка за ИИ трябва да бъде разработена при пълно зачитане на правата, залегнали в Хартата на основните права, и по-специално на принципите за защита на данните, неприкосновеност на личния живот и сигурност;

М.  като има предвид, че развитието на изкуствения интелект може и следва да бъде проектирано по такъв начин, че да запази достойнството, автономността и самоопределението на индивида;

Н.  като има предвид, че в своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката, Парламентът призова Комисията да предложи съгласувана правна уредба по отношение на развитието на роботиката, включително автономните системи и интелигентните автономни роботи;

О.  като има предвид, че развитието на ИИ и на роботиката трябва да включва обществото като цяло; като има предвид обаче, че през 2017 г. селските райони останаха до голяма степен изключени от ползите от ИИ, тъй като 8% от домакинствата не са обхванати от никаква фиксирана мрежа, а 53% не са обхванати от технология за достъп от следващо поколение (VDSL, Cable Docsis 3.0 или FTTP);

П.  като има предвид, че развитието на основаните на ИИ услуги и продукти изисква свързаност, свободно движение на данни и достъпност на данните в рамките на ЕС; като има предвид, че използването на съвременни техники за извличане на данни в сферата на продуктите и услугите може да спомогне за повишаване на качеството на процеса на вземане на решения, а оттам и на избора на потребителите, както и за подобряване на стопанските резултати;

Р.  като има предвид, че технологичното развитие в областта на интелигентните продукти и услуги може да бъде от полза за икономиката на знанието, която се основава на количеството, качеството и достъпността на наличната информация и по този начин може да доведе до по-добро адаптиране към потребностите на потребителите;

С.  като има предвид, че киберсигурността е от съществено значение, за да се гарантира, че данните не са злонамерено компрометирани или че с тях се не се злоупотребява, за да функционира ИИ по начин, който е в ущърб на гражданите или на дружествата, което би уронило доверието на промишлеността и потребителите в ИИ; като има предвид, че развитието на ИИ все повече разчита на тези системи за действия и решения, което на свой ред налага високи стандарти за киберустойчивост в ЕС с цел защита от пробиви и недостатъци в киберсигурността;

Т.  като има предвид, че тенденцията към автоматизация изисква от тези, които участват в разработването и предлагането на пазара на приложения с изкуствен интелект, да изградят безопасност и етика още в началото, като признават по този начин задължението си да бъдат подготвени да поемат правна отговорност за качеството на технологията, която произвеждат;

У.  като има предвид, че изграждането на надеждна екосистема за развитието на технологията за ИИ следва да се основава на архитектурата на политиката за данни; като има предвид, че това предполага създаването на безпроблемни и опростени програми за събиране и управление на данни за целите на образователните научни изследвания, за да се даде възможност за развитието на ИИ в много области: медицински, финансов, биологичен, енергиен, промишлен, химически или публичен сектор; като има предвид, че основаната на данни екосистема на ИИ може да съдържа паневропейски инициативи, предприети по открити стандарти и въз основа на взаимно признаване на сертификати и прозрачни правила за оперативна съвместимост;

Ф.  като има предвид, че ИИ сам по себе си не осигурява истина или справедливост, тъй като може да се прояви пристрастност в начина, по който се събират данните, и в начина, по който се пише алгоритъмът, което може да произтича от пристрастност, присъстваща в обществото; като има предвид, че качеството на данните, заедно с проектирането на алгоритмите и постоянните процеси за повторна оценка, следва да предотвратяват пристрастността;

Х.  като има предвид, че ИИ и роботиката следва да се развиват и прилагат по начин, насочен към човека, с цел да се подпомагат хората в своята работа и у дома; като има предвид, че ИИ може да се използва и за избягване на опасен за хората труд;

Ц.  като има предвид, че по-нататъшното развитие и повишеното използване на автоматизирано и основано на алгоритъм вземане на решения несъмнено оказва въздействие върху избора, който дадено частно лице (например предприемач или ползвател на интернет) или административен, съдебен или друг публичен орган прави при вземането на окончателното си решение от потребителски, предприемачески или управленски характер; като има предвид, че е необходимо в процеса на автоматизирано и основано на алгоритъм вземане на решения да бъдат въведени предпазни мерки и възможност за осъществяване на контрол и проверка от човека;

Ч.  като има предвид, че машинното самообучение създава също така предизвикателства за гарантирането на недискриминация, справедлив процес, прозрачност и разбираемост в процесите на вземане на решения;

Ш.  като има предвид, че ИИ представлява важен инструмент за справяне с глобалните предизвикателства пред обществото, и като има предвид следователно, че държавите членки чрез своята обществена политика следва да насърчават инвестициите, да предоставят средства за научноизследователска и развойна дейност и да се справят с пречките пред развитието и приемането на ИИ;

Щ.  като има предвид, че търговските платформи с изкуствен интелект преминаха от тестова фаза към реални приложения в областите на здравеопазването, околната среда, енергетиката и транспорта; като има предвид, че техниките за машинно самообучение са в центъра на всички основни уеб платформи и приложения с големи информационни масиви;

AA.  счита, че изследователите и дружествата в Европа се занимават с множество теми, свързани с блоковите вериги, сред които веригата на доставки, държавни услуги, финанси, интернет на нещата, здравеопазване, медии, интелигентни градове, енергетика и транспорт; като има предвид, че Европа е силен участник във важни области, свързани с блоковите вериги, като например ИИ; като има предвид, че блоковата верига може да играе важна роля в засилването на европейските иновации;

АБ.  като има предвид, че технологиите за киберсигурност, като например цифровите самоличности, криптографията или засичането на проникване, както и прилагането им в области като финансите, Четвъртата индустриална революция, енергетиката, транспорта, здравеопазването и електронното държавно управление, са от първостепенно значение за гарантиране на сигурността и доверието в дейностите и сделките онлайн на гражданите, публичните администрации и предприятията;

АВ.  като има предвид, че извличането на текст и данни служи като основа за приложения за ИИ и машинно самообучение и са от жизненоважно значение за малките и средните предприятия и стартиращите предприятия, тъй като те им позволяват достъп до големи количества данни, за да обучават алгоритми за ИИ;

АГ.  като има предвид, че ИИ може да се окаже много енергоемък; като има предвид, че с оглед на това е важно използването на напредъка на ИИ да бъде поддържано в съответствие с актуалните цели на ЕС в областта на енергийната ефективност и кръговата икономика;

АД.  като има предвид, че ИИ следва да поддържа изцяло всички европейски езици, за да предостави на всички европейски граждани равни възможности да се възползват от съвременните разработки на ИИ в рамките на многоезичното европейско информационно общество;

АЕ.  като има предвид, че в промишлеността и услугите, свързани с високите технологии, ИИ е ключът към превръщането на Европа в „стартиращ континент“ чрез използване на най-новите технологии за генериране на растеж в Европа, по-специално в областта на здравните технологии, здравните услуги и програми, откриването на лекарства, роботизираната и подпомаганата от роботи хирургия, лекуването на хроничните заболявания и медицинските системи за образна диагностика и документация, както и осигуряване на устойчива околна среда и безопасно производство на храни; като има предвид, че понастоящем Европа изостава от Северна Америка и Азия от гледна точка на научните изследвания и на патентоването в областта на изкуствения интелект;

АЖ.  като има предвид, че развитието на технологиите в областта на ИИ може да спомогне за подобряване на живота на хората с хронични заболявания и с увреждания и за справяне със социални предизвикателства, каквото е застаряването на нашето население, като направи здравните технологии по-прецизни и ефективни при предоставянето на здравно обслужване;

АЗ.  като има предвид, че е налице широк набор от възможни приложения на ИИ и роботиката в областта на медицинското обслужване, като управление на медицинска документация и данни, извършване на повтарящи се действия (анализиране на тестове, рентгенови снимки, компютърна томография, въвеждане на данни), проектиране на лечението, цифрови консултации (като например медицински консултации, основани на личната медицинска история и общи медицински знания), виртуални медицински сестри, управление на употребата на лекарства, създаване на лекарства, прецизна медицина (тъй като генетиката и геномиката търсят мутации и връзки с болестта от информацията в ДНК), здравно наблюдение, анализ на системата на здравеопазването, както и други приложения;

АИ.  като има предвид, че достъпността не означава еднакви услуги и уреди за всички; като има предвид, че достъпността на ИИ и роботиката се основава на приобщаващо планиране и проектиране; като има предвид, че потребностите, желанията и опитът на потребителите трябва да бъдат отправна точка за проектирането;

АЙ.  като има предвид, че съществуват силни етични, психологически и юридически опасения относно автономността на роботите, очевидната липса на човешка емпатия у тях и въздействието им върху връзката между лекар и пациент, които все още не са разгледани по подходящ начин на равнище ЕС, по-специално по отношение на защитата на личните данни на пациентите, отговорността и новите икономически и трудови отношения, които ще възникнат; като има предвид, че „автономността“ като такава може да бъде характерна само за човешки същества; като има предвид, че съществува необходимост от солидна законова и етична рамка за изкуствения интелект;

АК.  като има предвид, че въвеждането на изкуствения интелект, особено в областта на здравеопазването, винаги трябва да се основава на принципа на отговорност „човекът управлява машината“;

1.  Общество, подкрепяно от изкуствения интелект и роботиката

1.1.  Труд в ерата на изкуствения интелект и роботиката

1.  подчертава, че автоматизацията, съчетана с изкуствен интелект, ще увеличи производителността и следователно ще увеличи производството; отбелязва, че както и при предишните технологически революции, някои работни места ще бъдат заменени, но ще бъдат създадени и нови работни места, като се преобразуват животът и работните практики; подчертава, че увеличеното използване на роботиката и ИИ следва също така да намали излагането на човека на вредни и опасни условия на труд и също така следва да спомогне за създаването на повече качествени и достойни работни места и за подобряването на производителността;

2.  настоятелно призовава държавите членки да се съсредоточат върху преквалификацията на работниците в секторите, които са най-силно засегнати от автоматизацията на задачите; подчертава, че новите образователни програми следва да се съсредоточат върху развитието на уменията на работниците, така че те да могат да се възползват от възможностите за работа в рамките на новите работни места, създадени от ИИ; насърчава разработването на програми за цифрова грамотност в училищата, разработването на приоритети за чиракуване и професионално обучение, за да се помогне на работниците да се приспособят към технологичните промени;

3.  препоръчва държавите членки заедно с участниците в частния сектор да идентифицират рисковете и да изготвят стратегии, за да се осигури разработването на подходящи програми за преквалификация и обучение за нови умения; подчертава, че самите дружества трябва да инвестират в обучение и преквалификация на действащата работна сила, за да задоволят своите потребности;

4.  подчертава, че развитието на роботиката в ЕС ще окаже силно въздействие върху промишлените отношения; счита, че това въздействие следва да бъде преодоляно по балансиран начин, така че да се насърчи повторната индустриализация и да се позволи и на работниците да се ползват от повишаването на производителността;

5.  отбелязва, че в сегашния промишлен пейзаж има деликатен баланс между собствениците и работниците; счита, че напредъкът в прилагането на ИИ в промишлеността следва да се извърши с широки консултации със социалните партньори, тъй като потенциалната промяна в броя на работещите в промишлеността изисква проактивни политики, които да помогнат на работниците да се адаптират към новите изисквания и да гарантират, че печалбите са широко споделени; отбелязва, че това изисква преосмисляне и преразглеждане на политиките на пазара на труда, схемите за социално осигуряване и данъчното облагане;

6.  настоятелно призовава държавите членки да се справят с препятствията пред навлизането на пазара на труда, например прекомерните квалификации;

7.  счита, че цифровата грамотност е един от най-важните фактори за бъдещото развитие на ИИ, и настоятелно призовава Комисията и държавите членки да разработят и прилагат стратегии за обучение и преквалификация в областта на цифровите умения; отбелязва, че цифровата грамотност може да подпомогне широкото и приобщаващо участие в решенията за основаната на данни икономика и да улесни комуникацията и сътрудничеството с всички заинтересовани страни;

8.  отбелязва, че тъй като процесът ще има въздействие върху гражданите от всички възрастови групи, учебните програми трябва да бъдат адаптирани, включително чрез установяване на нови модели за обучение и използване на нови технологии за представяне на материала; подчертава, че аспектите, свързани с образованието, следва да бъдат разгледани правилно; отчита по-специално необходимостта от това цифрови умения, включително кодиране, да бъдат включени в преподаването и обучението от ранните години в училище до продължаващото през целия живот обучение;

1.2.  Злонамерено използване на изкуствения интелект и основни права

9.  подчертава факта, че злонамереното или небрежно използване на ИИ би могло да застраши цифровата сигурност, физическата и обществената безопасност, тъй като ИИ би могъл да се използва за извършване на мащабни, прецизно насочени и високоефективни атаки срещу услуги на информационното общество и свързаните машини, както и за кампании за дезинформация, и в общ план да отслаби правото на хората на самоопределение; подчертава, че злонамереното или небрежно използване на ИИ може също така да представлява риск за демокрацията и основните права;

10.  призовава Комисията да предложи рамка, която да наказва практиките за манипулиране на възприемането, когато персонализираното съдържание или информационните канали водят до отрицателни чувства и изкривяване на възприемането на реалността, което може да доведе до отрицателни последици (например резултати от избори или изкривени възприятия по социални въпроси като миграцията);

11.  подчертава значението на признаването, идентифицирането и наблюдението на революционните процеси във и около развитието на ИИ; насърчава идеята научните изследвания в областта на ИИ да се съсредоточат и върху откриването на случайно или злонамерено компрометирани ИИ и роботика;

12.  настоятелно призовава Комисията да вземе предвид социалните предизвикателства, произтичащи от практиките на класиране на гражданите; подчертава, че гражданите не следва да бъдат дискриминирани според тяхното класиране и че следва да имат право на „друг шанс“;

13.  изразява голяма загриженост относно използването на приложения с ИИ, включително разпознаване по лице и глас, в програми за „емоционално наблюдение“, т.е. наблюдение на психичните състояния на работниците и гражданите, за да се увеличи производителността и да се запази социалната стабилност, понякога в съчетание със социални кредитни системи, като например вече въведените в Китай; подчертава, че тези програми са присъщо противоречащи на европейските ценности и норми, защитаващи правата и свободите на физическите лица;

2.  Технологичният път към изкуствения интелект и роботиката

2.1.  Научноизследователска и развойна дейност

14.  припомня факта, че Европа има водеща в световен мащаб научноизследователска общност в областта на ИИ, която представлява 32% от научноизследователските институции в областта на ИИ в световен мащаб;

15.  приветства предложението на Комисията относно програмата „Цифрова Европа“ и бюджета от 2,5 милиарда евро, заделен за изкуствения интелект, както и увеличеното финансиране по програмата „Хоризонт 2020“; разбира значението на финансирането от ЕС, което допълва бюджетите на държавите членки и на промишлеността за научни изследвания в областта на ИИ, и необходимостта от сътрудничество между публичните и частните научноизследователски програми и тези на ЕС;

16.  подкрепя оперативните цели на програмата „Цифрова Европа“ за изграждане и укрепване на основен капацитет за изкуствен интелект в Съюза, който да е достъпен за всички предприятия и публични администрации, както и за укрепване и обединяване в мрежа на съществуващите съоръжения за изпитване на и експериментиране с изкуствен интелект в държавите членки;

17.  насърчава държавите членки да развиват партньорства между множество заинтересовани страни от промишлеността и научноизследователските институти, както и съвместни центрове за високи постижения в областта на ИИ;

18.  подчертава, че научните изследвания в областта на ИИ следва да инвестират не само в технологичното и иновационното развитие на ИИ, но също така и в свързаните с ИИ социална област, етика и юридическа отговорност; счита, че всеки разгръщан модел на ИИ трябва да има етика още от етапа на проектирането;

19.  подчертава, че макар да насърчават напредъка в полза на обществото и околната среда, научните изследвания в областта на ИИ и други свързани дейности следва да се извършват в съответствие с принципа на предпазните мерки и с основните права; подчертава, че всеки, който участва в разработването, прилагането, разпространението и използването на ИИ, следва да взема предвид и да зачита човешкото достойнство, самоопределянето и благосъстоянието – както във физически, така и в психологически план – на индивида и на обществото като цяло, да предвижда потенциалните въздействия върху безопасността и да взема надлежни предпазни мерки, пропорционални на нивото на защита, включително бързото оповестяване на факторите, които могат да застрашат обществеността или околната среда;

20.  подчертава, че конкурентната научноизследователска среда също е от ключово значение за развитието на изкуствения интелект; подчертава, че е важно да се подкрепят върхови изследвания, включително фундаментални научни проекти и високорискови проекти с висока възвръщаемост, и да се насърчи създаването на европейско изследователско пространство с привлекателни условия за финансиране, мобилност и достъп до инфраструктура и технология в рамките на Съюза въз основа на принципа на отвореност към трети държави и експертен опит от страни извън Съюза, при условие че това не накърнява кибернетичната сигурност на ЕС;

21.  подчертава факта, че изследователите в ЕС продължават да печелят за труда си значително по-малко от своите колеги в САЩ и Китай и че това е известно като основна причина да напускат Европа; призовава Комисията и държавите членки да се съсредоточат върху привличането на най-добри таланти в европейските предприятия, а държавите членки – да създадат привлекателни условия;

22.  подчертава, че Европа трябва да насочи новите водещи инициативи в областта на FET(7) към изкуствения интелект, като обърне особено внимание на ориентирания към човека подход и езиковите технологии;

23.  счита, че изкуственият интелект, машинното самообучение, експоненциалното увеличаване на наличността на данните и изчисленията в облак подпомагат инициативите за научни изследвания с цел изучаване на биологията на молекулно и клетъчно равнище и насочват развитието на медицинското лечение и анализа на потоците от данни за откриване на опасности за здравето, за предвиждане на огнища на заболявания и за консултиране на пациенти; отбелязва, че техниките за извличане и навигация на данни могат да бъдат използвани за установяване на пропуски в предоставянето на грижи, както и на рискове, тенденции и модели;

24.  подчертава, че когато възникват рискове като неизбежна и неразделна част от научните изследвания в областта на ИИ, следва да се разработват и спазват строги протоколи за оценка и управление на риска, като се има предвид, че рискът от вреда не следва да е по-голям от този, който се среща в нормалния живот (т.е. хората не следва да бъдат изложени на рискове, по-големи от или допълнителни спрямо тези, на които са изложени при обичайния си начин на живот);

2.2.  Инвестиции

25.  отбелязва значението на увеличаването на инвестициите в тази област, за да се запази конкурентоспособността; признава, че въпреки че по-голямата част от инвестициите и иновациите в тази област идват от предприятия от частния сектор, държавите членки и Комисията следва също така да бъдат насърчавани да продължат да инвестират в научни изследвания в този сектор и да очертават приоритетите си за развитие; приветства предложението за InvestEU и други публично-частни партньорства, които ще насърчават частното финансиране; счита, че координацията на инвестициите от частния и публичния сектор следва да се насърчава, за да се гарантира насоченост на развитието;

26.  подчертава, че инвестициите в ИИ, които могат да се характеризират със значителна несигурност, следва да бъдат допълнени с финансиране от ЕС, например от Европейската инвестиционна банка (ЕИБ) или Европейския инвестиционен фонд (ЕИФ), или пък чрез InvestEU и от Европейския фонд за стратегически инвестиции (ЕФСИ), които схеми могат да помогнат по отношение на споделянето на риска;

27.  настоятелно призовава Комисията да не допусне финансиране от ЕС на оръжеен ИИ; настоятелно призовава Комисията да изключи от финансирането от страна на ЕС дружества, които изследват и развиват изкуствено съзнание;

28.  препоръчва на Комисията да гарантира, че интелектуалната собственост върху изследванията, провеждани с финансиране от ЕС, ще остане в ЕС и в европейските университети;

2.3.  Иновации, приемане от обществото и отговорност

29.  отбелязва, че всички основни технологични постижения изискват преходен период, който е необходим за по-голямата част от обществото, за да придобие по-задълбочено познаване на технологията и да я интегрира в ежедневието си;

30.  отбелязва, че бъдещето на тази технология зависи от нейното приемане от обществото и че трябва да се постави по-голям акцент върху съобщаването на ползите от нея, за да се гарантира по-добро разбиране на технологията и нейните приложения; отбелязва също така, че ако обществото не е информирано за технологиите с ИИ, ще има по-малко стремеж към иновации в този сектор;

31.  счита, че общественото приемане разчита на това как обществеността е информирана за възможностите, предизвикателствата и развитието на изкуствения интелект; препоръчва на държавите членки и на Комисията да улеснят достъпа до надеждна информация, която да помогне за преодоляване на основните опасения във връзка с ИИ и роботиката, като например неприкосновеността на личния живот, безопасността и прозрачността на процеса на вземане на решенията;

32.  приветства използването на регулаторни ограничителни режими („пясъчници“) за въвеждане, в сътрудничество с регулаторите, на новаторски нови идеи, които позволяват вграждането на предпазни механизми в технологията от самото начало, като по този начин се улеснява и насърчава навлизането ѝ на пазара; подчертава необходимостта от въвеждане на специфични за ИИ регулаторни ограничителни режими за изпитване на безопасното и ефективно използване на технологии с ИИ в реална среда;

33.  отбелязва, че за по-голямо обществено приемане на изкуствения интелект трябва да се гарантира, че използваните системи са безопасни и сигурни;

34.  отбелязва, че ИИ и езиковите технологии могат да предоставят важни приложения за насърчаване на единството на Европа в нейното многообразие: автоматизирани преводи, разговорни агенти и лични асистенти, интерфейси на говорими езици за роботи и интернет на нещата, интелигентни анализи, автоматизирана идентификация на онлайн пропаганда, фалшиви новини, и на реч на омраза;

2.4.  Условия за подкрепа: свързаност, достъпност на данните и високопроизводителни изчислителни технологии, инфраструктура за изчисления в облак

35.  подчертава, че интеграцията на роботиката и свързаните с ИИ технологии в рамките на икономиката и обществото изисква цифрова инфраструктура, която предоставя универсална свързаност;

36.  подчертава, че свързаността е предпоставка за включването на Европа в обществото на гигабитов интернет, а ИИ е ясен пример за експоненциален растеж на търсенето на висококачествена, бърза, сигурна и широко разпространена свързаност; счита, че Съюзът и държавите членки следва да продължат да насърчават мерки за стимулиране на инвестициите в мрежите с много голям капацитет в ЕС и достъпа до тях;

37.  подчертава, че бързото, безопасно и сигурно развитие на 5G е от съществено значение, за да се гарантира, че Съюзът може да извлече всички ползи от ИИ при защита от заплахи за киберсигурността, като позволи да се подновят и развият сектори и услуги, които са гръбнакът на европейската икономика, и да се подкрепи появата на нови услуги, производство и пазари, което е от съществено значение за гарантирането на нови работни места и високо равнище на заетост;

38.  припомня, че наличието на висококачествени и значими данни е от съществено значение за реалната конкурентоспособност на промишлеността в областта на ИИ, и призовава публичните органи да гарантират начини за изготвяне, обмен и управление на данни, като превърнат публичните данни в общо благо, като същевременно се защитават неприкосновеността на личния живот и чувствителните данни;

39.  подчертава значението на качеството на данните, използвани за задълбочено машинно учене; отбелязва, че използването на нискокачествени, неактуални, непълни или неточни данни може да доведе до лоши прогнози, както и до дискриминация и пристрастност;

40.  счита, че новият набор от правила, уреждащи свободното движение на нелични данни в Съюза, дава възможност все повече данни да бъдат на разположение за иновациите, основани на данни, което улеснява МСП и стартиращите предприятия при разработването на иновативни услуги, основани на ИИ, и за навлизането им на нови пазари, като същевременно позволява на гражданите и предприятията да се възползват от по-добри продукти и услуги;

41.  отбелязва, че ИИ има потенциал да увеличи ефективността, комфорта и благосъстоянието в много сектори, ако утвърдените заинтересовани страни в промишлеността си сътрудничат с разработчиците на ИИ; освен това отбелязва, че голям обем от данни, които не са от личен характер, понастоящем са на разположение на заинтересованите страни и чрез партньорства могат да се използват за увеличаване на тяхната ефективност; счита, че за да се превърне това в реалност, сътрудничеството между потребителите и разработчиците на ИИ е необходимо предварително условие;

42.  подчертава значението на оперативната съвместимост и точността на данните, за да се гарантират високо равнище на надеждност и стандарти за сигурност в новите технологии;

43.  счита, че успехът на приложенията с ИИ, които са съобразени с потребителите в ЕС, често изисква задълбочено познаване на местните пазари, както и достъп до и използване на подходящи местни данни за обучение на наборите от данни, изпитването и валидирането на системите, особено в секторите, свързани с обработка на естествени езици; призовава държавите членки да насърчават наличието на висококачествени, оперативно съвместими и отворени данни, които са на разположение както на публичния сектор, така и на частни лица;

44.  изтъква необходимостта да се гарантира максимална съгласуваност с политиката на ЕС относно големите информационни масиви;

45.  приветства мерките за улесняване и подкрепа на обмена и споделянето на данни през границите;

46.  отбелязва, че понастоящем споделянето на данни е далеч под потенциала си и не се използват достатъчно големи количества данни;

47.  признава, че съществува нежелание да се споделят данни, и подчертава необходимостта от действия за насърчаване на това; отбелязва, че липсата на общи стандарти играе също важна роля за способността за споделяне на данни;

48.  приветства регламенти като Регламента за свободното движение на данни и значението, което той има в области като ИИ, за да се позволят по-ефективни и ефикасни процеси;

49.  признава, че е необходимо да се въведат по-големи пазарни стимули, за да се насърчи достъпът до и споделянето на данни; отбелязва риска, който откритостта на данните поражда преди всичко за инвестициите в данни;

50.  призовава за по-голяма яснота относно правилата за притежание на данни и действащите правни рамки; отбелязва, че регулаторната несигурност е довела до прекалено предпазливи отговори от страна на промишлеността;

51.  подчертава значението на европейските инициативи в областта на изчисленията в облак и високопроизводителните изчисления, които допълнително ще подобрят разработването на алгоритми за задълбочено машинно обучение и обработката на големи информационни масиви; изразява твърдо убеждение, че за да бъдат тези инициативи успешни и уместни за развитието на ИИ, инфраструктурата трябва да бъде отворена както за публични, така и за частни субекти, установени в Съюза и другаде, и да бъде регламентирана от минимално ограничаващи критерии за достъп;

52.  приветства създаването на Съвместното предприятие за европейски високопроизводителни изчислителни технологии; подчертава, че суперизчисленията и инфраструктурата за данни са от съществено значение за осигуряването на конкурентна иновационна екосистема за разработването на технологии и приложения с ИИ;

53.  подчертава, че изчисленията в облак играят ключова роля в стимулирането на възприемането на ИИ; подчертава, че достъпът до услуги в облак позволява на частни дружества, обществени институции, изследователски и академични институции и потребители да развиват и използват ИИ по ефикасен и икономически жизнеспособен начин;

3.  Промишлена политика

54.  припомня, че макар в областта на ИИ и роботиката вече да има отдавна установени промишлени приложения, напредъкът в тази област се разраства и включва широки и разнообразни приложения във всички човешки дейности; счита, че всяка регулаторна рамка трябва да включва гъвкавост, която да позволява иновации и свободно разработване на нови технологии и употреби на ИИ;

55.  подчертава, че определянето на обхвата и приложенията на ИИ следва да бъде резултат от процес на проектиране, воден от потребностите и ръководен от принципи, които отчитат предвидения резултат и най-добрия път за постигането му от икономическа и социална гледна точка; счита, че наличието на ясни политики на всички етапи на развитие ще доведе до подходящо за целта изпълнение и справяне с рисковете и недостатъците;

56.  препоръчва използването и популяризирането на публично-частни партньорства, за да се търсят решения на ключови предизвикателства като изграждане на екосистема за данни, улесняване на достъпа до данни и тяхното споделяне и разпространение, като същевременно се защитава правото на хората на неприкосновеност на личния живот;

57.  подчертава, че сериозно предизвикателство за бъдещето на системите с ИИ е непоследователното качество на технологията за производство на софтуер, и поради това подчертава, че съществува голяма потребност от стандартизиране на изграждането и използването на системите с ИИ;

58.  отбелязва работата, която се извършва в световен мащаб, и признава необходимостта от проактивна работа с партньорите, особено с ОИСР и Г-20, в определянето на посоката, в която се движи този сектор, за да се гарантира, че ЕС продължава да бъде конкурентоспособен и гарантира равен достъп на нациите, както и споделяне на ползите от развитието на ИИ възможно най-широко;

59.  отбелязва със загриженост, че редица неевропейски дружества и други субекти от трети държави все повече използват прогностични модели, основани на ИИ, за предоставяне на услуги и извличане на добавена стойност на пазарите на ЕС, особено на местно равнище, както и за наблюдение и евентуално влияние върху политическите настроения, като по този начин представляват потенциални заплахи за технологичния суверенитет на гражданите на ЕС;

60.  подчертава, че публичната подкрепа за ИИ следва да се съсредоточи върху онези стратегически сектори, в които промишлеността на ЕС има най-големи възможности да играе водеща роля на световно равнище и които имат добавена стойност в общ интерес на обществото;

3.1.  Приоритетни сектори

3.1.1.  Публичен сектор

61.  подчертава, че в публичния сектор могат да се извлекат редица ползи от ИИ и роботиката, и приветства увеличаването на инвестициите в научноизследователска и развойна дейност, за да се гарантира, че те се развиват успешно;

62.  подчертава, че държавите членки също следва да инвестират в образователни програми и програми за обучение в областта на ИИ, за да подпомогнат служителите в публичния сектор при въвеждането на ИИ и роботиката за използване; отбелязва, че следва да бъдат проведени и информационни кампании за гражданите, които ще използват услугите на публичния сектор, предоставяни от системи с ИИ и роботика, за да се успокоят страховете им от загуба на контрол над личните им данни и за да се създаде доверие;

63.  подчертава, че информацията от публичния сектор представлява изключителен източник на данни, който може да спомогне за бързия напредък и за създаването на нова стратегия за внедряване на нови цифрови технологии, особено на изкуствения интелект;

64.  счита, че приемането на надежден изкуствен интелект от страна на публичния сектор може решително да подкрепи реформата на публичната администрация при вземането на решения и подобряването на обществените услуги, както и да засили широкото възприемане на ИИ в други сектори;

65.  признава използването на автоматизация на роботизирани процеси и въздействието, което тя оказва върху подобряването на процесите в публичния сектор; отбелязва нейната оперативна съвместимост със старите системи;

66.  изисква държавите членки да водят тази дигитална трансформация, като се позиционират като основни отговорни потребители и купувачи на технология с ИИ; подчертава, че в този контекст държавите членки трябва да адаптират своите политики в областта на данните, включително, наред с други свързани въпроси, по отношение на събирането на публични данни, използването, хранилищата или анотациите, за да позволят внедряването на ИИ във всички публични сектори;

67.  подчертава необходимостта от включване на обществеността в процеса на разработване на ИИ; поради това призовава Комисията да публикува всички алгоритми, инструменти и технологии, финансирани или съфинансирани от обществеността, като отворен код;

68.  счита, че ИИ ще бъде голям актив по отношение на прилагането на принципа на еднократност, който позволява комбинирането на бази данни и информация от различни източници, като по този начин се улеснява взаимодействието на гражданите с публичните администрации;

69.  призовава Комисията да гарантира защитата на гражданите от системите с ИИ за вземане на решения по класиране в публичните администрации, подобни на планираните за използване в Китай;

3.1.2.  Здравеопазване

70.  подчертава, че човешкият контакт представлява ключов аспект на грижата за човека;

71.  отбелязва, че ИИ и роботиката носят потенциални ползи в сектора на полагането на грижи, тъй като продължителността на живота се увеличава, например помагайки на лекарите и медицинските сестри да имат повече време за дейности с висока стойност (като взаимодействие с пациенти);

72.  отбелязва въздействието, което ИИ вече е оказал върху благосъстоянието, превенцията, диагностиката, изследванията, и големия му потенциал за проектиране на персонализирани грижи; счита, че това в крайна сметка води до по-устойчива, ефикасна и основана на резултатите екосистема на здравеопазването;

73.  отбелязва, че когато ИИ е съчетан с диагностициране от човека, процентът на грешки е значително по-нисък, в сравнение с диагностициране само от страна на лекарите(8);

74.  подчертава, че използването на данни в здравния сектор трябва да се наблюдава внимателно и етично и не трябва по никакъв начин да възпрепятства достъпа до социална закрила или застраховане;

75.  счита, че когато се използва ИИ в имплантирани медицински изделия, носителят следва да има право да проверява и променя изходния код, използван в изделието;

76.  следва да се обърне специално внимание на използването на големи информационни масиви в здравеопазването, с цел да се увеличат максимално възможностите, които те могат да създадат – например подобряване на здравето на отделните пациенти, както и на резултатността на системите за обществено здравеопазване на държавите членки – без да се занижават етичните стандарти и без да се застрашава неприкосновеността на личния живот или безопасността на гражданите;

77.  подчертава обаче, че съществуващата система за одобрение на медицинските изделия може да не е подходяща за технологиите в областта на ИИ; призовава Комисията да следи отблизо напредъка по тези технологии и при необходимост да предложи промени в регулаторната рамка, за да установи рамката за определяне на съответната отговорност на потребителя (лекар/специалист), производителя на технологичното решение и здравното заведение, което предлага лечението; подчертава, че юридическата отговорност за причинени вреди е основен проблем в сектора на здравеопазването, когато се отнася за използването на ИИ; поради това подчертава необходимостта да се гарантира, че потребителите няма да бъдат принудени винаги да подкрепят диагностичното решение или лечение, предложено от технологичен инструмент, поради страх да не бъдат съдени за вреди, ако въз основа на своята информирана професионална преценка те трябва да стигнат до заключения, които се разминават дори частично;

78.  призовава държавите членки и Комисията да увеличат финансирането за свързаните със здравето технологии в областта на ИИ в публичния и в частния сектор; приветства във връзка с това декларацията за сътрудничество, подписана от 24 държави – членки на ЕС, и от Норвегия, с цел да се увеличи въздействието на инвестициите в ИИ на европейско равнище; призовава държавите членки и Комисията да обмислят дали програмите за обучение на медицинския и здравния персонал не следва да бъдат актуализирани и стандартизирани навсякъде в Европа, за да се гарантират високи равнища на експертен опит и равни условия за държавите членки по отношение на знанието и използването на най-напреднали технологични инструменти в областта на роботизираната хирургия, биомедицината и основаната на изкуствения интелект образна диагностика в биомедицината;

79.  призовава Комисията да работи по стратегии и политики, които да могат да поставят ЕС като световен лидер в нарастващия сектор на технологиите в областта на здравеопазването, като същевременно гарантират, че пациентите имат достъп до безпроблемна и ефективна медицинска помощ;

80.  признава, че по-добрата диагностика би могла да спаси живота на милиони хора, тъй като според Световната здравна организация 89% от случаите на преждевременна смърт в Европа са причинени от незаразни болести;

81.  насърчава приноса, който ИИ и роботиката осигуряват за иновациите в превантивните, клиничните и рехабилитационните практики и техники в здравния сектор, като особено внимание се обръща на ползата за пациентите с увреждания;

82.  признава, че увеличеното използване на датчици в областта на роботиката разшири обхвата на полагането на грижи и дава възможност на пациентите да получават по-персонализирано лечение и услуги, както и да получават грижи дистанционно, от собствените си домове, като същевременно се генерират по-значими данни;

83.  признава, че според проучването на Евробарометър от май 2017 г.(9) понастоящем гражданите на ЕС все още се чувстват дискомфортно поради идеята за използване на роботи в ежедневните здравни грижи; призовава Комисията и държавите членки да разработят стратегии и комуникационни кампании за повишаване на осведомеността относно ползите от ежедневното използване на роботи; отбелязва по-специално амбицията на японската стратегия за роботите;

3.1.3.  Енергетика

84.  отбелязва, че ИИ позволява на доставчиците на енергия да преминат от превантивна поддръжка на активите към поддръжка, основана на прогнози, както и да постигнат по-ефективно производство на енергия чрез подобряване на надеждността по-специално на възобновяемите енергийни източници и чрез определяне на най-ефективните местоположения за нови съоръжения, като по този начин се гарантира по-добро управление на оптимизацията на потреблението;

85.  признава, че по-точните данни, получени от ИИ относно потенциала на производството на възобновяема енергия, ще създадат по-голяма сигурност на инвестициите за предприятията и физическите лица, като по този начин ще ускорят прехода към енергия от възобновяеми източници и ще допринесат за дългосрочната стратегия на Съюза за неутрална по отношение на климата икономика;

86.  отбелязва, че решения, включващи датчици, вече се използват за управление на потреблението на енергия в домовете и че това е довело до значителни икономии на енергия и парични средства;

87.  приветства потенциала на ИИ за моделиране, определяне и смекчаване на въздействието на човешката дейност върху климата; отбелязва, че макар че повишената дигитализация носи и нови енергийни потребности, тя може също така да доведе до повишена ефективност в енергоемките сектори и да осигури по-добро разбиране на процесите, което води до тяхното подобряване;

88.  подчертава, че с по-дигитализиран енергиен сектор енергийните мрежи стават по-големи и по-изложени на киберзаплахи; призовава държавите членки и Комисията да придружат цифровата трансформация в секторите на енергетиката с мерки като изкуствен интелект, подобряващи киберсигурността;

3.1.4.  Транспорт

89.  приветства способността на ИИ и роботиката значително да подобрят нашите транспортни системи чрез въвеждането на автономни влакове и моторни превозни средства; призовава за повече научни изследвания и инвестиции в тази област, за да се гарантира нейното безопасно и ефективно развитие; подчертава огромните възможности както за големите технологични дружества, така и за МСП;

90.  отбелязва, че чрез намаляването на човешките грешки в транспортния сектор системата може потенциално да стане по-ефективна, с по-малко на брой произшествия, благодарение на по-голяма яснота в преценката и на прогнозното естество на технологията, с по-малко закъснения, със способността за картографиране на моделите на движение и за експлоатация на услугите по график, и по-големи икономии, при по-малко свързани с водачите грешки и рационализирани вътрешни процеси;

91.  отбелязва, че разпространението на автономните превозни средства в бъдеще създава рискове за неприкосновеността на личните данни и технически неизправности и ще прехвърли отговорността от водача към производителя, което ще наложи застрахователните дружества да променят начина, по който включват риска в подписваческата си дейност;

92.  отбелязва, че гласовата комуникация все повече се използва при взаимодействие с превозни средства и транспортни системи, но тези функции са достъпни само на няколко европейски езика, и затова следва да се гарантира, че всички европейци могат да използват тези възможности на майчиния си език;

3.1.5.  Селско стопанство и верига за доставки на храни

93.  отбелязва, че ИИ има потенциала да катализира революционна трансформация на сегашната продоволствена система към по-разнообразен, устойчив, регионално адаптиран и здравословен модел за бъдещето;

94.  отбелязва, че ИИ може да играе основна роля в усилията за спомагане за справяне с проблемите на продоволствената сигурност, за предсказване на огнища на глад и хранителни болести, за намаляване на загубата на храни и отпадъците и за подобряване на устойчивото управление на земите, водите и други екологични ресурси от решаващо значение за здравето на екосистемите;

95.  подчертава, че ИИ може да се намеси в критичните точки по веригата на добавената стойност на продоволствената система от производството до потреблението и да подобри способността ни да променяме из основи начина, по който произвеждаме, преработваме и купуваме храна, чрез по-добре информирани практики за планиране на земеползването;

96.  отбелязва, че ИИ може да подобри управлението на ресурсите и ефективността на вложените ресурси, да помогне за намаляване на отпадъците след прибиране на реколтата и да повлияе върху избора на потребление;

97.  отбелязва, че ИИ под формата на прецизно земеделие има потенциал революционно да трансформира производството в селското стопанство, както и по-широкото управление на земите, чрез подобряване на планирането на земеползването, прогнозиране на промените в земеползването и наблюдение на здравето на културите, като в същото време има потенциал да преобразува прогнозирането на екстремни метеорологични събития;

98.  отбелязва, че ИИ може радикално да промени доставките на влагани вещества, контролирането на вредителите и управлението на стопанствата, да повлияе на земеделските практики, да промени начина, по който се доставят застрахователните продукти, и да помогне за предвиждането и избягването на бъдещи огнища на глад и тежко остро недохранване;

99.  отбелязва, че ИИ може да доведе до по-добри решения относно начина на управление на земеделските системи и стимулиране на разработването на системи за подпомагане на вземането на решения и препоръки чрез подобряване на ефективността и здравето на стопанствата;

3.1.6.  Киберсигурност

100.  отбелязва, че киберсигурността е важен аспект на ИИ, особено предвид предизвикателствата, свързани с прозрачността на ИИ на високо равнище; счита, че технологичната перспектива, включваща одитиране на изходния код и изисквания за прозрачност и отчетност, следва да бъде допълнена от институционален подход, който да се занимава с предизвикателствата на въвеждането на ИИ, разработен в други държави, на единния пазар на ЕС;

101.  призовава за бързото прилагане на Акта за киберсигурността; отбелязва, че разработването на схеми на ЕС за сертифициране следва да гарантира по-устойчиво развитие и внедряване на безопасни системи с ИИ и роботизирани системи;

102.  счита, че ИИ може да бъде едновременно заплаха за киберсигурността и инструмент за борба с кибератаките; счита, че Агенцията на ЕС за мрежова и информационна сигурност (ENISA) следва да изготви план за действие относно киберсигурността в областта на ИИ, който следва да оценява и да се занимава със заплахите и слабостите, специфични за ИИ;

103.  подчертава значението на укрепването на промишлената база като стратегически компонент на сигурното развитие на ИИ; подчертава, че за да се гарантира амбициозно равнище на киберсигурност, защита на данните и надеждни услуги в областта на ИКТ, Европа трябва да инвестира в своята технологична независимост; подчертава неотложната необходимост ЕС да разработи собствена инфраструктура, центрове за данни, системи за изчислителни облаци и компоненти като графични процесори и чипове;

104.  отбелязва, че тъй като ИИ се развива и хакерите стават по-усъвършенствани, ще бъде наложително да има силни решения за киберсигурността;

105.  признава, че прилагането на решения на ИИ в киберсигурността ще позволи прогнозиране, предотвратяване и смекчаване на заплахите;

106.  подчертава, че докато ИИ ще може да осигури по-голямо покритие за откриването на заплахи, е наложително човешкото тълкуване на тези заплахи, за да се установи дали те са истински или не;

107.  призовава Комисията да проучи използването на базирани на блокови вериги приложения за киберсигурност, които подобряват устойчивостта, доверието и стабилността на инфраструктурите за ИИ чрез модели за криптиране на данни без посредничество; призовава Комисията да проучи възможността за възнаграждаване на гражданите за техните данни чрез жетони;

108.  призовава Комисията да укрепи капацитета за киберсигурност чрез допълнително обединяване и координиране на усилията в цяла Европа;

3.1.7.  МСП

109.  признава значението на МСП за успеха на ИИ; приветства инициативата на Комисията за създаване на платформа за ИИ по заявка, която ще стимулира трансфера на технологии и ще катализира растежа на стартиращи предприятия и МСП; призовава Комисията да насърчава цифрови иновационни центрове за ИИ, които да не водят до създаването на допълнителни административни слоеве, а да се съсредоточават върху ускоряване на инвестициите в проекти, доказали своята ефективност;

110.  отбелязва, че разходите за инвестиране в ИИ водят до големи пречки за навлизане на МСП; признава, че широкото приемане на ИИ от потребителите би премахнало риска от тази инвестиция за МСП;

111.  подчертава необходимостта от насърчаване на приемането на ИИ от страна на МСП, както и насърчаването на потребителите да го използват;

112.  подчертава значението на целеви мерки, за да се гарантира, че МСП, както и стартиращите предприятия, са в състояние да приемат и да се възползват от технологиите с ИИ; счита, че оценките на въздействието на новото законодателство на ЕС върху технологичното развитие на ИИ следва да бъдат задължителни и че такива оценки на въздействието следва да бъдат обмислени и на национално равнище;

113.  подчертава, че ИИ може да създаде възможности за МСП, но също така да увеличи влиянието на големите лидери във въвеждането и големите разработчици; посочва следователно, от гледна точка на конкуренцията, необходимостта да се гарантира правилна оценка и разглеждане на новите изкривявания;

4.  Правна рамка за изкуствения интелект и роботиката

114.  призовава Комисията, с оглед на насърчаването на регулаторна среда, която да е благоприятна за развитието на ИИ и да съответства на принципа на по-доброто регулиране, редовно да прави преоценка на действащото законодателство, за да гарантира, че то е пригодно към целта си по отношение на ИИ, като същевременно се зачитат основните ценности на ЕС, и за да се стреми да изменя или да замества нови предложения, когато е доказано, че това не е така;

115.  приветства създаването на основани на участието платформи относно ИИ, които да позволяват на гражданите да бъдат успешно изслушвани и да взаимодействат с правителствата, като правят предложения, включително чрез основани на участието бюджети и други инструменти на пряката демокрация; подчертава, че проектите „отдолу нагоре“ могат да насърчават участието на гражданите и да помагат на хората да вземат информирани решения по по-ефективен и демократичен начин;

116.  отбелязва, че ИИ е понятие, обхващащо широк спектър от продукти и приложения, от автоматизация, алгоритми и тесен изкуствен интелект до общ изкуствен интелект; счита, че към всеобхватен закон или регламент относно ИИ следва да се подхожда внимателно, тъй като секторното регулиране може да осигури политики, които са достатъчно общи, но и усъвършенствани до равнището, на което те са значими за промишления сектор;

117.  подчертава, че политическата рамка трябва да бъде разработена така, че да насърчава развитието на всички видове ИИ, а не само на системите за дълбоко машинно обучение, които изискват огромно количество данни;

4.1.  Вътрешен пазар за изкуствен интелект

118.  подчертава значението на принципа на взаимното признаване при трансграничното използване на интелигентни стоки, включително роботи и роботизирани системи; припомня, че когато е необходимо, изпитването, сертифицирането и безопасността на продуктите следва да гарантират, че някои стоки са безопасни по проектиране и по подразбиране; в този контекст отбелязва значението и на работата по етичните аспекти на ИИ;

119.  подчертава, че законодателството на ЕС, свързано с изпълнението на стратегията за цифровия единен пазар, следва да премахне пречките пред разгръщането на ИИ; призовава Комисията да оцени дали е необходимо да се актуализират политическите и регулаторните рамки, за да се изгради единен европейски пазар за ИИ;

120.  признава, че технологиите в областта на роботиката и ИИ намират все по-голямо приложение в автономните превозни средства, например автономните автомобили и дроновете за граждански цели; отбелязва, че някои държави членки са в процес на изготвяне и приемане на законодателство или обмислят законодателство в тази конкретна област, което би могло да доведе до разнообразие от национални закони, възпрепятстващо разработването на автономни превозни средства; поради това призовава за единен набор от правила на Съюза, с които да се постигне точният баланс между интересите и потенциалните рискове за ползвателите, предприятията и другите засегнати страни, като същевременно се избягва свръхрегулирането в областта на роботиката и системите с ИИ;

121.  настоятелно призовава държавите членки да модернизират своите системи за професионално обучение и образование, за да се вземат предвид научният прогрес и развитията в областта на ИИ, в съответствие с Директивата за проверка на пропорционалността(10) и Директивата за професионалните квалификации(11), и да направят професионалните услуги в ЕС конкурентоспособни в световен мащаб през следващите десетилетия;

122.  подчертава, че ИИ се прилага за редица сектори, в които стандартизацията е от голямо значение, например интелигентното производство, роботиката, автономните превозни средства, виртуалната реалност, здравеопазването и анализа на данни, и счита, че стандартизацията за ИИ в целия ЕС ще насърчи иновациите и ще гарантира висока степен на защита на потребителите; признава, че макар да съществуват значителен брой стандарти по въпроси като безопасността, надеждността, оперативната съвместимост и сигурността, е необходимо допълнително да се насърчат и разработят общи стандарти за роботиката и ИИ и това следва да бъде част от приоритетите на Съюза; призовава Комисията, в сътрудничество с органите по стандартизация на ЕС, да продължи да се ангажира проактивно с международните органи по стандартизация за подобряване на стандартите в тази област;

123.  припомня, че редица аспекти на политиката, които са от значение за услугите, базирани на ИИ, включително правилата за защита на потребителите и политиката в областта на етиката и отговорността, са обхванати от съществуващата регулаторна рамка за услугите, а именно Директивата за услугите(12), Директивата за професионалните квалификации и Директивата за електронната търговия(13); подчертава в този контекст, че хората трябва винаги да носят крайната отговорност за вземането на решения, особено за професионални услуги, като медицинските, правните и счетоводните професии; счита, че е необходимо да се обмисли дали е необходим надзор от квалифициран специалист с оглед на защитата на легитимните цели от обществен интерес и на предоставянето на висококачествени услуги;

124.  признава значението на подобряването на цифровите услуги, например виртуални асистенти, чатботове и виртуални служители, което води до безпрецедентна оперативна ефективност, като същевременно надлежно отчита необходимостта от разработване на ориентиран към човека и пазарно ориентиран ИИ, за да се изготвят по-добри и по-надеждни решения с оглед на ограниченията на автономността на ИИ и роботиката;

4.2.  Лични данни и неприкосновеност на личния живот

125.  подчертава, че трябва да се гарантира високо равнище на безопасност, сигурност и неприкосновеност на личния живот по отношение на данните, използвани за комуникация между хората и роботите и изкуствения интелект; следователно призовава Комисията и държавите членки да интегрират принципите за сигурност и защита на неприкосновеността на личния живот още при проектирането в своите политики, свързани с роботиката и изкуствения интелект;

126.  отново заявява, че правото на защита на личния живот и правото на защита на личните данни, предвидени в членове 7 и 8 от Хартата на основните права и в член 16 от Договора за функционирането на Европейския съюз, се прилагат за всички области на роботиката и изкуствения интелект и че правната уредба на Съюза за защита на данните трябва да се спазва изцяло; подчертава отговорността на проектантите на системи за роботика и изкуствен интелект за разработване на продуктите по такъв начин, че да бъдат безопасни, сигурни и подходящи за целта и да следват процедурите за обработка на данни в съответствие с действащото законодателство, поверителността, анонимността, справедливото третиране и справедливия процес;

127.  призовава Комисията да гарантира, че всяко законодателство на Съюза относно изкуствения интелект включва мерки и правила, които отчитат бързото технологично развитие в тази област, за да се гарантира, че законодателството на Съюза не изостава от кривата на технологичното развитие и разгръщане; подчертава необходимостта такова законодателство да съответства на правилата за неприкосновеност на личния живот и защита на данните; призовава за преглед на правилата, принципите и критериите по отношение на използването на камери и датчици в роботите и по отношение на изкуствения интелект в съответствие с правната рамка на Съюза за защита на данните;

128.  призовава Комисията да гарантира, че всяка бъдеща регулаторна рамка на ЕС относно ИИ осигурява неприкосновеността на личния живот и поверителността на съобщенията, защитата на личните данни, включително принципите на законосъобразност, справедливост и прозрачност, защитата на данните още при проектирането и по подразбиране, ограничаването на целите, ограничаването на съхранението, точността и свеждането до минимум на данните, при пълно спазване на законодателството на Съюза за защита на данните, както и на сигурността, личната безопасност и други основни права, като например правото на свобода на изразяване на мнение и на информация;

129.  подчертава, че правото на неприкосновеност на личния живот трябва винаги да бъде зачитано и лицата не трябва да бъдат конкретно идентифицирани; подчертава, че разработчикът на ИИ следва винаги да има ясно, недвусмислено и информирано съгласие и че проектантите в областта на ИИ имат отговорността да изготвят и спазват процедури за валидно съгласие, поверителност, анонимност, справедливо третиране и справедлив процес; подчертава, че проектантите трябва да удовлетворяват всички искания за унищожаване на свързани данни и за отстраняването им от всички набори от данни;

130.  припомня, че в Регламент (EС) 2018/1807(14) относно свободното движение на нелични данни се посочва, че „ако напредъкът в технологичното развитие направи възможно превръщането на анонимизираните данни в лични данни, тези данни трябва да се третират като лични данни и Регламент (ЕС) 2016/679 трябва да се прилага съответно“;

4.3.  Отговорност

131.  приветства инициативата на Комисията за създаване на експертна група за отговорността и новите технологии, която да предостави на ЕС експертен опит относно приложимостта на Директивата за отговорността за продуктите(15) към традиционните продукти, новите технологии и новите обществени предизвикателства (подгрупа по Директивата за отговорността за продуктите) и да подпомогне ЕС при разработването на принципи, които могат да служат за насоки за евентуални адаптации на приложимите закони на равнището на ЕС и на национално равнище по отношение на новите технологии (подгрупа по новите технологии);

132.  при все това изразява съжаление, че през настоящия парламентарен мандат не беше представено законодателно предложение, което забавя актуализирането на правилата за отговорност на равнището на ЕС и застрашава правната сигурност в целия ЕС в тази област както за търговците, така и за потребителите;

133.  отбелязва, че инженерите в областта на ИИ или дружествата, които ги наемат на работа, следва да продължават да носят отговорност за социалните последствия и последствията за околната среда и здравето на човека, до които системите с ИИ и роботиката може да доведат по отношение на настоящото и бъдещите поколения;

4.4.  Защита и овластяване на потребителите

134.  подчертава, че доверието на потребителите е от съществено значение за развитието на ИИ и че системите, основани на ИИ, се занимават с все повече и повече потребителски данни, което ги превръща в основни цели за кибератаки; подчертава също така факта, че ИИ трябва да функционира по начин, който не е в ущърб на гражданите и потребителите, и счита, че следователно трябва да се осигури целостта на данните и алгоритмите, на които той разчита;

135.  счита, че технологиите в областта на ИИ, разработени както за производство, така и за индивидуална употреба, следва да подлежат на проверки за безопасност на продуктите от страна на органите за надзор на пазара и да спазват правилата за защита на потребителите, като се гарантират, когато е целесъобразно, минимални стандарти за безопасност и се преодолява рискът от произшествия, произтичащи от взаимодействието с хора или от работата в близост до тях; счита, че въпросите, свързани с етиката, защитата на данните, включително данните на трети страни и личните данни, гражданската отговорност и киберсигурността, следва да бъдат разглеждани във всяка политика в областта на ИИ;

4.5.  Права върху интелектуалната собственост

136.  припомня своята гореспомената резолюция от 16 февруари 2017 г., в която отбелязва, че не съществуват правни разпоредби, които да се прилагат конкретно за роботиката, но че съществуващите правни режими и доктрини могат лесно да се приложат към роботиката, въпреки че изглежда, че някои аспекти изискват специално разглеждане; повтаря отправения в тази резолюция призив към Комисията да подкрепи хоризонтален и неутрален от технологична гледна точка подход към интелектуалната собственост, приложим към различните сектори, в които може да се използва роботиката;

137.  приветства в това отношение съобщението на Комисията до институциите относно насоки за някои аспекти на Директива 2004/48/ЕО на Европейския парламент и на Съвета относно упражняването на права върху интелектуалната собственост (COM(2017)0708), но подчертава необходимостта от наблюдение на целесъобразността и ефективността на правилата за правата върху интелектуалната собственост, които ще уреждат развитието на ИИ; подчертава в този контекст значението на проверките за пригодност;

5.  Етични аспекти

138.  счита, че действията и приложенията за изкуствен интелект следва да бъдат в съответствие с етичните принципи и съответното национално право, право на Съюза и международно право;

139.  призовава за създаването на етична харта на най-добрите практики за ИИ и роботиката, която дружествата и експертите следва да следват;

140.  призовава Комисията и държавите членки да насърчават тясното и прозрачно сътрудничество между публичния и частния сектор и академичните среди, което да засили обмена на знания, и да насърчават образованието и обучението на проектантите по отношение на етичните аспекти, безопасността и зачитането на основните права, както и на потребителите относно използването на роботиката и изкуствения интелект, със специален акцент върху сигурността и неприкосновеността на данните;

141.  призовава Комисията да гарантира, че приложенията, основаващи се на ИИ, не следва да използват данни, събрани от различни източници, без първо да получават съгласието на субекта на данните; призовава Комисията да създаде рамка, която да гарантира, че съгласието, дадено от субекта на данните, ще генерира данни само за предвидените цели;

142.  призовава Комисията да зачита правото на гражданите на живот извън интернет и да гарантира, че няма дискриминация на гражданите, за които няма записани данни;

5.1.  Ориентирана към човека технология

143.  подчертава, че трябва да са налице етични правила, за да се гарантират развитието на ИИ, ориентирано към човека, отчетността и прозрачността на системите за вземане на решения въз основата на алгоритми, ясните правила за отговорност и справедливостта;

144.  приветства инициативата на Комисията за създаване на експертната група на високо равнище по въпросите на изкуствения интелект, както и мрежата на алианса на ИИ на ЕС, с цел да се изготвят етични насоки за ИИ; отправя искане към Комисията да гарантира възможно най-голямото приемане на тези етични насоки от страна на промишлеността, академичните среди и публичните органи; препоръчва държавите членки да включат насоките в своите национални стратегии за ИИ и да разработят реални структури за отчетност за секторите и правителствата, тъй като те проектират и разгръщат ИИ;

145.  счита, че непрекъснатото проследяване на прилагането на етичните насоки за ИИ и въздействието му върху развитието на ориентиран към човека ИИ е от съществено значение; отправя искане към Комисията да анализира дали доброволните етични насоки са достатъчни, за да гарантират, че приобщаващото, етично внедряване на ИИ не създава икономически и социални различия в обществата на ЕС, и да предложи, ако е необходимо, регулаторни и политически мерки;

146.  отбелязва последните събития в наблюдението на и адаптирането към поведенческите анализи; призовава Комисията да разработи етична рамка, която да ограничи тяхното използване; настоятелно призовава Комисията да повиши осведомеността и да стартира информационна кампания за ИИ и използването му по отношение на поведенчески анализи;

5.2.  Интегрирани ценности в областта на технологиите – етика още на етапа на проектирането

147.  посочва, че насочващата етична рамка следва да се основава на принципите за действие в най-добрия интерес на ползвателите, непричиняване на вреди на ползвателите, автономност и справедливост, на принципите и ценностите, залегнали в член 2 от Договора за Европейския съюз и Хартата на основните права, като човешко достойнство, равенство, справедливост и равнопоставеност, недопускане на дискриминация, информирано съгласие, защита на личния и семейния живот и на данните, както и на другите основополагащи принципи и ценности на правото на Съюза, като недопускане на стигматизиране, прозрачност, автономност, индивидуална отговорност и социална отговорност, и на съществуващите етични практики и кодекси;

148.  счита, че Европа трябва да бъде лидер в световен мащаб чрез разгръщането само на етично интегриран ИИ; подчертава, че за да се постигне това, трябва да се гарантира управлението на етиката в областта на ИИ на различни равнища; препоръчва на държавите членки да създадат органи за мониторинг и надзор на етиката на ИИ и да насърчат дружествата, разработващи ИИ, да създадат съвети по етика и да разработят етични насоки за своите разработчици на ИИ;

149.  подчертава, че европейските стандарти за ИИ трябва да се основават на принципите на цифровата етика, човешкото достойнство, зачитането на основните права, защитата на данните и сигурността, като по този начин се допринася за изграждането на доверие сред потребителите; подчертава значението на използването на потенциала на ЕС за създаване на силна инфраструктура за системи с ИИ, основаващи се на високи стандарти за данни и уважение към хората; отбелязва, че прозрачността и обяснимостта трябва да бъдат интегрирани в развитието на ИИ;

150.  отбелязва, че автоматизираните оръжейни системи следва да продължат да имат подход на „командване от човек“ спрямо изкуствения интелект;

5.3.  Вземане на решения – ограничения на автономията на изкуствения интелект и роботиката

151.  подчертава трудността и сложността на предвиждането на бъдещото поведение на много сложни системи с ИИ и възникващото поведение на взаимодействащите системи с ИИ; отправя искане към Комисията да прецени дали има нужда от специфични регламенти, свързани с процеса на вземане на решения, основан на ИИ;

152.  отбелязва, че изкуственият интелект ще продължи да бъде полезен инструмент за сътрудничество в човешките действия, за да се подобри тяхната ефективност и да се намалят грешките;

153.  призовава хората да имат право да знаят, право на обжалване и право на правна защита, когато ИИ се използва за решения, засягащи физически лица, които носят значителен риск за правата или свободата им, или могат да им навредят;

154.  подчертава, че алгоритмите в системите за вземане на решения не следва да се използват без предварителна оценка на въздействието на алгоритмите (ОВА), освен ако е ясно, че те нямат значително въздействие върху живота на физическите лица;

155.  счита, че изкуственият интелект, особено системите с вградена автономия, включваща способността за самостоятелно извличане, събиране и обмен на чувствителна информация с различни заинтересовани страни, както и възможността за самообучение или дори за еволюиране до самостоятелно модифициране, следва да бъдат обект на солидни принципи; подчертава, че системите с ИИ не трябва да съхраняват или разкриват лична поверителна информация без изрично одобрение от източника на тази информация;

5.4.  Прозрачност, пристрастност и обяснимост на алгоритмите

156.  посочва, че докато ИИ носи големи ползи в областта на автоматизацията и вземането на решения, той води и до присъщ риск, когато алгоритмите са статични и непрозрачни; в този контекст подчертава необходимостта от по-голяма прозрачност по отношение на алгоритмите;

157.  призовава Комисията, държавите членки и органите за защита на данните да установяват алгоритмичната дискриминация и пристрастност и да вземат всички възможни мерки да ги предотвратят или сведат до минимум, и да разработят силна обща етична рамка за прозрачната обработката на лични данни и автоматизираното вземане на решения, която да може да направлява използването на данни и прилагането на правото на Съюза;

158.  подчертава, че всяка система с ИИ трябва да бъде разработена при зачитане на принципите на прозрачност и на алгоритмичната отчетност, които дават възможност за разбиране на нейните действия от страна на хората; отбелязва, че за да се изгради доверие в ИИ и да се даде възможност за неговия напредък, потребителите трябва да знаят как се използват техните данни, както и други данни и данни, изведени от техни данни, и кога общуват или взаимодействат със система с ИИ или с хора, подпомагани от система с ИИ; счита, че това ще допринесе за по-добро разбиране и доверие сред потребителите; подчертава, че разбираемостта на решенията трябва да бъде стандарт на ЕС в съответствие с членове 13, 14 и 15 от Общия регламент относно защитата на данните (ОРЗД)(16); припомня, че ОРЗД вече предвижда право на информиране относно логиката, използвана при обработката на данни; подчертава, че съгласно член 22 от ОРЗД физическите лица имат право да получат човешка намеса, когато решение, основано на автоматизирана обработка, ги засяга в значителна степен;

159.  подчертава, че Комисията, Европейският комитет по защита на данните, националните органи по защита на данните и други независими надзорни органи следва да изпълняват оттук нататък решаваща роля, за да се насърчава прозрачността, справедливият процес, правната сигурност като цяло, и по-специфично конкретните стандарти за защита на основните права и гаранциите, свързани с обработката и анализа на данни; призовава за по-тясно сътрудничество между органите, отговарящи за надзора и регулирането на поведението в цифровата среда; призовава за адекватно финансиране и осигуряване на персонал за подобни органи;

160.  признава, че алгоритмите за машинно самообучение са обучени да се учат сами, в полза на автоматизацията и вземането на решения; призовава за насоки за етика на ИИ, които да разглеждат въпроси, свързани с алгоритмичната прозрачност, обяснимостта, отчетността и справедливостта;

161.  подчертава значението на обяснимостта на резултатите, процесите и ценностите на системите с ИИ, която ги прави разбираеми от нетехнически аудитории и която е необходима, за да се оцени справедливостта и да се спечели доверие;

162.  посочва, че липсата на прозрачност по отношение на тези технологии и техните приложения повдига редица етични въпроси;

163.  отбелязва, че системите с ИИ следва да бъдат обясними за хората и да предоставят съдържателна информация, така че да може да се даде обратна връзка; признава, че силата на моделите на ИИ зависи от обратната връзка и преоценката, и насърчава този процес;

164.  отбелязва, че гражданите са загрижени от това, че не знаят кога се използва ИИ и каква информация ще бъде обработвана; препоръчва ясно оповестяване, когато ИИ се използва от гражданите; подчертава, че за да се запази доверието на потребителите, е важно предаваните данни да остават сигурни;

165.  счита, че алгоритмичната отчетност следва да се регулира от лицата, определящи политиките, чрез оценки на въздействието, основани на установени параметри;

166.  отбелязва, че разкриването на самия компютърен код няма да разреши проблема с прозрачността на ИИ, тъй като не би разкрило съществуващите вътрешни пристрастия и не би обяснило процеса на машинно самообучение; подчертава, че прозрачността означава не само прозрачност на кода, но и на данните и автоматизираното вземане на решения;

167.  признава, че оповестяването на изходния код може да доведе до злоупотреба и до игра на алгоритми;

168.  подчертава значението на борбата с пристрастността по отношение на разработчиците, а оттам и на необходимостта от разнородна работна сила във всички клонове на сектора на ИТ, както и на предпазните механизми, за да се избягват пристрастия, основани на пол и възраст и интегрирани в системите с ИИ;

169.  признава, че разкриването на кода или търговски тайни също така би обезкуражило предприятията да провеждат изследвания и развойна дейност за нов код, тъй като тяхната интелектуална собственост би била изложена на риск; отбелязва, че разработването на ИИ следва вместо това да насърчава тълкуването на моделите и взаимодействието им с входните данни и данните за обучението;

170.  признава, че въпреки че прозрачността и обяснимостта могат да разкрият недостатъци, те не гарантират надеждност, сигурност и справедливост; поради това счита, че отчетността е неразделна част от постигането на надежден изкуствен интелект, което може да бъде чрез различни средства, като например ОВА, одитиране и сертифициране;

171.  подчертава необходимостта от разработване на протоколи за текущото наблюдение и откриване на алгоритмична пристрастност;

172.  посочва, че проектантите на алгоритми следва да гарантират спазването на съществените изисквания, като справедливост или обяснимост, от началото на етапа на проектиране и през целия цикъл на разработване;

173.  отбелязва необходимостта от насоки, описващи добри практики за разработване;

174.  подчертава значението на показването на генезиса, за да може да се проследи историята на модела на ИИ; счита, че това ще подобри разбирането на моделите и ще спомогне за установяването на доверие въз основа на тяхната история;

175.  подчертава, че използването на системи с ИИ трябва да бъде ясно идентифицирано при взаимодействията с потребителите;

176.  подчертава, че разпространението на ИИ и роботиката трябва да се извършва при пълно зачитане на правата на човека и в никакъв случай не трябва да възпроизвежда в машините и роботите стереотипите по отношение на жените, нито каквато и да било друга форма на дискриминация;

177.  посочва, че дори висококачествени данни за обучение могат да доведат до увековечаване на съществуващата дискриминация и несправедливост, когато не се използват внимателно и съзнателно; отбелязва, че използването на нискокачествени, остарели, непълни или неточни данни на различни етапи от обработката на данни може да доведе до лоши прогнози и оценки и от своя страна – до пристрастия, които в крайна сметка могат да доведат до нарушаване на основните права на отделни лица или до напълно неточни заключения или неверни резултати; поради това счита, че е важно в ерата на големите информационни масиви да се гарантира, че алгоритмите са обучавани на представителни извадки от висококачествени данни с цел постигане на статистическо изравняване; подчертава, че дори ако се използват точни висококачествени данни, прогнозният анализ, основан на ИИ, може да предложи само статистическа вероятност; припомня, че съгласно ОРЗД допълнителното обработване на лични данни за статистически цели, включително за обучение на ИИ, може да води само до обобщени данни, които не могат да бъдат повторно приложени към отделни хора;

178.  призовава Комисията да гарантира, че всеки, който произвежда материали, тип „дийп фейк“, или синтетични видеоклипове, или други реалистично направени синтетични видеоклипове, изрично заявява, че те не са оригинални;

179.  отбелязва, че ИИ по своята същност се основава на събирането на големи количества данни и често на създаването на нови бази данни, които се използват, за да се правят предположения за хората; счита, че следва да се наблегне на идентифицирането и изграждането на механизми за реагиране на потенциални заплахи, за да се гарантира смекчаване на отрицателните въздействия;

180.  отново заявява, че системите с ИИ не следва да създават или засилват пристрастност; подчертава, че при разработването и използването на алгоритми трябва да се включат съображения за пристрастност и справедливост на всички етапи – от проектирането до прилагането; изтъква, че наборът от данни и алгоритъмът трябва да бъдат оценявани и редовно изпитвани, за да се гарантира точността на вземането на решения;

6.  Управление

6.1.  Координация на равнището на Съюза

181.  призовава Комисията да работи за изграждането на силно лидерство на ЕС, което да предотврати дублирането и фрагментирането на усилията и да гарантира последователни политики на национално равнище и обмен на най-добри практики за по-широко използване на ИИ;

182.  приветства различните национални стратегии, разработени от държавите членки; приветства Координирания план на Комисията относно изкуствения интелект, публикуван на 7 декември 2018 г.; призовава за по-добро сътрудничество между държавите членки и Комисията в това отношение;

183.  отбелязва, че редица държави членки вече имат свои собствени национални стратегии за ИИ, и приветства факта, че всички държави членки са подписали Декларация за сътрудничество в областта на изкуствения интелект през април 2018 г.; приветства също така предстоящия координиран план относно ИИ между Комисията и държавите членки, но призовава всички участващи страни да се стремят към възможно най-високо равнище на сътрудничество;

184.  счита, че е необходимо засилено сътрудничество между държавите членки и Комисията, за да се гарантират съгласувани трансгранични правила в Съюза, насърчаващи сътрудничество между европейските сектори и позволяващи разгръщането в целия Съюз на ИИ, който е в съответствие с изискваните равнища на безопасност и сигурност, както и с етичните принципи, залегнали в правото на Съюза;

185.  подчертава, че хармонизирана, основана на риска и прогресивна рамка на политиката на ЕС в областта на данните би увеличила доверието и подкрепата за пътя на ИИ в Европа, като по този начин осигури завършването на цифровия единен пазар и повиши производителността на базираните в Европа предприятия;

186.  препоръчва осъществяваните от Комисията текущи и бъдещи инициативи и пилотни проекти, свързани с ИИ, да бъдат тясно координирани, евентуално под ръководството на предложения механизъм за надзор, за да се реализират ползи от взаимодействието и да се осигури създаването на реална добавена стойност, като същевременно се избегнат скъпоструващи дублирани структури;

187.  призовава Комисията и държавите членки да обмислят създаването на европейска регулаторна агенция за ИИ и алгоритмично вземане на решения, натоварена със:

•  създаване на матрица за оценка на риска за класифициране на типове алгоритми и области на приложение в зависимост от потенциала им за значително отрицателно въздействие върху гражданите;

•  проучване на използването на алгоритмични системи, при които има подозрение (например доказателства, предоставени от лице, сигнализиращо за нередности) за нарушаване на правата на човека;

•  предоставяне на консултации на други регулаторни агенции относно алгоритмичните системи, попадащи в тяхната сфера на компетентност;

•  повишаване на ефективността на механизма за отговорност при нередности като средство за регулиране на отчетността на алгоритмичните системи чрез осигуряване на контактна точка за гражданите, които не са запознати с правните процедури;

•  одитиране на ОВА на системите за въздействие на високо равнище с цел одобряване или отхвърляне на предложеното използване на алгоритмично вземане на решения в области с висока чувствителност и/или с критично значение за безопасността (например частно здравеопазване); ОВА за приложения в частния сектор би могла да следва много подобен процес като предложения за публичния сектор, с възможната разлика, че различните етапи на публичното оповестяване биха могли да се разглеждат като поверително съобщение към регулаторната агенция (съгласно споразумение за неоповестяване на информация), за да се запазят жизненоважни търговски тайни;

•  проучване на предполагаеми случаи на нарушения на правата от алгоритмични системи за вземане на решения, както за отделни решения (например единични анормални резултати), така и за модели на статистическо решение (например дискриминационна пристрастност); разследванията могат да бъдат предприети след подаване на жалби или на базата на доказателства, предоставени от лица, сигнализиращи за нередности, разследващи журналисти или независими изследователи (включително НПО и представители на академичните среди);

188.  отбелязва текущата работа на Международната организация по стандартизация (ISO) в областта на ИИ и настоятелно призовава държавите членки да координират своите членове на ISO, за да се гарантира подходящо представителство на европейските интереси при разработването на стандарти в тази област;

6.2.  Международно управление

189.  приветства създаването на Обсерватория на политиката за ИИ към ОИСР и призовава за повече амбиции при разработването на пътна карта за по-нататъшно сътрудничество;

190.  подчертава, че в трети държави, по-конкретно в САЩ, Китай, Русия и Израел, се разработват различни модели, и подчертава подхода, основан на ценности, който се използва в Европа, и необходимостта да се работи с международните партньори в двустранен и многостранен контекст, за етичен напредък и приемане на ИИ; признава, че тази технология няма граници и изисква сътрудничество извън границите на държавите – членки на ЕС;

191.  призовава Комисията да работи на международно равнище, за да гарантира максимална съгласуваност между международните участници, и да се застъпва за етичните принципи на ЕС в световен план;

192.  подчертава, че ИИ е технология със световно въздействие, даваща споделени ползи и повдигаща сходни предизвикателства; изтъква необходимостта от глобален подход, какъвто е случаят с икономическата система, и особено в случая на технология със значително въздействие върху пазарите; подчертава необходимостта от включване на ИИ в дневния ред на съществуващите институции и организации и призовава за оценка на необходимостта от допълнителни форуми, които да бъдат създадени, ако е необходимо;

°

°  °

193.  възлага на своя председател да предаде настоящата резолюция на Съвета и на Комисията.

(1)

ОВ C 252, 18.7.2018 г., стр. 239.

(2)

ОВ C 307, 30.8.2018 г, стр. 163.

(3)

Приети текстове, P8_TA(2018)0341.

(4)

Приети текстове, P8_TA(2018)0332.

(5)

ОВ L 252, 8.10.2018 г., стр. 1.

(6)

COM(2018)0237.

(7)

Future and Emerging Technologies („Бъдещи и нововъзникващи технологии“).

(8)

OECD Digital Economy Outlook 2017 (Перспективи на ОИСР за цифровата икономика, 2017 г.).

(9)

Специално издание на Евробарометър № 460.

(10)

Директива (ЕС) 2018/958 на Европейския парламент и на Съвета от 28 юни 2018 година относно проверката за пропорционалност преди приемането на ново регулиране на професии, OВ L 173, 9.7.2018 г., стр. 25.

(11)

Директива 2013/55/ЕС на Европейския парламент и на Съвета от 20 ноември 2013 г. за изменение на Директива 2005/36/ЕО относно признаването на професионалните квалификации и на Регламент (ЕС) № 1024/2012 относно административно сътрудничество посредством Информационната система за вътрешния пазар ( „Регламент за ИСВП“), ОВ L 354, 28.12.2013 г., стр. 132.

(12)

Директива 2006/123/ЕО на Европейския парламент и на Съвета от 12 декември 2006 г. относно услугите на вътрешния пазар, ОВ L 376, 27.12.2006 г., стр. 36.

(13)

Директива 2000/31/ЕО на Европейския парламент и на Съвета от 8 юни 2000 г. за някои правни аспекти на услугите на информационното общество, и по-специално на електронната търговия на вътрешния пазар („Директива за електронната търговия“), ОВ L 178, 17.7.2000 г., стр. 1.

(14)

Регламент (ЕС) 2018/1807 на Европейския парламент и на Съвета от 14 ноември 2018 година относно рамка за свободното движение на нелични данни в Европейския съюз, OВ L 303, 28.11.2018 г., стр. 59.

(15)

Директива 85/374/ЕИО на Съвета от 25 юли 1985 г. за сближаване на законовите, подзаконовите и административните разпоредби на държавите членки относно отговорността за вреди, причинени от дефект на стока, ОВ L 210, 7.8.1985 г., стр. 29.

(16)

Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/ЕО, ОВ L 119, 4.5.2016 г., стр. 1.


СТАНОВИЩЕ на комисията по вътрешния пазар и защита на потребителите (7.12.2018)

на вниманието на комисията по промишленост, изследвания и енергетика

относно всеобхватна европейска промишлена политика в областта на изкуствения интелект и роботиката

(2018/2088(INI)COM(2018)0237))

Докладчик по становище: Дита Харанзова

(*)  Асоциирана комисия – член 54 от Правилника за дейността

(Опростена процедура – член 50, параграф 2 от Правилника за дейността)

ПРЕПОРЪКИ

Комисията по вътрешния пазар и защита на потребителите приканва водещата комисия по промишленост, изследвания и енергетика да включи в предложението за резолюция, което ще приеме, следните предложения:

А.  като има предвид, че развитието на изкуствения интелект (ИИ) напредва с бързи темпове и като има предвид, че от няколко години ИИ вече участва в нашето ежедневие; като има предвид, че ИИ и роботиката насърчават иновациите, което води до нови бизнес модели и играе ключова роля за преобразяването на нашите общества и за цифровизирането на нашите икономики в множество сектори, например промишлеността, здравеопазването, строителството и транспорта;

Б.  като има предвид, че Китай и САЩ са водещите държави в областта на технологиите, свързани с ИИ, и че понастоящем ЕС изостава значително; като има предвид, че за ЕС ще бъде невъзможно да навакса изоставането си без координиран подход на европейско равнище; като има предвид, че един общ подход към ИИ ще позволи на ЕС да популяризира по-добре своите ценности по целия свят и да играе по-голяма и по-ефективна роля на световната сцена;

В.  като има предвид, че около една четвърт от всички промишлени роботи и половината от всички роботи в областта на професионалните услуги в света се произвеждат от европейски дружества, поради което ЕС вече разполага с важни активи, на които следва да основава своята европейска индустриална политика;

Г.  като има предвид, че чрез общ подход ще се улесни развитието на технологиите в областта ИИ в полза на обществото, като същевременно ще се отговори на свързаните с тези технологии предизвикателства, за да се насърчат иновациите, да се подобри качеството на основаните на ИИ продукти и услуги, да се подобри опитът на потребителите и доверието в технологиите в областта на ИИ и роботиката, както и да се избегне фрагментирането на вътрешния пазар;

Д.  като има предвид, че развитието на ИИ и на роботиката трябва да включва обществото като цяло; като има предвид обаче, че през 2017 г. селските райони останаха до голяма степен изключени от ползите от ИИ, тъй като 8% от домакинствата не са обхванати от никаква фиксирана мрежа, а 53% не са обхванати от технология за достъп от следващо поколение (VDSL, Cable Docsis 3.0 или FTTP);

Е.  като има предвид, че развитието на основаните на ИИ услуги и продукти изисква свързаност, свободно движение на данни и достъпност на данните в рамките на ЕС; като има предвид, че използването на съвременни техники за извличане на данни в сферата на услугите и продуктите може да спомогне за повишаване на качеството на процеса на вземане на решения, а оттам и на избора на потребителите, както и за подобряване на икономическите резултати;

Ж.  като има предвид, че киберсигурността е от съществено значение, за да се гарантира, че данните не са злонамерено повредени или че с тях се злоупотребява, за да функционира ИИ по начин, който е в ущърб на гражданите или на дружествата, което би подкопало доверието на промишлеността и потребителите в ИИ; като има предвид, че развитието на ИИ все повече разчита на тези системи за действия и решения, което на свой ред налага високи стандарти за киберустойчивост в ЕС с цел защита от нарушения на киберсигурността и провали в нея;

З.  като има предвид, че технологичното развитие в областта на интелигентните продукти и услуги може да бъде от полза за икономиката на знанието, която се основава на количеството, качеството и достъпността на наличната информация и по този начин може да доведе до по-добро адаптиране към нуждите на потребителите;

И.  като има предвид, че потребителите следва да могат да имат доверие в технологиите, с които си взаимодействат, и като има предвид, че следователно е необходимо да се отговори на етичните опасения относно развитието на ИИ и на роботиката; като има предвид, че ЕС следва да основе своя отговор на тези опасения относно зачитането на ценностите, залегнали в член 2 от Договора за Европейския съюз и в Хартата на основните права на ЕС; като има предвид, че до края на 2018 г. създадената от Комисията експертна група на високо равнище относно изкуствения интелект ще разработи проект на насоки относно свързаните с ИИ етични въпроси;

1.  подчертава, че първото и най-важно условие, за да може ЕС да навакса изоставането в областта на ИИ, е той да действа в обща рамка;

2.  подчертава, че некоординираните действия по отношение на НИРД, разнопосочните решения по отношение на регулирането и действията на международно равнище допълнително отдалечават ЕС от тази цел;

3.  отбелязва, че редица държави членки вече имат свои собствени национални стратегии за ИИ, и приветства факта, че всички държави членки са подписали Декларация за сътрудничество в областта на изкуствения интелект през април 2018 г., както и предстоящия координиран план относно ИИ между Комисията и държавите членки, но призовава всички участващи страни да се стремят към възможно най-висока степен на сътрудничество;

Общество, подкрепяно от изкуствения интелект и роботиката

4.  припомня факта, че Европа има водеща в световен мащаб научноизследователска общност в областта на ИИ, която представлява 32% от научноизследователските институции в областта на ИИ в световен мащаб;

5.  подчертава факта, че изследователите в ЕС продължават да печелят значително по-малко от своите колеги в САЩ и Китай и че това е известно като основна причина да напускат Европа; призовава Комисията и държавите членки да се съсредоточат върху привличането на таланти в европейските предприятия, а държавите членки – да създадат привлекателни условия;

6.  подчертава значението на целенасочени мерки, за да се гарантира, че малките и средните предприятия и стартиращите предприятия са в състояние да възприемат технологии в областта на ИИ и да се възползват от тях; счита, че оценките на въздействието на новото законодателство на ЕС върху технологичното развитие на ИИ следва да бъдат задължителни и че такива оценки на въздействието следва да се обмислят и на национално равнище;

7.  призовава Комисията, с цел насърчаване на регулаторна среда, която да е благоприятна за развитието на ИИ и да съответства на принципа за по-добро регулиране, редовно да прави преоценка на настоящото законодателство, за да гарантира, че то е пригодно към целта си по отношение на ИИ, като същевременно се зачитат основните ценности на ЕС, и за да се стреми да изменя или да замества нови предложения, когато е доказано, че това не е така;

8.  препоръчва още работа за увеличаване на свързаността в пренебрегвани области, например селските райони и пренебрегваните сектори, с цел постигане на истински приобщаващ цифров преход;

9.  подчертава факта, че по-широкото въвеждане на технологии в областта на ИИ може да замени някои професии, по-специално тези, които е най-вероятно да бъдат автоматизирани, и да създаде нови; припомня, че значителна част от населението на ЕС – 37% от работната сила – не притежава основни цифрови умения; подчертава, че Комисията прогнозира значителен недостиг на експерти по ИКТ, като прогнозира 750 000 свободни работни места до 2020 г.;

10.  настоятелно призовава държавите членки да модернизират своите системи за професионално обучение и образование, за да се вземат предвид научният прогрес и развитията в областта на ИИ, в съответствие с Директивата за проверка на пропорционалността и Директивата за професионалните квалификации, и да направят професионалните услуги в ЕС конкурентоспособни в световен мащаб през следващите десетилетия;

Технологичният път към изкуствения интелект и роботиката

11.  счита, че новият набор от правила, уреждащи свободното движение на нелични данни в Съюза, дава възможност все повече данни да бъдат на разположение за иновациите, основани на данни, което улеснява МСП и стартиращите предприятия при разработването на иновативни услуги, основани на ИИ, и за навлизането им на нови пазари, като същевременно позволява на гражданите и предприятията да се възползват от по-добри продукти и услуги;

12.  припомня, че в Регламента относно свободното движение на нелични данни се посочва, че ако технологичното развитие позволява превръщането на анонимизирани данни в лични данни, тези данни следва да се третират като лични данни, а Регламент (ЕС) 2016/679 следва да се прилага съответно;

13.  признава потенциала на обмена на данни в контекста на бъдещото развитие на задълбочено обучение, по-специално по отношение на наборите от данни с висока стойност, като се имат предвид техните значителни граждански или социално-икономически ползи и пригодността им за създаване на услуги и приложения с добавена стойност;

14.  подчертава значението на свободния достъп до нелични данни от публични и частни източници и счита, че чрез регулаторна рамка, включваща повторното използване на информация от обществения сектор, следва да се подкрепи достъпът до свободно достъпни данни и оперативна съвместимост; настоятелно призовава Комисията да разгледа възможността за създаване на сигурен и доброволен единен портал за улесняване на обмена на нелични данни на равнище ЕС, за да се създаде опростено събиране на данни;

15.  подчертава, че доверието на потребителите е от съществено значение за развитието на ИИ и че системите, основани на ИИ, се занимават с все повече и повече потребителски данни, което ги превръща в основни цели за кибератаки; подчертава също така факта, че ИИ трябва да функционира по начин, който не е в ущърб на гражданите и потребителите, и счита, че следователно трябва да се осигури целостта на данните и алгоритмите, на които той разчита;

16.  подчертава значението на признаването, идентифицирането и наблюдението на революционните новости в развитието на ИИ и около него; насърчава идеята научните изследвания в областта на ИИ да се съсредоточат и върху откриването на случайно или злонамерено повредени ИИ и роботика;

Промишлена политика

17.  счита, че Съюзът следва да бъде по-добре оборудван срещу кибератаки; насърчава бързото приключване на Стратегията за киберсигурност, която следва да гарантира разработването и внедряването на безопасни системи в областта на ИИ и роботиката, които да са устойчиви на кибератаки, по-специално чрез разработването на схеми на ЕС за сертифициране; счита, че Агенцията на ЕС за мрежова и информационна сигурност (ENISA) следва да изготви план за действие относно киберсигурността в областта на ИИ, който следва да оценява и да се справи със специфичните за ИИ заплахи и слабости;

18.  подчертава, че за развитието на силен и конкурентоспособен сектор на ИИ и роботиката не може да се разчита единствено на публични средства; подчертава, че е важно да се мобилизират частни средства за насърчаване на иновациите и за постигане на развита промишленост в областта на ИИ и роботиката в ЕС;

19.  припомня, че макар в областта на ИИ и роботиката вече да има отдавна установени промишлени приложения, напредъкът в тази област се разраства и включва широки и разнообразни приложения във всички човешки дейности; счита, че всяка регулаторна рамка трябва да включва гъвкавост, даваща възможност за иновации и за свободно развитие на нови технологии и употреби на ИИ; подчертава, че регулирането не следва да възпрепятства научноизследователската и развойната дейност в частния сектор;

20.  призовава Комисията да гарантира, че цифровите иновационни центрове не водят до създаването на допълнителни управленски равнища, а ще се съсредоточат върху ускоряването на инвестициите в проекти, които са доказали своята ефективност; призовава Комисията да се съсредоточи върху безвъзмездните средства и финансовата помощ за частни проекти за НИРД; подчертава необходимостта от по-широко използване на публично-частните партньорства в областта на ИИ;

21.  счита, че ИИ ще бъде голям актив по отношение на прилагането на принципа на еднократност, който позволява комбинирането на бази данни и информация от различни източници, като по този начин се улеснява взаимодействието на гражданите с публичните администрации;

Правна рамка за изкуствения интелект и роботиката

Вътрешен пазар за изкуствения интелект

22.  счита, че държавите членки следва да гарантират създаването на данни въз основа на принципа „отвореност при проектирането и по подразбиране“, като същевременно гарантират последователно равнище на защита на целите от обществен интерес, като обществената сигурност или защита на личните данни, включително в случаите, когато става дума за чувствителна информация, свързана с критична инфраструктура;

Отговорно развитие и свободно движение на интелигентни стоки

23.  подчертава значението на принципа на взаимно признаване при трансграничното използване на интелигентни стоки, включително роботи и роботизирани системи; припомня, че когато е необходимо, изпитването, сертифицирането и безопасността на продуктите следва да гарантират, че някои стоки са безопасни по замисъл и по подразбиране; в този контекст отбелязва значението и на работата по етичните аспекти на ИИ;

24.  подчертава, че ИИ се прилага за редица сектори, в които стандартизацията е от голямо значение, например интелигентното производство, роботите, автономните автомобили, виртуалната реалност, здравеопазването и анализа на данни, и счита, че стандартизацията за ИИ в целия ЕС ще насърчи иновациите и ще гарантира висока степен на защита на потребителите; признава, че макар да съществуват значителен брой стандарти по въпроси като безопасността, надеждността, оперативната съвместимост и сигурността, е необходимо допълнително да се насърчат и разработят общи стандарти за роботиката и ИИ и това следва да бъде част от приоритетите на Съюза; призовава Комисията, в сътрудничество с органите по стандартизация на ЕС, да продължи да се ангажира проактивно с международните органи по стандартизация за подобряване на стандартите в тази област;

25.  настоятелно призовава Комисията и държавите членки да насърчават изпитването в малък мащаб на иновативни продукти и технологии (т.нар. sand-box иновации), преди тези продукти да бъдат пуснати на пазара;

26.  признава, че технологиите в областта на роботиката и ИИ намират все по-голямо приложение в автономните превозни средства, например автономните автомобили и дроновете за граждански цели; отбелязва, че някои държави членки са в процес на изготвяне и приемане на законодателство или обмислят законодателство в тази конкретна област, което би могло да доведе до набор от национални закони, възпрепятстващи разработването на автономни превозни средства; поради това призовава за единен набор от правила на Съюза, с които да се постигне точният баланс между интересите и потенциалните рискове за ползвателите, предприятията и другите засегнати страни, като същевременно се избягва свръхрегулирането в областта на роботиката и системите на ИИ;

Свободно предоставяне на услуги, основани на ИИ

27.  припомня, че е налице непрекъснато развитие на технологиите за анализ, експлоатация и обработка на данни, например машинно обучение, ИИ и интернет на нещата, както и че бързото технологично развитие дава възможност за създаване на нови услуги и нови приложения, които се основават на използването, обобщаването или комбинирането на данни;

28.  припомня, че редица аспекти на политиката, които са от значение за услугите, базирани на ИИ, включително правилата за защита на потребителите и политиката в областта на етиката и отговорността, са обхванати от съществуващата регулаторна рамка за услугите, а именно Директивата за услугите, Директивата за професионалните квалификации и Директивата за електронната търговия;

29.  подчертава, че хората трябва винаги да носят крайната отговорност за вземането на решения, особено за професионални услуги, като медицинските, правните и счетоводните професии; счита, че е необходимо да се обмисли дали е необходим надзор от квалифициран специалист с оглед на защитата на легитимните цели от обществен интерес и на предоставянето на висококачествени услуги;

30.  признава значението на подобряването на цифровите услуги, например виртуални асистенти, разговори или виртуални служители, което води до безпрецедентна оперативна ефективност, като същевременно надлежно отчита необходимостта от разработване на ориентиран към човека и пазарно ориентиран ИИ, за да се изготвят по-добри и по-надеждни решения с оглед на ограниченията на автономността на ИИ и роботиката;

Защита на потребителите и увеличаване на техните права

31.  счита, че технологиите в областта на ИИ, разработени както за производство, така и за индивидуална употреба, следва да подлежат на проверки за безопасност на продуктите от страна на органите за надзор на пазара, и да спазват правилата за защита на потребителите, като се гарантират, когато е целесъобразно, минимални стандарти за безопасност и се преодолява рискът от произшествия, произтичащи от взаимодействието с хора или от работата в близост до тях; счита, че въпросите, свързани с етиката, защитата на данните, включително данните на трети страни и личните данни, гражданската отговорност и киберсигурността, следва да бъдат разглеждани във всяка политика в областта на ИИ;

32.  припомня, че алгоритмите са крайъгълните камъни на ИИ и роботиката; призовава държавите членки да гарантират, че за ИИ се използват само висококачествени данни, и по-специално, че данните са актуални, точни и надеждни, за да се гарантира доверието на потребителите и приемането от тяхна страна; във връзка с това припомня значението на обяснимостта на процесите на вземане на решения във връзка с технологиите в областта на ИИ и безпристрастността на алгоритмите, като същевременно се спазва правото на ЕС, особено по отношение на търговските тайни, и значението на създаването на структури за контрол с цел отстраняване на възможни грешки във вземаните от ИИ решения;

33.  подчертава значението на лесен за ползване ИИ с цел насърчаване на доверието на потребителите; счита, че когато окончателни и постоянни решения се вземат от ИИ, а не от хора, потребителите следва да бъдат информирани за това и да са в състояние да потърсят контрол и поправка от страна на човек; подчертава, че когато си взаимодействат с автоматизирана система, потребителите следва да бъдат информирани как да стигнат до човек и как да се гарантира, че решенията на дадена система могат да бъдат проверени и коригирани;

34.  взема под внимание работния документ на службите на Комисията от 25 април 2018 г. относно отговорността за нововъзникващите цифрови технологии (SWD(2018)0137); отбелязва своето заключение, че макар настоящата рамка на отговорността все още да е стабилна и функционираща, тя следва да бъде преразгледана от експертната група по въпросите на отговорността в светлината на новите технологии в областта на ИИ, за да се гарантира, че е подходяща за целта и че включва перспективите на потребителите, новаторите и дружествата, осъществяващи дейност в ЕС;

35.  подчертава необходимостта от образоване на гражданите и по-специално на по-младите граждани, за да разберат как функционира ИИ; призовава за по-голямо овластяване на гражданите и потребителите в ЕС, като ИИ бъде предоставен в по-голяма степен на разположение на гражданите, потребителите и гражданското общество; счита, че това може да се постигне чрез предлагане на засилено и широко разпространено образование за по-добро разбиране на ИИ;

ИНФОРМАЦИЯ ОТНОСНО ПРИЕМАНЕТО В ПОДПОМАГАЩАТА КОМИСИЯ

Опростена процедура – дата на решението

16.5.2018

Дата на приемане

4.12.2018 

 

 

 


СТАНОВИЩЕ НА КОМИСИЯТА ПО ПРАВНИ ВЪПРОСИ ОТНОСНО ПРАВНОТО ОСНОВАНИЕ

12.12.2018

Г-н Йежи Бузек

Председател

Комисия по промишленост, изследвания и енергетика

БРЮКСЕЛ

Относно:  Становище относно всеобхватната европейска промишлена политика в областта на изкуствения интелект и роботиката (2018/2088(INI))

Уважаеми господин Председател,

В рамките на горепосочената процедура беше възложено на комисията по правни въпроси да представи становище на Вашата комисия. Г-жа Мади Делво беше назначена за докладчик по становище. На своето заседание от 20 ноември 2018 г. тя реши да представи това становище под формата на писмо.

В съответствие със споразумението, постигнато по отношение на асоциирането съгласно член 54 от Правилника за дейността, комисията по правни въпроси притежава изключителна компетентност по въпроси, свързани с отговорността и правата на интелектуална собственост, и притежава споделена компетентност по въпроси, свързани с вградени ценности в областта на технологиите („етика при проектиране“).

Комисията по правни въпроси разгледа въпроса на своето заседание от 6 декември 2018 г. и след размяна на мнения между координаторите чрез писмена процедура долупосоченото становище беше прието по време на заседанието от 10 декември 2018 г. На това заседание(1) тя реши да прикани водещата комисия по промишленост, изследвания и енергетика да включи в своето предложение за резолюция посочените по-долу предложения.

Вярвам, че това представлява полезен принос към доклада, изготвен от Вашата комисия.

С уважение,

Павел Свобода

ПРЕДЛОЖЕНИЯ

А.  като има предвид, че в своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката (2015/2013 (INL)), призова Комисията да предложи съгласувана правна уредба по отношение на развитието на роботиката, включително автономните системи и интелигентните автономни роботи;

1.  настоятелно призовава да се обърне голямо внимание на безопасността на продуктите, за да се гарантира защитата и доверието на потребителите в изкуствения интелект и роботиката;

2.  подчертава, че при разработването на изкуствен интелект ориентираният към човека дизайн е от решаващо значение, за да се гарантира отговорността и отчетността на процеса на вземане на решения от страна на машините;

3.  подчертава, че политическата рамка трябва да бъде разработена така, че да насърчава развитието на всички видове изкуствен интелект, а не само на системите за дълбоко обучение, което изисква огромно количество данни;

4.  подчертава, че използването на данни в здравния сектор трябва да се наблюдава внимателно и етично и не трябва по никакъв начин да възпрепятства достъпа до социална закрила или застраховане;

5.  счита, че когато се използва изкуствен интелект в имплантирани медицински изделия, носителят следва да има право да инспектира и да променя изходния код, използван в изделието;

6.  припомня, че наличието на качествени данни е от съществено значение за реалната конкурентоспособност на промишлеността в областта на изкуствения интелект, и призовава публичните органи да гарантират начини за изготвяне, обмен и управление на данни, като превърнат данните в общо благо под формата на отворени данни;

7.  приветства инициативата на Комисията за създаване на експертна група за отговорността и новите технологии, която да предостави на ЕС експертен опит относно приложимостта на Директивата за отговорността за продуктите към традиционните продукти, новите технологии и новите обществени предизвикателства (обучение относно Директивата за отговорността за продуктите) и да подпомогне ЕС при разработването на принципи, които могат да служат за насоки за евентуални адаптации на приложимите закони на равнището на ЕС и на национално равнище по отношение на новите технологии (обучение относно новите технологии);

8.  при все това изразява съжаление, че през настоящия парламентарен мандат не беше представено законодателно предложение, което забавя актуализирането на правилата за отговорност на равнището на ЕС и застрашава правната сигурност в целия ЕС в тази област както за търговците, така и за потребителите;

9.  отбелязва текущата работа на Международната организация по стандартизация (ISO) в областта на изкуствения интелект и настоятелно призовава държавите членки да координират своите членове по ISO, за да защитят възможно най-добре европейските ценности и интереси при разработването на стандарти;

10.  припомня своята гореспомената резолюция от 16 февруари 2018 г., в която отбелязва, че не съществуват правни разпоредби, които да се прилагат конкретно за роботиката, но че съществуващите правни режими и доктрини могат лесно да се приложат към роботиката, въпреки че изглежда, че някои аспекти изискват специално разглеждане; повтаря отправения в тази резолюция призив към Комисията да подкрепи хоризонтален и неутрален от технологична гледна точка подход към интелектуалната собственост, приложим към различните сектори, в които може да се използва роботиката;

11.  приветства в това отношение съобщението на Комисията до институциите относно насоки за някои аспекти на Директива 2004/48/ЕО на Европейския парламент и на Съвета относно упражняването на права върху интелектуалната собственост, но подчертава необходимостта от наблюдение на целесъобразността и ефективността на правилата за правата на интелектуална собственост, които ще уреждат развитието на изкуствения интелект; подчертава в този контекст значението на проверките за пригодност;

12.  приветства създаването от страна на Комисията на експертна група на високо равнище по въпросите на изкуствения интелект, която включва представители на академичните среди, гражданското общество и промишлеността, за изготвянето на насоки по етика по отношение на изкуствения интелект по въпроси като справедливост, безопасност, прозрачност, бъдещето на труда, демокрация и в по-общ план – въздействието върху прилагането на Хартата на основните права, включително защитата на неприкосновеността на личния живот и личните данни, достойнството, защитата на потребителите и недискриминацията;

13.  очаква съвместната среща с държавите членки, предвидена за януари 2019 г., след публикуването на проекта на насоките по етика в края на 2018 г., както беше обявено в съобщението на Комисията от 25 април 2018 г.;

14.  подчертава ролята, която Парламентът би могъл да играе чрез работата, извършена от STOA, за представяне на опасенията на гражданите при изготвянето на тези насоки;

15.  отбелязва плана за координирано действие относно изкуствения интелект, представен от заместник-председателя на Комисията Ансип през декември 2018 г.;

16.  подчертава, че понастоящем развитието на изкуствения интелект и на роботиката се ръководи от държави извън ЕС, и поради това подчертава значението на наличието на общ европейски подход за защита на мястото на ЕС в развитието на изкуствения интелект;

17.  в този смисъл приветства създаването на съюза на ЕС за изкуствен интелект с цел пълно мобилизиране на широк набор от участници, включително предприятия, потребителски организации, профсъюзи и други представители на органите на гражданското общество; отбелязва, че целта на тази широка платформа с участието на множество заинтересовани лица е да допълни и да подкрепи работата на експертната група на високо равнище за изкуствения интелект, по-специално при изготвянето на проект на насоки по етика относно изкуствения интелект и осигуряването на конкурентоспособност на ЕС в бързо развиващата се област на изкуствения интелект.

(1)

На окончателното гласуване присъстваха: Павел Свобода (председател), Жан-Мари Кавада (заместник-председател), Мади Делво (заместник-председател и докладчик по становище), Жоел Бержерон, Костас Хрисогонос, Серджо Гаетано Коферати, Мери Хънибол, Саджад Карим, Силвия-Ивон Кауфман, Антониу Мариню и Пинту, Юлия Реда, Евелин Регнер, Аксел Фос, Тимо Вьолкен, Франсис Замит Димек, Тадеуш Звефка, Косма Злотовски, Луис де Грандес Паскуал.


СТАНОВИЩЕ на комисията по граждански свободи, правосъдие и вътрешни работи (11.12.2018)

на вниманието на комисията по промишленост, изследвания и енергетика

относно всеобхватната европейска промишлена политика в областта на изкуствения интелект и роботиката

(2018/2088(INI))

Докладчик по становище (*): Михал Бони

(*) Асоциирана комисия – член 54 от Правилника за дейността

ПРЕДЛОЖЕНИЯ

Комисията по граждански свободи, правосъдие и вътрешни работи приканва водещата комисия по промишленост, изследвания и енергетика да включи в предложението за резолюция, което ще приеме, следните предложения:

–  като взе предвид съобщението на Комисията до Европейския парламент, Европейския съвет, Съвета, Европейския икономически и социален комитет и Комитета на регионите, озаглавено „Изкуствен интелект за Европа“ (COM(2018)0237),

–  като взе предвид своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката(1),

А.  като има предвид, че изкуственият интелект (ИИ) е една от стратегическите технологии за 21-ви век, както в световен мащаб, така и в Европа, като осигурява положителна промяна за европейската икономика и дава възможност за иновации, производителност, конкурентоспособност и благосъстояние;

Б.  като има предвид, че европейската рамка за ИИ трябва да бъде разработена при пълно зачитане на основните права, залегнали в Хартата на основните права на Европейския съюз, и по-специално на принципите за защита на данните, неприкосновеност на личния живот и сигурност;

В.  като има предвид, че насоченият към човека ИИ и машинното самообучение представляват предимство за европейското общество и могат да спомогнат за справяне с някои от най-неотложните обществени предизвикателства, като носят осезаеми ползи за гражданите;

1.  призовава Комисията и другите компетентни институции да работят в тясно сътрудничество с изследователи, представляващи различни дисциплини, за да идентифицират, подкрепят и мобилизират възможните положителни ефекти от иновативните употреби на ИИ, да проучат, предотвратят и смекчат потенциалните вредни последици от злонамерено или небрежно използване на ИИ, както и да разработят инструменти, политики и норми, подходящи за гарантиране на етичното управление на приложенията на ИИ; подчертава необходимостта от разработване на програми за обмен на знания, включително трансгранични програми, и от улесняване на съвместното разработване на стратегии между организациите на гражданското общество; отбелязва, че следва да се идентифицират най-добрите практики в областите на научните изследвания с по-зрели методи за разглеждане на въпроси, свързани с двойната употреба, като например сигурността и неприкосновеността на личния живот, и че те следва да се прилагат в областта на ИИ;

2.  подчертава факта, че злонамереното или небрежно използване на ИИ би могло да застраши цифровата сигурност, физическата, както и обществената безопасност, тъй като би могло да се използва за извършване на мащабни, целенасочени и високоефективни атаки срещу услуги на информационното общество и свързани машини, както и за кампании за дезинформация, и по принцип уронва правото на хората на самоопределение; подчертава, че злонамереното или небрежно използване на ИИ може също да представлява риск за демокрацията и основните права;

3.  подчертава, че правото на зачитане на личния живот и защитата на личните данни, залегнали в членове 7 и 8 от Хартата на основните права и в член 16 от Договора за функционирането на Европейския съюз (ДФЕС), се прилагат за всички области на роботиката и за всички други области, в които може да се използва ИИ, включително анализа на големи информационни масиви, машинното самообучение и интернет на нещата, и че правната рамка на Съюза за защита на данните трябва да бъде напълно спазена в областта на системите на ИИ; отново изразява своята подкрепа за „Плана за действие на Комисията в областта на финансовите технологии – за по-конкурентоспособен и иновативен европейски финансов сектор“, в който се подчертава ролята, която регулирането може да играе за улесняване на технологичните иновации и по-доброто разбиране на иновативните бизнес модели и развитието на пазара, като се позволи на регулаторните органи да упражняват надзор върху предприятията съгласно правната рамка на Съюза;

4.  призовава Комисията да гарантира, че всяка бъдеща регулаторна рамка на ЕС относно ИИ осигурява неприкосновеността на личния живот и поверителността на съобщенията, защитата на личните данни, включително принципите на законосъобразност, справедливост и прозрачност, защитата на данните още при проектирането и по подразбиране, ограничаването на целите, ограничаването на съхранението, точността и свеждането до минимум на данните, при пълно спазване на законодателството на Съюза за защита на данните, както и на сигурността, личната безопасност и други основни права, включително правото на свобода на изразяване на мнение и на информация; счита, че всяка бъдеща регулаторна рамка следва да се оценява редовно от Комисията, като се вземат предвид новите технологични развития;

5.  подчертава, че европейските стандарти за ИИ трябва да се основават на принципите на цифровата етика, човешкото достойнство, зачитането на основните права, защитата на данните и сигурността, като се цели тези принципи да са включени още при проектирането и по този начин се допринася за изграждането на доверие сред потребителите; подчертава значението на използването на потенциала на ЕС за създаване на силна инфраструктура за системи на ИИ, основаващи се на високи стандарти за защита на данните и уважение към хората; подчертава необходимостта от систематично инвестиране в развитието на необходимия бъдещ експертен опит, особено при обучението на изследователи, и от улесняване на споделянето на знания между различните дисциплини – включително приложната етика – специализирани в технологиите в областта на ИИ, роботиката и свързаните с тях области;

6.  призовава Комисията да заеме твърда позиция срещу разработването и използването на автономни оръжейни системи, захранвани от ИИ, във всяка рамка на ЕС;

7.  приветства инициативата на Комисията за създаване на Европейския алианс за ИИ, който ще има за задача разработването на всеобхватни етични насоки за ИИ и политически препоръки; подчертава значението на активното участие в световните алианси и форуми в областта на ИИ, за да се даде възможност за обмен на знания и за цялостно разбиране на опасенията, свързани с неприкосновеността, прозрачността и сигурността на данните при разработването и внедряването на системи на ИИ; във връзка с това приветства работата на експертната група на високо равнище за изкуствения интелект (ЕГВР за ИИ), която служи за ръководна група за работата на Алианса за ИИ; призовава Комисията да гарантира участието на органите за защита на данните в тази група на високо равнище, да завърши работата по открит и прозрачен начин и да публикува насоките; освен това приканва Комисията да продължи да работи за подход към ИИ на равнището на ЕС, който да бъде насочен към човека и да се управлява от човека, както и активно да насърчава високите стандарти на ЕС в областта на ИИ на международно равнище;

8.  подчертава, че всяка система на ИИ трябва да бъде разработена при зачитане на принципите на прозрачност и на алгоритмичната отчетност, които дават възможност за разбиране на нейните действия от страна на хората; отбелязва, че за да се изгради доверие в ИИ и да се даде възможност за неговото развитие, потребителите трябва да знаят как се използват техните данни, както и други данни и данни, изведени от техни данни, и кога общуват или взаимодействат със система на ИИ или с хора, подпомагани от система на ИИ; счита, че това ще допринесе за по-добро разбиране и доверие сред потребителите; подчертава, че разбираемостта на решенията трябва да бъде стандарт на ЕС в съответствие с членове 13, 14 и 15 от ОРЗД; припомня, че ОРЗД предвижда право на информиране относно логиката, използвана при обработката на данни; подчертава, че съгласно член 22 от ОРЗД физическите лица имат право да получат човешка намеса, когато решение, основано на автоматизирана обработка, ги засяга в значителна степен;

9.  подчертава, че Комисията, Европейският комитет по защита на данните, националните органи по защита на данните и други независими надзорни органи следва да изпълняват оттук нататък решаваща роля, за да се насърчава прозрачността, справедливият процес, правната сигурност като цяло и по-специфично конкретните стандарти за защита на основните права и гаранциите, свързани с обработката и анализа на данни; призовава за по-тясно сътрудничество между органите, отговарящи за надзора и регулирането на поведението в цифровата среда; призовава за адекватно финансиране и осигуряване на персонал за подобни органи;

10.  подчертава значението на борбата с предубежденията по отношение на разработчиците, а оттам и на необходимостта от разнородна работна сила във всички клонове на сектора на ИТ, както и на предпазните механизми, за да се избягват предубеждения, основани на пол и възраст и интегрирани в системите на ИИ;

11.  подчертава значението на създаването на регулаторна рамка за контрол на алгоритмите и тяхното въздействие, включително, следователно, възможността за ангажиране на независими одитори за алгоритми (или дори надзорни органи за софтуер, или регулатор, който да може да разследва автоматизирани решения на ИИ);

12.  подчертава значението на качеството и точността, както и представителния характер на данните, използвани при разработването и внедряването на алгоритми, тъй като техният стандарт се основава на данните, използвани за тяхното обучение; посочва, че дори висококачествени данни за обучение могат да доведат до увековечаване на съществуващата дискриминация и несправедливост, когато не се използват внимателно и съзнателно; отбелязва, че използването на нискокачествени, остарели, непълни или неточни данни на различни етапи от обработката на данни може да доведе до лоши прогнози и оценки и от своя страна – до предубеждения, които в крайна сметка могат да доведат до нарушаване на основните права на отделни лица или до напълно неточни заключения или неверни резултати; поради това счита, че е важно в ерата на големите информационни масиви да се гарантира, че алгоритмите са обучавани на представителни извадки от висококачествени данни с цел постигане на статистическо изравняване; подчертава, че дори ако се използват точни висококачествени данни, прогнозният анализ, основан на ИИ, може да предложи само статистическа вероятност; припомня, че съгласно ОРЗД допълнителното обработване на лични данни за статистически цели, включително за обучение на ИИ, може да води само до обобщени данни, които не могат да бъдат повторно приложени към отделни хора;

13.  призовава Комисията, държавите членки и органите за защита на данните да установяват алгоритмичната дискриминация и предубеждения и да вземат всички възможни мерки да ги предотвратят или сведат до минимум, и да разработят силна обща етична рамка за прозрачната обработката на лични данни и автоматизираното вземане на решения, която да може да направлява използването на данни и прилагането на правото на Съюза;

14.  подчертава, че макар да насърчават напредъка в полза на обществото и околната среда, научните изследвания в областта на ИИ и други свързани дейности следва да се извършват в съответствие с принципа на предпазните мерки и основните права; подчертава, че всеки, който участва в разработването, прилагането, разпространението и използването на ИИ, следва да взема предвид и да зачита човешкото достойнство, както и самоопределянето и благосъстоянието – както във физически, така и психологически план – на индивида и на обществото като цяло, да предвижда потенциалните въздействия върху безопасността и да взема надлежни предпазни мерки, пропорционални на нивото на защита, включително бързото оповестяване на факторите, които могат да застрашат обществеността или околната среда; подчертава необходимостта от координиран подход, за да се гарантира, че често се извършват основани на риска оценки на системите на ИИ и техните компоненти; подчертава значението на разработването и прилагането на всеобхватен набор от правила за одит и насоки за разработването и внедряването на системи на ИИ, както и на механизми за безопасност и сигнализиране, насочени към смекчаване на рисковете от нарушения;

15.  подчертава, че за цялостни стратегии в областта на ИИ и роботиката следва да се прилагат следните принципи:

а) Роботите и изкуственият интелект са инструменти с множество употреби. Роботите и изкуственият интелект не следва да бъдат проектирани изключително или предимно да причиняват смърт или вреда на човешки същества. Личните права и основните свободи трябва да бъдат гарантирани, по-специално човешката цялост (физическа и психическа), човешкото достойнство и идентичност. Подчертава се върховенството на човешкото същество над научния и обществения интерес;

б) Човешките същества са отговорни участници. Законодателите следва да гарантират, че новите технологии са съобразени с действащите закони и основните права;

в) Роботите и изкуственият интелект са продукти и следва да бъдат проектирани да бъдат безопасни, сигурни и подходящи за целта, подобно на останалите продукти;

г) Роботите и изкуственият интелект са производствени артефакти. Те не следва да бъдат проектирани по измамен начин за експлоатиране на уязвими потребители; напротив, тяхната същност на машини следва да е ясно видима;

д) Всеки робот или система на изкуствен интелект следва да бъдат свързани с лице, което носи правната отговорност. В случай на груба небрежност по отношение на безопасността и сигурността производителите следва да носят отговорност дори когато в споразуменията с ползвателите са включени клаузи за освобождаване от отговорност;

16.  подчертава необходимостта от включване на обществеността в процеса на разработване на ИИ; поради това призовава Комисията да публикува всички алгоритми, инструменти и технологии, финансирани или съфинансирани от обществеността като отворен код;

17.  подчертава, че когато възникват рискове като неизбежна и неразделна част от научните изследвания на ИИ, следва да се разработват и спазват строги протоколи за оценка и управление на риска, като се има предвид, че рискът от вреда не трябва да е по-голям от този, който се среща в нормалния живот (т.е. хората не могат да бъдат изложени на рискове, по-големи от или допълнителни спрямо тези, на които са изложени при обичайния си начин на живот).

ИНФОРМАЦИЯ ОТНОСНО ПРИЕМАНЕТО В ПОДПОМАГАЩАТА КОМИСИЯ

Дата на приемане

10.12.2018

 

 

 

Резултат от окончателното гласуване

+:

–:

0:

30

0

1

Членове, присъствали на окончателното гласуване

Martina Anderson, Monika Beňová, Michał Boni, Cornelia Ernst, Romeo Franz, Nathalie Griesbeck, Jussi Halla-aho, Monika Hohlmeier, Sophia in ‘t Veld, Dietmar Köster, Juan Fernando López Aguilar, Roberta Metsola, Claude Moraes, Péter Niedermüller, Ivari Padar, Giancarlo Scottà, Birgit Sippel, Csaba Sógor, Helga Stevens, Bodil Valero, Harald Vilimsky, Josef Weidenholzer

Заместници, присъствали на окончателното гласуване

Marek Jurek, Jean Lambert, Angelika Mlinar, Maite Pagazaurtundúa Ruiz, Barbara Spinelli, Axel Voss

Заместници (чл. 200, пар. 2), присъствали на окончателното гласуване

Lucy Anderson, Margrete Auken, Anthea McIntyre

ПОИМЕННО ОКОНЧАТЕЛНО ГЛАСУВАНЕ В ПОДПОМАГАЩАТА КОМИСИЯ

30

+

ALDE

Nathalie Griesbeck, Sophia in ‘t Veld, Angelika Mlinar, Maite Pagazaurtundúa Ruiz

ECR

Jussi Halla-aho, Marek Jurek, Anthea McIntyre, Helga Stevens

ENF

Giancarlo Scottà

GUE/NGL

Martina Anderson, Cornelia Ernst, Barbara Spinelli

PPE

Michał Boni, Monika Hohlmeier, Roberta Metsola, Csaba Sógor, Axel Voss

S&D

Lucy Anderson, Monika Beňová, Dietmar Köster, Juan Fernando López Aguilar, Claude Moraes, Péter Niedermüller, Ivari Padar, Birgit Sippel, Josef Weidenholzer

VERTS/ALE

Margrete Auken, Romeo Franz, Jean Lambert, Bodil Valero

0

-

 

 

1

0

ENF

Harald Vilimsky

Легенда на използваните знаци:

+  :  „за“

-  :  „против“

0  :  „въздържал се“

(1)

Приети текстове, P8_TA(2017)0051.


СТАНОВИЩЕ на комисията по околна среда, обществено здраве и безопасност на храните (21.11.2018)

на вниманието на комисията по промишленост, изследвания и енергетика

относно всеобхватна европейска промишлена политика в областта на изкуствения интелект и роботиката

(2018/2088(INI))

Докладчик: Болеслав Г. Пеха

ПРЕДЛОЖЕНИЯ

Комисията по околна среда, обществено здраве и безопасност на храните приканва водещата комисия по промишленост, изследвания и енергетика да включи в предложението за резолюция, което ще приеме, следните предложения:

А.  като има предвид, че изкуственият интелект (ИИ) ще се превърне в технологична, икономическа, социална и психологическа революция с очевидни етически последици не само в Европа, но и в целия свят;

Б.  като има предвид, че нарастващата интеграция на роботиката в човешките системи изисква сериозни политически насоки за това как да се увеличат максимално ползите и да се сведат до минимум рисковете за обществото и да се гарантира безопасно и справедливо развитие на изкуствения интелект;

В.  като има предвид, че пазарната зрялост на изкуствения интелект представлява етически и морално най-голямата революция от времето на парния двигател и компютъра, която трябва да се обсъди задълбочено на социално равнище;

Г.  като има предвид, че в индустрията и услугите, свързани с високите технологии, ИИ е ключът към превръщането на Европа в „стартиращ континент“ чрез използване на най-новите технологии за генериране на растеж в Европа, по-специално в областта на здравните технологии, здравните услуги и програми, откриването на лекарства, роботизираната и подпомаганата от роботи хирургия, лекуването на хроничните заболявания и медицинските системи за образна диагностика и документация, както и осигуряване на устойчива околна среда и безопасно производство на храни; като има предвид, че понастоящем Европа изостава от Северна Америка и Азия от гледна точка на научните изследвания и на патентоването в областта на изкуствения интелект;

Д.  като има предвид, че развитието на технологиите в областта на ИИ може да спомогне за подобряване на живота на хората с хронични заболявания и с увреждания и за справяне със социални предизвикателства от рода на застаряването на нашето население, като направи здравните технологии по-прецизни и ефективни при предоставянето на здравно обслужване;

Е.  като има предвид, че съществува широк спектър от възможни приложения на ИИ и на роботиката в областта на медицинските грижи, например: управление на медицинска документация и данни, извършване на повтарящи се действия (анализиране на тестове, рентгенови снимки, компютърна томография, въвеждане на данни), проектиране на лечението, цифрови консултации (като медицински консултации, основани на личната медицинска история и общи медицински знания), виртуални медицински сестри, управление на употребата на лекарства, създаване на лекарства, прецизна медицина (тъй като генетиката и геномиката търсят мутации и връзки с болестта от информацията в ДНК), здравно наблюдение, анализ на системата на здравеопазването и т.н.

Ж.  като има предвид, че достъпността не означава еднакви услуги и уреди за всички; като има предвид, че достъпността на ИИ и роботиката се основава на приобщаващо планиране и проектиране; като има предвид, че нуждите, желанията и опитът на потребителите трябва да бъдат отправна точка за проектирането;

З.  като има предвид, че съществуват силни етически, психологически и законови опасения относно автономността на роботите, очевидната им липса на човешка емпатия и въздействието им върху връзката между лекаря и пациента, които все още не са разгледани по подходящ начин на равнище ЕС, по-специално по отношение на защитата на личните данни на пациентите, отговорността и новите икономически и трудови правоотношения, които ще възникнат; като има предвид, че „автономността“ като такава може да бъде характерна само за човешки същества; като има предвид, че съществува необходимост от солидна законова и етическа рамка за изкуствения интелект;

И.  като има предвид, че въвеждането на изкуствения интелект особено в областта на здравеопазването винаги трябва да се основава на принципа на отговорност „човекът управлява машината“;

Й.  като има предвид, че рисковете от ИИ не са били достатъчно проучени;

1.  подчертава, че всеки революционен технологичен напредък, особено в областта на ИИ и роботиката, следва да служи на човешкото благополучие;

2.  подчертава, че системите на ИИ и роботите са новаторски технологични средства за подобряване на живота на хората, за растеж на икономиката и за справяне с предизвикателствата, свързани със здравеопазването, околната среда, изменението на климата и безопасността на храните, както и с много други аспекти, като човешкият фактор винаги е бил отговорен за тяхното използване;

3.  призовава Комисията и държавите членки да изготвят цялостен всеобхватен план за действие на ЕС, насочен към създаването на европейска „екосистема за изкуствен интелект“, за да се използват пълноценно възможностите за социално и икономическо развитие, като същевременно се обърне сериозно внимание на въпросите, свързани с безопасността, сигурността, предотвратяването на вредите и ограничаването на рисковете, моралната отговорност на човека, управлението и регулирането на ИИ и роботите, екологичната устойчивост и изхвърлянето на изделията в областта на ИИ(1); подчертава, че тази „екосистема“ следва да бъде отворена за нуждите на много малките предприятия (ММП) и на малките и средните предприятия (МСП) и да бъде създадена съвместно с всички съответни заинтересовани страни, по-специално групите от пациенти, но и да отчита опасенията на други групи, като социалните сдружения, църквите и философските факултети;

4.  следва да се обърне специално внимание на използването на „големи информационни масиви“ в здравеопазването, с цел да се увеличат максимално възможностите, които те могат да създадат – например подобряване на здравето на отделните пациенти, както и на резултатността на системите за обществено здравеопазване на държавите членки, – без да се занижават етическите стандарти и без да се застрашава неприкосновеността на личния живот или безопасността на гражданите;

5.  строго предупреждава срещу всеки опит за оборудване на машини, използващи изкуствен интелект, с някакъв вид „личност“, като по този начин се освобождават от отговорност производителите и хората, които боравят с тях;

6.  подчертава обаче, че съществуващата система за одобрение на медицинските изделия може да не е подходяща за технологиите в областта на ИИ; призовава Комисията да следи отблизо напредъка по тези технологии и при необходимост да предложи промени в регулаторната рамка, за да установи рамката за определяне на съответната отговорност на потребителя (лекар/специалист), производителя на технологичното решение и здравното заведение, което предлага лечението; подчертава, че правната отговорност за причинени вреди е основен проблем в сектора на здравеопазването, когато се отнася за използването на ИИ; подчертава необходимостта следователно да се гарантира, че ползвателите няма да бъдат принудени неизменно да подкрепят диагностичното решение или лечение, предложено от технологичен инструмент, от страх да не бъдат съдени за вреди, ако въз основа на професионалната си преценка те трябва да стигнат до заключения, които се разминават дори частично;

7.  призовава Комисията и държавите членки да отпускат повече финансови средства за научните изследвания в областта на ИИ и роботиката и да насърчават експертите и европейските и неевропейските дружества в областта на ИИ да създават новаторски работни места, за да се подобрят научните изследвания по въпросите на общественото здраве; счита обаче, че една цялостна стратегия за заетостта трябва да върви ръка за ръка с напредъка на ИИ в контекста на професионалното здравеопазване;

8.  призовава Комисията и държавите членки да насърчават таланта в областта на изкуствения интелект и роботиката чрез предприемане на практически мерки (например създаване на инкубатори и подпомагане на стартиращи предприятия), за да се увеличи броят на обучения персонал, като се обръща специално внимание на присъствието на жените и да се привлекат студенти от други дисциплини;

9.  призовава Съвета и Комисията да предприемат всички необходими законови мерки, за да забранят методите на евтаназия и подбор чрез увеличаване на използването на оптимизиращи интерфейси човек-машина в човешкото тяло;

10.  призовава Комисията да разреши достъп до безвъзмездни средства по рамковите програми на ЕС и други форми на финансиране за научните изследвания в областта на ИИ;

11.  призовава Комисията и държавите членки да изготвят амбициозни планове, насочени към привличане на ключови заинтересовани страни и основни участници от областта на информационните технологии, математиката, физиката, медицинските информационни технологии, клиничната психология, биоинженерството и фармацевтиката към центрове от отворен тип за биомедицински и бионични изследвания в сферата на ИИ в цяла Европа. призовава обаче Комисията и държавите членки да поемат сериозно рисковете от ИИ (например въздействието им върху връзката между лекаря и пациента и дехуманизацията на медицинските грижи) и да подкрепят изследванията на рисковете и етичните опасения, свързани с ИИ, които биха могли да помогнат да се определи дали и при какви условия може да се счита за подходящо използването на дадено технологично решение и в съответствие с основните принципи на човешко достойнство и равенство и следователно биха могли да бъдат разрешени;

12.  призовава държавите членки и Комисията да увеличат финансирането за свързаните със здравето технологии в областта на ИИ в публичния и в частния сектор; приветства във връзка с това декларацията за сътрудничество, подписана от 24 държави – членки на ЕС, и Норвегия с цел да се увеличи въздействието на инвестициите в ИИ на европейско равнище; призовава държавите членки и Комисията да обмислят дали програмите за обучение на медицинския и здравния персонал следва да бъдат актуализирани и стандартизирани навсякъде в Европа, за да се гарантират високи равнища на експертен опит и равнопоставеност в държавите членки по отношение на знанието и използването на най-съвременни технологични инструменти в областта на роботизираната хирургия, биомедицината и основаната на изкуствения интелект образна диагностика в биомедицината;

ИНФОРМАЦИЯ ОТНОСНО ПРИЕМАНЕТО В ПОДПОМАГАЩАТА КОМИСИЯ

Дата на приемане

20.11.2018

 

 

 

Резултат от окончателното гласуване

+:

–:

0:

48

2

0

Членове, присъствали на окончателното гласуване

Marco Affronte, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Biljana Borzan, Paul Brannen, Nessa Childers, Birgit Collin-Langen, Seb Dance, Mark Demesmaeker, Bas Eickhout, Francesc Gambús, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Benedek Jávor, Karin Kadenbach, Urszula Krupa, Giovanni La Via, Jo Leinen, Peter Liese, Valentinas Mazuronis, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Gilles Pargneaux, Bolesław G.

Заместници, присъствали на окончателното гласуване

Cristian-Silviu Buşoi, Nicola Caputo, Michel Dantin, Martin Häusling, Esther Herranz García, Gesine Meissner, Tilly Metz, Ulrike Müller, Sirpa Pietikäinen, Carlos Zorrinho

Заместници (чл. 200, пар. 2), присъствали на окончателното гласуване

Mercedes Bresso, Innocenzo Leontini, Olle Ludvigsson, Ana Miranda

ПОИМЕННО ОКОНЧАТЕЛНО ГЛАСУВАНЕ В ПОДПОМАГАЩАТА КОМИСИЯ

48

+

ALDE

Catherine Bearder, Gerben Jan Gerbrandy, Valentinas Mazuronis, Gesine Meissner, Ulrike Müller, Frédérique Ries

ECR 

Mark Demesmaeker, Urszula Krupa, Bolesław G. Piecha, John Procter, Jadwiga Wiśniewska

EFDD

Sylvie Goddyn

NI

Zoltán Balczó

PPE

Pilar Ayuso, Ivo Belet, Cristian‑Silviu Buşoi, Birgit Collin‑Langen, Michel Dantin, Francesc Gambús, Jens Gieseke, Françoise Grossetête, Esther Herranz García, Giovanni La Via, Innocenzo Leontini, Peter Liese, Miroslav Mikolášik, Sirpa Pietikäinen, Annie Schreijer‑Pierik, Adina‑Ioana Vălean

S&D

Biljana Borzan, Paul Brannen, Mercedes Bresso, Nicola Caputo, Nessa Childers, Seb Dance, Karin Kadenbach, Jo Leinen, Olle Ludvigsson, Susanne Melior, Massimo Paolucci, Gilles Pargneaux, Carlos Zorrinho

VERTS/ALE

Marco Affronte, Bas Eickhout, Martin Häusling, Benedek Jávor, Tilly Metz, Ana Miranda

2

-

EFDD

Julia Reid

PPE

Julie Girling

0

0

 

 

Легенда на използваните знаци:

+  :  „за“

-  :  „против“

0  :  „въздържал се“

(1)

Вж. по-специално изявлението на Европейската група за етика в науката и новите технологии относно изкуствения интелект, роботиката и автономните системи от март 2018 г.


ИНФОРМАЦИЯ ОТНОСНО ПРИЕМАНЕТО ВЪВ ВОДЕЩАТА КОМИСИЯ

Дата на приемане

14.1.2019

 

 

 

Резултат от окончателното гласуване

+:

–:

0:

49

1

4

Членове, присъствали на окончателното гласуване

Bendt Bendtsen, Jonathan Bullock, Cristian-Silviu Buşoi, Jerzy Buzek, Edward Czesak, Jakop Dalunde, Fredrick Federley, Ashley Fox, Igor Gräzin, Theresa Griffin, András Gyürk, Rebecca Harms, Eva Kaili, Barbara Kappel, Seán Kelly, Jeppe Kofod, Jaromír Kohlíček, Peter Kouroumbashev, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Christelle Lechevalier, Paloma López Bermejo, Edouard Martin, Tilly Metz, Angelika Mlinar, Csaba Molnár, Nadine Morano, Angelika Niebler, Morten Helveg Petersen, Miroslav Poche, Carolina Punset, Julia Reda, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Neoklis Sylikiotis, Patrizia Toia, Evžen Tošenovský, Vladimir Urutchev, Kathleen Van Brempt, Henna Virkkunen, Flavio Zanonato, Carlos Zorrinho

Заместници, присъствали на окончателното гласуване

Pilar Ayuso, Michał Boni, Gunnar Hökmark, Rupert Matthews, Clare Moody, Caroline Nagtegaal, Răzvan Popa, Dennis Radtke, Giancarlo Scottà, Davor Škrlec


ПОИМЕННО ОКОНЧАТЕЛНО ГЛАСУВАНЕ ВЪВ ВОДЕЩАТА КОМИСИЯ

49

+

ALDE

Fredrick Federley, Igor Gräzin, Angelika Mlinar, Caroline Nagtegaal, Morten Helveg Petersen, Carolina Punset

ECR

Edward Czesak, Ashley Fox, Zdzisław Krasnodębski, Rupert Matthews, Evžen Tošenovský

ENF

Barbara Kappel, Christelle Lechevalier, Giancarlo Scottà

PPE

Pilar Ayuso, Bendt Bendtsen, Michał Boni, Cristian-Silviu Buşoi, Jerzy Buzek, András Gyürk, Gunnar Hökmark, Seán Kelly, Nadine Morano, Angelika Niebler, Dennis Radtke, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Vladimir Urutchev, Henna Virkkunen

S&D

Theresa Griffin, Eva Kaili, Jeppe Kofod, Peter Kouroumbashev, Miapetra Kumpula-Natri, Csaba Molnár, Clare Moody, Miroslav Poche, Răzvan Popa, Patrizia Toia, Kathleen Van Brempt, Flavio Zanonato, Carlos Zorrinho

VERTS/ALE

Jakop Dalunde, Rebecca Harms, Tilly Metz, Julia Reda, Davor Škrlec

1

-

EFDD

Jonathan Bullock

4

0

GUE/NGL

Jaromír Kohlíček, Paloma López Bermejo, Neoklis Sylikiotis

S&D

Edouard Martin

Легенда на използваните знаци:

+  :  „за“

-  :  „против“

0  :  „въздържал се“

Последно осъвременяване: 8 февруари 2019 г.Правна информация