Показалец 
 Назад 
 Напред 
 Пълен текст 
Процедура : 2015/2103(INL)
Етапи на разглеждане в заседание
Етапи на разглеждане на документа : A8-0005/2017

Внесени текстове :

A8-0005/2017

Разисквания :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Гласувания :

PV 16/02/2017 - 6.9
Обяснение на вота

Приети текстове :

P8_TA(2017)0051

Приети текстове
PDF 678kWORD 89k
Четвъртък, 16 февруари 2017 г. - Страсбург Окончателна версия
Гражданскоправни норми за роботиката
P8_TA(2017)0051A8-0005/2017
Резолюция
 Приложение

Резолюция на Европейския парламент от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката (2015/2103(INL))

Европейският парламент,

—  като взе предвид член 225 от Договора за функционирането на Европейския съюз,

—  като взе предвид Директива 85/374/ЕИО на Съвета(1),

—  като взе предвид проучването относно етичните аспекти на кибер-физическите системи, извършено от името на комитета за STOA към Парламента под ръководството на Отдела за научни прогнози (STOA), Генерална дирекция за парламентарни изследвания,

—  като взе предвид членове 46 и 52 от своя правилник,

—  като взе предвид доклада на комисията по правни въпроси и становищата на комисията по транспорт и туризъм, комисията по граждански свободи, правосъдие и вътрешни работи, комисията по заетост и социални въпроси, комисията по околна среда, обществено здраве и безопасност на храните, комисията по промишленост, изследвания и енергетика, както и на комисията по вътрешния пазар и защита на потребителите (A8-0005/2017),

Въведение

A.  като има предвид, че от чудовището в произведението на Мери Шели „Франкенщайн“, класическия мит за Пигмалион и историята за Пражкия голем до робота на Карел Чапек, който всъщност създава термина, хората фантазират относно възможността за създаване на интелигентни машини, най-често човекоподобни роботи с човешки характеристики;

Б.  като има предвид, че в настоящия момент, когато човечеството е на прага на ера, в която все по-усъвършенствани роботи, андроиди и други прояви на изкуствен интелект изглеждат в състояние да отприщят нова индустриална революция, която вероятно няма да остави незасегнат нито един слой от обществото, е изключително важно законодателят да прецени нейните правни и етични последици, без да задушава иновациите;

В.  като има предвид, че е необходимо да се създаде общоприето определение за „робот“ и „изкуствен интелект“, което да е гъвкаво и да не възпрепятства иновациите;

Г.  като има предвид, че в периода 2010—2014 г. средното увеличение в продажбите на роботи е 17% годишно, а през 2014 г. продажбите са се увеличили с 29%, най-голямото годишно увеличение досега, като доставчиците на автомобилни части и електрическата/електронната промишленост са основните двигатели на растежа; като има предвид, че годишните заявки за патенти за свързани с роботиката технологии са се увеличили тройно през последното десетилетие;

Д.  като има предвид, че през последните 200 години показателите за заетостта постоянно са се повишавали благодарение на технологичното развитие; като има предвид, че развитието на роботиката и изкуствения интелект маже да има потенциала да трансформира живота и работните практики, да повиши равнищата на ефективност, икономии и безопасност, да предостави подобрено ниво на услугите; като има предвид, че в краткосрочен до средносрочен план роботиката и изкуственият интелект обещават да донесат ползи чрез ефективност и икономии – не само в производството и търговията, но също така и в области като транспорт, медицински грижи, спасяване, образование и селско стопанство, като същевременно позволяват да се избегне излагането на човека на опасни условия, като например при почистването на токсично замърсени обекти;

Е.  като има предвид, че застаряването е резултат от увеличената продължителност на живота, която се дължи на напредъка в условията на живот и в съвременната медицина, и е едно от най-големите политически, социални и икономически предизвикателства на 21-ви век за европейските общества; като има предвид, че до 2025 г. над 20% от европейците ще бъдат на възраст 65 г. или повече, с особено бързо увеличение в броя на над 80-годишните, което ще промени из основи баланса между поколенията в нашите общества, и като има предвид, че е в интерес на обществото по-възрастните хора да запазят добро здравословно състояние и активност възможно най-дълго време;

Ж.  като има предвид, че в дългосрочен план настоящата тенденция клони към разработването на интелигентни и автономни машини, способни да бъдат обучавани и да вземат решения независимо, което е свързано не само с икономическо предимство, но и с редица съображения по отношение на техния пряк и непряк ефект върху обществото като цяло;

З.  като има предвид, че обучението на машините предлага огромни икономически и иновативни ползи за обществото, като спомага за значително подобряване на способността за анализиране на данни, и същевременно повишава предизвикателствата да се гарантира недопускане на дискриминация, справедлив съдебен процес, прозрачност и разбираемост в процесите на вземане на решения;

И.  като има предвид, че по същия начин е необходимо да се извърши оценка на икономическите промени и на въздействието върху заетостта в резултат на роботиката и обучението на машините; като има предвид, че въпреки неоспоримите предимства, дължащи се на роботиката, нейното прилагане може да доведе до преобразуване на пазара на труда и до необходимост от съответно обмисляне на бъдещето на образованието, заетостта и социалните политики;

Й.  като има предвид, че широкоразпространеното използване на роботи може да не доведе автоматично до заместване на работните места от тях, но е вероятно нискоквалифицираните работни места в трудоемките сектори да се окажат по-уязвими към автоматизацията; като има предвид, че тази тенденция би могла да върне производствените процеси обратно в ЕС; като има предвид, че научните изследвания показват, че заетостта нараства значително по-бързо в професии, в които повече се използват компютри; като има предвид, че автоматизацията на работните места има потенциала да освободи хората от ръчния монотонен труд, като им позволи да се насочат към изпълнение на по-творчески и смислени задачи; като има предвид, че автоматизацията изисква от правителствата да инвестират в образованието и в други реформи с цел подобряване на преразпределянето на видовете умения, от които ще се нуждаят работниците на бъдещето;

К.  като има предвид, че в условията на нарастващо разделение в общество, при което средната класа намалява, е важно да се има предвид, че развитието на роботиката може да доведе до висока концентрация на богатство и влияние в ръцете на малко на брой хора;

Л.  като има предвид, че развитието на роботиката и изкуствения интелект определено ще окаже влияние върху облика на работното място, което може да създаде нови опасения във връзка с отговорността и да премахне други; като има предвид, че правната отговорност трябва да бъде разяснена както от гледна точка на бизнес модела, така и на модела за състава на работниците, в случай на възникване на извънредни ситуации или проблеми;

М.  като има предвид, че тенденцията към автоматизация изисква от тези, които участват в разработването и предлагането на пазара на приложения за изкуствен интелект, да установят безопасност и етика още в началото, признавайки по този начин задължението си да са подготвени да поемат правна отговорност за качеството на технологията, която произвеждат;

Н.  като има предвид, че Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета(2) (Общ регламент относно защитата на данните) установява правна рамка за защита на личните данни; като има предвид, че може да бъде необходимо да се разгледат и някои допълнителни аспекти на достъпа до данни и защитата на личните данни и неприкосновеността на личния живот, с оглед на това, че могат да възникнат опасения относно неприкосновеността на личния живот поради приложенията и уредите, които комуникират помежду си и с бази данни без човешка намеса;

О.  като има предвид, че развитието в областта на роботиката и изкуствения интелект може и следва да бъде проектирано по начин, по който да се запази достойнството, автономността и самоопределянето на отделното лице, особено в областта на човешките грижи и човешката компания, както и в контекста на медицинските уреди, „поправянето“ или усъвършенстването на човешки същества;

П.  като има предвид, че в крайна сметка е възможно в дългосрочен план изкуственият интелект да надхвърли човешкия интелектуален капацитет;

Р.  като има предвид, че развитието и повишеното използване на автоматизирано и основано на алгоритъм вземане на решения несъмнено оказва въздействие върху избора, който дадено частно лице (например предприятие или потребител на интернет) и административен, съдебен или друг публичен орган прави при вземането на окончателното си решение от потребителски, бизнес или управленски характер; като има предвид, че е необходимо в процеса на автоматизирано и основано на алгоритъм вземане на решения да бъдат въведени предпазни мерки и възможност за осъществяване на човешки контрол и проверка;

С.  като има предвид, че няколко чуждестранни юрисдикции като САЩ, Япония, Китай и Южна Корея обмислят възможността и до известна степен вече са предприели регулаторни действия по отношение на роботиката и изкуствения интелект, и като има предвид, че някои държави членки също са започнали да обмислят евентуалното изготвяне на правни стандарти или извършване на законодателни промени, за да се вземат предвид нововъзникващите приложения на тези технологии;

Т.  като има предвид, че европейската промишленост би могла да се възползва от един ефективен, последователен и прозрачен подход към регулирането на равнището на Съюза, предоставящ предвидими и достатъчно ясни условия, при които предприятията биха могли да разработват приложения и да планират своите бизнес модели в европейски мащаб, като се гарантира, че Съюзът и неговите държави членки запазват контрол върху регулаторните стандарти, които предстои да бъдат определени, така че да не бъдат принудени да възприемат и да живеят със стандартите, установени от други, трети държави, които също са в челните редици на развитието на роботиката и изкуствения интелект;

Общи принципи

У.  като има предвид, че законите на Азимов(3) трябва да се считат за насочени към проектантите, производителите и операторите на роботи, включително роботите с вградена автономност и възможност за самообучение, тъй като тези закони не могат да бъдат преобразувани в машинен код;

Ф.  като има предвид, че са необходими редица полезни правила, уреждащи по-специално отговорността, прозрачността и отчетността и отразяващи съществените европейски и универсални хуманистични ценности, които характеризират европейския принос към обществото; като има предвид, че тези правила не трябва засягат процеса на научни изследвания, иновации и развитие в областта на роботиката;

Х.  като има предвид, че Съюзът може да играе съществена роля в установяването на основни етични принципи, които трябва да бъдат спазвани при разработването, програмирането и използването на роботи и изкуствен интелект и при включването на тези принципи в нормативната уредба и кодексите за поведение на Съюза, с цел придаването на такъв вид на технологичната революция, че тя да служи на човечеството и ползите от напредналата роботика и изкуствения интелект да бъдат широко споделяни, като в същото време във възможно най-голяма степен се избягват потенциалните опасности;

Ц.  като има предвид, че към настоящата резолюция е приложена Харта относно роботиката, изготвена с подкрепата на Отдела за научни прогнози (STOA), Генерална дирекция за парламентарни изследвания, която предлага кодекс за етично поведение за инженерите в областта на роботиката, кодекс за комитетите по етика на научноизследователската дейност и лицензи за проектантите и ползвателите;

Ч.  като има предвид, че за Съюза следва да бъде възприет постепенен, прагматичен и предпазлив подход от типа, препоръчан от Жан Моне(4), по отношение на бъдещи инициативи в областта на роботиката и изкуствения интелект, така че да се гарантира, че не задушаваме иновациите;

Ш.  като има предвид, че е целесъобразно, с оглед на достигнатия етап в развитието на роботиката и изкуствения интелект, да се започне с въпросите за гражданската отговорност;

Отговорност

Щ.  като има предвид, че благодарение на впечатляващия технологичен напредък от последното десетилетие днешните роботи не само могат да извършват дейности, които преди са били типично и изключително човешки, но развитието на определени автономни и когнитивни характеристики – например способността да се учат от опита и да вземат полунезависими решения – все повече ги прави да приличат на участници, които взаимодействат със заобикалящата ги среда и са в състояние да я променят значително; като има предвид, че в този контекст правната отговорност, произтичаща от увреждащото действие на даден робот, се превръща във въпрос от изключително важно значение;

AA.  като има предвид, че автономността на робота може да се определи като способност за вземане на решения и за изпълняването им във външния свят, независимо от външен контрол или влияние; като има предвид, че тази автономност е от изцяло технологично естество и нейната степен зависи от това доколко усъвършенствано е проектирано да бъде взаимодействието на робота с околната среда;

АБ.  като има предвид, че колкото по-автономни са роботите, толкова по-малко те могат да бъдат считани за прости инструменти в ръцете на други участници (като например производители, оператори, собственици, ползватели и др.); като има предвид, че това на свой ред поставя въпроса дали обикновените правила за отговорността са достатъчни, или дали това изисква нови принципи и правила, с които да се внесе яснота относно правната отговорност на различните участници във връзка с отговорността за действията и пропуските на роботите, в случаите когато причината не може да бъде проследена назад до конкретен човешки участник, както и дали действията или пропуските на роботите, които са причинили вреда, е можело да бъдат избегнати;

АВ.  като има предвид, че в крайна сметка автономността на роботите поставя въпроса за тяхното естество в светлината на съществуващите правни категории или дали следва да се създаде нова категория, със собствени специфични характеристики и последици;

АГ.  като има предвид, че съгласно действащата правна рамка от роботите като такива не може да се търси отговорност за действия или бездействия, които вредят на трети страни; като има предвид, че съществуващите правила относно отговорността обхваща случаите, при които причината за действието или бездействието на робота може да бъде проследена до конкретен човешки фактор, като например производител, оператор, собственик или ползвател, и когато този фактор е можел да предвиди и избегне увреждащото поведение на робота; като има предвид освен това, че от производителите, операторите, собствениците или ползвателите може да се търси обективна отговорност за действия или бездействия на даден робот;

АД.  като има предвид, че според настоящата правна рамка отговорността за продукта – когато производителят на даден продукт е отговорен за неизправността – и правилата, на които се подчинява отговорността за увреждащо действие – когато потребителят на даден продукт е отговорен за поведение, което нанася вреда – се прилагат за вреди, причинени от роботи или изкуствен интелект;

АЕ.  като има предвид, че в ситуация, при която робот може да взема автономни решения, традиционните правила няма да са достатъчни, за да се задейства правната отговорност за причинени от робот вреди, тъй като те не биха позволили да се идентифицира лицето, което е отговорно за предоставяне на обезщетения, и да се изисква от това лице да отстрани вредите, които е причинило;

АЖ.  като има предвид, че недостатъците на сегашната правна рамка са очевидни в областта на договорната отговорност, доколкото машините, проектирани да избират своите контрагенти, да договарят условия, да сключват договори и да вземат решения дали и как да ги прилагат, правят неприложими традиционните правила; като има предвид, че това подчертава необходимостта от нови, ефективни и актуални правила, които следва да са в съответствие с технологичното развитие и възникналите наскоро и използвани на пазара иновации;

АЗ.  като има предвид, че що се отнася до извъндоговорната отговорност, Директива 85/374/ЕИО може да обхваща само вреди, причинени от производствени дефекти на даден робот, и при условие че увреденото лице е в състояние да докаже действителната вреда, дефекта на стоката и причинно-следствената връзка между дефекта и вредата, и че следователно рамката на обективната отговорност или отговорността без вина може да не е достатъчна;

АИ.  като има предвид, че независимо от обхвата на Директива 85/374/ЕИО, настоящата правна рамка не е достатъчна за покриване на вреди, причинени от новото поколение роботи, доколкото те могат да бъдат оборудвани със способности за приспособяване и за учене, водещи до определена степен на непредвидимост на действията им, тъй като тези роботи биха се учили самостоятелно от своя собствен променлив опит и биха взаимодействали със своята среда по уникален и непредвидим начин;

Общи принципи, отнасящи се до развитието на роботиката и изкуствения интелект за граждански цели

1.  призовава Комисията да предложи общи определения на Съюза за кибер-физическите системи, автономните системи, интелигентните автономни роботи и техните подкатегории, като вземе предвид следните характеристики на интелигентните роботи:

   придобиване на автономност посредством датчици и/или чрез обмен на данни с околната среда (взаимосвързаност) и обмен и анализ на тези данни;
   самообучение от придобития опит и чрез взаимодействие (незадължителен критерий);
   най-малко един несъществен физически носител;
   адаптиране на поведението и действията към околната среда;
   отсъствие на живот в биологичния смисъл на думата;

2.  счита, че на вътрешния пазар на Съюза следва да бъде въведена всеобхватна система на Съюза за регистрация на усъвършенстваните роботи, когато това е целесъобразно и необходимо за специфични категории роботи, и призовава Комисията да определи критерии за класификацията на роботите, които ще трябва да бъдат регистрирани; в този контекст призовава Комисията да проучи дали би било желателно системата за регистрация и регистърът да бъдат управлявани от специална агенция на ЕС за роботика и изкуствен интелект;

3.  подчертава, че разработването на технология за роботи следва да се съсредоточи върху допълването на човешките способности, а не заместването им; счита за съществено в развитието на роботиката и на изкуствения интелект да се гарантира, че във всеки момент човек може да упражнява контрол върху интелигентните машини; счита, че следва да се обърне специално внимание на възможното развитие на емоционална връзка между хората и роботите – особено при уязвимите групи (деца, възрастни хора и хора с увреждания), и подчертава въпросите, повдигнати от сериозното емоционално или физическо въздействие, което тази емоционална привързаност би могла да окаже върху хората;

4.  подчертава, че наличието на подход на равнището на Съюза може да улесни развитието, като се избягва раздробяването на вътрешния пазар, и в същото време изтъква важността на принципа на взаимно признаване при трансграничното използване на роботи и роботизирани системи; припомня, че изпитването, сертифицирането и одобрението за пускане на пазара следва да се изискват само в една държава членка; подчертава, че този подход следва да бъде придружаван от ефективно наблюдение на пазара;

5.  подчертава значението на мерките в помощ на малките и средните предприятия и стартиращите предприятия в сектора на роботиката, които създават нови пазарни сегменти в този сектор или използват роботи;

Научни изследвания и иновации

6.  подчертава, че много роботизирани приложения са все още в експериментална фаза; приветства факта, че все повече и повече изследователски проекти се финансират от държавите членки и Съюза; счита за съществено Съюзът, заедно с държавите членки чрез публичното финансиране, да продължи да бъде лидер в научните изследвания в областта на роботиката и изкуствения интелект; призовава Комисията и държавите членки да укрепят финансовите инструменти за изследователски проекти в областта на роботиката и ИКТ, включително публично-частни партньорства, и да приложат в своите изследователски политики принципите на отворената наука и отговорните етични иновации; подчертава, че е необходимо да се заделят достатъчно средства за търсене на решения на социалните, етичните, правните и икономическите предизвикателства, които поставят развитието на технологиите и техните приложения;

7.  призовава Комисията и държавите членки да насърчат научноизследователските програми, да стимулират изследването на възможните дългосрочни рискове и възможностите на технологиите в областта на роботиката и изкуствения интелект и да поставят началото на структуриран обществен диалог относно последиците от разработването на тези технологии възможно най-скоро; призовава Комисията да увеличи помощта си в средносрочния преглед на многогодишната финансова рамка за финансираната от „Хоризонт 2020“ програма SPARC; призовава Комисията и държавите членки да обединят усилията си, за да наблюдават внимателно и да гарантират по-плавен преход на тези технологии от научните изследвания до пускането и използването на пазара след подходящи оценки във връзка с безопасността в съответствие с принципа на предпазните мерки;

8.  изтъква, че иновациите в областта на роботиката и изкуствения интелект и интеграцията на роботиката и свързаните с изкуствения интелект технологии в рамките на икономиката и обществото изискват цифрова инфраструктура, която предоставя универсална свързаност; призовава Комисията да създаде рамка, която ще отговаря на изискванията за свързаност за цифровото бъдеще на Съюза, и да гарантира, че достъпът до широколентови и 5G мрежи е в пълно съответствие с принципа за мрежова неутралност;

9.  изразява твърдо убеждение, че оперативната съвместимост между системи, устройства и услуги за изчисления в облак въз основа на сигурността и неприкосновеността на личния живот още при проектирането е от съществено значение за потоците от данни в реално време, които дават възможност на роботите и на изкуствения интелект да станат по-гъвкави и автономни; призовава Комисията да насърчава създаването на отворена среда, от отворени стандарти и иновативни модели за лицензиране до открити платформи и прозрачност, за да се избегне зависимост в частни системи, които ограничават оперативната съвместимост;

Етични принципи

10.  отбелязва, че потенциалът за предоставяне на права чрез използване на роботиката има различни нюанси поради редица рискове или напрежение и следва да бъде сериозно оценен от гледна точка на човешката безопасност, здравето и сигурността; свободата, неприкосновеността на личния живот, интегритета и достойнството; самоопределянето и недопускането на дискриминация и защитата на личните данни;

11.  счита, че съществуващата правна уредба на Съюза следва да бъде актуализирана и допълнена, по целесъобразност, с ръководни етични принципи в съответствие със сложността на роботиката и нейните многобройни социални, медицински и биоетични последици; на мнение е, че е необходима ясна, строга и ефективна насочваща етична рамка за разработването, проектирането, производството, използването и модифицирането на роботи, която да допълва правните препоръки на доклада и съществуващите национални достижения и достижения на правото на Съюза; предлага, в приложението към резолюцията, рамка под формата на харта, която се състои от кодекс за поведение за инженерите в областта на роботиката, кодекс за комитетите по етика в научноизследователската дейност, когато те разглеждат протоколите относно роботиката, и образец на лицензи за проектантите и ползвателите;

12.  изтъква принципа на прозрачност, а именно че винаги следва да е възможно да се предостави обосновка за всяко решение, взето с помощта на изкуствен интелект, което може да окаже съществено въздействие върху живота на едно или повече лица; счита, че винаги трябва да е възможно изчисленията на системата на изкуствения интелект да се приведат в разбираема за хората форма; счита, че усъвършенстваните роботи следва да бъдат снабдени с „черна кутия“, записваща данните за всяка изпълнена от машината операция, включително логическите операции, които са помогнали за вземането на нейните решения;

13.  посочва, че насочващата етична рамка следва да се основава на принципите за действие в най-добрия интерес на ползвателите, непричиняване на вреди на ползвателите, автономност и справедливост, на принципите и ценностите, залегнали в член 2 от Договора за Европейския съюз и Хартата на основните права, като човешко достойнство, равенство, справедливост и равнопоставеност, недопускане на дискриминация, информирано съгласие, защита на личния и семейния живот и на данните, както и на другите основополагащи принципи и ценности на правото на Съюза, като недопускане на стигматизиране, прозрачност, автономност, индивидуална отговорност и социална отговорност, и на съществуващите етични практики и кодекси;

14.  счита, че следва да се обърне специално внимание на роботите, които представляват значителна опасност за поверителността в зависимост от позиционирането им в пространства, които са традиционно защитени и лични, и поради способността им да извличат и предават информация за лични и чувствителни данни;

Европейска агенция

15.  счита, че е необходимо засилено сътрудничество между държавите членки и Комисията, за да се гарантират съгласувани трансгранични правила в Съюза, насърчаващи сътрудничество между европейските индустрии и позволяващи разполагането в целия Съюз на роботи, които са в съответствие с изискваните равнища на безопасност и сигурност, както и с етичните принципи, залегнали в правото на Съюза;

16.  призовава Комисията да обмисли създаването на Европейска агенция за роботика и изкуствен интелект с цел предоставяне на технически, етичен и регулаторен експертен опит, необходим за подпомагане на съответните публични участници, както на равнището на Съюза, така и на равнището на държавите членки, в усилията им за гарантиране на своевременен, етичен и добре информиран отговор на новите възможности и предизвикателства, особено тези с трансгранично естество, произтичащи от технологичното развитие в областта на роботиката, като например в сектора на транспорта;

17.  счита, че потенциалът на използването на роботиката и свързаните с това проблеми, както и настоящата динамика на инвестициите обосновават предоставянето на Европейската агенция на подходящ бюджет и включването в личния ѝ състав на регулатори и външни технически експерти и експерти по въпросите на етиката, които да се занимават с междусекторно и мултидисциплинарно наблюдение на приложенията, базиращи се на роботи, да определят стандарти за най-добри практики и когато е целесъобразно, препоръки за регулаторни мерки, да определят нови принципи и да разглеждат потенциални проблеми във връзка със защитата на потребителите и системните предизвикателства; отправя искане към Комисията (и Европейската агенция, ако такава бъде създадена) да докладват на Европейския парламент относно най-новите развития в областта на роботиката и относно всички действия, които трябва да бъдат предприети на годишна основа;

Права върху интелектуалната собственост и движение на данните

18.  отбелязва, че няма правни разпоредби, които да се прилагат специално за роботиката, но че съществуващите правни режими и доктрини лесно могат да се отнесат към роботиката, въпреки че някои аспекти изглежда да се нуждаят от специално внимание; призовава Комисията да подкрепи хоризонтален и неутрален от технологична гледна точка подход към интелектуалната собственост, приложим към различните сектори, в които може да се използва роботиката;

19.  призовава Комисията и държавите членки да гарантират, че гражданскоправните норми в областта на роботиката са в съответствие с Общия регламент относно защитата на данните и с принципите на необходимост и пропорционалност; призовава Комисията и държавите членки да вземат предвид бързия технологичен напредък в областта на роботиката, включително напредъка на кибер-физическите системи, и да гарантират, че законодателството на Съюза не изостава от развитието и внедряването на технологиите;

20.  подчертава, че правото на зачитане на личния живот и на защита на личните данни, предвидено в членове 7 и 8 от Хартата и в член 16 от Договора за функционирането на Европейския съюз (ДФЕС), се отнасят до всички области на роботиката и че правната уредба на Съюза за защита на данните трябва да се спазва изцяло; в тази връзка призовава за изясняване в рамката за изпълнение на ОРЗД на правилата и критериите по отношение на използването на камери и сензори в роботите; призовава Комисията да гарантира, че се спазват принципите за защита на данните, като неприкосновеност на личния живот при проектирането и неприкосновеност по подразбиране, свеждане на данните до минимум, ограничаване в рамките на целта, както и прозрачни механизми за контрол за субектите на данни и подходящи средства за защита в съответствие със законодателството на Съюза в областта на защитата на данните, и че подходящите препоръки и стандарти се насърчават и се включват в политиките на Съюза;

21.  подчертава, че свободното движение на данни е от първостепенно значение за цифровата икономика и за развитието в областта на роботиката и изкуствения интелект; подчертава, че високата степен на сигурност на системите в областта на роботиката, включително на техните вътрешни системи за данни и потоци от данни, е от решаващо значение за целесъобразното използване на роботи и на изкуствения интелект; подчертава, че защитата на мрежите от свързани помежду си роботи и изкуствен интелект трябва да бъде гарантирана, за да се избегнат евентуални пробиви в сигурността; подчертава, че високото равнище на сигурност и защита на личните данни, заедно с надлежното зачитане на неприкосновеността на личния живот са от основно значение при комуникацията между хората и роботите и изкуствения интелект; набляга на отговорността на проектантите на роботи и изкуствен интелект да разработват продукти, които да са безопасни, сигурни и подходящи за целта; призовава Комисията и държавите членки да подкрепят и стимулират разработването на необходимите технологии, включително сигурност при проектирането;

Стандартизация, безопасност и сигурност

22.  подчертава, че въпросът за определянето на стандарти и предоставянето на оперативна съвместимост е от основно значение за бъдещата конкуренция в областта на технологиите за изкуствен интелект и роботика; призовава Комисията да продължи да работи за международно хармонизиране на техническите стандарти, по-специално заедно с европейските организации по стандартизация и Международната организация по стандартизация, с цел да се засили новаторството, да се избегне разпокъсаност на вътрешния пазар и да се гарантира високо равнище на безопасност на продуктите и защита на потребителите, включително по целесъобразност минимални стандарти за безопасност в работната среда; подчертава значението на законосъобразния обратен инженеринг и отворените стандарти, за да се увеличи максимално стойността на иновациите и да се гарантира, че роботите могат да общуват помежду си; приветства в това отношение създаването на специални технически комисии, като например комисията по роботика ISO/TC 299, посветена изключително на разработването на стандарти в областта на роботиката;

23.  подчертава, че изпитването на роботи в реални ситуации е от съществено значение за определянето и оценката на рисковете, които те могат да породят, както и на технологичното им развитие отвъд чисто експерименталната лабораторна фаза; подчертава в тази връзка, че изпитването на роботи в реални ситуации, и по-специално в градовете и по пътищата, поражда множество въпроси, включително пречки, които забавят развитието на тези фази на изпитване, и изисква ефективна стратегия и механизъм за мониторинг; призовава Комисията да изработи единни критерии във всички държави членки, които отделните държави членки следва да използват, за да се набележат областите, в които са разрешени експерименти с роботи в съответствие с принципа на предпазните мерки;

Автономни транспортни средства

а)Автономни превозни средства

24.  изтъква, че автономният транспорт обхваща всички форми на дистанционно управлявани, автоматизирани, свързани и автономни начини на пътен, железопътен, воден и въздушен транспорт, включително превозни средства, влакове, плавателни съдове, фериботи, самолети, безпилотни летателни апарати, както и всички бъдещи форми на развитието и иновациите в този сектор;

25.  счита, че автомобилната промишленост има най-належаща потребност от ефективни европейски и световни правила, за да се гарантира трансграничното развитие на автоматизирани и автономни превозни средства, така че да се използва напълно икономическият им потенциал и да се усети ползата от положителното въздействие на технологичните тенденции; подчертава, че фрагментираните регулаторни подходи биха попречили на прилагането на автономни системи за транспорт и биха застрашили европейската конкурентоспособност;

26.  обръща внимание на факта, че времето за реакция на водача при непланирано поемане на контрола върху превозното средство има огромно значение, и поради това призовава съответните участници да предвидят реалистични стойности, които са решаващи за аспектите, свързани със сигурността и отговорността;

27.  счита, че преминаването към автономни превозни средства ще окаже въздействие върху следните аспекти: гражданска отговорност (отговорност и застраховка), безопасност по пътищата, всички свързани с околната среда теми (например енергийна ефективност, използване на възобновяеми технологии и енергийни източници), свързани с данни въпроси (например достъп до данни, защита на данни, неприкосновеност на личния живот и споделяне на данни), въпроси, свързани с инфраструктурата на ИКТ (висока степен на ефикасна и надеждна комуникация) и заетостта (например създаване и загуба на работни места, подготовка на водачите на товарни превозни средства за използването на автоматизирани превозни средства); подчертава, че ще бъдат необходими значителни инвестиции в пътна, енергийна и ИКТ инфраструктура; призовава Комисията да обмисли горепосочените аспекти в работата си в областта на автономните превозни средства;

28.  подчертава изключителното значение на надеждната информация за местоположението и времето, предоставяна от европейските програми за спътникова навигация „Галилео“ и EGNOS, за въвеждането на автономни превозни средства, и в тази връзка призовава настоятелно за финализиране и стартиране на спътниците, които са необходими за завършване на европейската система за позициониране „Галилео“;

29.  обръща внимание на голямата добавена стойност на автономните превозни средства за лицата с ограничена мобилност, тъй като те им позволяват да се включат по-ефективно в индивидуалното придвижване по пътищата и по този начин улесняват тяхното ежедневие;

б) Безпилотни летателни апарати (БЛА)

30.  признава положителния напредък на технологията в областта на безпилотните летателни апарати, особено в областта на издирването и спасяването; подчертава значението на рамката на Съюза за използването на безпилотни летателни апарати за защита на безопасността, сигурността и неприкосновеността на личния живот на гражданите на Съюза и призовава Комисията за последващи действия във връзка с препоръките в резолюцията на Парламента от 29 октомври 2015 г. относно безопасното използване в гражданската авиация на дистанционно управляеми летателни системи (ДУЛС), познати като безпилотни летателни апарати (БЛА)(5); настоятелно призовава Комисията да представи оценки на свързаните с безопасността въпроси, които са свързани с широката употреба на безпилотни летателни апарати; призовава Комисията да разгледа необходимостта от въвеждане на задължителна система за проследяване и идентифициране за ДУЛС, която да позволява местоположението на летателната система при употреба да се определя в реално време; припомня, че хомогенността и безопасността на безпилотните летателни апарати следва да се гарантира чрез мерките, посочени в Регламент (ЕО) № 216/2008 на Европейския парламент и на Съвета(6);

Роботи, полагащи грижи

31.  подчертава, че научноизследователската и развойната дейност, свързана с роботи, полагащи грижи за възрастни хора, с времето е станала по-стандартна и по-евтина, като произвежда продукти с по-голяма функционалност и по-широко одобрение сред потребителите; отбелязва широкия спектър от приложения на такива технологии, които осигуряват превенция, помощ, наблюдение, стимулиране и придружаване за възрастни хора и хора с увреждания, както и за хора, страдащи от деменция, когнитивни нарушения или загуба на паметта;

32.  посочва, че човешкият контакт представлява един от основните аспекти на човешката грижа; счита, че замяната на човешкия фактор с роботи би могла да лиши полагането на грижи от човешкия аспект; признава, от друга страна, че роботите биха могли да извършват автоматизирани задачи за полагане на грижи и биха могли да улеснят работата на лицата, полагащи грижи, като същевременно увеличат човешката грижа и направят рехабилитационния процес по-целенасочен, за да могат медицинският персонал и болногледачите да отделят повече време за диагностициране с по-добре планирани възможности за лечение; подчертава, че въпреки потенциала на роботиката да повиши мобилността и интеграцията на хората с увреждания и възрастните хора, хората ще продължат да бъдат необходими при полагането на грижи и ще продължат да осигуряват важен източник на социално взаимодействие, който не е напълно заменим;

Медицински роботи

33.  подчертава значението на подходящото образование, обучение и подготовката на медицински специалисти като лекари и санитари, за да се гарантира най-висока степен на професионална компетентност, както и за да се гарантира и защити здравето на пациентите; подчертава необходимостта от определяне на минимални професионални изисквания, на които трябва да отговаря един хирург, за да оперира и да му бъде разрешено да използва хирургически роботи; счита за изключително важно спазването на принципа на наблюдаваната автономност на роботите, съгласно който първоначалното планиране на лечението и крайното решение за неговото провеждане остават винаги на преценката на хирурга; подчертава особеното значение на обучението на потребителите, за да бъдат запознати с технологичните изисквания в тази област; насочва вниманието към нарастващата тенденция за самодиагностика чрез подвижен робот, и поради това към необходимостта лекарите да бъдат обучени да се справят със случаи на самодиагностика; счита, че използването на технологии от такъв вид не следва да отслабва отношенията между лекар и пациент, нито да им вреди, а следва да оказва съдействие на лекарите при диагностицирането и/или лечението на пациентите с цел намаляване на риска от човешка грешка и повишаване на качеството и продължителността на живота;

34.  изразява убеждението, че медицинските роботи ще продължат да навлизат в прецизната хирургия и извършването на повтарящи се процедури и че те имат потенциал за подобряване на резултатите при рехабилитация и предоставяне на високоефективна логистична подкрепа в болниците; отбелязва, че медицинските роботи имат потенциал да намалят също и разходите за здравно обслужване, като дадат възможност на медицинските специалисти да насочат вниманието си от лечението към превенцията и чрез предоставянето на повече бюджетни ресурси за по-доброто адаптиране към разнообразието от нужди на пациентите, за непрекъснатото обучение на медицинските специалисти и за изследвания;

35.  призовава Комисията да гарантира, че процедурите за изпитване на нови медицински роботизирани устройства са безопасни, особено в случай на устройства, които са имплантирани в човешкото тяло, преди датата, на която Регламентът (EС) 2017/745 за медицинските изделия започне да се прилага;

„Поправяне“ и усъвършенстване на хора

36.  отбелязва големия напредък и допълнителния потенциал в областта на роботиката за отстраняване и компенсиране на увредени органи и човешки функции, но също така и сложните въпроси, повдигнати в частност от възможностите за усъвършенстване на хора, тъй като медицинските роботи, и по-специално кибер-физическите системи (КФС) могат да променят основно нашите представи за здравото човешко тяло, тъй като КФС могат да се носят непосредствено върху човешкото тяло или да бъдат имплантирани в него; подчертава значението на незабавното създаване в болници и други здравни институции на комитети по етика във връзка с роботите, разполагащи с достатъчно персонал, които да разглеждат и съдействат при разрешаването на необичайни, сложни етични проблеми, свързани с въпроси, които засягат грижите и лечението на пациентите; призовава Комисията и държавите членки да разработят насоки за улесняване на създаването и функционирането на тези комитети;

37.  отбелязва, че за областта на жизненоважните медицински приложения, като например роботизираните протези, е необходимо да се гарантира постоянен устойчив достъп до поддръжка, подобрения и по-специално актуализиране на софтуера, с което се отстраняват неизправности и слаби места;

38.  препоръчва да бъдат създадени независими надеждни субекти, за да се запазят необходимите средства за предоставяне на услуги на лицата, които носят жизненоважни и модерни медицински уреди, като например поддръжка, ремонт и подобрения, включително актуализации на софтуера, особено в случаите, когато подобни услуги вече не се извършват от първоначалния доставчик; предлага създаването на задължение за производителите да предоставят на тези независими надеждни субекти разбираеми инструкции относно дизайна, включително изходен код, подобно на законоустановеното депозиране на публикации в национална библиотека;

39.  обръща внимание на риска, свързан с възможността интегрираните в човешкото тяло КФС да се окажат обект на хакерски атаки или да бъдат изключени, или паметта им да бъде изтрита, тъй като това би застрашило човешкото здраве, а в крайни случаи дори и човешкия живот, и затова подчертава приоритета, който трябва да бъде даден на защитата на тези системи;

40.  подчертава, че е важно да бъде гарантиран еднакъв достъп за всички хора до подобни технологични иновации, средства и намеси; призовава Комисията и държавите членки да насърчават разработването на помощни технологии, за да се спомогне за разработването и приемането на тези технологии от страна на нуждаещите се от тях лица в съответствие с член 4 от Конвенцията на ООН за правата на хората с увреждания, по която Съюзът е страна;

Образование и заетост

41.  насочва вниманието към прогнозата на Комисията, че до 2020 г. Европа може да бъде изправена пред недостиг от 825 000 компютърни специалисти и че 90% от работните места ще изискват най-малко основни цифрови умения; приветства инициативата на Комисията да предложи пътна карта за евентуално използване и преразглеждане на рамката за компетентност в областта на цифровите технологии и описания на цифровата компетентност за всички равнища учащи се; призовава Комисията да осигури ефективно подпомагане на развитието на цифровите умения във всички възрастови групи и независимо от статуса на заетост, като първа стъпка в посока към по-добро съгласуване между недостига и търсенето на пазара на труда; подчертава, че растежът в областта на роботиката изисква от държавите членки да разработят по-гъвкави системи за обучение и образование, за да гарантират, че стратегиите за умения отговарят на нуждите на икономиката на роботите;

42.  счита, че създаването на интерес у повече млади жени към кариера в областта на цифровите технологии и заемането от повече жени на работни места в сферата на цифровите технологии би било от полза за цифровата индустрия, за самите жени и за икономиката на Европа; призовава Комисията и държавите членки да предприемат инициативи за подкрепа на жените в областта на ИКТ и за насърчаване на техните цифрови умения;

43.  призовава Комисията да започне да анализира и да наблюдава по-отблизо средносрочните и дългосрочните тенденции в областта на заетостта, с особено ударение върху създаването, преместването и загубата на работни места в различните сфери/области на квалификация, за да разбере в кои области се създават и в кои се губят работни места в резултат от увеличеното използване на роботи;

44.  подчертава, че е важно да бъдат предвидени промените в обществото, като се има предвид въздействието, което може да имат развитието и внедряването на роботиката и изкуствения интелект; призовава Комисията да анализира различните възможни сценарии и последиците от тях за жизнеспособността на системите за социална сигурност на държавите членки;

45.  подчертава значението на гъвкавите умения и на социалните, творческите и цифровите умения в областта на образованието; изразява убеденост, че в допълнение към предаваните в училище академични знания ученето през целия живот трябва да се осъществява чрез действия през целия живот;

46.  отбелязва големия потенциал на роботиката за подобряването на безопасните условия на труд чрез прехвърлянето на редица опасни и вредни задачи от хората към роботите; в същото време отбелязва и потенциала за създаване на редица нови рискове поради увеличаващия се брой взаимодействия между хората и роботите на работното място; подчертава във връзка с това, че е важно да се прилагат строги и далновидни правила за взаимодействия между хората и роботите, за да се гарантират здравето, безопасността и зачитането на основните права на работното място;

Въздействие върху околната среда

47.  отбелязва, че развитието на роботиката и изкуствения интелект следва да се извършва по такъв начин, че въздействието върху околната среда да бъде ограничено чрез ефективно енергийно потребление и енергийна ефективност чрез насърчаване на използването на енергия от възобновяеми източници и на ограничени материали, както и минимални отпадъци, например минимални отпадъци от електрическо и електронно оборудване, и възможност за поправяне; поради това насърчава Комисията да включи принципите на кръговата икономика във всяка политика на Съюза относно роботиката; отбелязва също така, че използването на роботиката ще има положително въздействие върху околната среда, особено в областта на селското стопанство и доставките и транспорта на храни, по-специално чрез намаляването на размера на съоръженията и на употребата на торове, енергия и вода, както и чрез прецизното земеделие и оптимизацията на пътуванията;

48.  подчертава, че КФС ще доведат до създаването на енергийни и инфраструктурни системи, които са в състояние да контролират потока на електроенергия от производителя до потребителя, и също така до създаването на енергийни „произвеждащи потребители“, които едновременно произвеждат и консумират енергия; това ще донесе съществени ползи за околната среда;

Отговорност

49.  счита, че гражданската отговорност за вреди, причинени от роботи, е ключов въпрос, който трябва да бъде анализиран и разгледан на равнището на ЕС, така че да се гарантира една и съща степен на ефективност, прозрачност и последователност в прилагането на правната сигурност в целия Европейски съюз в полза на гражданите, потребителите и предприятията;

50.  отбелязва, че развитието на свързаните с роботиката технологии ще изисква по-голямо разбиране на общата основа, необходима при съвместната дейност на хората и роботите, която следва да се базира на две основни отношения на взаимна зависимост, а именно предвидимостта и възможността за насочване; посочва, че тези две отношения на взаимна зависимост са от съществено значение за определянето на това каква информация е необходимо да се споделя между хората и роботите и как може да бъде постигната обща основа между хората и роботите, с цел да се даде възможност за безпроблемни съвместни действия между тях;

51.  отправя искане към Комисията да представи, въз основа на член 114 от ДФЕС, предложение за законодателен инструмент относно правните въпроси, свързани с развитието и използването на роботиката и изкуствения интелект, които могат да се предвидят за идните 10 – 15 години, в съчетание с незаконодателни инструменти като насоки и кодекси за поведение, както е посочено в препоръките, изложени в приложението;

52.  счита, че независимо от правното решение, което се прилага за гражданската отговорност за вреди, причинени от роботи, в случаи, различни от имуществени вреди, бъдещият законодателен инструмент не следва по никакъв начин да ограничава вида или степента на вредите, които могат да бъдат възстановени, нито да ограничава формите на обезщетение, което може да бъде предложено на засегнатата страна, единствено на основание, че вредите са причинени от агент, който не е човешко същество;

53.  счита, че този бъдещ законодателен инструмент следва да се основава на задълбочена оценка от Комисията, която да определи дали следва да се прилага обективна отговорност, или подход за управление на риска;

54.  същевременно отбелязва, че обективната отговорност изисква единствено доказателство за нанасянето на вредата и установяване на причинно-следствена връзка между увреждащото функциониране на робота и претърпяната от увреденото лице вреда;

55.  отбелязва, че подходът за управление на риска не е насочен към лицето, „което е действало небрежно“ като лично отговорно, а към лицето, което при определени условия може да намали рисковете и да се справи с отрицателните последици;

56.  счита, че по принцип, след като бъдат идентифицирани отговорните в крайна сметка страни, тяхната отговорност следва да бъде пропорционална на действителното равнище на инструкциите, дадени на робота, и на неговата автономност, така че колкото е по-голяма способността за учене или степента на автономност на робота, толкова по-малка е отговорността на другите страни, и колкото по-дълго е продължило обучението на робота, толкова по-голяма следва да бъде отговорността на „учителя“ му; отбелязва, по-специално, че уменията, произтичащи от „обучение“, предоставено на робот, не следва да се бъркат с уменията, които зависят изрично от способностите му за учене, при опити за идентифициране на лицето, действително отговорно за вредното поведение на робота; отбелязва, че поне на настоящия етап отговорността трябва се търси в човека, а не в робота;

57.  посочва, че евентуално решение на сложния въпрос за определянето на отговорността за вреди, причинени от все по- автономни роботи, би могло да бъде схема за задължително осигуряване, какъвто вече е случаят например с автомобилите; отбелязва при все това, че за разлика от застрахователната система за движението по пътищата, при която застраховката покрива човешки действия и пропуски, застрахователната система за роботиката следва да отчита всички потенциални отговорности във веригата;

58.  счита, че както при застраховането на моторни превозни средства, подобна застрахователна система би могла да бъде допълнена от фонд, за да се гарантира поправянето на вреди в случаите, когато няма застрахователно покритие; призовава застрахователните дружества да разработят нови продукти и видове предложения, които са в съответствие с напредъка в областта на роботиката;

59.  призовава Комисията, когато направи оценка на въздействието на бъдещия си законодателен инструмент, да проучи, анализира и оцени ефекта от всички възможни правни решения, като например:

   а) установяване на задължителен застрахователен режим, когато това е целесъобразно и необходимо за специфичните категории роботи, при който, подобно на това, което вече съществува при автомобилите, от производителите или собствениците на роботи ще се изисква да сключват застраховка за вредите, които биха могли да бъдат причинени от техните роботи;
   б) обезпечаване, че компенсационният фонд ще служи не само на целта за гарантиране на обезщетение, ако за причинените от робот вреди няма сключена застраховка;
   в) даване на възможност на производителя, програмиста, собственика или ползвателя да се ползват от ограничена отговорност, ако те направят вноски в компенсационен фонд, както и ако съвместно сключат застраховка за гарантиране на обезщетение, когато вредите са причинени от робот;
   г) вземане на решение дали да се създаде общ фонд за всички интелигентни автономни роботи, или да се създаде отделен фонд за всяка категория роботи, и дали вноската следва да бъде изплатена като еднократна такса при пускането на пазара на робота, или да се плащат периодични вноски по време на жизнения цикъл на робота;
   д) гарантиране, че връзката между даден робот и неговото финансиране ще бъде видима чрез индивидуален регистрационен номер, вписан в специален регистър на Съюза, което би позволило на всяко лице, взаимодействащо с робота, да се информира за естеството на фонда, границите на отговорността му в случай на причиняване на имуществени вреди, имената и функциите на лицата, които правят вноски, и всички други относими данни;
   е) създаване на специален правен статут за роботи в дългосрочен план, така че поне най-усъвършенстваните автономни роботи да могат да придобият статут на електронни лица, отговорни за обезщетяване на всички вреди, които могат да причинят, и възможно прилагане на електронна субектност за случаите, в които роботите вземат автономни решения или по друг начин взаимодействат независимо с трети страни;

Международни аспекти

60.  отбелязва, че въпреки че настоящите общи правила на международното частно право относно пътнотранспортните произшествия, приложими в Съюза, не се нуждаят спешно от съществена промяна с цел възможност за развитие на автономни превозни средства, опростяването на действащата двойна система за определяне на приложимото право (въз основа на Регламент (ЕО) № 864/2007 на Европейския парламент и на Съвета(7) и Хагската конвенция от 4 май 1971 г. за приложимото право при пътнотранспортни произшествия) ще повиши правната сигурност и ще ограничи възможностите за търсене на най-благоприятна правна система;

61.  отбелязва необходимостта да се разгледат също така измененията към международни споразумения, като Виенската конвенция за движението по пътищата от 8 ноември 1968 г. и Хагската конвенция за пътнотранспортните произшествия;

62.  очаква от Комисията да гарантира, че държавите членки прилагат по еднообразен начин съществуващото законодателство, като например Виенската конвенция за движението по пътищата, която се нуждае от изменение, за да се създаде възможност за управление на МПС без водач, и призовава Комисията, държавите членки и сектора да транспонират възможно най-бързо целите от Декларацията от Амстердам;

63.  силно насърчава международното сътрудничество при контрола на обществените, етичните и правните предизвикателства, като впоследствие се определят регулаторните стандарти под егидата на Организацията на обединените нации;

64.  изтъква, че ограниченията и условията, предвидени в Регламент (ЕО) № 428/2009 на Европейския парламент и на Съвета(8) относно търговията с изделия и технологии с двойна употреба – стоки, софтуер и технологии, които могат да се използват както за граждански, така и за военни приложения и/или могат да допринесат за разпространението на оръжия за масово унищожение, следва да се прилагат също така за приложенията на роботиката;

Окончателни аспекти

65.  отправя, въз основа на член 225 от ДФЕС, искане към Комисията да представи, въз основа на член 114 от ДФЕС, предложение за директива относно гражданскоправни норми за роботиката, като следва препоръки, посочени в приложението към настоящата резолюция;

66.  потвърждава, че препоръките спазват основните права и принципа на субсидиарност;

67.  счита, че исканото предложение би породило финансови последици, ако бъде създадена нова европейска агенция;

o
o   o

68.  възлага на своя председател да предаде настоящата резолюция и приложените към нея препоръки на Комисията и на Съвета.

(1) Директива 85/374/ЕИО на Съвета от 25 юли 1985 г. за сближаване на законовите, подзаконовите и административните разпоредби на държавите-членки относно отговорността за вреди, причинени от дефект на стока (ОВ L 210, 7.8.1985 г., стр. 29).
(2) Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/ЕО (Общ регламент относно защитата на данните) (ОВ L 119, 4.5.2016 г., стр. 1).
(3) „Роботът не бива да наранява човешко същество, или чрез бездействието си да допусне човешко същество да пострада. (2) Роботът трябва да се подчинява на заповедите на човешките същества, освен ако тези заповеди не противоречат на Първия Закон. (3) Роботът трябва да защитава собственото си съществувание, доколкото това не противоречи на Първия или Втория Закон.“ (вж. „Роботите на зората“, Айзък Азимов, изд. „Елма“, София, 1993 г., превод от английски Мая Симеонова), и (0) Роботът не бива да нанася вреди на човечеството или чрез бездействието си да допусне човечеството да пострада.
(4) Вж. Декларацията на Шуман (1950 г.): „Европа няма да бъде изградена отведнъж, нито според един-единствен план. Тя ще бъде изградена чрез конкретни постижения, които най-напред създават реална солидарност.“
(5) Приети текстове, P8_TA(2015)0390.
(6) Регламент (ЕО) № 216/2008 на Европейския парламент и на Съвета от 20 февруари 2008 г. относно общи правила в областта на гражданското въздухоплаване, за създаване на Европейска агенция за авиационна безопасност и за отмяна на Директива 91/670/ЕИО на Съвета, Регламент (ЕО) № 1592/2002 и Директива 2004/36/ЕО (OB L 79, 19.3.2008 г., стр. 1).
(7) Регламент (ЕО) № 864/2007 на Европейския парламент и на Съвета от 11 юли 2007 г. относно приложимото право към извъндоговорни задължения („Рим II“) (OВ L 199, 31.7.2007 г., стр. 40).
(8) Регламент (ЕО) № 428/2009 на Съвета от 5 май 2009 г. за въвеждане режим на Общността за контрол на износа, трансфера, брокерската дейност и транзита на изделия и технологии с двойна употреба (ОВ L 134, 29.5.2009 г., стр. 1).


ПРИЛОЖЕНИЕ КЪМ РЕЗОЛЮЦИЯТА:

ПРЕПОРЪКИ ОТНОСНО СЪДЪРЖАНИЕТО НА ИСКАНОТО ПРЕДЛОЖЕНИЕ

Определение и класификация на „интелигентните роботи“

Следва да бъде установено общо европейско определение за „интелигентни“ автономни роботи, включително по целесъобразност определения на неговите подкатегории, като се вземат предвид следните характеристики:

–  способността да придобиват автономност посредством датчици и/или чрез обмен на данни с околната среда (взаимосвързаност) и анализ на тези данни;

–  способността да извличат поуки от натрупания опит и взаимодействие;

–  формата на физическия носител на робота;

–  способността да адаптират поведението и действията си към околната среда.

Регистрация на „интелигентните роботи“

За целите на проследимостта и за да се улесни прилагането на допълнителни препоръки, следва да бъдат въведена система за регистрация на усъвършенствани роботи въз основа на критериите за класификация на роботите. Системата за регистрация и регистърът следва да бъдат общи за целия Съюз, като покриват вътрешния пазар, и могат да се управляват от определена за целта Агенция на ЕС за роботика и изкуствен интелект, в случай че такава агенция бъде създадена.

Гражданска отговорност

Правното решение, приложимо за отговорността на роботите и на изкуствения интелект в случаи, различни от имуществени вреди, не следва по никакъв начин да ограничава вида или степента на вредите, които могат да бъдат възстановени, нито да ограничава формите на обезщетение, което може да бъде предложено на засегнатата страна, единствено на основание, че вредите са причинени от агент, който не е човешко същество.

Бъдещият законодателен инструмент следва да се основава на задълбочена оценка от Комисията, която да определи дали следва да се прилага обективна отговорност, или подход за управление на риска.

Следва да бъдат установена схема за задължително осигуряване, която би могла да се основава на задължението на производителя да сключи застраховка за автономните роботи, които произвежда.

Застрахователната система следва да бъде допълнена от фонд, за да се гарантира обезщетяването на вреди в случаите, когато няма застрахователно покритие.

Всяко решение на политиката относно правилата за гражданска отговорност, приложими за роботите и изкуствения интелект, следва да се взема при надлежна консултация с общоевропейския проект за научноизследователска и развойна дейност в областта на роботиката и невронауката, като учените и експертите могат да оценят всички свързани рискове и последици.

Оперативна съвместимост, достъп до кодове и права върху интелектуална собственост

Оперативната съвместимост на свързаните в мрежа автономни роботи, които взаимодействат едни с други, следва да бъде гарантирана. На разположение следва да бъде достъп до изходния код, входните данни и данните за конструкцията, когато това е необходимо с цел да се разследват произшествия и вреди, причинени от „интелигентни роботи“, както и за да се гарантира тяхното непрекъснато функциониране, достъпност, надеждност, безопасност и сигурност.

Харта относно роботиката

Когато предлага правни актове, свързано с роботика, Комисията следва да вземе предвид принципите, предвидени в следната Харта относно роботиката.

ХАРТА ОТНОСНО РОБОТИКАТА

Предложеният кодекс за етично поведение в областта на роботиката ще положи основите за идентифициране, надзор и спазване на основните етични принципи от етапа на проектирането и разработването.

Рамката, изготвена чрез консултация с общоевропейски проект за научноизследователска и развойна дейност, посветен на роботиката и невронауката, трябва да бъде изготвена по аналитичен начин, който да дава възможност за отделни корекции във всеки отделен случай, за да се прецени дали дадено поведение е правилно или погрешно в дадена ситуация и да се вземат решения в съответствие с предварително определена йерархия на ценностите.

Кодексът не следва да замества необходимостта от справяне с всички основни правни предизвикателства в тази област, а следва да има допълваща функция. По-скоро той ще улесни етичната категоризация на роботиката, ще укрепи отговорните иновационни усилия в тази област и ще даде отговор на опасенията на широката общественост.

Следва да се постави специален акцент върху научноизследователската и развойната фаза на съответната технологична траектория (проектиране, преглед на съответствието с етичните стандарти, одитни проверки и др.). Неговата цел следва да бъде разглеждането на потребността от спазване на етичните стандарти от страна на изследователи, специалисти, ползватели и проектанти, но също и въвеждането на процедура за създаване на възможност за разрешаване на съответните етически дилеми и за даване на възможност на тези системи да работят по етично отговорен начин.

КОДЕКС ЗА ЕТИЧНО ПОВЕДЕНИЕ НА ИНЖЕНЕРИТЕ В ОБЛАСТТА НА РОБОТИКАТА

ПРЕАМБЮЛ

Кодексът за поведение приканва всички изследователи и проектанти да действат отговорно и при напълно отчитане на необходимостта да се зачита достойнството, неприкосновеността на личния живот и безопасността на хората.

Кодексът изисква тясно сътрудничество между всички дисциплини, за да се гарантира, че в Европейския съюз научноизследователската дейност в областта на роботиката се извършва по безопасен, етичен и ефективен начин.

Кодексът за поведение обхваща всички научноизследователски и развойни дейности в областта на роботиката.

Кодексът за поведение има доброволен характер и предлага набор от общи принципи и насоки за предприемане на действия от страна на всички заинтересовани лица.

Организациите, финансиращи научноизследователска дейност в областта на роботиката, научноизследователските организации, изследователите и комитетите по етика се насърчават да разглеждат на най-ранните етапи бъдещите отражения на технологиите или на обектите, предмет на изследване, и да развиват култура на отговорност с оглед на предизвикателствата и възможностите, които може да възникнат в бъдеще.

Публичните и частните органи за финансиране на научноизследователска дейност в областта на роботиката следва да искат извършване и представяне на оценка на риска заедно с всяко внасяне на предложение за финансиране на научноизследователска дейност в областта на роботиката. Този кодекс следва да счита хората, а не роботите, за отговорни лица.

Изследователите в областта на роботиката следва да се ангажират с най-високо етично и професионално поведение и да спазват следните принципи:

дейност в най-добрия интерес – роботите следва да действат в най-добрия интерес на хората;

непричиняване на вреди – доктрината „на първо място, не причинявай вреда“, съгласно която роботите следва да не вредят на хората;

автономност – способността да вземат информирано и самостоятелно решение относно условията за взаимодействие с роботи;

справедливост – справедливо разпределение на ползите, свързани с роботиката, и в частност финансова достъпност на роботите за грижи по домовете и здравни грижи.

Основни права

Изследователските дейности в областта на роботиката следва да зачитат основните права и да бъдат провеждани в интерес на благосъстоянието и самоопределянето на физическите лица и обществото като цяло чрез тяхното разработване, прилагане, разпространение и използване. Човешкото достойнство и автономност – както физическа, така и психологическа – трябва винаги да се зачитат.

Предпазни мерки

Научноизследователската дейност в областта на роботиката следва да се извършва в съответствие с принципа на предпазните мерки, като се предвиждат потенциалните последствия от резултатите за безопасността и като се вземат надлежни предпазни мерки, пропорционални на нивото на защита, като в същото време се насърчава напредъкът в полза на обществото и околната среда.

Приобщаване

Инженерите в областта на роботиката гарантират прозрачност и зачитат законното право на достъп до информация на всички заинтересовани лица. Приобщаването дава възможност за участие в процесите на вземане на решения на всички заинтересовани лица, участващи във или заинтересовани от научноизследователската дейност в областта на роботиката.

Отчетност

Инженерите в областта на роботиката следва да продължават да носят отговорност за социалните последствия и последствията за околната среда и здравето на човека, до които роботиката може да доведе по отношение на настоящото и бъдещите поколения.

Безопасност

Проектантите в областта на роботиката следва да отчитат и зачитат физическото благосъстояние, безопасността, здравето и правата на хората. Инженерите в областта на роботиката трябва да зачитат човешкото благосъстояние, като същевременно спазват и правата на човека, и да оповестяват своевременно фактори, които биха могли да застрашат обществото или околната среда.

Обратимост

Тъй като обратимостта е необходимо условие за осъществяване на контрол, тя е основно понятие при програмирането на роботите да действат безопасно и надеждно. Моделът на обратимостта казва на робота кои действия са обратими и как да ги анулира, ако са обратими. Способността за анулиране на последното действие или поредица от действия позволява на ползвателите да анулират нежелани действия и да се върнат на „добрия“ етап от тяхната работа.

Неприкосновеност на личния живот

Правото на неприкосновеност на личния живот трябва също да бъде зачитано. Инженерите в областта на роботиката следва да гарантират, че личната информация се съхранява сигурно и се използва само по подходящ начин. Освен това инженерите в областта на роботиката следва да гарантират, че самоличността на физическите лица не може да се установи, освен при изключителни обстоятелства, като в тези случаи това може да стане само с ясно, недвусмислено и информирано съгласие. Преди каквото и да е взаимодействие между човек и машина следва да се търси и получи информирано съгласие от страна на човека. В това си качество проектантите в областта на роботиката имат отговорността да изготвят и спазват процедури за валидно съгласие, поверителност, анонимност, справедливо отношение и надлежен процес. Проектантите ще удовлетворяват всички искания за унищожаване на свързани данни и за отстраняването им от всички набори от данни.

Извличане на максимални ползи и свеждане до минимум на вредите

Изследователите следва да се стремят да увеличат в максимална степен ползите от труда си на всички етапи – от стартирането до разпространението. Трябва да се избягва причиняването на вреди на участници или човешки субекти, които вземат участие в научно-изследователски експерименти, опити или проучвания. В случаите, когато възникват рискове като неизбежна и неделима част от изследванията, следва да бъде изготвяни и спазвани надеждни оценки на риска и протоколи за управление. Обикновено рискът от вреда не следва да бъде по-голям от този в нормалния живот, т.е. хората следва да не бъдат изложени на рискове, които са по-големи от или са в допълнение към тези, на които са изложени при обичайния си начин на живот. Експлоатацията на системата за роботика следва винаги да се основава на задълбочен процес на оценка на риска, който следва да се основава на принципите на предпазните мерки и на пропорционалността.

КОДЕКС ЗА КОМИТЕТИТЕ ПО ЕТИКА НА НАУЧНОИЗСЛЕДОВАТЕЛСКАТА ДЕЙНОСТ

Принципи

Независимост

Процесът за преглед на съответствието с етичните стандарти следва да бъде независим от самите научни изследвания. Този принцип подчертава необходимостта от избягване на конфликти на интереси между изследователите и лицата, които извършват преглед на съответствието с етичния протокол, и между проверяващите лица и организационните структури на управление.

Компетентност

Процесът за преглед на съответствието с етичните стандарти следва да се провежда от проверяващи лица с подходящ експертен опит, като се отчита необходимостта от внимателно разглеждане на обхвата на членството и специфично, посветено на етиката обучение на комитетите по етика на научноизследователската дейност.

Прозрачност и отчетност

Процесът за преглед на съответствието с етичните стандарт следва да подлежи на отговорност и на надзор. Комитетите по етика на научноизследователската дейност трябва да признаят отговорностите си и да бъдат подходящо разположени в рамките на организационни структури, които осигуряват прозрачност на дейността и процедурите на комитетите по етика на научноизследователската дейност с цел запазване и преглед на стандартите.

Ролята на комитетите по етика на научноизследователската дейност

Комитетите по етика на научноизследователската дейност обикновено отговарят за извършване на прегледи на всички научни изследвания, в които участват хора и които се извършват от физически лица, наети в рамките на или от заинтересованата институция; гарантиране, че прегледът на съответствието с етичните стандарти е независим, компетентен и своевременен; защита на достойнството, правата и благосъстоянието на участниците в научноизследователската дейност; отчитане на безопасността на научния(те) изследовател(и); отчитане на законните интереси на други заинтересовани лица; вземане на информирани решения относно научния принос на предложенията; и предоставяне на информирани препоръки на изследователя, ако предложението е преценено като неподходящо в някое отношение.

Учредяване на комитетите по етика на научноизследователската дейност

Комитетите по етика на научноизследователската дейност обикновено следва да бъдат мултидисциплинарни; да включват както жени, така и мъже; да бъдат съставени от членове с богат опит и експертни познания в научноизследователската дейност в областта на роботиката. Механизмът за назначаване следва да гарантира, че членовете на комитета разполагат с подходящ баланс на експертни научни познания, компетентност в областта на философията, правото или етиката, както и непрофесионални мнения, и че включват в състава си поне един член със задълбочени познания в областта на етиката, ползватели на специализирани здравни, образователни или социални услуги, когато те са в центъра на научноизследователската дейност, както и физически лица със специфичен методически опит, свързан с научноизследователската дейност, на която правят преглед. Членовете на комитета трябва да бъдат назначени така, че да се избягват конфликти на интереси.

Наблюдение

Всички научноизследователски организации следва да установят подходящи процедури за наблюдение на провеждането на научни изследвания, които са получили етично одобрение, докато не бъдат завършени, и да гарантират продължителен преглед, когато научноизследователското проектиране предвижда евентуални промени впоследствие, които може да се наложи да бъдат разгледани. Наблюдението следва да бъде пропорционално на естеството и степента на рисковете, свързани с научните изследвания. Когато даден комитет по етика на научноизследователската дейност счита, че даден мониторингов доклад поражда сериозни опасения относно етичното поведение на проучването, следва да изиска пълен и подробен отчет на изследването с цел пълен преглед на съответствието с етичните стандарти. Когато се прецени, че дадено проучване се провежда по неетичен начин, следва да се обмисли дали да се оттегли одобрението за него и да се изиска спирането или прекратяването на свързаната с него научноизследователска дейност.

ЛИЦЕНЗ ЗА ПРОЕКТАНТИ

–  Следва да вземате предвид европейските ценности на достойнство, автономност и самоопределяне, свобода и правосъдие преди, по време на и след процеса на проектиране, разработване и доставяне на такива технологии, включително необходимостта (уязвимите) ползватели да не бъдат увредени, наранени, измамени или експлоатирани.

–  Следва да въвеждате надеждни принципи за системно проектиране по отношение на всички аспекти на експлоатацията на даден робот – за проектиране както на хардуер, така и на софтуер и за обработване на данни във или извън платформата за целите на сигурността.

–  Следва да въвеждате неприкосновеността на личния живот чрез проектантски характеристики, за да се гарантира, че личната информация се съхранява сигурно и се използва само по подходящ начин.

–  Следва да въвеждате очевидни механизми за изключване (бутони за аварийно изключване), които следва да бъдат съгласувани с разумни проектантски цели.

–  Следва да гарантирате, че даден робот функционира по начин, който е в съответствие с местните, националните и международните етични и правни принципи.

–  Следва да гарантирате, че етапите на вземане на решения на роботите подлежат на възстановяване и проследяване.

–  Следва да гарантирате максимална прозрачност в процеса на програмиране на роботизираните системи, както и предвидимост на роботизираното поведение.

–  Следва да анализирате предвидимостта на дадена система човек – робот, като вземате предвид несигурността в тълкуването и действията и възможните грешки на роботите или хората.

–  Следва да разработвате инструменти за проследяване на етапа на проектиране на робота. Тези инструменти ще улеснят отчитането и обяснението на роботизираното поведение, дори то да е ограничено, на различните равнища, предназначени за експертите, операторите и ползвателите.

–  Следва да изготвяте протоколи за проектиране и оценка и да се срещате с потенциалните ползватели и заинтересовани лица при оценката на ползите и рисковете на роботиката, включително тези в когнитивната и психологическата област и в областта на околната среда.

–  Следва да гарантирате, че роботите са разпознаваеми като роботи при взаимодействието им с хората.

–  Следва да гарантирате безопасността и здравето на лицата, които си взаимодействат и са в контакт с роботика, като се има предвид, че роботите, като продукти, следва да бъдат проектирани чрез процеси, които гарантират тяхната безопасност и сигурност. Инженерите в областта на роботиката трябва да запазват човешкото благосъстояние, като същевременно зачитат и правата на човека, и не могат да задействат робот, без да обезпечат безопасността, ефикасността и обратимостта на функционирането на системата.

–  Следва да получите положително становище от комитет по етика на научноизследователската дейност, преди да извършите изпитването на робот в реална обстановка или преди да включите хора в процедурите за неговото проектиране и разработване.

ЛИЦЕНЗ ЗА ПОЛЗВАТЕЛИ

–  Разрешено Ви е да ползвате робот без риск или страх от физическо или психическо увреждане.

–  Следва да имате право да очаквате от робота да изпълнява всяка задача, за която изрично е проектиран.

–  Следва да знаете, че всеки робот може да има ограничения на възприятието, когнитивната способност и задействането.

–  Следва да зачитате човешката уязвимост – както физическа, така и психическа – и емоционалните нужди на хората.

–  Следва да вземате под внимание правата на неприкосновеност на личния живот на физическите лица, включително дезактивирането на видеомонитори по време на интимни процедури.

–  Не е разрешено да събирате, използвате или разкривате лична информация без изричното съгласие на субекта на данните.

–  Не е разрешено да използвате робот по начин, който противоречи на етичните и правните принципи и стандарти.

–  Не е разрешено да променяте който и да било робот, така че той да може да функционира като оръжие.

Правна информация