Европейският парламент,

–  като взе предвид преамбюла на Договора за Европейския съюз и членове 2, 3, 10, 19, 20, 21, 114, 167, 218, 225 и 227 от него,

–  като взе предвид правото на петиции, предвидено в членове 20 и 227 от Договора за функционирането на Европейския съюз,

–  като взе предвид Хартата на основните права на Европейския съюз,

–  като взе предвид Директива 2000/43/ЕО на Съвета от 29 юни 2000 г. относно прилагане на принципа на равно третиране на лица без разлика на расата или етническия произход(1) (Директива за равенството между расите),

–  като взе предвид Директива 2000/78/EО на Съвета от 27 ноември 2000 г. за създаване на основна рамка за равно третиране в областта на заетостта и професиите(2) (Директивата за равно третиране в областта на заетостта),

–  като взе предвид Регламент (ЕС) 2016/679 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни и относно свободното движение на такива данни и за отмяна на Директива 95/46/EО (Общ регламент относно защитата на данните)(3) (ОРЗД) и като взе предвид Директива (ЕС) 2016/680 на Европейския парламент и на Съвета от 27 април 2016 г. относно защитата на физическите лица във връзка с обработването на лични данни от компетентните органи за целите на предотвратяването, разследването, разкриването или наказателното преследване на престъпления или изпълнението на наказания и относно свободното движение на такива данни и за отмяна на Рамково решение 2008/977/ПВР на Съвета(4),

–  като взе предвид Регламент (ЕС) 2018/1488 на Съвета от 28 септември 2018 г. за създаване на Съвместно предприятие за европейски високопроизводителни изчислителни технологии(5),

–  като взе предвид предложението на Комисията за регламент на Европейския парламент и на Съвета от 6 юни 2018 г. за създаване на програмата „Цифрова Европа“ за периода 2021 – 2027 г. (COM(2018)0434),

–  като взе предвид своята резолюция от 16 февруари 2017 г., съдържаща препоръки към Комисията относно гражданскоправни норми за роботиката(6),

–  като взе предвид своята резолюция от 1 юни 2017 г. относно цифровизацията на европейската промишленост(7),

–  като взе предвид своята резолюция от 12 септември 2018 г. относно автономните оръжейни системи(8),

–  като взе предвид своята резолюция от 11 септември 2018 г. относно езиковото равенство в ерата на цифровите технологии(9),

–  като взе предвид своята резолюция от 12 февруари 2019 г. относно всеобхватната европейска промишлена политика в областта на изкуствения интелект и роботиката(10),

–  като взе предвид съобщението на Комисията от 11 декември 2019 г. до Европейския парламент, Съвета, Европейския икономически и социален комитет и Комитета на регионите, озаглавено „Европейският зелен пакт“ (COM(2019)0640),

–  като взе предвид Бялата книга на Комисията от 19 февруари 2020 г. за изкуствения интелект – Европа в търсене на високи постижения и атмосфера на доверие (COM(2020)0065),

–  като взе предвид съобщението на Комисията до Европейския парламент, Съвета, Европейския икономически и социален комитет и Комитета на регионите от 19 февруари 2020 г. относно Европейска стратегия за данните (COM(2020)0066),

–  като взе предвид съобщението на Комисията до Европейския парламент, Съвета, Европейския икономически и социален комитет и Комитета на регионите от 19 февруари 2020 г., озаглавено „Изграждане на цифровото бъдеще на Европа“ (COM(2020)0067),

–  като взе предвид доклада от 8 април 2019 г. на създадената от Комисията през юни 2018 г. експертна група на високо равнище по въпросите на изкуствения интелект, озаглавен „Ethics Guidelines for trustworthy AI“ (Насоки относно етичните аспекти за надежден ИИ),

–  като взе предвид Рамковата конвенция на Съвета на Европа за защита на националните малцинства, Протокол № 12 към Конвенцията за защита на правата на човека и основните свободи и Европейската харта за регионалните или малцинствените езици,

–  като взе предвид Европейската етична харта за използване на изкуствения интелект в съдебните системи и тяхната среда, приета от Работната група на Съвета на Европа за качество на правосъдието (CEPEJ-GT-QUAL) през декември 2018 г.,

–  като взе предвид препоръката на Съвета на ОИСР относно изкуствения интелект, приета на 22 май 2019 г.,

–  като взе предвид член 54 от своя Правилник за дейността,

–  като взе предвид становищата на комисията по външни работи, на комисията по вътрешния пазар и защита на потребителите, на комисията по транспорт и туризъм и на комисията по граждански свободи, правосъдие и вътрешни работи,

–  като взе предвид доклада на комисията по правни въпроси (A9-0001/2021),

Увод

А.  като има предвид, че изкуственият интелект (ИИ), роботиката и свързаните с тях технологии се разработват бързо и оказват пряко въздействие върху всички аспекти на нашите общества, включително основните социални и икономически принципи и ценности;

Б.  като има предвид, че ИИ води до революция във военната доктрина и оборудване чрез дълбока промяна в начина на функциониране на армиите, главно поради интегрирането и използването на нови автономни технологии и способности;

В.  като има предвид, че разработването и проектирането на т.нар. „изкуствен интелект“, роботиката и свързаните с тях технологии се извършва от хора и техният избор определя потенциала на технологиите в полза на обществото;

Г.  като има предвид, че една обща рамка на Съюза трябва да обхваща разработването, внедряването и използването на ИИ, роботиката и свързаните с тях технологии и трябва да гарантира зачитането на човешкото достойнство и правата на човека, залегнали в Хартата на основните права на Европейския съюз;

Д.  като има предвид, че Съюзът и неговите държави членки носят особена отговорност да гарантират, че тъй като ИИ, роботиката и свързаните с тях технологии могат да бъдат използвани трансгранично, т. трябва да са насочени към човека, т.е. принципно да се използват в услуга на човечеството и общото благо с цел да допринесат за благополучието и общия интерес на техните граждани; като има предвид, че Съюзът следва да подпомага държавите членки да постигнат това, по-специално тези, които са започнали да обмислят възможното разработване на правни стандарти или законодателни промени в тази област;

Е.  като има предвид, че европейските граждани биха имали полза от подходящ, ефективен, прозрачен и съгласуван регулаторен подход на равнището на Съюза, който да определя достатъчно ясни условия за дружествата, за да могат те да разработват приложения и да планират своите бизнес модели, като същевременно се гарантира, че Съюзът и неговите държави членки запазват контрол върху регулаторните норми, които трябва да бъдат установени, така че те да не бъдат принудени да въвеждат или приемат стандарти, установени от други;

Ж.  като има предвид, че етичните насоки – като например принципите, приети от експертната група на високо равнище по въпросите на изкуствения интелект – представляват добра отправна точка, но не са достатъчни, за да се гарантира, че дружествата действат честно и гарантират действителна защита на отделните лица;

З.  като има предвид, че тази особена отговорност налага да се разгледат по-специално въпросите, свързани с тълкуването и прилагането на международното право по отношение на активното участие на ЕС в международни преговори, доколкото ЕС е засегнат от употребата за граждански и военни цели на този вид ИИ, роботика и свързаните с тях технологии, а въпросите за държавната власт по отношение на тези технологии остават извън обхвата на наказателното правосъдие;

И.  като има предвид, че е от съществено значение да се осигури подходяща и всеобхватна правна рамка за етичните аспекти на тези технологии, както и за отговорността, прозрачността и отчетността (по-специално за ИИ, роботиката и свързаните с тях технологии, които се считат за високорискови); като има предвид, че тази рамка трябва да отразява приложимостта на присъщите европейски и универсални хуманистични ценности към цялата верига за създаване на стойност при разработването, прилагането и използването на ИИ; като има предвид, че тази етична рамка трябва да се прилага за разработването (включително научните изследвания и иновациите), внедряването и използването на ИИ, при пълно зачитане на правото на Съюза и на ценностите, залегнали в Хартата на основните права на Европейския съюз;

Й.  като има предвид, че целта на това разглеждане е да се проучи до каква степен нормите на международното публично и частно право и на правото на ЕС могат да уредят тези технологии, както и да се откроят предизвикателствата и рисковете, които технологиите създават за държавната власт, така че те да могат да бъдат преодолени по подходящ и пропорционален начин;

К.  като има предвид, че Европейската комисия не разглежда военните аспекти на използването на изкуствения интелект в своята Бяла книга;

Л.  като има предвид, че хармонизираният европейски подход към тези проблеми изисква да се приеме общо определение за изкуствен интелект и да се следи за спазването на основните ценности на Европейския съюз, принципите, установени в Хартата на основните права, и международното право относно правата на човека;

М.  като има предвид, че ИИ предоставя безпрецедентни възможности за подобряване на резултатите в транспортния сектор, като спомага за преодоляване на предизвикателствата, свързани с увеличаването на търсенето на пътувания, опасенията във връзка с безопасността и околната среда, като същевременно прави всички видове транспорт по-интелигентни, по-ефикасни и по-удобни;

Н.  като има предвид, че разглеждането на равнището на ЕС на въпросите, свързани с ИИ в областта на отбраната, е абсолютно необходимо за разработването на европейски капацитет в този сектор;

Определение за изкуствен интелект

1.  счита, че е необходимо да се приеме обща европейска правна рамка с хармонизирани определения и общи етични принципи, включваща използването на ИИ за военни цели; поради това призовава Комисията да приеме следните определения:

2.  подчертава, че политиките на Европейския съюз и неговите държави членки в областта на сигурността и отбраната се ръководят от принципите, залегнали в Европейската харта на основните права и в Устава на Организацията на обединените нации, като в последния се съдържа призив към всички държави да се въздържат от отправяне на заплахи за насилие и от употреба на насилие в отношенията помежду им, както и от международното право, от принципите на правата на човека и на зачитането на човешкото достойнство, както и от общо разбиране за универсалните ценности на ненакърнимите и неотчуждими права на човешката личност, на свободата, демокрацията, равенството и правовата държава; подчертава, че всички свързани с отбраната дейности в рамките на Съюза трябва да зачитат тези универсални ценности, като същевременно насърчават мира, стабилността, сигурността и напредъка в Европа и в света;

Международно публично право и използване на изкуствения интелект за военни цели

3.  счита, че ИИ, който се използва във военен и в граждански контекст, трябва да подлежи на човешки контрол, така че във всеки един момент човек да има възможност да го коригира, спре или да го деактивира в случай на непредвидимо поведение, случайна намеса, кибератаки или намеса от трети страни с технология, основаваща се на ИИ, или когато трети страни придобиват такава технология;

4.  счита, че зачитането на международното публично право, по-специално хуманитарното право, което недвусмислено се прилага за всички оръжейни системи и техните оператори, е фундаментално изискване, което държавите членки трябва да спазват, особено при защита на цивилното население или за предприемане на предпазни мерки в случай на нападение, като например военна агресия или кибервойна;

5.  подчертава, че ИИ и свързаните с него технологии могат да играят роля също и в нерегламентирани или нетрадиционни военни действия; предлага към научноизследователската и развойната дейност и използването на ИИ в тези случаи да се прилагат същите условия, както при конвенционални конфликти;

6.  подчертава, че използването на ИИ предоставя възможност за укрепване на сигурността на Европейския съюз и на неговите граждани и че за ЕС е от съществено значение да възприеме интегриран подход при бъдещите международни дебати по тази тема;

7.  призовава научноизследователската общност в областта на ИИ да интегрира този принцип във всички гореспоменати основани на ИИ системи, предназначени за военни цели; счита, че никой орган на властта няма право да въвежда каквито и да било изключения от тези принципи или да сертифицира такава система;

8.  отново заявява, че автономният процес на вземане на решения не следва да освобождава хората от отговорност и че те трябва винаги да носят крайната отговорност за процесите на вземане на решения, така че да може да се установи човекът, отговорен за решението;

9.  подчертава, че при използването на ИИ във военен контекст държавите членки, страните в конфликт, както и отделните лица трябва във всеки един момент да спазват задълженията си съгласно приложимото международно право и да носят отговорност за действията, произтичащи от използването на такива системи; подчертава, че при всички обстоятелства предвижданите, случайните или нежеланите действия и въздействия на системите, основани на ИИ, трябва да се считат за отговорност на държавите членки, страните в конфликт, както и на отделните лица;

10.  приветства възможностите за използване на системи с изкуствен интелект за обучение и учения, чийто потенциал не бива да се подценява, особено като се има предвид, че ЕС провежда учения с двойно гражданско и военно естество;

11.  подчертава, че по време на етапите на проектиране, разработване, внедряване и използване на системи, задействани с ИИ, трябва във всеки един момент да бъдат взети надлежно предвид потенциалните рискове, по-специално по отношение на случайните граждански жертви и травми, случайната загуба на човешки живот и щетите за гражданската инфраструктура, както и рисковете, свързани с неволно участие, манипулация, разпространение, кибератаки, намеса от трети страни с автономна технология, основана на ИИ, или когато трети страни придобиват такава технология;

12.  припомня, че съгласно консултативното становище на Международния съд от 8 юли 1996 г. принципът на оригиналността не може да бъде посочван в подкрепа на която и да било дерогация, отнасяща се до спазването на действащите норми на международното хуманитарно право;

13.  счита, че освен че ще подпомага операциите, ИИ ще бъде от полза и за личния състав на въоръжените сили чрез масирано обработване на техните здравни данни и разширяване на наблюдението на здравето, ще определя рисковите фактори, свързани със средата и условията на труд, и ще предлага подходящи защитни мерки за ограничаване на въздействието върху здравето на служещите;

14.  заявява отново, че регулаторните усилия трябва да бъдат подкрепяни от пълноценни схеми за сертифициране и надзор, както и от ясни механизми, даващи възможност за одитиране, обясняване, отчитане и проследяване, така че регулаторната рамка да не загуби своята актуалност вследствие на технологичните промени;

15.  подчертава колко важно е участието на Европейския съюз в един извънредно свързан свят за създаването на международна правна рамка за използването на изкуствения интелект; настоятелно призовава ЕС да поеме водеща роля и съвместно с Организацията на обединените нации и международната общност да играе активна роля в насърчаване на тази глобална рамка, уреждаща използването на ИИ за военни и други цели, като се гарантира, че това използване остава строго в рамките на ограниченията, установени от международното право и международното хуманитарно право, по-специално Женевските конвенции от 12 август 1949 г.; подчертава, че тази рамка не трябва по никакъв начин да нарушава или да позволява да се нарушават повелите на обществената съвест и хуманността, както се посочва в клаузата „Мартенс“, и трябва да е съобразена с правилата за безопасност и изискванията за защита на потребителите; настоятелно призовава ЕС и държаните членки да определят надеждни системи за наблюдение и оценка за разработването на технологии в областта на ИИ, по-специално тези, използвани за военни цели в авторитарни държави;

16.  подчертава, че роботиката не само ще даде възможност на военния персонал да стои на разстояние, но и ще предостави по-добра самозащита, като например при операции в заразена среда, борба с пожари, разчистване на мини на сушата или в морето и отбрана срещу рояци от дронове;

17.  подчертава факта, че разработването, внедряването, използването и управлението на ИИ трябва да зачитат основните права, ценности и свободи, залегнали в Договорите на ЕС, и призовава държавите членки да се въздържат от внедряването на високорискови системи с ИИ, които представляват заплаха за основните права; отбелязва публикуването на Бялата книга на Комисията за изкуствения интелект и насърчава по-задълбоченото изследване на потенциалния риск за основните права, който произтича от използването на ИИ от държавните органи и агенции, органите и институциите на Европейския съюз;

18.  призовава Комисията да улесни научните изследвания и разискването на възможностите за използване на ИИ за предоставяне на помощ при бедствия, предотвратяване на кризи и поддържане на мира;

19.  приветства създаването на група на ООН от правителствени експерти за насърчаване на отговорното поведение на държавите в кибернетичното пространство в контекста на международната сигурност и призовава ЕС да взема цялостно участие в работата на тази група;

20.  призовава върховния представител на Съюза по въпросите на външните работи и политиката на сигурност и заместник-председател на Комисията (върховен представител/заместник-председател) да подготви почвата за преговори в световен мащаб с оглед на въвеждането на режим за контрол над оръжията, използващи ИИ, и актуализирането на всички съществуващи договорни инструменти относно контрола върху въоръженията, разоръжаването и неразпространението на оръжия, така че да бъдат взети предвид задействаните с ИИ системи, използвани при воденето на военни действия; призовава за обща позиция на Съвета, определяща общи правила за режим на контрол върху износа на военни технологии и оборудване, така че изцяло да се вземат предвид и да се обхванат оръжейните системи, задействани с ИИ;

21.  повтаря, че тези правила трябва винаги да спазват принципите, посочени в Римската конвенция от 17 юли 1998 г., за забрана на геноцид, на престъпления срещу човечеството и на военни престъпления;

22.  посочва явните рискове, свързани с вземането на решения от страна на човек, ако тези решения се основават единствено на генерирани от машини данни, профили и препоръки; посочва, че цялостната структура на основаните на ИИ системи следва също така да включва насоки относно надзор и контрол от страна на човек; призовава да бъде наложено задължение за прозрачност и обяснимост на приложенията с ИИ и необходимостта от човешка намеса, а също така и други мерки, като например независими одити и специални стрес тестове, за да се улесни и осигури спазването на изискванията; подчертава, че такива одити следва да се извършват периодично от независим орган, който ще осъществява надзор на високорисковите приложения с ИИ, използвани от държавни органи или от военни сили;

23.  подчертава, че е важно да се провери как високорисковите технологии с ИИ достигат до решения; припомня, че трябва да се съблюдават принципите на недискриминация и пропорционалност и че трябва да бъдат изяснени въпросите за причинно-следствената връзка, задълженията и отговорността, както и прозрачността, отчетността и обяснимостта, за да се определи дали и в каква степен държавата като активен субект на международното публично право, но също така и като упражнява своята компетентност, може да действа с помощта на системи, базирани на ИИ, с определена самостоятелност, без да нарушава задълженията, произтичащи от международното право, като правото на справедлив процес;

24.  набляга на значението на това да се инвестира в човешки умения, включително цифрови умения, за да могат лицата, упражняващи регулирани професии, включително дейности, свързани с упражняването на държавна власт, например правораздаване, да се адаптират към научния напредък, включващ основаните на ИИ решения; призовава държавите членки и Комисията да вземат надлежно това предвид като част от изпълнението на Директива 2005/36/ЕО(11);

25.  настоява, че системите с ИИ трябва винаги да спазват принципите на отговорност, равенство, управляемост, предпазливост, отчетност, носене на отговорност, предсказуемост, проследимост, надеждност, доверие, прозрачност, обяснимост, способност да откриват възможните промени в обстоятелствата и оперативната среда, разликата между бойци и цивилни лица, както и принципа на пропорционалност; подчертава, че при последния принцип законността на дадено военно действие зависи от запазването на баланс между целта и използваните средства, и оценката на тази пропорционалност трябва винаги да се извършва от човек;

26.  подчертава, че при използването на системи, задействани с ИИ, в областите на сигурността и отбраната, е необходимо пълно разбиране на ситуацията от човешкия оператор, предсказуемост, надеждност и устойчивост на системите, задействани с ИИ, както и способност на човешкия оператор за откриване на евентуални промени в обстоятелствата и оперативната среда и способност да се намесва в или да преустановява нападение, за да се гарантира, че принципите на международното хуманитарно право, по-специално принципите на разграничение, пропорционалност и предпазливост при нападения, се прилагат напълно по цялата верига на командване и контрол; подчертава, че системите, задействани с ИИ, трябва да позволяват на отговорните лица да упражняват пълноценен контрол, да поемат цялата отговорност за системите и да отговарят във всички случаи на употреба на тези системи; призовава Комисията да насърчава диалога, по-тясното сътрудничество и полезните взаимодействия между държавите членки, изследователите, представителите на академичните среди, участниците от гражданското общество, по-специално водещите дружества, както и военните власти, за да се гарантира, че процесите на изготвяне на политики за свързаните с отбраната регламенти в областта на ИИ са приобщаващи;

27.  подчертава, че Парламентът призова за изготвяне и спешно приемане на обща позиция относно смъртоносните автономни оръжейни системи (LAWS), за предотвратяването на разработването, производството и употребата на автономни смъртоносни оръжейни системи, способни да нападат без значим контрол от страна на човека, както и за започване на действителни преговори за тяхната забрана; в тази връзка припомня своята резолюция от 12 септември 2018 г. относно автономните оръжейни системи; припомня, че терминът „смъртоносни автономни оръжейни системи“ (LAWS) означава оръжейни системи без значим контрол от страна на човека по отношение на функциите от решаващо значение, а именно намирането и атакуването на цели; подчертава, че всяко решение за избор на цел и за предприемане на смъртоносни действия посредством оръжейни системи с определена степен на автономност винаги трябва да се взема от човешки оператори, упражняващи пълноценен контрол, наблюдение и необходимата преценка в съответствие с принципите на пропорционалност и необходимост; подчертава, че при никакви обстоятелства не може да се позволява задействани с ИИ системи да заменят човешки решения в тази област;

28.  отбелязва също така, че въпросът за автономните оръжейни системи като специфична категория изкуствен интелект във военната област следва да бъде обсъждан и договарян на международно равнище, по-специално в рамките на форума на Конвенцията на ООН за някои конвенционални оръжия; обръща внимание на текущия международен дебат относно LAWS за регулиране на нововъзникващи военни технологии, при който до настоящия момент не е постигнато споразумение; посочва, че ЕС едва неотдавна постигна съгласие да започне да обсъжда последиците от развитието на ИИ и цифровизацията в сектора на отбраната; счита, че ЕС може да играе съществена роля в подпомагането на държавите членки при хармонизирането на техния подход към ИИ във военната сфера, за да ръководи международни дискусии;

29.  настоява за необходимостта от общоевропейска стратегия срещу LAWS и забрана на т.нар. „роботи убийци“;

30.  подчертава, че ИИ, използван във военен контекст, трябва да отговаря на минимален набор от изисквания, по-специално следва да е в състояние да разграничава бойци, лица, които не са бойци на бойното поле, и бойци на бойното поле, да разпознава кога участник в бойните действия се предава или е извън битката, да нямат безразборни последици, да не причиняват ненужно страдание на хора, да не са пристрастни или обучени на базата на умишлено непълни данни и да спазват принципите на международното хуманитарно право, пропорционалност при използването на сила и предпазливост преди намесата;

31.  счита, че използването на смъртоносните автономни оръжейни системи поставя основни етични и правни въпроси относно способността на човека да контролират тези системи и изисква технологията, основаваща се на ИИ, да не може да взема автономни решения, свързани с правните принципи на разграничаване, пропорционалност и предпазливост;

32.  призовава за прозрачни намаляващи риска мерки на международно равнище за разработването и използването на военен ИИ, по-специално по отношение на принципите на териториална цялост, ненамеса и използването на сила; подчертава, че при разглеждането на правните и етичните въпроси в европейската рамка относно ИИ е важно да се вземат предвид военните аспекти; припомня своята позиция относно забраната на разработването, производството и използването на LAWS; изразява съжаление, че не съществуват изрични конвенции в световен мащаб за използването на тези оръжия;

33.  признава, че динамиката на съвременната надпревара във въоръжаването, която произтича от разработването от големите във военно отношение държави на смъртоносни автономни оръжейни системи, изпреварва напредъка и ефективното всеобщо прилагане и изпълнение на общи правила и правни рамки, тъй като информацията за разработването и внедряването на тези системи е класифицирана и националните държави имат очевиден интерес от създаването на най-бърз и най-ефективен нападателен капацитет, без да бъдат вземани предвид съществуващите и потенциалните бъдещи правни рамки или принципи;

34.  счита, че LAWS следва да бъдат използвани само като крайна мярка и да бъдат законни само ако подлежат на строг контрол от страна на човека, като човекът има възможност да поеме командването по всяко време, тъй като пълноценната човешка намеса и надзор са от съществено значение в процеса на вземане на смъртоносни решения и тъй като човешките същества следва винаги да носят отговорност при вземането на решения за избор между живота и смъртта; счита, че системите, неподлежащи на какъвто и да било контрол и надзор от страна на човека („human off the loop“) трябва да бъдат забранени без никакви изключения и при всички обстоятелства;

35.  призовава върховния представител/заместник-председател, държавите членки и Европейския съвет да разработят и приемат спешно обща позиция относно автономните оръжейни системи, която да гарантира значим контрол от страна на човека по отношение на функциите от решаващо значение на тези системи, включително по време на тяхното използване, да заемат единна позиция в рамките на съответните форуми и да действат в съответствие с тази позиция; във връзка с това призовава върховния представител/заместник-председател, държавите членки и Съвета да споделят най-добри практики и идеи от експерти, представители на академичните среди и гражданското общество, както е отразено в позицията от 12 септември 2018 г. относно автономните оръжейни системи, в която се посочва, че нападенията винаги следва да се извършват със значителна човешка намеса;

36.  насърчава всички държави да направят оценка на това дали и как автономните военни изделия са допринесли за националната им сигурност и каква може да бъде евентуалната полза за тяхната национална сигурност от оръжейни системи, задействани с ИИ, по‑специално от потенциала на тези технологии за подпомагане и повишаване на нивото на вземането на решения от хора в съответствие с международното хуманитарно право и неговите принципи; припомня, че всяка смъртоносна автономна оръжейна система или всяко оръжие с висока степен на автономност може да функционират неправилно поради лошо съставен код или кибернетична атака от страна на вражеска държава или недържавен субект;

37.  настоява, че LAWS следва да се използват само в специфични случаи и в съответствие с процедури за разрешаване, уредени предварително и подробно в текстове, до които съответната държава – независимо дали е член на Организацията на Северноатлантическия договор, или не – осигурява публичен достъп или поне достъп за своя национален парламент;

38.  счита, че LAWS трябва да спазват разпоредбите на Конвенцията от 10 октомври 1980 г. относно определени конвенционални оръжия, и по-специално забраната за причиняване на „прекомерни наранявания“;

39.  предлага, за да се предотврати неконтролираното им разпространение, LAWS да бъдат включени в списъка на оръжията, за които се прилагат разпоредбите на Договора за търговията с оръжие от 2 април 2013 г. – списък, включен в член 2 от този договор;

40.  с цел да се избегне всяко объркване на хора с роботи, изисква забрана на антропоморфизацията на LAWS;

41.  приветства споразумението между Съвета и Парламента за изключване на смъртоносните автономни оръжия „които не разполагат с възможност за значим контрол от страна на човека по отношение на решенията за подбор и атакуване при извършването на нападения“ от дейностите, финансирани по линия на Европейския фонд за отбрана (ЕФО); припомня своята позиция, че използването, разработването или производството на LAWS, които не подлежат на значим контрол от страна на човека, не отговаря на условията за финансиране по линия на ЕФО;

42.  призовава Комисията да подкрепи научните изследвания, разработването, внедряването и използването на ИИ за опазването на мира и предотвратяването на конфликти;

43.  отбелязва, че глобалната екосистема на ИИ е доминирана от американски и китайски цифрови гиганти, които развиват вътрешния капацитет и купуват много обещаващи дружества; поради това изразява твърдото си убеждение, че с цел да се избегне изоставане в областта на технологиите за изкуствен интелект, ЕС трябва да постигне напредък в установяване на по-добър баланс между фундаменталните изследвания и промишлените приложения, като същевременно се разработят сравнителни стратегически предимства чрез по-нататъшно изграждане на собствения му потенциал и ресурси;

44.  подчертава, че доколкото попадат в обхвата на определението за машина, посочено в Директива 2006/42/ЕО(12), роботите следва да бъдат проектирани и сглобени в съответствие със стандартите и мерките за безопасност, предвидени там;

45.  припомня амбицията на ЕС да бъде световен фактор за мир и призовава за разширяване на ролята му в усилията за глобално разоръжаване и неразпространение на оръжия, както и за действия и политики от негова страна за поддържане на международния мир и сигурност, като се гарантира спазването на международното хуманитарно право и на правото в областта на правата на човека, както и защитата на цивилните лица и на гражданската инфраструктура;

46.  подчертава необходимостта от проучване на потенциалното въздействие на ИИ като стратегически фактор за общата политика за сигурност и отбрана (ОПСО) на ЕС, особено във военните и гражданските мисии и операции, както и за развитието на способностите на ЕС;

47.  припомня, че самите наши съюзници на национално равнище, в рамките на НАТО или на ЕС са в процес на интегриране на ИИ в своите военни системи; счита, че оперативната съвместимост с нашите съюзници трябва да бъде запазена посредством общи стандарти, които са от съществено значение за провеждането на операции в коалиция; припомня, че освен това сътрудничеството в областта на ИИ следва да се осъществява в обхвата на европейска рамка, която – както се предлага в стратегията на ЕС за ИИ – е единствената подходяща рамка за действително генериране на мощни полезни взаимодействия;

48.  счита, че ЕС трябва внимателно да наблюдава и разглежда последиците от напредъка в областта на ИИ в полза на отбраната и военните действия, включително потенциално дестабилизиращо разработване и внедряване, и да ръководи научните изследвания и разработки по етични въпроси, като гарантира неприкосновеността на личните данни и личния достъп и контрол, както и взема предвид икономическите и хуманитарните въпроси;

49.  припомня своята позиция от 12 септември 2018 г. относно автономните оръжейни системи, в която се посочва, че не трябва да се осъществяват военни удари без пълноценна човешка намеса; призовава върховния представител на Съюза по въпросите на външните работи и политиката на сигурност и заместник-председател на Комисията, държавите членки и Европейския съвет да приемат обща позиция относно автономните оръжейни системи, която да гарантира пълноценен контрол от страна на човека върху критичните функции на оръжейните системи, включително по време на разгръщане; потвърждава своята подкрепа за работата на групата от експерти на ООН по въпросите на смъртоносните автономни оръжейни системи, съставена от експерти на държавите – страни по Конвенцията за конвенционалните оръжия, която продължава да бъде съответният международен форум за дискусии и преговори относно правните предизвикателства, породени от автономните оръжейни системи; призовава за ускоряване на всички текущи многостранни усилия, така че нормативните и регулаторните рамки да не бъдат изпреварени от технологичното развитие и от новите методи за водене на война; призовава върховния представител/заместник-председател, в рамките на продължаващите дискусии относно международната регулация на LAWS от страна на държавите – страни по ККО, да продължи ангажимента си и да помогне незабавно за напредъка на усилията за изработването на нова регулаторна рамка на световно равнище и на правно обвързващ инструмент, уреждащ определенията, концепциите и характеристиките на нововъзникващите технологии в областта на LAWS, етичните и правните въпроси, свързани с човешкия контрол, особено що се отнася до техните функции от решаващо значение, като например подбора и атакуването на дадена цел, запазването на отговорността и отчетността на човека и на необходимата степен на взаимодействие между човек и машина, включително концепцията за контрол и преценка, извършвани от човек; призовава тези усилия да гарантират спазването на международното хуманитарно право и на правото в областта на правата на човека по време на различните етапи от жизнения цикъл на задействаните с ИИ оръжия, с цел договаряне на конкретни препоръки за изясняване, разглеждане и разработване на аспекти на нормативната рамка, свързани с нововъзникващите технологии в областта на LAWS;

50.  счита, че за глобалната сигурност е от първостепенно значение да има ефективен механизъм за прилагане на правилата за неразпространение на LAWS и за всякакви бъдещи технологии в областта на ИИ с нападателна цел;

Държавна власт: примери от граждански области, включително от здравеопазването и правосъдието

51.  подчертава, че държавите членки трябва да действат ефективно за намаляване на зависимостта си от чуждестранни данни и без да нарушават в значителна степен правилата на пазара, да следят за това притежаването от влиятелни частни групи на най-усъвършенстваните технологии в областта на ИИ да не поставя под въпрос публичната власт или дори да я заменя с частни субекти, особено ако тези частни групи са собственост на трета държава извън Европейския съюз;

52.  подчертава, че използването на системите с ИИ в процеса на вземане на решения от публичните органи може да доведе до пристрастни решения, които засягат неблагоприятно гражданите и следователно следва да подлежат на строги критерии за контрол по отношение, наред с другото, на тяхната сигурност, прозрачност, отчетност, недискриминация, социална и екологична отговорност; настоятелно призовава държавите членки да направят оценка на рисковете, свързани с решенията, основани на ИИ, във връзка с упражняването на държавна власт, и да осигурят гаранции, като например пълноценен надзор от страна на човека, изисквания за прозрачност и възможност за обжалване на тези решения;

53.  настоятелно призовава държавите членки да направят оценка на рисковете, свързани с технологиите, основани на ИИ, преди да автоматизират дейностите, свързани с упражняването на държавна власт, като правораздаването; призовава държавите членки да обмислят необходимостта да се осигурят гаранции, като надзор от квалифициран специалист и стриктни правила относно професионалната етика;

54.  подчертава значението на предприемането на действия на европейско равнище за насърчаване на така необходимите инвестиции, инфраструктура за данни, научни изследвания, включително научни изследвания в областта на използването на изкуствен интелект от страна на публичните органи, и обща етична рамка;

55.  подчертава, че Европейският съюз трябва да се стреми към стратегическа устойчивост, така че никога повече да не се окаже неподготвен в случай на криза, и изтъква, че това е от изключително значение, особено по отношение на изкуствения интелект и неговите приложения във военната сфера; подчертава, че веригите на доставка на системите с ИИ за военни цели, които могат да доведат до технологична зависимост, следва да бъдат преразгледани и тези зависимости следва да бъдат постепенно премахнати; призовава за увеличаване на инвестициите в европейски ИИ за отбранителни цели и в критичната инфраструктура, която го поддържа;

56.  приканва Комисията да направи оценка на последиците от мораториум върху използването на системи за лицево разпознаване и, в зависимост от резултатите от тази оценка, да разгледа възможността за мораториум върху използването на тези системи в публичното пространство от публичните органи и в помещенията, предназначени за образование и здравеопазване, както и върху използването на системи за лицево разпознаване от правоприлагащите органи в не изцяло публични пространства, като например летищата, докато техническите стандарти могат да се считат за напълно съответстващи на основните права, получените резултати са непредубедени и недискриминиращи, както и съществуват строги предпазни мерки срещу злоупотреби, които гарантират необходимостта и пропорционалността на използването на тези технологии;

57.  подчертава значението на киберсигурността за ИИ както при офанзивни, така и при дефанзивни сценарии; във връзка с това отбелязва значението на международното сътрудничество и на публикуването и споделянето на слабости в сигурността на ИТ и начини за справяне с тях; призовава за международно сътрудничество в областта на киберсигурността за ефективно използване и внедряване на ИИ, както и за предпазни мерки срещу кибератаки и злоупотреба с ИИ; отбелязва освен това двойната употреба на ИТ системите (т.е. използването за граждански и военни цели) и на ИИ и призовава за тяхното ефективно регулиране;

58.  счита, че държавите членки следва да насърчават технологиите в областта на ИИ, които работят за хората, и че лицата, които са били обект на решение на публичен орган въз основа на информацията от система с ИИ, следва да бъдат информирани за това, да получават бързо посочената в предходния параграф информация, да им е предоставена възможност за обжалване на това решение и да изберат жалбата да бъде разгледана без намесата на система, използваща изкуствен интелект; призовава държавите членки да обмислят необходимостта да създадат гаранции, както е предвидено в Директива (ЕС) 2018/958(13), като надзор от квалифициран специалист и правила относно професионалната етика;

59.  подчертава, че правенето на предвиждания въз основа на обмена, достъпа или използването на такива данни трябва да се управлява от изискванията за качество, почтеност, прозрачност, сигурност, неприкосновеност на личния живот и контрол; подчертава необходимостта през цялото време на разработването, внедряването и използването на ИИ, роботиката и свързаните с тях технологии да се спазва правната рамка на ЕС относно защитата на данните и неприкосновеността на личния живот, така че да се повишат сигурността и доверието на гражданите в тези технологии;

60.  отбелязва бързото развитие на основаващите се на ИИ приложения, които разпознават уникални характерни елементи, като лицеви характеристики, движения и нагласи; предупреждава за проблемите, свързани с нарушаването на неприкосновеността на личния живот, на недискриминацията и защитата на личните данни, свързани с използването на автоматизирани приложения за разпознаване;

61.  подчертава, че всяко решение, отнасящо се до физическо лице, което се основава единствено на автоматизирано обработване, включително профилиране, и което поражда неблагоприятни правни последици за субекта на данните или съществено го засяга, е забранено съгласно ОРЗД, освен ако е разрешено от правото на Съюза или на държавата членка, при спазване на подходящи мерки за защита на правата, свободите и законните интереси на субекта на данните;

62.  призовава за обяснимост на алгоритмите, за прозрачност и регулаторен надзор, когато изкуственият интелект се използва от публичните органи, както и за извършване на оценки на въздействието преди държавните органи да внедрят инструменти, използващи технологии с ИИ; призовава Комисията и Европейския комитет по защита на данните да изготвят насоки и препоръки, както и да разработят най-добри практики, за да уточнят допълнително критериите и условията, приложими за решенията, основаващи се на профилиране и използване на ИИ от страна на държавните органи;

63.  отбелязва, че изкуственият интелект играе все по-фундаментална роля в здравеопазването, по-специално чрез алгоритми за подпомагане на диагностиката, асистирана от роботи хирургия, интелигентни протези, персонализирано лечение въз основа на моделирането на тялото на всеки отделен пациент в три измерения, социални роботи за подпомагане на възрастни хора, цифрови терапии, предназначени да подобрят независимостта на някои психично болни хора, прогнозна медицина и софтуер за реакция при епидемии;

64.  при все това настоява при всяко използване на ИИ в общественото здравеопазване да се гарантира защитата на личните данни на пациентите и да се избягва неконтролираното разпространение на тези данни;

65.  призовава при всяко използване на ИИ в общественото здравеопазване да се зачита принципът на равното третиране на пациентите по отношение на достъпа до лечение, да се запазва връзката лекар – пациент и във всеки един момент да се зачита Хипократовата клетва, така че лекарят винаги да може да се отклонява от решението, предложено от ИИ, като по този начин остава отговорен за всяко решение;

66.  отбелязва, че използването на ИИ в борбата с престъпността и киберпрестъпността би могло да донесе широк спектър от възможности и шансове; същевременно потвърждава, че следва да продължи да се налага принципът „което е незаконно офлайн, е незаконно и онлайн“;

67.  отбелязва, че ИИ все повече се използва в областта на правосъдието, за да се вземат по-рационални решения, които са в по-точно съответствие с действащото законодателство; приветства факта, че се очаква използването на ИИ да ускори съдебните производства;

68.  счита, че е необходимо да се изясни дали е целесъобразно решенията на правоприлагащите органи да бъдат частично делегирани на ИИ, като същевременно се запази човешкият контрол върху окончателното решение;

69.  подчертава, че използването на ИИ в съдебната система би могло да подобри анализа и събирането на данни и защитата на жертвите и че това би могло да бъде проучено в научноизследователската и развойната дейност и придружено от оценки на въздействието, по-специално по отношение на гаранциите за справедлив процес и срещу предубежденията и дискриминацията, като се прилага принципът на предпазливост; припомня обаче, че това не представлява замяна на участието на човека при постановяване на присъди или вземането на решения;

70.  припомня значението на принципите на управление, прозрачност, безпристрастност, отчетност, справедливост и интелектуална неприкосновеност при използването на ИИ в наказателното правосъдие;

71.  настоятелно призовава държавите членки да направят оценка на рисковете, свързани с технологиите, основани на ИИ, преди да автоматизират дейностите, свързани с упражняването на държавна власт, особено в областта на правосъдието; призовава държавите членки да обмислят необходимостта от осигуряване на гаранции, като надзор от квалифициран специалист и правила относно професионалната етика;

72.  отбелязва, че някои технологии с ИИ позволяват автоматизиране на обработката на информация и действия в безпрецедентен мащаб, като например масово наблюдение в гражданската и военната област, което представлява заплаха за основните права и проправя път за незаконна намеса в държавния суверенитет; призовава за упражняване на контрол върху дейностите за масово наблюдение съгласно нормите на международното право, включително по отношение на въпросите, свързани с юрисдикцията и правоприлагането; изразява сериозна загриженост относно някои вече разработени приложения за социален ранкинг с висока степен на вмешателство, тъй като те сериозно застрашават зачитането на основните права; призовава за изрична забрана на използването на масов социален ранкинг от страна на публичните органи като средство за ограничаване на правата на гражданите; призовава за засилване на отчетността на частните субекти в съответствие с международното право предвид хегемонията и контрола върху вземането на решения на някои частни субекти над разработването на тези технологии; в този контекст призовава Комисията, Съвета и държавите членки да обърнат особено внимание на преговорите, сключването и ратифицирането на международни споразумения, свързани с трансграничните семейни дела, като например международното отвличане на деца, и да гарантират, че в този контекст системите на ИИ винаги се използват при ефективна проверка от човека и при зачитане на справедливия съдебен процес в рамките на ЕС и в държавите – страни по посочените споразумения;

73.  изисква обществеността да бъде информирана относно използването на ИИ в областта на правосъдието и това използване да не поражда дискриминация, произтичаща от програмни дефекти; подчертава, че трябва да се зачита правото на всяко лице да има достъп до публично длъжностно лице, както и правото на отговорното длъжностно лице лично да взема решение и да се отклонява от решението, предложено от ИИ, когато счита това за необходимо с оглед на подробностите по съответния въпрос; подчертава правото на обвиняемия да обжалва решението в съответствие с националното законодателство, като в никакъв случай не се премахва отговорността на съдебния орган;

74.  призовава следователно всички тези употреби в публичната и административната сфера да се считат за информация, която е обществено достояние, и да се избягва дискриминация поради програмни дефекти;

75.  подчертава, че е важно да се предостави възможност за подходящо внедряване и използване на ИИ; призовава държавите членки да осигурят подходящо обучение на своя граждански и военен персонал, за да може той точно да идентифицира и избягва дискриминация и пристрастност в наборите от данни;

76.  изразява дълбока загриженост във връзка с технологиите за дълбинно фалшифициране, които дават възможност за създаването на все по-реалистични фалшификации на снимки, аудио- и видеоматериали, които биха могли да се използват за изнудване, за генериране на фалшиви новини или за подкопаване на общественото доверие и оказване на влияние върху обществения дискурс; счита, че подобни практики имат потенциал за дестабилизиране на държави, разпространяване на дезинформация и влияние върху избори; поради това призовава за задължение всички материали, представляващи дълбинни фалшификати, или други реалистично изглеждащи синтетични видеоматериали да бъдат обозначени от създателя си с етикет „недействително“, както и за строги ограничения при тяхното използване за изборни цели и за надеждни политики на прилагане; призовава за подходящи научни изследвания в тази област, за да се гарантира, че технологиите за противодействие на тези явления вървят в крак със злонамереното използване на ИИ;

Транспорт

77.  отбелязва значителният икономически потенциал на приложенията с ИИ, включително за оптимизиране на дългосрочните резултати, поддръжка, прогнозиране на сривове и планиране на строителството в областта на транспортната инфраструктура и сгради, както и за безопасност, енергийна ефективност и разходи; поради това призовава Комисията да продължи да насърчава научните изследвания в областта на ИИ, както и обмена на добри практики в областта на транспорта;

78.  подчертава необходимостта от популяризиране на изкуствения интелект с цел насърчаване на мултимодалността, оперативната съвместимост и енергийната ефективност на всички видове транспорт с цел повишаване на ефективността на организацията и управлението на движението на потоците от стоки и пътници, по-добро използване на инфраструктурата и ресурсите в рамките на трансевропейската транспортна мрежа (TEN‑T) и преодоляване на пречките пред създаването на истинско единно европейско транспортно пространство;

79.  припомня ползите от Европейската система за управление на железопътното движение (ERTMS) – безпрепятствена система за автоматична защита на влаковете, и подкрепя развитието и международната стандартизация на автоматизацията на железопътните операции;

80.  приветства работата на Проекта за изследване на управлението на въздушното движение в единното европейско небе (SESAR) по отношение на безпилотните летателни системи и системите за управление на въздушното движение както в гражданския, така и във военния сектор;

81.  припомня, че автономните превозни средства имат голям потенциал за подобряване на мобилността и безопасността, както и че те могат да носят ползи за околната среда, и призовава Комисията и държавите членки да осигурят сътрудничество между регулаторите и всички заинтересовани страни във връзка с въвеждането на автоматизирани превозни средства в ЕС;

82.  отбелязва, че секторът на корабоплаването в световен мащаб се промени значително благодарение на интегрирането на ИИ през последните години; припомня текущите всеобхватни обсъждания в Международната морска организация относно ефективното интегриране в регулаторната ѝ рамка на нови и нововъзникващи технологии, като например автономни кораби;

83.  подчертава, че интелигентните транспортни системи намаляват задръстванията, повишават безопасността и достъпността и допринасят за подобряване на управлението на потоците на пътното движение, ефикасността и възможностите за мобилност; обръща внимание, че традиционните транспортни мрежи са изложени в по-голяма степен на киберзаплахи; припомня значението на наличието на достатъчно ресурси и по-нататъшните изследвания на рисковете за сигурността за гарантирането на безопасността на автоматизираните системи и техните данни; приветства намерението на Комисията да включи киберсигурността като редовна точка от дневния ред за обсъждане в рамките на свързаните с транспорта международни организации;

84.  приветства усилията за въвеждане на системи с ИИ в публичния сектор и ще подкрепи по-нататъшните дискусии относно внедряването на ИИ в транспорта; призовава Комисията да извърши оценка на използването на ИИ и подобни технологии в транспортния сектор и да състави неизчерпателен списък на високорисковите сегменти в системите с ИИ, заместващи решенията в рамките на прерогативите на публичните органи в тази област;

85.  подчертава, че Европейският фонд за отбрана и постоянното структурирано сътрудничество следва да стимулират сътрудничеството между държавите членки и европейската отбранителна промишленост, за да се разработят нови европейски отбранителни способности в областта на ИИ и да се гарантира сигурността на доставките, като се вземат предвид етичните съображения; подчертава необходимостта от избягване на разпокъсаност чрез изграждане на мостове между различните участници и области на приложение, като се насърчава съгласуваността и оперативната съвместимост на всички равнища и се поставя акцент върху съвместната работа по архитектурни и платформени решения; припомня освен това, че следващият Механизъм за свързване на Европа, който също насърчава интелигентната инфраструктура, ще осигури фонд за адаптирането и развитието на гражданска или военна транспортна инфраструктура с двойна употреба в трансевропейската транспортна мрежа (TEN‑T) с цел повишаване на полезните взаимодействия между потребностите, свързани с отбраната, и гражданските нужди и подобряване на военната мобилност в рамките на Съюза; във връзка с това подчертава необходимостта от допълнителни европейски инвестиции, научни изследвания и лидерство в технологиите, характеризиращи се както с осезаемо въздействие върху икономическия растеж, така и със значителен потенциал за двойна употреба;

86.  подчертава, че множество инвестиции в нови технологии в областта на транспорта и мобилността са пазарно ориентирани, но че често търговски стандартни технологии и продукти с двойна употреба биват използвани по новаторски начини за военни цели; във връзка с това подчертава, че потенциалът за двойна употреба в решения, задействани от ИИ, трябва да бъде вземан под внимание, когато се изготвят стандарти за използване на ИИ в различни области на търговския и военния сектор; призовава за включването на високи етични стандарти и политики при разработването на отбранителни технологии, продукти и оперативни принципи;

87.  изтъква, че ефективният превоз на стоки, боеприпаси, въоръжение и войски е съществен елемент от успешните военни операции; подчертава, че се очаква ИИ да играе важна роля и да създава многобройни възможности в областта на военната логистика и транспорт; посочва, че държавите по света, включително държавите – членки на ЕС, интегрират оръжейни и други системи с ИИ в сухопътни, военноморски и военновъздушни платформи; припомня, че приложенията с ИИ в транспортния сектор биха могли да осигурят нови възможности и да позволят нови форми на тактика, като например съчетаването на множество системи, като безпилотни летателни апарати, безпилотни кораби или танкове, в независимо и координирано действие;

Международно частно право

88.  отбелязва, че тъй като поради нарастващия международен характер на човешката дейност възникват все по-голям брой съдебни спорове по международното частно право – онлайн или в реалния свят, ИИ може да помага за разрешаването им, като създава модели, даващи възможност да се установява компетентността и приложимото право за всеки отделен случай, но също така и да се определят най-чувствителните стълкновения на закони и да се предлагат решения за тяхното уреждане;

89.  при все това счита, че за използването на ИИ в международното частно право трябва обществеността да бъде информирана по подходящ начин, да се избягва дискриминация при програмирането, която би довела до системно предпочитание към едно, а не друго национално право, трябва да се зачита правото на предварително определен от закона съд, да се дава възможност за обжалване в съответствие с приложимото право и да се позволява на всеки съдия да не се съобразява с решението, предлагано от ИИ;

90.  подчертава, че движението на автономни превозни средства в Европейския съюз, което може да породи особено голям брой международни частноправни спорове, трябва да бъде предмет на специални европейски правила, определящи приложимия правен режим в случай на трансгранични вреди;

91.  изтъква, че в контекста на нарастващото значение на научноизследователската и развойна дейност в частния сектор и значителните инвестиции от трети държави ЕС е изправен пред силна конкуренция; поради това подкрепя усилията на ЕС за по-нататъшно развитие на неговите конкурентни предимства и счита, че ЕС следва да се стреми да действа като фактор, определящ стандартите за ИИ в един извънредно свързан свят, като приеме ефективна стратегия спрямо своите външни партньори, която ускорява усилията му за установяване на световни етични норми за ИИ на международно равнище в съответствие с правилата за безопасност и изискванията за защита на потребителите, както и с европейските ценности и правата на гражданите, включително основните права; счита, че това е от ключово значение и за конкурентоспособността и устойчивостта на европейските дружества; призовава Комисията и държавите членки да засилят сътрудничеството с трети държави и международни организации, като например ООН, ОИСР, Г-7 и Г-20, и да се ангажират с по-широк диалог за справяне с предизвикателствата, произтичащи от развитието на тази бързо променяща се технология; счита, че тези усилия следва да са насочени, по-специално към установяване на общи стандарти и подобряване на оперативната съвместимост на системите, задействани с ИИ; призовава Комисията да насърчава диалога, по-тясното сътрудничество и полезните взаимодействия между държавите членки, изследователите, представителите на академичните среди, участниците от гражданското общество, по-специално водещите дружества, както и военните власти, за да се гарантира, че процесите на изготвяне на политики за свързаните с отбраната регламенти в областта на ИИ са приобщаващи;

Ръководни принципи

92.  счита, че технологиите с ИИ и мрежовите системи следва да са насочени към осигуряване на правна сигурност за гражданите; поради това подчертава, че стълкновителните норми и правилата за юрисдикциите следва да продължат да се прилагат, като същевременно се отчитат интересите на гражданите, както и необходимостта от намаляване на риска от търсене на най-благоприятната правна система; припомня, че ИИ не могат да заменят човешкото участие в съдебния процес, когато става въпрос за постановяване на присъда или за вземане на каквото и да било окончателно решение, тъй като тези решения трябва да се вземат винаги от човек и да се подчиняват на строга проверка от страна на човек и на правилата на справедливия съдебен процес; настоява, че при използването на доказателства, осигурени от технологии с помощта на ИИ, съдебните органи следва да са задължени да изложат мотивите за своите решения;

93.  припомня, че ИИ е продукт на научния прогрес, който не трябва да води до отстъпление в правото, а точно обратното, да бъде винаги обхванат от правна рамка – в Европейския съюз от правото на неговите институции и на неговите държави членки – и че при никакви обстоятелства не може ИИ, роботиката и свързаните с тях технологии да нарушават основните права, демокрацията и върховенството на закона;

94.  подчертава, че използването на ИИ за целите на отбраната следва да бъде: отговорно, справедливо, проследимо, надеждно и управляемо;

95.  счита, че изкуственият интелект, роботиката и свързаните с тях технологии, включително софтуерът, алгоритмите и данните, използвани или генерирани от такива технологии независимо от отрасъла, в който се използват, следва да бъдат разработвани по сигурен и технически стриктен начин;

o
o   o

96.  възлага на своя председател да предаде настоящата резолюция на Съвета и на Комисията.

(1) ОВ L 180, 19.7.2000 г., стр. 22. (2) ОВ L 303, 2.12.2000 г., стр. 16. (3) OВ L 119, 4.5.2016 г., стр. 1. (4) OВ L 119, 4.5.2016 г., стр. 89. (5) ОВ L 252, 8.10.2018 г., стр. 1. (6) ОВ C 252, 18.7.2018 г., стр. 239. (7) ОВ C 307, 30.8.2018 г., стр. 163. (8) OВ C 433, 23.12.2019 г., стр. 86. (9) ОВ C 433, 23.12.2019 г., стр. 42. (10) ОВ C 449, 23.12.2020 г., стр. 37. (11) Директива 2005/36/EО на Европейския парламент и на Съвета от 7 септември 2005 г относно признаването на професионалните квалификации (OB L 255, 30.9.2005 г., стр. 22). (12) Директива 2006/42/ЕО на Европейския парламент и на Съвета от 17 май 2006 г относно машините и за изменение на Директива 95/16/ЕО (OB L 157, 9.6.2006 г., стр. 24). (13) Директива (ЕС) 2018/958 на Европейския парламент и на Съвета от 28 юни 2018 г относно проверката за пропорционалност преди приемането на ново регулиране на професии (OB L 173, 9.7.2018 г., стр. 25).