POROČILO o umetni inteligenci: tolmačenje in uporaba mednarodnega prava, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja

4.1.2021 - (2020/2013(INI))

Odbor za pravne zadeve
Poročevalec: Gilles Lebreton
Pripravljavec mnenja (*):
Urmas Paet, Odbor za zunanje zadeve
(*) Postopek s pridruženimi odbori – člen 57 Poslovnika

Predlogi sprememb

• 001-001 (PDF - 111 KB)
• 001-001 (DOC - 72 KB)

PREDLOG RESOLUCIJE EVROPSKEGA PARLAMENTA

o umetni inteligenci: tolmačenje in uporaba mednarodnega prava, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja

(2020/2013(INI))

Evropski parlament,

– ob upoštevanju preambule Pogodbe o Evropski uniji (PEU) in njenih členov 2, 3, 10, 19, 20, 21, 114, 167, 218, 225 in 227,

– ob upoštevanju pravice do peticije v skladu s členoma 20 in 227 Pogodbe o delovanju Evropske unije (PDEU),

– ob upoštevanju Listine Evropske unije o temeljnih pravicah,

– ob upoštevanju Direktive Sveta 2000/43/ES z dne 29. junija 2000 o izvajanju načela enakega obravnavanja oseb ne glede na raso ali narodnost (direktiva o rasni enakosti)[1],

– ob upoštevanju Direktive Sveta 2000/78/ES z dne 27. novembra 2000 o splošnih okvirih enakega obravnavanja pri zaposlovanju in delu (direktiva o enakem obravnavanju pri zaposlovanju)[2],

– ob upoštevanju Uredbe (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (splošna uredba o varstvu podatkov)[3] ter Direktive (EU) 2016/680 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov, ki jih pristojni organi obdelujejo za namene preprečevanja, preiskovanja, odkrivanja ali pregona kaznivih dejanj ali izvrševanja kazenskih sankcij, in o prostem pretoku takih podatkov ter o razveljavitvi Okvirnega sklepa Sveta 2008/977/PNZ[4],

– ob upoštevanju Uredbe Sveta (EU) 2018/1488 z dne 28. septembra 2018 o ustanovitvi Skupnega podjetja za evropsko visokozmogljivostno računalništvo[5],

– ob upoštevanju predloga uredbe Evropskega parlamenta in Sveta z dne 6. junija 2018 o vzpostavitvi programa za digitalno Evropo za obdobje 2021–2027 (COM(2018)0434),

– ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki[6],

– ob upoštevanju svoje resolucije z dne 1. junija 2017 o digitalizaciji evropske industrije[7],

– ob upoštevanju svoje resolucije z dne 12. septembra 2018 o avtonomnih orožnih sistemih[8],

– ob upoštevanju svoje resolucije z dne 11. septembra 2018 o enakopravnosti jezikov v digitalni dobi[9],

– ob upoštevanju svoje resolucije z dne 12. februarja 2019 o celoviti evropski industrijski politiki na področju umetne inteligence in robotike[10],

– ob upoštevanju sporočila Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij z dne 11. decembra 2019 o evropskem zelenem dogovoru (COM(2019)640),

– ob upoštevanju bele knjige Komisije z dne 19. februarja 2020 o umetni inteligenci – evropski pristop k odličnosti in zaupanju (COM(2020)0065),

– ob upoštevanju sporočila Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij z dne 19. februarja 2020 o evropski strategiji za podatke (COM(2020)0066),

– ob upoštevanju sporočila Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij z dne 19. februarja 2020 o oblikovanju digitalne prihodnosti Evrope (COM(2020)0067),

– ob upoštevanju poročila strokovne skupine na visoki ravni za umetno inteligenco, ki jo je junija 2018 ustanovila Evropska komisija, z dne 8. aprila 2019 z naslovom Etične smernice za zaupanja vredno umetno inteligenco,

– ob upoštevanju Okvirne konvencije Sveta Evrope za varstvo narodnih manjšin, protokola št. 12 h Konvenciji o varstvu človekovih pravic in temeljnih svoboščin ter Evropske listine o regionalnih ali manjšinskih jezikih,

– ob upoštevanju evropske etične listine za uporabo umetne inteligence v pravosodnih sistemih in njihovem okolju, ki jo je decembra 2018 sprejela delovna skupina Sveta Evrope za kakovost pravosodja (CEPEJ-GT-QUAL),

– ob upoštevanju priporočil sveta Organizacije za gospodarsko sodelovanje in razvoj o umetni inteligenci, sprejetih 22. maja 2019,

– ob upoštevanju člena 54 Poslovnika,

– ob upoštevanju mnenj Odbora za zunanje zadeve, Odbora za notranji trg in varstvo potrošnikov, Odbora za promet in turizem in Odbora za državljanske svoboščine, pravosodje in notranje zadeve,

– ob upoštevanju poročila Odbora za pravne zadeve (A9-0001/2021),

Uvod

A. ker se umetna inteligenca, robotika in sorodna tehnologija hitro razvijajo in neposredno vplivajo na vse vidike družbe, vključno z osnovnimi družbenimi in gospodarskimi načeli in vrednotami;

B. ker je umetna inteligenca s korenito preobrazbo delovanja vojske, zlasti z vključevanjem in uporabo novih tehnologij in avtonomnih zmogljivosti, sprožila revolucijo v vojaški doktrini in opremi;

C. ker so ljudje tisti, ki razvijajo in oblikujejo t. i. umetno inteligenco, robotiko in sorodno tehnologijo ter odločajo, kakšen bo potencial tehnologije, da bo koristil družbi;

D. ker mora skupni okvir Unije zajemati razvoj, uvajanje in uporabo umetne inteligence, robotike in sorodne tehnologije ter zagotavljati spoštovanje človekovega dostojanstva in človekovih pravic, kot so zapisane v Listini Evropske unije o temeljnih pravicah;

E.  ker imajo Unija in njene države članice posebno dolžnost zagotoviti, da bodo umetna inteligenca, robotika in sorodna tehnologija zaradi možnosti njihove čezmejne uporabe osredotočene na človeka, kar pomeni, da bi morale v osnovi služiti človeštvu in skupnemu dobremu, da bi prispevale k blaginji in splošnemu interesu njihovih državljanov; ker bi morala Unija državam članicam pomagati, da to dosežejo, zlasti tistim, ki so začele razmislek o možnem razvoju pravnih standardov ali zakonodajnih spremembah na tem področju;

F. ker bi lahko evropskim državljanom koristil ustrezen, učinkovit, pregleden in usklajen regulativni pristop na ravni Unije, s katerim bi opredelili dovolj jasne pogoje za razvoj aplikacij v podjetjih in načrtovanje njihovih poslovnih modelov, hkrati pa zagotovili, da bodo Unija in njene države članice ohranile nadzor nad sprejemanjem predpisov, da ne bodo prisiljene sprejeti ali se zadovoljiti s standardi, ki jih določijo drugi;

G. ker so etične smernice, kot so načela, ki jih je sprejela strokovna skupina na visoki ravni za umetno inteligenco, dobro izhodišče, vendar niso dovolj, da bi se zagotovila pošteno ravnanje podjetij in učinkovito varstvo posameznikov;

H. ker je treba zaradi te posebne dolžnosti preučiti vprašanja o tolmačenju in uporabi mednarodnega prava v zvezi z dejavnim sodelovanjem EU v mednarodnih pogajanjih, kadar to pravo velja za EU pri civilni in vojaški rabi tovrstne umetne inteligence, robotike in sorodne tehnologije, ter vprašanja o pristojnosti države pri rabi te tehnologije zunaj kazenskega pravosodja;

I. ker je nujno zagotoviti ustrezen in celovit pravni okvir za etične vidike teh tehnologij ter za odgovornost in preglednost (zlasti za umetno inteligenco, robotiko in sorodno tehnologijo z visokim tveganjem); ker je treba pri tem okviru upoštevati, da evropske in univerzalne humanistične vrednote veljajo za celotno vrednostno verigo razvoja, izvajanja in uporabe umetne inteligence; ker se mora ta etični okvir uporabljati za razvoj (vključno z raziskavami in inovacijami), uvajanje in uporabo umetne inteligence, pri tem pa v celoti spoštovati pravo Unije in vrednote iz Listine Evropske unije o temeljnih pravicah;

J. ker je naš namen proučiti, v kolikšnem obsegu so pravila mednarodnega prava, tako javnega kot zasebnega, in prava EU primerna za obravnavanje teh tehnologij, ter opozoriti na izzive in tveganja, ki jih te tehnologije pomenijo za izvajanje pristojnosti države, da bi jih lahko ustrezno in sorazmerno obvladovali;

K. ker Evropska komisija v svoji beli knjigi ne obravnava vojaških vidikov uporabe umetne inteligence;

L. ker je za usklajen evropski pristop k tej problematiki potrebna enotna opredelitev umetne inteligence, zagotoviti pa je treba tudi spoštovanje temeljnih vrednot Evropske unije, načel Listine o temeljnih pravicah in mednarodne zakonodaje o človekovih pravicah;

M. ker umetna inteligenca ponuja povsem nove možnosti za izboljšave v delovanju prometnega sektorja, saj rešuje izzive vse večjega povpraševanja po prevozih, varnosti in okoljevarstvu, obenem pa omogoča pametnejše, učinkovitejše in prikladnejše načine prevoza;

N. ker je obravnavanje umetne inteligence na obrambnem področju na ravni EU nujno za razvoj njenih zmogljivosti v tem sektorju;

Opredelitev umetne inteligence

1. meni, da je nujno sprejeti skupni evropski pravni okvir z usklajenimi opredelitvami pojmov in skupnimi etičnimi načeli, vključno z uporabo umetne inteligence za vojaške namene; zato poziva Komisijo, naj sprejme naslednje opredelitve pojmov:

– „sistem umetne inteligence“ pomeni sistem, ki ali v celoti temelji na programski opremi ali pa je vgrajen v strojno opremo in ki z ravnanjem posnema inteligenco, tako da med drugim zbira in obdeluje podatke, preučuje in razlaga svoje okolje ter vsaj delno avtonomno dosega specifične cilje;

– „avtonomen“ pomeni, da sistem umetne inteligence obratuje tako, da razlaga določene podatke in uporablja niz vnaprej določenih navodil, ne da bi ga ta omejevala, vendar je ravnanje sistema omejeno z izpolnitvijo cilja, ki mu je bil določen in v katerega je usmerjen, ter drugimi ustreznimi konstrukcijskimi odločitvami, ki jih je sprejel njegov razvijalec;

2. poudarja, da varnostna in obrambna politika Evropske unije in njenih držav članic temelji na načelih Listine EU o temeljnih pravicah in Ustanovne listine Organizacije združenih narodov (ta vse države poziva, naj se vzdržijo groženj ali uporabe sile v medsebojnih odnosih) in mednarodnega prava, načelih človekovih pravic in spoštovanja človekovega dostojanstva ter na skupnem razumevanju univerzalnih vrednot nedotakljivosti in neodtujljivosti človekovih pravic, svobode, demokracije, enakosti in pravne države; poudarja, da morajo vse dejavnosti na obrambnem področju v Uniji spoštovati te univerzalne vrednote, hkrati pa spodbujati mir, stabilnost, varnost in napredek v Evropi in svetu;

Mednarodno javno pravo in vojaška raba umetne inteligence

3. meni, da mora umetno inteligenco, ki se uporablja na vojaškem in civilnem področju, ustrezno nadzorovati človek, tako da lahko kadar koli popravi napako ali prekine delovanje ter jo onemogoči v primeru nepredvidenega vedenja, naključnega posredovanja, kibernetskih napadov ali vmešavanja tretjih oseb s tehnologijo, ki temelji na umetni inteligenci, ali kadar tretje osebe pridobijo tako tehnologijo;

4. meni, da je spoštovanje mednarodnega javnega prava, zlasti humanitarnega prava, ki se nedvoumno uporablja za vse orožne sisteme in njihove upravljavce, temeljna zahteva, ki jo morajo izpolnjevati države članice, zlasti pri zaščiti civilnega prebivalstva ali pri sprejemanju previdnostnih ukrepov v primeru napada, kot je vojaška agresija ali kibernetska vojna;

5. poudarja, da sta lahko umetna inteligenca in sorodna tehnologija pomembni tudi v neregularnem ali nekonvencionalnem vojskovanju; predlaga, da bi morali v teh primerih za raziskave, razvoj in uporabo umetne inteligence veljati enaki pogoji kot za uporabo v konvencionalnem vojskovanju;

6. poudarja, da je uporaba umetne inteligence priložnost za krepitev varnosti Evropske unije in njenih državljanov ter da mora EU v prihodnjih mednarodnih razpravah to temo obravnavati celostno;

7. poziva raziskovalno skupnost na področju umetne inteligence, naj to načelo vključi v vse navedene sisteme, ki temeljijo na umetni inteligenci in so namenjeni vojaški uporabi; meni, da noben organ ne more opredeliti nobenih izjem od teh načel ali potrditi takega sistema;

8. ponovno izjavlja, da avtonomno odločanje človeka ne sme odvezati odgovornosti in da mora končno odgovornost za odločanje vedno nositi človek, da je mogoče opredeliti, kdo je odgovoren za odločitev;

9. poudarja, da morajo države članice, stranke v konfliktu in posamezniki pri uporabi umetne inteligence na vojaškem področju vedno spoštovati obveznosti po veljavnem mednarodnem pravu in prevzeti odgovornost za dejanja, ki so rezultat uporabe teh sistemov; poudarja, da morajo biti v vseh okoliščinah za pričakovana, naključna ali neželena dejanja in učinke sistemov, ki temeljijo na umetni inteligenci, odgovorne države članice, stranke v konfliktu in posamezniki;

10. pozdravlja možnost uporabe sistemov umetne inteligence za usposabljanje in vaje, katerih potenciala se ne bi smelo podcenjevati, zlasti ker EU izvaja vaje civilne in vojaške narave;

11. poudarja, da je treba med zasnovo, razvojem, preskušanjem, uvajanjem in uporabo sistemov, ki temeljijo na umetni inteligenci, vedno ustrezno upoštevati morebitna tveganja v zvezi z nenamernimi civilnimi žrtvami in poškodbami, nenamerno izgubo življenj in škodo na civilni infrastrukturi, pa tudi tveganja, povezana z nenamerno sprožitvijo, manipulacijo, širjenjem, kibernetskimi napadi, vmešavanjem tretjih oseb z avtonomno tehnologijo, ki temelji na umetni inteligenci, ali da tretje osebe pridobijo to tehnologijo;

12. opozarja, da se v skladu s svetovalnim mnenjem Meddržavnega sodišča z dne 8. julija 1996 ni mogoče sklicevati na načelo izvirnosti za utemeljitev kakršnega koli odstopanja od skladnosti z veljavnimi standardi mednarodnega humanitarnega prava;

13. meni, da bo umetna inteligenca poleg podpore operacijam koristila tudi osebju oboroženih sil, saj bo omogočila obsežno obdelavo zdravstvenih podatkov in razširitev spremljanja zdravja, opredelila dejavnike tveganja v zvezi z okoljem in delovnimi pogoji ter predlagala ustrezne zaščitne ukrepe za omejitev vplivov na zdravje osebja;

14. ponavlja, da je treba regulativna prizadevanja podpreti z ustreznimi sistemi za certificiranje in nadzor ter mehanizmi za revizijo, razložljivost, odgovornost in sledljivost, da regulativni okvir zaradi tehnološkega razvoja ne bi zastarel;

15. poudarja, da je v hiperpovezanem svetu izjemno pomembno, da se Evropska unija vključi v oblikovanje mednarodnega pravnega okvira o uporabi umetne inteligence: poziva EU, naj prevzame vodilno vlogo in skupaj z Organizacijo Združenih narodov in mednarodno skupnostjo dejavno spodbuja vzpostavitev tega globalnega okvira za uporabo umetne inteligence v vojaške in druge namene ter zagotovi, da bo ta uporaba ostala v mejah, ki jih določa mednarodno pravo, zlasti ženevske konvencije z dne 12. avgusta 1949; poudarja, da ta okvir ne sme nikoli kršiti ali dovoliti kršitev zahtev javne vesti in človečnosti, kot je navedeno v martensovi klavzuli, in mora biti skladen z varnostnimi predpisi in zahtevami za varstvo potrošnikov; poziva EU in države članice, naj za razvoj tehnologij umetne inteligence, zlasti tiste, ki se uporabljajo za vojaške namene v avtoritarnih državah, opredelijo zanesljiv nadzorni sistem in sistem vrednotenja;

16. poudarja, da robotika vojaškemu osebju ne bo omogočila le ohranjanje razdalje, ampak bo zagotovila tudi boljšo samozaščito, na primer v operacijah v kontaminiranem okolju, pri gašenju požarov, odstranjevanju min na kopnem in morju ter obrambi pred roji dronov;

17. poudarja, da je treba pri razvoju, uvedbi, uporabi in upravljanju umetne inteligence spoštovati temeljne pravice, vrednote in svoboščine, zapisane v Pogodbah EU, ter poziva države članice, naj ne uvajajo sistemov umetne inteligence z visokim tveganjem, ki ogrožajo temeljne pravice; je seznanjen, da je Komisija objavila belo knjigo o umetni inteligenci, in spodbuja k poglobljenim raziskavam morebitnega tveganja za temeljne pravice, ki bi nastalo z uporabo umetne inteligence v državnih organih ter agencijah, organih in institucijah Evropske unije;

18. poziva Komisijo, naj spodbuja raziskave in razpravo o možni uporabi umetne inteligence za pomoč pri nesrečah, preprečevanje kriz in ohranjanje miru;

19. pozdravlja ustanovitev skupine vladnih strokovnjakov OZN za spodbujanje odgovornega ravnanja držav v kibernetskem prostoru v kontekstu mednarodne varnosti in poziva EU, naj v celoti sodeluje pri njenem delu;

20. poziva podpredsednika Komisije/visokega predstavnika za zunanje zadeve in varnostno politiko, naj utre pot pogajanjem na svetovni ravni za vzpostavitev sistema za nadzor orožja, ki temelji na umetni inteligenci, in posodobitev vseh obstoječih pogodbenih instrumentov, namenjenih nadzoru orožja, razoroževanju in neširjenju orožja, da se vključijo vojskovanju namenjeni sistemi, ki temeljijo na umetni inteligenci; poziva, naj skupno stališče Sveta, ki opredeljuje skupna pravila glede nadzora izvoza vojaške tehnologije in opreme, v celoti upošteva orožne sisteme, ki temeljijo na umetni inteligenci;

21. ponovno poudarja, da morajo ta pravila dosledno spoštovati načela rimskega statuta z dne 17. julija 1998 o prepovedi genocida, hudodelstev zoper človečnost in vojnih zločinov;

22. opozarja na očitna tveganja pri odločitvah, ki jih sprejemajo ljudje, če izhajajo samo iz podatkov, profilov in priporočil, ki jih ustvarijo stroji; poudarja, da bi bilo treba pri splošni zasnovi sistemov umetne inteligence oblikovati tudi smernice za človekovo spremljanje in nadzor; poziva k določitvi obveznosti glede preglednosti in razložljivosti aplikacij umetne inteligence ter obveznosti človeškega posredovanja, pa tudi drugih ukrepov, kot so neodvisne revizije in posebni stresni testi za spodbujanje in zagotavljanje skladnosti; poudarja, da bi moral takšne revizije redno izvajati neodvisni organ, da bi nadzoroval aplikacije umetne inteligence z visokim tveganjem, ki jih uporabljajo državni organi ali vojska;

23. poudarja, da je treba preveriti, kako tehnologije umetne inteligence sprejmejo odločitve; opozarja, da je treba spoštovati načeli nediskriminacije in sorazmernosti ter pojasniti vprašanja vzročnosti, krivde, odgovornosti in razložljivosti, pa tudi preglednosti, prevzemanja odgovornosti in razložljivosti, da bo mogoče določiti, ali in v kolikšni meri lahko država kot akter v mednarodnem javnem pravu, pa tudi pri izvajanju svoje oblasti, ukrepa s pomočjo sistemov, ki temeljijo na umetni inteligenci, ki imajo določeno stopnjo avtonomije, ne da bi kršila obveznosti, ki izhajajo iz mednarodnega prava, kot je dolžno pravno postopanje;

24. poudarja, kako pomembno je, da se vlaga v človeške spretnosti, vključno z digitalnimi spretnostmi, da se prilagodimo znanstvenemu napredku glede rešitev na podlagi umetne inteligence, zlasti za posameznike v reguliranih poklicih, vključno z dejavnostmi, ki so povezane z izvajanjem državnih pristojnosti, kot je pravosodje; poziva države članice in Komisijo, naj to ustrezno upoštevajo pri izvajanju Direktive 2005/36/ES;

25. vztraja, da morajo biti sistemi umetne inteligence vedno skladni z načeli odgovornosti, enakosti, upravljanja, previdnosti, prevzemanja odgovornosti, pripisovanja odgovornosti, predvidljivosti, sledljivosti, zanesljivosti, zaupanja, preglednosti, razložljivosti, zmožnosti zaznavanja morebitnih sprememb okoliščin in operativnega okolja, razlikovanja med borci in osebami, ki v sovražnostih niso aktivno udeležene, in sorazmernosti; poudarja, da je zaradi zadnjega načela zakonitost vojaškega ukrepa odvisna od ravnotežja med ciljem in uporabljenimi sredstvi ter da mora spoštovanje tega načela vedno oceniti človek;

26. poudarja, da so pri uporabi sistemov, ki temeljijo na umetni inteligenci, na področju varnosti in obrambe popolno poznavanje razmer s strani upravljavca, predvidljivost, zanesljivost in odpornost sistema, ki temelji na umetni inteligenci, sposobnost upravljavca, da prepozna morebitne spremembe okoliščin in operativnega okolja, ter njegova zmožnost poseči v ali prekiniti napad potrebni za zagotovitev, da se načela mednarodnega humanitarnega prava, zlasti razločevanje, sorazmernost in previdnost pri napadih, v celoti uporabljajo v celotni verigi poveljevanja in nadzora; poudarja, da morajo sistemi, ki temeljijo na umetni inteligenci, omogočati, da pristojni človek prevzame dejanski nadzor nad sistemi in nosi odgovornost za vse vrste uporabe teh sistemov; poziva Komisijo, naj spodbuja dialog, tesnejše sodelovanje in sinergije med državami članicami, raziskovalci, akademiki, subjekti civilne družbe, zasebnim sektorjem, zlasti vodilnimi podjetji, in vojsko, da bi zagotovili vključujoč proces oblikovanja politik za regulacijo umetne inteligence na obrambnem področju;

27. poudarja, da je Parlament pozval k pripravi osnutka in nujnemu sprejetju skupnega stališča o smrtonosnih avtonomnih orožnih sistemih, da se preprečijo razvoj, proizvodnja in uporaba smrtonosnih avtonomnih orožnih sistemov z zmogljivostjo za napadanje brez dejanskega človeškega nadzora, ter k začetku učinkovitih pogajanj o njihovi prepovedi; želi v zvezi s tem spomniti na svojo resolucijo z dne 12. septembra 2018 o avtonomnih orožnih sistemih; ker se izraz „smrtonosni avtonomni orožni sistemi“ uporablja za orožne sisteme, pri katerih ljudje nimajo pravega nadzora nad kritičnimi funkcijami ciljanja in napadanja posameznih tarč; poudarja, da morajo odločitev o izbiri tarče in izvajanju smrtonosnih akcij z oborožitvenimi sistemi z določeno stopnjo avtonomije vedno sprejeti človeški upravljavci z ustreznim nadzorom in pregledom, ki morajo pri presoji upoštevati načeli sorazmernosti in nujnosti; poudarja, da se sistemom, ki temeljijo na umetni inteligenci, v nobenem primeru ne sme dovoliti, da nadomestijo človeško odločanje na tem področju;

28. ugotavlja tudi, da bi bilo treba o avtonomnih orožnih sistemih, ki sodijo v posebno kategorijo umetne inteligence na vojaškem področju, razpravljati in se o njih dogovoriti na mednarodni ravni, zlasti v forumu OZN o nekaterih vrstah klasičnega orožja; opozarja na sedanjo mednarodno razpravo o smrtonosnih avtonomnih orožnih sistemih, s katero bi zakonsko uredili nove vojaške tehnologije, ki zaenkrat še ni bila uspešna; poudarja, da se je EU šele nedavno dogovorila, da bo začela razpravljati o učinkih razvoja umetne inteligence in digitalizacije na obrambni sektor; meni, da lahko EU bistveno pripomore k temu, da države članice uskladijo pristop k vojaški umetni inteligenci, da bo lahko vodila mednarodne razprave;

29. vztraja, da sta nujni strategija EU proti smrtonosnim avtonomnim orožnim sistemom in prepoved tako imenovanih ubijalskih robotov;

30. poudarja, da mora umetna inteligenca v vojaškem okviru izpolnjevati vsaj minimalne zahteve, in sicer mora biti zmožna razlikovati vsaj med borci in osebami, ki v sovražnostih niso aktivno udeležene, ter borci na bojišču, prepoznati, ko se borec preda ali je onesposobljen za boj, ne sme delovati enako ne glede na cilj, ne sme povzročati nepotrebnega trpljenja ljudem, ne sme biti pristranska ali usposobljena na podlagi namerno nepopolnih podatkov ter mora biti skladna z načeli mednarodnega humanitarnega prava, sorazmernosti pri uporabi sile in previdnosti pred posredovanjem;

31. meni, da se ob uporabi smrtonosnih avtonomnih orožnih sistemov postavljajo temeljna etična in pravna vprašanja glede zmožnosti človeškega nadzora nad temi sistemi, in zahteva, da se tehnologiji, ki temelji na umetni inteligenci, ne sme dovoliti sprejemanje samostojnih odločitev, ki vključujejo pravna načela razlikovanja, sorazmernosti in previdnosti;

32. se zavzema za uvedbo preglednih ukrepov na mednarodni ravni, s katerimi bi zmanjšali tveganja pri razvoju in uporabi vojaške umetne inteligence, zlasti glede načel ozemeljske celovitosti, neposeganja in uporabe sile; poudarja, da je treba v evropskem okviru za umetno inteligenco pri obravnavanju pravnih in etičnih vprašanj upoštevati vojaške vidike umetne inteligence; spominja na svoje stališče o prepovedi razvoja, proizvodnje in uporabe smrtonosnih avtonomnih orožnih sistemov; obžaluje, da ni globalnih konvencij, ki bi izrecno obravnavale uporabo tega orožja;

33. priznava, da sodobna oboroževalna tekma med vojaškimi velesilami na področju razvoja smrtonosnih avtonomnih orožnih sistemov prehiteva napredek ter učinkovito in splošno uporabo ter izvrševanje skupnih pravil in pravnih okvirov, saj sta razvoj in uvajanje teh sistemov tajna, nacionalne države pa imajo notranji interes, da ustvarijo najhitrejše in najučinkovitejše napadalne zmogljivosti, ne glede na sedanje in morebitne prihodnje pravne okvire ali načela;

34. meni, da bi se smrtonosni avtonomni orožni sistemi smeli uporabljati samo kot zadnja možnost in da so zakoniti samo, če so pod strogim nadzorom človeka, ki mora imeti možnost, da kadar koli prevzame poveljevanje, saj sta ustrezno človeško posredovanje in nadzor bistvena v postopku sprejemanja smrtonosnih odločitev, ljudje pa bi morali vedno prevzeti odgovornost, kadar se odloča o življenju in smrti; meni, da je treba sisteme brez človeškega nadzora (povsem avtonomni sistemi – „human off the loop“) in človeškega pregleda prepovedati brez izjem in v vseh okoliščinah;

35. poziva podpredsednika/visokega predstavnika, države članice in Evropski svet, naj nujno oblikujejo in sprejmejo skupno stališče o avtonomnih orožnih sistemih, s katerim bi zagotovili smiselni človeški nadzor nad ključnimi funkcijami orožnih sistemov, tudi med njihovo uporabo, na ustreznih forumih nastopajo enotno in delujejo v skladu s tem; v zvezi s tem poziva podpredsednika/visokega predstavnika, države članice in Svet k izmenjavi dobrih praks in zbiranju prispevkov strokovnjakov, akademikov in civilne družbe, kot je opredeljeno v stališču z dne 12. septembra 2018 o avtonomnih orožnih sistemih, ki določa, da mora pri napadih vedno ustrezno posredovati človek;

36. spodbuja vse države, naj ocenijo, ali avtonomne vojaške naprave prispevajo k njihovi nacionalni varnosti in kako ter kakšne koristi bi lahko imela njihova nacionalna varnost od orožnih sistemov, ki temeljijo na umetni inteligenci, zlasti kar zadeva potencial takšnih tehnologij, da podprejo in izboljšajo človekovo odločanje v skladu z mednarodnim humanitarnim pravom in njegovimi načeli; opozarja, da lahko pri vsakem smrtonosnem avtonomnem orožnem sistemu ali orožju z visoko stopnjo avtonomije pride do napake v delovanju zaradi slabo napisane programske kode ali kibernetskega napada sovražne države ali nedržavnega subjekta;

37. vztraja, da bi bilo treba uporabo smrtonosnih avtonomnih orožnih sistemov dovoliti samo v natančno določenih primerih in na podlagi postopkov za dovoljenje, ki bi morali biti podrobno določeni vnaprej, zadevna država – ne glede na to, ali je članica Organizacije Severnoatlantske pogodbe – pa bi morala dostop do dokumentov o teh postopkih zagotoviti javnosti ali vsaj nacionalnemu parlamentu;

38. meni, da je treba pri uporabi smrtonosnih avtonomnih orožnih sistemov spoštovati določbe Konvencije z dne 10. oktobra 1980 o nekaterih vrstah klasičnega orožja, zlasti prepoved povzročanja „čezmernih travmatičnih učinkov“;

39. predlaga, da bi se smrtonosni avtonomni orožni sistemi vključili na seznam orožja, za katerega veljajo določbe pogodbe o trgovini z orožjem z dne 2. aprila 2013 in ki je navedeno v členu 2 te pogodbe, da bi preprečili njihovo nenadzorovano širjenje;

40. se zavzema za prepoved antropomorfizacije smrtonosnih avtonomnih orožnih sistemov, da bi se izognili vsakršnemu zmotnemu zamenjevanju teh sistemov s človekom;

41. pozdravlja dogovor Sveta in Parlamenta o izključitvi smrtonosnega avtonomnega orožja „brez možnosti smiselnega človeškega nadzora nad odločitvami o izbiri in sodelovanju pri izvajanju napadov“ iz ukrepov, ki se financirajo iz Evropskega obrambnega sklada; želi spomniti na svoje stališče, da uporaba, razvoj ali proizvodnja smrtonosnih avtonomnih orožnih sistemov brez smiselnega človeškega nadzora niso upravičeni do financiranja iz Evropskega obrambnega sklada;

42. poziva Komisijo, naj podpre raziskave, razvoj, uvajanje in uporabo umetne inteligence za ohranjanje miru in preprečevanje konfliktov;

43. ugotavlja, da imajo v globalnem ekosistemu na področju umetne inteligence prevladujoč položaj ameriški in kitajski digitalni velikani, ki razvijajo domače zmogljivosti in kupujejo številna obetavna podjetja; je zato trdno prepričan, da mora EU na področju tehnologije umetne inteligence bolje uravnotežiti osnovne raziskave in industrijske aplikacije ter hkrati s krepitvijo svojega potenciala in virov razvijati primerjalne strateške prednosti, da ne bi zaostajala na tem področju;

44. poudarja, da bi morali biti roboti, kolikor sodijo v opredelitev strojev iz Direktive 2006/42/ES, zasnovani in sestavljeni v skladu s standardi in varnostnimi ukrepi iz te direktive;

45. opozarja, da si EU prizadeva biti globalni akter na področju zagotavljanja miru, in poziva k razširitvi njene vloge pri prizadevanjih za razoroževanje in neširjenje orožja ter k oblikovanju ukrepov in politik, s katerimi bi prispevali k ohranjanju svetovnega miru in varnosti, zagotovili spoštovanje mednarodnega humanitarnega prava in prava s področja človekovih pravic ter zaščitili civiliste in civilno infrastrukturo;

46. poudarja, da je nujno preučiti, kakšen bi lahko bil vpliv umetne inteligence kot strateškega dejavnika v okviru skupne varnostne in obrambne politike EU (SVOP), zlasti v vojaških in civilnih misijah ter operacijah, in pri razvoju zmogljivosti EU;

47. opozarja, da tudi naše zaveznice na nacionalni ravni oziroma v okviru Nata ali EU umetno inteligenco že vključujejo v svoje vojaške sisteme; meni, da je treba ohraniti interoperabilnost s temi zaveznicami, in sicer s skupnimi standardi, ki so bistveni za izvajanje operacij v koaliciji; opozarja, da bi moralo poleg tega sodelovanje na področju umetne inteligence potekati v evropskem okviru, saj je to edini ustrezen okvir za ustvarjanje pravih in močnih sinergij, kot je predlagano v strategiji EU za umetno inteligenco;

48. meni, da mora EU skrbno spremljati in preučiti posledice napredka na področju umetne inteligence za obrambo in vojskovanje, vključno z morebitnim destabilizacijskim razvojem in uvajanjem, ter usmerjati etične raziskave in načrtovanje ter zagotoviti integriteto osebnih podatkov in dostop posameznika ter nadzor, pri tem pa upoštevati tudi gospodarska in humanitarna vprašanja;

49. opozarja na svoje stališče z dne 12. septembra 2018 o avtonomnih orožnih sistemih, v katerem je zapisano, da se ne izvajajo napadi brez smiselnega človeškega posredovanja; poziva podpredsednika/visokega predstavnika, države članice in Evropski svet, naj sprejmejo skupno stališče o avtonomnih orožnih sistemih, s katerim bi zagotovili smiselni človeški nadzor nad ključnimi funkcijami orožnih sistemov, tudi med njihovo uporabo; ponovno izraža podporo delu skupine vladnih strokovnjakov OZN visokih pogodbenic konvencije o klasičnem orožju na področju smrtonosnih avtonomnih orožnih sistemov, ki ostaja pomemben mednarodni forum za razprave in pogajanja o pravnih izzivih, povezanih z avtonomnimi orožnimi sistemi; poziva k okrepitvi vseh sedanjih večstranskih prizadevanj, da tehnološki razvoj in nove metode vojskovanja ne bodo prehiteli normativnih in regulativnih okvirov; poziva podpredsednika/visokega predstavnika, naj še dalje sodeluje v sedanjih razpravah o mednarodni ureditvi smrtonosnih avtonomnih orožnih sistemov med podpisnicami konvencije o klasičnem orožju ter prispeva k takojšnjemu oblikovanju svetovnega regulativnega okvira in pravno zavezujočega instrumenta, ki bi temeljil na opredelitvah, pojmih in značilnostih novih tehnologij na področju smrtonosnega avtonomnega orožja, etičnih in pravnih vprašanjih človeškega nadzora, zlasti glede kritičnih funkcij, kot sta izbira in opredelitev cilja, ohranitve človeške odgovornosti in potrebne stopnje interakcije med človekom in strojem, vključno s konceptom človeškega nadzora in človeške presoje; poziva, naj ta prizadevanja zagotovijo skladnost z mednarodnim humanitarnim pravom in pravom človekovih pravic v različnih fazah življenjskega cikla orožja, ki temelji na umetni inteligenci, da se doseže dogovor o posebnih priporočilih glede pojasnitve, obravnave in razvoja vidikov normativnega okvira o nastajajočih tehnologijah na področju smrtonosnih avtonomnih orožnih sistemov;

50. meni, da je za svetovno varnost nujen učinkovit mehanizem za izvrševanje pravil o neširjenju smrtonosnih avtonomnih orožnih sistemov in vseh prihodnjih ofenzivnih tehnologij, ki bodo temeljile na umetni inteligenci;

Pristojnost države: civilna področja, vključno z zdravstvom in pravosodjem

51. poudarja, da morajo države članice učinkovito ukrepati, da bi zmanjšale svojo odvisnost od tujih podatkov, in brez znatnega izkrivljanja trga poskrbeti, da močne zasebne skupine prek svojih najnaprednejših tehnologij umetne inteligence ne bi posegale v pristojnosti javnih organov ali da bi pristojnosti teh organov celo prešle v zasebno sfero, še zlasti, če so te zasebne skupine v lasti tretje države zunaj Evropske unije;

52. poudarja, da so lahko posledica uporabe sistemov umetne inteligence v postopku odločanja javnih organov pristranske odločitve, ki negativno vplivajo na državljane, zaradi česar bi se morala za te sisteme uporabljati stroga merila nadzora, med drugim glede njihove varnosti, preglednosti, odgovornosti, nediskriminacije, družbene in okoljske odgovornosti; poziva države članice, naj ocenijo tveganja v zvezi z odločanjem na podlagi umetne inteligence, povezanim z izvajanjem državnih pristojnosti, in zagotovijo zaščitne ukrepe, kot so smiseln človeški nadzor, zahteve glede preglednosti in možnost izpodbijanja teh odločitev;

53. poziva države članice, naj najprej ocenijo tveganja pri tehnologijah na podlagi umetne inteligence in šele nato avtomatizirajo dejavnosti, povezane z izvajanjem državne oblasti, kot je izvajanje sodne oblasti; poziva države članice k premisleku, ali je treba uvesti zaščitne ukrepe, kot so nadzor kvalificiranega strokovnjaka in stroga pravila o poklicni etiki;

54. poudarja pomen ukrepanja na evropski ravni za pomoč pri spodbujanju nujno potrebnih naložb, podatkovne infrastrukture, raziskav, vključno z raziskavami uporabe umetne inteligence v javnih organih, in skupnega etičnega okvira;

55. poudarja, da si mora Evropska unija prizadevati za strateško odpornost, da ne bo nikoli več nepripravljena v primeru krize, in poudarja, da je to ključno še posebej v zvezi z umetno inteligenco in njeno uporabo na vojaškem področju; poudarja, da bi bilo treba oskrbovalne verige za vojaške sisteme umetne inteligence, ki bi lahko privedli do tehnološke odvisnosti, ustrezno pregledati, to odvisnost pa postopno odpraviti; poziva k večjim naložbam v evropsko umetno inteligenco na področju obrambe in v kritično infrastrukturo, potrebno za ta namen;

56. poziva Komisijo, naj oceni posledice moratorija za uporabo sistemov za prepoznavanje obrazov in glede na ugotovitve te ocene razmisli o moratoriju za javne organe za uporabo teh sistemov na javnih mestih in v prostorih, namenjenih izobraževanju in zdravstvu, in za organe preprečevanja, odkrivanja in preiskovanja kaznivih dejanj za uporabo sistemov za prepoznavanje obrazov v poljavnih prostorih, npr. na letališčih, dokler tehnični standardi ne bodo popolnoma v skladu s spoštovanjem temeljnih pravic, rezultati pa nepristranski in nediskriminatorni, ter bodo obstajali strogi zaščitni ukrepi za preprečevanje zlorabe, ki bodo zagotavljali nujnost in sorazmernost uporabe teh tehnologij;

57. poudarja pomen, ki ga ima kibernetska varnost za umetno inteligenco tako v scenariju napada kot obrambe; v zvezi s tem ugotavlja pomen, ki ga imata mednarodno sodelovanje ter objava in deljenje ranljivosti na področju informacijske varnosti in načinov za njihovo odpravljanje; poziva k mednarodnemu sodelovanju na področju kibernetske varnosti za učinkovito uporabo in uvedbo umetne inteligence ter k zaščitnim ukrepom proti njeni zlorabi in kibernetskim napadom; je tudi seznanjen z dvojno rabo sistemov IT in umetne inteligence (v civilne in vojaške namene) ter poziva k njuni učinkoviti pravni ureditvi;

58. meni, da bi morale države članice spodbujati tehnologije na podlagi umetne inteligence, ki delujejo za ljudi, in da bi bilo treba osebe, glede katerih je javni organ sprejel odločitev na podlagi informacij iz sistema umetne inteligence, o tem obvestiti ter jim brez odlašanja poslati informacije iz predhodnega odstavka, poleg tega pa jim omogočiti tudi spodbijanje te odločitve in izbiro možnosti, da se njihova pritožba reši brez posredovanja sistema umetne inteligence; poziva države članice k premisleku, ali je treba določiti zaščitne ukrepe iz Direktive (EU) 2018/958, kot so nadzor kvalificiranega strokovnjaka in pravila o poklicni etiki;

59. poudarja, da mora biti napovedovanje na podlagi izmenjave, dostopa do podatkov ali njihove uporabe urejeno z zahtevami po kakovosti, integriteti, preglednosti, varnosti, zasebnosti in nadzoru; poudarja, da je treba pri celotnem razvoju, uvajanju in uporabi umetne inteligence, robotike in z njimi povezanih tehnologij spoštovati pravni okvir EU o varstvu podatkov in zasebnosti, da bi povečali varnost in zaupanje državljanov v te tehnologije;

60. opaža hiter razvoj na umetni inteligenci zasnovanih aplikacij za prepoznavanje edinstvenih značilnosti, kot so obrazne poteze, gibanje in vedenje; opozarja na vprašanja vdora v zasebnost, nediskriminacije in varstva osebnih podatkov, povezanih z uporabo avtomatiziranih aplikacij za prepoznavanje;

61. poudarja, da je v skladu s splošno uredbo o varstvu podatkov prepovedana vsaka odločitev o fizični osebi, ki temelji zgolj na avtomatizirani obdelavi, vključno s profiliranjem, in ima škodljive pravne posledice za osebo, na katero se nanašajo podatki, ali je zaradi te odločitve znatno prizadeta, razen če je dovoljena v skladu s pravom Unije ali države članice, pod pogojem, da so sprejeti ustrezni ukrepi za zaščito pravic osebe, na katero se nanašajo podatki, njenih svoboščin in zakonitih interesov;

62. se zavzema, da bi bili algoritmi umetne inteligence, ki jih uporabljajo javni organi, razložljivi, pregledni in pod regulativnim nadzorom, in da se ocene učinka opravijo, preden državni organi uvedejo orodja, ki uporabljajo tehnologije umetne inteligence; poziva Komisijo in Evropski odbor za varstvo podatkov, naj objavita smernice in priporočila ter pripravita primere dobre prakse, v katerih naj podrobneje določita merila in pogoje za odločitve javnih organov na podlagi profiliranja in uporabe umetne inteligence;

63. ugotavlja, da bo imela umetna inteligenca po pričakovanjih vse pomembnejšo vlogo na področju zdravstva, zlasti s podpornimi algoritmi za diagnosticiranje, robotsko podprto kirurgijo, pametno protetiko, posamezniku prilagojenim zdravljenjem na podlagi tridimenzionalnega modeliranja telesa pacientov, z družabnimi roboti v pomoč starejšim, digitalno terapijo za večjo neodvisnost nekaterih duševno bolnih, z napovedovalno medicino in programsko opremo za vnaprejšnjo pripravo na epidemije;

64. vseeno vztraja, da je treba pri vseh oblikah rabe umetne inteligence v javnem zdravstvu spoštovati varstvo osebnih podatkov pacientov in preprečiti nenadzorovano širjenje teh podatkov;

65. poziva, naj se pri vsakršni uporabi umetne inteligence spoštuje načelo enake obravnave pacientov pri zagotavljanju oskrbe, ohrani odnos med pacientom in zdravnikom ter dosledno spoštuje Hipokratova prisega, tako da ima zdravnik vedno možnost, da ne sprejme rešitev, ki jih predlaga umetna inteligenca, ter tako ohrani odgovornost za vse odločitve;

66. ugotavlja, da bi lahko uporaba umetne inteligence v boju proti kriminalu in kibernetskemu kriminalu prinesla številne možnosti in priložnosti; obenem potrjuje, da bi moralo še naprej prevladati načelo „kar je nezakonito zunaj spleta, je nezakonito tudi na spletu“;

67. ugotavlja, da se umetna inteligenca vse pogosteje uporablja v pravosodju, da bi se odločitve sprejemale bolj utemeljeno in bolj v skladu z veljavnim pravom ter hitreje; pozdravlja dejstvo, da bo uporaba umetne inteligence predvidoma pospešila sodne postopke;

68. meni, da je treba razjasniti, ali se odločanje v okviru preprečevanja, odkrivanja in preiskovanja kaznivih dejanj lahko delno prenese na umetno inteligenco in pri tem ohrani človeški nadzor nad končno odločitvijo;

69. poudarja, da bi lahko z uporabo umetne inteligence v pravosodnem sistemu izboljšali zbiranje podatkov in zaščito žrtev, kar bi bilo treba raziskati v okviru raziskav in razvoja ter opraviti tudi ocene učinka, zlasti glede zaščitnih ukrepov za zagotovitev dolžnega pravnega postopanja ter za preprečevanje pristranskosti in diskriminacije, pri tem pa bi bilo treba uporabiti previdnostno načelo; opominja, da to ne more nadomestiti sodelovanja ljudi pri izrekanju kazni ali odločanju;

70. opozarja na pomen, ki ga imajo pri uporabi umetne inteligence v kazenskem pravosodju načela upravljanja, preglednosti, nepristranskosti, odgovornosti, pravičnosti in intelektualne celovitosti;

71. poziva države članice, naj najprej ocenijo tveganja pri tehnologijah na podlagi umetne inteligence in šele nato avtomatizirajo dejavnosti, povezane z izvajanjem državnih pristojnosti, zlasti na področju pravosodja; jih poziva k premisleku, ali je treba uvesti zaščitne ukrepe, kot so nadzor kvalificiranega strokovnjaka in pravila o poklicni etiki;

72. ugotavlja, da določene tehnologije umetne inteligence omogočajo avtomatizacijo obdelave informacij in delovanja v doslej nepoznanem obsegu, npr. množični nadzor na civilnem in vojaškem področju, to pa ogroža temeljne pravice in utira pot nezakonitim posegom v suverenost držav; se zavzema, da bi se dejavnosti množičnega nadzora spremljale v skladu z mednarodnopravnimi standardi, vključno z vprašanji o pristojnosti in izvrševanju; izraža resno zaskrbljenost zaradi nekaterih že razvitih zelo vsiljivih aplikacij socialnega točkovanja, saj zelo ogrožajo spoštovanje temeljnih pravic; poziva k izrecni prepovedi, da bi javni organi uporabljali množično socialno točkovanje kot način za omejevanje pravic državljanov; poziva, naj se glede na to, da imajo nekateri zasebni akterji prevladujoč položaj pri odločanju o razvoju teh tehnologij in ga nadzirajo, poveča njihova odgovornost v skladu z mednarodnim pravom; v zvezi s tem poziva Komisijo, Svet in države članice, naj bodo pozorne zlasti pri pogajanjih o mednarodnih sporazumih v zvezi s čezmejnimi primeri na področju družin, kot so protipravni odvzemi otrok, pri njihovem sklepanju in ratifikaciji, in naj zagotovijo, da se v tem okviru sistemi umetne inteligence vedno uporabljajo z učinkovitim človeškim preverjanjem, ter spoštujejo dolžno pravno postopanje v EU in državah podpisnicah teh sporazumov;

73. zahteva, da se javnost obvešča o rabi umetne inteligence v pravosodju in da se pri tej rabi prepreči diskriminacija zaradi pristranskega programiranja; poudarja, da je treba spoštovati pravico vsakega posameznika do dostopa do javnega uradnika, prav tako pa pravico odgovornega uradnika, da osebno sprejme odločitev in ne upošteva v celoti informacij, ki jih prejme od umetne inteligence, kadar meni, da je to potrebno glede na podrobna dejstva posamezne zadeve; poudarja pravico toženca do pritožbe na odločitev v skladu z nacionalno zakonodajo, pri čemer se nikoli ne sme odpraviti končne odgovornosti pravosodja;

74. zato poziva, naj se vse te javne in upravne rabe obravnavajo kot javno dostopne informacije ter prepreči diskriminacija zaradi pristranskega programiranja;

75. poudarja pomeni ustrezne uvedbe in uporabe umetne inteligence; poziva države članice, naj svojemu civilnemu in vojaškemu osebju zagotovijo ustrezno usposabljanje, da bo lahko natančno prepoznalo in preprečilo diskriminacijo in pristranskost v podatkovnih nizih;

76. je globoko zaskrbljen glede tehnologij za globoko ponarejanje, saj omogočajo izdelavo fotografskih, zvočnih in video ponaredkov, ki so vse bolj realistični in bi se lahko uporabili za izsiljevanje, ustvarjanje lažnih novic, spodkopavanje zaupanja javnosti in vplivanje na javno razpravo; meni, da bi lahko te prakse destabilizirale države, širile dezinformacije in vplivale na volitve; zato poziva Komisijo, naj uvede obveznost, da mora ustvarjalec vse globoke ponaredke ali druge realistično sintetizirane videoposnetke označiti kot nepristne, in naj strogo omeji njihovo uporabo za volitve in poskrbi za dosledno izvrševanje; v zvezi s tem poziva k ustreznim raziskavam na tem področju, da bi se lahko na pojav zlonamerne uporabe umetne inteligence še naprej pravočasno odzvali s tehnologijami za boj proti njim;

Promet

77. je seznanjen z velikim ekonomskim potencialom aplikacij umetne inteligence, tudi za optimizacijo dolgoročnega delovanja, vzdrževanje, napovedi okvar in načrtovanje gradnje prometne infrastrukture in stavb, pa tudi za varnost, energijska učinkovitost in stroške; poziva Komisijo, naj zato še naprej spodbuja raziskave na področju umetne inteligence in izmenjavo dobrih praks na področju prometa;

78. poudarja, da je treba spodbujati umetno inteligenco, da bi izboljšali večmodalnost, interoperabilnost in energetsko učinkovitost vseh načinov prevoza, povečali učinkovitost organizacije in upravljanja prometnih in potniških prometnih tokov, bolje izkoristili infrastrukturo in vire v vseevropskem prometnem omrežju (TEN-T) in odpravili ovire za resnično enotni evropski prometni prostor;

79. ponovno poudarja koristi evropskega sistema za upravljanje železniškega prometa (ERTMS), ki je brezhibno delujoč sistem za zaščito vlakov, in podpira razvoj in mednarodno standardizacijo avtomatizacije železniških operacij;

80. pozdravlja delo raziskovalnega projekta za upravljanje zračnega prometa v okviru enotnega evropskega neba (SESAR) na področju sistemov brezpilotnih zrakoplovov in sistemov upravljanja zračnega prometa, tako civilnega kot vojaškega;

81. želi spomniti, da se lahko z avtonomnimi vozili zelo izboljšata mobilnost in varnost, obenem pa prinašajo tudi okoljske koristi, ter poziva Komisijo in države članice, naj zagotovijo sodelovanje med regulatorji in vsemi deležniki, ki bo pomembno za začetek obratovanja avtomatiziranih cestnih vozil v EU;

82. opozarja, da se je svetovna industrija ladijskega prometa v zadnjih letih zelo spremenila zaradi vključevanja umetne inteligence; opozarja na sedanje obsežne razprave v Mednarodni pomorski organizaciji o učinkovitem vključevanju novih in nastajajočih tehnologij, kot so avtonomne ladje, v njen regulativni okvir;

83. poudarja, da inteligentni prevozni sistemi zmanjšujejo prometne zastoje, povečujejo varnost in dostopnost ter prispevajo k izboljšanju upravljanja prometnih tokov, učinkovitosti in rešitvam za mobilnost; opozarja na večjo izpostavljenost tradicionalnih prometnih omrežij kibernetskim grožnjam; opozarja na pomen zadostnih virov in nadaljnjih raziskav na področju varnostnih tveganj pri zagotavljanju varnosti avtomatiziranih sistemov in njihovih podatkov; pozdravlja, da namerava Komisija kibernetsko varnost kot redno točko vključiti na dnevni red razprav v mednarodnih organizacijah o prometu;

84. pozdravlja prizadevanja za uvedbo sistemov umetne inteligence v javnem sektorju in bo podprl nadaljnje razprave o uvedbi umetne inteligence v prometu; poziva Komisijo, naj izvede oceno uporabe umetne inteligence in podobnih tehnologij v prometnem sektorju in pripravi neizčrpen seznam področij z visokim tveganjem v sistemih umetne inteligence, ki bodo nadomestili odločitve v okviru pristojnosti javnih organov na tem področju;

85. poudarja, da bi morala Evropski obrambni sklad in stalno strukturno sodelovanje spodbujati sodelovanje med obrambno industrijo držav članic in EU, da bi razvili nove evropske obrambne zmogljivosti na področju umetne inteligence in zagotovili zanesljivost oskrbe, pri čemer bi bilo treba upoštevati etične vidike; poudarja, da je treba preprečiti razdrobljenost in povezati različne akterje in področja uporabe, pri čemer je treba na vseh ravneh spodbujati združljivost in interoperabilnost ter se osredotočiti na skupno delo na področju arhitekturnih rešitev ter rešitev platform; poleg tega opozarja, da bo s prihodnjim instrumentom za povezovanje Evrope, ki prav tako spodbuja pametno infrastrukturo, vzpostavljen sklad za prilagajanje in razvoj prometne infrastrukture za dvojno civilno ali vojaško rabo na omrežju TEN-T, da bi povečali sinergije med civilnimi in obrambnimi potrebami ter izboljšali civilno in vojaško mobilnost znotraj Unije; zato poudarja, da je na področju tehnologij z močnim učinkom na gospodarsko rast in velikim potencialom za dvojno rabo potrebnih več evropskih naložb in raziskav ter je treba prevzeti vodilno vlogo;

86. poudarja, da je veliko naložb v tehnologije na področju prometa in mobilnosti tržno naravnanih, vendar se komercialne standardne tehnologije in proizvodi z dvojno rabo pogosto na inovativen način uporabijo v vojaške namene; zato poudarja, da je treba pri oblikovanju standardov za uporabo umetne inteligence na različnih področjih komercialnega in vojaškega sektorja upoštevati, da lahko imajo rešitve, ki jih omogoča umetna inteligenca, dvojno rabo; poziva, naj se pri razvoju obrambnih tehnologij, proizvodov in načel delovanja upoštevajo visoki etični standardi in politika;

87. opozarja, da je učinkovit prevoz blaga, streliva, orožja in vojakov bistveni element uspešnih vojaških operacij; poudarja, da naj bi imela umetna inteligenca ključno vlogo in naj bi ustvarila številne možnosti na področju vojaške logistike in prevoza; želi spomniti, da države po svetu, tudi države članice EU, vključujejo orožje in druge sisteme na osnovi umetne inteligence, ki se uporabljajo na kopenskih, pomorskih in zračnih platformah; ponavlja, da lahko uporaba umetne inteligence v prometnem sektorju zagotovi nove zmogljivosti in nove oblike taktike, na primer združevanje več sistemov, kot so droni, ladje ali tanki brez posadke, v neodvisnih in usklajenih operacijah;

Mednarodno zasebno pravo

88. ugotavlja, da je sporov v okviru mednarodnega zasebnega prava vse več, saj ljudje bodisi na spletu bodisi v resničnem življenju vse bolj delujejo na mednarodni ravni, in da lahko tehnologija umetne inteligence pomaga pri reševanju sporov, in sicer z oblikovanjem modelov, s katerimi se lahko ugotovi, katero sodišče je pristojno in katero pravo se uporablja za posamezno zadevo, pa tudi odkrijejo občutljivejša navzkrižja med zakoni in poiščejo možni načini za njihovo reševanje;

89. kljub temu meni, da je treba o uporabi umetne inteligence v mednarodnem zasebnem pravu ustrezno obveščati javnost, preprečevati diskriminacijo zaradi pristranskega programiranja, ki bi dajalo enemu nacionalnemu pravu sistematično prednost pred drugim, spoštovati pravice do sodišča, vnaprej določenega na podlagi prava, omogočiti pritožbe v skladu z veljavnim pravom in vsem sodnikom dovoliti, da ne upoštevajo rešitve, ki jo predlaga tehnologija umetne inteligence;

90. poudarja, da je treba pri uporabi avtonomnih vozil v prometu v Evropski uniji, pri kateri bi lahko prišlo do številnih zasebnih mednarodnih pravnih sporov, uvesti posebna evropska pravila, ki bodo določala, katera pravna ureditev se uporablja v primeru povzročitve čezmejne škode;

91. poudarja, da ima EU zaradi vse večjega pomena raziskav in razvoja v zasebnem sektorju ter ogromnih naložb iz tretjih držav veliko konkurenco; zato podpira prizadevanja EU za nadaljnji razvoj njenih konkurenčnih prednosti in meni, da bi si morala EU prizadevati za to, da določi standarde za umetno inteligenco v hiperpovezanem svetu, tako da sprejme učinkovito strategijo za zunanje partnerje, s katero bo okrepila prizadevanja, da se na mednarodni ravni določijo etični standardi za umetno inteligenco, ki bodo skladni z varnostnimi predpisi in zahtevami za varstvo potrošnikov ter evropskimi vrednotami in pravicami državljanov, vključno s temeljnimi pravicami; meni, da je to tudi ključno za konkurenčnost in trajnost evropskih družb; poziva Komisijo in države članice, naj okrepijo sodelovanje s tretjimi državami in mednarodnimi organizacijami, kot so OZN, OECD, G7, G20, ter naj sodelujejo v širšem dialogu za obravnavo izzivov, ki so posledica razvoja te hitro spreminjajoče se tehnologije; meni, da bi morala biti ta prizadevanja namenjena zlasti vzpostavitvi skupnih standardov in izboljšanju interoperabilnosti sistemov, ki temeljijo na umetni inteligenci; poziva Komisijo, naj spodbuja dialog, tesnejše sodelovanje in sinergije med državami članicami, raziskovalci, akademiki, subjekti civilne družbe in zasebnim sektorjem, zlasti vodilnimi podjetji, in vojsko, da bi zagotovili vključujoč proces oblikovanja politik za regulacijo umetne inteligence na obrambnem področju;

Vodilna načela

92. meni, da bi si morali na področju umetne inteligence in omrežnih sistemov prizadevati za zagotovitev pravne varnosti za državljane; zato poudarja, da bi se morala kolizijska pravila in pravila o pristojnosti še naprej uporabljati, pri čemer bi bilo treba upoštevati interese potrošnikov in nujnost zmanjšanja tveganja za izbiro najugodnejšega sodišča; opozarja, da umetna inteligenca v sodnem postopku ne more nadomestiti človeka, ko gre za izrek sodbe ali kakršno koli končno odločitev, saj mora te odločitve vedno sprejeti človek, prav tako pa se mora zanje strogo uporabljati človeško preverjanje in upoštevati dolžno pravno postopanje; vztraja, da bi morala za pravosodne organe veljati obveznost obrazložitve odločitve, kadar uporabljajo dokaze na podlagi tehnologije, ki temelji na umetni inteligenci;

93. opozarja, da umetna inteligenca pomeni znanstveni napredek, zaradi katerega pa pravo ne sme nazadovati, temveč mora pravo – v Evropski uniji je to pravo njenih institucij in držav članic – umetni inteligenci dosledno postavljati okvir, in da umetna inteligenca, robotika in sorodna tehnologija v nobenem primeru ne smejo biti v nasprotju s temeljnimi pravicami, demokracijo in načelom pravne države;

94. poudarja, da bi morala biti umetna inteligenca, ki se uporablja za obrambne namene, odgovorna, pravična, sledljiva, zanesljiva in obvladljiva;

95. meni, da bi bilo treba umetno inteligenco, robotiko in sorodno tehnologijo, vključno s programsko opremo, algoritmi in podatki, ki jih te tehnologije uporabljajo ali proizvajajo, razvijati na varen in tehnično natančen način, in sicer ne glede na področje, na katerem se uporabljajo;

°

° °

96. naroči svojemu predsedniku, naj to resolucijo posreduje Svetu in Komisiji.

OBRAZLOŽITEV

Izjemen napredek umetne inteligence je prinesel izzive za mednarodno pravo, tako javno kot zasebno, pa tudi na splošno v zvezi s pristojnostjo držav. Oblikovanje pravnega okvira za področje umetne inteligence je postalo ena od prednostnih nalog EU, zato Evropski parlament te problematike ne more prezreti. V tem poročilu so obravnavani njeni glavni vidiki.

Mednarodno javno pravo: vojaška raba umetne inteligence

V skladu z delovnim dokumentom z dne 29. aprila 2020 je večji del poročila namenjen vojaški rabi umetne inteligence, saj glavne svetovne sile pojmujejo njen razvoj kot prednostno nalogo svoje vojske. EU želi zaradi vrednot, na katerih temelji, upravičeno preučiti, ali bi bilo treba ob upoštevanju pristojnosti držav članic in Združenih narodov oblikovati pravni okvir za vojaško rabo umetne inteligence.

Poročevalec je vprašanje obravnaval s treh vidikov. Najprej je želel spomniti na načela, ki bi jih bilo treba spoštovati pri vsaki vojaški uporabi umetne inteligence, ne glede na to, ali gre za obdelavo podatkov za vojaške namene, vojaško logistiko, „kolaborativni boj“ in podporo pri odločanju v realnem času, obrambne sisteme ali za sklop orožja, ki temelji na uporabi umetne inteligence, vključno s smrtonosnimi avtonomnimi orožnimi sistemi.

Ker so ti sistemi še posebej nevarni, kot je Evropski parlament opozoril že v svoji resoluciji z dne 12. septembra 2018, je zanje poročevalec predlagal posebna načela.

Poročevalec je obravnaval tudi vlogo Evropskega obrambnega sklada, saj ta že financira vojaške raziskovalne projekte, ki uvajajo uporabo umetne inteligence, kar dokazuje, da je EU v vojaško rabo umetne inteligence že neposredno vključena.

Pristojnost države

Umetna inteligenca ima posledice za pristojnost države tudi zunaj vojaškega področja. Poročilo obravnava še posebej občutljivi področji zdravstva in pravosodja, saj je v razpravi v odboru JURI 16. junija 2020 več poslancev menilo, da bi ju bilo treba vključiti vanj.

Mednarodno zasebno pravo

V razpravi so nekateri poslanci pozvali tudi k razmisleku o posledicah uporabe umetne inteligence za mednarodno zasebno pravo. Zato poročevalec na koncu obravnava tudi to vprašanje, čeprav zaradi omejitev, ki jih določa Parlament glede obsega tovrstnega poročila, le na kratko.

Vodilno načelo

Poročevalec se je dotaknil zelo različnih vprašanj, ki pa jih povezuje spoznanje, da lahko umetna inteligenca ogrozi spoštovanje demokratičnih načel in pravne države ter da se je treba te grožnje jasno zavedati. Kot je namreč posvaril že Martin Heidegger, smo tehniki najhuje izpostavljeni takrat, ko jo pojmujemo kot nekaj nevtralnega.

 

 

MNENJE ODBORA ZA ZUNANJE ZADEVE (7.7.2020)

za Odbor za pravne zadeve

o umetni inteligenci: vprašanja o tolmačenju in uporabi mednarodnega prava v primerih, ki se nanašajo na EU na področju civilne in vojaške uporabe ter državnih organov zunaj področja uporabe kazenskega pravosodja

(2020/2013(INI))

Pripravljavec mnenja (*): Urmas Paet

(*) Pridruženi odbor – člen 57 Poslovnika

 

 

PREDLOGI

Odbor za zunanje zadeve poziva Odbor za pravne zadeve kot pristojni odbor, da v svoj predlog resolucije vključi naslednje pobude:

1. poudarja, da varnostna in obrambna politika Evropske unije in njenih držav članic temelji na načelih Listine EU o temeljnih pravicah in Ustanovne listine Organizacije združenih narodov (ta vse države poziva, naj se vzdržijo groženj ali uporabe sile v medsebojnih odnosih) in mednarodnega prava, načelih človekovih pravic in spoštovanja človekovega dostojanstva ter na skupnem razumevanju univerzalnih vrednot nedotakljivosti in neodtujljivosti človekovih pravic, svobode, demokracije, enakosti in pravne države; poudarja, da morajo vsa prizadevanja na obrambnem področju v Uniji spoštovati te univerzalne vrednote, hkrati pa spodbujati mir, stabilnost, varnost in napredek v Evropi in svetu;

2. poziva OZN in širšo mednarodno skupnost, naj storita vse potrebno na regulativnem področju za zagotovitev, da bodo razvoj in uporaba umetne inteligence v vojaških zadevah in povečanje civilnih zmogljivosti organov preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, kot so policija in organi za nadzor meje, in preučevanje, razvoj in uporaba sistemov, ki temeljijo na umetni inteligenci, s strani vojske ostali v mejah, ki jih določa mednarodno pravo, vključno z mednarodnim humanitarnim pravom in pravom človekovih pravic; poudarja, da bi si morala EU prizadevati za mednarodno sprejetje svojih tehničnih in etičnih standardov za vojaške sisteme, ki temeljijo na umetni inteligenci, in si v tesnem sodelovanju z enako mislečimi partnerji prizadevati za mednarodni regulativni okvir, ki bo določal skupne norme na podlagi demokratičnih vrednot, ki bodo ustrezno oblikovane tako, da bi preprečili njihovo uporabo za vohunjenje, množični, ciljno usmerjeni in politični nadzor, zavajanje in manipulacijo podatkov ter kibernetsko oboroževalno tekmo; poziva k večjemu sodelovanju z Natom, da bi vzpostavili skupne standarde in izboljšali interoperabilnost sistemov, ki temeljijo na umetni inteligenci; poziva Komisijo, naj spodbuja dialog, tesnejše sodelovanje in sinergije med državami članicami, raziskovalci, akademiki, subjekti civilne družbe in zasebnim sektorjem, zlasti vodilnimi podjetji, in vojsko, da bi zagotovili vključujoč proces oblikovanja politik za regulacijo umetne inteligence na obrambnem področju;

3. zlasti meni, da je treba pri zasnovi, razvoju in uporabi sistemov, ki temeljijo na umetni inteligenci, v oboroženih spopadih v skladu z martensovo klavzulo spoštovati splošna načela mednarodnega humanitarnega prava in da se pri tem nikoli ne smejo kršiti merila javne vesti in človečnosti oziroma ne sme biti dovoljeno, da se kršijo; meni, da je spoštovanje mednarodnega humanitarnega prava minimalni standard za dopustnost uporabe sistemov, ki temeljijo na umetni inteligenci; poziva raziskovalno skupnost na področju umetne inteligence, naj to načelo vključi v vse sisteme, ki temeljijo na umetni inteligenci in so namenjeni uporabi v vojskovanju; meni, da noben organ ne more dovoliti odstopanja od teh načel ali potrditi sistema, ki temelji na umetni inteligenci, če krši ta načela; zato poziva razvijalce smrtonosnih avtonomnih orožnih sistemov, naj v celoti ustavijo zasnovo, izdelavo prototipov in proizvodnjo teh sistemov;

4. pozdravlja ustanovitev skupine vladnih strokovnjakov OZN za spodbujanje odgovornega ravnanja držav v kibernetskem prostoru v kontekstu mednarodne varnosti in poziva EU, naj v celoti sodeluje pri njenem delu;

5. poziva podpredsednika/visokega predstavnika, naj utre pot pogajanjem na svetovni ravni za vzpostavitev sistema za nadzor orožja, ki temelji na umetni inteligenci, in posodobitev vseh obstoječih pogodbenih instrumentov, namenjenih nadzoru orožja, razoroževanju in neširjenju orožja, da se vključijo vojskovanju namenjeni sistemi, ki temeljijo na umetni inteligenci; poziva, naj skupno stališče Sveta, ki opredeljuje skupna pravila glede nadzora izvoza vojaške tehnologije in opreme, v celoti upošteva oborožitvene sisteme, ki temeljijo na umetni inteligenci;

6. poudarja, da morajo države, strani v konfliktu in posamezniki pri uporabi sistemov, ki temeljijo na umetni inteligenci, v vojskovanju vedno spoštovati obveznosti in odgovornost po veljavnem mednarodnem pravu in morajo ostati odgovorni za dejanja na podlagi uporabe teh sistemov; opozarja, da morajo biti ljudje še naprej odgovorni za načrtovane, nenačrtovane ali neželene učinke, ki jih na bojišču povzročijo sistemi, ki temeljijo na umetni inteligenci; poudarja, da morajo odločitev o izvajanju smrtonosnih akcij z oborožitvenimi sistemi z visoko stopnjo avtonomije vedno sprejeti človeški upravljavci z ustrezno ravnjo nadzora in pregleda, ki morajo pri presoji upoštevati načeli sorazmernosti in nujnosti; poudarja, da sistemom, ki temeljijo na umetni inteligenci, v nobenem primeru ne sme biti dovoljeno, da nadomestijo človeško odločanje;

7. poudarja, da je treba med zasnovo, razvojem, preskušanjem in uvajalno fazo sistema, ki temelji na umetni inteligenci, ustrezno upoštevati morebitna tveganja v zvezi z nenamernimi civilnimi žrtvami in poškodbami, nenamerno izgubo življenja in škodo na civilni infrastrukturi, pa tudi tveganja, povezana z nenamerno sprožitvijo, manipulacijo, širjenjem, kibernetskim napadom ali vmešavanjem in pridobitvijo s strani organiziranega kriminala in terorističnih skupin, kar bi imelo učinek zaostrovanja in destabiliziranja z namenom, da postanejo naše družbe, vojske in institucije ranljive;

8. je zaskrbljen, da vsi člani mednarodne skupnosti ne bodo sledili regulativnemu, na človeka osredotočenemu pristopu k umetni inteligenci; poziva EU in države članice, naj ocenijo razvoj tehnologij umetne inteligence, zlasti tistih, ki se uporabljajo v vojaške namene in namene nadzora, v avtoritarnih državah, ki ne upoštevajo predpisov EU;

9. poudarja potrebo po zanesljivih sistemih testiranja, ocenjevanja, certificiranja, spremljanja in preverjanja, ki bodo temeljili na jasnih pravnih in demokratičnih normah, pa tudi na jasnih določbah v zvezi z varnostjo in zaščito, ki bodo zagotovile, da vojaški sistemi, ki temeljijo na umetni inteligenci, v vsem svojem življenjskem ciklu in njihovi učinki, zlasti v fazah interakcije med človekom in strojem, strojnega učenja ter nastavitve in prilagajanja novim okoliščinam, ne bodo presegli predvidenih meja in da se bodo ves čas uporabljali v skladu z veljavnim mednarodnim pravom; meni, da bi morali v primeru, da se te meje presežejo med izvajanjem operacije, civilni ali vojaški organi, ki so uporabili sisteme umetne inteligence, za to odgovarjati;

10. poudarja, da mora biti vsak sistem, ki temelji na umetni inteligenci in se uporablja na vojaškem področju, zmožen razlikovati vsaj med borci in neborci na bojišču, med vojaškimi in civilnimi tarčami, prepoznati, ko se borec preda ali je onesposobljen za boj, ne sme delovati enako ne glede na cilj, mora biti sposoben prepoznati uporabo sile in ne ciljati specifičnih kategorij oseb, ne sme povzročati nepotrebnega trpljenja ljudem niti delovati kruto ali ponižujoče, ne sme biti pristranski ali biti usposobljen na podlagi pristranskih podatkov ter se mora uporabiti v skladu z načeli mednarodnega humanitarnega prava glede človeškosti, razločevanja, sorazmernosti, previdnosti in vojaške nujnosti pred delovanjem in med napadi; poudarja pomen kakovosti algoritmov, izvirnih podatkov in predhodnega pregleda postopkov odločanja;

11. poudarja, da so pri uporabi sistemov, ki temeljijo na umetni inteligenci, na področju varnosti in obrambe popolno poznavanje razmer upravljavca, predvidljivost in zanesljivost sistema, ki temelji na umetni inteligenci, sposobnost upravljalca, da prepozna morebitne spremembe okoliščin in operativnega okolja, ter njegova zmožnost poseči v ali prekiniti napad potrebni za zagotovitev, da se načela mednarodnega humanitarnega prava, zlasti razločevanje, sorazmernost in previdnost pri napadih, v celoti uporabljajo v celotni verigi poveljevanja in nadzora; poudarja, da morajo sistemi, ki temeljijo na umetni inteligenci, omogočati, da vojaško vodstvo prevzame dejanski nadzor in nosi odgovornost za vse vrste uporabe teh sistemov;

12. spodbuja države, naj ocenijo, ali avtonomne vojaške naprave prispevajo k njihovi nacionalni varnosti in kako ter kakšne koristi bi lahko imela njihova nacionalna varnost od orožnih sistemov, ki temeljijo na umetni inteligenci, zlasti kar zadeva potencial takšnih tehnologij, da podprejo in izboljšajo človekovo odločanje v skladu z mednarodnim humanitarnim pravom in njegovimi načeli; opozarja, da bi lahko pri vsakem smrtonosnem avtonomnem orožju ali orožju z visoko stopnjo avtonomije prišlo do napake v delovanju zaradi slabo napisane programske kode ali kibernetskega napada sovražne države ali nedržavnega subjekta;

13. želi spomniti na svojo resolucijo z dne 12. septembra 2018 o avtonomnih orožnih sistemih; v zvezi s tem pozdravlja dogovor Sveta in Parlamenta o izključitvi smrtonosnega avtonomnega orožja „brez možnosti smiselnega človeškega nadzora nad odločitvami o izbiri in sodelovanju pri izvajanju napadov“ iz ukrepov, ki se financirajo iz Evropskega obrambnega sklada;

14. poziva k ustanovitvi evropske agencije za umetno inteligenco, katere naloge bi zajemale skupne standarde, okvir za potrjevanje in spremljanje, ter k tesnemu dvostranskemu sodelovanju z Natom v zvezi z uvajanjem, razvojem in uporabo umetne inteligence na vojaškem področju;

15. opozarja na svoje stališče z dne 12. septembra 2018 o avtonomnih orožnih sistemih, v katerem je zapisano, da se ne izvajajo napadi brez smiselnega človeškega posredovanja; poziva podpredsednika/visokega predstavnika, države članice in Evropski svet, naj sprejmejo skupno stališče o avtonomnih orožnih sistemih, s katerim bi zagotovili smiselni človeški nadzor nad ključnimi funkcijami orožnih sistemov, tudi med njihovo uporabo; ponovno izraža podporo delu skupine vladnih strokovnjakov OZN visokih pogodbenic konvencije o klasičnem orožju na področju smrtonosnih avtonomnih orožnih sistemov, ki ostaja pomemben mednarodni forum za razprave in pogajanja o pravnih izzivih, povezanih z avtonomnimi orožnimi sistemi; poziva k okrepitvi vseh obstoječih večstranskih prizadevanj, da tehnološki razvoj in nove metode vojskovanja ne bodo prehiteli normativnih in regulativnih okvirov; poziva podpredsednika/visokega predstavnika, naj še dalje sodeluje v sedanjih razpravah o mednarodni ureditvi smrtonosnih avtonomnih orožnih sistemov med podpisnicami konvencije o klasičnem orožju ter prispeva k takojšnjemu oblikovanju svetovnega regulativnega okvira in pravno zavezujočega instrumenta, ki bi temeljil na opredelitvah, pojmih in značilnostih novih tehnologij na področju smrtonosnega avtonomnega orožja, etičnih in pravnih vprašanjih človeškega nadzora, zlasti glede kritičnih funkcij, kot sta izbira in opredelitev cilja, ohranitve človeške odgovornosti in potrebne stopnje interakcije med človekom in strojem, vključno s konceptom človeškega nadzora in človeške presoje, da se zagotovi skladnost z mednarodnim humanitarnim pravom in pravom človekovih pravic v različnih fazah življenjskega cikla orožja, ki temelji na umetni inteligenci, da se doseže dogovor o konkretnih priporočilih glede pojasnitve, obravnave in razvoja vidikov normativnega in operativnega okvira o nastajajočih tehnologijah na področju smrtonosnih avtonomnih orožnih sistemov.

16. poudarja, da si mora Evropska unija prizadevati za strateško odpornost, da ne bo nikoli več nepripravljena v primeru krize, in poudarja, da je to ključno še posebej v zvezi z umetno inteligenco in njeno uporabo na vojaškem področju; poudarja, da bi bilo treba oskrbovalne verige za vojaške sisteme umetne inteligence, ki bi lahko privedli do tehnološke odvisnosti, ustrezno preoblikovati, to odvisnost pa postopno odpraviti; poziva k večjim naložbam v evropsko umetno inteligenco na področju obrambe in v kritično infrastrukturo, potrebno za ta namen;

17. priznava, da sodobna oboroževalna tekma med vojaškimi velesilami na področju razvoja smrtonosnih avtonomnih orožnih sistemov prehiteva napredek ter učinkovito in splošno uporabo ter izvrševanje skupnih pravil in pravnih okvirov, saj sta razvoj in uvajanje teh sistemov tajna, nacionalne države pa imajo notranji interes, da ustvarijo najhitrejše in najučinkovitejše napadalne zmogljivosti, ne glede na sedanje in morebitne prihodnje pravne okvire ali načela;

18. meni, da je za svetovno varnost nujno, da obstaja učinkovit mehanizem za izvrševanje pravil o neširjenju smrtonosnih avtonomnih orožnih sistemov in vseh prihodnjih ofenzivnih tehnologij, ki bodo temeljile na umetni inteligenci.

 

INFORMACIJE O SPREJETJU V ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja	6.7.2020
Izid končnega glasovanja	+: –: 0:	60 6 4
Poslanci, navzoči pri končnem glasovanju	Alviina Alametsä, Aleksander Aleksandrov Jordanov (Alexander Alexandrov Yordanov), Maria Arena, Petras Auštrevičius, Traian Băsescu, Lars Patrick Berg, Anna Bonfrisco, Reinhard Bütikofer, Fabio Massimo Castaldo, Susanna Ceccardi, Włodzimierz Cimoszewicz, Katalin Cseh, Tanja Fajon, Anna Fotyga, Michael Gahler, Kinga Gál, Sunčana Glavak, Raphaël Glucksmann, Klemen Grošelj, Bernard Guetta, Márton Gyöngyösi, Sandra Kalniete, Karol Karski, Dietmar Köster, Andrius Kubilius, Ilhan Kjučuk (Ilhan Kyuchyuk), David Lega, Miriam Lexmann, Nathalie Loiseau, Antonio López-Istúriz White, Lukas Mandl, Thierry Mariani, David McAllister, Vangelis Meimarakis, Sven Mikser, Francisco José Millán Mon, Javier Nart, Gheorghe-Vlad Nistor, Urmas Paet, Kostas Papadakis (Constantinos Papadakis), Tonino Picula, Manu Pineda, Kati Piri, Giuliano Pisapia, Diana Riba i Giner, Jérôme Rivière, María Soraya Rodríguez Ramos, Nacho Sánchez Amor, Isabel Santos, Jacek Saryusz-Wolski, Andreas Schieder, Radosław Sikorski, Sergej Stanišev (Sergei Stanishev), Tineke Strik, Hermann Tertsch, Hilde Vautmans, Harald Vilimsky, Idoia Villanueva Ruiz, Viola Von Cramon-Taubadel, Thomas Waitz, Witold Jan Waszczykowski, Charlie Weimers, Isabel Wiseler-Lima, Salima Yenbou, Željana Zovko
Namestniki, navzoči pri končnem glasovanju	Nikos Andrulakis (Nikos Androulakis), Vladimír Bilčík, Marisa Matias, Juozas Olekas, Mick Wallace

 

POIMENSKO GLASOVANJE PRI KONČNEM GLASOVANJU V ODBORU, ZAPROŠENEM ZA MNENJE

60	+
EPP	Aleksander Aleksandrov Jordanov (Alexander Alexandrov Yordanov), Traian Băsescu, Michael Gahler, Kinga Gál, Sunčana Glavak, Sandra Kalniete, Andrius Kubilius, David Lega, Miriam Lexmann, Antonio López-Istúriz White, David McAllister, Lukas Mandl, Vangelis Meimarakis, Francisco José Millán Mon, Gheorghe-Vlad Nistor, Radosław Sikorski, Isabel Wiseler-Lima, Željana Zovko, Vladimír Bilčík
S&D	Maria Arena, Włodzimierz Cimoszewicz, Tanja Fajon, Raphaël Glucksmann, Sven Mikser, Tonino Picula, Kati Piri, Giuliano Pisapia, Nacho Sánchez Amor, Isabel Santos, Andreas Schieder, Sergej Stanišev (Sergei Stanishev), Nikos Andrulakis (Nikos Androulakis), Juozas Olekas
RENEW	Petras Auštrevičius, Katalin Cseh, Klemen Grošelj, Bernard Guetta, Ilhan Kjučuk (Ilhan Kyuchyuk), Nathalie Loiseau, Javier Nart, Urmas Paet, María Soraya Rodríguez Ramos, Hilde Vautmans
ID	Anna Bonfrisco, Susanna Ceccardi
Verts/ALE	Alviina Alametsä, Reinhard Bütikofer, Diana Riba i Giner, Tineke Strik, Viola von Cramon-Taubadel, Thomas Waitz, Salima Yenbou
ECR	Anna Fotyga, Karol Karski, Jacek Saryusz-Wolski, Hermann Tertsch, Witold Jan Waszczykowski, Charlie Weimers
NI	Fabio Massimo Castaldo in Márton Gyöngyösi

 

6	-
S&D	Dietmar Köster
GUE	Manu Pineda, Idoia Villanueva Ruiz, Marisa Matias, Mick Wallace
NI	Kostas Papadakis (Constantinos Papadakis)

 

4	0
ID	Lars Patrick Berg, Thierry Mariani, Jérôme Rivière, Harald Vilimsky

 

Uporabljeni znaki:

+ : za

- : proti

0 : vzdržani

 

 

 

 

MNENJE ODBORA ZA NOTRANJI TRG IN VARSTVO POTROŠNIKOV (7.7.2020)

za Odbor za pravne zadeve

o umetni inteligenci: tolmačenje in uporaba mednarodnega prava, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja

(2020/2013(INI))

Pripravljavec mnenja: Andreas Schwab

 

PREDLOGI

Odbor za notranji trg in varstvo potrošnikov poziva Odbor za pravne zadeve kot pristojni odbor, da v svoj predlog resolucije vključi naslednje pobude:

1. opozarja, da iz Direktive (EU) 2018/958 izhaja, da končno odgovornost za odločanje, ki vključuje tveganja za uresničevanje ciljev javnega interesa, nosi človek; poudarja, da bi človek moral imeti nadzor nad vsemi tehnologijami umetne inteligence; poudarja, da bi moral biti pristop k umetni inteligenci, osredotočen na človeka, vedno končni vzorec nadzora pri razlagi in uporabi zakona o umetni inteligenci, da bi se umetna inteligenca neposredno uporabila v korist posameznih potrošnikov ali skupin potrošnikov in družbe kot celote;

2. meni, da bi si morala EU prizadevati za to, da določi standarde za umetno inteligenco v hiperpovezanem svetu tako, da sprejme učinkovito strategijo za zunanje partnerje, ki ji bo pomagala pri prizadevanjih, da se na mednarodni ravni določijo etični standardi za umetno inteligenco, ki bodo skladni z varnostnimi predpisi in zahtevami za varstvo potrošnikov ter evropskimi vrednotami in temeljnimi pravicami; meni, da je to tudi ključno za konkurenčnost in trajnost evropskih družb; poziva Komisijo in države članice, naj okrepijo sodelovanje s tretjimi državami in mednarodnimi organizacijami ter naj sodelujejo v širšem dialogu za obravnavo izzivov, ki so posledica razvoja te hitro spreminjajoče se tehnologije;

3. opozarja, da je treba spoštovati načeli nediskriminacije in sorazmernosti ter pojasniti vprašanja vzročnosti, krivde, odgovornosti in razložljivosti, da bo mogoče določiti, ali in v kolikšni meri lahko država kot akter v mednarodnem javnem pravu, pa tudi pri izvajanju svoje oblasti, ukrepa s pomočjo sistemov, ki temeljijo na umetni inteligenci, ki imajo določeno stopnjo avtonomije, ne da bi kršila obveznosti, ki izhajajo iz mednarodnega prava, kot je dolžno postopanje;

4. zato poziva države članice, naj najprej ocenijo tveganja tehnologij na podlagi umetne inteligence, kot so denimo tveganja v zvezi z varstvom potrošnikov in prejemnikov storitev, in nato avtomatizirajo dejavnosti, povezane z izvajanjem državne oblasti, kot je učinkovito izvajanje sodne oblasti; poziva države članice k premisleku, ali je treba določiti zaščitne ukrepe iz Direktive (EU) 2018/958, kot sta nadzor kvalificiranega strokovnjaka in pravila o poklicni etiki; poudarja, da morajo države članice to direktivo pravilno prenesti in jo izvajati, ter poziva Komisijo, naj to zadevo pozorno spremlja;

5. poudarja, kako pomembno je, da se vlaga v človeške spretnosti, vključno z digitalnimi spretnostmi, da se prilagodimo znanstvenemu napredku glede rešitev na podlagi umetne inteligence za posameznike v reguliranih poklicih, vključno z dejavnostmi, ki so povezane z izvajanjem državnih pristojnosti, kot je pravosodje; poziva države članice in Komisijo, naj to ustrezno upoštevajo pri izvajanju Direktive 2005/36/ES;

6. meni, da razvoj umetne inteligence na področju pametnih proizvodov ali naprav prinaša tudi priložnosti za izboljšanje globalnega tržnega nadzora in omogoča precej bolj učinkovito in obsežno obravnavanje vprašanja varnosti proizvodov in varstva potrošnikov; posledično poziva Komisijo, naj vzpostavi mehanizem za upravljanje in nadzor trga za sisteme na podlagi umetne inteligence, na podlagi katerega se bodo organom držav članic izdajale smernice, mnenja in strokovni nasveti;

7. poudarja, da bi morali biti roboti, kolikor sodijo v opredelitev strojev iz Direktive 2006/42/ES, zasnovani in sestavljeni v skladu s standardi in varnostnimi ukrepi iz te direktive;

8. opozarja, da direktiva o varnosti omrežij in informacij določa skupni evropski pristop h kibernetski varnosti ter odpornosti omrežij in informacijskih sistemov, da bi okrepili enotni trg in spodbudili zaupanje potrošnikov; poziva države članice in Komisijo, naj resno jemljejo grožnje kibernetskih napadov, ki temeljijo na tehnologiji umetne inteligence, na primer pri spodkopavanju gospodarstva EU, ter naj veliko vlagajo v doseganje visoke splošne digitalne pismenosti in zmanjšanje odvisnosti od prodajalcev iz tretjih držav;

9. meni, da bi morali organi držav članic, tudi regionalni in lokalni, ter Komisija spodbujati tehnologije na podlagi umetne inteligence, ki delujejo za ljudi; poziva države članice, naj v tesnem sodelovanju s Komisijo razvijajo aplikacije na podlagi umetne inteligence, s katerimi bodo avtomatizirale in poenostavile storitve e-uprave, na primer na področju davčne uprave, carine in varstva potrošnikov, ali obveščanje o čezmejnih poslovnih dejavnostih; poziva države članice, naj javna naročila uporabijo kot instrument za podporo odgovornemu razvoju umetne inteligence v korist novih udeležencev na trgu, državljanov in potrošnikov; poudarja, da so razložljivi in nepristranski algoritmi, ki izpolnjujejo obveznost zadostne preglednosti, ter uporaba odprtih podatkov v skladu z Direktivo (EU) 2019/1024 o odprtih podatkih in ponovni uporabi informacij javnega sektorja bistveni za zagotovitev, da imajo lahko podjetja in potrošniki koristi od boljših, dostopnih, nediskriminatornih in zanesljivih javnih storitev po pravičnih cenah ter jim zaupajo.

INFORMACIJE O SPREJETJU V ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja	7.7.2020
Izid končnega glasovanja	+: –: 0:	39 1 4
Poslanci, navzoči pri končnem glasovanju	Alex Agius Saliba, Andrus Ansip, Alessandra Basso, Brando Benifei, Adam Bielan, Hynek Blaško, Biljana Borzan, Vlad-Marius Botoş, Markus Buchheit, Dita Charanzová, Deirdre Clune, David Cormand, Petra De Sutter, Carlo Fidanza, Evelyne Gebhardt, Alexandra Geese, Sandro Gozi, Maria Grapini, Svenja Hahn, Virginie Joron, Eugen Jurzyca, Arba Kokalari, Marcel Kolaja, Kateřina Konečná, Andrej Kovačev (Andrey Kovatchev), Jean-Lin Lacapelle, Maria-Manuel Leitão-Marques, Adriana Maldonado López, Antonius Manders, Beata Mazurek, Leszek Miller, Kris Peeters, Anne-Sophie Pelletier, Christel Schaldemose, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Kim Van Sparrentak, Marion Walsmann, Marco Zullo
Namestniki, navzoči pri končnem glasovanju	Pascal Arimont, Maria da Graça Carvalho, Edina Tóth, Stéphanie Yon-Courtin

 

 

 

 

POIMENSKO GLASOVANJE PRI KONČNEM GLASOVANJU V ODBORU, ZAPROŠENEM ZA MNENJE

39

+

EPP S&D RENEW Verts/ALE ECR EUL/NGL NI

Pascal Arimont, Maria da Graça Carvalho, Deirdre Clune, Arba Kokalari, Andrej Kovačev (Andrey Kovatchev), Antonius Manders, Kris Peeters, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Edina Tóth, Marion Walsmann Alex Agius Saliba, Brando Benifei, Biljana Borzan, Evelyne Gebhardt, Maria Grapini, Maria‑Manuel Leitão‑Marques, Adriana Maldonado López, Leszek Miller, Christel Schaldemose Andrus Ansip, Vlad‑Marius Botoş, Dita Charanzová, Sandro Gozi, Svenja Hahn, Stéphanie Yon‑Courtin David Cormand, Petra De Sutter, Alexandra Geese, Marcel Kolaja, Kim Van Sparrentak Adam Bielan, Carlo Fidanza, Eugen Jurzyca, Beata Mazurek Kateřina Konečná, Anne‑Sophie Pelletier Marco Zullo

 

1	-
ID	Hynek Blaško

 

4	0
ID	Alessandra Basso, Markus Buchheit, Virginie Joron, Jean‑Lin Lacapelle

 

Uporabljeni znaki:

+ : za

- : proti

0 : vzdržani

 

 

 

 

 

15.7.2020

 

MNENJE ODBORA ZA PROMET IN TURIZEM

za Odbor za pravne zadeve

o umetni inteligenci: tolmačenje in uporaba mednarodnega prava, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja

(2020/2013(INI))

Pripravljavec mnenja: Ondřej Kovařík

 

PREDLOGI

Odbor za promet in turizem poziva Odbor za pravne zadeve kot pristojni odbor, da v svoj predlog resolucije vključi naslednje pobude:

A. ker umetna inteligenca ponuja povsem nove možnosti za izboljšave v delovanju prometnega sektorja, saj rešuje izzive vse večjega povpraševanja po prevozih, varnosti in okoljevarstvu, obenem pa omogoča pametnejše, učinkovitejše in primernejše načine prevoza;

B. ker je uporaba umetne inteligence na obrambnem področju na ravni EU nujno za razvoj njenih zmogljivosti;

1. pozdravlja belo knjigo Komisije o umetni inteligenci in podpira prizadevanje EU, da bi bila ena od vodilnih sil na področju umetne inteligence na svetu, obenem pa bi bolje sodelovala z enako mislečimi akterji;

2. poudarja, da ima EU zaradi vse večjega pomena raziskav in razvoja v zasebnem sektorju ter ogromnih naložb iz tretjih držav, kot so Združene države Amerike in Kitajska, veliko konkurenco; zato podpira njena prizadevanja, da bi izboljšala konkurenčne prednosti v sektorju umetne inteligence, in meni, da bi morala na svetovni ravni določati standarde za uporabo umetne inteligence v civilne in vojaške namene ter za državno oblast, hkrati pa bi si morala prizadevati za učinkovito strategijo, katere cilj bo povečati vpliv na oblikovanje svetovnih standardov ter zmanjšati odvisnost od tujih podatkov, kar je bistveno za tehnologije, ki temeljijo na algoritmih; poziva Komisijo in države članice, naj se zavzemajo za širše sodelovanje v okviru OZN, OECD, G7, G20 in drugih mednarodnih forumov, da bi promovirali pristop EU k umetni inteligenci s poudarkom na temeljnih pravicah, svoboščinah in vrednotah iz Pogodb EU, Listine Evropske unije o temeljnih pravicah in mednarodnega prava človekovih pravic, ter upoštevali etične standarde in vprašanja odgovornosti;

3. je seznanjen z velikim ekonomskim potencialom aplikacij umetne inteligence in zato poziva Komisijo, naj še naprej spodbuja raziskave umetne inteligence in izmenjavo dobre prakse na področju prometa; poudarja potrebo po inovativni medsektorski uporabi podatkov in medsebojnem sodelovanju akterjev posameznih ekosistemov, da bi se okrepila industrijska baza EU na področju umetne inteligence; poudarja, da je treba poleg tehnologij umetne inteligence upoštevati tudi druge tehnologije naslednje generacije, na primer kvantno računalništvo, ki se že preučujejo in predstavljajo naslednji preskok v medsektorskem tehnološkem napredku;

4. podpira uporabo umetne inteligence na podlagi strojnega učenja, za katerega se uporabljajo velepodatki, za optimizacijo dolgoročnega delovanja, vzdrževanja, napovedi okvar in načrtovanja gradnje prometne infrastrukture in stavb, vključno z dejavniki, kot so varnost, energijska učinkovitost in stroški; ugotavlja, da bo to zahtevalo izpolnitev predpostavk in podporno infrastrukturo, vključno z energijo za strojno opremo, programsko opremo, omrežne vire in storitve, pa tudi zagotavljanje visoke kakovosti in velike količine podatkov; poleg tega opozarja, da bi bilo treba umetno inteligenco na področju prometa, zlasti v primeru prepletanja civilne in vojaške rabe, uporabljati v skladu s predpisi EU o varstvu podatkov in zasebnosti; poziva Komisijo, naj še naprej sodeluje z državami članicami na področju varnosti in varstva podatkov;

5. meni, da se je umetna inteligenca spremenila in je s povečanjem avtomatizacije in večjim povezovanjem in povezljivostjo prometnih omrežij prispevala k razvoju in posodobitvi prometnega sektorja; poudarja, da se avtomatizacija in vključenost umetne inteligence razlikujeta med načini prevoza in infrastrukturo v vsej Uniji; poudarja, da je treba spodbujati umetno inteligenco, da bi izboljšali večmodalnost, interoperabilnost in energetsko učinkovitost vseh načinov prevoza, povečali učinkovitost organizacije in upravljanja prometnih in potniških prometnih tokov, bolje izkoristili infrastrukturo in vire v vseevropskem prometnem omrežju (TEN-T) in odpravili ovire za resnično enotni evropski prometni prostor;

6. poudarja, da je eden najpomembnejših rezultatov bele knjige Komisije o umetni inteligenci v tem, da se razvije pristop k sistemom umetne inteligence, ki bo usmerjen v ljudi; opozarja, da je človeški dejavnik v povsem avtomatiziranih postopkih še vedno pomemben; poudarja, da mora biti tehnologija dovolj pregledna, predvidljiva in zanesljiva ter jo je treba kakovostno uvajati, poleg tega pa tudi ustrezno usposabljati, izpopolnjevati in prekvalificirati osebje, ki uporablja sisteme umetne inteligence; poudarja, da bi morala biti uporaba umetne inteligence v vojaške namene vedno odvisna od fizične ali pravne osebe, pri čemer se odgovornost in dolžnost poročanja dodeli odgovornim nosilcem odločitev ter upošteva vojaška veriga poveljevanja;

7. ponovno poudarja koristi evropskega sistema za upravljanje železniškega prometa (ERTMS), ki je brezhibno delujoč sistem za zaščito vlakov in nadomešča nezdružljive nacionalne sisteme, kar zadeva zanesljivost, zmogljivost, stroške, varnost, hitrost in vzdrževanje, njegovo popolno izvajanje pa je ključnega pomena za vzpostavitev enotnega evropskega železniškega območja; podpira popolno izvajanje ERTMS in njegovo uveljavitev kot globalnega sistema avtomatske zaščite vlaka; je seznanjen z delom skupnega podjetja Shift2Rail;

8. podpira razvoj in mednarodno standardizacijo avtomatizacije železniških operacij, tudi zaradi spodbujanja interoperabilnosti, učinkovitosti prevoza in varnosti; spodbuja razvoj avtomatizirane razporeditve slotov za različne načine prevoza in uporabo umetne inteligence v logistiki ter na drugih področjih v prometu;

9. pozdravlja delo raziskovalnega projekta za upravljanje zračnega prometa v okviru enotnega evropskega neba (SESAR) na področju sistemov brezpilotnih zrakoplovov in sistemov upravljanja zračnega prometa, tako civilnega kot vojaškega, in njegov prispevek k premostitvi razdrobljenosti enotnega evropskega neba; opozarja, da se je povečala civilna in vojaška uporaba brezpilotnih zrakoplovov, ki jih običajno imenujemo droni; poudarja potencial, ki ga imajo dostava, inšpekcijski pregledi in nadzor z droni za državljane in družbo; poudarja, da sta globalna interoperabilnost in harmonizacija nujna pogoja za varen, funkcionalen in zanesljiv globalni sistem upravljanja zračnega prometa; spodbuja Komisijo in države članice, naj v mednarodnem okviru promovirajo projekt SESAR, prispevajo k delu mednarodnih organizacij, kot sta Mednarodna organizacija za civilno letalstvo ali Mednarodno združenje letalskih prevoznikov, in sodelujejo pri oblikovanju mednarodnih standardov za civilno in vojaško uporabo dronov;

10. poziva Komisijo in države članice, naj sodelujejo pri mednarodnih regulativnih dejavnostih in razpravah o avtonomnih vozilih, zlasti na področju varnosti, hkrati pa naj zagotovijo sodelovanje med regulatorji in vsemi deležniki, ki bo pomembno za začetek obratovanja avtomatiziranih vozil v cestnem prometu v EU; poziva k standardiziranim in interoperabilnim geografskim vhodnim podatkom in poudarja, da morajo biti točni;

11. želi spomniti, da se lahko z avtonomnimi vozili zelo izboljšata mobilnost in varnost, obenem pa so lahko ta vozila boljša za okolje; pri tem pozdravlja, da je svetovni forum UN/ECE za harmonizacijo pravilnikov o vozilih sprejel okvirni dokument o avtomatiziranih/avtonomnih vozilih; je seznanjen z delom novega tehničnega odbora za umetno inteligenco pri Mednarodni organizaciji za standardizacijo; poziva Komisijo, naj predlaga učinkovit pristop, da se zagotovi jasen mednarodni pravni okvir za koncept voznika ter relevantna vprašanja dolžnosti in odgovornosti v smislu konvencij OZN in drugih mednarodnih prometnih predpisov;

12. opozarja, da se je svetovna industrija ladijskega prometa v zadnjih letih zelo spremenila zaradi vključevanja umetne inteligence; opozarja na sedanje obsežne razprave v Mednarodni pomorski organizaciji o učinkovitem vključevanju novih in nastajajočih tehnologij, kot so avtonomne ladje, v regulativni okvir;

13. poudarja, da inteligentni prevozni sistemi zmanjšujejo prometne zastoje, povečujejo varnost in dostopnost ter prispevajo k izboljšanju upravljanja prometnih tokov, učinkovitosti in rešitvam za mobilnost; opozarja na večjo izpostavljenost tradicionalnih prometnih omrežij kibernetskim grožnjam; opozarja na pomen virov in nadaljnjih raziskav na področju varnostnih tveganj pri zagotavljanju varnosti avtomatiziranih sistemov in njihovih podatkov; pozdravlja, da namerava Komisija kibernetsko varnost kot redno točko vključiti na dnevni red razprav v mednarodnih organizacijah o prometu;

14. pozdravlja prizadevanja za uvedbo sistemov umetne inteligence v javnem sektorju in bo podprl nadaljnje razprave o uvedbi umetne inteligence v prometu; poziva Komisijo, naj izvede oceno uporabe umetne inteligence in podobnih tehnologij v prometnem sektorju in pripravi neizčrpen seznam področij z visokim tveganjem v okviru sistemov umetne inteligence, ki bodo nadomestili odločitve v okviru pristojnosti javnih organov na tem področju;

15. poudarja, da bi morala evropski obrambni sklad in stalno strukturno sodelovanje spodbujati sodelovanje med obrambno industrijo držav članic in EU, da bi razvili nove evropske obrambne zmogljivosti na področju umetne inteligence in zagotovili zanesljivost oskrbe, pri čemer bi bilo treba upoštevati etične vidike; poudarja, da je treba preprečiti razdrobljenost in povezati različne akterje in področja uporabe, pri čemer je treba na vseh ravneh spodbujati združljivost in interoperabilnost ter se osredotočiti na skupno delo na arhitekturni ravni ter rešitve platform; poleg tega opozarja, da bo s prihodnjim instrumentom za povezovanje Evrope, ki prav tako spodbuja pametno infrastrukturo, vzpostavljen sklad za prilagajanje in razvoj prometne infrastrukture za dvojno civilno/vojaško rabo na omrežju TEN-T, da bi povečali sinergije med civilnimi in obrambnimi potrebami ter izboljšali civilno in vojaško mobilnost znotraj Unije; zato poudarja, da je na področju tehnologij z močnim učinkom na gospodarsko rast in velikim potencialom za dvojno rabo potrebnih več evropskih naložb in raziskav ter je treba prevzeti vodilno vlogo;

16. poudarja, da je veliko naložb v tehnologije na področju prometa in mobilnosti tržno naravnanih, vendar se pogosto komercialne standardne tehnologije in proizvodi z dvojno rabo na inovativen način uporabijo v vojaške namene; zato poudarja, da je treba pri oblikovanju standardov za uporabo umetne inteligence na različnih področjih komercialnega in vojaškega sektorja upoštevati, da lahko imajo rešitve, ki jih omogoča umetna inteligenca, dvojno rabo; poziva, naj se pri razvoju obrambnih tehnologij, proizvodov in načel delovanja upoštevajo visoki etični standardi in politika;

17. opozarja, da je učinkovit prevoz blaga, streliva, orožja in vojakov bistveni element uspešnih vojaških operacij; poudarja, da naj bi imela umetna inteligenca ključno vlogo in številne možnosti na področju vojaške logistike in prevoza; želi spomniti, da več držav po svetu, tudi države članice EU, vključujejo orožje in druge sisteme na osnovi umetne inteligence, ki se uporabljajo na kopenskih, pomorskih in zračnih platformah; ponavlja, da lahko uporaba umetne inteligence v prometnem sektorju zagotovi nove zmogljivosti in nove oblike taktike, na primer združevanje več sistemov, kot so droni, ladje ali tanki brez posadke, v neodvisnih in usklajenih operacijah;

18. ugotavlja tudi, da bi bilo treba o avtonomnih orožnih sistemih, ki sodijo v posebno kategorijo umetne inteligence na vojaškem področju, razpravljati in se o njih dogovoriti na mednarodni ravni, zlasti v forumu OZN o nekaterih vrstah klasičnega orožja; želi spomniti, da trenutna mednarodna razprava o smrtonosnih avtonomnih orožnih sistemih, s katero bi zakonsko uredili nove vojaške tehnologije, zaenkrat še ni bila uspešna, in poudarja, da se je EU kot celota šele pred kratkim dogovorila, da bo začela razpravljati o učinkih razvoja umetne inteligence in digitalizacije na obrambni sektor; meni, da lahko EU bistveno pripomore k temu, da države članice uskladijo pristop k vojaški umetni inteligenci, da bo lahko vodila mednarodna pogajanja.

INFORMACIJE O SPREJETJU V ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja	14.7.2020
Izid končnega glasovanja	+: –: 0:	36 8 5
Poslanci, navzoči pri končnem glasovanju	Magdalena Adamowicz, Andris Ameriks, José Ramón Bauzá Díaz, Izaskun Bilbao Barandica, Marco Campomenosi, Ciarán Cuffe, Jakop G. Dalunde, Johan Danielsson, Andor Deli, Karima Delli, Anna Deparnay-Grunenberg, Ismail Ertug, Gheorghe Falcă, Giuseppe Ferrandino, Mario Furore, Søren Gade, Isabel García Muñoz, Jens Gieseke, Elsi Katainen, Kateřina Konečná, Elena Kountoura (Elena Kundura), Julie Lechanteux, Bogusław Liberadzki, Benoît Lutgen, Elżbieta Katarzyna Łukacijewska, Marian-Jean Marinescu, Tilly Metz, Giuseppe Milazzo, Cláudia Monteiro de Aguiar, Caroline Nagtegaal, Jan-Christoph Oetjen, Philippe Olivier, Rovana Plumb, Dominique Riquet, Dorien Rookmaker, Massimiliano Salini, Sven Schulze, Barbara Thaler, István Ujhelyi, Elissavet Vozemberg-Vrionidi, Lucia Vuolo, Roberts Zīle, Kosma Złotowski
Namestniki, navzoči pri končnem glasovanju	Leila Chaibi, Markus Ferber, Carlo Fidanza, Maria Grapini, Roman Haider, Alessandra Moretti

 

 

 

POIMENSKO GLASOVANJE PRI KONČNEM GLASOVANJU V ODBORU, ZAPROŠENEM ZA MNENJE

36	+
ECR	Angel Džambazki (Angel Dzhambazki), Carlo Fidanza, Roberts Zīle, Kosma Złotowski
NI	Mario Furore, Dorien Rookmaker
PPE	Magdalena Adamowicz, Andor Deli, Gheorghe Falcă, Markus Ferber, Jens Gieseke, Benoît Lutgen, Marian‑Jean Marinescu, Giuseppe Milazzo, Cláudia Monteiro de Aguiar, Massimiliano Salini, Barbara Thaler, Elisavet Vozemberg-Vrionidi (Elissavet Vozemberg‑Vrionidi), Elżbieta Katarzyna Łukacijewska
Renew	José Ramón Bauzá Díaz, Izaskun Bilbao Barandica, Søren Gade, Elsi Katainen, Caroline Nagtegaal, Jan‑Christoph Oetjen, Dominique Riquet
S&D	Andris Ameriks, Johan Danielsson, Ismail Ertug, Giuseppe Ferrandino, Isabel García Muñoz, Maria Grapini, Bogusław Liberadzki, Alessandra Moretti, Rovana Plumb, István Ujhelyi

 

8	-
GUE/NGL	Leila Chaibi, Kateřina Konečná, Elena Kundura (Elena Kountoura)
Verts/ALE	Ciarán Cuffe, Jakop G. Dalunde, Karima Delli, Anna Deparnay‑Grunenberg, Tilly Metz

 

5	0
ID	Marco Campomenosi, Roman Haider, Julie Lechanteux, Philippe Olivier, Lucia Vuolo

 

Uporabljeni znaki:

+ : za

- : proti

0 : vzdržani

 

 

 

 

 

MNENJE ODBORA ZA DRŽAVLJANSKE SVOBOŠČINE, PRAVOSODJE IN NOTRANJE ZADEVE (23.11.2020)

za Odbor za pravne zadeve

o umetni inteligenci: tolmačenje in uporaba mednarodnega prava, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja

(2020/2013(INI))

Pripravljavec mnenja: Patryk Jaki

 

PREDLOGI

Odbor za državljanske svoboščine, pravosodje in notranje zadeve poziva Odbor za pravne zadeve kot pristojni odbor, da v svoj predlog resolucije vključi naslednje pobude:

– ob upoštevanju členov 2 in 3 Pogodbe o Evropski uniji (v nadaljnjem besedilu: PEU),

– ob upoštevanju členov 10, 19, 21 in 167 Pogodbe o delovanju Evropske unije (v nadaljnjem besedilu: PDEU),

– ob upoštevanju členov 20 in 227 PDEU in člena 44 Listine Evropske unije o temeljnih pravicah (v nadaljnjem besedilu: Listina),

– ob upoštevanju členov 21 in 22 Listine,

– ob upoštevanju preambule PEU,

– ob upoštevanju Okvirne konvencije Sveta Evrope za varstvo narodnih manjšin, protokola št. 12 h Konvenciji o varstvu človekovih pravic in temeljnih svoboščin ter Evropske listine o regionalnih ali manjšinskih jezikih,

– ob upoštevanju Direktive Sveta 2000/43/ES z dne 29. junija 2000 o izvajanju načela enakega obravnavanja oseb ne glede na raso ali narodnost[11] (direktiva o rasni enakosti),

– ob upoštevanju Direktive Sveta 2000/78/ES z dne 27. novembra 2000 o splošnih okvirih enakega obravnavanja pri zaposlovanju in delu[12] (direktiva o enakem obravnavanju pri zaposlovanju),

– ob upoštevanju Uredbe (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (splošna uredba o varstvu podatkov)[13] ter Direktive (EU) 2016/680 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov, ki jih pristojni organi obdelujejo za namene preprečevanja, preiskovanja, odkrivanja ali pregona kaznivih dejanj ali izvrševanja kazenskih sankcij, in o prostem pretoku takih podatkov ter o razveljavitvi Okvirnega sklepa Sveta 2008/977/PNZ[14],

– ob upoštevanju sporočila Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij z dne 11. decembra 2019 o evropskem zelenem dogovoru,

– ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki[15],

– ob upoštevanju priporočil sveta Organizacije za gospodarsko sodelovanje in razvoj o umetni inteligenci, sprejetih 22. maja 2019,

– ob upoštevanju svoje resolucije z dne 12. septembra 2018 o avtonomnih orožnih sistemih[16],

A. ker so ljudje tisti, ki razvijajo in oblikujejo t. i. umetno inteligenco, robotiko in sorodno tehnologijo ter odločajo, kakšen bo potencial tehnologije, da bo koristil družbi;

B. ker so etične smernice, kot so načela, ki jih je sprejela strokovna skupina na visoki ravni za umetno inteligenco, dobro izhodišče, vendar niso dovolj, da bi se zagotovila pošteno ravnanje podjetij in učinkovito varstvo posameznikov;

1. je seznanjen s potenciali in tveganji, ki jih imajo razvoj, uvajanje in uporaba umetne inteligence za varnost v EU in v njenih zunanjih odnosih; opozarja, da številne države članice uporabljajo umetno inteligenco na civilnem in vojaškem področju, in poudarja, da mora EU v prihodnjih mednarodnih razpravah o tem vprašanju prevzeti pomembno in ustrezno vlogo;

2. ugotavlja, da so nekatere države članice že dosegle napredek pri uvajanju regulativnih ukrepov na področju umetne inteligence; poudarja pomen, ki ga ima skupni evropski pristop, ko usklajuje pravni položaj v državah članicah in zagotavlja pravno varnost tistim, ki razvijajo in uporabljajo umetno inteligenco;

3. poudarja, da je treba pri razvoju, uvedbi, uporabi in upravljanju umetne inteligence spoštovati temeljne pravice, vrednote in svoboščine, zapisane v Pogodbah EU, ter poziva države članice, naj ne uvajajo sistemov umetne inteligence z visokim tveganjem, ki ogrožajo temeljne pravice; je seznanjen, da je Komisija objavila belo knjigo o umetni inteligenci in spodbuja k poglobljenim raziskavam morebitnega tveganja za temeljne pravice, ki bi ga pomenila uporaba umetne inteligence v državnih organih ter agencijah, organih in institucijah Evropske unije;

4. poudarja, da bi morala Evropska unija za izkoriščanje priložnosti, ki jih nudi umetna inteligenca, sprejeti ustrezen okvir za zmanjšanje tveganj, zagotoviti etično uporabo umetne inteligence, zlonamerno uporabo pa preprečiti; meni, da bi bilo treba s tem okvirom jasno določiti ustrezno ureditev glede obveznosti, odgovornosti, varnosti in sledljivosti; poudarja, da je pomembno, da Evropska unija pomaga spodbujati prepotrebne naložbe, podatkovno infrastrukturo, raziskave in oblikovanje skupnih etičnih norm;

5. poudarja, da mora Evropska unija prevzeti vodilno vlogo pri oblikovanju mednarodnega pravnega in etičnega okvira, ki bo urejal raziskovanje in razvoj, uporabo in vzdrževanje umetne inteligence, ki izhaja iz načel spoštovanja človekovih pravic ter preprečuje in odpravlja morebitna tveganja; meni, da je treba oblikovati jasen in pravičen mednarodni sistem za določanje pravne odgovornosti v primeru škodljivih posledic teh naprednih digitalnih tehnologij; poudarja, da mora biti prvi in najpomembnejši cilj preprečevanje takšnih posledic;

6. poziva Komisijo, naj spodbuja raziskave in razpravo o priložnostih v zvezi z uporabo umetne inteligence za pomoč pri nesrečah, preprečevanje kriz in ohranjanje miru;

7. opozarja na jasna tveganja pri odločitvah, ki jih sprejemajo ljudje, če izhajajo samo iz podatkov, profilov in priporočil, ki jih ustvarijo stroji; poudarja, da bi bilo treba pri splošni zasnovi sistemov umetne inteligence oblikovati tudi smernice za človekovo spremljanje in nadzor; poziva k določitvi obveznosti glede preglednosti in razložljivosti aplikacij umetne inteligence ter obveznosti človeškega posredovanja, pa tudi druge ukrepe, kot so neodvisne revizije in posebni stresni testi za podpiranje in zagotavljanje skladnosti; poudarja, da bi moral takšne revizije redno izvajati neodvisni organ, da bi nadzoroval aplikacije umetne inteligence z visokim tveganjem, ki jih uporabljajo državni organi ali vojska;

8. ugotavlja, da lahko umetna inteligenca, kadar je neustrezno zasnovana in razvita, vodi k pristranskosti in diskriminaciji; se zavezuje, da si bo prizadeval za regulativne in politične rešitve, s katerimi bi zagotovili, da se z uporabo obstoječih in nastajajočih tehnologij ne bo krepila diskriminacija, temveč bo ta odpravljena;

9. poudarja, da morajo biti napovedovanje na podlagi obdelave, izmenjave in dostopa do teh podatkov ter njihova uporaba v skladu z zahtevami po kakovosti, integriteti, preglednosti, varnosti, zasebnosti in nadzoru; poudarja, da je treba pri celotnem razvoju, uvajanju in uporabi umetne inteligence, robotike in z njimi povezanih tehnologij spoštovati pravni okvir EU o varstvu podatkov in zasebnosti, da bi povečali varnost in zaupanje državljanov v te tehnologije;

10. opaža hiter razvoj na umetni inteligenci zasnovanih aplikacij za prepoznavanje edinstvenih značilnosti, kot so obrazne poteze, gibanje in vedenje; opozarja na vprašanja vdora v zasebnost, nediskriminacije in varstva osebnih podatkov, povezanih z uporabo avtomatiziranih aplikacij za prepoznavanje;

11. poudarja, da je v skladu s splošno uredbo o varstvu podatkov prepovedana vsaka odločitev o fizični osebi, ki temelji zgolj na avtomatizirani obdelavi, vključno s profiliranjem, in ima škodljive pravne posledice za osebo, na katero se nanašajo podatki, ali je zaradi te odločitve znatno prizadeta, razen če je dovoljena v skladu s pravom Unije ali države članice, pod pogojem, da so sprejeti ustrezni ukrepi za zaščito pravic osebe, na katero se nanašajo podatki, ter njenih svoboščin in zakonitih interesov;

12. se zavzema, da bi bili algoritmi umetne inteligence, ki jih uporabljajo javni organi, razložljivi, pregledni in pod regulativnim nadzorom, in da se ocene učinka opravijo, preden državni organi uvedejo orodja, opremljena s tehnologijami umetne inteligence; poziva Komisijo in Evropski odbor za varstvo podatkov, naj objavita smernice, priporočila in primere dobre prakse, v katerih naj podrobneje določita merila in pogoje za odločitve javnih organov na podlagi profiliranja in uporabe umetne inteligence;

13. se zavzema za uvedbo ukrepov na mednarodni ravni, ki bi bili pregledni in s katerimi bi zmanjšali tveganja pri razvoju in uporabi vojaške umetne inteligence, zlasti glede načel ozemeljske celovitosti in neposeganja ter uporabe sile; poudarja, da je treba v evropskem okviru za umetno inteligenco pri obravnavanju pravnih in etičnih vprašanj upoštevati njene vojaške vidike umetne inteligence; spominja na svoje stališče o prepovedi razvoja, proizvodnje in uporabe smrtonosnih avtonomnih sistemov; obžaluje, da na svetovni ravni ni konvencij, ki bi izrecno obravnavale uporabo tega orožja;

14. ugotavlja, da določene tehnologije umetne inteligence omogočajo avtomatizacijo obdelave informacij in delovanja v doslej nepoznanem obsegu, npr. pri množičnem nadzoru na civilnem in vojaškem področju, to pa ogroža temeljne pravice in utira pot nezakonitim posegom v suverenost držav; se zavzema, da bi se dejavnosti množičnega nadzora spremljale v skladu z mednarodnopravnimi standardi o pristojnosti in izvrševanju; izraža globoko zaskrbljenost zaradi nekaterih že razvitih zelo vsiljivih aplikacij socialnega točkovanja kot zelo nevarnih za spoštovanje temeljnih pravic; poziva k izrecni prepovedi, da bi javni organi uporabljali množično socialno točkovanje za omejevanje pravic državljanov; glede na to, da imajo nekateri zasebni akterji prevladujoč položaj pri odločanju o razvoju teh tehnologij in ga nadzirajo, poziva, naj se poveča njihova odgovornost v skladu z mednarodnim pravom;

15. poziva Komisijo, naj oceni posledice moratorija za uporabo sistemov za prepoznavanje obrazov in glede na ugotovitve te ocene razmisli o moratoriju za javne organe za uporabo teh sistemov na javnih mestih in v prostorih, namenjenih izobraževanju in zdravstvu, in za organe preprečevanja, odkrivanja in preiskovanja kaznivih dejanj za uporabo sistemov za prepoznavanje obrazov v poljavnih prostorih, npr. na letališčih, dokler tehnični standardi ne bodo popolnoma v skladu s spoštovanjem temeljnih pravic, rezultati pa nepristanski in nediskriminatorni¸ ter bodo obstajali strogi zaščitni ukrepi za preprečevanje zlorabe in zagotovitev nujnosti in sorazmernosti uporabe teh tehnologij;

16. meni, da bi bilo treba umetno inteligenco, robotiko in z njimi povezane tehnologije, vključno s programsko opremo, algoritmi in podatki, ki jih te tehnologije uporabljajo ali proizvajajo, razvijati na varen in tehnično natančen način, in sicer ne glede na področje, na katerem se uporabljajo;

17. poudarja pomeni ustrezne uvedbe in uporabe umetne inteligence; poziva države članice, naj svojemu civilnemu in vojaškemu osebju zagotovijo ustrezno usposabljanje, da bo lahko natančno prepoznalo in preprečilo diskriminacijo in pristranskost v podatkovnih nizih;

18. ugotavlja, da bi lahko uporaba umetne inteligence v boju proti kriminalu in kibernetskemu kriminalu prinesla številne možnosti in priložnosti, da pa bi obenem moralo prevladati načelo „kar je nezakonito zunaj spleta, je nezakonito tudi na spletu“;

19. je globoko zaskrbljen glede tehnologij za globoko ponarejanje, saj omogočajo izdelavo fotografskih, zvočnih in video ponaredkov, ki so vse bolj realistični in bi se lahko uporabili za izsiljevanje, ustvarjanje lažnih novic, spodkopavanje zaupanja javnosti in vplivanje na javno razpravo; meni, da bi lahko te prakse destabilizirale države, širile dezinformacije in vplivale na volitve; zato poziva Komisijo, naj uvede obveznost, da mora ustvarjalec vse globoke ponaredke ali druge realistično sintetizirane videoposnetke označiti kot nepristne, in naj strogo omeji njihovo uporabo za volitve in poskrbi za dosledno izvrševanje; v zvezi s tem poziva k ustreznim raziskavam, da bi se lahko na zlonamerno uporabo umetne inteligence še naprej pravočasno odzvali s tehnologijami za boj proti njim;

20. poudarja, da bi lahko z uporabo umetne inteligence v pravosodnem sistemu izboljšali zbiranje podatkov in zaščito žrtev, kar bi bilo treba raziskati v okviru raziskav in razvoja ter opraviti tudi ocene učinka, zlasti glede zaščitnih ukrepov za zagotovitev dolžnega pravnega postopanja ter za preprečevanje pristranskosti in diskriminacije, pri tem pa bi bilo treba uporabiti previdnostno načelo; opominja, da to ne more nadomestiti ljudi pri izrekanju kazni ali odločanju;

21. poudarja pomen, ki ga ima kibernetska varnost za umetno inteligenco tako v scenariju napada kot obrambe; v zvezi s tem ugotavlja pomen, ki ga imata mednarodno sodelovanje ter objava in deljenje ranljivosti na področju informacijske varnosti in načinov za njihovo odpravljanje; poziva k mednarodnemu sodelovanju na področju kibernetske varnosti za učinkovito uporabo in uvedbo umetne inteligence ter k zaščitnim ukrepom proti njeni zlorabi in kibernetskim napadom; je tudi seznanjen z dvojno rabo sistemov IT in umetne inteligence (v civilne in vojaške namene) ter poziva k njuni učinkoviti pravni ureditvi;

22. poziva države članice k premisleku, ali je treba uvesti zaščitne ukrepe za uporabo umetne inteligence, kot so pravila o poklicni etiki; poziva Komisijo, naj določi jasen sklop meril za določitev različnih ravni tveganja na področjih, za katera so tehnologije umetne inteligence zasnovane in se uporabljajo, pri tem pa naj upošteva veljavno zakonodajo EU;

23. poudarja, da je treba preveriti, kako tehnologije umetne inteligence sprejmejo odločitve; opozarja, da je treba spoštovati načelo sorazmernosti ter pojasniti vprašanja vzročnosti in odgovornosti;

24. opozarja na pomen, ki ga imajo pri uporabi umetne inteligence v kazenskem pravosodju načela upravljanja, preglednost, nepristranskosti, odgovornosti, pravičnosti in intelektualne celovitosti;

25. poziva države članice, naj najprej ocenijo tveganja pri tehnologijah na podlagi umetne inteligence in šele nato avtomatizirajo dejavnosti, povezane z izvajanjem državnih pristojnosti, zlasti na področju pravosodja; jih poziva k premisleku, ali je treba uvesti zaščitne ukrepe, kot sta nadzor kvalificiranega strokovnjaka in pravila o poklicni etiki;

INFORMACIJE O SPREJETJU V ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja	17.11.2020
Izid končnega glasovanja	+: –: 0:	56 4 0
Poslanci, navzoči pri končnem glasovanju	Malik Azmani, Pietro Bartolo, Nicolas Bay, Vladimír Bilčík, Vasile Blaga, Ioan‑Rareş Bogdan, Patrick Breyer, Saskia Bricmont, Jorge Buxadé Villalba, Damien Carême, Caterina Chinnici, Clare Daly, Anna Júlia Donáth, Lena Düpont, Cornelia Ernst, Laura Ferrara, Nicolaus Fest, Jean‑Paul Garraud, Maria Grapini, Sylvie Guillaume, Andrzej Halicki, Evin Incir, Patryk Jaki, Marina Kaljurand, Assita Kanko, Fabienne Keller, Peter Kofod, Łukasz Kohut, Alice Kuhnke, Moritz Körner, Jeroen Lenaers, Juan Fernando López Aguilar, Nuno Melo, Nadine Morano, Javier Moreno Sánchez, Maite Pagazaurtundúa, Nicola Procaccini, Emil Radev, Terry Reintke, Diana Riba i Giner, Ralf Seekatz, Birgit Sippel, Tineke Strik, Ramona Strugariu, Annalisa Tardino, Tomas Tobé, Dragoş Tudorache, Tom Vandendriessche, Bettina Vollath, Jadwiga Wiśniewska, Elena Jončeva (Elena Yoncheva), Javier Zarzalejos, Sophia in ’t Veld, Michal Šimečka
Namestniki, navzoči pri končnem glasovanju	Malin Björk, Delara Burkhardt, Klára Dobrev, Rasa Juknevičienė, Kris Peeters, Karlo Ressler

 

 

POIMENSKO GLASOVANJE PRI KONČNEM GLASOVANJU V ODBORU, ZAPROŠENEM ZA MNENJE

56	+
PPE	Vladimír Bilčík, Vasile Blaga, Ioan‑Rareş Bogdan, Lena Düpont, Andrzej Halicki, Rasa Juknevičienė, Jeroen Lenaers, Nuno Melo, Kris Peeters, Emil Radev, Karlo Ressler, Ralf Seekatz, Tomas Tobé, Javier Zarzalejos
S&D	Pietro Bartolo, Delara Burkhardt, Caterina Chinnici, Klára Dobrev, Maria Grapini, Sylvie Guillaume, Evin Incir, Marina Kaljurand, Łukasz Kohut, Juan Fernando López Aguilar, Javier Moreno Sánchez, Birgit Sippel, Bettina Vollath, Elena Jončeva (Elena Yoncheva)
Renew	Malik Azmani, Anna Júlia Donáth, Fabienne Keller, Moritz Körner, Maite Pagazaurtundúa, Ramona Strugariu, Dragoş Tudorache, Sophia in ’t Veld, Michal Šimečka
ID	Nicolas Bay, Nicolaus Fest, Jean‑Paul Garraud, Peter Kofod, Annalisa Tardino, Tom Vandendriessche
Verts/ALE	Patrick Breyer, Saskia Bricmont, Damien Carême, Alice Kuhnke, Terry Reintke, Diana Riba i Giner, Tineke Strik
ECR	Jorge Buxadé Villalba, Patryk Jaki, Assita Kanko, Nicola Procaccini, Jadwiga Wiśniewska
NI	Laura Ferrara

 

4	-
PPE	Nadine Morano
GUE/NGL	Malin Björk, Clare Daly, Cornelia Ernst

 

0

0

 

Uporabljeni znaki:

+ : za

- : proti

0 : vzdržani

 

INFORMACIJE O SPREJETJU V PRISTOJNEM ODBORU

Datum sprejetja	10.12.2020
Izid končnega glasovanja	+: –: 0:	16 4 0
Poslanci, navzoči pri končnem glasovanju	Gunnar Beck, Geoffroy Didier, Angel Džambazki (Angel Dzhambazki), Ibán García Del Blanco, Jean-Paul Garraud, Esteban González Pons, Sergey Lagodinsky, Gilles Lebreton, Karen Melchior, Jiří Pospíšil, Franco Roberti, Marcos Ros Sempere, Stéphane Séjourné, Raffaele Stancanelli, Adrián Vázquez Lázara, Axel Voss, Marion Walsmann, Tiemo Wölken
Namestniki, navzoči pri končnem glasovanju	Daniel Buda, Pascal Durand, Heidi Hautala, Emmanuel Maurel, Sabrina Pignedoli, Bettina Vollath
Namestniki (člen 209(7) Poslovnika), navzoči pri končnem glasovanju	Juan Ignacio Zoido Álvarez

 

POIMENSKO GLASOVANJE PRI KONČNEM GLASOVANJU V PRISTOJNEM ODBORU

16	+
EPP	Daniel Buda, Geoffroy Didier, Esteban González Pons, Jiří Pospíšil, Axel Voss, Marion Walsmann, Juan Ignacio Zoido Álvarez
RENEW	Karen Melchior, Adrián Vázquez Lázara
ID	Gunnar Beck, Jean-Paul Garraud, Gilles Lebreton
VERTS/ALE	Heidi Hautala
ECR	Angel Džambazki (Angel Dzhambazki), Raffaele Stancanelli
NI	Sabrina Pignedoli

 

4	-
RENEW	Pascal Durand, Stéphane Séjourné
Verts/ALE	Sergey Lagodinsky
GUE/NGL	Emmanuel Maurel

 

0	0

 

Uporabljeni znaki:

+ : za

- : proti

0 : vzdržani

 

 

• [1] UL L 180, 19.7.2000, str. 22.
• [2] UL L 303, 2.12.2000, str. 16.
• [3] UL L 119, 4.5.2016, str. 1.
• [4] UL L 119, 4.5.2016, str. 89.
• [5] UL L 252, 8.10.2018, str. 1.
• [6] UL C 252, 18.7.2018, str. 239.
• [7] UL C 307, 30.8.2018, str. 163.
• [8] UL C 433, 23.12.2019, str. 86.
• [9] Sprejeta besedila, P8_TA(2018)0332.
• [10] Sprejeta besedila, P8_TA(2019)0081.
• [11] UL L 180, 19.7.2000, str. 22.
• [12] UL L 303, 2.12.2000, str. 16.
• [13] UL L 119, 4.5.2016, str. 1.
• [14] UL L 119, 4.5.2016, str. 89.
• [15] UL C 252, 18.7.2018, str. 239.
• [16] UL C 433, 23.12.2019, str. 86.