Evropski parlament,

–  ob upoštevanju svoje študije z dne 3. maja 2013 o vplivu uporabe brezpilotnih zrakoplovov in robotov brez posadke v vojskovanju na človekove pravice,

–  ob upoštevanju različnih stališč, priporočil in resolucij, ki pozivajo k prepovedi avtonomnih orožnih sistemov, kot je mandat za začetek pogajanj, sprejet na plenarnem zasedanju 13. marca 2018 z namenom sprejetja uredbe Evropskega parlamenta in Sveta o ustanovitvi evropskega programa za razvoj obrambne industrije, svoje resolucije z dne 13. decembra 2017 o letnem poročilu o človekovih pravicah in demokraciji v svetu za leto 2016 in politiki Evropske unije na tem področju(1), svojega priporočila Svetu z dne 7. julija 2016 o 71. zasedanju generalne skupščine Združenih narodov(2) in svoje resolucije z dne 27. februarja 2014 o uporabi oboroženih brezpilotnih letal(3),

–  ob upoštevanju poročila posebnega poročevalca OZN za usmrtitve, izvršene po zunajsodnih, skrajšanih in samovoljnih postopkih Christofa Heynsa z dne 9. aprila 2013 (UN A/HRC/23/47),

–  ob upoštevanju izjav v zvezi s smrtonosnimi avtonomnimi orožnimi sistemi, ki jih je EU podala skupini vladnih strokovnjakov pogodbenic Konvencije o nekaterih vrstah klasičnega orožja v Ženevi na srečanjih od 13. do 17. novembra 2017 in od 9. do 13. aprila 2018,

–  ob upoštevanju mnenja Evropskega ekonomsko-socialnega odbora z dne 31. maja 2017, v katerem poziva k takšnemu pristopu k umetni inteligenci, pri katerem bo človek ohranil nadzor, in k prepovedi avtonomnega orožja,

–  ob upoštevanju direktive ministrstva ZDA za obrambo št. 3000.09 z dne 21. novembra 2012 o avtonomnih orožnih sistemih;

–  ob upoštevanju odprtega pisma iz julija 2015, ki ga je podpisalo več kot 3000 raziskovalcev s področja umetne inteligence in robotike, in pisma z dne 21. avgusta 2017, ki ga je podpisalo 116 ustanoviteljev vodilnih podjetij s področja robotike in umetne inteligence,

–  ob upoštevanju člena 123(2) Poslovnika,

A.  ker naj bi neznano število držav, javno financiranih podjetij in zasebnih podjetij raziskovalo in razvijalo smrtonosne orožne sisteme s sposobnostjo avtonomnega delovanja, vse od raket, ki znajo izbirati cilje, do sistemov strojnega učenja s kognitivnimi zmožnostmi, na podlagi katerih naprava izbira, kdaj in kje bo napadla cilj;

B.  ker lahko smrtonosni avtonomni orožni sistemi bistveno spremenijo vojskovanje ter sprožijo nenadzorovano oboroževalno tekmo, kakršne še ni bilo;

C.  ker se v zvezi z uporabo smrtonosnih avtonomnih orožnih sistemov zastavljajo temeljna etična in pravna vprašanja o človeškem nadzoru, zlasti kar zadeva ključne odločitve, kot sta izbira ciljev in napad nanje;

D.  ker se v zvezi z uporabo smrtonosnih avtonomnih orožnih sistemov zastavljajo ključna vprašanja o uporabi mednarodnega prava na področju človekovih pravic, mednarodnega humanitarnega prava ter evropskih norm in vrednot v prihodnjih vojaških posredovanjih;

E.  ker se lahko po mnenju nekaterih strokovnjakov z dobro zasnovanimi avtomatiziranimi orožnimi sistemi, ki se uporabljajo pod učinkovitim človeškim nadzorom, okrepi spoštovanje načel mednarodnega humanitarnega prava;

F.  ker je avgusta 2017 116 ustanoviteljev vodilnih mednarodnih podjetij s področja robotike in umetne inteligence poslalo odprto pismo Organizaciji združenih narodov, v katerem je vlade pozvalo, naj preprečijo tekmo v oboroževanju s tem orožjem in preprečijo destabilizacijske učinke navedenih tehnologij;

G.  ker največje preboje na področju umetne inteligence in avtonomnih strojev dosegajo zasebna podjetja s komercialnimi motivi; ker tudi če se doseže dogovor o prepovedi smrtonosnih avtonomnih orožnih sistemov, bo tehnologija, ki omogoča avtonomno orožje, razširjena in lahko prenosljiva;

H.  ker sta avtonomnost in umetna inteligenca ločeni tehnološki razsežnosti, ki pa se med seboj dopolnjujeta;

I.  ker bi lahko pri vsakem avtonomnem orožnem sistemu prišlo do napake pri delovanju zaradi slabo napisane kode ali kibernetskega napada s strani sovražne države ali nedržavnega akterja;

1.  poudarja, da je nujno treba vzpostaviti skupno politiko EU za preprečitev nastajanja in posledično širjenja vsakršnih smrtonosnih avtonomnih orožnih sistemov;

2.  izraža zaskrbljenost zaradi vse večje uporabe avtonomnih orožnih sistemov s strani nedržavnih akterjev, kot je tako imenovana Islamska država, s kombiniranjem opreme, ki je dostopna na trgu; se boji, da bo prišlo do nenadzorovane uporabe tehnologije, ki temelji na umetni inteligenci;

3.  poziva podpredsednico Komisije/visoko predstavnico za zunanje zadeve in varnostno politiko, države članice in Evropski svet, naj pred srečanjem pomembnih pogodbenic Konvencije o nekaterih vrstah klasičnega orožja, ki bo novembra 2018, nujno pripravijo in sprejmejo skupno stališče o avtonomnih orožnih sistemih, s katerim bodo zagotovili človeški nadzor nad ključnimi funkcijami pri njihovi uporabi, ter naj se na zadevnih forumih predstavijo enoglasno in v skladu s tem tudi ravnajo; v zvezi s tem poziva podpredsednico Komisije/visoko predstavnico za zunanje zadeve in varnostno politiko, države članice in Svet, naj si izmenjujejo primere dobre prakse ter pridobijo mnenja strokovnjakov, akademikov in civilne družbe;

4.  odločno poziva podpredsednico Komisije/visoko predstavnico za zunanje zadeve in varnostno politiko, države članice in Svet, naj si prizadevajo za novo poglavje v okviru Konvencije OZN o nekaterih vrstah klasičnega orožja, da bi dosegli mednarodno prepoved avtonomnih orožnih sistemov, ki so zmožni samostojnega odmika od ključnih funkcij izbire ciljev in napada nanje, kakor jih programira človek; poleg tega poudarja, kako pomembno je preprečiti raziskave, razvoj in proizvodnjo vsakršnih smrtonosnih avtonomnih orožnih sistemov brez človeškega nadzora nad ključnimi funkcijami, kot je izbira ciljev in napad nanje;

5.  poziva države članice, naj prevzamejo odgovornost za izpolnjevanje svojih mednarodnih pravnih in etičnih obveznosti v zvezi z razvojem in uporabo orožarske tehnologije;

6.  želi spomniti na svoje stališče z dne 13. marca 2018 o uredbi o evropskem programu za razvoj obrambne industrije, zlasti odstavku 4 člena 6 (upravičeni ukrepi), ter poudarja, da je pripravljen sprejeti podobno stališče v zvezi s prihodnjim programom za raziskave na področju obrambe, programom za razvoj obrambne industrije in drugimi zadevnimi deli Evropskega obrambnega sklada po letu 2020;

7.  naroči svojemu predsedniku, naj to resolucijo posreduje Svetu, Komisiji, Evropski službi za zunanje delovanje, vladam in parlamentom držav članic ter Organizaciji združenih narodov.

(1) Sprejeta besedila, P8_TA(2017)0494. (2) UL C 101, 16.3.2018, str. 166. (3) UL C 285, 29.8.2017, str. 110.