RAPORT tehisintellekti kohta seoses küsimustega, mis puudutavad ELile tsiviil- ja sõjalisel otstarbel kasutamise vallas kehtiva rahvusvahelise õiguse tõlgendamist ja kohaldamist ning riigi pädevust väljaspool kriminaalõiguse kohaldamisala

4.1.2021 - (2020/2013(INI))

Õiguskomisjon
Raportöör: Gilles Lebreton
Arvamuse koostaja (*):
Urmas Paet, väliskomisjon
(*) Kaasatud komisjonid – kodukorra artikkel 57

EUROOPA PARLAMENDI RESOLUTSIOONI ETTEPANEK

tehisintellekti kohta seoses küsimustega, mis puudutavad ELile tsiviil- ja sõjalisel otstarbel kasutamise vallas kehtiva rahvusvahelise õiguse tõlgendamist ja kohaldamist ning riigi pädevust väljaspool kriminaalõiguse kohaldamisala

(2020/2013(INI))

Euroopa Parlament,

– võttes arvesse Euroopa Liidu lepingu preambulit ja artikleid 2, 3, 10, 19, 20, 21, 114, 167, 218, 225 ja 227,

– võttes arvesse Euroopa Liidu toimimise lepingu artiklites 20 ja 227 sätestatud petitsiooniõigust,

– võttes arvesse Euroopa Liidu põhiõiguste hartat,

– võttes arvesse nõukogu 29. juuni 2000. aasta direktiivi 2000/43/EÜ, millega rakendatakse võrdse kohtlemise põhimõte sõltumata isikute rassilisest või etnilisest päritolust (rassilise võrdõiguslikkuse direktiiv)[1],

– võttes arvesse nõukogu 27. novembri 2000. aasta direktiivi 2000/78/EÜ, millega kehtestatakse üldine raamistik võrdseks kohtlemiseks töö saamisel ja kutsealale pääsemisel (võrdse tööalase kohtlemise direktiiv)[2],

– võttes arvesse Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta määrust (EL) 2016/679 füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta[3] (isikuandmete kaitse üldmäärus) ning Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta direktiivi (EL) 2016/680, mis käsitleb füüsiliste isikute kaitset seoses pädevates asutustes isikuandmete töötlemisega süütegude tõkestamise, uurimise, avastamise ja nende eest vastutusele võtmise või kriminaalkaristuste täitmisele pööramise eesmärgil ning selliste andmete vaba liikumist ning millega tunnistatakse kehtetuks nõukogu raamotsus 2008/977/JSK[4],

– võttes arvesse nõukogu 28. septembri 2018. aasta määrust (EL) 2018/1488, millega asutatakse Euroopa kõrgjõudlusega andmetöötluse ühisettevõte[5],

– võttes arvesse 6. juuni 2018. aasta ettepanekut võtta vastu Euroopa Parlamendi ja nõukogu määrus, millega kehtestatakse ajavahemikuks 2021–2027 digitaalse Euroopa programm (COM(2018)0434),

– võttes arvesse oma 16. veebruari 2017. aasta resolutsiooni soovitustega komisjonile robootikat käsitlevate tsiviilõiguse normide kohta[6],

– võttes arvesse oma 1. juuni 2017. aasta resolutsiooni Euroopa tööstuse digiteerimise kohta[7],

– võttes arvesse oma 12. septembri 2018. aasta resolutsiooni autonoomsete relvasüsteemide kohta[8],

– võttes arvesse oma 11. septembri 2018. aasta resolutsiooni keelelise võrdõiguslikkuse kohta digitaalajastul[9],

– võttes arvesse oma 12. veebruari 2019. aasta resolutsiooni tervikliku Euroopa tööstuspoliitika kohta tehisintellekti ja robootika valdkonnas[10],

– võttes arvesse komisjoni 11. detsembri 2019. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Euroopa roheline kokkulepe“ (COM(2019)640),

– võttes arvesse komisjoni 19. veebruari 2020. aasta valget raamatut „Tehisintellekt: Euroopa käsitus tipptasemel ja usaldusväärsest tehnoloogiast“ (COM(2020)0065),

– võttes arvesse komisjoni 19. veebruari 2020. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Euroopa andmestrateegia“ (COM(2020)0066),

– võttes arvesse komisjoni 19. veebruari 2020. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Euroopa digituleviku kujundamine“ (COM(2020)0067),

– võttes arvesse komisjoni 2018. aasta juunis moodustatud kõrgetasemelise tehisintellekti eksperdirühma 8. aprilli 2019. aasta aruannet „Usaldusväärse tehisintellekti eetikasuunised“,

– võttes arvesse Euroopa Nõukogu rahvusvähemuste kaitse raamkonventsiooni, inimõiguste ja põhivabaduste kaitse konventsiooni protokolli nr 12 ning Euroopa piirkondlike ja vähemuskeelte hartat,

– võttes arvesse Euroopa eetikahartat tehisintellekti kasutamise kohta kohtusüsteemides ja nende keskkonnas, mille võttis 2018. aasta detsembris vastu Euroopa Nõukogu õiguskvaliteedi töörühm (CEPEJ-GT-QUAL),

– võttes arvesse OECD nõukogu 22. mai 2019. aasta soovitust tehisintellekti kohta,

– võttes arvesse kodukorra artiklit 54,

– võttes arvesse väliskomisjoni, siseturu- ja tarbijakaitsekomisjoni, transpordi- ja turismikomisjoni ning kodanikuvabaduste, justiits- ja siseasjade komisjoni arvamusi,

– võttes arvesse õiguskomisjoni raportit (A9-0001/2021),

Sissejuhatus

A. arvestades, et tehisintellekt, robootika ja seonduv tehnoloogia on väga kiiresti arenemas ning nad mõjutavad otseselt meie ühiskonna kõiki aspekte, sealhulgas sotsiaalseid ja majanduslikke aluspõhimõtteid ja -väärtusi;

B. arvestades, et tehisintellekt põhjustab revolutsiooni sõjalises doktriinis ja varustuses, muutes põhjalikult sõjaväe toimimisviisi, peamiselt uute tehnoloogiate lõimimise ja kasutamise ning autonoomse võimekuse tõttu;

C. arvestades, et nn tehisintellekti, robootika ja seonduva tehnoloogia arendamise ja kavandamisega tegelevad inimesed ning nende valikud määravad ära tehnoloogia potentsiaali ühiskonnale kasu tuua;

D. arvestades, et liidu ühine raamistik peab hõlmama tehisintellekti, robootika ja seonduva tehnoloogia arendamist, juurutamist ja kasutamist ning tagama inimväärikuse ja inimõiguste austamise, nagu on sätestatud Euroopa Liidu põhiõiguste hartas;

E.  arvestades, et liidul ja selle liikmesriikidel on eriline vastutus tagada, et tehisintellekt, robootika ja seonduv tehnoloogia – kuna neid saab kasutada piiriüleselt – oleksid inimkesksed, st mõeldud kasutamiseks inimkonna ja ühise heaolu teenistuses, et aidata kaasa oma kodanike heaolule ja üldistele huvidele; arvestades, et liit peaks aitama seda saavutada liikmesriikidel, eelkõige nendel, kes on hakanud kaaluma õigusnormide võimalikku arendamist või õigusaktide muutmist selles valdkonnas;

F. arvestades, et Euroopa kodanikud võiksid saada kasu asjakohasest, mõjusast, läbipaistvast ja sidusast regulatiivsest lähenemisviisist liidu tasandil, kus määratletakse piisavalt selged tingimused, mille alusel äriühingud rakendusi välja töötavad ja oma ärimudeleid kavandavad, tagades samal ajal, et liit ja selle liikmesriigid säilitavad kontrolli kehtestatavate määruste üle, nii et nad ei oleks sunnitud vastu võtma või aktsepteerima teiste kehtestatud standardeid;

G. arvestades, et eetikasuunised, näiteks kõrgetasemelise tehisintellekti eksperdirühma poolt vastu võetud põhimõtted, on hea lähtepunkt, kuid ainult nende abil ei ole võimalik tagada, et ettevõtjad käituvad ausalt ja tagavad üksikisikute tulemusliku kaitse;

H. arvestades, et sellisest erilisest kohustusest tulenevalt on vaja analüüsida küsimusi, mis puudutavad rahvusvahelise õiguse tõlgendamist ja kohaldamist seoses ELi aktiivse osalemisega rahvusvahelistel läbirääkimistel, niivõrd kui ELi mõjutavad seda liiki tehisintellekti, robootika ja seonduva tehnoloogia tsiviil- ja sõjaline kasutamine, ning küsimusi, mis on seotud riigi pädevusega selle tehnoloogia puhul väljaspool kriminaalõiguse kohaldamisala;

I. arvestades, et on oluline luua asjakohane ja kõikehõlmav õigusraamistik selle tehnoloogia eetiliste aspektide ning läbipaistvuse ja vastutuse kohta (eelkõige kõrge riskitasemega tehisintellekti, robootika ja seonduva tehnoloogia puhul); arvestades, et see raamistik peab peegeldama, et olemuslikult euroopalikud ja universaalsed humanistlikud väärtused on kohaldatavad kogu tehisintellekti väljatöötamise, rakendamise ja kasutamise väärtusahela suhtes; arvestades, et seda eetikaraamistikku tuleb kohaldada tehisintellekti arendamise (sealhulgas teadusuuringute ja innovatsiooni), juurutamise ja kasutamise suhtes, järgides täielikult liidu õigust ja Euroopa Liidu põhiõiguste hartas sätestatud väärtusi;

J. arvestades, et selle analüüsi eesmärk on uurida, mil määral rahvusvahelise avaliku ja eraõiguse ning ELi õiguse normid vastavad selle tehnoloogiaga seotud vajadustele, ning juhtida tähelepanu sellisest tehnoloogiast tekkivatele probleemidele ja riskidele seoses riigi pädevusega, nii et neid oleks võimalik nõuetekohaselt ja proportsionaalselt hallata;

K. arvestades, et Euroopa Komisjon ei käsitle oma valges raamatus tehisintellekti kasutamise sõjalisi aspekte;

L. arvestades, et nende probleemide ühtlustatud Euroopa käsitlusviisiks on vaja leppida kokku tehisintellekti ühtses määratluses ja tagada Euroopa Liidu põhiväärtuste, põhiõiguste harta põhimõtete ning rahvusvaheliste inimõigusalaste õigusaktide järgimine;

M. arvestades, et tehisintellekt pakub enneolematuid võimalusi transpordisektori tulemuslikkuse parandamiseks, kuna see aitab lahendada kasvava reisinõudluse, ohutus- ja keskkonnaprobleeme ning muudab kõik transpordiliigid arukamaks, tõhusamaks ja mugavamaks;

N. arvestades, et ELi võimekuse arendamiseks selles sektoris on hädavajalik käsitleda tehisintellekti kaitsevaldkonnas ELi tasandil;

Tehisintellekti määratlus

1. leiab, et on vaja vastu võtta ühine Euroopa õigusraamistik, mis sisaldaks ühtlustatud määratlusi ja ühiseid eetikapõhimõtteid, sealhulgas tehisintellekti sõjalistel eesmärkidel kasutamist; kutsub seetõttu komisjoni üles võtma vastu järgmised määratlused:

– „tehisintellektisüsteem“ – tarkvarapõhine või riistvarasse integreeritud intellekti matkiv süsteem, mis suudab muu hulgas andmeid koguda ja töödelda, oma tegutsemiskeskkonda analüüsida ja tõlgendada ning sooritab teataval määral autonoomseid toiminguid, et saavutada konkreetseid eesmärke;

– „autonoomne“ – tehisintellektisüsteem, mis oma töös tõlgendab teatavat sisendit ja kasutab kindlaksmääratud juhiseid, samas nendega piirdumata, olgugi et süsteemi käitumist piiravad ja suunavad süsteemile seatud eesmärk ja muud arendaja poolt projekteerimise käigus tehtud valikud;

2. rõhutab, et Euroopa Liidu ja selle liikmesriikide julgeoleku- ja kaitsepoliitikas juhindutakse põhimõtetest, mis on sätestatud Euroopa Liidu põhiõiguste hartas ja ÜRO põhikirjas – viimases kutsutakse kõiki riike hoiduma omavahelistes suhetes jõuga ähvardamisest või selle kasutamisest –, samuti rahvusvahelisest õigusest, inimõiguste ja inimväärikuse austamise põhimõtetest ning ühisest arusaamast universaalsete põhiväärtuste kohta, nagu inimeste puutumatud ja võõrandamatud õigused, vabadus, demokraatia, võrdsus ja õigusriik; rõhutab, et kõigis liidu raamistikus tehtavates kaitsealastes tegevustes tuleb neid universaalseid põhiväärtusi järgida, edendades samas rahu, stabiilsust, julgeolekut ja progressi Euroopas ja kogu maailmas;

Rahvusvaheline avalik õigus ja tehisintellekti sõjaline kasutamine

3. leiab, et sõjalises ja tsiviilkontekstis peab tehisintellekt alluma tegelikule inimkontrollile, nii et inimesel on igal ajal vahendid selle parandamiseks, peatamiseks või blokeerimiseks ettenägematu käitumise, juhusliku sekkumise, küberrünnakute või kolmandate isikute sekkumise korral tehisintellekti tehnoloogiasse või juhul, kui kolmandad isikud omandavad sellise tehnoloogia;

4. leiab, et rahvusvahelise avaliku õiguse, eelkõige humanitaarõiguse järgimine, mis kehtib ühemõtteliselt kõigi relvasüsteemide ja nende süsteemide käitajate suhtes, on põhinõue, mida liikmesriigid peavad täitma, eriti tsiviilelanikkonna kaitsmisel või ettevaatusabinõude võtmisel sellise rünnaku korral nagu sõjaline agressioon või kübersõda;

5. rõhutab, et tehisintellekt ja seonduv tehnoloogia võivad etendada oma osa ebakorrapärases või ebaharilikus sõjategevuses; teeb ettepaneku, et selliste juhtumite puhul tuleks tehisintellekti uurimise, arendamise ja kasutamise suhtes kohaldada samu tingimusi nagu tavakonfliktide puhul;

6. rõhutab, et tehisintellekti kasutamine annab võimaluse tugevdada Euroopa Liidu ja selle kodanike julgeolekut ning on oluline, et EL kasutaks tulevikus selleteemalistes rahvusvahelistes aruteludes integreeritud lähenemist;

7. kutsub tehisintellekti uurivaid teadlasi üles lõimima selle põhimõtte kõikidesse eespool nimetatud tehisintellektil põhinevatesse süsteemidesse, mis on mõeldud sõjaliseks kasutamiseks; on seisukohal, et ükski valitsusasutus ei või teha nende põhimõtete asjus erandit ega sertifitseerida sellist süsteemi;

8. kordab, et sõltumatu otsuste tegemine ei tohiks inimesi vastutusest vabastada ning et neil peab alati olema lõplik vastutus otsustusprotsesside eest, nii et oleks võimalik teha kindlaks otsuse eest vastutav inimene;

9. rõhutab, et tehisintellekti sõjalises kontekstis kasutamisel peavad liikmesriigid, konflikti pooled ja üksikisikud alati täitma kohaldatavast rahvusvahelisest õigusest neile tulenevaid kohustusi ning võtma endale vastutuse selliste süsteemide kasutamise tagajärgede eest; rõhutab, et tehisintellektil põhinevate süsteemide eeldatava, juhusliku või soovimatu tegevuse ja mõju eest tuleb alati pidada vastutavaks liikmesriike, konflikti pooli ja üksikisikuid;

10. tunneb heameelt võimaluste üle kasutada tehisintellekti väljaõppe ja õppuste jaoks, mille potentsiaali ei tohiks alahinnata, eriti arvestades, et EL viib läbi kahesuguse (tsiviil- ja sõjalise) olemusega õppusi;

11. toonitab, et tehisintellektil põhinevate süsteemide kavandamise, arendamise, katsetamise, juurutamise ja kasutamise etapis tuleb alati võtta nõuetekohaselt arvesse võimalikke riske, eelkõige seoses juhuslike tsiviilohvrite ja vigastustega, juhuslike inimkaotustega, tsiviiltaristu kahjustamisega ja riskidega, mis tulenevad soovimatust tegevusest, manipuleerimisest, levitamisest, küberrünnakutest, kolmandate isikute sekkumisest tehisintellektil põhinevasse autonoomsesse tehnoloogiasse või kui kolmandad isikud omandavad sellise tehnoloogia;

12. tuletab meelde, et Rahvusvahelise Kohtu 8. juuli 1996. aasta nõuandva arvamuse kohaselt ei saa algupärasuse põhimõtet kasutada ühegi erandi toetamiseks rahvusvahelise humanitaarõiguse kehtivate normide järgimisel;

13. on seisukohal, et lisaks operatsioonide toetamisele on tehisintellektist abi ka relvajõude teenindavale personalile nende terviseandmete masstöötlemise ja tervisejärelevalve laiendamise kaudu – tehisintellekt teeb kindlaks keskkonna ja töötingimustega seotud ohutegurid ning pakub välja asjakohased kaitsemeetmed, et piirata mõju teenindava personali tervisele;

14. kordab, et õigusalaseid jõupingutusi tuleb toetada konstruktiivsete sertifitseerimis- ja järelevalvekavadega, samuti selgete auditeeritavuse, selgitatavuse, vastutuse ja jälgitavuse mehhanismidega, et reguleeriv raamistik tehnoloogilise arengu tõttu ei vananeks;

15. rõhutab, kui oluline on ülivõrgustatud maailmas Euroopa Liidu osalemine tehisintellekti kasutamist käsitleva rahvusvahelise õigusraamistiku loomisel; nõuab tungivalt, et EL võtaks juhipositsiooni ning koos ÜRO ja rahvusvahelise üldsusega aktiivse rolli tehisintellekti sõjalisel ja muul eesmärgil kasutamist reguleeriva ülemaailmse raamistiku edendamisel, tagades, et selline kasutus jääb rahvusvahelise õiguse ja rahvusvahelise humanitaarõiguse, eelkõige 12. augusti 1949. aasta Genfi konventsioonidega kehtestatud rangete piirangute raamesse; rõhutab, et see raamistik ei tohi kunagi riivata avalikkuse õigustunnet ja inimlikkust ega sellist riivamist lubada, nagu on sätestatud Martensi klauslis, ning see peab olema kooskõlas ohutuseeskirjade ja tarbijakaitse nõuetega; nõuab tungivalt, et EL ja liikmesriigid määraksid kindlaks töökindlad jälgimis- ja hindamissüsteemid tehisintellekti tehnoloogiate arendamiseks, eriti selliste, mida kasutatakse sõjalisel otstarbel autoritaarsetes riikides;

16. rõhutab, et robootika ei võimalda sõjaväelastel mitte ainult ohutus kauguses viibida, vaid tagab ka parema enesekaitse näiteks saastunud keskkondades, tulekahju kustutamisel, demineerimisel maal või merel ning drooniparvede vastu kaitsmisel;

17. rõhutab asjaolu, et tehisintellekti arendamisel, juurutamisel, kasutamisel ja haldamisel tuleb austada ELi aluslepingutes sätestatud põhiõigusi, -väärtusi ja -vabadusi, ning kutsub liikmesriike üles hoiduma selliste kõrge riskitasemega tehisintellektisüsteemide kasutuselevõtust, mis ohustavad põhiõigusi; võtab teadmiseks komisjoni tehisintellekti käsitleva valge raamatu avaldamise ja ergutab põhjalikumalt analüüsima võimalikke ohte põhiõigustele, mis tulenevad tehisintellekti kasutamisest riigivõimude ning Euroopa Liidu asutuste, organite ja institutsioonide poolt;

18. kutsub komisjoni üles hõlbustama teadusuuringuid ja arutelu tehisintellekti kasutamise võimaluste kohta katastroofiabis, kriisiennetuses ja rahutagamisel;

19. väljendab heameelt selle üle, et rahvusvahelise julgeoleku kontekstis on loodud riikide vastutustundlikku käitumist küberruumis edendav ÜRO valitsusekspertide rühm (GGE), ning nõuab, et EL selle töös igakülgselt osaleks;

20. kutsub komisjoni asepresidenti ning liidu välisasjade ja julgeolekupoliitika kõrget esindajat üles sillutama teed ülemaailmsetele läbirääkimistele, et kehtestada tehisintellektil põhineva relvastuse kontrolli kord ning ajakohastada kõiki kehtivaid lepinguid, milles käsitletakse relvastuskontrolli, desarmeerimist ja massihävitusrelvade leviku tõkestamist, et võtta arvesse tehisintellektil põhinevaid sõjapidamissüsteeme; nõuab, et nõukogu ühises seisukohas, millega määratakse kindlaks sõjatehnoloogia ja -varustuse ekspordi kontrolli reguleerivad ühised normid, võetaks täielikult arvesse ja käsitletaks tehisintellektil põhinevaid relvasüsteeme;

21. kinnitab, et need eeskirjad peavad alati olema kooskõlas 17. juuli 1998. aasta Rooma konventsioonis osutatud genotsiidi, inimsusevastaste kuritegude ja sõjakuritegude keelustamise põhimõtetega;

22. juhib tähelepanu selgetele ohtudele, mis kaasnevad inimeste tehtud otsustega, kui tuginetakse üksnes masinate loodud andmetele, profiilidele ja soovitustele; märgib, et tehisintellektil põhinevate süsteemide üldine ülesehitus peaks hõlmama ka suuniseid inimjärelevalve ja -kontrolli kohta; nõuab, et kehtestataks kohustus seoses tehisintellekti rakenduste läbipaistvuse ja selgitatavuse ning inimsekkumise vajadusega, samuti muud meetmed, nagu sõltumatud auditid ja konkreetsed stressitestid nõuete täitmise hõlbustamiseks ja tagamiseks; rõhutab, et selliseid auditeid peaks korrapäraselt tegema sõltumatu asutus, mis teostaks järelevalvet riigivõimude või sõjaväe kasutatavate kõrge riskitasemega tehisintellekti rakenduste üle;

23. rõhutab, kui oluline on kontrollida, kuidas kõrge riskitasemega tehisintellekti tehnoloogiad jõuavad konkreetsete otsusteni; tuletab meelde, et selleks, et määrata kindlaks, kas ja millises ulatuses saab riik rahvusvahelises avalikus õiguses osalejana, aga ka oma võimu teostamisel ilma rahvusvahelisest õigusest tulenevaid kohustusi (nt nõuetekohane menetlus) rikkumata tegutseda tehisintellektil põhinevate süsteemide abil, millel on teatav autonoomia, tuleb järgida mittediskrimineerimise ja proportsionaalsuse põhimõtet ning selgitada põhjusliku seose ja vastutusega ning läbipaistvuse, aruandekohustuse ja selgitatavusega seotud küsimusi;

24. rõhutab, et oluline on investeerida inimeste oskustesse, sealhulgas digitaaloskustesse, et kohaneda teaduse arenguga, mis hõlmab tehisintellektil põhinevaid lahendusi reguleeritud kutsealadel tegutsevatele üksikisikutele, sealhulgas tegevusi, mis on seotud riigivõimu teostamisega, näiteks õigusemõistmine; kutsub liikmesriike ja komisjoni üles võtma seda direktiivi 2005/36/EÜ rakendamisel nõuetekohaselt arvesse;

25. nõuab, et tehisintellektisüsteemid vastaksid alati vastutuse, võrdsuse, juhitavuse, ettevaatusabinõude, vastutuse omaksvõetavuse, prognoositavuse, jälgitavuse, usaldusväärsuse, läbipaistvuse ja selgitatavuse põhimõttele, võimekusele tuvastada võimalikke muutusi asjaoludes ja tegevuskeskkonnas, eristada võitlejaid ja mittevõitlejaid, ning proportsionaalsuse põhimõttele; rõhutab, et viimase põhimõtte kohaselt sõltub sõjalise tegevuse õiguspärasus eesmärgi ja kasutatud vahendite tasakaalust, ning et proportsionaalsust peab alati hindama inimene;

26. rõhutab, et selleks, et tagada rahvusvahelise humanitaarõiguse põhimõtete, eelkõige eristamise, proportsionaalsuse ja rünnakuaegsete ettevaatusabinõude täielik kohaldamine kogu käsu- ja kontrolliahelas, on julgeoleku- ja kaitsevaldkonnas tehisintellektil põhinevate süsteemide kasutamisel vaja neid käitavatel inimestel igakülgset ülevaadet olukorrast, tehisintellektil põhineva süsteemi prognoositavust, usaldusväärsust ja vastupidavusvõimet, samuti süsteemi käitava inimese võimet tuvastada võimalikke olude ja operatiivkeskkonna muutusi, ning tal peab olema võimalus rünnakusse sekkuda või see katkestada; rõhutab, et tehisintellektil põhinevad süsteemid peavad võimaldama vastutavatel inimestel olukorda tegelikult kontrollida, võtta täieliku vastutuse süsteemide eest ja vastutada nende igasuguse kasutamise eest; kutsub komisjoni üles edendama dialoogi, tihedamat koostööd ja sünergiat liikmesriikide, teadlaste, akadeemiliste ringkondade, kodanikuühiskonna osalejate, erasektori, eelkõige juhtivate ettevõtete, ja sõjaväe vahel, et tagada kaitsevaldkonnas kasutatava tehisintellekti reguleerimist käsitleva poliitika kujundamine kaasaval viisil;

27. rõhutab, et Euroopa Parlament on nõudnud, et koostataks ja võetaks kiiresti vastu ühine seisukoht autonoomsete surmavate relvasüsteemide kohta, vältides selliste ilma tegeliku inimkontrollita rünnakut võimaldavate relvasüsteemide väljatöötamist, tootmist ja kasutamist, ning alustataks tulemuslikke läbirääkimisi nende keelustamiseks; tuletab sellega seoses meelde oma 12. septembri 2018. aasta resolutsiooni autonoomsete relvasüsteemide kohta; tuletab meelde, et terminiga „autonoomne surmav relvasüsteem“ tähistatakse ilma tegeliku inimkontrollita toimivaid relvasüsteeme, mille puhul jäävad kontrolli alt välja ka tähtsaimad funktsioonid, nagu konkreetsete sihtmärkide sihile võtmine ja ründamine; rõhutab, et otsuse valida sihtmärk ja võtta teatava autonoomsusega relvasüsteemide abil surmavaid meetmeid peavad alati tegema inimesed, kes teostavad tegelikku kontrolli, järelevalvet nende süsteemide üle ja hindavad nõuetekohaselt kooskõla proportsionaalsuse ja vajalikkuse põhimõtetega; rõhutab, et tehisintellektil põhinevad süsteemid ei või mingil juhul asendada inimese otsuseid selles valdkonnas;

28. märgib lisaks, et autonoomseid relvasüsteeme kui tehisintellekti erikategooriat sõjalises valdkonnas tuleks arutada ja selle suhtes kokku leppida rahvusvahelisel tasandil, eelkõige ÜRO teatavate tavarelvade konventsiooni foorumil; juhib tähelepanu jätkuvale rahvusvahelisele arutelule autonoomsete surmavate relvasüsteemide kohta, et reguleerida uusi sõjatehnoloogiaid, milles ei ole seni suudetud kokkuleppele jõuda; märgib, et EL on alles hiljuti nõustunud arutama tehisintellekti arendamise ja digitaliseerimise mõju kaitsesektorile; on arvamusel, et EL võib etendada olulist rolli, aidates liikmesriikidel ühtlustada oma lähenemist sõjalisele tehisintellektile, et juhtida rahvusvahelisi arutelusid;

29. rõhutab vajadust kogu ELi hõlmava autonoomsete surmavate relvasüsteemide vastase strateegia ja nn tapjarobotite keelustamise järele;

30. rõhutab, et sõjalises kontekstis kasutatav tehisintellekt peab vastama miinimumnõuetele, nimelt peab see suutma eristada võitlejaid, mittevõitlejaid ja lahinguväljal võitlejaid, tundma ära, kui võitlejad alla annavad või on võitlemisvõimetud, ei tohi avaldada valimatut mõju, põhjustada tarbetuid kannatusi inimestele, olla kallutatud või treenitud tahtlikult puudulike andmete alusel ning peab järgima rahvusvahelise humanitaarõiguse, jõu kasutamise proportsionaalsuse ja enne sekkumist ettevaatusabinõude võtmise põhimõtteid;

31. on seisukohal, et autonoomsete surmavate relvasüsteemide kasutamine tõstatab olulisi eetilisi ja õiguslikke küsimusi inimeste võimekuse kohta neid süsteeme kontrollida ning nõuab, et tehisintellektil põhinev tehnoloogia ei suudaks ise teha autonoomselt otsuseid, mis eeldavad eristamise, proportsionaalsuse ja ettevaatuse õiguslike põhimõtete järgimist;

32. nõuab läbipaistvaid riski vähendavaid meetmeid rahvusvahelisel tasandil sõjalise tehisintellekti arendamiseks ja kasutamiseks, eelkõige seoses territoriaalse terviklikkuse ja mittesekkumise põhimõtetega ning jõu kasutamisega; rõhutab, kui oluline on tehisintellekti käsitlevas Euroopa raamistikus õiguslike ja eetiliste küsimuste käsitlemisel võtta arvesse sõjalisi aspekte; tuletab meelde oma seisukohta autonoomsete surmavate relvasüsteemide väljatöötamise, tootmise ja kasutamise keelustamise kohta; peab kahetsusväärseks, et ülemaailmsel tasandil ei ole ühtegi selget konventsiooni, mis käsitleks selliste relvade kasutamist;

33. tunnistab, et autonoomsete surmavate relvasüsteemide arendamisest tingitud suurema sõjalise võimsusega riikide praegune relvastumisvõidujooks toimub kiiremini kui ühiste normide ja õigusraamistike areng ning tegelik ja üldine kohaldamine ja jõustamine, kuna selliste süsteemide arendamist ja kasutuselevõttu käsitlev teave on salastatud ning riigid on eluliselt huvitatud kõige kiiremate ja mõjusamate ründevõimekuste loomisest, sõltumata praegustest ja võimalikest tulevastest õigusraamistikest ja põhimõtetest;

34. on seisukohal, et autonoomseid surmavaid relvasüsteeme tuleks kasutada ainult viimase abinõuna ja need on seaduslikud ainult siis, kui nende suhtes kohaldatakse ranget inimkontrolli, kusjuures inimene peab suutma igal ajal nende juhtimise üle võtta, kuna tegelik inimsekkumine ja järelevalve on surmavate otsuste tegemisel oluline ning kuna elu ja surma puudutavate otsuste tegemise eest peaksid vastutama inimesed; on seisukohal, et süsteemid, millel puudub inimkontroll (human off the loop) ja inimjärelevalve, tuleb keelustada ilma eranditeta ja igal juhul;

35. kutsub asepresidenti ja kõrget esindajat, liikmesriike ja Euroopa Ülemkogu koostama ja võtma kiiremas korras vastu ühise seisukoha autonoomsete relvasüsteemide kohta, millega tagatakse tegelik inimkontroll relvasüsteemide kriitiliste funktsioonide üle, seda ka nende kasutuselevõtmise ajal, rääkima asjakohastel foorumitel ühel häälel ja tegutsema vastavalt sellele; kutsub asepresidenti ja kõrget esindajat, liikmesriike ja nõukogu jagama sellega seoses häid kogemusi ning koguma ekspertide, teadlaste ja kodanikuühiskonna seisukohti, nagu on kajastatud 12. septembri 2018. aasta seisukohas autonoomsete relvasüsteemide kohta, milles sätestatakse, et rünnakud tuleb alati läbi viia märkimisväärse inimsekkumisega;

36. ergutab kõiki riike hindama, kas ja kuidas autonoomsed sõjalised vahendid on suurendanud nende riiklikku julgeolekut ja millist kasu võiks nende riiklik julgeolek saada tehisintellektil põhinevatest relvasüsteemidest, eelkõige selliste tehnoloogiate potentsiaalist toetada ja tõhustada inimesepoolset otsuste langetamist kooskõlas rahvusvahelise humanitaarõiguse ja selle põhimõtetega; tuletab meelde, et igas autonoomses surmavas relvasüsteemis või suure autonoomsusastmega relvas võib tekkida rike näiteks vigase koodi või vaenuliku riigi või valitsusvälise osaleja küberrünnaku tõttu;

37. rõhutab, et autonoomseid surmavaid relvasüsteeme tuleks kasutada ainult selgelt kindlaks määratud juhtudel ja kooskõlas loamenetlusega, mis on eelnevalt üksikasjalikult sätestatud dokumentides, millele asjaomane riik – olenemata sellest, kas ta on Põhja-Atlandi Lepingu Organisatsiooni liige või mitte – tagab üldsuse või vähemalt oma riigi parlamendi juurdepääsu;

38. on seisukohal, et autonoomsed surmavad relvasüsteemid peavad vastama 10. oktoobri 1980. aasta teatavate tavarelvade konventsiooni sätetele, sealhulgas ülemääraseid kahjustusi tekitavate relvade kasutamise keelule;

39. soovitab, et autonoomsete surmavate relvasüsteemide kontrollimatu leviku vältimiseks tuleks need kanda relvade loetellu, mille suhtes kohaldatakse 2. aprilli 2013. aasta relvakaubanduslepingu sätteid ning mis on esitatud selle lepingu artiklis 2;

40. nõuab, et inimeste ja robotite eristamisel tekkida võiva segaduse vältimiseks tuleb keelata autonoomsetele surmavatele relvasüsteemidele inimkuju andmine;

41. väljendab heameelt nõukogu ja Euroopa Parlamendi vahelise kokkuleppe üle jätta autonoomsed surmavad relvad, millel puudub „tegeliku inimkontrolli võimalus valiku- ja kaasamisotsuste üle rünnakute korraldamisel“, välja Euroopa Kaitsefondist rahastatavatest tegevustest; tuletab meelde oma seisukohta, et Euroopa Kaitsefondist ei saa rahastada ilma tegeliku inimkontrollita autonoomsete surmavate relvade kasutamist, arendamist ega tootmist;

42. kutsub komisjoni üles toetama tehisintellekti alast teadus- ja arendustegevust, kasutuselevõttu ja kasutamist rahu tagamiseks ja konfliktide ennetamiseks;

43. märgib, et ülemaailmses tehisintellekti ökosüsteemis domineerivad Ameerika ja Hiina digitaalhiiglased, kes arendavad oma suutlikkust ja ostavad palju kasumlikke ettevõtteid; on seega kindlalt seisukohal, et tehisintellekti tehnoloogia vallas mahajäämuse vältimiseks peab EL liikuma alusuuringute ja tööstuslike rakenduste vahelise parema tasakaalu suunas, luues samal ajal võrreldavaid strateegilisi eeliseid, arendades edasi oma potentsiaali ja ressursse;

44. rõhutab, et niivõrd kui robotid kuuluvad direktiivis 2006/42/EÜ sätestatud masinate määratluse alla, peaksid need olema projekteeritud ja monteeritud kooskõlas selles sätestatud standardite ja ohutusmeetmetega;

45. tuletab meelde ELi pürgimust toimida üleilmselt rahu edendajana ja nõuab, et EL suurendaks oma osa üleilmsetes desarmeerimise ja relvastuse leviku tõkestamise pingutustes ning aitaks oma tegevuse ja poliitikaga säilitada rahvusvahelist rahu ja julgeolekut, tagades ka rahvusvahelise humanitaar- ja inimõigustealase õiguse austamise ning tsiviilelanike ja -taristu kaitse;

46. rõhutab vajadust uurida tehisintellekti võimalikku mõju ELi ühise julgeoleku- ja kaitsepoliitika (ÜJKP) strateegilise tegurina, eelkõige sõjalistel ja tsiviilmissioonidel ning operatsioonidel ning ELi võimekuse arendamisel;

47. meenutab, et meie liitlased riiklikes, NATO ja ELi raamistikes on ise lõimimas tehisintellekti oma sõjandussüsteemidesse; usub, et koostalitlusvõime meie liitlastega tuleb säilitada ühiste standardite kaudu, mis on koalitsioonis operatsioonide läbiviimiseks asendamatud; tuletab meelde, et lisaks peaks tehisintellekti alane koostöö toimuma Euroopa raamistikus, mis on ainus asjakohane raamistik jõulise koostoime loomiseks, nagu on välja toodud ELi tehisintellekti strateegias;

48. on seisukohal, et EL peab hoolikalt jälgima ja kaaluma tehisintellekti arengu mõju kaitsele ja sõjategevusele, sealhulgas võimalikke destabiliseerivaid arenguid ja kasutuselevõttu, ning suunama eetilisi teadusuuringuid ja projekteerimist, tagades isikuandmete tervikluse ning individuaalse juurdepääsu ja kontrolli ja võttes arvesse majandus- ja humanitaarküsimusi;

49. tuletab meelde Euroopa Parlamendi 12. septembri 2018. aasta seisukohta selliste autonoomsete relvasüsteemide kohta, mida ründav riik ei tohiks kasutada ilma tegeliku inimkontrollita; kutsub asepresidenti ja kõrget esindajat, liikmesriike ja Euroopa Ülemkogu võtma vastu ühise seisukoha autonoomsete relvasüsteemide kohta, millega tagatakse tegelik inimkontroll relvasüsteemide kriitiliste funktsioonide üle, seda ka nende kasutuselevõtmise ajal; kinnitab veel kord toetust tööle autonoomsete surmavate relvasüsteemide vallas, mida on teinud teatavate tavarelvade konventsiooni kõrgete lepinguosaliste ÜRO valitsusekspertide rühm (GGE), mis on endiselt asjakohane rahvusvaheline foorum aruteludeks ja läbirääkimisteks autonoomsete relvasüsteemide põhjustatud õiguslike probleemide üle; nõuab kõigi seniste mitmepoolsete jõupingutuste suurendamist, et normatiivne ja õigusraamistik ei jääks alla tehnoloogia arengule ja uutele sõjapidamisviisidele; palub, et jätkuvatel kõnelustel autonoomsete surmavate relvasüsteemide rahvusvahelise reguleerimise üle teatavate tavarelvade konventsiooni osalisriikide poolt aitaks asepresident ja kõrge esindaja viivitamata edendada püüdlusi töötada välja uus ülemaailmne õigusraamistik ja õiguslikult siduv instrument, milles käsitletakse autonoomsete surmavate relvasüsteemide valdkonna arenevate tehnoloogiate mõisteid, kontseptsioone ja näitajaid, inimkontrolli eetilisi ja õiguslikke küsimusi, eriti seoses nende süsteemide selliste kriitiliste funktsioonidega nagu sihtmärgi valimine ja ründamine, inimvastutuse ja aruandekohustuse ning inimese ja masina vastastoime vajaliku taseme säilitamine, sh inimkontrolli ja inimotsustuse kontseptsioon; nõuab jõupingutuste tegemist, et tagada humanitaar- ja inimõigustealase õiguse järgimine tehisintellektil põhinevate relvade olelustsükli eri etappides, eesmärgiga leppida kokku konkreetsed soovitused autonoomsete surmavate relvasüsteemide valdkonna arenevate tehnoloogiate normatiivse raamistiku aspektide selgitamiseks, kaalumiseks ja arendamiseks;

50. on veendunud, et mõjus mehhanism autonoomsete surmavate relvasüsteemide ja mis tahes tulevaste tehisintellektil põhinevate ründetehnoloogiate leviku tõkestamist käsitlevate eeskirjade jõustamiseks on ülemaailmse julgeoleku jaoks ülimalt oluline;

Riigivõim: näiteid tsiviilvaldkonnast, sealhulgas tervishoiu- ja õigusvaldkonnast

51. rõhutab, et liikmesriigid peavad tõhusalt vähendama oma sõltuvust välisandmetest ja tagama ilma turgu oluliselt moonutamata, et ülimalt keerulise tehisintellekti tehnoloogia omamisega võimsate eraõiguslike kontsernide poolt ei kaasne riigivõimu vaidlustamist ega isegi omastamist eraettevõtete poolt, eelkõige juhul, kui need erakontsernid kuuluvad kolmandale riigile väljaspool Euroopa Liitu;

52. rõhutab, et tehisintellektisüsteemide kasutamine riigiasutuste otsustusprotsessis võib kaasa tuua kallutatud otsused, mis mõjutavad kodanikke negatiivselt, ning seetõttu tuleks nende suhtes kohaldada rangeid kontrollikriteeriume, mis käsitlevad muu hulgas nende turvalisust, läbipaistvust, vastutust, mittediskrimineerimist, sotsiaalset ja keskkonnaalast vastutust; nõuab, et liikmesriigid hindaksid riske, mis puudutavad tehisintellektipõhiseid otsuseid, mis on seotud riigivõimu teostamisega, ning tagaksid kaitsemeetmed, nagu tegelik inimjärelevalve, läbipaistvusnõuded ja võimalus selliseid otsuseid vaidlustada;

53. nõuab, et liikmesriigid hindaksid tehisintellektil põhinevate tehnoloogiatega seotud ohte enne riigivõimu teostamisega seotud toimingute, näiteks õigusemõistmise, automatiseerimist; kutsub liikmesriike üles kaaluma vajadust näha ette kaitsemeetmed, näiteks järelevalve kvalifitseeritud kutsetöötaja poolt ja ranged kutse-eetika reeglid;

54. rõhutab, kui oluline on võtta Euroopa tasandil meetmeid, et aidata edendada väga vajalikke investeeringuid, andmetaristut, teadusuuringuid, sealhulgas selliseid uuringuid, mis käsitlevad tehisintellekti kasutamist riigiasutustes, ning ühist eetikaraamistikku;

55. rõhutab, et Euroopa Liit peab püüdma saavutada strateegilise vastupidavuse, et liit ei oleks enam kunagi olukorras, kus ta ei ole valmistunud kriisiks, ning toonitab, et sellel on kriitiline tähtsus, eelkõige tehisintellekti ja selle sõjaliste rakenduste vallas; rõhutab, et sõjaliste tehisintellektisüsteemide varustusahelad, mis võivad kaasa tuua tehnoloogilise sõltuvuse, tuleks läbi vaadata ja sellisest sõltuvusest järk-järgult vabaneda; nõuab Euroopa kaitsevaldkonna tehisintellekti ja seda toetavasse esmatähtsasse taristusse tehtavate investeeringute suurendamist;

56. kutsub komisjoni üles hindama näotuvastussüsteemide kasutamise moratooriumi kehtestamise tagajärgi ning sõltuvalt hindamise tulemustest kaaluma moratooriumi kehtestamist nende süsteemide kasutamisele ametiasutuste poolt avalikus ruumis ning hariduse ja tervishoiu jaoks ette nähtud ruumides ning näotuvastussüsteemide kasutamisele õiguskaitseasutuste poolt poolavalikes ruumides, näiteks lennujaamades seniks, kuni tehnilisi standardeid saab pidada täielikult põhiõigustega kooskõlas olevaks, saadud tulemused on kallutamata ja mittediskrimineerivad ning on olemas ranged kaitsemeetmed sellise tehnoloogia väärkasutamise vastu, mis tagavad selle kasutamise vajalikkuse ja proportsionaalsuse;

57. rõhutab küberturvalisuse olulisust tehisintellekti jaoks nii kaitse- kui ka ründestsenaariumide puhul; märgib sellega seoses rahvusvahelise koostöö ning IT-turvalisuse nõrkuste ja nende parandusviiside avaldamise ja jagamise tähtsust; nõuab tehisintellekti tõhusaks kasutamiseks ja juurutamiseks rahvusvahelist küberturvalisuse alast koostööd ning kaitsemeetmeid tehisintellekti väärkasutamise ja küberrünnakute vastu; märgib veel, et IT-süsteemid ning tehisintellekt on kahesuguse kasutusega (st nii tsiviil- kui ka sõjalistel eesmärkidel) ning nõuab selle tõhusat reguleerimist;

58. usub, et liikmesriigid peaksid edendama inimeste heaks töötavat tehisintellekti tehnoloogiat, ning et isikuid, kelle suhtes avalik-õiguslik asutus on teinud tehisintellektisüsteemi teabe alusel otsuse, tuleks sellest teavitada, neile tuleks anda viivitamata eelmises lõikes osutatud teave, pakkuda võimalust kõnealune otsus vaidlustada ning valida, et see kaebus lahendatakse ilma tehisintellektisüsteemi sekkumiseta; kutsub liikmesriike üles kaaluma vajadust kehtestada direktiiviga (EL) 2018/958 ette nähtud kaitsemeetmed, nagu järelevalve kvalifitseeritud kutsetöötaja poolt ja kutse-eetika normid;

59. rõhutab, et andmete jagamisest, neile juurdepääsust ja nende kasutamisest tulenevaid prognoose tuleb hallata kvaliteedi, usaldusväärsuse, läbipaistvuse, turvalisuse, eraelu puutumatuse ja kontrolli nõuete kohaselt; rõhutab, et tehisintellekti, robootika ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel tuleb läbivalt järgida andmekaitset ja eraelu puutumatust käsitlevat ELi õigusraamistikku, et suurendada kodanike ohutust ja usaldust nende tehnoloogiate vastu;

60. täheldab tehisintellekti rakenduste kiiret arengut selliste kordumatute näitajate tuvastamisel nagu näojooned, liigutused ja hoiakud; hoiatab eraelu puutumatuse rikkumise, mittediskrimineerimise ja isikuandmete kaitsega seotud probleemide eest, mis on seotud automaattuvastamise rakenduste kasutamisega;

61. rõhutab, et mis tahes otsus füüsilise isiku kohta, mis põhineb üksnes automatiseeritud andmetöötlusel, sealhulgas profiilianalüüsil, ning mis tekitab andmesubjekti suhtes ebasoodsaid õiguslikke mõjusid või kahjustab teda olulisel määral, on isikuandmete kaitse üldmääruse alusel keelatud, välja arvatud juhul, kui see on lubatud liidu või liikmesriigi õigusega, tingimusel, et võetakse kohaseid meetmeid andmesubjekti õiguste, vabaduste ning õigustatud huvide kaitsmiseks;

62. nõuab algoritmide selgitatavust, läbipaistvust ja regulatiivset järelevalvet, kui tehisintellekti kasutavad ametiasutused, ning mõjuhinnangute tegemist enne, kui riigivõimud tehisintellekti tehnoloogiaid kasutavad vahendid kasutusele võtavad; kutsub komisjoni ja Euroopa Andmekaitsenõukogu üles andma välja suuniseid ja soovitusi ning arendama parimaid tavasid, et täpsustada kriteeriume ja tingimusi profiilianalüüsile tuginevate otsuste tegemiseks ja tehisintellekti kasutamiseks ametiasutustes;

63. märgib, et tehisintellektil on tervishoius üha olulisem roll, eelkõige diagnoosimisabi algoritmide, robotkirurgia, arukate proteeside, patsiendi keha kolmemõõtmelisel modelleerimisel põhineva personaalse ravi, eakate abistamiseks mõeldud sotsiaalrobotite, teatavate vaimselt haigete sõltumatuse parandamiseks mõeldud digitaalsete ravimeetodite, ennetava meditsiini ja epideemiale reageerimise tarkvara kaudu;

64. rõhutab siiski, et kõik tehisintellekti kasutusviisid rahvatervise valdkonnas peavad tagama patsientide isikuandmete kaitse ja vältima selliste andmete kontrollimatut levikut;

65. nõuab, et kõik tehisintellekti kasutusviisid rahvatervise valdkonnas järgiksid patsientide võrdse kohtlemise põhimõtet seoses juurdepääsuga ravile, säilitaksid patsiendi ja arsti suhte ning oleksid alati kooskõlas Hippokratese vandega, et arst saaks alati tehisintellekti esitatud lahendust eirata, säilitades seega vastutuse mis tahes otsuse eest;

66. märgib, et tehisintellekti kasutamine kuritegevuse ja küberkuritegevuse vastases võitluses võib kaasa tuua palju võimalusi ja väljavaateid; kinnitab samal ajal, et põhimõte, mille kohaselt see, mis on ebaseaduslik väljaspool võrku, on ebaseaduslik ka võrgus, peaks jätkuvalt domineerima;

67. märgib, et tehisintellekti kasutatakse üha enam õigusvaldkonnas, et teha otsuseid ratsionaalsemalt, kehtivaid õigusakte paremini järgides ja kiiremini; tervitab asjaolu, et tehisintellekti kasutamine peaks kiirendama kohtumenetlust;

68. leiab, et on vaja välja selgitada, kas on asjakohane delegeerida õiguskaitsealased otsused osaliselt tehisintellektile, säilitades samas inimkontrolli lõpliku otsuse üle;

69. rõhutab, et tehisintellekti kasutamine õigusemõistmises võiks parandada andmete analüüsimist ja kogumist ning ohvrite kaitset ning et seda võiks uurida teadus- ja arendustegevuse käigus koos mõjuhinnangutega, eriti mis puudutab kaitsemeetmeid nõuetekohase menetluse suhtes ning erapoolikuse ja diskrimineerimise vastu, kohaldades ettevaatuspõhimõtet; tuletab siiski meelde, et tehisintellekti kasutamine ei asenda inimese osalust kohtuotsuste või muude otsuste tegemisel;

70. tuletab meelde, kui tähtsad on juhtimise, läbipaistvuse, erapooletuse, vastutuse, õigluse ja intellektuaalse aususe põhimõtted tehisintellekti kasutamisel kriminaalõiguses;

71. nõuab, et liikmesriigid hindaksid tehisintellektil põhinevate tehnoloogiatega seotud riske enne riigivõimu teostamisega seotud tegevuste automatiseerimist, eelkõige õigusvaldkonnas; kutsub neid üles kaaluma vajadust näha ette kaitsemeetmed, nagu järelevalve kvalifitseeritud spetsialisti poolt ja kutse-eetika eeskirjad;

72. märgib, et teatavad tehisintellekti tehnoloogiad võimaldavad enneolematus ulatuses automatiseerida teabe töötlemist ja meetmeid, näiteks massilise jälgimise puhul tsiviil- ja sõjalises valdkonnas, mis kujutab endast ohtu põhiõigustele ja sillutab teed ebaseaduslikule sekkumisele riigi suveräänsusesse; nõuab massilise jälgimise kontrolli vastavalt rahvusvahelisele õigusele, sealhulgas seoses jurisdiktsiooni ja jõustamise küsimustega; väljendab tõsist muret mõnede äärmiselt sekkuvate sotsiaalse hindamise rakenduste väljatöötamise pärast, sest nad kujutavad põhiõiguste austamise seisukohast väga suurt ohtu; nõuab, et selgesõnaliselt keelustataks massilise sotsiaalse hindamise kasutamise ametiasutuste poolt kodanike õiguste piiramiseks; nõuab, et suurendataks eraettevõtjate vastutust rahvusvahelise õiguse alusel, võttes arvesse teatavate erasektori osalejate otsustushegemooniat ja kontrolli nende tehnoloogiate arengu üle; kutsub sellega seoses komisjoni, nõukogu ja liikmesriike üles olema piiriüleste perejuhtumitega, näiteks rahvusvaheliste lapseröövidega seotud rahvusvaheliste lepingute üle peetavatel läbirääkimistel, lepingute sõlmimisel ja ratifitseerimisel eriti tähelepanelik ning tagama selles kontekstis, et tehisintellektisüsteemide kasutamine toimub alati tõhusa inimkontrolli all, ning järgima nõuetekohast protsessi ELis ja riikides, kes on nimetatud lepingutele alla kirjutanud;

73. nõuab, et üldsust teavitataks tehisintellekti kasutamisest õigusemõistmise valdkonnas ja et see ei põhjusta diskrimineerimist, mis tuleneb programmeerimise koostamisel esinevast kallutatusest; rõhutab, et tuleb austada iga isiku õigust kohtuda riigiametnikuga, samuti vastutava ametniku õigust teha isiklik otsus ja eirata tehisintellekti abil saadud teavet, kui ta peab seda vajalikuks kõnealuse juhtumi üksikasjade tõttu; rõhutab kostja õigust kaevata otsus edasi kooskõlas siseriiklike õigusaktidega, kaotamata seejuures kunagi kohtusüsteemi lõplikku vastutust;

74. nõuab seetõttu, et kõiki neid avalikke ja halduslikke kasutusviise käsitataks üldkasutatava teabena ning välditaks diskrimineerimist seoses programmide koostamisel esineva kallutatusega;

75. rõhutab tehisintellekti nõuetekohase juurutamise ja kasutamise võimaldamise olulisust; kutsub liikmesriike üles pakkuma oma tsiviil- ja sõjaväepersonalile asjakohast koolitust, et võimaldada neil täpselt tuvastada ning vältida diskrimineerimist ja erapoolikust andmekogumites;

76. on sügavalt mures süvavõltsingu tehnoloogia pärast, mis võimaldab luua üha realistlikumaid foto-, audio- ja videovõltsinguid, mida võidakse kasutada väljapressimiseks, valeuudiste genereerimiseks või üldsuse usalduse õõnestamiseks ja avaliku arvamuse mõjutamiseks; usub, et selline tava võib destabiliseerida riike, levitada väärinfot ja mõjutada valimisi; nõuab seetõttu, et autoril oleks kohustus märgistada kõik süvavõltsitud materjalid või muud realistlikult valmistatud sünteesvideod märkusega, et tegemist ei ole originaaliga, ning et nende kasutamist valimiste eesmärgil tuleb rangelt piirata jõuliste kontrollimeetmetega; nõuab piisavat teadustööd selles valdkonnas, et tagada tehisintellekti kuritahtliku kasutamise vastaste tehnoloogiate võime tehisintellekti kuritahtliku kasutamisega sammu pidada;

Transport

77. võtab teadmiseks tehisintellekti rakenduste märkimisväärset majanduslikku potentsiaali, sealhulgas transporditaristu ja hoonete pikaajalise tulemuslikkuse optimeerimiseks, hoolduseks, tõrgete prognoosimiseks ja ehituse kavandamiseks, samuti ohutuse, energiatõhususe ja kulude osas; kutsub seetõttu komisjoni üles jätkama tehisintellekti alaste uuringute edendamist ja hea tava vahetamist transpordi valdkonnas;

78. rõhutab vajadust edendada tehisintellekti, et soodustada transpordi mitmeliigilisust ning kõigi transpordiliikide koostalitlusvõimet ja energiatõhusust, muuta kauba- ja reisijateveo voogude korraldus ja haldus tõhusamaks, kasutada paremini ära üleeuroopalise transpordivõrgu (TEN‑T) taristut ja ressursse ning kõrvaldada tõelise Euroopa ühtse transpordipiirkonna loomise takistused;

79. tuletab meelde Euroopa raudteeliikluse juhtimissüsteemi (ERTMS) eeliseid, kuna selle näol on tegemist rongide ühtse automaatkaitsesüsteemiga, ning toetab rongiliikluse automatiseerimise arendamist ja rahvusvahelist standardimist;

80. tunnustab Euroopa lennuliikluse uue põlvkonna juhtimissüsteemi (SESAR) projekti tööd nii tsiviil- kui ka sõjaliste mehitamata õhusõiduki süsteemide ja lennuliikluse korraldamise süsteemidega;

81. tuletab meelde, et autonoomsetel sõidukitel on suur potentsiaal parandada liikuvust ja ohutust ning tuua keskkonnakasu, ning kutsub komisjoni ja liikmesriike üles tagama koostööd reguleerivate asutuste ja kõigi sidusrühmade vahel, kes on seotud automatiseeritud maanteesõidukite kasutuselevõtuga ELis;

82. juhib tähelepanu sellele, et ülemaailmne laevandus on tänu tehisintellekti integreerimisele viimastel aastatel oluliselt muutunud; tuletab meelde Rahvusvahelises Mereorganisatsioonis praegu toimuvaid põhjalikke arutelusid uute ja kujunemisjärgus tehnoloogiate, näiteks autonoomsete laevade, tulemusliku integreerimise üle selle õigusraamistikku;

83. rõhutab, et arukad transpordisüsteemid leevendavad liiklusummikuid, suurendavad ohutust ja juurdepääsetavust ning aitavad parandada liiklusvoogude juhtimist, tõhusust ja liikuvuslahendusi; juhib tähelepanu sellele, et traditsioonilised transpordivõrgud puutuvad üha enam kokku küberohtudega; tuletab meelde, kui olulised on automaatsete süsteemide ja nende andmete turvalisuse tagamiseks piisavad ressursid ja lisauuringud turvariskide kohta; kiidab komisjoni kavatsust lisada küberturvalisus transpordiga seotud rahvusvahelistes organisatsioonides toimuvatesse aruteludesse regulaarse päevakorrapunktina;

84. tunnustab pingutusi tehisintellektisüsteemide kasutuselevõtuks avalikus sektoris ja toetab edasisi arutelusid tehisintellekti kasutuselevõtu üle transpordis; kutsub komisjoni üles hindama tehisintellekti ja sarnaste tehnoloogiate kasutamist transpordisektoris ning koostama kõrge riskitasemega segmentide mittetäieliku loetelu seoses tehisintellektisüsteemidega, mis asendavad selles valdkonnas otsuseid avaliku võimu ainuõiguste raames;

85. toonitab, et Euroopa Kaitsefond ja alaline struktureeritud koostöö peaksid stimuleerima liikmesriikide ja Euroopa kaitsetööstuse koostööd, et arendada uusi Euroopa kaitsevõimeid tehisintellekti valdkonnas ja tagada varustuskindlus, võttes sealjuures arvesse eetilisi kaalutlusi; rõhutab vajadust vältida killustatust, rajades sildu eri osalejate ja rakendusvaldkondade vahel, edendades ühilduvust ja koostalitlusvõimet kõigil tasanditel ning keskendudes ühisele arhitektuuri- ja platvormilahenduste alasele tööle; tuletab lisaks meelde, et järgmise Euroopa ühendamise rahastuga, mis samuti edendab arukat taristut, nähakse ette fond kahesuguse kasutusega tsiviil- ja sõjalise transporditaristu kohandamiseks ja arendamiseks üleeuroopalises transpordivõrgus TEN‑T, et suurendada sünergiat tsiviil- ja sõjaliste vajaduste vahel ning et parandada tsiviil- ja sõjaväelist liikuvust liidus; rõhutab seetõttu vajadust täiendavate Euroopa investeeringute, teadusuuringute ja juhtpositsiooni järele selliste tehnoloogiate valdkonnas, millel on suur mõju majanduskasvule ja märkimisväärne kahesuguse kasutuse potentsiaal;

86. rõhutab, et paljud transpordi ja liikuvuse valdkonna uutesse tehnoloogiatesse tehtavad investeeringud on turupõhised, kuid et kahesuguse kasutusega kaubanduslikke valmistehnoloogiaid ja -tooteid kasutatakse sageli uuenduslikul viisil sõjalisel otstarbel; rõhutab seetõttu, et äri- ja sõjalise sektori eri valdkondades tehisintellekti kasutamise standardite koostamisel tuleb arvesse võtta tehisintellektil põhinevate lahenduste kahesuguse kasutuse potentsiaali; nõuab, et kaitsevaldkonna tehnoloogia, toodete ja tööpõhimõtete väljatöötamisel kehtiksid kõrged eetikastandardid ja -poliitika;

87. märgib, et kaupade, laskemoona, relvastuse ja vägede tõhus transport on edukate sõjaliste operatsioonide oluline osa; rõhutab, et tehisintellektil on sõjalises logistikas ja transpordis eeldatavasti oluline roll ning see loob seal arvukalt võimalusi; juhib tähelepanu sellele, et riigid üle kogu maailma, sealhulgas ELi liikmesriigid, integreerivad tehisintellektil põhinevaid relvi ja muid süsteeme maismaal, merel ja lennuvahenditel olevatesse platvormidesse; tuletab meelde, et tehisintellekti rakendused transpordisektoris võivad pakkuda uut võimekust ja võimaldada uusi taktikavorme, nagu paljude süsteemide, näiteks droonide, mehitamata laevade või tankide kombineerimine sõltumatu ja koordineeritud operatsiooni käigus;

Rahvusvaheline eraõigus

88. märgib, et kuna inimtegevuse rahvusvahelistumise tõttu nii internetis kui ka reaalmaailmas on tekkinud üha rohkem rahvusvahelise eraõigusega seotud vaidlusi, võib tehisintellekt aidata neid lahendada, luues mudeleid iga juhtumi puhul kohtualluvuse ja kohaldatava õiguse kindlakstegemiseks, aga ka kõige keerulisemate kollisioonide tuvastamiseks ja neile lahenduste leidmiseks;

89. on siiski seisukohal, et tehisintellekti kasutamisest rahvusvahelises eraõiguses on vaja avalikkust asjakohaselt teavitada, selline kasutus ei tohi tuua kaasa diskrimineerimist programmeerimise kaudu, mille tulemusel ühe riigi õigus saaks teise omaga võrreldes süstemaatiliselt eelistuse, selle puhul tuleb austada seadusega kindlaksmääratud kohtu õigusi, lubada apellatsioone vastavalt kohaldatavale õigusele ning võimaldada igal kohtunikul tehisintellekti pakutud lahendust mitte arvesse võtta;

90. rõhutab, et Euroopa Liidus toimuva autonoomsete sõidukite liikluse suhtes, mis võib kaasa tuua eriti suure hulga rahvusvahelisi eraõigusvaidlusi, tuleb kohaldada konkreetseid Euroopa õigusakte, millega määratakse kindlaks piiriülese kahju korral kohaldatav õiguskord;

91. rõhutab, et teadus- ja arendustegevuse kasvav tähtsus erasektoris ning kolmandatest riikidest pärit suured investeeringud tähendavad EL jaoks tugevat konkurentsi; toetab seetõttu ELi jõupingutusi arendada edasi oma konkurentsieelised ning on veendunud, et EL peaks püüdma tegutseda meie ülimalt ühendatud maailmas tehisintellekti normide kehtestajana, võttes oma välispartnerite suhtes vastu mõjusa strateegia, suurendades oma jõupingutusi kehtestada tehisintellektile rahvusvahelisel tasandil ülemaailmsed eetikanormid, mis on kooskõlas ohutuseeskirjade ja tarbijakaitse nõuetega ning Euroopa väärtuste ja kodanike õigustega, sealhulgas põhiõigustega; on seisukohal, et see on oluline ka Euroopa ettevõtete konkurentsivõime ja kestlikkuse seisukohast; kutsub komisjoni ja liikmesriike üles tugevdama koostööd kolmandate riikide ja rahvusvaheliste organisatsioonidega, nagu ÜRO, OECD, G7 ja G20, ning alustama laiemat dialoogi, et tegeleda selle kiiresti muutuva tehnoloogia arendamisest tulenevate probleemidega; leiab, et nende jõupingutustega tuleks taotleda eelkõige ühiste normide kehtestamist ja tehisintellektil põhinevate süsteemide koostalitlusvõime parandamist; kutsub komisjoni üles edendama dialoogi, tihedamat koostööd ja sünergiat liikmesriikide, teadlaste, akadeemiliste ringkondade, kodanikuühiskonna osalejate ja erasektori, eelkõige juhtivate ettevõtete, ja sõjaväe vahel, et tagada kaitsevaldkonnas kasutatava tehisintellekti reguleerimist käsitleva poliitika kujundamine kaasaval viisil;

Juhtpõhimõtted

92. on seisukohal, et tehisintellekti tehnoloogiate ja võrgusüsteemide eesmärk peaks olema kodanikele õiguskindluse tagamine; rõhutab seetõttu, et jätkuvalt tuleks kohaldada eeskirju õigusnormide ja kohtualluvuse kollisiooni kohta, võttes samal ajal arvesse kodanike huve ning vajadust vähendada meelepärase kohtualluvuse valimise ohtu; tuletab meelde, et tehisintellekt ei saa asendada inimesi kohtuprotsessis karistuse määramisel või lõpliku otsuse tegemisel, sest selliseid otsuseid peab alati tegema inimene ning neid peab kontrollima üksnes inimene ja neid tuleb nõuetekohaselt menetleda; rõhutab, et tehisintellektil põhineva tehnoloogia abil saadud tõendite kasutamisel peaks kohtuasutustel olema kohustus esitada oma otsuste põhjendused;

93. tuletab meelde, et tehisintellekt kujutab endast teaduslikku edasiminekut, mis ei tohi põhjustada tagasikäiku õigusvaldkonnas, vaid vastupidi, peab alati jääma õigusraamistikku – järgides Euroopa Liidus selle institutsioonide ja liikmesriikide õigusakte –, ning et mingil juhul ei tohi tehisintellekt, robootika ja seonduv tehnoloogia minna vastuollu põhiõiguste, demokraatia ja õigusriigiga;

94. rõhutab, et kaitse eesmärgil kasutataval tehisintellektil peavad olema järgmised omadused: vastutus, tasakaalustatus, jälgitavus, usaldusväärsus ja juhitavus;

95. märgib, et tehisintellekti, robootikat ja seonduvat tehnoloogiat, sealhulgas sellise tehnoloogia kasutatavat või loodavat tarkvara, algoritme ja andmeid, tuleks nende kasutusalast olenemata arendada turvalisel ja tehniliselt hoolikal viisil;

°

° °

96. teeb presidendile ülesandeks edastada käesolev resolutsioon nõukogule ja komisjonile.

SELETUSKIRI

Muljetavaldavad edusammud tehisintellekti alal tekitavad probleeme rahvusvahelise õiguse jaoks nii avaliku kui ka eraõiguse valdkonnas ning laiemalt võttes ka riikide pädevuse seisukohast. Kuna tehisintellekti õigusraamistik on muutunud üheks ELi prioriteediks, ei saa Euroopa Parlament seda küsimust eirata. Käesoleva raporti eesmärk on käsitleda kõnealuse valdkonna peamisi aspekte.

Rahvusvaheline avalik õigus: tehisintellekti sõjaline kasutamine

Vastavalt 29. aprilli 2020. aasta töödokumendile on oluline osa raportist pühendatud tehisintellekti sõjalisele kasutamisele, mille suhtes peamised jõud maailmas on üksmeelselt seisukohal, et selle arendamine on nende sõjaväe prioriteet. Väärtused, millele on EL rajatud, õigustavad soovi analüüsida vajadust kehtestada õigusraamistik, mille puhul austatakse nõuetekohaselt liikmesriikide ja ÜRO volitusi.

Raportis käsitletakse teemat kolmest eri aspektist. Kõigepealt tuletatakse meelde põhimõtteid, millest tuleb tehisintellekti sõjalisel kasutamisel igal juhul lähtuda, olgu selliseks tegevuseks teabe töötlemine sõjalistel eesmärkidel, sõjaline logistika, koostööl põhinev võitlus ja reaalajas otsuste tegemise toetamine või kaitsesüsteemid ja kõik tehisintellekti kasutavad relvad, sealhulgas autonoomsed surmavad relvasüsteemid.

Seejärel tuuakse välja konkreetsed põhimõtted autonoomsete surmavate relvasüsteemide jaoks, arvestades nende erilist ohtlikkust, mida Euroopa Parlament rõhutas juba oma 12. septembri 2018. aasta resolutsioonis.

Lõpuks käsitletakse Euroopa Kaitsefondi rolli, kuna sellest rahastatakse juba tehisintellekti rakendavaid sõjalisi teadusprojekte, mis näitab, et EL on juba tehisintellekti sõjalisse kasutamisse otseselt kaasatud.

Riigivõim

Tehisintellekt mõjutab riigivõimu ka mittesõjalistes valdkondades. Pärast õiguskomisjonis 16. juunil 2020. aastal toimunud arutelu, kus mitmed parlamendiliikmed leidsid, et mainida tuleks ka mittesõjalisi valdkondi, otsustati antud teemat käsitleda kahes eriti tundlikus valdkonnas, milleks on tervis ja õigusküsimused.

Rahvusvaheline eraõigus

Sama arutelu käigus nõudsid mõned parlamendiliikmed, et analüüsitaks ka tehisintellekti kasutamise mõju rahvusvahelisele eraõigusele. Nende soovi arvesse võttes tõstatatakse teksti lõpus ka see küsimus, seda küll lühidalt, arvestades parlamendi piiranguid seda liiki raportite mahule.

Juhtpõhimõte

Raportis käsitletud eri aspektide läbivaks jooneks on arusaamine sellest, et tehisintellekt võib kujutada ohtu demokraatlike põhimõtete ja õigusriigi austamisele ning sellele ohule tuleb pöörata vajalikku tähelepanu. Pidagem seega meeles Martin Heideggeri hoiatust, et „kõige pahemini oleme ometi tehnika kätte jäetud siis, kui vaatleme teda millegi neutraalsena“.

 

 

VÄLISKOMISJONI ARVAMUS (7.7.2020)

õiguskomisjonile

tehisintellekti kohta seoses küsimustega, mis puudutavad ELile tsiviil- ja sõjalisel otstarbel kasutamise vallas kehtiva rahvusvahelise õiguse tõlgendamist ja kohaldamist ning riigi pädevust väljaspool kriminaalõiguse kohaldamisala

(2020/2013(INI))

Arvamuse koostaja (*): Urmas Paet

(*) Kaasatud komisjon – kodukorra artikkel 57

 

 

ETTEPANEKUD

Väliskomisjon palub vastutaval õiguskomisjonil lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

1. rõhutab, et Euroopa Liidu ja selle liikmesriikide julgeoleku- ja kaitsepoliitikas juhindutakse põhimõtetest, mis on sätestatud Euroopa Liidu põhiõiguste hartas ja ÜRO põhikirjas – viimases kutsutakse kõiki riike hoiduma omavahelistes suhetes jõuga ähvardamisest või selle kasutamisest –, samuti rahvusvahelisest õigusest, inimõiguste ja inimväärikuse austamise põhimõtetest ning ühisest arusaamast universaalsetest põhiväärtustest, nagu inimeste puutumatud ja võõrandamatud õigused, vabadus, demokraatia, võrdsus ja õigusriik; rõhutab, et kõigis liidu raamistikus tehtavates kaitsealastes jõupingutustes tuleb neid universaalseid põhiväärtusi järgida, edendades samas rahu, stabiilsust, julgeolekut ja progressi Euroopas ja kogu maailmas;

2. kutsub ÜROd ja kogu rahvusvahelist üldsust tegema kõiki vajalikke regulatiivseid jõupingutusi selle tagamiseks, et tehisintellekti arendamine ja kasutamine sõjalisel otstarbel ning õiguskaitse tsiviilvõimekuse, näiteks politsei ja piirivalve võimekuse suurendamiseks, samuti tehisintellektil põhinevate süsteemide teaduslik uurimine, väljatöötamine ja kasutamine sõjaväelaste poolt toimuks rangelt rahvusvahelise õiguse, sealhulgas rahvusvahelise humanitaarõiguse ja inimõiguste alaste õigusaktide seatud piirides; rõhutab, et EL peaks püüdlema tehisintellektil põhinevate sõjaliste süsteemide tehniliste ja eetikanormide vastuvõtmise poole rahvusvahelisel tasandil ja tegema seda tihedas koostöös sarnaselt mõtlevate partneritega, ning püüdma kujundada rahvusvahelise reguleeriva raamistiku, millega nähakse ette demokraatlikel väärtustel põhinevad ühised normid, mis oleksid piisavalt piiritletud, et vältida nende kasutamist spionaažiks, massiliseks sihipäraseks ja poliitiliseks jälgimiseks, väärinfo ja andmetega manipuleerimiseks ning kübervõidurelvastumiseks; nõuab tihedamat koostööd NATOga, et kehtestada ühised normid ja parandada tehisintellektil põhinevate süsteemide koostalitlusvõimet; kutsub komisjoni üles edendama dialoogi, tihedamat koostööd ja sünergiat liikmesriikide, teadlaste, akadeemiliste ringkondade, kodanikuühiskonna osalejate ja erasektori, eelkõige juhtivate ettevõtete, ja sõjaväe vahel, et tagada kaitsevaldkonnas kasutatava tehisintellekti reguleerimist käsitleva poliitika kujundamine kaasaval viisil;

3. leiab, et eelkõige tuleb tehisintellektil põhinevate süsteemide kavandamisel, väljatöötamisel ja kasutamisel relvastatud konfliktides järgida Martensi klauslis sätestatud nõuet järgida rahvusvahelise humanitaarõiguse üldpõhimõtteid ning nende süsteemidega ei tohi kunagi rikkuda ega võimaldada neil rikkuda inimlikkuse ja inimliku südametunnistuse nõudeid; on seisukohal, et rahvusvahelise humanitaarõiguse järgimine on minimaalne vastuvõetavusnõue tehisintellektil põhinevate süsteemide kasutamiseks sõjategevuses; kutsub tehisintellekti uurivaid teadlasi üles lõimima selle põhimõtte kõigisse tehisintellektil põhinevatesse sõjaliseks kasutuseks mõeldud süsteemidesse; on seisukohal, et ükski valitsusasutus ei või teha nende põhimõtete osas erandit ega sertifitseerida ühtegi neid põhimõtteid rikkuvat tehisintellektil põhinevat süsteemi; kutsub seepärast autonoomsete surmavate relvasüsteemide arendajaid üles peatama kõigi selliste süsteemide kavandamise, prototüüpide väljatöötamise ja tootmise;

4. väljendab heameelt selle üle, et on loodud rahvusvahelise julgeoleku kontekstis riikide vastutustundlikku käitumist küberruumis edendav ÜRO valitsusekspertide rühm (GGE), ning kutsub ELi üles selle töös igakülgselt osalema;

5. kutsub komisjoni asepresidenti ning liidu välisasjade ja julgeolekupoliitika kõrget esindajat üles sillutama teed ülemaailmsetele läbirääkimistele, et kehtestada tehisintellektil põhineva relvastuse kontrolli kord, ning ajakohastama kõiki kehtivaid lepinguid, milles käsitletakse relvastuskontrolli, desarmeerimist ja massihävitusrelvade leviku tõkestamist, et võtta arvesse tehisintellektil põhinevaid sõjapidamissüsteeme; nõuab, et nõukogu ühises seisukohas, millega määratakse kindlaks sõjatehnoloogia ja -varustuse ekspordi kontrolli reguleerivad ühised normid, võetaks täielikult arvesse ja käsitletaks tehisintellektil põhinevaid relvasüsteeme;

6. rõhutab, et sõjategevuses tehisintellektil põhinevaid süsteeme kasutavad riigid, konfliktiosalised ja üksikisikud peavad alati täitma kohaldatavast rahvusvahelisest õigusest neile tulenevaid kohustusi ning vastutama selliste süsteemide kasutamise tagajärgede eest; tuletab meelde, et inimestele jääb vastutus tahtlike, tahtmatute või soovimatute tagajärgede eest, mida tehisintellektil põhinevad süsteemid lahingutegevuses põhjustavad; rõhutab, et otsuse võtta väga suure autonoomsusega relvasüsteemide abil surmavaid meetmeid peavad alati tegema inimesed, kes teevad tegelikku kontrolli ja järelevalvet nende süsteemide üle ja hindavad nõuetekohaselt kooskõla proportsionaalsuse ja vajalikkuse põhimõtetega; rõhutab, et tehisintellektil põhinevad süsteemid ei või mingil juhul asendada inimese otsuseid;

7. rõhutab vajadust võtta tehisintellektil põhineva süsteemi kavandamise, arendamise, katsetamise ja juurutamise etappides nõuetekohaselt arvesse võimalikke ohte eeskätt seoses tsiviilelanike juhusliku hukkumise ja vigastamise, inimelude juhusliku kaotuse ja tsiviiltaristu kahjustamisega, samuti ohte, mis on seotud tahtmatu tegevuse, manipuleerimise, massihävitusrelvade leviku, küberrünnakute või organiseeritud kuritegelike ja terrorirühmituste poolse sekkumise ja süsteemide omandamisega, millel on pingestav ja destabiliseeriv mõju ning eesmärk muuta meie ühiskond, relvajõud ja institutsioonid haavatavaks;

8. tunneb muret asjaolu pärast, et mitte kõik rahvusvahelise üldsuse liikmed ei järgi regulatiivset inimkeskset tehisintellekti käsitust; nõuab tungivalt, et EL ja liikmesriigid hindaksid tehisintellekti tehnoloogiate, eriti sõjalisel ja jälgimise otstarbel kasutatavate tehnoloogiate arendamist autoritaarsetes riikides, mis väldivad ELi juhtimisel seatud normide järgimist;

9. rõhutab selgetel õiguslikel ja demokraatlikel normidel ning selgetel ohutusstandarditel põhinevate usaldusväärsete katsetus-, hindamis-, sertifitseerimis-, järelevalve- ja kontrollisüsteemide vajalikkust selle tagamiseks, et tehisintellektil põhinevate süsteemide kogu olelusringi kestel ning eelkõige inimese ja masina koostoime, masinõppe ning muutunud oludega kohanemise ja kohandamise etapis ei ületaks süsteemid ja nende mõju ettenähtud piire ning neid kasutataks alati viisil, mis on kooskõlas kohaldatava rahvusvahelise õigusega; on seisukohal, et juhul, kui need piirid operatsiooni toimumiskohas ületatakse, tuleks vastutusele võtta need tsiviil- või sõjaväevõimud, kes tehisintellektil põhineva süsteemi kasutusele võtsid;

10. juhib tähelepanu sellele, et kõik sõjandusvaldkonnas kasutatavad tehisintellektil põhinevad süsteemid peavad vähemalt suutma lahingutingimustes eristada võitlejaid kõrvalistest isikutest, sõjalisi sihtmärke mittesõjalistest, aru saada, millal võitleja alistub või on võitlusvõimetuks muutunud, neil ei tohi olla valimatut toimet, nad peavad võimaldama jõukasutust üksikobjektide suhtes, ei tohi rakenduda teatava inimkategooria suhtes, ei või põhjustada inimestele asjatuid kannatusi ega nende julma või alandavat kohtlemist, olla erapoolikud või erapoolikute andmete põhjal välja õpetatud ning nad peavad enne kasutamist ja rünnaku ajal olema kooskõlas rahvusvahelisest humanitaarõigusest tulenevate inimlikkuse, eristavuse, proportsionaalse jõukasutuse ja ettevaatusabinõude rakendamise üldpõhimõtetega; toonitab algoritmide, algandmete ja otsustusprotsesside eelkontrolli kvaliteedi tähtsust;

11. rõhutab, et selleks et tagada rahvusvahelise humanitaarõiguse põhimõtete, eelkõige eristamise, proportsionaalsuse ja rünnakuaegsete ettevaatusabinõude täielik kohaldamine kogu käsu- ja kontrolliahelas, on julgeoleku- ja kaitsevaldkonnas tehisintellektil põhinevate süsteemide kasutamisel vaja neid käitavatel inimestel igakülgset ülevaadet olukorrast, tehisintellektil põhineva süsteemi prognoositavust ja usaldusväärsust, samuti süsteemi käitava inimese võimet tuvastada võimalikke olude ja operatiivkeskkonna muutusi ning tal peab olema võimalus rünnakusse sekkuda või see katkestada; rõhutab, et tehisintellektil põhinevad süsteemid peavad alati võimaldama sõjalisel juhtkonnal olukorda tegelikult kontrollida, võtta täieliku vastutuse ja olla vastutav süsteemide igasuguse kasutamise eest;

12. soovitab riikidel hinnata, kas ja kuidas autonoomsed sõjalised vahendid on suurendanud nende riiklikku julgeolekut ja millist kasu võiks nende riiklik julgeolek saada tehisintellektil põhinevatest relvasüsteemidest, eelkõige seoses selliste tehnoloogiate võimega toetada ja tõhustada tehisintellekti abil toimuvat inimlikku otsustusprotsessi kooskõlas rahvusvahelise humanitaarõiguse ja selle põhimõtetega; tuletab meelde, et igas autonoomses surmavas relvasüsteemis või suure autonoomsusastmega relvas võib tekkida rike näiteks vigase koodi või vaenuliku riigi või valitsusvälise osaleja küberrünnaku tagajärjel;

13. tuletab meelde oma 12. septembri 2018. aasta resolutsiooni autonoomsete relvasüsteemide kohta, väljendab sellega seoses heameelt nõukogu ja Euroopa Parlamendi kokkuleppe üle jätta Euroopa Kaitsefondi rahastatud meetmetest välja autonoomsed surmavad relvad, „mille üle puudub sihtmärkide valimisel ja ründamisotsuste tegemisel tegelik inimkontroll“;

14. nõuab Euroopa tehisintellekti ameti loomist, mille pädevusse kuuluksid ühised standardid, sertifitseerimis- ja järelevalveraamistikud ning tihe kahepoolne koostöö NATOga tehisintellekti kasutuselevõtmisel, arendamisel ja kasutamisel sõjanduses;

15. tuletab meelde Euroopa Parlamendi 12. septembri 2018. aasta seisukohta selliste autonoomsete relvasüsteemide kohta, mida ründav riik ei tohiks kasutada ilma tegeliku inimkontrollita; kutsub asepresidenti ja kõrget esindajat, liikmesriike ja Euroopa Ülemkogu võtma vastu ühise seisukoha autonoomsete relvasüsteemide kohta, millega tagatakse tegelik inimkontroll relvasüsteemide kriitiliste funktsioonide üle, seda ka nende kasutuselevõtmise ajal; kinnitab veel kord toetust tööle autonoomsete surmavate relvasüsteemide vallas, mida on teinud teatavate tavarelvade konventsiooni kõrgete lepinguosaliste ÜRO valitsusekspertide rühma (GGE), mis on endiselt asjakohane rahvusvaheline foorum aruteludeks ja läbirääkimisteks autonoomsete relvasüsteemide põhjustatud õiguslike probleemide üle; nõuab kõigi mitmepoolsete jõupingutuste suurendamist, et õigusraamistik ei jääks alla tehnoloogia ja uute sõjapidamisviiside arengule; palub, et jätkuvatel kõnelustel autonoomsete surmavate relvasüsteemide rahvusvaheliseks reguleerimiseks teatavate tavarelvade kasutamist käsitleva konventsiooni osalisriikide poolt aitaks komisjoni asepresident ning liidu välisasjade ja julgeolekupoliitika kõrge esindaja viivitamata edendada püüdlusi töötada välja uus ülemaailmne õigusraamistik ja õiguslikult siduv dokument, milles käsitletakse arenevate autonoomsete surmavate relvasüsteemide mõisteid, kontseptsioone ja näitajaid, inimkontrolli eetilisi ja õiguslikke küsimusi, eriti seoses nende süsteemide selliste kriitiliste funktsioonidega nagu sihtmärgi valimine ja ründamine; inimese vastutuse ja aruandekohustuse ning inimese ja masina vastastoime vajaliku taseme säilitamine, sh inimkontrolli ja inimotsustuse kontseptsioon tehisintellektil põhineva relva olelusringi eri etappidel, et tagada rahvusvahelise humanitaarõiguse ja inimõiguste alaste õigusaktide järgimine; eesmärk on jõuda kokkuleppele konkreetsetes soovitustes, mis käsitleksid autonoomsete surmavate relvasüsteemide valdkonna arenevate tehnoloogiate normatiivse ja operatiivse raamistiku aspektide selgitamist, kaalumist ja arendamist;

16. rõhutab, et Euroopa Liit peab püüdma saavutada strateegilise vastupidavuse, et liit ei oleks enam kunagi olukorras, kus ta ei ole valmistunud kriisiks, ning toonitab, et sellel on kriitiline tähtsus eriti tehisintellekti ja selle sõjaliste rakenduste vallas; rõhutab, et sõjaliste tehisintellektisüsteemide varustusahelad, mis võivad tekitada tehnoloogilise sõltuvuse, tuleks ümber kujundada ja sellisest sõltuvusest tuleks järk-järgult vabaneda; nõuab Euroopa kaitsevaldkonna tehisintellekti ja seda toetavasse esmatähtsasse taristusse tehtavate investeeringute suurendamist;

17. tunnistab, et suurema sõjalise võimsusega riikide praegune relvastumise võidujooks autonoomsete surmavate relvasüsteemide arendamisel toimub kiiremini kui ühiste normide ja õigusraamistike areng ning tegelik ja üldine kohaldamine ja jõustamine, kuna selliste süsteemide arendamist ja kasutuselevõttu käsitlev teave on salastatud ning riigid on eluliselt huvitatud kõige kiiremate ja mõjusamate ründevõimekuste loomisest, sõltumata praegustest ja võimalikest tulevastest õigusraamistikest ja põhimõtetest;

18. usub, et ülemaailmse julgeoleku seisukohast on äärmiselt oluline tõhusa mehhanismi olemasolu selliste normide jõustamiseks, milles käsitletakse autonoomsete surmavate relvasüsteemide ja tulevaste tehisintellektil põhinevate ründetehnoloogiate leviku tõkestamist.

 

TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

Vastuvõtmise kuupäev	6.7.2020
Lõpphääletuse tulemus	+: –: 0:	60 6 4
Lõpphääletuse ajal kohal olnud liikmed	Alviina Alametsä, Alexander Alexandrov Yordanov, Maria Arena, Petras Auštrevičius, Traian Băsescu, Lars Patrick Berg, Anna Bonfrisco, Reinhard Bütikofer, Fabio Massimo Castaldo, Susanna Ceccardi, Włodzimierz Cimoszewicz, Katalin Cseh, Tanja Fajon, Anna Fotyga, Michael Gahler, Kinga Gál, Sunčana Glavak, Raphaël Glucksmann, Klemen Grošelj, Bernard Guetta, Márton Gyöngyösi, Sandra Kalniete, Karol Karski, Dietmar Köster, Andrius Kubilius, Ilhan Kyuchyuk, David Lega, Miriam Lexmann, Nathalie Loiseau, Antonio López-Istúriz White, Lukas Mandl, Thierry Mariani, David McAllister, Vangelis Meimarakis, Sven Mikser, Francisco José Millán Mon, Javier Nart, Gheorghe-Vlad Nistor, Urmas Paet, Kostas Papadakis, Tonino Picula, Manu Pineda, Kati Piri, Giuliano Pisapia, Diana Riba i Giner, Jérôme Rivière, María Soraya Rodríguez Ramos, Nacho Sánchez Amor, Isabel Santos, Jacek Saryusz-Wolski, Andreas Schieder, Radosław Sikorski, Sergei Stanishev, Tineke Strik, Hermann Tertsch, Hilde Vautmans, Harald Vilimsky, Idoia Villanueva Ruiz, Viola Von Cramon-Taubadel, Thomas Waitz, Witold Jan Waszczykowski, Charlie Weimers, Isabel Wiseler-Lima, Salima Yenbou, Željana Zovko
Lõpphääletuse ajal kohal olnud asendusliikmed	Nikos Androulakis, Vladimír Bilčík, Marisa Matias, Juozas Olekas, Mick Wallace

 

NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

60	+
PPE	Alexander Alexandrov Yordanov, Traian Băsescu, Michael Gahler, Kinga Gál, Sunčana Glavak, Sandra Kalniete, Andrius Kubilius, David Lega, Miriam Lexmann, Antonio López-Istúriz White, David McAllister, Lukas Mandl, Vangelis Meimarakis, Francisco José Millán Mon, Gheorghe-Vlad Nistor, Radosław Sikorski, Isabel Wiseler-Lima, Željana Zovko, Vladimír Bilčík
S&D	Maria Arena, Włodzimierz Cimoszewicz, Tanja Fajon, Raphaël Glucksmann, Sven Mikser, Tonino Picula, Kati Piri, Giuliano Pisapia, Nacho Sánchez Amor, Isabel Santos, Andreas Schieder, Sergei Stanishev, Nikos Androulakis Nikos, Juozas Olekas
RENEW	Petras Auštrevičius, Katalin Cseh, KLemen Grošelj, Bernard Guetta, Ilhan Kyuchyuk, Nathalie Loiseau, Javier Nart, Urmas Paet, María Soraya Rodríguez Ramos, Hilde Vautmans
ID	Anna Bonfrisco, Susanna Ceccardi
Verts/ALE	Alviina Alametsä, Reinhard Bütikofer, Diana Riba i Giner, Tineke Strik, Viola von Cramon-Taubadel, Thomas Waitz, Salima Yenbou
ECR	Anna Fotyga, Karol Karski, Jacek Saryusz-Wolski, Hermann Tertsch, Witold Jan Waszczykowski, Charlie Weimers
NI	Fabio Massimo Castaldo, Márton Gyöngyösi

 

6	–
S&D	Dietmar Köster
GUE/NGL	Manu Pineda, Idoia Villanueva Ruiz, Marisa Matias, Mick Wallace
NI	Kostas Papdakis

 

4	0
ID	Lars Patrick Berg, Thierry Mariani, Jérôme Rivière, Harald Vilimsky

 

Kasutatud tähised:

+ : poolt

– : vastu

0 : erapooletu

 

 

 

 

SISETURU- JA TARBIJAKAITSEKOMISJONI ARVAMUS (7.7.2020)

õiguskomisjonile

tehisintellekti kohta seoses küsimustega, mis puudutavad ELile tsiviil- ja sõjalisel otstarbel kasutamise vallas kehtiva rahvusvahelise õiguse tõlgendamist ja kohaldamist ning riigi pädevust väljaspool kriminaalõiguse kohaldamisala

(2020/2013(INI))

Arvamuse koostaja: Andreas Schwab

 

ETTEPANEKUD

Siseturu- ja tarbijakaitsekomisjon palub vastutaval õiguskomisjonil lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

1. tuletab meelde, et direktiivist (EL) 2018/958 tuleneb, et selliste otsuste tegemise eest, mille tõttu avaliku huvi eesmärkide saavutamine on ohus, peavad alati kandma lõplikku vastutust inimesed; rõhutab, et kõik tehisintellekti tehnoloogiad peaksid olema inimese järelevalve all; rõhutab, et selleks, et suunata tehisintellekti kasutamine üksiktarbijate või tarbijate rühmade ja ühiskonna kui terviku hüvanguks, peaks tehisintellekti käsitleva õiguse tõlgendamisel ja kohaldamisel alati olema lõplikuks kontrollimudeliks inimkeskne lähenemisviis tehisintellektile;

2. on veendunud, et EL peaks püüdma tegutseda meie ülimalt ühendatud maailmas tehisintellekti normide kehtestajana, võttes oma välispartnerite suhtes vastu tõhusa strateegia, suurendades oma jõupingutusi kehtestada tehisintellektile rahvusvahelisel tasandil ülemaailmsed eetikanormid, mis on kooskõlas ohutuseeskirjade ja tarbijakaitse nõuetega ning Euroopa väärtuste ja põhiõigustega; on seisukohal, et see on oluline ka Euroopa ettevõtete konkurentsivõime ja kestlikkuse seisukohast; kutsub komisjoni ja liikmesriike üles tugevdama koostööd kolmandate riikide ja rahvusvaheliste organisatsioonidega ning alustama laiemat dialoogi, et tegeleda selle kiiresti muutuva tehnoloogia arendamisest tulenevate probleemidega;

3. tuletab meelde, et selleks, et määrata kindlaks, kas ja millises ulatuses saab riik rahvusvahelises avalikus õiguses osalejana, aga ka oma võimu teostamisel ilma rahvusvahelisest õigusest tulenevaid kohustusi (nt nõuetekohane menetlus) rikkumata tegutseda tehisintellektil põhinevate süsteemide abil, millel on teatav autonoomia, tuleb järgida mittediskrimineerimise ja proportsionaalsuse põhimõtet ning selgitada põhjusliku seose ja vastutusega ning läbipaistvuse, aruandekohustuse ja selgitatavusega seotud küsimusi;

4. nõuab seetõttu tungivalt, et liikmesriigid hindaksid tehisintellektil põhinevate tehnoloogiatega seotud ohte (nt tarbijate ja teenusesaajate kaitsmisega seotud ohte) enne riigivõimu teostamisega seotud tegevuste ja kutsealateenuste, näiteks nõuetekohase õigusemõistmise automatiseerimist; kutsub liikmesriike üles kaaluma vajadust tagada direktiiviga (EL) 2018/958 ette nähtud kaitsemeetmed, nagu järelevalve kvalifitseeritud kutsetöötaja poolt ja kutse-eetika normid; rõhutab, et liikmesriigid peavad selle direktiivi nõuetekohaselt üle võtma ja rakendama, ning ergutab komisjoni seda tähelepanelikult jälgima;

5. rõhutab, et oluline on investeerida inimeste oskustesse, sealhulgas digitaaloskustesse, et kohaneda teaduse arenguga, mis hõlmab tehisintellektil põhinevaid lahendusi reguleeritud kutsealadel tegutsevatele üksikisikutele, sealhulgas tegevusi, mis on seotud riigivõimu teostamisega, näiteks õigusemõistmine; kutsub liikmesriike ja komisjoni üles võtma seda direktiivi 2005/36/EÜ rakendamisel nõuetekohaselt arvesse;

6. on seisukohal, et nutitoodete ja -seadmete puhul hõlmab tehisintellekti arendamine ka võimalusi parandada ülemaailmset turujärelevalvet ning tegelda tooteohutuse ja tarbijakaitsega palju tõhusamalt ja laiaulatuslikult; palub seepärast, et komisjon looks tehisintellektil põhinevate süsteemide jaoks juhtimis- ja turujärelevalve mehhanismi, mis pakuks liikmesriikide ametiasutustele suuniseid, arvamusi ja eksperditeadmisi;

7. rõhutab, et niivõrd kui robotid kuuluvad direktiivis 2006/42/EÜ sätestatud masinate määratluse alla, peaksid need olema projekteeritud ja monteeritud kooskõlas selles sätestatud standardite ja ohutusmeetmetega;

8. tuletab meelde, küberturvalisuse direktiiviga nähakse ette Euroopa ühine lähenemisviis küberjulgeolekule ning võrgu- ja infosüsteemide vastupidavusele, et tugevdada ühtset turgu ja suurendada tarbijate usaldust; nõuab tungivalt, et liikmesriigid ja komisjon võtaksid tehisintellekti tehnoloogial põhineva küberründe ohtu tõsiselt ja investeeriksid suurel määral sellesse, et saavutada üldise digikirjaoskuse kõrge tase ja vähendada sõltuvust kolmandate riikide tarnijatest;

9. on veendunud, et liikmesriikide asutused, sealhulgas piirkondlikud ja kohalikud asutused ning komisjon peaksid edendama tehisintellekti tehnoloogiaid, mis töötavad inimeste heaks; kutsub liikmesriike üles töötama tihedas koostöös komisjoniga välja tehisintellekti rakendusi, mille eesmärk on automatiseerida ja hõlbustada e-valitsuse teenuseid, näiteks maksuhalduse, tolli ja tarbijakaitse valdkonnas või piiriülesest äritegevusest teavitamisel; nõuab tungivalt, et liikmesriigid kasutaksid riigihankeid vahendina, millega toetada tehisintellekti vastutustundlikku arendamist uute turuletulijate, kodanike ja tarbijate hüvanguks; rõhutab, et selgitatavad ja erapooletud algoritmid, mis vastavad piisava läbipaistvuse kohustusele, ning avaandmete kasutamine kooskõlas direktiiviga (EL) 2019/1024 avaandmete ja avaliku sektori valduses oleva teabe taaskasutamise kohta on olulised tagamaks, et ettevõtjad ja tarbijad saavad usaldada ja kasutada paremaid, juurdepääsetavaid, mittediskrimineerivaid ja usaldusväärseid avalikke teenuseid õiglaste kuludega.

TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

Vastuvõtmise kuupäev	7.7.2020
Lõpphääletuse tulemus	+: –: 0:	39 1 4
Lõpphääletuse ajal kohal olnud liikmed	Alex Agius Saliba, Andrus Ansip, Alessandra Basso, Brando Benifei, Adam Bielan, Hynek Blaško, Biljana Borzan, Vlad-Marius Botoş, Markus Buchheit, Dita Charanzová, Deirdre Clune, David Cormand, Petra De Sutter, Carlo Fidanza, Evelyne Gebhardt, Alexandra Geese, Sandro Gozi, Maria Grapini, Svenja Hahn, Virginie Joron, Eugen Jurzyca, Arba Kokalari, Marcel Kolaja, Kateřina Konečná, Andrey Kovatchev, Jean-Lin Lacapelle, Maria-Manuel Leitão-Marques, Adriana Maldonado López, Antonius Manders, Beata Mazurek, Leszek Miller, Kris Peeters, Anne-Sophie Pelletier, Christel Schaldemose, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Kim Van Sparrentak, Marion Walsmann, Marco Zullo
Lõpphääletuse ajal kohal olnud asendusliikmed	Pascal Arimont, Maria da Graça Carvalho, Edina Tóth, Stéphanie Yon-Courtin

 

 

 

NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

39

+

PPE S&D RENEW Verts/ALE ECR GUE/NGL NI

Pascal Arimont, Maria da Graça Carvalho, Deirdre Clune, Arba Kokalari, Andrey Kovatchev, Antonius Manders, Kris Peeters, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Edina Tóth, Marion Walsmann Alex Agius Saliba, Brando Benifei, Biljana Borzan, Evelyne Gebhardt, Maria Grapini, Maria‑Manuel Leitão‑Marques, Adriana Maldonado López, Leszek Miller, Christel Schaldemose Andrus Ansip, Vlad‑Marius Botoş, Dita Charanzová, Sandro Gozi, Svenja Hahn, Stéphanie Yon‑Courtin David Cormand, Petra De Sutter, Alexandra Geese, Marcel Kolaja, Kim Van Sparrentak Adam Bielan, Carlo Fidanza, Eugen Jurzyca, Beata Mazurek Kateřina Konečná, Anne‑Sophie Pelletier Marco Zullo

 

1	–
ID	Hynek Blaško

 

4	0
ID	Alessandra Basso, Markus Buchheit, Virginie Joron, Jean‑Lin Lacapelle

 

Kasutatud tähised:

+ : poolt

– : vastu

0 : erapooletu

 

 

 

 

 

15.7.2020

 

TRANSPORDI- JA TURISMIKOMISJONI ARVAMUS

õiguskomisjonile

tehisintellekti kohta seoses küsimustega, mis puudutavad ELile tsiviil- ja sõjalisel otstarbel kasutamise vallas kehtiva rahvusvahelise õiguse tõlgendamist ja kohaldamist ning riigi pädevust väljaspool kriminaalõiguse kohaldamisala

(2020/2013(INI))

Arvamuse koostaja: Ondřej Kovařík

 

ETTEPANEKUD

Transpordi- ja turismikomisjon palub vastutaval õiguskomisjonil lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

A. arvestades, et tehisintellekt pakub enneolematuid võimalusi transpordisektori tulemuslikkuse parandamiseks, kuna see aitab lahendada kasvava reisinõudluse, ohutus- ja keskkonnaprobleeme ning muudab kõik transpordiliigid arukamaks, tõhusamaks ja mugavamaks;

B. arvestades, et ELi võimekuse arendamiseks on hädavajalik käsitleda tehisintellekti kaitsevaldkonnas ELi tasandil;

1. tunnustab komisjoni valget raamatut tehisintellekti kohta ja toetab ELi püüet olla üks ülemaailmsetest liidritest tehisintellekti valdkonnas ja samal ajal tugevdada koostööd samameelsete osalistega;

2. rõhutab, et teadus- ja arendustegevuse kasvav tähtsus erasektoris ning kolmandatest riikidest, nagu Ameerika Ühendriigid ja Hiina, pärit suured investeeringud tähendavad EL jaoks tugevat konkurentsi; toetab seetõttu ELi jõupingutusi oma konkurentsieeliste edasiarendamiseks tehisintellekti sektoris ja on arvamusel, et EL peaks olema üleilmne tehisintellekti normide kehtestaja tsiviil- ja sõjalisel otstarbel kasutamise ning riigivõimu valdkonnas ning suurendama jõupingutusi tõhusa strateegia väljatöötamiseks, mille eesmärk on tugevdada ELi mõju ülemaailmsete standardite kujundamisele ja vähendada tema tuginemist välismaistele andmetele, mis on väga oluline algoritmipõhiste tehnoloogiate puhul; kutsub komisjoni ja liikmesriike üles toetama laiemat koostööd ÜRO, OECD, G7, G20 ja muude rahvusvaheliste foorumite raames, et levitada ELi käsitust tehisintellektist, rõhutades põhiõigusi, -vabadusi ja -väärtusi, mis on sätestatud ELi aluslepingutes, Euroopa Liidu põhiõiguste hartas ja rahvusvahelises inimõigustealases õiguses, ning võttes arvesse eetikastandardeid ja vastutuse küsimusi;

3. võtab teadmiseks tehisintellekti rakenduste märkimisväärse majandusliku potentsiaali ja kutsub seetõttu komisjoni üles ka edaspidi edendama tehisintellekti alaseid teadusuuringuid ja heade tavade vahetamist transpordi valdkonnas; rõhutab, et ELi tehisintellekti tööstusbaasi tugevdamiseks on vaja uuenduslikke sektoriüleseid andmete kasutusviise ja koostööd erinevate ökosüsteemis osalejate vahel; rõhutab, kui oluline on võtta arvesse mitte ainult tehisintellekti tehnoloogiaid, vaid ka muid järgmise põlvkonna tehnoloogiaid, nt kvantarvutust, mida juba kaalutakse ja mis kujutavad endast järgmist hüpet valdkonnaüleses tehnoloogia arengus;

4. toetab suurandmeid kasutava masinõppe tehisintellekti kasutamist transporditaristu ja hoonete pikaajalise tulemuslikkuse optimeerimiseks, hoolduseks, tõrgete prognoosimiseks ja ehituse kavandamiseks, sealhulgas sellised tegurid nagu ohutus, energiatõhusus ja kulud; märgib, et selleks on vaja võimaldajaid ja toetavat taristut, sealhulgas energiat riistvara jaoks, tarkvara, võrguressursse ja -teenuseid, samuti tuleb tagada andmete kõrge kvaliteet ja kvantiteet; märgib lisaks, et tehisintellekti kasutamine transpordis, eriti siis kui tsiviil- ja sõjaline otstarve on omavahel seotud, peaks olema kooskõlas ELi andmekaitset ja eraelu puutumatust käsitlevate õigusaktidega; kutsub komisjoni üles jätkama koostööd liikmesriikidega andmeturbe ja -kaitse valdkonnas;

5. on veendunud, et tehisintellekt on transpordisektorit muutnud ning soodustanud selle arengut ja moderniseerimist, suurendades automatiseeritust ning transpordivõrkude integreerimist ja ühenduvust; rõhutab, et automatiseerimine ja tehisintellekti integreerimine on liidus eri transpordiliikides ja taristutes erinev; rõhutab vajadust edendada tehisintellekti, et soodustada transpordi mitmeliigilisust ning kõigi transpordiliikide koostalitlusvõimet ja energiatõhusust, muuta kauba- ja reisijateveo voogude korraldus ja haldus tõhusamaks, kasutada paremini ära üleeuroopalise transpordivõrgu (TEN-T) taristut ja ressursse ning kõrvaldada tõelise Euroopa ühtse transpordipiirkonna loomise takistused;

6. rõhutab, et tehisintellekti käsitleva komisjoni valge raamatu üks tähtsamaid tulemusi on inimkeskne lähenemisviis tehisintellektisüsteemidele; tuletab meelde inimteguri jätkuvat tähtsust täieliku automatiseerimise suunas liikumisel; rõhutab vajadust piisava läbipaistvuse ja prognoositavuse, usaldusväärse tehnoloogia, kvaliteetse kasutuselevõtu ja nõuetekohase koolituse järele, samuti on vajalik tehisintellektil põhinevaid süsteeme kasutavate töötajate oskuste täiendamine ja ümberõpe; rõhutab, et tehisintellekti kasutamine sõjalistel eesmärkidel peaks alati lähtuma füüsilisest või juriidilisest isikust ning vastutus ja aruandekohustus peaks lasuma vastutavatel otsustajatel, võttes arvesse sõjalist käsuliini;

7. tuletab meelde Euroopa raudteeliikluse juhtimissüsteemi (ERTMS) eeliseid, kuna selle näol on tegemist rongide ühtse automaatse kaitsesüsteemiga (automaatblokeerimissüsteem), mis töökindluse, läbilaskevõime, kulude, ohutuse, kiiruse ja hoolduse osas asendab omavahel kokkusobimatud riikide süsteemid ning mille täielik kasutuselevõtt on ühtse Euroopa raudteepiirkonna loomise eeldus; toetab ERTMSi täielikku kasutuselevõttu ja järjepidevat sisseseadmist ülemaailmse rongide automaatse kaitsesüsteemina; võtab teadmiseks ühisettevõtte Shift2Rail töö;

8. toetab rongiliikluse automatiseerimise arendamist ja rahvusvahelist standardimist, muu hulgas selleks, et edendada koostalitlusvõimet, transpordi tõhusust ja ohutust; soovitab eri transpordiliikidele välja töötada teenindusaegade automatiseeritud jaotamise ning kasutada tehisintellekti logistikas ja muudes transpordivaldkondades;

9. tunnustab ühtse Euroopa lennuliikluse uue põlvkonna juhtimissüsteemi (SESAR) projekti tööd nii tsiviil- kui ka sõjaliste mehitamata õhusõidukite süsteemide ja lennuliikluse korraldamise süsteemide valdkonnas ning selle panust ühtse Euroopa taeva killustatuse ületamisel; tuletab meelde, et mehitamata õhusõidukite (UA, droonid) kasutamine nii tsiviil- kui ka sõjalisel otstarbel on suurenenud; rõhutab muu hulgas potentsiaali, mida droonidega toimuv kohaletoimetamine, kontrollimine ja jälgimine kodanikele ja ühiskonnale pakub; rõhutab, et ülemaailmne koostalitlusvõime ja ühtlustamine on ohutu, toimiva ja turvalise ülemaailmse lennuliikluse juhtimissüsteemi vältimatu eeltingimus; ergutab komisjoni ja liikmesriike edendama SESARit rahvusvahelisel tasandil, aitama sellega seoses kaasa selliste rahvusvaheliste organisatsioonide tööle nagu Rahvusvaheline Tsiviillennunduse Organisatsioon ja Rahvusvaheline Lennutranspordi Assotsiatsioon ning tegema koostööd, et kehtestada rahvusvahelised normid droonide tsiviil- ja sõjalisel otstarbel kasutamiseks;

10. kutsub komisjoni ja liikmesriike üles osalema autonoomseid sõidukeid käsitlevates rahvusvahelistes reguleerimismeetmetes ja -aruteludes, eelkõige ohutuse valdkonnas, tagades samal ajal koostöö reguleerimisasutuste ja kõigi sidusrühmade vahel, kes on seotud automatiseeritud sõidukite kasutuselevõtuga ELi maanteeliikluses; nõuab standardseid ja koostalitlusvõimelisi geograafilisi sisendandmeid ja rõhutab, et need andmed peavad olema täpsed;

11. tuletab meelde, et autonoomsetel sõidukitel on suur potentsiaal parandada liikuvust ja ohutust ning tuua keskkonnakasu; tunneb sellega seoses heameelt selle üle, et ÜRO Euroopa Majanduskomisjoni sõidukeid käsitlevate eeskirjade ühtlustamise ülemaailmsel foorumil võeti vastu automatiseeritud/autonoomseid sõidukeid käsitlev raamdokument; võtab teadmiseks Rahvusvahelise Standardiorganisatsiooni uue tehisintellekti tehnilise komitee töö; kutsub komisjoni üles esitama ettepanekut tõhusa lähenemisviisi kohta, et tagada selge rahvusvaheline õigusraamistik sõidukijuhi mõiste ning asjakohaste kohustuste ja vastutusega seotud küsimuste kohta ÜRO konventsioonide ja muude rahvusvaheliste liiklusalaste õigusaktide tähenduses;

12. juhib tähelepanu sellele, et ülemaailmne laevandus on tänu tehisintellekti integreerimisele viimastel aastatel oluliselt muutunud; tuletab meelde Rahvusvahelises Mereorganisatsioonis praegu toimuvaid põhjalikke arutelusid uute ja kujunemisjärgus tehnoloogiate, näiteks autonoomsete laevade tõhusa integreerimise üle õigusraamistikku;

13. rõhutab, et arukad transpordisüsteemid leevendavad liiklusummikuid, suurendavad ohutust ja juurdepääsetavust ning aitavad parandada liiklusvoogude juhtimist, tõhusust ja liikuvuslahendusi; juhib tähelepanu sellele, et traditsioonilised transpordivõrgud puutuvad üha enam kokku küberohtudega; tuletab meelde, kui olulised on automaatsete süsteemide ja nende andmete turvalisuse tagamiseks ressursid ja lisauuringud turvariskide kohta; kiidab komisjoni kavatsust lisada küberturvalisus transpordiga seotud rahvusvahelistes organisatsioonides toimuvatesse aruteludesse regulaarse päevakorrapunktina;

14. tunnustab pingutusi tehisintellekti süsteemide kasutuselevõtuks avalikus sektoris ja toetab edasisi arutelusid tehisintellekti kasutuselevõtu üle transpordis; kutsub komisjoni üles hindama tehisintellekti ja sarnaste tehnoloogiate kasutamist transpordisektoris ning koostama kõrge riskitasemega segmentide mittetäieliku loetelu seoses tehisintellektisüsteemidega, mis asendavad selles valdkonnas otsuseid avaliku võimu ainuõiguste raames;

15. toonitab, et Euroopa Kaitsefond ja alaline struktureeritud koostöö peaksid stimuleerima liikmesriikide ja Euroopa kaitsetööstuse koostööd, et arendada uusi Euroopa kaitsevõimeid tehisintellekti valdkonnas ja tagada varustuskindlus, võttes sealjuures arvesse eetilisi kaalutlusi; rõhutab vajadust vältida killustatust, rajades sildu erinevate osalejate ja rakendusvaldkondade vahel, edendades ühilduvust ja koostalitlusvõimet kõigil tasanditel ning keskendudes ühisele arhitektuurialasele tööle ja platvormilahendustele; tuletab lisaks meelde, et järgmise Euroopa ühendamise rahastuga, mis samuti soodustab arukat taristut, nähakse ette fond kahesuguse kasutusega tsiviil- ja sõjalise transporditaristu kohandamiseks ja arendamiseks üleeuroopalises transpordivõrgus TEN-T, et suurendada sünergiat tsiviil- ja sõjaliste vajaduste vahel ning parandada tsiviil- ja sõjaväelist liikuvust liidus; rõhutab seetõttu vajadust suuremate Euroopa investeeringute, teadusuuringute ja juhtpositsiooni järele tehnoloogiate valdkonnas, millel on suur mõju majanduskasvule ja märkimisväärne kahesuguse kasutuse potentsiaal;

16. rõhutab, et paljud transpordi ja liikuvuse valdkonna uutesse tehnoloogiatesse tehtavad investeeringud on turupõhised, kuid kahesuguse kasutusega kaubanduslikke valmistehnoloogiaid ja -tooteid kasutatakse sageli uuenduslikul viisil sõjalisel otstarbel; rõhutab seetõttu, et äri- ja sõjalise sektori eri valdkondades tehisintellekti kasutamise standardite koostamisel tuleb arvesse võtta tehisintellektil põhinevate lahenduste kahesuguse kasutuse potentsiaali; nõuab, et kaitsevaldkonna tehnoloogia, toodete ja tööpõhimõtete väljatöötamisel kehtiksid kõrged eetikastandardid ja -poliitika;

17. märgib, et kaupade, laskemoona, relvastuse ja vägede tõhus transport on edukate sõjaliste operatsioonide oluline osa; rõhutab, et tehisintellektil on eeldatavasti oluline roll ning see pakub arvukalt võimalusi sõjalise logistika ja transpordi valdkonnas; juhib tähelepanu sellele, et maailma eri riigid, sealhulgas ELi liikmesriigid, integreerivad tehisintellektil põhinevaid relvi ja muid süsteeme, mida kasutatakse maismaal, merel ja lennuvahenditel olevatel platvormidel; tuletab meelde, et tehisintellekti rakendused transpordisektoris võivad pakkuda uut võimekust ja võimaldada uusi taktikavorme, nagu paljude süsteemide, näiteks droonide, mehitamata laevade või tankide kombineerimine sõltumatu ja koordineeritud operatsiooni käigus;

18. märgib lisaks, et autonoomseid relvasüsteeme kui tehisintellekti erikategooriat sõjalises valdkonnas tuleks arutada ja selle suhtes kokku leppida rahvusvahelisel tasandil, eelkõige ÜRO teatavate tavarelvade konventsiooni foorumil; juhib tähelepanu sellele, et käimasoleval rahvusvahelisel arutelul autonoomsete surmavate relvasüsteemide üle, mille eesmärk on reguleerida kujunevat sõjatehnoloogiat, ei ole seni jõutud kokkuleppele, ning rõhutab, et EL tervikuna leppis alles hiljuti kokku, et arutatakse tehisintellekti arengu ja digiteerimise mõju kaitsesektorile; on arvamusel, et EL võib etendada olulist rolli, aidates liikmesriikidel ühtlustada oma lähenemist sõjalisele tehisintellektile, et juhtida rahvusvahelisi arutelusid.

TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

Vastuvõtmise kuupäev	14.7.2020
Lõpphääletuse tulemus	+: –: 0:	36 8 5
Lõpphääletuse ajal kohal olnud liikmed	Magdalena Adamowicz, Andris Ameriks, José Ramón Bauzá Díaz, Izaskun Bilbao Barandica, Marco Campomenosi, Ciarán Cuffe, Jakop G. Dalunde, Johan Danielsson, Andor Deli, Karima Delli, Anna Deparnay-Grunenberg, Ismail Ertug, Gheorghe Falcă, Giuseppe Ferrandino, Mario Furore, Søren Gade, Isabel García Muñoz, Jens Gieseke, Elsi Katainen, Kateřina Konečná, Elena Kountoura, Julie Lechanteux, Bogusław Liberadzki, Benoît Lutgen, Elżbieta Katarzyna Łukacijewska, Marian-Jean Marinescu, Tilly Metz, Giuseppe Milazzo, Cláudia Monteiro de Aguiar, Caroline Nagtegaal, Jan-Christoph Oetjen, Philippe Olivier, Rovana Plumb, Dominique Riquet, Dorien Rookmaker, Massimiliano Salini, Sven Schulze, Barbara Thaler, István Ujhelyi, Elissavet Vozemberg-Vrionidi, Lucia Vuolo, Roberts Zīle, Kosma Złotowski
Lõpphääletuse ajal kohal olnud asendusliikmed	Leila Chaibi, Markus Ferber, Carlo Fidanza, Maria Grapini, Roman Haider, Alessandra Moretti

 

 

NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

36	+
ECR	Angel Dzhambazki, Carlo Fidanza, Roberts Zīle, Kosma Złotowski
NI	Mario Furore, Dorien Rookmaker
PPE	Magdalena Adamowicz, Andor Deli, Gheorghe Falcă, Markus Ferber, Jens Gieseke, Benoît Lutgen, Marian‑Jean Marinescu, Giuseppe Milazzo, Cláudia Monteiro de Aguiar, Massimiliano Salini, Barbara Thaler, Elissavet Vozemberg‑Vrionidi, Elżbieta Katarzyna Łukacijewska
Renew	José Ramón Bauzá Díaz, Izaskun Bilbao Barandica, Søren Gade, Elsi Katainen, Caroline Nagtegaal, Jan‑Christoph Oetjen, Dominique Riquet
S&D	Andris Ameriks, Johan Danielsson, Ismail Ertug, Giuseppe Ferrandino, Isabel García Muñoz, Maria Grapini, Bogusław Liberadzki, Alessandra Moretti, Rovana Plumb, István Ujhelyi

 

8	–
GUE/NGL	Leila Chaibi, Kateřina Konečná, Elena Kountoura
Verts/ALE	Ciarán Cuffe, Jakop G. Dalunde, Karima Delli, Anna Deparnay‑Grunenberg, Tilly Metz

 

5	0
ID	Marco Campomenosi, Roman Haider, Julie Lechanteux, Philippe Olivier, Lucia Vuolo

 

Kasutatud tähised:

+ : poolt

– : vastu

0 : erapooletu

 

 

 

 

 

KODANIKUVABADUSTE, JUSTIITS- JA SISEASJADE KOMISJONI ARVAMUS (23.11.2020)

õiguskomisjonile

tehisintellekti kohta seoses küsimustega, mis puudutavad ELile tsiviil- ja sõjalisel otstarbel kasutamise vallas kehtiva rahvusvahelise õiguse tõlgendamist ja kohaldamist ning riigi pädevust väljaspool kriminaalõiguse kohaldamisala

(2020/2013(INI))

Arvamuse koostaja: Patryk Jaki

 

ETTEPANEKUD

Kodanikuvabaduste, justiits- ja siseasjade komisjon palub vastutaval õiguskomisjonil lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

– võttes arvesse Euroopa Liidu lepingu (ELi leping) artikleid 2 ja 3,

– võttes arvesse Euroopa Liidu toimimise lepingu (ELi toimimise leping) artikleid 10, 19, 21 ja 167,

– võttes arvesse petitsiooniõigust, mis on sätestatud ELi toimimise lepingu artiklites 20 ja 227 ning Euroopa Liidu põhiõiguste harta artiklis 44,

– võttes arvesse Euroopa Liidu põhiõiguste harta artikleid 21 ja 22,

– võttes arvesse ELi lepingu preambulit,

– võttes arvesse Euroopa Nõukogu rahvusvähemuste kaitse raamkonventsiooni, inimõiguste ja põhivabaduste kaitse konventsiooni protokolli nr 12 ning Euroopa piirkondlike ja vähemuskeelte hartat,

– võttes arvesse nõukogu 29. juuni 2000. aasta direktiivi 2000/43/EÜ, millega rakendatakse võrdse kohtlemise põhimõte sõltumata isikute rassilisest või etnilisest päritolust[11] (rassilise võrdõiguslikkuse direktiiv),

– võttes arvesse nõukogu 27. novembri 2000. aasta direktiivi 2000/78/EÜ, millega kehtestatakse üldine raamistik võrdseks kohtlemiseks töö saamisel ja kutsealale pääsemisel[12] (võrdse tööalase kohtlemise direktiiv),

– võttes arvesse Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta määrust (EL) 2016/679 füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta[13] (isikuandmete kaitse üldmäärus) ning Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta direktiivi (EL) 2016/680, mis käsitleb füüsiliste isikute kaitset seoses pädevates asutustes isikuandmete töötlemisega süütegude tõkestamise, uurimise, avastamise ja nende eest vastutusele võtmise või kriminaalkaristuste täitmisele pööramise eesmärgil ning selliste andmete vaba liikumist ning millega tunnistatakse kehtetuks nõukogu raamotsus 2008/977/JSK[14],

– võttes arvesse komisjoni 11. detsembri 2019. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele Euroopa rohelise kokkuleppe kohta,

– võttes arvesse oma 16. veebruari 2017. aasta resolutsiooni soovitustega komisjonile robootikat käsitlevate tsiviilõiguse normide kohta[15],

– võttes arvesse OECD nõukogu 22. mai 2019. aasta soovitust tehisintellekti kohta,

– võttes arvesse oma 12. septembri 2018. aasta resolutsiooni autonoomsete relvasüsteemide kohta[16],

A. arvestades, et nn tehisintellekti, robootika ja seonduvate tehnoloogiate arendamise ja kavandamisega tegelevad inimesed ning nende valikud määravad ära tehnoloogia potentsiaali ühiskonnale kasu tuua;

B. arvestades, et eetikasuunised, näiteks kõrgetasemelise tehisintellekti eksperdirühma poolt vastu võetud põhimõtted, on hea lähtepunkt, kuid ainult nende abil ei ole võimalik kindlustada, et ettevõtjad käituvad ausalt ja tagavad üksikisikute tõhusa kaitse;

1. tunnistab tehisintellekti arendamise, juurutamise ja kasutamisega kaasnevat potentsiaali ja riske julgeoleku jaoks nii Euroopa Liidu sees kui ka selle välissuhetes; juhib tähelepanu asjaolule, et mitmed liikmesriigid kasutavad tehisintellekti nii tsiviil- kui ka sõjalises valdkonnas, ning rõhutab, kui oluline on, et EL etendaks olulist ja asjakohast rolli selleteemalistes tulevastes rahvusvahelistes aruteludes;

2. märgib regulatiivseid edusamme, mida mõned liikmesriigid on tehisintellekti valdkonnas juba teinud; rõhutab, kui oluline on ühine Euroopa lähenemisviis, millega ühtlustatakse õiguslik olukord kõigis liikmesriikides ja antakse õiguskindlus tehisintellekti arendajatele ja juurutajatele;

3. rõhutab asjaolu, et tehisintellekti arendamisel, juurutamisel, kasutamisel ja haldamisel tuleb austada ELi aluslepingutes väljendatud põhiõigusi, väärtusi ja vabadusi, ning kutsub liikmesriike üles hoiduma selliste kõrge riskitasemega tehisintellektisüsteemide kasutuselevõtust, mis ohustavad põhiõigusi; võtab teadmiseks komisjoni tehisintellekti käsitleva valge raamatu avaldamise ja nõuab, et põhjalikumalt analüüsitaks võimalikke ohte põhiõigustele, mis on seotud tehisintellekti kasutamisega riigivõimude ning Euroopa Liidu asutuste, organite ja institutsioonide poolt;

4. rõhutab, et tehisintellekti pakutavate võimaluste ärakasutamiseks peaks Euroopa Liit vastu võtma asjakohase raamistiku, et maandada riske, tagada tehisintellekti eetiline kasutamine ja ennetada selle kasutamist kuritahtlikel eesmärkidel; on seisukohal, et sellises raamistikus tuleks selgelt kindlaks määrata asjakohane vastutuse, aruandekohustuse, turvalisuse ja jälgitavuse režiim; rõhutab selle olulisust, et EL aitaks arendada hädavajalikke investeeringuid, andmetaristut, teadusuuringuid ja ühiseid eetikanorme;

5. rõhutab, et EL peab olema esirinnas tehisintellekti valdkonna teadus- ja arendustegevust, loomist, kasutamist ja hooldust reguleeriva rahvusvahelise õigusliku ja eetilise raamistiku loomisel, mis põhineks inimõiguste põhimõtetel ning võimalikel vastumeetmetel ja õiguskaitsevahenditel; peab vajalikuks luua selge ja õiglane rahvusvaheline õigusliku vastutuse määratlemise kord nende kõrgtasemel digitehnoloogiate põhjustatud kahjulike tagajärgede eest; rõhutab, et eelkõige tuleb püüda selliseid tagajärgi ennetada;

6. kutsub komisjoni üles hõlbustama teadusuuringuid ja arutelu tehisintellekti kasutamise võimaluste kohta katastroofiabis, kriisiennetuses ja rahutagamisel;

7. juhib tähelepanu selgetele ohtudele, mis kaasnevad inimeste tehtud otsustega, kui tuginetakse üksnes masinate loodud andmetele, profiilidele ja soovitustele; märgib, et tehisintellektil põhinevate süsteemide üldine ülesehitus peaks hõlmama ka suuniseid inimeste järelevalve ja järelevalve kohta; nõuab, et kehtestataks kohustus seoses tehisintellekti rakenduste läbipaistvuse ja selgitatavuse ning inimsekkumise vajadusega, samuti muud meetmed, nagu sõltumatud auditid ja konkreetsed stressitestid nõuete täitmise toetamiseks ja tagamiseks; rõhutab, et selliseid auditeid peaks korrapäraselt tegema sõltumatu asutus, et teostada järelevalvet riigivõimude või sõjaväe kasutatavate kõrge riskitasemega tehisintellekti rakenduste üle;

8. märgib muret selle üle, et mitteasjakohaselt kavandatud ja välja arendatud tehisintellekt võib põhjustada erapoolikust ja diskrimineerimist; kohustub leidma regulatiivseid ja poliitilisi lahendusi, et olemasolevate ja uue tehnoloogiate kasutamise abil diskrimineerimine kaotada, mitte seda tugevdada;

9. rõhutab, et andmete töötlemisest, nende jagamisest, neile juurdepääsust ja nende kasutamisest tulenevaid prognoose tuleb hallata kvaliteedi, usaldusväärsuse, läbipaistvuse, turvalisuse, eraelu puutumatuse ja kontrolli nõuete kohaselt; rõhutab, et tehisintellekti, robootika ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel tuleb läbivalt järgida andmekaitset ja eraelu puutumatust käsitlevat ELi õigusraamistikku, et suurendada kodanike ohutust ja usaldust nende tehnoloogiate vastu;

10. täheldab tehisintellekti rakenduste kiiret arengut selliste kordumatute näitajate tuvastamisel nagu näod, liigutused ja hoiakud; hoiatab eraelu puutumatuse rikkumise, mittediskrimineerimise ja isikuandmete kaitsega seotud probleemide eest, mis on seotud automaattuvastamise rakenduste kasutamisega;

11. rõhutab, et mis tahes otsus füüsilise isiku kohta, mis põhineb üksnes automatiseeritud andmetöötlusel, sealhulgas profiilianalüüsil, ning mis tekitab andmesubjekti suhtes ebasoodsaid õiguslikke mõjusid või kahjustab teda olulisel määral, on isikuandmete kaitse üldmääruse alusel keelatud, välja arvatud juhul, kui see on lubatud liidu või liikmesriigi õigusega, tingimusel et võetakse asjakohaseid meetmeid andmesubjekti õiguste ja vabaduste ning õigustatud huvide kaitsmiseks;

12. nõuab algoritmide selgitatavust, läbipaistvust ja regulatiivset järelevalvet, kui tehisintellekti kasutavad ametiasutused, ning mõjuhinnangute tegemist enne, kui riigivõimud tehisintellekti tehnoloogiaid kasutavad vahendid kasutusele võtavad; kutsub komisjoni ja Euroopa Andmekaitsenõukogu üles andma välja suuniseid, soovitusi ja parimaid tavasid, et täpsustada kriteeriume ja tingimusi profiilianalüüsile tuginevate otsuste tegemiseks ja tehisintellekti kasutamiseks ametiasutuste poolt;

13. nõuab läbipaistvaid ja riski vähendavaid meetmeid rahvusvahelisel tasandil seoses sõjalise tehisintellekti arendamise ja kasutamisega, eelkõige seoses territoriaalse terviklikkuse ja mittesekkumise põhimõtetega ning seoses jõu kasutamisega; rõhutab, kui oluline on tehisintellekti käsitlevas Euroopa raamistikus õiguslike ja eetiliste küsimuste käsitlemisel võtta arvesse sõjalisi aspekte; tuletab meelde oma seisukohta autonoomsete surmavate relvasüsteemide väljatöötamise, tootmise ja kasutamise keelustamise kohta; peab kahetsusväärseks, et globaalsel tasandil ei ole ühtegi selget konventsiooni, mis käsitleks selliste relvade kasutamist;

14. märgib, et teatavad tehisintellekti tehnoloogiad võimaldavad enneolematus ulatuses automatiseerida teabe töötlemist ja meetmeid, näiteks massilise jälgimise puhul tsiviil- ja sõjalises valdkonnas, mis kujutab endast ohtu põhiõigustele ja sillutab teed ebaseaduslikule sekkumisele riiklikku suveräänsusesse; nõuab massilise jälgimise kontrolli vastavalt rahvusvahelise õiguse jurisdiktsioonile ja jõustamisstandarditele; väljendab sügavat muret mõnede äärmiselt sekkuvate sotsiaalse hindamise rakenduste väljatöötamise pärast, mis kujutavad põhiõiguste austamise seisukohast väga suurt ohtu; nõuab, et ametiasutused keelustaksid selgesõnaliselt massilise sotsiaalse hindamise kasutamise kodanike õiguste piiramiseks; arvestades teatavate erasektori osalejate otsustushegemooniat ja kontrolli selliste tehnoloogiate arendamise üle, nõuab selliste erasektori osalejate vastutuse suurendamist vastavalt rahvusvahelisele õigusele;

15. kutsub komisjoni üles hindama näotuvastussüsteemide kasutamisele võimaliku moratooriumi kehtestamise tagajärgi ning sõltuvalt hindamise tulemustest kaaluma moratooriumi kehtestamist nende süsteemide kasutamisele ametiasutuste poolt avalikus ruumis ning hariduse ja tervishoiu jaoks ette nähtud ruumides ning näotuvastussüsteemide kasutamisele õiguskaitseasutuste poolt poolavalikes ruumides, näiteks lennujaamades, niikauaks, kuni tehnilisi standardeid saab pidada täielikult põhiõigustega kooskõlas olevaks, kuni saadud tulemused on kallutamata ja mittediskrimineerivad ning kuni on olemas ranged kaitsemeetmed sellise tehnoloogia väärkasutamise vastu, mis tagavad selle kasutamise vajalikkuse ja proportsionaalsuse;

16. märgib, et tehisintellekti, robootikat ja seonduvaid tehnoloogiaid, sealhulgas selliste tehnoloogiate poolt kasutatavat või loodavat tarkvara, algoritme ja andmeid tuleks nende kasutusalast olenemata arendada turvalisel ja tehniliselt hoolikal viisil;

17. rõhutab tehisintellekti nõuetekohase juurutamise ja kasutamise võimaldamise olulisust; kutsub liikmesriike üles pakkuma oma tsiviil- ja sõjaväepersonalile asjakohast koolitust, et võimaldada neil täpselt tuvastada ning vältida diskrimineerimist ja erapoolikust andmekogumites;

18. märgib, et tehisintellekti kasutamine kuritegevuse ja küberkuritegevuse vastases võitluses võib luua palju võimalusi, kuid samal ajal peaks valdavaks jääma põhimõte, et mis on ebaseaduslik väljaspool veebi, on ebaseaduslik ka veebis;

19. on sügavalt mures süvavõltsingu tehnoloogia pärast, mis võimaldab luua üha realistlikumaid foto-, audio- ja videovõltsinguid, mida võidakse kasutada väljapressimiseks, valeuudiste genereerimiseks või üldsuse usalduse õõnestamiseks ja avaliku arvamuse mõjutamiseks; usub, et sellised tavad võivad destabiliseerida riike, levitada väärinfot ja mõjutada valimisi; nõuab seetõttu, et autoril oleks kohustus märgistada kõik süvavõltsitud materjalid või muud realistlikult valmistatud sünteesvideod märkusega, et tegu ei ole originaaliga, ning et nende kasutamist valimiste eesmärgil tuleb rangelt piirata jõuliste kontrollimeetmetega; nõuab piisavat teadustööd sellel teemal, et tagada tehisintellekti kuritahtliku kasutamise vastaste tehnoloogiate võime tehisintellekti kuritahtliku kasutamisega sammu pidada;

20. rõhutab, et tehisintellekti kasutamine õigusemõistmises võiks parandada andmete analüüsimist ja kogumist ning ohvrite kaitset ning et seda võiks uurida teadus- ja arendustegevuse käigus koos mõjuhinnangutega, eriti mis puudutab kaitsemeetmeid nõuetekohase menetluse suhtes ning erapoolikuse ja diskrimineerimise vastu, kohaldades ettevaatuspõhimõtet; tuletab siiski meelde, et tehisintellekti kasutamine ei saa asendada inimest kohtuotsuste või muude otsuste tegemisel;

21. rõhutab küberturvalisuse olulisust tehisintellekti jaoks nii kaitsvate kui ka ründavate stsenaariumide puhul; märgib sellega seoses rahvusvahelise koostöö ning IT-turvalisuse nõrkuste ja nende parandusviiside avaldamise ja jagamise tähtsust; nõuab tehisintellekti tõhusaks kasutamiseks ja juurutamiseks rahvusvahelist küberturvalisuse alast koostööd ning kaitsemeetmeid tehisintellekti väärkasutamise ja küberrünnakute vastu; märgib lisaks, et IT-süsteemid ning tehisintellekt on kahesuguse kasutusega (st nii tsiviil- kui ka sõjalistel eesmärkidel) ning nõuab selle tõhusat reguleerimist;

22. kutsub liikmesriike üles kaaluma vajadust näha ette tehisintellekti kasutamiseks kaitsemeetmed, näiteks kutse-eetika eeskirjad; palub komisjonil kehtestada selged kriteeriumid, et määrata kindlaks erinevad riskitasemed valdkondades, mille jaoks tehisintellektitehnoloogiad on kavandatud või mille jaoks neid kasutatakse, võttes arvesse kehtivaid ELi õigusakte;

23. rõhutab, kui oluline on kontrollida, kuidas kõrge riskitasemega tehisintellekti tehnoloogiad jõuavad konkreetsete otsusteni; tuletab meelde, et tuleb järgida proportsionaalsuse põhimõtet ning teha selgeks põhjusliku seose ja vastutusega seotud küsimused;

24. tuletab meelde, kui tähtsad on juhtimise, läbipaistvuse, erapooletuse, vastutuse, õigluse ja intellektuaalse aususe põhimõtted tehisintellekti kasutamisel kriminaalõiguses;

25. nõuab tungivalt, et liikmesriigid hindaksid tehisintellektil põhinevate tehnoloogiatega seotud riske enne riigivõimu teostamisega seotud tegevuste automatiseerimist, eriti õigusvaldkonnas; kutsub neid üles kaaluma vajadust näha ette kaitsemeetmed, nagu järelevalve kvalifitseeritud spetsialisti poolt ja kutse-eetika eeskirjad.

TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

Vastuvõtmise kuupäev	17.11.2020
Lõpphääletuse tulemus	+: –: 0:	56 4 0
Lõpphääletuse ajal kohal olnud liikmed	Malik Azmani, Pietro Bartolo, Nicolas Bay, Vladimír Bilčík, Vasile Blaga, Ioan‑Rareş Bogdan, Patrick Breyer, Saskia Bricmont, Jorge Buxadé Villalba, Damien Carême, Caterina Chinnici, Clare Daly, Anna Júlia Donáth, Lena Düpont, Cornelia Ernst, Laura Ferrara, Nicolaus Fest, Jean‑Paul Garraud, Maria Grapini, Sylvie Guillaume, Andrzej Halicki, Evin Incir, Patryk Jaki, Marina Kaljurand, Assita Kanko, Fabienne Keller, Peter Kofod, Łukasz Kohut, Alice Kuhnke, Moritz Körner, Jeroen Lenaers, Juan Fernando López Aguilar, Nuno Melo, Nadine Morano, Javier Moreno Sánchez, Maite Pagazaurtundúa, Nicola Procaccini, Emil Radev, Terry Reintke, Diana Riba i Giner, Ralf Seekatz, Birgit Sippel, Tineke Strik, Ramona Strugariu, Annalisa Tardino, Tomas Tobé, Dragoş Tudorache, Tom Vandendriessche, Bettina Vollath, Jadwiga Wiśniewska, Elena Yoncheva, Javier Zarzalejos, Sophia in ’t Veld, Michal Šimečka
Lõpphääletuse ajal kohal olnud asendusliikmed	Malin Björk, Delara Burkhardt, Klára Dobrev, Rasa Juknevičienė, Kris Peeters, Karlo Ressler

 

 

NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

56	+
PPE	Vladimír Bilčík, Vasile Blaga, Ioan‑Rareş Bogdan, Lena Düpont, Andrzej Halicki, Rasa Juknevičienė, Jeroen Lenaers, Nuno Melo, Kris Peeters, Emil Radev, Karlo Ressler, Ralf Seekatz, Tomas Tobé, Javier Zarzalejos
S&D	Pietro Bartolo, Delara Burkhardt, Caterina Chinnici, Klára Dobrev, Maria Grapini, Sylvie Guillaume, Evin Incir, Marina Kaljurand, Łukasz Kohut, Juan Fernando López Aguilar, Javier Moreno Sánchez, Birgit Sippel, Bettina Vollath, Elena Yoncheva
Renew	Malik Azmani, Anna Júlia Donáth, Fabienne Keller, Moritz Körner, Maite Pagazaurtundúa, Ramona Strugariu, Dragoş Tudorache, Sophia in ’t Veld, Michal Šimečka
ID	Nicolas Bay, Nicolaus Fest, Jean‑Paul Garraud, Peter Kofod, Annalisa Tardino, Tom Vandendriessche
Verts/ALE	Patrick Breyer, Saskia Bricmont, Damien Carême, Alice Kuhnke, Terry Reintke, Diana Riba i Giner, Tineke Strik
ECR	Jorge Buxadé Villalba, Patryk Jaki, Assita Kanko, Nicola Procaccini, Jadwiga Wiśniewska
NI	Laura Ferrara

 

4	–
PPE	Nadine Morano
GUE/NGL	Malin Björk, Clare Daly, Cornelia Ernst

 

0

0

 

Kasutatud tähised:

+ : poolt

– : vastu

0 : erapooletu

 

TEAVE VASTUVÕTMISE KOHTA VASTUTAVAS KOMISJONIS

Vastuvõtmise kuupäev	10.12.2020
Lõpphääletuse tulemus	+: –: 0:	16 4 0
Lõpphääletuse ajal kohal olnud liikmed	Gunnar Beck, Geoffroy Didier, Angel Dzhambazki, Ibán García Del Blanco, Jean-Paul Garraud, Esteban González Pons, Sergey Lagodinsky, Gilles Lebreton, Karen Melchior, Jiří Pospíšil, Franco Roberti, Marcos Ros Sempere, Stéphane Séjourné, Raffaele Stancanelli, Adrián Vázquez Lázara, Axel Voss, Marion Walsmann, Tiemo Wölken
Lõpphääletuse ajal kohal olnud asendusliikmed	Daniel Buda, Pascal Durand, Heidi Hautala, Emmanuel Maurel, Sabrina Pignedoli, Bettina Vollath
Lõpphääletuse ajal kohal olnud asendusliikmed (art 209 lg 7)	Juan Ignacio Zoido Álvarez

 

NIMELINE LÕPPHÄÄLETUS VASTUTAVAS KOMISJONIS

16	+
PPE	Daniel Buda, Geoffroy Didier, Esteban González Pons, Jiří Pospíšil, Axel Voss, Marion Walsmann, Juan Ignacio Zoido Álvarez
RENEW	Karen Melchior, Adrián Vázquez Lázara
ID	Gunnar Beck, Jean-Paul Garraud, Gilles Lebreton
Verts/ALE	Heidi Hautala
ECR	Angel Dzhambazki, Raffaele Stancanelli
NI	Sabrina Pignedoli

 

4	–
RENEW	Pascal Durand, Stéphane Séjourné
Verts/ALE	Sergey Lagodinsky
GUE/NGL	Emmanuel Maurel

 

0	0

 

Kasutatud tähised:

+ : poolt

– : vastu

0 : erapooletu

 

 

• [1] EÜT L 180, 19.7.2000, lk 22.
• [2] EÜT L 303, 2.12.2000, lk 16.
• [3] ELT L 119, 4.5.2016, lk 1.
• [4] ELT L 119, 4.5.2016, lk 89.
• [5] ELT L 252, 8.10.2018, lk 1.
• [6] ELT C 252, 18.7.2018, lk 239.
• [7] ELT C 307, 30.8.2018, lk 163.
• [8] ELT C 433, 23.12.2019, lk 86.
• [9] Vastuvõetud tekstid, P8_TA(2018)0332.
• [10] Vastuvõetud tekstid, P8_TA(2019)0081.
• [11] EÜT L 180, 19.7.2000, lk 22.
• [12] EÜT L 303, 2.12.2000, lk 16.
• [13] ELT L 119, 4.5.2016, lk 1.
• [14] ELT L 119, 4.5.2016, lk 89.
• [15] ELT C 252, 18.7.2018, lk 239.
• [16] ELT C 433, 23.12.2019, lk 86.