Hakemisto 
 Edellinen 
 Seuraava 
 Koko teksti 
Menettely : 2020/2013(INI)
Elinkaari istunnossa
Asiakirjan elinkaari : A9-0001/2021

Käsiteltäväksi jätetyt tekstit :

A9-0001/2021

Keskustelut :

Äänestykset :

PV 20/01/2021 - 17

Hyväksytyt tekstit :

P9_TA(2021)0009

Hyväksytyt tekstit
PDF 174kWORD 61k
Keskiviikko 20. tammikuuta 2021 - Bryssel
Tekoäly: kansainvälisen oikeuden tulkintaa ja soveltamista koskevat kysymykset
P9_TA(2021)0009A9-0001/2021

Euroopan parlamentin päätöslauselma 20. tammikuuta 2021 tekoälystä: kansainvälisen oikeuden tulkintaa ja soveltamista, siltä osin kuin se koskee Euroopan unionia, siviili- ja sotilaskäytön alalla sekä valtion valtuuksia rikosoikeuden soveltamisalan ulkopuolella koskevat kysymykset (2020/2013(INI))

Euroopan parlamentti, joka

–  ottaa huomioon Euroopan unionista tehdyn sopimuksen johdanto-osan ja sen 2, 3, 10, 19, 20, 21,114, 167, 218, 225 ja 227 artiklan,

–  ottaa huomioon Euroopan unionin toiminnasta tehdyn sopimuksen 20 ja 227 artiklaan kirjatun vetoomusoikeuden,

–  ottaa huomioon Euroopan unionin perusoikeuskirjan,

–  ottaa huomioon rodusta tai etnisestä alkuperästä riippumattoman yhdenvertaisen kohtelun periaatteen täytäntöönpanosta 29. kesäkuuta 2000 annetun neuvoston direktiivin 2000/43/EY(1) (rotujen välistä tasa-arvoa koskeva direktiivi),

–  ottaa huomioon yhdenvertaista kohtelua työssä ja ammatissa koskevista yleisistä puitteista 27. marraskuuta 2000 annetun neuvoston direktiivin 2000/78/EY(2) (yhdenvertaista kohtelua työssä koskeva direktiivi),

–  ottaa huomioon luonnollisten henkilöiden suojelusta henkilötietojen käsittelyssä sekä näiden tietojen vapaasta liikkuvuudesta ja direktiivin 95/46/EY kumoamisesta 27. huhtikuuta 2016 annetun Euroopan parlamentin ja neuvoston asetuksen (EU) 2016/679(3) (yleinen tietosuoja-asetus) ja luonnollisten henkilöiden suojelusta toimivaltaisten viranomaisten suorittamassa henkilötietojen käsittelyssä rikosten ennalta estämistä, tutkimista, paljastamista tai rikoksiin liittyviä syytetoimia tai rikosoikeudellisten seuraamusten täytäntöönpanoa varten sekä näiden tietojen vapaasta liikkuvuudesta ja neuvoston puitepäätöksen 2008/977/YOS kumoamisesta 27. huhtikuuta 2016 annetun Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/680(4),

–  ottaa huomioon 28. syyskuuta 2018 annetun neuvoston asetuksen (EU) 2018/1488 Euroopan suurteholaskennan yhteisyrityksen perustamisesta(5),

–  ottaa huomioon 6. kesäkuuta 2018 annetun ehdotuksen Euroopan parlamentin ja neuvoston asetukseksi Digitaalinen Eurooppa -ohjelman perustamisesta vuosiksi 2021–2027 (COM(2018)0434),

–  ottaa huomioon 16. helmikuuta 2017 antamansa päätöslauselman suosituksista komissiolle robotiikkaa koskevista yksityisoikeudellisista säännöistä(6),

–  ottaa huomioon 1. kesäkuuta 2017 antamansa päätöslauselman Euroopan teollisuuden digitalisoinnista(7),

–  ottaa huomioon 12. syyskuuta 2018 antamansa päätöslauselman autonomisista asejärjestelmistä(8),

–  ottaa huomioon 11. syyskuuta 2018 antamansa päätöslauselman kielellisestä tasa-arvosta digitaaliajalla(9),

–  ottaa huomioon 12. helmikuuta 2019 antamansa päätöslauselman tekoälyä ja robotiikkaa koskevasta kokonaisvaltaisesta Euroopan unionin teollisuuspolitiikasta(10),

–  ottaa huomioon 11. joulukuuta 2019 annetun komission tiedonannon Euroopan parlamentille, neuvostolle, Euroopan talous- ja sosiaalikomitealle sekä alueiden komitealle Euroopan vihreän kehityksen ohjelmasta (COM(2019)0640),

–  ottaa huomioon 19. helmikuuta 2020 annetun komission valkoisen kirjan tekoälystä – Eurooppalainen lähestymistapa huippuosaamiseen ja luottamukseen (COM(2020)0065),

–  ottaa huomioon 19. helmikuuta 2020 annetun komission tiedonannon Euroopan parlamentille, neuvostolle, Euroopan talous- ja sosiaalikomitealle ja alueiden komitealle Euroopan datastrategiasta (COM(2020)0066),

–  ottaa huomioon 19. helmikuuta 2020 annetun komission tiedonannon Euroopan parlamentille, neuvostolle, Euroopan talous- ja sosiaalikomitealle ja alueiden komitealle aiheesta ”Euroopan digitaalista tulevaisuutta rakentamassa” (COM(2020)0067),

–  ottaa huomioon komission kesäkuussa 2018 perustaman tekoälyä käsittelevän korkean tason asiantuntijaryhmän 8. huhtikuuta 2019 antaman raportin luotettavaa tekoälyä koskevista eettisistä ohjeista,

–  ottaa huomioon kansallisten vähemmistöjen suojelua koskevan Euroopan neuvoston puiteyleissopimuksen, ihmisoikeuksien ja perusvapauksien suojaamiseksi tehdyn yleissopimuksen kahdennentoista lisäpöytäkirjan ja alueellisia kieliä ja vähemmistökieliä koskevan eurooppalaisen peruskirjan,

–  ottaa huomioon oikeuslaitoksen toimivuutta tarkastelevan Euroopan neuvoston työryhmän (CEPEJ-GT-QUAL) joulukuussa 2018 hyväksymän asiakirjan eettisistä periaatteista tekoälyn käytössä oikeusjärjestelmissä ”European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment”,

–  ottaa huomioon 22. toukokuuta 2019 annetun OECD:n neuvoston suosituksen tekoälystä,

–  ottaa huomioon työjärjestyksen 54 artiklan,

–  ottaa huomioon ulkoasiainvaliokunnan, sisämarkkina- ja kuluttajansuojavaliokunnan, liikenne- ja matkailuvaliokunnan ja kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokunnan lausunnot,

–  ottaa huomioon oikeudellisten asioiden valiokunnan mietinnön (A9-0001/2021),

Johdanto

A.  ottaa huomioon, että tekoälyn, robotiikan ja niihin liittyvän teknologian kehittäminen etenee nopeasti ja ne vaikuttavat suoraan yhteiskuntiemme kaikkiin osa-alueisiin, myös sosiaalisiin ja taloudellisiin perusperiaatteisiin ja -arvoihin;

B.  toteaa, että tekoäly on aiheuttamassa vallankumouksen sotilasdoktriinissa ja puolustustarvikkeiden alalla, sillä se mullistaa armeijoiden toimintatavan pääasiassa uusien autonomisten teknologioiden ja voimavarojen integroinnin ja käytön johdosta;

C.  ottaa huomioon, että ihmiset vastaavat niin kutsutun tekoälyn, robotiikan ja niihin liittyvän teknologian kehittämisestä ja suunnittelusta ja heidän valintansa määrittävät, miten teknologialla voidaan hyödyttää yhteiskuntaa;

D.  katsoo, että unionin yhteisen kehyksen on katettava tekoälyn, robotiikan ja niihin liittyvien teknologioiden kehittäminen, käyttöönotto ja käyttö sekä varmistettava ihmisarvon ja ihmisoikeuksien kunnioittaminen Euroopan unionin perusoikeuskirjan mukaisesti;

E.  ottaa huomioon, että unionilla ja sen jäsenvaltioilla on erityinen vastuu varmistaa, että tekoäly, robotiikka ja niihin liittyvät teknologiat – koska niitä voidaan käyttää rajojen yli – ovat ihmiskeskeisiä eli perimmiltään tarkoitettu palvelemaan ihmiskuntaa ja yhteistä hyvää ja siten edistämään kansalaisten hyvinvointia ja yleistä etua; katsoo, että unionin olisi autettava jäsenvaltioita tämän tavoitteen saavuttamisessa, erityisesti niitä, jotka ovat alkaneet pohtia oikeudellisten normien mahdollista kehittämistä tai lainsäädännön muuttamista tällä alalla;

F.  katsoo, että EU:n kansalaiset hyötyisivät asianmukaisesta, tehokkaasta, avoimesta ja yhtenäisestä unionin tason sääntelymallista, joka tarjoaisi yrityksille riittävän selkeät edellytykset kehittää sovelluksia ja suunnitella liiketoimintamallejaan mutta varmistaisi samalla, että EU ja jäsenvaltiot säilyttävät määräysvallan vahvistettavaan sääntelyyn, jottei niiden olisi pakko omaksua tai hyväksyä muiden määrittämiä normeja;

G.  toteaa, että eettinen ohjaus, kuten tekoälyä käsittelevän korkean tason asiantuntijaryhmän hyväksymät periaatteet, on hyvä lähtökohta, mutta se ei riitä varmistamaan, että yritykset toimivat oikeudenmukaisesti ja takaavat tehokkaan yksilöiden suojan;

H.  katsoo tämän erityisen vastuun merkitsevän muun muassa, että on tarkasteltava kysymyksiä kansainvälisen oikeuden tulkinnasta ja soveltamisesta Euroopan unionin aktiiviseen osallistumiseen kansainvälisiin neuvotteluihin, siltä osin kuin tällaisen tekoälyn, robotiikan ja niihin liittyvän teknologian siviili- ja sotilaskäyttö koskee Euroopan unionia, samoin kuin kysymyksiä näitä teknologioita koskevista valtion valtuuksista rikosoikeuden soveltamisalan ulkopuolella;

I.  katsoo, että on olennaisen tärkeää luoda asianmukainen ja kattava oikeudellinen kehys näiden teknologioiden eettisiä näkökohtia sekä vastuuta, avoimuutta ja vastuuvelvollisuutta varten (erityisesti tekoälyn, robotiikan ja niihin liittyvien suuririskisiksi katsottujen teknologioiden osalta); katsoo, että tämän kehyksen on ilmennettävä sitä, että luontaisesti eurooppalaisia ja yleismaailmallisia humanistisia arvoja sovelletaan koko arvoketjuun tekoälyn kehittämisessä, käyttöönotossa ja käyttötavoissa; katsoo, että näitä eettisiä periaatteita on sovellettava tekoälyn kehittämiseen (myös tutkimukseen ja innovointiin), käyttöönottoon ja käyttöön noudattaen kaikilta osin unionin oikeutta ja Euroopan unionin perusoikeuskirjassa vahvistettuja arvoja;

J.  toteaa, että tässä tarkastelussa tutkitaan, missä määrin kansainvälisen julkisoikeuden ja kansainvälisen yksityisoikeuden ja EU:n oikeuden sääntöjä voidaan soveltaa näihin teknologioihin, ja nostetaan esiin haasteita ja riskejä, joita viimeksi mainitut aiheuttavat valtion valtuuksille, jotta niitä voidaan hallita asianmukaisesti ja oikeasuhteisesti;

K.  toteaa, että komissio ei valkoisessa kirjassaan käsittele tekoälyn sotilaskäytön näkökohtia;

L.  katsoo näiden ongelmien yhdenmukaisen unionin tason käsittelyn edellyttävän, että tekoälylle hyväksytään yhteinen määritelmä ja että varmistetaan Euroopan unionin perusarvojen sekä perusoikeuskirjan ja kansainvälisen ihmisoikeuslainsäädännön periaatteiden noudattaminen;

M.  ottaa huomioon, että tekoäly tarjoaa ennennäkemättömiä mahdollisuuksia parantaa liikennealan suorituskykyä vastaamalla kasvavaa liikkumistarvetta sekä turvallisuus- ja ympäristönäkökohtia koskeviin haasteisiin ja tekemällä kaikista liikennemuodoista älykkäämpiä, tehokkaampia ja vaivattomampia;

N.  ottaa huomioon, että tekoälyn käsitteleminen puolustuksessa EU:n tasolla on välttämätöntä EU:n valmiuksien kehittämisen kannalta tällä alalla;

Tekoälyn määritelmä

1.  pitää välttämättömänä hyväksyä yhteinen eurooppalainen oikeudellinen kehys, joka sisältää yhdenmukaistetut määritelmät ja yhteiset eettiset periaatteet ja kattaa myös tekoälyn sotilaskäytön; kehottaa siksi komissiota hyväksymään seuraavat määritelmät:

   ’tekoälyjärjestelmällä’ tarkoitetaan joko ohjelmistopohjaista tai laitteisiin upotettua järjestelmää, joka simuloi älykästä käyttäytymistä muun muassa keräämällä ja käsittelemällä tietoa, analysoiden ja tulkiten ympäristöään sekä toimien osittain autonomisesti tiettyjen tavoitteiden saavuttamiseksi;
   ’autonomisella’ tekoälyjärjestelmällä tarkoitetaan järjestelmää, joka toimii tulkiten tiettyjä syötteitä ja soveltaen muun muassa muttei yksinomaan ennalta määrättyjä ohjeita samalla kun sen käyttäytymistä säätelevät sille asetettu tavoite, jonka saavuttamiseen kyseinen käyttäytyminen tähtää, ja muut sen kehittäjän tekemät suunnitteluun liittyvät valinnat;

2.  korostaa, että Euroopan unionin ja sen jäsenvaltioiden turvallisuus- ja puolustuspolitiikkaa ohjaavat Euroopan unionin perusoikeuskirjan ja Yhdistyneiden kansakuntien peruskirjan – joista jälkimmäisessä kaikkia valtioita kehotetaan pidättymään suhteissaan väkivallalla uhkaamisesta tai sen käyttämisestä – sekä kansainvälisen oikeuden periaatteet, ihmisoikeuksien ja ihmisarvon kunnioittamisen periaatteet sekä yhteisymmärrys yleismaailmallisista arvoista, joita ovat ihmisen loukkaamattomat ja luovuttamattomat oikeudet, vapaus, demokratia, tasa-arvo ja oikeusvaltio; korostaa, että kaikissa unionin puitteissa toteutettavissa puolustukseen liittyvissä toimissa on kunnioitettava näitä yleismaailmallisia arvoja ja edistettävä rauhaa, vakautta, turvallisuutta ja edistystä Euroopassa ja maailmassa;

Kansainvälinen julkisoikeus ja tekoälyn sotilaskäyttö

3.  katsoo, että sotilas- tai siviilitarkoitukseen käytettävän tekoälyn on oltava ihmisen merkityksellisessä valvonnassa, jotta ihminen voi milloin tahansa korjata käyttöä ja milloin tahansa keskeyttää tai deaktivoida sen, jos ilmenee tekoälyyn perustuvaa teknologiaa hyödyntävien kolmansien osapuolten ennakoimatonta käyttäytymistä, tahattomia toimenpiteitä, kyberhyökkäyksiä tai -häirintää, tai jos kolmannet osapuolet hankkivat tällaista teknologiaa;

4.  katsoo, että koska kansainvälinen julkisoikeus, erityisesti humanitaarinen oikeus, koskee yksiselitteisesti kaikkia asejärjestelmiä ja niiden operoijia, sen noudattaminen on perustavanlaatuinen vaatimus, joka jäsenvaltioiden on täytettävä, etenkin kun on suojeltava siviiliväestöä tai toteutettava varotoimenpiteitä hyökkäystilanteessa, esimerkiksi sotilaalliselta hyökkäykseltä tai kybersodalta suojautumiseksi;

5.  korostaa, että tekoälyä ja siihen liittyviä teknologioita voidaan hyödyntää myös säännöttömässä tai epätavanomaisessa sodankäynnissä; esittää, että tekoälyn tutkimukseen, kehittämiseen ja käyttöön tällaisissa tapauksissa olisi sovellettava samoja ehtoja kuin käyttöön tavanomaisissa konflikteissa;

6.  painottaa, että tekoälyn käyttö tarjoaa tilaisuuden parantaa Euroopan unionin ja sen kansalaisten turvallisuutta, ja pitää olennaisen tärkeänä, että EU noudattaa yhdennettyä lähestymistapaa asiaa koskevissa tulevissa kansainvälisissä keskusteluissa;

7.  kehottaa tekoälyn tutkimusyhteisöä sisällyttämään tämän periaatteen kaikkiin edellä mainittuihin tekoälypohjaisiin järjestelmiin, jotka on tarkoitettu sodankäyntiin; katsoo, että mikään viranomainen ei voi myöntää poikkeusta näistä periaatteista tai sertifioida tällaista järjestelmää;

8.  toistaa, että itsenäinen päätöksenteko ei saisi vapauttaa ihmisiä vastuusta ja että ihmisten on aina oltava viime kädessä vastuussa päätöksentekoprosesseista siten, että päätöksestä vastuussa oleva ihminen voidaan tunnistaa;

9.  korostaa, että käytettäessä tekoälyä sotilastarkoituksiin jäsenvaltioiden, konfliktin osapuolten ja yksilöiden on aina noudatettava sovellettavan kansainvälisen oikeuden mukaisia velvoitteitaan ja kannettava vastuu tällaisten järjestelmien käytöstä johtuvista toimista; korostaa, että tekoälyyn perustuvien järjestelmien ennakoitujen, tahattomien tai ei-toivottujen toimintojen ja vaikutusten on kaikissa olosuhteissa katsottava olevan jäsenvaltioiden, konfliktin osapuolten ja yksilöiden vastuulla;

10.  on tyytyväinen mahdollisuuksiin käyttää tekoälyjärjestelmiä koulutus- ja harjoitustarkoituksiin ja katsoo, että tätä potentiaalia ei saisi aliarvioida etenkään, koska EU järjestää sekä siviili- että sotilastarkoituksia palvelevia yhdistelmäharjoituksia;

11.  korostaa, että tekoälyä hyödyntävien järjestelmien suunnittelu-, kehittämis-, testaus-, käyttöönotto-, ja käyttövaiheissa on aina otettava asianmukaisesti huomioon mahdolliset riskit, jotka liittyvät erityisesti satunnaisiin siviiliuhreihin ja loukkaantumisiin, tahattomiin ihmishenkien menetyksiin ja siviili-infrastruktuurivahinkoihin, sekä riskit, jotka liittyvät tekoälyyn perustuvaa autonomista teknologiaa hyödyntävien kolmansien osapuolten tahattomaan toimintaan, manipulointiin, leviämiseen, kyberhyökkäyksiin tai -häirintään, tai jos kolmannet osapuolet hankkivat tällaista teknologiaa;

12.  palauttaa mieliin, että Kansainvälisen tuomioistuimen 8. heinäkuuta 1996 antaman neuvoa-antavan lausunnon mukaan uutuusperiaatteella ei voida perustella minkäänlaista poikkeamista kansainvälisen humanitaarisen oikeuden voimassa olevista normeista;

13.  katsoo, että tekoälyä voidaan käyttää paitsi tukemaan operaatioita myös asevoimien henkilöstön hyväksi käsittelemällä suuria määriä heidän terveystietojaan ja laajentamalla terveyden seurantaa, yksilöimään heidän ympäristöönsä ja työoloihinsa liittyviä riskitekijöitä ja ehdottamaan asianmukaisia suojatoimia asevoimien henkilöstöön kohdistuvien terveysvaikutusten rajoittamiseksi;

14.  toistaa, että sääntelytoimien tueksi on luotava mielekkäät sertifiointi- ja valvontajärjestelmät ja selkeät järjestelyt, jotka mahdollistavat tarkastettavuuden, selitettävyyden, vastuuvelvollisuuden ja jäljitettävyyden, jottei sääntelykehys jäisi jälkeen teknisestä kehityksestä;

15.  korostaa, että tiiviisti verkottuneessa maailmassa on tärkeää, että Euroopan unioni osallistuu tekoälyn käyttöä koskevan kansainvälisen oikeudellisen kehyksen luomiseen; kehottaa EU:ta ottamaan johtoaseman ja ottamaan yhdessä Yhdistyneiden kansakuntien ja kansainvälisen yhteisön kanssa aktiivisen roolin tämän tekoälyn käyttöä sotilaallisiin ja muihin tarkoituksiin sääntelevän maailmanlaajuisen kehyksen edistämisessä ja varmistamaan, että käyttö pysyy kansainvälisessä oikeudessa ja kansainvälisessä humanitaarisessa oikeudessa, erityisesti 12. elokuuta 1949 tehdyissä Geneven yleissopimuksissa, asetetuissa tiukoissa rajoissa; korostaa, että näissä puitteissa ei pidä koskaan rikkoa tai sallia rikottavan yleisen omantunnon ja inhimillisyyden vaatimuksia, kuten Martensin lausekkeessa todetaan, ja että niiden on oltava turvallisuussääntöjen ja kuluttajansuojaa koskevien vaatimusten mukaisia; kehottaa EU:ta ja jäsenvaltioita määrittelemään vahvat valvonta- ja arviointijärjestelmät tekoälyteknologioiden ja erityisesti autoritaarisissa valtioissa sotilaallisiin tarkoituksiin käytettävien teknologioiden kehittämistä varten;

16.  tähdentää, että robotiikka antaa asevoimien henkilöstölle mahdollisuuden pysyä etäällä ja myös suojella itseään paremmin esimerkiksi, kun suoritetaan operaatiota saastuneessa ympäristössä, palontorjuntaa tai miinanraivausta maalla tai merellä tai puolustaudutaan drooniparvia vastaan;

17.  korostaa, että tekoälyn kehittämisessä, käyttöönotossa, käytössä ja hallinnoinnissa on kunnioitettava EU:n perussopimuksissa vahvistettuja perusoikeuksia, arvoja ja vapauksia, ja kehottaa jäsenvaltioita pidättymään sellaisten suuririskisten tekoälyjärjestelmien käyttöönotosta, jotka uhkaavat perusoikeuksia; panee merkille tekoälyä koskevan komission valkoisen kirjan julkaisemisen ja kannustaa valtion viranomaisia sekä Euroopan unionin virastoja, elimiä ja toimielimiä tutkimaan perusteellisemmin mahdollisia riskejä, joita tekoälyn käytöstä aiheutuu perusoikeuksille;

18.  kehottaa komissiota helpottamaan tutkimusta ja keskustelua mahdollisuuksista käyttää tekoälyä katastrofiapuun, kriisien ehkäisyyn ja rauhanturvaamiseen;

19.  pitää myönteisenä, että on perustettu YK:n hallitustenvälinen asiantuntijaryhmä edistämään valtioiden vastuullista käyttäytymistä kybertoimintaympäristössä kansainvälisen turvallisuuden puitteissa, ja kehottaa EU:ta osallistumaan täysimääräisesti sen työhön;

20.  kehottaa komission varapuheenjohtajaa / korkeaa edustajaa viitoittamaan tietä maailmanlaajuisille neuvotteluille, joiden tavoitteena on ottaa käyttöön tekoälyaseiden valvontajärjestelmä ja saattaa ajan tasalle kaikki olemassa olevat asevalvontaa, aseriisuntaa ja asesulkua koskevat sopimusvälineet, jotta voidaan ottaa huomioon sodankäynnissä käytettävät tekoälyä hyödyntävät järjestelmät; vaatii, että neuvoston yhteisessä kannassa sotilasteknologian ja puolustustarvikkeiden viennin valvontaa koskevien yhteisten sääntöjen määrittämisestä otetaan täysimääräisesti huomioon ja katetaan tekoälyä hyödyntävät asejärjestelmät;

21.  huomauttaa, että näiden sääntöjen on aina oltava 17. heinäkuuta 1998 tehdyssä Rooman perussäännössä tarkoitettujen joukkotuhonnan, ihmisyyttä vastaan tehtyjen rikosten ja sotarikosten kieltämistä koskevien periaatteiden mukaisia;

22.  kiinnittää huomiota selviin riskeihin, joita ihmisten tekemiin päätöksiin liittyy, jos ne perustuvat yksinomaan koneiden tuottamiin tietoihin, profiileihin ja suosituksiin; huomauttaa, että tekoälyjärjestelmien yleiseen suunnitteluun olisi sisällyttävä myös ohjeet ihmisen suorittamasta valvonnasta; kehottaa määräämään velvoitteen tekoälysovellusten avoimuudesta ja selitettävyydestä ja ihmisen osallistumisen välttämättömyydestä sekä toteuttamaan muita toimenpiteitä, kuten riippumattomat tarkastukset ja erityiset stressitestit, joilla edistetään ja valvotaan vaatimusten noudattamista; korostaa, että valtion viranomaisten tai armeijan käyttämiä suuririskisiä tekoälysovelluksia valvovan riippumattoman viranomaisen olisi suoritettava tällaiset tarkastukset määräajoin;

23.  korostaa, että on tärkeää todentaa, miten suuririskiset tekoälyteknologiat tekevät päätöksiä; palauttaa mieliin, että syrjimättömyys- ja suhteellisuusperiaatteita on kunnioitettava ja että syy-yhteyttä, vahingonkorvausvelvollisuutta ja vastuuta, samoin kuin avoimuutta, vastuuvelvollisuutta ja selitettävyyttä koskevia kysymyksiä on selkeytettävä, jotta voidaan määrittää, missä määrin valtio voi kansainvälisen julkisoikeuden toimijana mutta myös omaa toimivaltaansa käyttäessään toimia hyödyntäen tekoälyyn perustuvia järjestelmiä, joilla on tietty autonomia, rikkomatta kansainvälisestä oikeudesta johtuvia velvoitteitaan, kuten oikeudenmukaista menettelyä;

24.  korostaa, että on tärkeää investoida ihmisten osaamiseen, myös digitaaliseen osaamiseen, jotta se voidaan mukauttaa tieteen kehitykseen, joka koskee tekoälyyn perustuvia ratkaisuja säänneltyjä ammatteja harjoittaville henkilöille, mukaan lukien julkisen vallan käyttöön liittyvät toimet, kuten oikeudenkäyttö; kehottaa jäsenvaltioita ja komissiota ottamaan tämän asianmukaisesti huomioon direktiivin 2005/36/EY(11) täytäntöönpanon yhteydessä;

25.  vaatii, että tekoälyjärjestelmissä on aina noudatettava vastuullisuuden, yhdenvertaisuuden, hallinnoitavuuden, ennalta varautumisen, vastuuvelvollisuuden, vastuuseen joutumisen, ennakoitavuuden, jäljitettävyyden, luotettavuuden, avoimuuden, selitettävyyden, taistelijoiden ja siviilien erottelun sekä suhteellisuuden periaatteita ja niiden on kyettävä havaitsemaan mahdolliset olosuhteiden ja toimintaympäristön muutokset; korostaa, että suhteellisuusperiaatteen mukaisesti sotilastoimen laillisuus edellyttää, että tavoite ja käytetyt keinot ovat tasapainossa ja että oikeasuhteisuuden arvioinnin tekee aina ihminen;

26.  korostaa, että käytettäessä tekoälyä hyödyntäviä järjestelmiä turvallisuuden ja puolustuksen alalla ihmisoperaattorin on ymmärrettävä tilanne täysin, tekoälyä hyödyntävän järjestelmän on oltava ennakoitava, luotettava ja palautumiskykyinen ja ihmisoperaattorin on kyettävä havaitsemaan mahdolliset muutokset olosuhteissa ja operatiivisessa ympäristössä ja puuttumaan asiaan tai lopettamaan hyökkäys, jotta voidaan varmistaa, että kansainvälisen humanitaarisen oikeuden periaatteita, erityisesti erottelu-, suhteellisuus- ja ennaltavarautumisperiaatteita hyökkäystilanteessa, sovelletaan täysimääräisesti koko komento- ja valvontaketjussa; korostaa, että tekoälyä hyödyntävien järjestelmien on mahdollistettava se, että vastuussa olevat ihmiset harjoittavat järjestelmien merkityksellisestä valvontaa ja kantavat vastuuvelvollisuuden niiden kaikesta käytöstä; kehottaa komissiota edistämään vuoropuhelua, tiiviimpää yhteistyötä ja synergioita jäsenvaltioiden, tutkijoiden, tiedemaailman, kansalaisyhteiskunnan toimijoiden ja yksityisen sektorin, erityisesti johtavien yritysten, sekä armeijan välillä, jotta varmistetaan, että puolustukseen liittyviä tekoälysäännöksiä koskevat päätöksentekoprosessit ovat osallistavia;

27.  korostaa kehottaneensa laatimaan ja hyväksymään kiireellisesti tappavia autonomisia asejärjestelmiä koskevan yhteisen kannan, estämään sellaisten tappavien autonomisten asejärjestelmien kehittämisen, valmistuksen ja käytön, jotka mahdollistavat iskut ilman ihmisen merkityksellistä valvontaa, ja aloittamaan tosiasialliset neuvottelut niiden kieltämiseksi; palauttaa tässä yhteydessä mieliin 12. syyskuuta 2018 antamansa päätöslauselman autonomisista asejärjestelmistä; muistuttaa, että ”tappavat autonomiset asejärjestelmät” ovat asejärjestelmiä, joista puuttuu ihmisen suorittama merkityksellinen keskeisten toimintojen valvonta yksittäisten kohteiden valinnan ja niihin iskemisen yhteydessä; korostaa, että ihmisten, jotka harjoittavat merkityksellistä valvontaa ja tarvittavaa harkintaa suhteellisuus- ja tarpeellisuusperiaatteiden mukaisesti, on aina tehtävä päätös tietyssä määrin autonomisten asejärjestelmien käyttämisestä kohteen valitsemiseen ja tappamiseen; korostaa, että tekoälyä hyödyntävät järjestelmät eivät missään tapauksessa saa korvata ihmisen tekemiä päätöksiä tällä alalla;

28.  toteaa lisäksi, että olisi keskusteltava autonomisista asejärjestelmistä yhtenä tekoälyn erityismuotona sotilasalalla ja että niistä olisi sovittava kansainvälisesti, erityisesti YK:n eräitä tavanomaisia aseita koskevaa yleissopimusta käsittelevällä foorumilla; kiinnittää huomiota käynnissä olevaan kansainväliseen keskusteluun tappavista autonomisista asejärjestelmistä, jotta voidaan säännellä kehittymässä olevaa sotilasteknologiaa, josta ei ole toistaiseksi päästy sopimukseen; huomauttaa, että EU on vasta äskettäin sopinut keskustelevansa tekoälyn kehityksen ja digitalisoinnin vaikutuksista puolustusalaan; uskoo, että EU voi ratkaisevasti auttaa jäsenvaltioita yhdenmukaistamaan sotilaallista tekoälyä koskevaa lähestymistapaa kansainvälisten keskustelujen johtamiseksi;

29.  painottaa tarvetta laatia tappavien autonomisten asejärjestelmien vastainen EU:n laajuinen strategia ja kieltää niin kutsutut tappajarobotit;

30.  korostaa, että sotilastarkoituksiin käytettävän tekoälyn on täytettävä tietyt vähimmäisvaatimukset: sen on kyettävä tekemään ero taistelijoiden ja siviilien välillä sekä taistelussa eri taistelijoiden välillä ja tunnistamaan antautuva tai taistelukyvytön taistelija, sen ei pidä olla vaikutukseltaan umpimähkäistä, sen ei pidä aiheuttaa tarpeetonta kärsimystä ihmisille, sen ei pidä olla asenteellista tai perustua tahallisesti puutteelliseen opetusdataan, ja sen on noudatettava kansainvälisen humanitaarisen oikeuden periaatteita, voimankäytön oikeasuhteisuutta ja varovaisuutta ennen sotatoimiin ryhtymistä;

31.  katsoo, että tappavien autonomisten asejärjestelmien käyttö nostaa esiin perustavanlaatuisia eettisiä ja oikeudellisia kysymyksiä ihmisten kyvystä hallita näitä järjestelmiä, edellyttää, että tekoälyyn perustuva teknologia ei saisi voida tehdä itsenäisiä päätöksiä, joihin liittyy erottelua, suhteellisuutta ja ennalta varautumista koskevia oikeudellisia periaatteita;

32.  kehottaa toteuttamaan kansainvälisellä tasolla riskejä vähentäviä avoimia toimenpiteitä, jotka koskevat tekoälyn kehittämistä ja käyttöä sotilasalalla, erityisesti alueellisen koskemattomuuden ja puuttumattomuuden periaatteiden sekä voimankäytön osalta; korostaa, että on tärkeää ottaa huomioon sotilaalliset näkökohdat käsiteltäessä oikeudellisia ja eettisiä kysymyksiä tekoälyä koskevassa eurooppalaisessa kehyksessä; muistuttaa kannastaan tappavien autonomisten asejärjestelmien kehittämisen, tuotannon ja käytön kieltämiseen; pitää valitettavana, että tällaisten aseiden käytöstä ei ole olemassa maailmanlaajuisia nimenomaisia yleissopimuksia;

33.  toteaa, että nykyaikaisen asevarustelun dynamiikka, joka on tulosta suurten sotilasvaltioiden autonomisten asejärjestelmien kehittämisestä, toimii nopeammin kuin yhteisten sääntöjen ja oikeudellisten kehysten edistyminen ja tehokas yleismaailmallinen soveltaminen ja täytäntöönpano, koska näiden järjestelmien kehittämistä ja käyttöönottoa koskevat tiedot ovat turvaluokiteltuja ja kansallisvaltioilla on luontainen intressi luoda nopeimmat ja tehokkaimmat hyökkäysvalmiudet riippumatta nykyisistä tai mahdollisista tulevista oikeudellisista kehyksistä tai periaatteista;

34.  katsoo, että tappavia autonomisia asejärjestelmiä olisi käytettävä ainoastaan viimeisenä keinona ja että ne ovat laillisia vain, jos ne ovat tiukasti ihmisen valvonnassa ja niin, että ihminen voi ottaa komennon haltuunsa milloin tahansa, koska ihmisen merkityksellinen osallistuminen ja valvonta ovat välttämättömiä ihmishenkien menetykseen johtavien päätösten tekemisessä ja koska ihmisen olisi aina kannettava vastuu päätettäessä elämästä ja kuolemasta; katsoo, että on kiellettävä poikkeuksetta ja kaikissa olosuhteissa järjestelmät, joissa ei ole minkäänlaista ihmisen suorittamaa valvontaa (ilman ihmisen väliintuloa toimivat järjestelmät);

35.  kehottaa varapuheenjohtajaa / korkeaa edustajaa, jäsenvaltioita ja Eurooppa-neuvostoa laatimaan ja hyväksymään kiireellisesti yhteisen kannan autonomisista asejärjestelmistä, jossa varmistetaan, että asejärjestelmän kriittiset toiminnot ovat ihmisen merkityksellisessä valvonnassa, myös käytön aikana, sekä puhumaan yhdellä äänellä asiaankuuluvilla foorumeilla ja toimimaan sen mukaisesti; kehottaa tässä yhteydessä varapuheenjohtajaa / korkeaa edustajaa, jäsenvaltioita ja Eurooppa-neuvostoa vaihtamaan parhaita käytäntöjä ja keräämään näkemyksiä asiantuntijoilta, tutkijoilta ja kansalaisyhteiskunnalta, kuten Euroopan parlamentti pyysi 12. syyskuuta 2018 autonomisista asejärjestelmistä esittämässään päätöslauselmassa, jossa todetaan, että hyökkäyksen toteuttamisen olisi aina vaadittava ihmisen merkittävää panosta;

36.  kannustaa kaikkia valtioita arvioimaan, miten itseohjautuvat sotilaalliset laitteet ovat mahdollisesti edistäneet niiden kansallista turvallisuutta ja miten niiden kansallinen turvallisuus voisi hyötyä tekoälyä hyödyntävistä asejärjestelmistä, ja ottamaan erityisesti huomioon tällaisten teknologioiden mahdollisuudet tukea ja tehostaa ihmisten päätöksentekoa kansainvälisen humanitaarisen oikeuden periaatteiden mukaisesti; toteaa, että mikä tahansa tappava autonominen asejärjestelmä tai pitkälle autonominen ase saattaa toimia virheellisesti huonosti kirjoitetun koodin vuoksi taikka vihollisvaltion tai muun kuin valtiollisen toimijan tekemän kyberhyökkäyksen vuoksi;

37.  korostaa, että autonomisia asejärjestelmiä olisi käytettävä vain erityistapauksissa ja sellaisten lupamenettelyjen mukaisesti, joista määrätään etukäteen yksityiskohtaisesti asiakirjoissa, joiden sisältöön tutustumisen asianomainen valtio – riippumatta siitä, kuuluuko se Pohjois-Atlantin liittoon – takaa yleisölle tai ainakin kansalliselle parlamentilleen;

38.  katsoo, että autonomisten asejärjestelmien on noudatettava tietyistä tavanomaisista aseista 10. lokakuuta 1980 tehdyn yleissopimuksen määräyksiä, mukaan lukien kielto aiheuttaa ”liiallisia vammoja”;

39.  ehdottaa autonomisten asejärjestelmien hallitsemattoman leviämisen estämiseksi, että ne olisi sisällytettävä niiden aseiden luetteloon, joihin sovelletaan 2. huhtikuuta 2013 tehdyn asekauppasopimuksen määräyksiä ja jotka luetellaan tämän sopimuksen 2 artiklassa;

40.  vaatii kieltämään autonomisten asejärjestelmien ihmisenkaltaistamisen, jottei robottia voitaisi luulla ihmiseksi;

41.  suhtautuu myönteisesti neuvoston ja parlamentin sopimukseen, jonka mukaan tappavat autonomiset aseet, ”joissa ihminen ei voi merkityksellisesti vaikuttaa päätöksiin kohteiden valinnasta ja iskun tekemisestä”, jätetään Euroopan puolustusrahastosta (EKR) rahoitettavien toimien ulkopuolelle; muistuttaa kannastaan, jonka mukaan sellaisten tappavien autonomisten aseiden, joita ihmiset eivät valvo merkityksellisellä tavalla, käyttö, kehittäminen tai tuotanto ei voi saada rahoitusta EKR:stä;

42.  kehottaa komissiota tukemaan tekoälyn tutkimusta, kehittämistä, käyttöönottoa ja käyttöä rauhan ylläpitämiseen ja konfliktien ehkäisyyn;

43.  toteaa, että maailmanlaajuista tekoälyekosysteemiä hallitsevat amerikkalaiset ja kiinalaiset digijätit, jotka kehittävät kotimaisia voimavaroja ja ostavat monia lupaavia yhtiöitä; on näin ollen vankasti sitä mieltä, että jottei tekoälyteknologiassa jäätäisi jälkeen, EU:n on löydettävä parempi tasapaino perustutkimuksen ja teollisten sovellusten kehittämisen välillä samalla kun lisätään suhteellisia strategisia etuja kasvattamalla entisestään sen omaa potentiaalia ja resursseja;

44.  korostaa, että sikäli kuin robotit kuuluvat direktiivissä 2006/42/EY(12) vahvistetun koneen määritelmän piiriin, ne olisi suunniteltava ja koottava direktiivissä säädettyjen standardien ja turvallisuustoimenpiteiden mukaisesti;

45.  muistuttaa EU:n kunnianhimoisesta tavoitteesta toimia kansainvälisenä rauhan edistäjänä ja vaatii sitä laajentamaan rooliaan kansainvälisissä aseidenriisunta- ja asesulkutoimissa ja pyrkimään toiminnassaan ja politiikassaan kansainvälisen rauhan ja turvallisuuden säilyttämiseen ja varmistamaan kansainvälisen ihmisoikeuksia koskevan ja humanitaarisen oikeuden noudattamisen sekä siviilien ja siviili-infrastruktuurin suojelun;

46.  painottaa tarvetta selvittää, millainen vaikutus tekoälyllä voi olla strategisena tekijänä EU:n yhteiseen turvallisuus- ja puolustuspolitiikkaan (YTPP) ja etenkin sotilas- tai siviilioperaatioihin ja EU:n voimavarojen kehittämiseen;

47.  muistuttaa, että liittolaisemme kansallisissa, Naton ja EU:n yhteyksissä ovat integroimassa tekoälyä sotilaallisiin järjestelmiinsä; katsoo, että yhteentoimivuus liittolaistemme kanssa on säilytettävä yhteisten standardien avulla, jotka ovat välttämättömiä liittouman operaatioiden toteuttamiseksi; muistuttaa, että tämän lisäksi tekoälyalan yhteistyötä olisi tehtävä eurooppalaisissa puitteissa, jotka ovat ainoa merkityksellinen kehys todellisten vahvojen synergioiden luomiseksi, kuten EU:n tekoälystrategiassa ehdotetaan;

48.  katsoo, että EU:n on huolellisesti seurattava ja pohdittava tekoälytekniikan kehityksen vaikutuksia puolustusalalla ja sodankäynnissä, mukaan lukien mahdollinen epävakauttava kehitys ja käyttöönotto, ja ohjattava eettistä tutkimusta ja suunnittelua varmistamalla henkilötietojen eheys ja rekisteröidyn pääsy tietoihinsa ja mahdollisuus valvoa niitä sekä ottamalla huomioon taloudellisia ja humanitaarisia kysymyksiä;

49.  palauttaa mieliin autonomisista asejärjestelmistä 12. syyskuuta 2018 esittämänsä kannan, jonka mukaan iskuja ei saa toteuttaa ilman ihmisen merkityksellistä osallistumista; kehottaa varapuheenjohtajaa / korkeaa edustajaa, jäsenvaltioita ja Eurooppa-neuvostoa hyväksymään autonomisia asejärjestelmiä koskevan yhteisen kannan, jolla varmistetaan, että ihmiset valvovat merkityksellisellä tavalla asejärjestelmien kriittisiä toimintoja myös niiden käyttöönoton aikana; vahvistaa tukevansa autonomisia asejärjestelmiä koskevaa työtä tiettyjä tavanomaisia aseita koskevan yleissopimuksen korkeiden sopimuspuolten muodostamassa YK:n alaisessa hallitusten asiantuntijaryhmässä, joka on edelleen asiaankuuluva kansainvälinen keskustelu- ja neuvottelufoorumi käsiteltäessä autonomisten asejärjestelmien aiheuttamia oikeudellisia haasteita; kehottaa tehostamaan kaikkia nykyisiä monenvälisiä toimia, jotta normi- ja sääntelykehykset eivät jäisi jälkeen tekniikan kehityksestä ja uusista sodankäyntitavoista; kehottaa varapuheenjohtajaa / korkeaa edustajaa pysymään sitoutuneena CCW-sopimuksen osapuolina olevien valtioiden käymiin keskusteluihin autonomisten asejärjestelmien kansainvälisestä sääntelystä ja auttamaan viipymättä pyrkimyksissä kehittää uusi maailmanlaajuinen sääntelykehys ja oikeudellisesti sitova väline, jossa keskitytään uusien teknologioiden määritelmiin, käsitteisiin ja ominaisuuksiin autonomisten asejärjestelmien alalla ja ihmisen valvontaa koskeviin eettisiin ja oikeudellisiin kysymyksiin, erityisesti kun on kyse niiden kriittisistä toiminnoista, kuten kohteiden valinnasta ja toimeenpanosta, ihmisten vastuun säilyttämisestä sekä ihmisen ja koneen vuorovaikutuksen tarpeellisesta tasosta, mukaan luettuna ihmisten valvonnan ja päätösvallan käsite; kehottaa varmistamaan näillä toimilla kansainvälisen humanitaarisen oikeuden ja ihmisoikeuslainsäädännön noudattaminen tekoälyä hyödyntävän aseen koko elinkaaren aikana ja sopimaan näin autonomisten asejärjestelmien alalla esille tuleviin teknologioihin liittyvän normatiivisen kehyksen selkeyttämistä, huomiointia ja kehittämistä koskevista konkreettisista suosituksista;

50.  katsoo, että maailmanlaajuisen turvallisuuden kannalta on ensiarvoisen tärkeää, että käytössä on tehokas mekanismi, jolla pannaan täytäntöön säännöt autonomisten asejärjestelmien ja tulevien tekoälyä hyödyntävien hyökkäysteknologioiden leviämisen estämiseksi;

Valtion valtuudet: esimerkkejä siviilialoilta, terveys ja oikeus mukaan lukien

51.  teroittaa, että jäsenvaltioiden on syytä toimia tehokkaasti vähentääkseen riippuvuuttaan ulkomaisesta datasta ja varmistaa markkinoita merkittävästi vääristämättä, ettei se, että mahtavat konsernit omistavat kehittyneimmät tekoälyteknologiat, lopulta johda siihen, että yksityiset tahot haastavat tai jopa anastavat valtion valtuudet, etenkin jos kyseiset yksityiset konsernit ovat EU:n ulkopuolisen kolmannen maan omistuksessa;

52.  painottaa, että tekoälyjärjestelmien käyttö viranomaisten päätöksenteossa voi aiheuttaa vinoutuneita päätöksiä, jotka vaikuttavat haitallisesti kansalaisiin, ja niiden käyttöön on siksi sovellettava tiukkoja kriteereitä, joilla valvotaan muun muassa niiden turvallisuutta, avoimuutta, vastuuvelvollisuutta, syrjimättömyyttä sekä yhteiskunta- ja ympäristövastuuta; kehottaa jäsenvaltioita arvioimaan riskejä, jotka koskevat julkisen vallan käyttöön liittyviä tekoälypohjaisia päätöksiä, ja säätämään suojatoimista, kuten ihmisen suorittamasta merkityksellisestä valvonnasta, avoimuusvaatimuksista ja mahdollisuudesta riitauttaa tällaiset päätökset;

53.  kehottaa jäsenvaltioita arvioimaan tekoälypohjaisiin teknologioihin liittyvät riskit ennen julkisen vallan käyttöön liittyvien toimien, kuten oikeudenkäytön, automatisointia; kehottaa jäsenvaltioita harkitsemaan tarvetta säätää suojatoimista, kuten pätevän ammattihenkilön harjoittamasta valvonnasta ja ammattietiikkaa koskevista tiukoista säännöistä;

54.  korostaa, että on tärkeää ryhtyä EU:n tason toimiin, jotta voidaan auttaa edistämään kipeästi kaivattuja investointeja, datainfrastruktuuria, tutkimusta, mukaan lukien tekoälyn viranomaiskäyttöä koskeva tutkimus, ja yhteisiä eettisiä toimintapuitteita;

55.  korostaa, että Euroopan unionin on pyrittävä strategiseen muutosjoustavuuteen, jotta se ei koskaan enää ole valmistautumaton kriisin yllättäessä, ja korostaa, että tämä on ratkaisevan tärkeää erityisesti tekoälyn ja sen sotilaallisten sovellusten osalta; korostaa, että sotilasalan tekoälyjärjestelmien toimitusketjuja, jotka voivat johtaa teknologiseen riippuvuuteen, olisi arvioitava uudelleen ja että tällaiset riippuvuudet olisi poistettava vaiheittain; kehottaa lisäämään investointeja eurooppalaiseen tekoälyyn puolustuksen alalla ja sitä ylläpitävään kriittiseen infrastruktuuriin;

56.  kehottaa komissiota arvioimaan kasvojentunnistusjärjestelmien käytön keskeyttämisen seurauksia ja arvioinnin tuloksista riippuen harkitsemaan kehotusta keskeyttää näiden järjestelmien käyttö, kun niitä käyttävät viranomaiset julkisissa tiloissa ja koulutukseen ja terveydenhuoltoon tarkoitetuissa tiloissa tai lainvalvontaviranomaiset puolijulkisissa tiloissa, kuten lentoasemilla, kunnes voidaan katsoa, että tekniset standardit ovat täysin perusoikeuksien mukaisia, että saadut tulokset ovat puolueettomia ja syrjimättömiä ja että tarjolla on tiukkoja suojatoimia, jotka estävät väärinkäytön ja varmistavat, että tällaisten tekniikoiden käyttö on tarpeellista ja oikeasuhteista;

57.  korostaa kyberturvallisuuden merkitystä tekoälylle sekä hyökkäys- että puolustusskenaarioissa; toteaa tässä yhteydessä, että on tärkeää tehdä kansainvälistä yhteistyötä ja julkaista ja jakaa tietoja tietotekniikan turvallisuushaavoittuvuuksista ja korjaavista toimista; kehottaa tekemään kansainvälistä yhteistyötä kyberturvallisuuden alalla tekoälyn tehokkaan käytön ja käyttöönoton varmistamiseksi sekä toteuttamaan suojatoimia tekoälyn väärinkäyttöä ja kyberhyökkäyksiä vastaan; panee lisäksi merkille, että tietotekniset järjestelmät ja tekoäly ovat luonteeltaan kaksikäyttöisiä (eli niitä voidaan käyttää siviili- ja sotilastarkoituksiin), ja kehottaa sääntelemään niitä tehokkaasti;

58.  katsoo, että jäsenvaltioiden olisi edistettävä ihmisten hyväksi toimivaa tekoälyteknologiaa ja että henkilöille, joita koskeva viranomaispäätös on tehty tekoälyjärjestelmän tuotoksen perusteella, olisi kerrottava tästä, heille olisi annettava viipymättä edellisessä kohdassa tarkoitettu ilmoitus ja heillä olisi oltava oikeus valittaa päätöksestä ja pyytää, ettei valituksen käsittelyssä käytetä tekoälyjärjestelmää; kehottaa jäsenvaltioita harkitsemaan tarvetta säätää direktiivissä (EU) 2018/958(13) tarkoitetuista suojatoimista, kuten pätevän ammattihenkilön harjoittamasta valvonnasta ja ammattietiikkaa koskevista säännöistä;

59.  korostaa, että ennusteiden tekemisessä tietojen jakamisen, tietojen saatavuuden tai niiden käytön perusteella on noudatettava laatuun, eheyteen, avoimuuteen, turvallisuuteen, yksityisyyteen ja valvontaan liittyviä vaatimuksia; korostaa, että kaikkialla tekoälyn, robotiikan ja niihin liittyvän teknologian kehittämisessä, käyttöönotossa ja käytössä on tarpeen noudattaa tietosuojaa ja yksityisyyttä koskevaa EU:n oikeudellista kehystä, jotta voidaan parantaa kansalaisten turvallisuutta ja lisätä heidän luottamustaan näihin teknologioihin;

60.  panee merkille tekoälysovellusten nopean kehityksen yksilöllisten ominaisuuksien, kuten kasvonpiirteiden, liikkeiden ja asenteiden, tunnistamisessa; varoittaa yksityisyyden loukkaamiseen, syrjimättömyyteen ja henkilötietojen suojaan liittyvistä ongelmista automaattiseen tunnistukseen perustuvien sovellusten käytön yhteydessä;

61.  korostaa, että luonnolliseen henkilöön kohdistuva päätös, joka perustuu yksinomaan automatisoituun käsittelyyn, profilointi mukaan luettuna, ja jolla on rekisteröityyn kohdistuvia kielteisiä oikeusvaikutuksia tai joka vaikuttaa häneen merkittävästi, on kielletty yleisessä tietosuoja-asetuksessa, ellei sitä sallita unionin tai jäsenvaltion lainsäädännössä ja ellei asiassa sovelleta asianmukaisia toimia rekisteröidyn oikeuksien, vapauksien ja oikeutettujen etujen suojaamiseksi;

62.  kehottaa varmistamaan algoritmien selitettävyyden, avoimuuden ja viranomaisvalvonnan silloin, kun viranomaiset käyttävät tekoälyä, ja tekemään vaikutustenarviointeja ennen kuin valtion viranomaiset ottavat käyttöön tekoälyteknologiaan perustuvia välineitä; kehottaa komissiota ja Euroopan tietosuojaneuvostoa antamaan suuntaviivoja, suosituksia ja kehittämään parhaita käytäntöjä, jotta voidaan määritellä tarkemmin kriteerit ja edellytykset sovellettaviksi viranomaispäätöksiin, jotka perustuvat profilointiin ja tekoälyn käyttöön;

63.  toteaa, että tekoälyn odotetaan nousevan yhä merkittävämpään asemaan terveydenhuollossa erityisesti seuraavien sovellusten ansiosta: diagnosointia tukevat algoritmit, robottiavusteinen kirurgia, älykkäät proteesit, potilaan kehon 3D-mallinnukseen perustuvat yksilölliset hoidot, ikääntyneitä avustavat sosiaaliset robotit, tiettyjen mielenterveysongelmaisten itsenäistä selviytymistä parantavat digitaaliset hoitoratkaisut, ennustava (prediktiivinen) terveydenhuolto ja epidemioiden torjunnassa käytettävät ohjelmistot;

64.  painottaa kuitenkin, että aina, kun tekoälyä hyödynnetään kansanterveyden alalla, on varmistettava potilastietojen suojelu ja estettävä niiden hallitsematon jakelu;

65.  vaatii, että kaikissa kansanterveyttä palvelevissa tekoälysovelluksissa varmistetaan potilaiden yhdenvertainen kohtelu hoidon saatavuuden suhteen, säilytetään potilaan ja lääkärin vuorovaikutus ja kunnioitetaan aina lääkärinvalaa niin, että lääkärillä säilyy aina mahdollisuus poiketa tekoälyn ehdottamasta ratkaisusta ja siten vastuu kaikista päätöksistä;

66.  toteaa, että tekoälyn käyttö rikollisuuden ja kyberrikollisuuden torjunnassa voisi tuoda mukanaan monenlaisia keinoja ja mahdollisuuksia; vahvistaa samalla, että periaatetta, jonka mukaan se, mikä on laitonta verkon ulkopuolella, on laitonta myös verkossa, olisi sovellettava edelleen;

67.  panee merkille, että tekoälyä käytetään yhä enemmän oikeuden alalla, jotta tuomarit voisivat tehdä rationaalisempia päätöksiä, jotka vastaavat tarkemmin voimassa olevaa lainsäädäntöä ja ovat nopeampia; pitää myönteisenä, että tekoälyn käytön odotetaan nopeuttavan oikeudenkäyntimenettelyitä;

68.  pitää tarpeellisena selventää, onko asianmukaista siirtää lainvalvontapäätökset osittain tekoälyjärjestelmien tehtäviksi niin, että ihminen yhä varmentaa lopullisen päätöksen;

69.  korostaa, että tekoälyn käyttö oikeusjärjestelmässä voisi parantaa datan analysointia ja keräämistä ja uhrien suojelua, ja että tätä voitaisiin selvittää tutkimuksella ja kehitystyöllä ja vaikutustenarvioinneilla, jotka koskevat erityisesti oikeudenmukaisen menettelyn suojatoimia sekä vinoutumien ja syrjinnän torjuntaa, samalla kun sovelletaan ennalta varautumisen periaatetta; muistuttaa kuitenkin, että tämä ei korvaa ihmisten osallistumista tuomioiden antamiseen tai päätösten tekemiseen;

70.  muistuttaa hallinnon, avoimuuden, puolueettomuuden, vastuuvelvollisuuden, oikeudenmukaisuuden ja älyllisen rehellisyyden periaatteiden merkityksestä käytettäessä tekoälyä rikosoikeudessa;

71.  kehottaa painokkaasti jäsenvaltioita arvioimaan tekoälypohjaisiin teknologioihin liittyvät riskit ennen julkisen vallan käyttöön liittyvien, erityisesti oikeusalan toimien automatisointia; kehottaa jäsenvaltioita harkitsemaan tarvetta säätää suojatoimista, kuten pätevän ammattihenkilön harjoittamasta valvonnasta ja ammattietiikkaa koskevista säännöistä;

72.  toteaa, että tietyt tekoälyteknologiat mahdollistavat tietojenkäsittelyn automatisoinnin ja ennennäkemättömän mittavat toimet, kuten laajamittaisen valvonnan siviili- ja sotilasaloilla, mikä uhkaa perusoikeuksia ja tasoittaa tietä laittomalle puuttumiselle valtioiden itsemääräämisoikeuteen; kehottaa tarkkailemaan laajamittaisia valvontatoimia kansainvälisen oikeuden mukaisesti myös lainkäyttövaltaa ja noudattamisen valvontaa koskevissa kysymyksissä; on erittäin huolissaan joistakin kehitetyistä sosiaalisen median pisteytyssovelluksista, jotka puuttuvat merkittävästi yksityisyyteen, koska ne vaarantavat vakavasti perusoikeuksien kunnioittamisen; vaatii, että viranomaiset kieltävät nimenomaisesti laajamittaisen sosiaalisen pisteytyksen käytön keinona rajoittaa kansalaisten oikeuksia; kehottaa lisäämään yksityisten toimijoiden kansainvälisen oikeuden mukaista vastuuvelvollisuutta, kun otetaan huomioon tiettyjen yksityisten toimijoiden ylivalta päätettäessä tällaisten teknologioiden kehittämisestä ja niiden valvonnassa; kehottaa tässä yhteydessä komissiota, neuvostoa ja jäsenvaltioita kiinnittämään asiaan erityistä huomiota, kun ne neuvottelevat, tekevät ja ratifioivat rajatylittäviin perhekiistoihin, kuten kansainvälisiin lapsikaappauksiin, liittyviä kansainvälisiä sopimuksia, sekä varmistamaan, että tässä yhteydessä tekoälyjärjestelmien käyttöön liitetään aina ihmisen suorittama tosiasiallinen varmennus ja että EU:ssa ja kyseisten sopimusten allekirjoittajamaissa noudatetaan oikeudenmukaista menettelyä;

73.  pyytää, että yleisölle tiedotetaan tekoälyn käytöstä oikeusalalla ja että tällainen käyttö ei aiheuta syrjintää ohjelmoinnin asenteellisuuden vuoksi; korostaa, että on kunnioitettava jokaisen oikeussubjektin oikeutta saada asiansa käsitellyksi virkamiehen toimesta sekä vastuussa olevan virkamiehen oikeutta tehdä henkilökohtaisesti päätös ja poiketa tekoälyltä saaduista tiedoista, jos hän pitää sitä tarpeellisena asian yksityiskohtien vuoksi; korostaa vastaajan oikeutta hakea päätökseen muutosta kansallisen lainsäädännön mukaisesti, poistamatta kuitenkaan oikeuslaitoksen lopullista vastuuta;

74.  kehottaa siksi käsittelemään kaikkia näitä julkisen ja hallinnon alan käyttötapoja julkisena tietona ja välttämään ohjelmoinnin asenteellisuudesta johtuvia syrjintävaikutuksia;

75.  korostaa, että on tärkeää mahdollistaa tekoälyn asianmukainen käyttöönotto ja käyttö; kehottaa jäsenvaltioita tarjoamaan siviili- ja sotilashenkilöstölleen asianmukaista koulutusta, jotta he voivat tarkasti tunnistaa ja välttää syrjintää ja ennakkoluuloja tietoaineistoissa;

76.  on syvästi huolissaan deepfake-teknologiasta, jolla on mahdollista tuottaa yhä realistisempia kuva-, audio- ja videoväärennöksiä, joita voidaan käyttää kiristämiseen, väärien uutisraporttien tuottamiseen tai kansalaisten luottamuksen rapauttamiseen ja julkiseen keskusteluun vaikuttamiseen; katsoo, että tällaiset käytännöt saattavat horjuttaa maiden vakautta, levittää disinformaatiota ja vaikuttaa vaaleihin; kehottaa siksi velvoittamaan sisällön luojat varustamaan kaikenlaisen deepfake-sisällön tai muut realistisesti tehdyt synteettiset videot merkinnällä ”ei alkuperäinen”, sekä asettamaan tiukat rajat niiden käytölle vaalitarkoituksiin, ja valvomaan tätä tiukasti; kehottaa tekemään tällä alalla asianmukaista tutkimusta sen varmistamiseksi, että näitä ilmiöitä torjuvien teknologioiden kehitys pysyy tekoälyn haitallisen käytön tahdissa;

Liikenne

77.  panee merkille tekoälysovellusten merkittävän taloudellisen potentiaalin, myös liikenneinfrastruktuurin ja rakennusten pitkän aikavälin suorituskyvyn, ylläpidon, virhe-ennusteiden ja rakennussuunnittelun optimoinnissa sekä turvallisuudessa, energiatehokkuudessa ja kustannuksissa; kehottaa siksi komissiota jatkamaan tekoälyn tutkimuksen ja liikennealan hyvien käytäntöjen vaihdon edistämistä;

78.  korostaa tarvetta kannustaa tekoälyn käyttöä kaikkien liikennemuotojen multimodaalisuuden, yhteentoimivuuden ja energiatehokkuuden edistämiseksi, jotta voidaan tehostaa tavara- ja henkilöliikennevirtojen organisointia ja hallintaa, hyödyntää paremmin infrastruktuuria ja resursseja Euroopan laajuisessa liikenneverkossa (TEN-T) ja puuttua todellisen yhtenäisen Euroopan liikennealueen luomisen esteisiin;

79.  muistuttaa Euroopan rautatieliikenteen hallintajärjestelmän (ERTMS) hyödyistä, sillä se on saumaton automaattinen junan kulun valvontajärjestelmä, ja tukee junaliikenteen automatisoinnin kehittämistä ja kansainvälistä standardointia;

80.  pitää myönteisenä eurooppalaisen ilmaliikenteen hallinnan nykyaikaistamishankkeen (SESAR) työtä sekä siviili- että sotilaskäytössä olevien miehittämättömien ilma-alusjärjestelmien ja ilmaliikenteen hallintajärjestelmien osalta;

81.  muistuttaa, että autonomisilla ajoneuvoilla on hyvät mahdollisuudet parantaa liikkuvuutta, turvallisuutta ja tuottaa ympäristöhyötyjä, ja kehottaa komissiota ja jäsenvaltioita varmistamaan sääntelyviranomaisten ja kaikkien automatisoitujen maantieajoneuvojen käyttöönoton kannalta merkittävien sidosryhmien välisen yhteistyön EU:ssa;

82.  huomauttaa, että maailmanlaajuinen merenkulkuala on muuttunut viime vuosina huomattavasti tekoälyn integroinnin ansiosta; palauttaa mieliin Kansainvälisessä merenkulkujärjestössä parhaillaan käytävät perinpohjaiset keskustelut uusien ja kehitteillä olevien teknologioiden, kuten itseohjautuvien alusten, sisällyttämisestä sen sääntelykehykseen;

83.  korostaa, että älykkäät liikennejärjestelmät vähentävät liikenneruuhkia, parantavat turvallisuutta ja saavutettavuutta ja auttavat parantamaan liikennevirtojen hallintaa, tehokkuutta ja liikkuvuusratkaisuja; kiinnittää huomiota perinteisten liikenneverkkojen lisääntyvään altistumiseen kyberuhille; muistuttaa, että riittävät resurssit ja turvallisuusriskejä koskeva lisätutkimus ovat tärkeitä automatisoitujen järjestelmien ja niiden tietojen turvallisuuden varmistamisessa; suhtautuu myönteisesti komission aikomukseen sisällyttää kyberturvallisuus liikennealan kansainvälisissä järjestöissä käytävien keskustelujen säännölliseksi esityslistan kohdaksi;

84.  pitää myönteisinä pyrkimyksiä ottaa tekoälyjärjestelmät käyttöön julkisella sektorilla ja tukee jatkokeskusteluja tekoälyn käyttöönotosta liikenteessä; kehottaa komissiota toteuttamaan tekoälyn ja vastaavien teknologioiden käytön arvioinnin liikennealalla ja laatimaan luettelon, joka ei ole tyhjentävä, sellaisista tekoälyjärjestelmien korkean riskin osa-alueista, jotka korvaavat julkisen vallan käytön piiriin kuuluvia päätöksiä tällä alalla;

85.  korostaa, että Euroopan puolustusrahaston ja pysyvän rakenteellisen yhteistyön olisi edistettävä jäsenvaltioiden ja Euroopan puolustusteollisuuden välistä yhteistyötä uusien Euroopan puolustusvoimavarojen kehittämiseksi tekoälyn alalla ja toimitusvarmuuden varmistamiseksi eettiset näkökohdat huomioon ottaen; pitää tarpeellisena välttää pirstaloitumista rakentamalla siltoja eri toimijoiden ja sovellusalojen välille, edistämällä yhteensopivuutta ja -toimivuutta kaikilla tasoilla ja keskittymällä arkkitehtuuria ja alustaratkaisuja koskevaan yhteiseen työhön; muistuttaa lisäksi, että seuraavaan Verkkojen Eurooppa -välineeseen, jolla myös edistetään älykästä infrastruktuuria, sisältyy rahasto siviili- tai sotilaskäyttöön tarkoitetun kaksoiskäyttöliikenneinfrastruktuurin muokkaamista ja kehittämistä varten TEN-T-verkossa, jotta voidaan lisätä siviili- ja sotilasalan tarpeiden välisiä synergioita siviilialan ja sotilaallisen liikkuvuuden parantamiseksi unionissa; korostaa siksi, että tarvitaan lisää eurooppalaisia investointeja, tutkimusta ja johtajuutta teknologioissa, joilla on suuri taloudellinen kasvuvaikutus ja merkittävä kaksikäyttöpotentiaali;

86.  korostaa, että monet investoinnit uusiin teknologioihin liikenteen ja liikkuvuuden alalla ovat markkinalähtöisiä mutta että kaupallisesti saatavilla olevia kaksikäyttöteknologioita ja -tuotteita käytetään usein innovatiivisilla tavoilla sotilaallisiin tarkoituksiin; korostaa siksi, että tekoälyä hyödyntävien ratkaisujen kaksikäyttöpotentiaali on otettava huomioon laadittaessa standardeja tekoälyn käytölle kaupallisella ja sotilaallisella alalla; kehottaa sisällyttämään korkeatasoiset eettiset normit ja politiikan puolustusalan teknologioiden, tuotteiden ja toimintaperiaatteiden kehittämiseen;

87.  huomauttaa, että tavaroiden, ampumatarvikkeiden, aseiden ja joukkojen tehokas kuljetus on olennainen osa onnistuneita sotilasoperaatioita; korostaa, että tekoälyllä odotetaan olevan ratkaiseva asema ja se tarjoaa lukuisia soveltamismahdollisuuksia sotilaslogistiikassa ja -kuljetuksissa; huomauttaa, että maat kaikkialla maailmassa, myös EU:n jäsenvaltiot, sisällyttävät tekoälyä hyödyntäviä aseita ja muita järjestelmiä maalla, merellä tai ilmassa toimiville alustoille; muistuttaa, että tekoälyn soveltaminen liikennealalla voisi tarjota uusia valmiuksia ja mahdollistaa uudenlaisia taktiikoita, esimerkiksi useiden järjestelmien, kuten droonien, miehittämättömien veneiden tai panssarivaunujen, yhdistämisen itsenäisessä ja koordinoidussa operaatiossa;

Kansainvälinen yksityisoikeus

88.  panee merkille, että koska ihmisen toiminnan kansainvälistyminen verkossa tai reaalimaailmassa tuottaa aiempaa enemmän kansainvälisen yksityisoikeuden piiriin kuuluvia riita-asioita, tekoäly voi auttaa ratkaisemaan ne luomalla malleja, joiden avulla voidaan määrittää kussakin tapauksessa toimivaltainen tuomioistuin ja sovellettava laki sekä tunnistaa vaikeimmat lainvalintatilanteet ja ehdottaa niihin ratkaisuja;

89.  katsoo, että yleisölle on tiedotettava asianmukaisesti tekoälyn käyttötavoista kansainvälisessä yksityisoikeudessa, että nämä käyttötavat eivät saa johtaa syrjintään ohjelmoinnin avulla, jossa suosittaisiin järjestelmällisesti tiettyä kansallista lainsäädäntöä muiden kustannuksella, niissä on kunnioitettava laissa ennalta säädetyn tuomioistuimen oikeuksia, sallittava muutoksenhaku sovellettavan lain mukaisesti ja annettava jokaiselle tuomarille oikeus sivuuttaa tekoälyn ehdottama ratkaisu;

90.  korostaa, että autonomisten ajoneuvojen liikennöinti Euroopan unionissa voi johtaa erityisen suureen määrään kansainvälisen yksityisoikeuden piiriin kuuluvia riita-asioita, joten siihen on sovellettava erityisiä EU:n tason sääntöjä, joissa täsmennetään rajat ylittäviin vahinkoihin sovellettava oikeudellinen järjestelmä;

91.  toteaa, että koska yksityisen sektorin tutkimus ja kehittäminen on yhä merkittävämmässä asemassa ja koska kolmannet maat ovat tehneet valtavia investointeja, EU on kovassa kilpailutilanteessa; tukee siksi EU:n pyrkimyksiä kehittää edelleen tekoälyalan kilpailuetujaan ja katsoo, että EU:n olisi pyrittävä toimimaan tekoälyn norminasettajana tiiviisti verkottuneessa maailmassa hyväksymällä tehokas strategia suhteessa ulkoisiin kumppaneihinsa ja edistämällä pyrkimyksiään asettaa tekoälyä koskevia maailmanlaajuisia eettisiä normeja kansainvälisellä tasolla turvallisuussääntöjen ja kuluttajansuojavaatimusten sekä eurooppalaisten arvojen ja kansalaisten oikeuksien, mukaan lukien perusoikeuksien mukaisesti; katsoo, että tämä on ratkaisevan tärkeää myös eurooppalaisten yritysten kilpailukyvyn ja kestävyyden kannalta; kehottaa komissiota ja jäsenvaltioita vahvistamaan yhteistyötä kolmansien maiden ja kansainvälisten järjestöjen, kuten YK:n, OECD:n, G7:n tai G20-ryhmän kanssa ja käymään laajempaa vuoropuhelua tämän nopeasti muuttuvan teknologian kehittymisestä johtuviin haasteisiin vastaamiseksi; katsoo, että näillä toimilla olisi pyrittävä erityisesti vahvistamaan yhteiset normit ja parantamaan tekoälyä hyödyntävien järjestelmien yhteentoimivuutta; kehottaa komissiota edistämään vuoropuhelua, tiiviimpää yhteistyötä ja synergioita jäsenvaltioiden, tutkijoiden, tiedemaailman, kansalaisyhteiskunnan toimijoiden ja yksityisen sektorin, erityisesti johtavien yritysten, sekä sotilasalan välillä, jotta varmistetaan, että puolustukseen liittyviä tekoälysäännöksiä koskevat päätöksentekoprosessit ovat osallistavia;

Ohjaavat periaatteet

92.  katsoo, että tekoälyteknologioiden ja verkkojärjestelmien olisi pyrittävä tarjoamaan oikeusvarmuutta kansalaisille; korostaa siksi, että lain ja tuomioistuimen valintaa koskevia sääntöjä olisi edelleen sovellettava ottaen huomioon kansalaisten edun ja tarpeen torjua oikeuspaikkakeinottelua; muistuttaa, että tekoäly ei voi korvata ihmisiä oikeusprosessissa, kun on kyse tuomion antamisesta tai lopullisen päätöksen tekemisestä, koska tällaisten päätösten on aina oltava ihmisen tekemiä ja niiden on ehdottomasti oltava ihmisen tarkistamia ja käytävä läpi asianmukainen menettely; vaatii, että käyttäessään tekoälyavusteisen teknologian tarjoamia todisteita oikeusviranomaisilla olisi oltava velvollisuus perustella päätöksensä;

93.  huomauttaa, että vaikka tekoäly merkitsee tieteellistä edistystä, se ei saa heikentää oikeusjärjestystä, vaan sen on päinvastoin aina perustuttava siihen – Euroopan unionissa sen toimielinten ja sen jäsenvaltioiden antamaan lainsäädäntöön – ja että tekoäly, robotiikka ja niihin liittyvät teknologiat eivät saa missään olosuhteissa olla perusoikeuksien, demokratian ja oikeusvaltioperiaatteen vastaisia;

94.  korostaa, että puolustusalalla käytettävän tekoälyn on oltava vastuullista, tasapuolista, jäljitettävissä olevaa, luotettavaa ja hallittavissa olevaa;

95.  katsoo, että olisi kehitettävä tekoälyä, robotiikkaa ja niihin liittyvää teknologiaa, myös tällaisen teknologian käyttämiä tai tuottamia ohjelmistoja, algoritmeja ja dataa, riippumatta alasta, jolla niitä käytetään, turvallisella ja teknisesti luotettavalla tavalla;

o
o   o

96.  kehottaa puhemiestä välittämään tämän päätöslauselman neuvostolle ja komissiolle.

(1) EYVL L 180, 19.7.2000, s. 22.
(2) EYVL L 303, 2.12.2000, s. 16.
(3) EUVL L 119, 4.5.2016, s. 1.
(4) EUVL L 119, 4.5.2016, s. 89.
(5) EUVL L 252, 8.10.2018, s. 1.
(6) EUVL C 252, 18.7.2018, s. 239.
(7) EUVL C 307, 30.8.2018, s. 163.
(8) EUVL C 433, 23.12.2019, s. 86.
(9) EUVL C 433, 23.12.2019, s. 42.
(10) EUVL C 449, 23.12.2020, s. 37.
(11)Euroopan parlamentin ja neuvoston direktiivi 2005/36/EY, annettu 7 päivänä syyskuuta 2005, ammattipätevyyden tunnustamisesta (EUVL L 255, 30.9.2005, s. 22).
(12)Euroopan parlamentin ja neuvoston direktiivi 2006/42/EY, annettu 17 päivänä toukokuuta 2006, koneista ja direktiivin 95/16/EY muuttamisesta (EUVL L 157, 9.6.2006, s. 24).
(13)Euroopan parlamentin ja neuvoston direktiivi (EU) 2018/958, annettu 28 päivänä kesäkuuta 2018, uuden ammatteja koskevan sääntelyn hyväksymistä edeltävästä suhteellisuusarvioinnista (EUVL L 173, 9.7.2018, s. 25).

Päivitetty viimeksi: 22. huhtikuuta 2021Oikeudellinen huomautus - Tietosuojakäytäntö