RAPORT soovitustega komisjonile tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    8.10.2020 - (2020/2012(INL))

    Õiguskomisjon
    Raportöör: Ibán García del Blanco
    Arvamuse koostajad (*):
    Urmas Paet, väliskomisjon
    Alexandra Geese, siseturu- ja tarbijakaitsekomisjon
    Tom Berendsen, transpordi- ja turismikomisjon
    Assita Kanko, kodanikuvabaduste, justiits- ja siseasjade komisjon
    (*) Kaasatud komisjonid – kodukorra artikkel 57
    (Algatus – kodukorra artikkel 47)


    Menetlus : 2020/2012(INL)
    Menetluse etapid istungitel
    Dokumendi valik :  
    A9-0186/2020

    EUROOPA PARLAMENDI RESOLUTSIOONI ETTEPANEK

    soovitustega komisjonile tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    (2020/2012(INL))

    Euroopa Parlament,

     võttes arvesse Euroopa Liidu toimimise lepingu artiklit 225,

     võttes arvesse Euroopa Liidu toimimise lepingu artiklit 114,

     võttes arvesse Euroopa Liidu põhiõiguste hartat,

     võttes arvesse nõukogu 28. septembri 2018. aasta määrust (EL) 2018/1488, millega asutatakse Euroopa kõrgjõudlusega andmetöötluse ühisettevõte[1],

     võttes arvesse nõukogu 29. juuni 2000. aasta direktiivi 2000/43/EÜ, millega rakendatakse võrdse kohtlemise põhimõte sõltumata isikute rassilisest või etnilisest päritolust[2] (rassilise võrdõiguslikkuse direktiiv),

     võttes arvesse nõukogu 27. novembri 2000. aasta direktiivi 2000/78/EÜ, millega kehtestatakse üldine raamistik võrdseks kohtlemiseks töö saamisel ja kutsealale pääsemisel[3] (võrdse tööalase kohtlemise direktiiv),

     võttes arvesse Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta määrust (EL) 2016/679 füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta[4] (isikuandmete kaitse üldmäärus) ning Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta direktiivi (EL) 2016/680 (mis käsitleb füüsiliste isikute kaitset seoses pädevates asutustes isikuandmete töötlemisega süütegude tõkestamise, uurimise, avastamise ja nende eest vastutusele võtmise või kriminaalkaristuste täitmisele pööramise eesmärgil ning selliste andmete vaba liikumist ning millega tunnistatakse kehtetuks nõukogu raamotsus 2008/977/JSK)[5],

     võttes arvesse 13. aprilli 2016. aasta institutsioonidevahelist parema õigusloome kokkulepet[6],

     võttes arvesse 6. juuni 2018. aasta ettepanekut võtta vastu Euroopa Parlamendi ja nõukogu määrus, millega kehtestatakse ajavahemikuks 2021–2027 digitaalse Euroopa programm (COM(2018)0434),

     võttes arvesse komisjoni 11. detsembri 2019. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele Euroopa rohelise kokkuleppe kohta (COM(2019)0640),

     võttes arvesse komisjoni 19. veebruari 2020. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Tehisintellekt: Euroopa käsitus tipptasemel ja usaldusväärsest tehnoloogiast“ (COM(2020)0065),

     võttes arvesse komisjoni 19. veebruari 2020. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Euroopa andmestrateegia“ (COM(2020)0066),

     võttes arvesse komisjoni 19. veebruari 2020. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Euroopa digituleviku kujundamine“ (COM(2020)0067),

     võttes arvesse Euroopa Liidu Nõukogu 2020. aasta juuni järeldusi Euroopa digituleviku kujundamise kohta,

     võttes arvesse oma 16. veebruari 2017. aasta resolutsiooni soovitustega komisjonile robootikat käsitlevate tsiviilõiguse normide kohta[7],

     võttes arvesse oma 1. juuni 2017. aasta resolutsiooni Euroopa tööstuse digiteerimise kohta[8],

     võttes arvesse oma 12. septembri 2018. aasta resolutsiooni autonoomsete relvasüsteemide kohta[9],

     võttes arvesse oma 11. septembri 2018. aasta resolutsiooni keelelise võrdõiguslikkuse kohta digitaalajastul[10],

     võttes arvesse oma 12. veebruari 2019. aasta resolutsiooni tervikliku Euroopa tööstuspoliitika kohta tehisintellekti ja robootika valdkonnas,[11]

     võttes arvesse komisjoni kõrgetasemelise tehisintellekti eksperdirühma 8. aprilli 2019. aasta aruannet „Usaldusväärse tehisintellekti eetikasuunised“,

     võttes arvesse Euroopa Parlamendi uuringuteenistuse teaduslike tuleviku-uuringute üksuse hallatava teaduse ja tehnoloogia tuleviku esinduskogu (STOA) taotlusel koostatud ülevaateid ja uuringuid „What if algorithms could abide by ethical principles?“ (Aga mis siis, kui algoritmid järgiksid eetikapõhimõtteid?), „Artificial Intelligence ante portas: Legal & ethical reflections“ (Tehisintellekt tulekul: õiguslikud ja eetilised mõtisklused), „A governance framework for algorithmic accountability and transparency“ (Algoritmilise vastutuse ja läbipaistvuse juhtimise raamistik), „Should we fear artificial intelligence?“ (Kas peaksime tehisintellekti kartma?) ja „The ethics of artificial intelligence: Issues and initiatives“ (Tehisintellekti eetika: probleemid ja algatused),

     võttes arvesse Euroopa Nõukogu rahvusvähemuste kaitse raamkonventsiooni, inimõiguste ja põhivabaduste kaitse konventsiooni protokolli nr 12 ning Euroopa piirkondlike ja vähemuskeelte hartat,

     võttes arvesse OECD nõukogu 22. mai 2019. aasta soovitust tehisintellekti kohta,

     võttes arvesse kodukorra artikleid 47 ja 54,

     võttes arvesse väliskomisjoni, siseturu- ja tarbijakaitsekomisjoni, transpordi- ja turismikomisjoni, kodanikuvabaduste, justiits- ja siseasjade komisjoni, tööhõive- ja sotsiaalkomisjoni, keskkonna-, rahvatervise ja toiduohutuse komisjoni ning kultuuri- ja hariduskomisjoni arvamusi,

     võttes arvesse õiguskomisjoni raportit (A9-0186/2020),

    Sissejuhatus

    A. arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamisega tegelevad inimesed ning nende valikud määravad ära sellise tehnoloogia võime ühiskonnale kasu tuua;

    B. arvestades, et kiiresti edendatakse ja arendatakse tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, mis võivad luua ettevõtjatele võimalusi ja tuua kodanikele kasu ning võivad vahetult mõjutada meie ühiskonna kõiki aspekte, sealhulgas põhiõigusi ning sotsiaalseid ja majanduslikke põhimõtteid ja väärtusi, samuti avaldada püsivat mõju kõigile tegevusvaldkondadele;

    C. arvestades, et tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia põhjustavad suuri muutusi tööturul ja töökohtades; arvestades, et need võivad asendada korduvaid operatsioone tegevaid töötajaid, hõlbustada inimeste ja masinate koostööl põhinevaid töösüsteeme, suurendada konkurentsivõimet ja jõukust ning luua kvalifitseeritud töötajate jaoks uusi töövõimalusi, ning samas kaasneb nendega töötajaskonna ümberkorraldamise tõsine probleem;

    D. arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamine võib ka aidata saavutada paljudes eri valdkondades Euroopa rohelise kokkuleppe kestlikkuseesmärke; arvestades, et digitehnoloogia võib suurendada poliitika mõju keskkonnakaitsele; arvestades, et see võib ka aidata vähendada liiklusummikuid ning kasvuhoonegaaside ja õhusaasteainete heitkoguseid;

    E. arvestades, et sellistes sektorites nagu ühistransport võib tehisintellekti toetatud arukate transpordisüsteemide abil lühendada järjekordi, optimeerida marsruute, võimaldada puuetega inimestele suuremat sõltumatust ning tõsta energiatõhusust, mis tõhustaks CO2-heite vähendamise meetmeid ja vähendaks keskkonnajalajälge;

    F. arvestades, et nende tehnoloogiatega kaasnevad uued ärivõimalused võivad aidata kaasa liidu tööstuse praeguse tervise- ja majanduskriisi järgsele taastumisele, kui neid, näiteks transpordisektoris, ulatuslikumalt kasutada; arvestades, et sellised võimalused võivad luua uusi töökohti, kuna nende tehnoloogiate kasutuselevõtt võib tõsta ettevõtete tootlikkust ja aidata suurendada tõhusust; arvestades, et selle valdkonna innovatsiooniprogrammid võivad anda piirkondlikele klastritele võimaluse jõudsalt areneda;

    G. arvestades, et liidul ja selle liikmesriikidel on eriline kohustus kasutada, edendada ja suurendada tehisintellekti lisaväärtust ning tagada, et tehisintellektitehnoloogiad oleksid ohutud ning aitaksid kaasa nende kodanike heaolule ja üldistele huvidele, kuna need võivad anda tohutu panuse ühise eesmärgi saavutamisse, milleks on liidu kodanike elu parandamine ja jõukuse suurendamine, kuna need toetavad paremate strateegiate kujundamist ja innovatsiooni mitmetes valdkondades ja sektorites; arvestades, et tehisintellekti täispotentsiaali ärakasutamiseks ja kasutajate teavitamiseks tehisintellektitehnoloogiatega kaasnevast kasust ja probleemidest tuleb tehisintellekti või digitaalset kirjaoskust käsitleda haridus- ja koolitustegevuses, muu hulgas e-kaasatust edendades, ning tuleb liidu tasandil korraldada teabekampaaniaid, mis kajastaksid täpselt tehisintellekti arendamise kõiki aspekte;

    H. arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, juurutamist ja kasutamist käsitlev liidu ühine õigusraamistik peaks võimaldama kodanikel saada osa nende potentsiaalsest kasulikkusest ning samas kaitsma kodanikke selliste tehnoloogiatega seotud võimalike riskide eest ja edendama nende usaldusväärsust liidus ja mujal; arvestades, et raamistiku aluseks peaksid olema liidu õigus ja väärtused ning selles tuleks juhinduda läbipaistvuse ja selgitatavuse, õigluse, aruandekohustuse ja vastutuse põhimõtetest;

    I. arvestades, et selline õigusraamistik on väga oluline, et vältida siseriiklike õigusaktide erinevusest tingitud siseturu killustumist, ning see aitab edendada väga vajalikke investeeringuid, arendada andmetaristut ja toetada teadusuuringuid; arvestades, et raamistik peaks koosnema ühistest õiguslikest kohustustest ja eetikapõhimõtetest, mis sätestatakse käesoleva resolutsiooni lisas esitatud määruse ettepanekus; arvestades, et selle loomisel tuleks järgida parema õigusloome suuniseid;

    J. arvestades, et liidus on olemas range õigusraamistik, mis peab tagama muu hulgas isikuandmete ja eraelu puutumatuse kaitse ja mittediskrimineerimise ning edendama soolist võrdõiguslikkust, keskkonnakaitset ja tarbijate õigusi; arvestades, et sellist õigusraamistikku, mis koosneb ulatuslikust horisontaalsete ja valdkondlike õigusaktide kogumist (sh kehtivad tooteohutuse ja vastutuse eeskirjad), kohaldatakse jätkuvalt tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes, kuigi konkreetseid õigusakte võib olla vaja mõneti kohandada, et kajastada üleminekut digitehnoloogiale ja tegeleda tehisintellekti kasutamisest tulenevate uute probleemidega;

    K. arvestades, et on väljendatud muret, et praegune ELi õigusraamistik, sealhulgas tarbija-, töö- ja sotsiaalõigustik, andmekaitset, tooteohutust ja turujärelevalvet käsitlevad õigusaktid ning diskrimineerimisvastased õigusaktid, ei pruugi enam alati olla tehisintellektist, robotitehnoloogiast ja seonduvast tehnoloogiast tulenevate riskide tulemuslikuks ohjamiseks otstarbekohane;

    L. arvestades, et lisaks kehtivate õigusaktide kohandamisele tuleks tehisintellektitehnoloogiatega seotud õiguslikke ja eetilisi küsimusi käsitleda tulemusliku, tervikliku ja tulevikukindla liidu õigusraamistiku kaudu, mis kajastab aluslepingutes ja põhiõiguste hartas sätestatud liidu põhimõtteid ja väärtusi ning milles tuleks hoiduda ülereguleerimisest, kõrvaldada üksnes senised õiguslikud lüngad ja suurendada õiguskindlust nii ettevõtjate kui ka kodanike jaoks, eelkõige lisades kohustuslikud meetmed, et vältida tavasid, mis kindlasti kahjustaksid põhiõigusi;

    M. arvestades, et igasuguses õigusraamistikus tuleb võtta arvesse kõiki kaalul olevaid huve; arvestades, et edasiste seadusandlike sammude eeltingimusena tuleks hoolikalt uurida, kuidas mis tahes uus õigusraamistik kõiki mõju hindamises osalejaid mõjutab; arvestades, et idufirmade ning väikeste ja keskmise suurusega ettevõtete (VKEd) keskne tähtsus, eriti Euroopa majanduses, õigustab rangelt proportsionaalset lähenemisviisi, mis võimaldab neil areneda ja uuendusi teha;

     

    N. arvestades, et tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia võivad avaldada tõsist mõju üksikisikute, rühmade ja kogu ühiskonna materiaalsele ja immateriaalsele puutumatusele ning see võimalik individuaalne ja kollektiivne kahju peab kajastuma seadusandlikes lahendustes;

    O. arvestades, et tehisintellekti käsitleva liidu õigusraamistiku järgimiseks võib olla vaja võtta vastu erieeskirjad liidu transpordisektori jaoks;

    P. arvestades, et tehisintellektitehnoloogiad on transpordisektori jaoks strateegilise tähtsusega, ka seetõttu, et need parandavad kõigi transpordiliikide ohutust ja kättesaadavust ning loovad uusi töövõimalusi ja kestlikumaid ärimudeleid; arvestades, et liidu lähenemisviis tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisele transpordis võib suurendada liidu majanduse ülemaailmset konkurentsivõimet ja strateegilist autonoomiat;

    Q. arvestades, et kõigist liidu teedel toimuvatest liiklusõnnetustest on ligi 95 % ikka veel seotud inimliku eksimusega; arvestades, et liidu eesmärk oli vähendada 2020. aastaks liiklussurmade arvu liidus 50 % võrra võrreldes 2010. aastaga, kuid edasimineku aeglust arvestades tõhustas liit sellesuunalist tegevust oma liiklusohutuspoliitika raamistikus aastateks 2021–2030, kavandades edasised sammud liiklussurmade nulltasemele lähenemiseks; arvestades, et tehisintellektil, automatiseerimisel ja teistel uutel tehnoloogiatel on liiklusohutuse suurendamise seisukohalt suur potentsiaal ja eluline tähtsus, kuna need vähendavad inimliku eksimuse võimalusi;

    R. arvestades, et liidu tehisintellekti õigusraamistikus peaks kajastuma ka vajadus tagada töötajate õiguste austamine; arvestades vajadust järgida 2020. aasta juunis sõlmitud Euroopa sotsiaalpartnerite raamlepingut digiülemineku kohta;

    S. arvestades, et liidu tehisintellekti õigusraamistiku kohaldamisala peaks olema piisav, proportsionaalne ja läbima põhjaliku hindamise; arvestades, et see peaks hõlmama suurt hulka tehnoloogiaid ja nende komponente, sealhulgas nende kasutatavaid või toodetavaid algoritme, tarkvara ja andmeid, ning et vaja on sihipärast riskipõhist käsitlust, et mitte takistada edasist innovatsiooni ja vältida tarbetut koormust, eriti VKEde jaoks; arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia rakenduste mitmekesisus raskendab kõigi eri riskide jaoks sobiva ühe lahenduse leidmist;

    T. arvestades, et tehisintellekt ja andmeanalüüs mõjutavad kodanikele kättesaadavaks tehtavat teavet järjest rohkem; arvestades, et kui selliseid tehnoloogiaid valesti kasutatakse, võib see ohustada teabe- ja väljendusvabadust ning meedia vabadust ja mitmekesisust;

    U. arvestades, et liidu tehisintellekti õigusraamistiku geograafiline kohaldamisala peaks hõlmama kõiki tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia komponente, mida liidus arendatakse, juurutatakse või kasutatakse, sealhulgas juhtudel, kui osa tehnoloogiast võib asuda väljaspool liitu või kui sellel ei ole kindlat asukohta;

    V. arvestades, et liidu tehisintellekti õigusraamistik peaks hõlmama kõiki asjaomaseid etappe ehk siis asjaomaste tehnoloogiate ja nende komponentide arendamist, juurutamist ja kasutamist, selles tuleks nõuda vajalikku tähelepanu asjaomastele õiguslikele kohustustele ja eetikapõhimõtetele ning kehtestada tingimused, mis tagaksid, et arendajad, juurutajad ja kasutajad neid kohustusi ja põhimõtteid täielikult järgivad;

    W. arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud eetikapõhimõtete ühtlustatud käsitlus eeldab, et liidus saadakse ühtemoodi aru nende tehnoloogiate sellistest aluskontseptsioonidest nagu algoritmid, tarkvara, andmed ja biomeetria;

    X. arvestades, et liidu tasandi meetmed on õigustud, kuna tuleb vältida õiguslikku killustatust või erinevaid riiklikke õigusnorme, mille puudub ühine nimetaja, ning tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel tuleb tagada õiguslikult sätestatud ühiste eetikapõhimõtete ühetaoline kohaldamine; arvestades, et oluliste riskide korral on vaja selgeid eeskirju;

    Y. arvestades, et ühised eetikapõhimõtted on tõhusad ainult siis, kui need sätestatakse ka õigusaktides ning kui määratakse kindlaks, kes vastutavad nõuetele vastavuse tagamise, hindamise ja järelevalve eest;

    Z. arvestades, et eetikasuunised, näiteks kõrgetasemelise tehisintellekti eksperdirühma vastu võetud põhimõtted, on hea lähtepunkt, kuid üksnes nende abil ei saa tagada, et arendajad, juurutajad ja kasutajad käituvad ausalt ja tagavad üksikisikute mõjusa kaitse; arvestades, et sellised suunised on eriti asjakohased suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia puhul;

    AA. arvestades, et iga liikmesriik peaks määrama riikliku järelevalveasutuse, kes peab vastutama tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise liidu tehisintellekti õigusraamistiku nõuetele vastavuse tagamise, hindamise ja järelevalve eest; lisaks peaks järelevalveasutus tihedas koostöös asjaomaste sidusrühmade ja kodanikuühiskonnaga võimaldama arutelusid ja arvamuste vahetust; arvestades, et riiklikud järelevalveasutused peaksid tegema koostööd;

    AB. arvestades, et kogu liidus ühtse käsitluse ja digitaalse ühtse turu optimaalse toimimise tagamiseks tuleks hinnata liidu tasandil toimuvat koordineerimist, mida teostab komisjon ja/või selleks määrata võidav liidu institutsioon, organ, amet või asutus, uute probleemide ja võimaluste seisukohast, eriti kui need on piiriülese iseloomuga ja tulenevad jätkuvast tehnoloogia arengust; arvestades, et selleks tuleks komisjonile teha ülesandeks leida sobiv lahendus, kuidas sellist liidu tasandil toimuvat koordineerimist struktureerida;

    Inimkeskne ja inimese loodud tehisintellekt

    1. on seisukohal, et kogu liidus võrdsete standardite kehtestamiseks ja liidu väärtuste tulemuslikuks kaitsmiseks, ilma et see piiraks valdkondlike õigusaktide kohaldamist, on vaja tõhusat ja ühtlustatud õigusraamistikku, mis põhineb liidu õigusel, Euroopa Liidu põhiõiguste hartal (edaspidi „harta“) ja rahvusvahelisel inimõigustealasel õigusel ning mida kohaldatakse eelkõige suure riskiga tehnoloogiate suhtes;

    2. on veendunud, et igasugune uus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamisega seotud kohustuste ja eetikapõhimõtete õigusraamistik peab täielikult järgima põhiõiguste hartat ning seetõttu austama üksikisiku inimväärikust, autonoomiat ja enesemääramist, vältima kahjustamist, edendama õiglust, kaasamist ja läbipaistvust, välistama (ka vähemusrühmade suhtes) kallutatuse ja diskrimineerimise ning tunnistama ja järgima järgmisi põhimõtteid: kasutatava tehnoloogia kahjulike välismõjude piiramine, tehnoloogiate selgitatavuse tagamine, et tehnoloogia teeniks inimesi, mitte ei asendaks neid ega otsustaks nende eest, kusjuures lõppeesmärk on iga üksiku inimese heaolu kasv;

    3. juhib tähelepanu tehisintellektitehnoloogia kasutajate ning sellega suhtlejate ja selle objektide vahelisele asümmeetriale; sellega seoses rõhutab, et kodanike usaldus tehisintellekti vastu saab rajaneda üksnes nn vaikimisi ja lõimitud eetikapõhimõtete õigusraamistikul, mis tagab, et igasuguse kasutusele võetud tehisintellekti puhul tunnustatakse ja järgitakse täielikult aluslepinguid, põhiõiguste hartat ja liidu teisest õigust; on seisukohal, et sellisele käsitlusele tuginemine peaks olema kooskõlas ettevaatuspõhimõttega, millest juhindutakse ELi õigusaktides ning mis peaks olema tehisintellekti mis tahes raamistiku keskmes; nõuab sellega seoses selget ja sidusat juhtimismudelit, mis võimaldaks ettevõtjatel ja innovaatoritel tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat edasi arendada;

    4. on veendunud, et igasugused tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud õiguslikud meetmed peaksid olema kooskõlas vajalikkuse ja proportsionaalsuse põhimõtetega;

    5.  on seisukohal, et selline käsitlus võimaldab ettevõtetel tuua turule innovaatilisi tooteid ja luua uusi võimalusi, tagades samal ajal liidu väärtuste kaitse ning arendades liidu eetikapõhimõtteid järgivaid tehisintellektisüsteeme; on seisukohal, et väärtustel põhinev ELi õigusraamistik oleks lisaväärtus, mis annaks liidule ainulaadse konkurentsieelise ning tänu siseturu edendamisele suurendaks oluliselt liidu kodanike ja ettevõtete jõukust ja heaolu; toonitab, et selline tehisintellekti eetikaraamistik kujutab endast ka lisaväärtust seoses innovatsiooni edendamisega siseturul; on veendunud, et näiteks transpordisektoris võimaldab selline käsitlus liidu ettevõtetel hõivata ülemaailmse liidripositsiooni;

    6. märgib, et liidu õigusraamistikku tuleks kohaldada tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete suhtes;

    7. märgib, et tehisintellektist, robotitehnoloogiast ja seonduvast tehnoloogiast tulenevate võimaluste aluseks on nn suurandmed, ning algoritmide kasutamise harjutamiseks ja tulemuste täpsustamiseks on vaja andmete kriitilist massi; väljendab sellega seoses heameelt komisjoni ettepaneku üle luua ELis ühtne andmeruum andmevahetuse tõhustamiseks ja teadusuuringute toetamiseks, järgides sealjuures täielikult Euroopa andmekaitse-eeskirju;

    8. on seisukohal, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes tuleb täielikult kohaldada kehtivat liidu õigusraamistikku, eelkõige seda, mis käsitleb kaitset, eraelu puutumatust ja isikuandmeid, mida tuleb korrapäraselt läbi vaadata ja kontrollida ja vajaduse korral ajakohastada, et tulemuslikult maandada neist tehnoloogiatest tulenevaid riske, ning siin võiks kasu olla selle täiendamisest rangete eetiliste juhtpõhimõtetega; juhib tähelepanu sellele, et seal, kus õigusaktide vastuvõtmine oleks enneaegne, tuleks kasutada mittesiduvat õigusraamistikku;

    9. ootab, et komisjon tehisintellekti, sealhulgas ohutust, vastutust ja põhiõigusi käsitleva valge raamatu järelmeetmena lõimiks käesoleva resolutsiooni lisas esitatud seadusandlikku ettepanekusse jõulise eetikakäsitluse, mis hõlmaks muu hulgas ohutuse, vastutuse ja põhiõiguste temaatikat, suurendaks tehisintellektitehnoloogiate võimalusi ja vähendaks nendega seotud riske; ootab, et taotletav seadusandlik ettepanek sisaldaks tehisintellekti peamiste tuntud riskide poliitilisi lahendusi, muu hulgas suurandmete eetilise kogumise ja kasutamise ning algoritmide läbipaistvuse ja nende kallutatuse küsimustes; kutsub komisjoni üles välja töötama tehisintellektitehnoloogia märgistamise kriteeriumid ja näidikud, et stimuleerida läbipaistvust, selgitatavust ja vastutust ning ergutada arendajaid rakendama täiendavaid ettevaatusabinõusid; rõhutab vajadust lõimida tehisintellektialasesse teadus- ja uurimistegevusse sotsiaalset konteksti käsitlevad tehnikavälised valdkonnad;

    10. on seisukohal, et tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat tuleb kujundada vastavalt inimeste vajadustele ning põhimõttele, et nende arendamine, juurutamine ja kasutamine peavad alati teenima inimesi ja mitte vastupidi, nendega peaks alati püüdma suurendada heaolu ja isikuvabadust, hoida rahu, tugevdada rahvusvahelist julgeolekut ja vältida konflikte, ning ühtlasi tuleks maksimeerida neist saadavat kasu ja vähendada neist tulenevaid riske;

    11. kinnitab, et suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel, sealhulgas, kuid mitte ainult inimeste poolt, tuleks alati lähtuda eetikast ning see tuleb kavandada nii, et austataks inimese toimevõimet ja demokraatlikku kontrolli ning sobivate kontrollimeetmete rakendamisega saaks igal ajal inimkontrolli taastada;

    Riskihindamine

    12. rõhutab, et igasuguses tulevases määruses tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia reguleerimisel järgida riskipõhist ja tulevikusuunitlusega käsitlust, sealhulgas valdkonnaüleseid tehnoloogianeutraalseid standardeid ja vajaduse korral valdkonnapõhiseid standardeid; märgib, et riskihindamise süsteemi ühtse rakendamise tagamiseks ja sellega seotud õiguslike kohustuste täitmiseks, et tagada liikmesriikidele võrdsed tingimused ja vältida siseturu killustumist, on vaja ammendavat ja kumulatiivset loetelu suure riskiga sektoritest ja suure riskiga kasutusaladest või eesmärkidest; rõhutab, et sellist loetelu tuleb korrapäraselt uuesti hinnata, ning märgib, et nende tehnoloogiate arengut arvestades võib tulevikus olla vaja nende riske uuesti hinnata;

    13. on seisukohal, et selle otsustamine, kas omistada tehisintellektile, robotitehnoloogiale ja seonduvale tehnoloogiale kõrge riskitase ning sellest tulenevalt allutada need tehisintellekti õigusraamistikus sätestatud õiguslikele kohustustele ja eetikapõhimõtetele, peaks alati tulenema erapooletust, reguleeritud ja väljaspoolsest eelhinnangust, mis põhineb kindlatel ja määratletud kriteeriumidel;

    14. on sellega seoses seisukohal, et tehisintellektile, robotitehnoloogiale ja seonduvale tehnoloogiale tuleks omistada kõrge riskitase, kui selle arendamise, juurutamise ja kasutamisega kaasneb märkimisväärne oht kahjustada üksikisikuid või ühiskonda, millega rikutaks liidu õiguses sätestatud põhiõigusi ja ohutuseeskirju; on seisukohal, et selle hindamiseks, kas tehisintellektitehnoloogiaga kaasneb niisugune risk, tuleks hinnata, millises sektoris ja millisel konkreetsel viisil või eesmärgil seda arendatakse, juurutatakse või kasutatakse ning kui tõsine on eeldatav kahju; esimest ja teist kriteeriumit (sektorit ning kasutusviisi või -eesmärki) tuleks hinnata kumulatiivselt;

    15. toonitab, et nende tehnoloogiate riskide hindamisel tuleks lähtuda kõrge riskitasemega sektorite ning kõrge riskitasemega kasutusviiside ja -eesmärkide ammendavast ja kumulatiivsest loendist; on kindlalt veendunud, et nende tehnoloogiate riskianalüüs peaks liidu piires olema sidus, eriti juhul, kui hinnatakse nii nende kooskõla tehisintellekti õigusraamistikuga kui ka kooskõla mis tahes muude kohaldatavate valdkondlike õigusaktidega;

    16. on seisukohal, et selline riskipõhine käsitlus tuleks kujundada nii, et olemasolevate vahendite abil võimalikult piirataks ettevõtjate ja eelkõige VKEde halduskoormust; nimetatud vahendid hõlmavad muu hulgas määruses (EL) 2016/679 sätestatud isikuandmete kaitsele avaldatava mõju hindamise loendit;

    Ohutusstandardid, läbipaistvus ja aruandekohustus

    17. tuletab meelde, et tarbijate õigus saada teavet on üks liidu õiguse peamisi põhimõtteid, mistõttu seda tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia puhul täielikult rakendada; on seisukohal, et see peaks eelkõige hõlmama läbipaistvust – läbipaistvust seoses tehisintellektisüsteemidega, sealhulgas automatiseerimisprotsessidega ilmneva koostoimega ning seoses nende süsteemide toimimisviisi, võimete (näiteks teabe filtreerimise ja esitamise viisi), täpsuse ja piirangutega; on seisukohal, et selline teave tuleks esitada riiklikele järelevalveasutustele ja tarbijakaitseasutustele;

    18. rõhutab, et tarbijate usaldus on hädavajalik siin käsitletavate tehnoloogiate väljatöötamiseks ja rakendamiseks, kuna nendega võivad kaasneda olemuslikud riskid, kui need põhinevad läbipaistmatutel algoritmidel ja kallutatud andmekogumitel; on seisukohal, et tarbijatel peaks olema õigus saada arusaadaval, õigeaegsel, standarditud, täpsel ja kättesaadaval viisil piisavat teavet algoritmiliste süsteemide olemasolust, põhjendustest, võimalikest tulemustest ja mõjust tarbijatele, sellest, kuidas jõuda otsustusõigusega inimeseni ning kuidas süsteemi otsuseid saaks kontrollida, sisuliselt vaidlustada ja parandada; sellega seoses toonitab vajadust silmas pidada ja järgida teavitamise ja avalikustamise põhimõtteid, millele tarbijaõigustik tugineb; peab vajalikuks anda lõppkasutajatele üksikasjalikku teavet transpordisüsteemide ja tehisintellektitoega sõidukite toimimise kohta;

    19. märgib, kui oluline on, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutatavad või nende toodetud algoritmid ja andmekogumid oleksid selgitatavad ning avalikele asutustele, näiteks riiklikele järelevalveasutustele ja turujärelevalveasutustele kättesaadavad (kättesaadavad vaid vältimatu vajaduse korral ning andmekaitset, eraelu puutumatust, intellektuaalomandi õigusi ja ärisaladusi reguleerivaid liidu õigusakte täielikult järgides); märgib lisaks, et võimalikest kõige rangemate ja kohaldatavate valdkondlike standardite kohaselt peaksid dokumentatsiooni säilitama suure riskiga tehnoloogiate arendamise eri etappides osalejad; viitab võimalusele, et turujärelevalveasutustele antakse sellega seoses täiendavaid õigusi; rõhutab sellega seoses seadusliku pöördprojekteerimise tähtsust; on seisukohal, et võibolla tuleb kehtivad turujärelevalvet käsitlevad õigusaktid läbi vaadata, et tagada nende eetiline vastavus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia esilekerkimisele;

    20. märgib, et kui riskianalüüsist nii järeldub, peaksid suure riskiga tehnoloogia arendajad ja juurutajad esitama avaliku sektori asutustele kõnealuse tehnoloogia kasutamist ja kavandamist käsitlevad dokumendid ja ohutusjuhendid, sealhulgas (kui see on vältimatult vajalik ja täielikult kooskõlas andmekaitset, eraelu puutumatust, intellektuaalomandi õigusi ja ärisaladusi käsitlevate liidu õigusaktidega) süsteemis kasutatava lähtekoodi, arendusvahendid ja andmed, märgib, et selline kohustus võimaldaks hinnata, kuidas nad järgivad liidu õigust ja eetikapõhimõtteid, ning võtab sellega seoses eeskujuks väljaannete seaduspärase talletamise rahvusraamatukogus; rõhutab, kui oluline on eristada algoritmide läbipaistvust ja algoritmide kasutamise läbipaistvust;

    21. märgib lisaks, et inimväärikuse, autonoomia ja ohutuse huvides tuleks piisavalt tähtsustada elutähtsaid ja kõrgtehnoloogilisi meditsiiniseadmeid ning vajadust, et sõltumatud ja usaldusväärsed asutused säilitaksid neid seadmeid kandvate isikute teenindamiseks vajalikud vahendid juhuks, kui algne arendaja või juurutaja neid enam ei teeninda; sellised teenused oleksid näiteks toimimisvigade ja ohtude kõrvaldamiseks vajalik hooldus, remont ja täiustused, sh tarkvarauuendused;

    22. väidab, et suure riskiga tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavat või sellega toodetavat tarkvara, algoritme ja andmeid sõltumata sellest, mis valdkonnas neid arendatakse, juurutatakse või kasutatakse, tuleks lõimitult arendada turvalisel, jälgitaval, tehniliselt kindlal, usaldusväärsel, eetilisel ja õiguslikult siduval viisil ning allutada sõltumatule kontrollile ja järelevalvele; on eelkõige seisukohal, et kõik tehisintellekti toodete ja teenuste arendus- ja tarneahelates osalejad peaksid olema õiguslikult vastutavad, ning rõhutab vastutust ja aruandekohustust tagavate mehhanismide vajalikkust;

    23. toonitab, et selgitatavust, auditeeritavust, jälgitavust ja läbipaistvust käsitlev määrus ja suunised ning (kui seda nõuab riskianalüüs, kui see on vältimatult vajalik ja toimub täies kooskõlas liidu õigusega, näiteks andmekaitset, eraelu puutumatust, intellektuaalomandi õigusi ja ärisaladusi käsitleva õigusega) avaliku sektori asutuste juurdepääs sellise tehnoloogia aluseks olevale tehnoloogiale, andmetele ja andmetöötlussüsteemidele on väga tähtis, et tagada kodanike usaldus nende tehnoloogiate vastu, isegi kui selgitatavuse määr on pöördvõrdelises seoses tehnoloogiate keerukusega; juhib tähelepanu sellele, et vahel (näiteks nn musta kasti algoritmide korral) ei ole võimalik selgitada, miks mingi mudel on viinud teatava tulemuse või otsuseni; on seepärast seisukohal, et siin käsitletud põhimõtete järgimine on vastutuse tagamise eeltingimus;

    24. on seisukohal, et kui kodanikud suhtlevad süsteemiga, milles tehisintellekti toel eelkõige toode või teenus kasutaja jaoks isikupärastatakse, tuleb neile teatada, kas ja kuidas nad saavad isikupärastamist välistada või piirata;

    25. sellega seoses märgib, et tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat saab usaldada siis, kui see on tehniliselt kindel ja täpne;

    26. rõhutab, et ühendatud tehisintellekti ja robotitehnoloogia võrkude kaitse on tähtis ning tuleb võtta jõulisi meetmeid, et vältida turvarikkumisi, andmelekkeid, andmete rikkumist (data poisoning) küberrünnakuid ja isikuandmete väärkasutamist ning selleks peavad asjaomased asutused, organid ja institutsioonid nii Euroopa kui ka riikide tasandil tegema koostööd omavahel ja nende tehnoloogiate lõppkasutajatega; kutsub komisjoni ja liikmesriike üles tagama, et liidu digitaalse taristu turvalisuse ja vastupidavuse tagamiseks järgitaks tehisintellektitehnoloogia arendamisel ja juurutamisel alati liidu väärtusi ja austataks põhiõigusi;

    Kallutatuse vältimine ja mittediskrimineerimine

    27. tuletab meelde, et sõltuvalt tehisintellekti arendamise ja kasutamise viisist võib see põhjustada ja süvendada kallutatust, sealhulgas alusandmekogumitele olemuslikult omase kallutatuse tõttu, ning seetõttu põhjustada mitmesugust automaatset diskrimineerimist, muu hulgas eelkõige sarnaste omadustega inimrühmade kaudset diskrimineerimist; kutsub komisjoni ja liikmesriike üles igal võimalikul moel sellist kallutatust vältima ja tagama põhiõiguste täieliku kaitse;

    28. väljendab muret selle pärast, et suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatava või sellega toodetava tarkvara, algoritmide ja andmete arendamisel, juurutamisel ja kasutamisel valitseb kallutatuse ja diskrimineerimise oht; tuletab meelde, et kõigil juhtudel tuleb järgida liidu õigust, austada inimõigusi ja üksikisiku inimväärikust, autonoomiat ja enesemääramisõigust ning tagada kõigile võrdne kohtlemine ja mittediskrimineerimine;

    29. rõhutab, et tehisintellektitehnoloogiad tuleks kavandada nii, et need järgiksid, teeniksid ja kaitseksid liidu väärtusi ning inimeste füüsilist ja vaimset puutumatust, toetaksid liidu kultuurilist ja keelelist mitmekesisust ning aitaksid rahuldada põhivajadusi; rõhutab vajadust vältida iga sellist kasutamist, mis võiks viia lubamatu otsese või kaudse sunnini, kahjustada psühholoogilist autonoomiat ja vaimset tervist või tuua kaasa põhjendamatu jälgimise, pettuse või lubamatu manipuleerimise;

    30. on kindlalt veendunud, et hartas sätestatud põhilisi inimõigusi tuleb rangelt järgida, tagamaks, et kõnealused kujunemisjärgus tehnoloogiad ei tekita kaitsealaseid tühikuid;

    31. kinnitab, et tarkvara, algoritmide ja andmete võimalik kallutatus ja nende põhjustatav diskrimineerimine võib ilmselgelt üksikisikuid ja ühiskonda kahjustada, mistõttu tuleks soodustada seda tõkestavate strateegiate (nt kallutatust vähendavad andmekogud uurimis- ja arendustegevuses) väljatöötamist ja jagamist ning koostada andmetöötluseeskirjad; on seisukohal, et teatavates olukordades võib selline käsitlus muuta tarkvara, algoritmid ja andmed kallutatuse ja diskrimineerimise tõkestamise vahendiks ning võrdseid õigusi ja positiivseid ühiskondlikke muutusi toetavaks jõuks;

    32. väidab, et selliste tehnoloogiate aluseks peaksid olema õigluse, täpsuse, konfidentsiaalsuse ja läbipaistvuse eetilised väärtused, mis selles kontekstis tähendab, et süsteemide käitamine ei tohiks tekitada kallutatud väljundeid;

    33. toonitab, kontekstist sõltuvalt, tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavate andmekogumite kvaliteedi ja eelkõige treenimisandmete representatiivsuse tähtsust andmekogumite ja algoritmide kallutatuse vähendamise, kasutatavate algoritmide ning andme- ja agregeerimisstandardite seisukohalt; rõhutab, et kõnealused andmekogumid peaksid olema vastava taotluse korral igal ajal riiklike järelevalveasutuste poolt auditeeritavad, et tagada nende vastavus eelnimetatud põhimõtetele;

    34. rõhutab, et ulatusliku väärinfosõja raames, mida peavad eelkõige Euroopa-välised osalejad, võivad tehisintellektitehnoloogiad avaldada eetiliselt kahjulikku mõju, kui kasutatakse ära andmete ja algoritmide kallutatust või muudetakse teadlikult kolmanda riigi masinõppeandmeid, ning neid võidakse ka muul ohtlikul ja kuritahtlikul moel ettenähtamatul viisil ja ettearvamatute tagajärgedega manipuleerida; seetõttu on liidul järjest enam vaja jätkuvalt investeerida teadusuuringutesse, analüüsi, innovatsiooni ning piiriülesesse ja valdkondadevahelisse teadmussiirdesse, et arendada tehisintellekti tehnoloogiaid, milles selgelt puuduks mis tahes profiilianalüüs, kallutatus ja diskrimineerimine ning mis võiksid aidata võltsuudiseid ja väärinfot tulemuslikult tõkestada, järgides seejuures isikuandmete puutumatuse ja Euroopa õigusraamistiku nõudeid;

    35. tuletab meelde, kui tähtis on tagada üksikisikutele mõjusate õiguskaitsevahendite kättesaadavus, ning kutsub liikmesriike üles tagama kättesaadavad, taskukohased, sõltumatud ja tulemuslikud menetlused ja läbivaatamismehhanismid, tagamaks et inimene vaatab erapooletult läbi kõik kaebused, mis puudutavad kodanike õiguste, näiteks tarbija- või kodanikuõiguste rikkumist algoritmipõhiste süsteemide kasutamise tõttu kas avaliku või erasektori osalejate poolt; rõhutab, kui tähtis on Euroopa Parlamendi ja nõukogu direktiivi eelnõu (selle osas jõuti 22. juunil 2020 poliitilisele kokkuleppele), mis käsitleb tarbijate kollektiivsete huvide kaitsmise esindushagisid ja millega tunnistatakse kehtetuks direktiiv 2009/22/EÜ, selliste tulevaste juhtude jaoks, mil vaidlustatakse tarbijate õiguste rikkumisi põhjustada võiva tehisintellektisüsteemi kasutuselevõtmine või jätkuv kasutamine või nõutakse õiguste rikkumise heastamist; palub komisjonil ja liikmesriikidel tagada, et riikide ja liidu tasandi tarbijaorganisatsioonidel oleks piisavalt rahalisi vahendeid, et aidata tarbijatel kasutada oma õigust õiguskaitsele juhtudel, kus nende õigusi on rikutud;

    36. on seepärast seisukohal, et igal füüsilisel või juriidilisel isikul peaks olema võimalik taotleda hüvitist talle kahjuliku ja liidu või liikmesriigi õigusega vastuolus oleva otsuse eest, mille on teinud tehisintellekt, robotitehnoloogia või seonduv tehnoloogia;

    37 on seisukohal, et juhul, kui siinses kontekstis kahtlustatakse liidu õigusraamistiku rikkumist, siis võiks selle raamistiku tulemusliku jõustamise tagamiseks võimaldada tarbijatel hüvitise taotlemiseks kõigepealt pöörduda ka riiklike järelevalveasutuste poole;

    Sotsiaalne vastutus ja sooline tasakaal

    38. toonitab, et sotsiaalselt vastutustundlikul tehisintellektil, robotitehnoloogial ja seonduval tehnoloogial on oma osa ka lahenduste leidmisel, mis kaitsevad ja edendavad meie ühiskonna selliseid põhiõigusi ja väärtusi nagu demokraatia, õigusriigi põhimõte, mitmekesine ja sõltumatu meedia ning objektiivne ja vabalt kättesaadav teave, tervis ja jõukus, võrdsed võimalused, töötajate ja sotsiaalsed õigused, kvaliteetne haridus, lastekaitse, kultuuriline ja keeleline mitmekesisus, sooline tasakaal, digikirjaoskus, innovatsioon ja loovus; tuletab meelde vajadust tagada kõigi kodanike, ka tõrjutute või haavatavas olukorras olijate, näiteks puuetega inimeste huvide piisav arvessevõtmine ja esindatus;

    39. rõhutab, kui oluline on saavutada üldise digikirjaoskuse kõrge tase, koolitada selle valdkonna kvalifitseeritud spetsialiste ning tagada kogu liidu piires selliste kvalifikatsioonide vastastikune tunnustamine; rõhutab vajadust arendajatest ja inseneridest koosnevate mitmekesiste meeskondade järele, kes töötavad koos peamiste ühiskondlike osalejatega, et vältida sooliste ja kultuuriliste eelarvamuste tahtmatut ülekandumist tehisintellekti algoritmidesse, süsteemidesse ja rakendustesse; toetab õppekavade loomist ja tegevusi üldsuse teadlikkuse suurendamiseks tehisintellekti ühiskondliku, õigusliku ja eetilise mõju kohta;

    40. rõhutab mõtte- ja väljendusvabaduse tagamise elulist tähtsust, kuna nendega tagatakse, et antud tehnoloogiatega ei edendata vihakõnet ega vägivalda, ning peab seega digitaalse väljendusvabaduse takistamist või piiramist liidu aluspõhimõtete kohaselt ebaseaduslikuks, välja arvatud juhul, kui seda põhiõigust kasutatakse ebaseaduslike tegude sooritamiseks;

    41. rõhutab, et tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia võivad aidata vähendada sotsiaalset ebavõrdsust, ning kinnitab, et nende arendamise Euroopa mudel peab põhinema kodanike usaldusel ja suuremal sotsiaalsel ühtekuuluvusel;

    42. rõhutab, et ühegi tehisintellektisüsteemi juurutamine ei tohiks asjatult piirata kasutajate juurdepääsu avalikele teenustele, näiteks sotsiaalkindlustusele; palub seetõttu komisjonil hinnata, kuidas seda eesmärki saavutada;

    43. rõhutab, kui oluline on vastutustundlik teadus- ja arendustegevus, mille eesmärk on maksimeerida tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia täielikku potentsiaali kodanike ja üldsuse huvides; nõuab liidu ja liikmesriikide vahendite mobiliseerimist vastutustundliku innovatsiooni toetamiseks ja arendamiseks;

    44. rõhutab, et tehnoloogilised teadmised muutuvad üha olulisemaks ning seetõttu on vaja pidevalt ajakohastada koolituskursusi, eelkõige tulevaste põlvkondade jaoks, ning edendada juba tööturul olevate inimeste kutsealast ümberõpet; väidab sellega seoses, et innovatsiooni ja koolitust tuleb edendada lisaks erasektorile ka avalikus sektoris;

    45. rõhutab, et kõnealuste tehnoloogiate arendamine, juurutamine ja kasutamine ei tohiks mingil viisil kahjustada üksikisikuid, ühiskonda ega keskkonda ning et seetõttu tuleks nende arendajad, juurutajad ja kasutajad vastavalt kehtivatele liidu ja liikmesriikide vastutuseeskirjadele sellise kahju tekitamise eest vastutusele võtta;

    46. kutsub liikmesriike üles hindama, kas nende tehnoloogiate kasutuselevõtust tulenev töökohtade kadumine peaks tingima asjakohast avalikku poliitikat, näiteks tööaja lühendamist;

    47. väidab, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia laialdase ühiskondliku aktsepteerimise jaoks tingimuste loomiseks on hädavajalik liidu väärtustest ja eetikapõhimõtetest lähtuv disainikäsitlus; on seisukohal, et selline usaldusväärse, eetiliselt vastutustundliku ja tehniliselt töökindla tehisintellekti arendamisele suunatud käsitlus võimaldab olulisel määral saavutada kestlikku ja arukat liikuvust, mis on ohutu ja kättesaadav;

    48. juhib tähelepanu autonoomsete sõidukite suurele lisaväärtusele piiratud liikumisvõimega isikute jaoks, kuna sellised sõidukid võimaldavad neil kui üksikisikutel osaleda tõhusamalt maanteeliikluses ja lihtsustavad seeläbi nende igapäevaelu; rõhutab kättesaadavuse tähtsust, eriti „liikuvus kui teenus“ (Mobility as a Service, MaaS) tüüpi süsteemide kavandamisel;

    49. kutsub komisjoni üles jätkuvalt toetama usaldusväärsete tehisintellektisüsteemide arendamist, et muuta transport ohutumaks, tõhusamaks, kättesaadavamaks, taskukohasemaks ja kaasavamaks, sealhulgas piiratud liikumisvõimega ja eelkõige puuetega inimeste jaoks, võttes arvesse Euroopa Parlamendi ja nõukogu direktiivi (EL) 2019/882 ning reisijate õigusi käsitlevaid liidu õigusakte;

    50. on seisukohal, et tehisintellekt võib aidata paremini ära kasutada puuetega inimeste oskusi ja pädevusi ning et tehisintellekti rakendamine töökohtadel võib toetada kaasavat tööturgu ja puuetega inimeste kõrgemat tööhõivemäära;

    Keskkond ja kestlikkus

    51. väidab, et valitsused ja ettevõtjad peaksid püüdma tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia abil inimestele ja meie planeedile kasu tuua ning aitama saavutada kestliku arengu, keskkonnakaitse, kliimaneutraalsuse ja ringmajanduse eesmärke; nende tehnoloogiate arendamine, juurutamine ja kasutamine peaks toetama rohepööret, aitama kaitsta keskkonda ning (kooskõlas liidu õigusega) minimeerida ja heastada nende olelusringi jooksul ja kogu tarneahela ulatuses keskkonnale tekitatavat kahju;

    52. nende tehnoloogiate suurt keskkonnamõju arvestades peaksid valdkondlikud asutused eelmise punkti kohaldamisel vajaduse korral hindama tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise mõju kogu olelusringi kestel; hindamine võiks hõlmata nende valmistamiseks vajaliku toorme tootmise ning nende arendamisest, juurutamisest ja kasutamisest tingitud energiakulu ja kasvuhoonegaaside heite hinnangulist mõju;

    53. teeb ettepaneku, et vastutustundlike ja kõige eesrindlikumate tehisintellektilahenduste väljatöötamiseks tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia potentsiaali uurida, stimuleerida ja maksimeerida vastutustundliku teadus- ja arendustegevusega, mis eeldab liidu ja liikmesriikide ressursside mobiliseerimist;

    54. juhib tähelepanu asjaolule, et nende tehnoloogiate arendamine, juurutamine ja kasutamine võimaldab edendada ÜRO kestliku arengu eesmärke, ülemaailmset energiapööret ja CO2-heite kaotamist;

    55. on seisukohal, et sotsiaalse vastutuse, soolise tasakaalu, keskkonnakaitse ja kestlikkuse eesmärgid ei tohiks piirata nendes valdkondades praegu kehtivaid üldisi ja valdkondlikke kohustusi; on veendunud vajaduses kehtestada (eeskätt kõrge riskiastmega tehnoloogiate) arendajatele, juurutajatele ja kasutajatele mittesiduvad rakendamissuunised, milles võetaks arvesse metoodikat selle hindamiseks, kuidas nad käesoleva määruse nõudeid ja eesmärke täidavad;

    56. kutsub liitu üles edendama ja rahastama inimkeskse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, mis aitab lahendada keskkonna- ja kliimaprobleeme ning maksude, hangete või muude stiimulite abil tagada põhiõiguste austamise;

    57. rõhutab, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas automatiseeritud otsustusprotsesside ja masinõppe arendamine, juurutamine ja kasutamine tekitab praegusajal suure CO2-jalajälje, kuid edaspidi võivad need tehnoloogiad aidata IKT-sektori praegust CO2-jalajälge vähendada; rõhutab, et need ja muud nõuetekohaselt reguleeritud seonduvad tehnoloogiad peaksid olema otsustava tähtsusega rohelise kokkuleppe, ÜRO kestliku arengu eesmärkide ja Pariisi kokkuleppe eesmärkide saavutamisel paljudes eri sektorites ning peaksid suurendama keskkonnakaitsemeetmete mõju, nt jäätmetekke vähendamisel ja keskkonnaseisundi halvenemise pidurdamisel;

    58. kutsub komisjoni üles teostama uuringut, mis käsitleks tehisintellekti tehnoloogia CO2-jalajälje mõju ning tarbijate tehisintellektitehnoloogia kasutamisele ülemineku positiivseid ja negatiivseid tagajärgi;

    59. märgib, et arvutus-, salvestus- ja energiaressursse nõudvate tehisintellektirakenduste kiirenevat arengut arvestades tuleks hinnata tehisintellektisüsteemide keskkonnamõju kogu nende olelusringi kestel;

    60. on seisukohal, et sellistes valdkondades nagu tervishoid peab vastutus lasuma lõppkokkuvõttes füüsilisel või juriidilisel isikul; rõhutab, et algoritmide jaoks on vaja jälgitavaid ja avalikult kättesaadavaid koolitusandmeid;

    61. toetab kindlalt komisjoni kavandatud tervishoiu Euroopa andmeruumi[12] loomist, mille eesmärk on edendada terviseandmete vahetamist ja toetada teadusuuringuid, mis järgivad täielikult andmekaitset, sealhulgas andmete töötlemist tehisintellekti tehnoloogia abil, ning mis tugevdab ja laiendab terviseandmete kasutamist ja taaskasutamist; ergutab, et laiendataks terviseandmete piiriülest vahetamist, nende andmete ühendamist ja kasutamist turvaliste liithoidlate kaudu, teatavat liiki terviseteabe vahetamist, nagu Euroopa tervisekaardid, genoomiline teave ja digitaalsed tervisepildid, et hõlbustada kogu liitu hõlmavaid koostalitlusvõimelisi registreid või andmebaase sellistes valdkondades nagu teadusuuringud, teadus ja tervishoid;

    62. tõstab esile tehisintellekti kasulikkust haiguste ennetamises, ravis ja tõrjes, mille näiteks on see, et tehisintellekt prognoosis COVID-19 epideemiat enne WHOd; nõuab tungivalt, et komisjon annaks Haiguste Ennetamise ja Tõrje Euroopa Keskusele piisava õigusraamistiku ja vahendid vajalike reaalajas anonüümitud ülemaailmsete terviseandmete kogumiseks sõltumatult ja koostöös liikmesriikidega, et tegeleda muude eesmärkide hulgas ka COVID-19 kriisi käigus ilmnenud probleemidega;

    Eraelu puutumatus ja biomeetria

     

    63. märgib, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisest, juurutamisest ja kasutamisest tulenevate andmete, sealhulgas selliste isikuandmete nagu biomeetriliste andmete tootmine ja kasutamine kasvab kiiresti, rõhutades seega vajadust austada kodanike õigust eraelu puutumatusele ja isikuandmete kaitsele ja tagada nende õiguste järgimine kooskõlas liidu õigusega;

    64. juhib tähelepanu, et selle tehnoloogia pakutav võimalus kasutada isiku- ja isikustamata andmeid, et inimesi kategoriseerida ja täpsemalt segmenteerida, teha kindlaks üksikisikute nõrkused või kasutada ära täpseid prognoosivaid teadmisi, peab olema tasakaalustatud selliste tegelikult tagatud andmekaitse ja eraelu puutumatuse põhimõtetega nagu võimalikult väheste andmete kogumine, õigus esitada vastuväiteid profiilianalüüsile ja oma andmete kasutamist kontrollida, õigus saada selgitust automaatsel andmetöötlusel põhineva otsuse kohta, lõimprivaatsus ning proportsionaalsuse, vajalikkuse ja täpselt määratletud eesmärgiga piirdumise põhimõtted kooskõlas isikuandmete kaitse üldmäärusega;

    65. rõhutab, et kui avaliku sektori asutused kasutavad kaugtuvastustehnoloogiaid, näiteks biomeetriliste tunnuste tuvastust, eelkõige näotuvastust, olulistes avalikes huvides, tuleks nende kasutamine alati avalikustada, see peaks olema proportsionaalne, sihipärane ja piirduma konkreetsete eesmärkidega, see peaks olema ajaliselt piiratud kooskõlas liidu õigusega ning võtma nõuetekohaselt arvesse inimväärikust ja autonoomiat ning hartas sätestatud põhiõigusi. Sellise kasutamise kriteeriumid ja piirangud peaksid alluma kohtulikule kontrollile ja demokraatlikule kontrollile ning võtma arvesse selle psühholoogilist ja sotsiaalkultuurilist mõju kodanikuühiskonnale;

    66. juhib tähelepanu sellele, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutuselevõtul avaliku võimu alaste otsuste raames on eeliseid, kuid see võib kaasa tuua tõsiseid väärkasutamisi, nagu massiline jälgimine, ennetav politseitöö ja nõuetekohaste menetlusõiguste rikkumine;

    67. on seisukohal, et tehnoloogiaid, mis võivad teha automatiseeritud otsuseid, asendades seega avaliku sektori asutuste otsused, tuleks käsitleda äärmiselt ettevaatlikult, eelkõige õiguse ja õiguskaitse valdkonnas;

    68. on veendunud, et liikmesriigid peaksid selliseid tehnoloogiaid kasutama üksnes juhul, kui on olemas põhjalikud tõendid nende usaldusväärsuse kohta ning võimalik on sisuline inimsekkumine ja läbivaatamine juhtudel, kui kaalul on põhivabadused, või seda tehakse süstemaatiliselt; rõhutab, kui oluline on, et riiklikud ametiasutused hindaksid sellistel juhtudel rangelt kasutatud tehisintellekti süsteemide põhiõigustele avalduvat mõju, eelkõige pärast seda, kui need tehnoloogiad on hinnatud suure riskiga tehnoloogiateks;

    69. on seisukohal, et kõikide avaliku võimu õiguste raames tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seoses tehtud otsuste suhtes tuleks kohaldada sisulist inimsekkumist ja nõuetekohast menetlust, eelkõige pärast seda, kui need tehnoloogiad on hinnatud suure riskiga tehnoloogiateks;

    70. on veendunud, et tehnoloogia areng ei tohiks viia tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamiseni nii, et nad võtavad iseseisvalt vastu avaliku sektori otsuseid, millel on otsene ja märkimisväärne mõju kodanike õigustele ja kohustustele;

    71. märgib, et õiguskaitse ja piirikontrolli valdkonnas võivad tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia suurendada avalikku turvalisust ja julgeolekut, kuid seejuures on vaja ulatuslikku ja ranget avalikku kontrolli ning võimalikult suurt läbipaistvust üksikute rakenduste riskihindamisel, aga ka üldist ülevaadet tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamisest õiguskaitse ja piirikontrolli valdkonnas; on seisukohal, et selliste tehnoloogiatega kaasnevad märkimisväärsed eetilised riskid, millega tuleb asjakohaselt tegeleda, võttes arvesse võimalikku negatiivset mõju üksikisikutele, eelkõige nende õigusele eraelu puutumatusele, isikuandmete kaitsele ja mittediskrimineerimisele; rõhutab, et nende väärkasutamine võib muutuda otseseks ohuks demokraatiale ning nende tehnoloogiate juurutamisel ja kasutamisel tuleb järgida proportsionaalsuse ja vajalikkuse põhimõtet, põhiõiguste hartat ning asjakohaseid liidu teiseseid õigusakte, näiteks andmekaitsereegleid; rõhutab, et kohtuotsuste tegemisel ei tohiks tehisintellekt kunagi asendada inimesi; on seisukohal, et selliste otsustega nagu kautsjoni vastu vabastamine või tingimisi vangistuse kohaldamine, mida arutatakse kohtus, või üksnes automatiseeritud töötlemisel põhinevate otsustega, millel on üksikisikute suhtes õiguslikud tagajärjed või mis neid märkimisväärselt mõjutavad, peab alati kaasnema inimesepoolne sisuline hindamine ja otsuse langetamine;

    Hea juhtimistava

     

    72. rõhutab, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, eelkõige suure riskiga tehnoloogia arendamise, juurutamise ja kasutamise asjakohane juhtimine, sealhulgas selliste meetmete kehtestamine, mis keskenduvad aruandekohustusele ning võimaliku kallutatuse ja diskrimineerimise riskidega tegelemisele, võib suurendada kodanike ohutust ja usaldust selle tehnoloogia vastu;

    73. on seisukohal, et nende tehnoloogiate juhtimise ühine raamistik, mida koordineerivad komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus ja mida rakendavad iga liikmesriigi riiklikud järelevalveasutused, tagaks sidusa Euroopa lähenemisviisi ja hoiaks ära ühtse turu killustumise;

    74. märgib, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamiseks kasutatakse suures mahus andmeid ning et selliste andmete töötlemist, jagamist, kättesaadavust ja kasutamist tuleb reguleerida vastavalt õigusaktidele ning nendes sätestatud kvaliteedi-, tervikluse-, koostalitlusvõime-, läbipaistvus-, turvalisus-, privaatsus- ja kontrollinõuetele;

    75. tuletab meelde, et juurdepääs andmetele on digitaalmajanduse kasvu oluline osa; juhib sellega seoses tähelepanu asjaolule, et andmete koostalitlusvõimel on seotuse mõju piiramise kaudu oluline roll õiglaste turutingimuste tagamisel ja võrdsete võimaluste edendamisel digitaalsel ühtsel turul;

    76. rõhutab vajadust tagada isikuandmete piisav kaitse, eelkõige haavatavaid rühmi puudutava või neilt saadud andmete puhul, näiteks puuetega inimesed, patsiendid, lapsed, eakad, vähemused, rändajad ja muud tõrjutuse ohus olevad rühmad;

    77. märgib, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamine, juurutamine ja kasutamine avaliku sektori asutuste poolt on sageli antud allhanke korras eraõiguslikele isikutele; on seisukohal, et see ei tohiks mingil viisil kahjustada avalike väärtuste ja põhiõiguste kaitset; on seisukohal, et riigihangete tingimused peaksid vajaduse korral kajastama avaliku sektori asutustele kehtestatud eetikanorme;

    Tarbijad ja siseturg

     

    78. rõhutab, kui oluline on kohaldada tehisintellekti reguleerivat raamistikku, kui liidu tarbijad kasutavad või nende suhtes kohaldatakse algoritmipõhist süsteemi, nad on algoritmipõhise süsteemi sihtrühmaks või suunatakse algoritmipõhise süsteemi poole, olenemata seda süsteemi arendavate, müüvate või kasutavate üksuste asukohast; on ühtlasi veendunud, et õiguskindluse huvides tuleks sellises raamistikus kehtestatud reegleid kohaldada kõigi arendajate suhtes ja kogu väärtusahela ulatuses, st asjaomase tehnoloogia ja selle komponentide arendamise, juurutamise ja kasutamise etapis, ning need peaksid tagama tarbijakaitse kõrge taseme;

    79. märgib tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete ning selliste valdkondade nagu asjade internet, tehniline masinõpe, reeglipõhised süsteemid või automatiseeritud ja abistatud otsuste tegemise protsessid, vahelist olemuslikku seost; märgib lisaks, et välja võiks töötada standardsed ikoonid, mis aitaksid tarbijatele selliseid süsteeme selgitada, kui need süsteemid on olemuselt keerukad või nende abil on võimalik teha otsuseid, millel on tarbijate elule suur mõju;

    80. tuletab meelde, et komisjon peaks analüüsima kehtivat õigusraamistikku ja selle kohaldamist, sealhulgas tarbijaõigustikku, tootevastutust käsitlevaid õigusakte, tooteohutust käsitlevaid õigusakte ja turujärelevalvet käsitlevaid õigusakte, et teha kindlaks õiguslikud lüngad, samuti kehtivaid regulatiivseid kohustusi; on seisukohal, et see on vajalik selleks, et teha kindlaks, kas see suudab reageerida tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia esilekerkimisega seotud väljakutsetele ja tagada tarbijakaitse kõrge taseme;

    81. rõhutab vajadust tegeleda mõjusalt tehisintellektist, robotitehnoloogiast ja seonduvast tehnoloogiast tulenevate probleemidega ning tagada, et tarbijad omaksid mõjuvõimu ja oleksid nõuetekohaselt kaitstud; rõhutab vajadust vaadata kaugemale traditsioonilistest teavitamise ja avalikustamise põhimõtetest, millele tarbijaõigustik on rajatud, kuna vaja on tugevamaid tarbijaõigusi ja selgeid piiranguid tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisele, juurutamisele ja kasutamisele, tagamaks et selline tehnoloogia aitab kaasa tarbijate elu paremaks muutmisele ja areneb viisil, mis austab põhi- ja tarbijaõigusi ning liidu väärtusi;

    82. juhib tähelepanu sellele, et otsusega nr 768/2008/EÜ kehtestatud õigusraamistikuga kehtestatakse tootjatele, importijatele ja turustajatele ühtlustatud kohustuste loetelu, ergutatakse standardite kasutamist ja nähakse sõltuvalt toote ohtlikkusest ette mitu kontrollitasandit; on seisukohal, et seda raamistikku tuleks kohaldada ka toodete suhtes, millesse on sisse ehitatud tehisintellekt;

    83. märgib, et selleks, et analüüsida tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia mõju tarbijatele, võiks juurdepääsu andmetele laiendada riiklikele pädevatele asutustele, järgides täielikult liidu õigust, näiteks andmekaitset, eraelu puutumatust ja ärisaladusi käsitlevat õigust; tuletab meelde, kui oluline on tarbijate harimine, et suurendada nende teadlikkust ja oskusi tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga ümberkäimisel, et kaitsta neid võimalike ohtude eest ja kaitsta nende õigusi;

    84. kutsub komisjoni üles tegema ettepanekuid andmete jälgitavuse meetmete kohta, pidades silmas nii andmete kogumise seaduslikkust kui ka tarbijaõiguste ja põhiõiguste kaitset, järgides samal ajal täielikult liidu õigust, näiteks andmekaitset, eraelu puutumatust, intellektuaalomandi õigusi ja ärisaladusi käsitlevat õigust;

    85. märgib, et need tehnoloogiad peaksid olema kasutajakesksed ja kavandatud viisil, mis võimaldab tehisintellektitooteid või -teenuseid kasutada igaühel, olenemata tema vanusest, soost, võimetest või omadustest; märgib, et eriti oluline on nendele juurdepääs puuetega inimestele; märgib, et ei tohiks olla kõigile ühtmoodi sobivat lähenemist ning nende puhul tuleks kaaluda universaaldisaini põhimõtteid, mis on suunatud võimalikult paljudele kasutajatele, järgides asjakohaseid juurdepääsetavusstandardeid; rõhutab, et see võimaldab üksikisikute võrdset juurdepääsu olemasolevale ja kujunemisjärgus arvutivahendatud inimtegevusele ja tugitehnoloogiale ning võimaldab neil selles aktiivselt osaleda;

    86. rõhutab, et kui tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel või kasutamisel on lisaks avatud hangetele ja avatud lepingustandarditele kasutatud märkimisväärselt ka avalikest allikatest pärit vahendeid, võiks kaaluda võimalust, et kood, genereeritud andmed (niivõrd kui need ei ole isiklikud) ja koolitatud mudel võiksid olla tehtud arendaja nõusolekul vaikimisi avalikuks, et tagada läbipaistvus, suurendada küberturvalisust ja võimaldada nende taaskasutamist, et edendada innovatsiooni; rõhutab, et sellisel viisil on võimalik ära kasutada ühtse turu kogu potentsiaal, vältides turu killustumist;

    87.  on seisukohal, et tehisintellektil, robotitehnoloogial ja seonduval tehnoloogial on tohutu potentsiaal pakkuda tarbijatele võimalusi pääseda juurde mitmetele mugavustele oma elu paljudes aspektides koos paremate toodete ja teenustega ning saada kasu paremast turujärelevalvest, tingimusel et jätkuvalt kohaldatakse kõiki kohaldatavaid põhimõtteid, tingimusi (sh läbipaistvus ja auditeeritavus) ja reegleid;

     

    Julgeolek ja kaitse

     

    88. rõhutab, et Euroopa Liidu ja selle liikmesriikide julgeoleku- ja kaitsepoliitika juhindub Euroopa Liidu põhiõiguste hartas ja Ühinenud Rahvaste Organisatsiooni põhikirjas sätestatud põhimõtetest ning universaalsete põhiväärtuste austamise ühisest käsitusest, mis puudutab inimeste puutumatuid ja võõrandamatuid õigusi, inimväärikust, vabadust, demokraatiat, võrdsust ja õigusriiki; rõhutab, et kõigis liidu raamistikus tehtavates kaitsealastes jõupingutustes tuleb neid universaalseid põhiväärtusi järgida, edendades samal ajal rahu, julgeolekut ja progressi Euroopas ja maailmas;

    89. väljendab heameelt selle üle, et Ühinenud Rahvaste Organisatsiooni teatavate tavarelvade konventsiooni kõrgete konventsiooniosaliste 2019. aasta kohtumisel kiideti heaks autonoomsete relvasüsteemide arendamise ja kasutamise 11 juhtpõhimõtet; peab siiski kahetsusväärseks, et ei ole suudetud kokku leppida autonoomseid surmavaid relvi reguleerivas õiguslikult siduvas õigusaktis koos tõhusa täitmise tagamise mehhanismiga; peab tervitatavaks ja toetab komisjoni kõrgetasemelise tehisintellekti eksperdirühma 9. aprillil 2019. aastal avaldatud usaldusväärse tehisintellekti eetikasuuniseid ja rühma seisukohta autonoomsete surmavate relvasüsteemide suhtes; nõuab tungivalt, et liikmesriigid töötaksid välja autonoomsete surmavate relvade määratlemise ja staatuse riiklikud strateegiad, eesmärgiga jõuda liidu tasandi tervikliku strateegiani, ning edendaksid koos liidu kõrge esindaja / komisjoni asepresidendiga ning nõukoguga arutelu autonoomsete, poolautonoomsete ja kaugjuhitavate relvade arendamise ja kasutamise eetilisi ja õiguslikke parameetreid käsitlevate rahvusvaheliste normide kehtestamise üle ÜRO tavarelvade konventsiooni raamistikus ja muudel asjakohastel foorumitel; tuletab sellega seoses meelde oma 12. septembri 2018. aasta resolutsiooni autonoomsete surmavate relvasüsteemide kohta ja nõuab veel kord, et kiiresti töötataks välja ja võetaks vastu ühine seisukoht autonoomsete surmavate relvasüsteemide kohta, eesmärgiga keelustada rahvusvahelisel tasandil kooskõlas maailma kõige silmapaistvamate tehisintellekti valdkonna teadlaste avaldusega nende 2015. aasta avalikus kirjas selliste autonoomsete surmavate relvasüsteemide arendamine, tootmine ja kasutamine, mis võimaldavad korraldada rünnakuid ilma tegeliku inimkontrollita; väljendab heameelt nõukogu ja parlamendi kokkuleppe üle jätta Euroopa Kaitsefondi rahastatud meetmetest välja autonoomsed surmavad relvad, „mille üle puudub sihtmärkide valimisel ja [...] ründamise otsuse tegemisel tegelik inimkontroll“; on veendunud, et tähelepanuta ei tohi jätta muude kaitsevaldkonna tehisintellekti rakenduste, nagu luureteave, seire ja eelluure, või küberoperatsioonide eetilisi aspekte, ning erilise hoolega tuleb jälgida droonide arendamise ja juurutamise küsimusi sõjalistes operatsioonides;

    90 rõhutab, et kaitse- ja julgeoleku valdkonna kujunemisjärgus tehnoloogiat, mis ei ole rahvusvahelise õigusega hõlmatud, tuleks hinnata humaansuse põhimõtte ja üldkinnistunud arusaamade põhjal;

    91. soovitab, et mis tahes ELi raamistik, mis reguleerib tehisintellektil põhinevate süsteemide kasutust kaitsevaldkonnas – nii lahingu- kui ka muus olukorras – peab järgima kõiki kohaldatavaid õigusrežiime, eelkõige rahvusvahelist humanitaarõigust ja rahvusvahelist inimõigustealast õigust, ning olema kooskõlas liidu õiguse, põhimõtete ja väärtustega, pidades silmas tehnilise ja julgeolekutaristu erinevusi liidus;

    92. tunnistab, et erinevalt kaitsetööstuslikust baasist võivad otsustava tähtsusega tehisintellekti uuendused pärineda väikestest liikmesriikidest, mistõttu peaks ÜJKP standardne lähenemisviis tagama, et väiksemaid liikmesriike ja VKEsid ei jäeta kõrvale; rõhutab, et ühised ELi tehisintellekti alased võimekused, mis vastavad liikmesriikide tegevuskontseptsioonidele, võivad ületada tehnilise lõhe, mis võib jätta välja riigid, kellel puuduvad asjakohane tehnoloogia, selle valdkonna eksperditeadmised või suutlikkus rakendada tehisintellekti süsteeme oma kaitseministeeriumis;

    93. on seisukohal, et liidu raamistikus nii praegu kui ka tulevikus toimuv julgeoleku- ja kaitsealane tegevus tugineb tehisintellektile, robotitehnoloogiale ja autonoomiale ning seonduvale tehnoloogiale ning et töökindel, vastupidav ja usaldusväärne tehisintellekt võib anda panuse kaasaegsele ja tõhusale sõjaväele; liit peab seetõttu võtma julgeoleku- ja kaitsevaldkonna tehisintellekti süsteemide teadus- ja arendustegevuses juhtiva rolli; on veendunud, et tehisintellektil põhinevate rakenduste kasutamine julgeoleku- ja kaitsevaldkonnas võib sõjaliste operatsioonide juhtidele pakkuda mitmeid otseseid eeliseid, näiteks kvaliteetsemaid kogutud andmeid, suuremat olukorrateadlikkust, kiiremat otsuste tegemist, vähemat ohtu kaasneva kahju tekkimiseks tänu paremale kaabelühendusele, kohapealsete vägede kaitset ning sõjalise varustuse suuremat töökindlust; rõhutab, et usaldusväärse tehisintellekti arendamine kaitsevaldkonnas on hädavajalik, et tagada Euroopa strateegiline autonoomia sõjaliste võimete ja operatsioonide valdkonnas; tuletab meelde, et tehisintellekti süsteemid on muutumas põhielementideks ka uute julgeolekuohtude, näiteks kübersõja ja hübriidsõja vastu võitlemisel nii internetis kui ka väljaspool seda; rõhutab samal ajal kõiki ohte ja probleeme, mis kaasnevad tehisintellekti reguleerimata kasutamisega; märgib, et tehisintellekti suhtes võidakse kasutada manipuleerimist ning selles võivad esineda vead ja ebatäpsused;

    94. rõhutab, et tehisintellekti tehnoloogia on oma olemuselt kahese kasutusega ning tehisintellekti arendamisele kaitsealases tegevuses tuleb kasuks sõjalise ja tsiviiltehnoloogia vaheline koostoime; rõhutab, et kaitsealases tegevuses kasutatav tehisintellekt on valdkonnaülene murranguline tehnoloogia, mille arendamine võib pakkuda võimalusi ELi konkurentsivõime ja strateegilise autonoomia jaoks;

    95. tunnistab, et tänapäeva arenenud hübriidsõjas võib info maht ja levimiskiirus kriisi algetapis inimanalüütikutele üle jõu käia ning et tehisintellekti süsteem võiks teavet töödelda, tagamaks, et otsuseid tegevatel inimestel oleks kiireks reageerimiseks vajaliku aja vältel ülevaade kogu teabest;

    96. rõhutab, kui oluline on investeerida tehisintellekti jaoks vajalikku inimkapitali arengusse, edendada vajalikke oskusi ja haridust julgeoleku- ja kaitseotstarbelise tehisintellekti tehnoloogia valdkonnas, eelkõige seoses eetikaküsimustega inimlikul vastutusel põhinevate poolautonoomsete ja autonoomsete operatsioonisüsteemide vallas; rõhutab eelkõige, kui oluline on tagada, et selle valdkonna eetikaspetsialistidel oleksid asjakohased oskused ja et nad saaksid nõuetekohast koolitust; kutsub komisjoni üles esitama võimalikult kiiresti oma täiendatud oskuste tegevuskava, mis kuulutati välja 19. veebruari 2020. aasta tehisintellekti valges raamatus;

    97. rõhutab, et kvantandmetöötlus võib kujutada endast pärast tuumarelva konfliktiolukordades kõige revolutsioonilisemat muutust, ning nõuab seetõttu tungivalt, et kvantandmetöötluse tehnoloogia edasiarendamine oleks liidu ja liikmesriikide prioriteet; tõdeb, et agressiooniaktid, sealhulgas kvantandmetöötluse abil sooritatavad rünnakud elutähtsa taristu vastu tekitavad konfliktiolukorra, kus olemasolev otsustamisaeg väheneb päevadelt ja tundidelt minutitele ja sekunditele, mistõttu liikmesriigid on sunnitud välja töötama enda kaitsmiseks suutlikkuse ning koolitama nii poliitikakujundajaid kui sõjaväelasi sellistes ajalistes raamides tulemuslikult reageerima;

    98. nõuab investeeringute suurendamist Euroopa kaitseotstarbelisse tehisintellekti ja seda toetavasse elutähtsasse taristusse;

    99. tuletab meelde, et enamik maailma praegustest sõjalistest jõududest juba teeb tehisintellekti sõjalise mõõtme vallas märkimisväärseid teadus- ja arendustegevuse alaseid pingutusi; on seisukohal, et liit peab tagama, et ta ei jääks selles osas maha;

    100. palub komisjonil lõimida oma tööstuspoliitikasse suutlikkuse suurendamine küberturvalisuse valdkonnas, et tagada ohutute, vastupidavate ja tugevate tehisintellekti- ja robotitehnoloogiasüsteemide arendamine ja juurutamine; kutsub komisjoni üles uurima plokiahelal põhinevate küberturvalisuse protokollide ja rakenduste kasutamist, et parandada tehisintellekti taristute vastupidavust, usaldusväärsust ja stabiilsust andmete krüptimise vahenduseta mudelite kaudu; soovitab Euroopa sidusrühmadel uurida ja kavandada täiustatud elemente, mis aitaksid avastada mitteusaldusväärseid ja pahatahtlikke tehisintellekti- ja robotitehnoloogiasüsteeme, mis võivad kahjustada Euroopa Liidu ja kodanike julgeolekut;

    101. rõhutab, et kõikidel kaitsevaldkonna tehisintellekti süsteemidel peab olema konkreetne ja täpselt määratletud ülesande raamistik, kus inimestel säilitab võimalus tuvastada ja välja lülitada või desaktiveerida kasutuses olevaid süsteeme, kui need väljuvad oma ülesande raamistikus määratletud ja inimese korraldusel määratud kasutusalast või tegutsevad tahtmatult või olukorda pingestavalt; on seisukohal, et tehisintellektil põhinevad ja sõjaliseks kasutuseks mõeldud süsteemid, tooted ja tehnoloogia peaksid olema varustatud nn musta kastiga, mis registreerib kõik masina poolt tehtud andmetehingud;

    102. rõhutab, et tehisintellekti süsteemide projekteerimise, arendamise, juurutamise ja kasutamise otsuse eest peab täielikult vastutama inimene, kuna mis tahes relvasüsteemi üle peab toimuma sisuline inimese järelevalve ja kontroll, samuti peab inimese tahe jääma määravaks tehisintellektil põhineva relvasüsteemi otsuse puhul kasutada jõudu, millel võivad olla surmavad tagajärjed; rõhutab, et inimkontroll peaks kehtima tehisintellektil põhinevate süsteemide juhtimisel ja kontrollimisel ning järgima inimosaluse, inimsekkumise ja inimkontrolli põhimõtet sõjaväelise juhtkonna tasandil; rõhutab, et tehisintellektil põhinevad süsteemid peavad võimaldama sõjalisel juhtkonnal võtta täieliku vastutuse ja aruandekohustuse surmava jõu kasutamise eest, ning kui selliste süsteemide abil võetakse surmavaid või laiaulatuslikke hävitavaid meetmeid, siis hinnata olukorda ja võtta lähtuvalt eristamise, proportsionaalsuse ja ettevaatuse põhimõttest vastu otsus, mida ei saa usaldada masinale; toonitab vajadust luua selged ja jälgitavad loa- ja vastutusraamistikud arukate relvade ja muude tehisintellektil põhinevate süsteemide kasutuselevõtuks, kasutades kordumatuid kasutajatunnuseid, nagu biomeetrilised spetsifikatsioonid, et neid saaksid kasutusele võtta üksnes volitatud töötajad;

    Transport

    103. rõhutab tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamise potentsiaali kõigi autonoomsete maantee-, raudtee-, vee- ja lennutranspordi liikide puhul ning samuti ühelt transpordiliigilt teisele ülemineku ja ühendvedude edendamisel, kuna sellised tehnoloogiad võivad aidata leida kaupade ja reisijate veoks optimaalset transpordiliikide kombinatsiooni; rõhutab lisaks nende potentsiaali muuta transpordi-, logistika- ja liiklusvood tõhusamaks ning kõik transpordiliigid ohutumaks, arukamaks ja keskkonnasõbralikumaks; juhib tähelepanu sellele, et eetilist lähenemisviisi tehisintellektile võib näha ka varajase hoiatamise süsteemina, eelkõige seoses transpordi ohutuse ja tõhususega;

    104. rõhutab asjaolu, et ülemaailmne konkurents äriühingute ja majanduspiirkondade vahel kohustab liitu edendama investeeringuid ja tugevdama transpordisektoris tegutsevate äriühingute rahvusvahelist konkurentsivõimet, luues tehisintellekti lahenduste ja edasiste uuenduste arendamiseks ja rakendamiseks soodsa keskkonna, kus liidus asuvad ettevõtjad võivad saada tehisintellekti tehnoloogiate arendamisel maailmas juhtivaks jõuks;

    105. rõhutab, et liidu transpordisektoris on vaja ajakohastada õigusraamistikku, mis käsitleb selliseid kujunemisjärgus tehnoloogiaid ja nende kasutamist transpordisektoris, ning luua selge eetiline raamistik usaldusväärse tehisintellekti saavutamiseks, mis hõlmab ohutust, turvalisust, inimeste autonoomia austamist, järelevalvet ja vastutust käsitlevaid aspekte, ning et see suurendab kasu, mida jagavad kõik ja mis on esmatähtis, et suurendada investeeringuid, mida tehakse teadusuuringutesse ja innovatsiooni, oskuste arendamisse ja tehisintellekti juurutamisse avalike teenuste, VKEde, idufirmade ja ettevõtjate poolt, tagades samal ajal andmekaitse ja koostalitlusvõime, ilma et see tekitaks ettevõtjatele ja tarbijatele liigset halduskoormust;

    106. märgib, et tehisintellekti arendamine ja rakendamine transpordisektoris ei ole võimalik ilma kaasaegse taristuta, mis on intelligentsete transpordisüsteemide oluline osa; rõhutab, et liikmesriikide arengutaseme püsivad erinevused tekitavad ohu, et vähim arenenud piirkonnad ja nende elanikud jäävad autonoomse liikuvuse arendamisest saadavast kasust ilma; nõuab, et liidu transporditaristu ajakohastamist, sealhulgas selle integreerimist 5G võrku, rahastataks piisavalt;

    107. soovitab töötada välja kogu liitu hõlmavad usaldusväärsed tehisintellekti standardid kõigi transpordiliikide, sealhulgas autotööstuse jaoks, ning tehisintellektil põhinevate sõidukite ja nendega seotud toodete ja teenuste katsetamiseks;

    108. märgib, et tehisintellektisüsteemid võivad aidata märkimisväärselt vähendada liiklussurmade arvu, näiteks reageerimisaja lühendamise ja õigusnormide parema järgimise kaudu; on siiski seisukohal, et autonoomsete sõidukite kasutamisega ei ole võimalik kaotada kõiki õnnetusi, ning rõhutab, et seetõttu muutub üha olulisemaks tehisintellekti otsuste selgitatavus, et põhjendada tehisintellekti otsuste puudusi ja soovimatuid tagajärgi;

    Tööhõive, töötajate õigused, digioskused ja töökoht

     

    109. märgib, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia rakendamine töökohal võib soodustada kaasavamat tööturgu ning avaldada mõju töötervishoiule ja tööohutusele, samas kui seda saab kasutada ka töötajate töö jälgimiseks, hindamiseks, prognoosimiseks ja suunamiseks, millel on otsene ja kaudne mõju nende karjäärile; arvestades, et tehisintellektil peaks olema positiivne mõju töötingimustele ning see peaks juhinduma inimõiguste ning liidu põhiõiguste ja -väärtuste austamisest; arvestades, et tehisintellekt peaks olema inimkeskne, suurendama inimeste ja ühiskonna heaolu ning aitama kaasa õiglasele ja võrdsele üleminekule; sellistel tehnoloogiatel peaks seetõttu olema positiivne mõju töötingimustele, juhindudes inimõiguste ning liidu põhiõiguste ja -väärtuste austamisest;

    110. rõhutab, et töötajate ja nende esindajate oskusi tehisintellekti vallas tuleb arendada töökohal pakutava koolituse ja hariduse kaudu, et inimesed saaksid tehisintellekti lahenduste mõjust paremini aru; rõhutab, et kui tehisintellekti kasutatakse töölevõtmisel või muude personaliotsuste langetamisel, tuleks kandidaate ja töölisi sellest nõuetekohaselt ja kirjalikult teavitada, ja neile teatada, kuidas saab sellisel juhul automatiseeritud otsuse tühistamiseks taotleda selle läbivaatamist inimese poolt;

    111. rõhutab vajadust tagada, et tehisintellekti ja robotitehnoloogia arendamisest ja kasutamisest tulenev tootlikkuse kasv ei too kasu mitte ainult ettevõtte omanikele ja aktsionäridele, vaid ka ettevõtetele ja töötajatele paremate töö- ja tööhõivetingimuste, sealhulgas palkade, majanduskasvu ja arengu kaudu, ning teenib laiemas mõttes ka ühiskonna huve, eriti kui selline kasu saadakse töökohtade arvelt; kutsub liikmesriike üles hoolikalt uurima tehisintellekti võimalikku mõju tööturule ja sotsiaalkindlustussüsteemidele ning töötama välja strateegiad selle kohta, kuidas maksude ja sotsiaalmaksu reformimise ning muude meetmete abil tagada pikaajaline stabiilsus, juhul kui avaliku sektori tulud on väiksemad;

    112. rõhutab selle olulisust, et ettevõtted investeeriksid formaalsesse ja informaalsesse koolitusse ning elukestvasse õppesse, et toetada õiglast üleminekut digitaalmajandusele; rõhutab sellega seoses, et tehisintellekti kasutavatel ettevõtetel on kohustus pakkuda kõigile asjaomastele töötajatele piisavat ümber- ja täiendusõpet, et nad saaksid õppida kasutama digitaalseid vahendeid ning töötada koostöörobotite ja muude uute tehnoloogiatega ning kohaneda niimoodi tööturu muutuvate vajadustega ja säilitada oma töökoha;

    113. on seisukohal, et erilist tähelepanu tuleks pöörata uutele töövormidele, nagu juhu- ja platvormitöö, mis tulenevad uute tehnoloogiate rakendamisest; rõhutab, et tehisintellekti mõju tuleb arvesse võtta ka kaugtöö tingimuste reguleerimisel kogu liidus ning inimväärsete töö- ja töötingimuste tagamisel digitaalmajanduses; kutsub komisjoni üles konsulteerima selles küsimuses sotsiaalpartnerite, tehisintellekti arendajate, teadlaste ja muude sidusrühmadega;

    114. rõhutab, et tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia ei tohi mingil viisil mõjutada liikmesriikides ja liidu tasandil tunnustatud põhiõiguste kasutamist, sealhulgas streigiõigust ja -vabadust ning õigust võtta kooskõlas siseriikliku õiguse ja/või tavaga muid aktsioone, mis kuuluvad liikmesriigi konkreetsesse töösuhete süsteemi, ega mõjutada õigust pidada läbirääkimisi, sõlmida kollektiivlepinguid ja tagada nende täitmine või teha kooskõlas riikliku õiguse ja/või tavaga kollektiivseid aktsioone;

    115. kordab hariduse ja pidevõppe tähtsust, et arendada digitaalajastul vajalikke ametioskusi ja võidelda digitaalse tõrjutuse vastu; kutsub liikmesriike üles investeerima kvaliteetsesse, reageerimisvõimelisesse ja kaasavasse haridusse, kutseõppesse ja elukestva õppe süsteemidesse ning töötajate ümber- ja täiendusõppe poliitikasse sektorites, mida tehisintellekt võib tõsiselt mõjutada; rõhutab vajadust tagada praegustele ja tulevastele töötajatele vajalikud kirja-, arvutus- ja digitaaloskused, pädevus loodusteaduste, tehnoloogia, inseneriteaduste ja matemaatika (nn STEM valdkonna) vallas ning valdkonnaülesed pehmed oskused, nagu kriitiline mõtlemine, loovus ja ettevõtlikkus; rõhutab, et sellega seoses tuleb erilist tähelepanu pöörata ebasoodsas olukorras olevate rühmade kaasamisele;

    116. tuletab meelde, et töökohal kasutatavad tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia peavad universaaldisaini põhimõtetest lähtudes olema kõigile kättesaadavad;

    Haridus ja kultuur

    117. rõhutab vajadust töötada välja kriteeriumid tehisintellekti arendamiseks, juurutamiseks ja kasutamiseks, pidades silmas nende mõju haridus-, meedia-, noorte-, teadus-, spordi- ning kultuuri- ja loomesektorile, töötades neis valdkondades välja tehisintellekti tehnoloogia sihttasemed ja määrates kindlaks selle eetiliselt vastutustundliku ja aktsepteeritud kasutamise põhimõtted, mida saab nendes valdkondades nõuetekohaselt rakendada, sealhulgas selge vastutuskorra, mis kehtib tehisintellekti kasutamisest saadud toodete puhul;

    118. märgib, et igal lapsel on õigus kvaliteetsele avalikule haridusele kõikidel haridusastmetel; nõuab seetõttu selliste kvaliteetsete tehisintellekti süsteemide arendamist, juurutamist ja kasutamist, mis hõlbustaksid ja pakuksid kvaliteetseid haridusvahendeid kõikidel astmetel, ning rõhutab, et uute tehisintellekti süsteemide juurutamine koolides ei tohiks tekitada ühiskonnas suuremat digilõhet; tunnistab, et tehisintellekti ja robotitehnoloogia panus haridusse võib olla tohutult suur; märgib, et tehisintellektipõhised isikustatud õppesüsteemid ei tohiks asendada haridussuhteid, millesse on kaasatud õpetajad, ning et traditsioonilisi haridusvorme ei tohiks kõrvale jätta, juhtides samal ajal tähelepanu sellele, et õpetajatele, kes soovivad omandada asjakohaseid oskusi tehnoloogiliste muutustega kohanemiseks ning mitte ainult tehisintellekti potentsiaali ärakasutamiseks, vaid ka selle piirangute mõistmiseks, tuleb pakkuda rahalist, tehnoloogilist ja haridustoetust, sealhulgas erikoolitust info- ja kommunikatsioonitehnoloogia valdkonnas; nõuab, et liidu tasandil töötataks välja strateegia, mis aitaks muuta ja ajakohastada meie haridussüsteeme, valmistada ette kõigi tasemete haridusasutusi ning anda õpetajatele ja õpilastele vajalikud oskused ja võimed;

    119. rõhutab, et haridusasutused peaksid püüdma kasutada tehisintellekti süsteeme hariduslikel eesmärkidel, mis on saanud Euroopa eetilise vastavuse tunnistuse;

    120. rõhutab, et digiteerimise ja uute tehnoloogiatega pakutavad võimalused ei tohi põhjustada kultuuri- ja loomesektori töökohtade üldist kadumist, originaalide säilitamise hooletusse jätmist ega vähema tähelepanu pööramist kultuuripärandi traditsioonilisele kättesaadavusele, mida tuleks samavõrra soosida; märgib, et liidus välja töötatud, juurutatud ja kasutatavad tehisintellekti süsteemid peaksid kajastama liidu kultuurilist mitmekesisust ja mitmekeelsust;

    121. tunnistab tehisintellekti kasvavat potentsiaali teabe, meedia ja veebiplatvormide valdkonnas, sealhulgas vahendina desinformatsiooni vastu võitlemisel vastavalt liidu õigusele; rõhutab, et kui tehisintellekti ei reguleerita, siis võib sellel olla ka andmete ja algorütmide kallutatuse ärakasutamisest tulenev eetiliselt kahjulik mõju, mis väljendub desinformatsiooni levitamises ja infomullide loomises; rõhutab videojagamis- ja voogedastusplatvormide kasutatavate algoritmide läbipaistvuse ja usaldusväärsuse tähtsust, et tagada juurdepääs kultuuriliselt ja keeleliselt mitmekesisele sisule;

    Riiklikud järelevalveasutused

     

    122. märgib, et lisaväärtust annab see, kui igas liikmesriigis on määratud riiklik järelevalveasutus, kes vastutab suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel õiguslike kohustuste ja eetikapõhimõtete järgimise tagamise, hindamise ja järelevalve eest, aidates nii kaasa nende tehnoloogiate õiguslikule ja eetilisele nõuetele vastavusele;

    123. on veendunud, et need asutused peavad oma ülesandeid dubleerimata tegema koostööd valdkondlike õigusaktide rakendamise eest vastutavate asutustega, et teha kindlaks eetilisest seisukohast suure riskiga tehnoloogiad ning teha järelevalvet nõutavate ja asjakohaste meetmete rakendamise üle, kui sellised tehnoloogiad on kindlaks määratud;

    124. märgib, et sellised asutused peaksid tegema koostööd mitte ainult omavahel, vaid ka komisjoni ja muude asjaomaste liidu institutsioonide, organite, ametite ja asutustega, et tagada ühtne piiriülene tegevus;

    125. teeb ettepaneku, et selles koostöös töötataks välja ühised kriteeriumid ja taotlemismenetlus eetikapõhimõtete järgimist kinnitava Euroopa tunnistuse väljastamiseks, sealhulgas juhuks, kui sellise tehnoloogia arendaja, juurutaja või kasutaja, mida ei peeta suure riskiga tehnoloogiaks, esitab taotluse tõendi saamiseks, et asjakohane riiklik järelevalveasutus on talle andnud positiivse hinnangu nõuetele vastavuse kohta;

    126. nõuab, et sellistele asutustele tehtaks ülesandeks edendada liidus innovatsiooni ja korrapärast teabevahetust kodanikuühiskonnaga, osutades abi teadlastele, arendajatele ja muudele asjaomastele sidusrühmadele ning digitaalselt veel mitte küpsetele ettevõtetele, eelkõige väikestele ja keskmise suurusega ettevõtjatele või idufirmadele; eelkõige seoses teadlikkuse suurendamise ning arendamise, juurutamise, koolituse ja talentide ligitõmbamise toetamisega, et tagada tõhus tehnosiire ning juurdepääs tehnoloogiale, projektidele, tulemustele ja võrgustikele;

    127. nõuab, et iga liikmesriik rahastaks oma määratud riiklikke järelevalveasutusi piisavalt, ning rõhutab vajadust suurendada riiklike turujärelevalveasutuste suutlikkust, oskusi ja pädevusi ning teadmisi tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia konkreetsete riskide kohta;

    Koordineerimine liidu tasandil

     

    128. rõhutab, kui oluline on liidu tasandil koordineerimine, mida teevad komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus, et vältida killustatust ja tagada kogu liidus ühtlustatud lähenemisviis; on seisukohal, et koordineerimisel tuleks keskenduda iga liikmesriigi riiklike järelevalveasutuste volitustele ja meetmetele, nagu on osutatud eelmises alajaos, samuti parimate tavade jagamisele nende asutuste vahel ning selle valdkonna teadus- ja arendustegevuses tehtava koostöö soodustamisele kogu liidus; kutsub komisjoni üles hindama ja leidma kõige sobivamat lahendust sellise koordineerimise struktureerimiseks; näited olemasolevatest asjakohastest liidu institutsioonidest, organitest ja asutustest on ENISA, Euroopa andmekaitseinspektor ja Euroopa Ombudsman;

    129. on seisukohal, et selline koordineerimine ja eetikapõhimõtete järgimist kinnitav Euroopa tunnistus tooksid selles kontekstis kasu mitte ainult liidu tööstuse arengule ja innovatsioonile, vaid suurendaksid ka inimeste teadlikkust selle tehnoloogiaga kaasnevatest võimalustest ja riskidest;

    130. soovitab luua eksperdikeskuse, mis ühendaks liidu tasandil akadeemilisi ringkondi, teaduse ja tööstuse esindajaid ja üksikeksperte, et edendada teadmiste ja tehnilise oskusteabe vahetamist ning hõlbustada koostööd kogu liidus ja väljaspool; nõuab ka, et see eksperdikeskus hõlmaks sidusrühmade organisatsioone, näiteks tarbijakaitseorganisatsioonid, et tagada tarbijate laialdane esindatus; on seisukohal, et algoritmiliste süsteemide võimaliku ebaproportsionaalse mõju tõttu naistele ja vähemustele peaksid sellise struktuuri otsustustasandid olema mitmekesised ja tagama soolise võrdõiguslikkuse; rõhutab, et liikmesriigid peavad oma riiklike turujärelevalve strateegiate raames töötama tehisintellekti jaoks välja riskijuhtimisstrateegiad;

    131.  teeb ettepaneku, et komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus annaks riiklikele järelevalveasutustele vajalikku abi seoses nende rolliga esmaste kontaktpunktidena juhul, kui kahtlustatakse liidu tehisintellekti reguleerivas raamistikus sätestatud õiguslike kohustuste ja eetiliste põhimõtete, sealhulgas mittediskrimineerimise põhimõtte rikkumist; samuti peaks ta andma mis tahes vajalikku abi riiklikele järelevalveasutustele juhtudel, kui viimased viivad läbi vastavushindamisi, et toetada kodanike õigust vaidlustada ja kasutada õiguskaitsevahendeid, toetades vajaduse korral konsulteerimist teiste liidu pädevate asutustega, eelkõige tarbijakaitsealase koostöö võrgustiku ja riiklike tarbijakaitseasutustega, kodanikuühiskonna organisatsioonide ja sotsiaalpartneritega, kes asuvad teistes liikmesriikides;

    132. tunnustab akadeemiliste ringkondade, kodanikuühiskonna ja tööstuse esindajatest ning Euroopa tehisintellekti liidust koosneva kõrgetasemelise tehisintellekti eksperdirühma väärtuslikke tulemusi, eelkõige usaldusväärse tehisintellekti eetikasuuniseid, ning soovitab, et töörühm võiks pakkuda eksperditeadmisi komisjonile ja/või mis tahes muule selleks määratavale asjaomasele liidu institutsioonile, organile, ametile või asutusele;

    133. märgib, et tehisintellektiga seotud projektid on kaasatud Euroopa kaitsevaldkonna tööstusliku arendamise programmi; on veendunud, et ka tulevane Euroopa Kaitsefond ja alaline struktureeritud koostöö (PESCO) võivad pakkuda tulevaste tehisintellektiga seotud projektide jaoks hästi kohandatud raamistikke, mis võiksid aidata liidu püüdlusi selles valdkonnas paremini ühtlustada, ning edendada samas liidu eesmärki tugevdada inimõigusi, rahvusvahelist õigust ja mitmepoolseid lahendusi; rõhutab, et tehisintellektiga seotud projektid tuleks sünkroniseerida ELi laiemate tehisintellekti käsitlevate tsiviilprogrammidega; märgib, et kooskõlas Euroopa Komisjoni 19. veebruari 2020. aasta valge raamatuga tehisintellekti kohta tuleks luua tipptaseme- ja katsekeskused, kus keskendutakse tehisintellektiga seotud uurimis- ja arendustegevusele julgeoleku ja kaitse valdkonnas, koos rangete spetsifikatsioonidega, mis toetavad erasektori sidusrühmade osalemist ja investeeringuid;

    134. võtab teadmiseks Euroopa Komisjoni 19. veebruari 2020. aasta valge raamatu tehisintellekti kohta ja peab kahetsusväärseks, et selles ei võetud arvesse sõjalisi aspekte; palub komisjonil ning liidu välisasjade ja julgeolekupoliitika kõrgel esindajal ja komisjoni asepresidendil esitada üldise lähenemisviisi osana valdkondlik tehisintellekti strateegia kaitsealase tegevuse jaoks liidu raamistikus, millega tagatakse nii kodanike õiguste kui ka liidu strateegiliste huvide austamine ning mis põhineb järjepideval lähenemisviisil, mis hõlmab nii tehisintellektil põhinevate süsteemide loomist kui ka nende sõjalist kasutust, ning luua tehisintellekti kõrgetasemelises eksperdirühmas julgeoleku ja kaitse töörühm, mis peaks tegelema konkreetselt tehisintellekti poliitika- ja investeerimisküsimustega ning käsitlema ka tehisintellekti eetilisi küsimusi julgeoleku ja kaitse valdkonnas; kutsub nõukogu, komisjoni ja komisjoni asepresidenti ning liidu välisasjade ja julgeolekupoliitika kõrget esindajat üles alustama sel eesmärgil struktureeritud dialoogi Euroopa Parlamendiga;

    Eetikapõhimõtetele vastavust kinnitav Euroopa sertifikaat

     

    135. teeb ettepaneku, et selles koostöös töötataks välja ühised kriteeriumid ja taotlemismenetlus eetikapõhimõtetele vastavust kinnitava Euroopa sertifikaadi väljastamiseks, sealhulgas juhuks, kui sellise tehnoloogia arendaja, juurutaja või kasutaja, mida ei peeta suure riskiga tehnoloogiaks, esitab taotluse tõendi saamiseks, et asjakohane riiklik järelevalveasutus on talle andnud positiivse hinnangu nõuetele vastavuse kohta;

    136. on veendunud, et selline eetikapõhimõtetele vastavuse Euroopa sertifikaat edendaks sisseprojekteeritud eetilisust kogu tehisintellekti ökosüsteemide tarneahelas; soovitab seetõttu, et suure riskiga tehnoloogiate puhul võiks selline sertifitseerimine olla tehisintellekti, robotitehnoloogia ja sellega seotud tehnoloogiate riigihankemenetlustes osalemise kohustuslik eeltingimus;

    Rahvusvaheline koostöö

    137. on seisukohal, et tulemuslikku piiriülest koostööd ja eetikanorme on võimalik saavutada vaid juhul, kui kõik sidusrühmad püüavad tagada inimtegevuse primaarsust ja järelevalvet, tehnilist ohutust ja töökindlust, läbipaistvust, vastutust, mitmekesisust, õiglust, mittediskrimineerimist ning sotsiaalset ja ökoloogilist heaolu ning järgivad eraelu puutumatuse, andmehalduse ja andmekaitse põhimõtteid, eelkõige neid, mis on sätestatud Euroopa Parlamendi ja nõukogu määruses (EL) 2016/679;

    138. rõhutab, et liidu õiguslikud kohustused ja eetikapõhimõtted nende tehnoloogiate arendamiseks, juurutamiseks ja kasutamiseks võivad asetada Euroopa maailmas tehisintellekti valdkonnas esikohale ning seetõttu tuleks neid edendada kogu maailmas, tehes koostööd rahvusvaheliste partneritega ning jätkates samal ajal kriitilist ja eetikal põhinevat dialoogi kolmandate riikidega, kellel on alternatiivsed tehisintellekti reguleerimise, arendamise ja juurutamise mudelid;

    139. tuletab meelde, et nende tehnoloogiatega seotud võimalustel ja riskidel on ülemaailmne mõõde, kuna nende kasutatavat tarkvara ja andmeid imporditakse sageli liitu ja eksporditakse sealt välja, ning seetõttu on rahvusvahelisel tasandil vaja järjepidevat koostööl põhinevat lähenemisviisi; kutsub komisjoni üles võtma initsiatiivi, et hinnata, milliseid kahe- ja mitmepoolseid lepinguid ja kokkuleppeid tuleks kohandada, et tagada järjekindel lähenemisviis ja edendada kogu maailmas eetikanõuetele vastavuse Euroopa mudelit;

    140. juhib sellega seoses ka tähelepanu eelnimetatud liidu tasandi koostöö lisaväärtusele;

    141. nõuab koostoime ja võrkude loomist eri Euroopa tehisintellekti valdkonna teaduskeskuste ning muude mitmepoolsete foorumitega, näiteks Euroopa Nõukogu, ÜRO Hariduse, Teaduse ja Kultuuri Organisatsiooni (UNESCO), Majanduskoostöö ja Arengu Organisatsiooni (OECD), Maailma Kaubandusorganisatsiooni ja Rahvusvahelise Telekommunikatsiooniliiduga (ITU), et kooskõlastada jõupingutused ja paremini koordineerida tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist;

    142. rõhutab, et liit peab ÜRO teatavate tavarelvade konventsiooni valitsuste eksperdirühma raamistikus ja muudel asjakohastel foorumitel juhtima mitmepoolsete pingutuste toetamist, et pidada arutelusid tõhusa rahvusvahelise õigusraamistiku üle, mis tagaks tegeliku inimkontrolli autonoomsete relvasüsteemide üle, et neid tehnoloogiaid edasi arendada, luues selleks selgelt määratletud võrdluspõhised protsessid ja võttes vastu õigusaktid nende eetiliseks kasutamiseks, ning pidada nõu sõjaväe, tööstuse, õiguskaitse, akadeemiliste ringkondade ja kodanikuühiskonna sidusrühmadega, et mõista nendega seotud eetilisi aspekte, piirata selliste tehnoloogiate olemuslikke riske ning ära hoida nende kasutamine kuritahtlikel eesmärkidel;

    143. tunnistab NATO rolli Euro-Atlandi piirkonna julgeoleku peamise edendajana ning nõuab NATO raames koostööd kaitseotstarbeliste tehisintellekti süsteemide ühiste standardite ja koostalitluse loomiseks; rõhutab, et Atlandi-ülesed suhted on tähtsad ühiste väärtuste säilitamiseks ning tulevaste ja tekkivate ohtude tõrjumiseks;

    144. rõhutab, et tähtis on koostada eetilise käitumise koodeks, mida tuleks järgida tehisintellektil põhinevate relvasüsteemide juurutamisel sõjalistes operatsioonides ja mis sarnaneks juba kehtivale reguleerivale raamistikule, mis keelab keemia- ja bioloogiliste relvade kasutuselevõtu; on seisukohal, et komisjon peaks kooskõlas rahvusvahelise humanitaarõigusega algatama tehisintellektipõhiste relvasüsteemide sõjategevuses kasutamise kohta standardite koostamise ning et EL peaks püüdma saavutada selliste standardite vastuvõtmise rahvusvahelisel tasandil; on seisukohal, et liit peaks rahvusvahelistel foorumitel ajama tehisintellekti alast diplomaatiat selliste temaga sarnastel seisukohtadel olevate partneritega nagu G7, G20 ja OECD;

    Lõppmärkused

     

    145. järeldab pärast eespool nimetatud mõtteid tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia eetilise mõõtmega seotud aspektide kohta, et õiguslik ja eetiline mõõde tuleks sätestada mõjusas, tulevikku suunatud ja terviklikus liidu tasandi õigusraamistikus, mida toetavad liikmesriikide pädevad asutused ning mida koordineerib ja edendab komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus, keda korrapäraselt toetab võimalik eespool nimetatud eksperdikeskus, ning mida siseturul nõuetekohaselt austatakse ja sertifitseeritakse;

    146. palub kooskõlas ELi toimimise lepingu artiklis 225 sätestatud menetlusega, et komisjon esitaks ELi toimimise lepingu artikli 114 alusel ja käesoleva ettepaneku lisas esitatud soovitustele põhinedes ettepaneku võtta vastu määrus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta; juhib tähelepanu sellele, et ettepanek ei tohiks õõnestada sektoripõhiseid õigusakte, vaid peaks hõlmama üksnes tuvastatud lünki;

    147. soovitab komisjonil pärast kõigi asjakohaste sidusrühmadega konsulteerimist vaadata vajaduse korral läbi kehtivad liidu õigusaktid, mida kohaldatakse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes, et reageerida nende kiirele arengule kooskõlas käesoleva ettepaneku lisas esitatud soovitustega, vältides ülereguleerimist, sealhulgas VKEde suhtes;

    148. on veendunud, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud liidu õigusraamistiku korrapärane hindamine ja vajaduse korral läbivaatamine on oluline, et tagada tehnoloogia arengu kiire tempo juures kohaldatavate õigusaktide ajakohasus;

    149. on seisukohal, et taotletud seadusandlikul ettepanekul oleks finantsmõju, kui Euroopa asutusele, kellele usaldatakse eespool nimetatud koordineerimisülesanded, tagatakse vajalikud tehnilised vahendid ja inimressursid oma uute ülesannete täitmiseks;

    150. teeb presidendile ülesandeks edastada käesolev resolutsioon ja lisas toodud üksikasjalikud soovitused komisjonile ja nõukogule.

     


    RESOLUTSIOONI ETTEPANEKU LISA: ÜKSIKASJALIKUD SOOVITUSED TAOTLETAVA ETTEPANEKU SISU KOHTA

    A. TAOTLETAVA ETTEPANEKU PÕHIMÕTTED JA EESMÄRGID

    I. Ettepaneku peamised põhimõtted ja eesmärgid on järgmised:

      suurendada kõigil tasanditel kaasatud sidusrühmade ja ühiskonna usaldust tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia vastu, eriti kui neid peetakse suure riskiga tehnoloogiaks;

      toetada liidus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, sealhulgas aidates koormuse ja bürokraatia võimalikult ulatusliku vähendamisega ettevõtjatel, sealhulgas väikestel ja keskmise suurusega ettevõtjatel, ning idufirmadel kindlustundega hinnata ja käsitleda praegusi ja tulevasi regulatiivseid nõudeid ja riske innovatsiooni ja ettevõtluse arendamise protsessis ning sellele järgnevas etapis, kus neid kasutavad kutsealasel eesmärgil kasutajad ja eraisikud;

      toetada liidus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia juurutamist, luues asjakohase ja proportsionaalse õigusraamistiku, mida tuleks kohaldada ilma, et see piiraks kehtivate ja tulevaste valdkondlike õigusaktide kohaldamist, ning mille eesmärk on suurendada õiguskindlust ja soodustada innovatsiooni ning tagada samal ajal põhiõigused ja tarbijakaitse;

      toetada liidus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamist, tagades, et neid arendatakse, juurutatakse ja kasutatakse eetikapõhimõtetele vastavalt;

      nõuda läbipaistvust ja paremat teabevahetust kodanike hulgas ja organisatsioonides, kes tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat arendavad, juurutavad ja kasutavad, et tagada selle tehnoloogia vastavus liidu õigusele, põhiõigustele ja -väärtustele ning eetikapõhimõtetele, mis on sätestatud taotletavas määruse ettepanekus.

    II. Ettepanek koosneb järgmistest elementidest:

      määrus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta; komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutuse koordineeriv roll liidu tasandil ning eetikapõhimõtetele vastavust kinnitav Euroopa sertifitseerimissüsteem;

      Euroopa Komisjoni toetav roll;

      iga liikmesriigi järelevalveasutuse roll, mis seisneb tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia puhul eetikapõhimõtete kohaldamise tagamises;

     

      asjakohaste teadus- ja arendusprojektide ning asjaomaste sidusrühmade, sealhulgas idufirmade, väikeste ja keskmise suurusega ettevõtjate, muude ettevõtjate, sotsiaalpartnerite ja muude kodanikuühiskonna esindajate kaasamine ja nendega konsulteerimine ning nende toetamine;

      lisa, millega kehtestatakse suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide ammendav ja kumulatiivne loetelu.

    III. Määrus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta tugineb järgmistele põhimõtetele:

      inimkeskne ning inimese loodud ja juhitav tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia;

      suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kohustuslik vastavushindamine;

      ohutus, läbipaistvus ja vastutus;

      tagatised ja kaitsemeetmed kallutatuse ja diskrimineerimise vastu;

      õigus õiguskaitsele;

      tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud sotsiaalne vastutus ja sooline võrdõiguslikkus;

      keskkonnasäästlik tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia;

      eraelu puutumatuse austamine ja biomeetria kasutamise piirangud;

      tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate andmetega, seotud hea juhtimistava.

    IV. Liidu tasandil koordineerimise tagamiseks peaks komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus täitma järgmisi põhiülesandeid:

      tegema taotletava määruse ettepaneku ja asjakohaste valdkondlike liidu õigusaktide rakendamise järelevalve alast koostööd;

      tegema koostööd suuniste esitamisel taotletava määruse ettepaneku ühetaoliseks kohaldamiseks, nimelt niisuguste kriteeriumide kohaldamiseks, mille alusel otsustatakse, et tegemist on suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga, ning koostatakse määruse lisas esitatud suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide loetelu;

      tegema koostööd iga liikmesriigi järelevalveasutusega, et töötada välja taotletavas määruse ettepanekus ja asjakohases liidu õiguses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele vastavust kinnitav Euroopa sertifikaat ning töötada välja taotlusmenetlus mitte suureks peetava riskiga tehnoloogia arendajale, juurutajale ja kasutajale, kes soovib tõendada oma vastavust taotletavale määruse ettepanekule;

      tegema koostööd valdkonnaülese ja piiriülese koostöö toetamisel, vahetades korrapäraselt teavet asjaomaste sidusrühmade ja kodanikuühiskonnaga ELis ja kogu maailmas, eelkõige ettevõtjate, sotsiaalpartnerite, teadlaste ja pädevate asutustega, muuhulgas rahvusvahelisel tasandil tehniliste standardite väljatöötamise kohta;

      tegema koostööd iga liikmesriigi järelevalveasutusega, et kehtestada siduvad suunised meetodite kohta, mida iga järelevalveasutus peab vastavushindamise tegemisel järgima;

      tegema koostööd iga liikmesriigi järelevalveasutusega suhtlemisel ning nende volituste ja ülesannete koordineerimisel;

      tegema koostööd teadlikkuse suurendamisel, teabe jagamisel ning arendajate, juurutajate ja kasutajatega toimuvas teabevahetuses osalemisel kogu liidus;

      tegema koostööd teadlikkuse suurendamisel, teabe jagamisel, digikirjaoskuse, ‑koolituse ja ‑oskuste edendamisel ning projekteerijate, arendajate, juurutajate, kodanike, kasutajate ja institutsiooniliste organitega toimuvas teabevahetuses osalemisel kogu liidus ja rahvusvahelisel tasandil;

      tegema koostööd tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise juhtimise niisuguse ühise raamistiku koordineerimisel, mida peab hakkama rakendama iga liikmesriigi järelevalveasutus;

      tegema koostööd eksperdikeskusena tegutsemisel, edendades teabevahetust ja toetades ühise arusaama kujundamist ühtsel turul;

      tegema koostööd julgeoleku ja kaitse töörühmale töötingimuste tagamisel.

    V. Lisaks peaks komisjon täitma järgmisi ülesandeid:

      koostama delegeeritud õigusaktidega ühise loetelu suure riskiga tehnoloogiatest, mis tehakse liidus kindlaks koostöös iga liikmesriigi järelevalveasutusega, ning seda loetelu edaspidi ajakohastama;

      ajakohastama määruse lisas esitatud loetelu delegeeritud õigusaktidega.

    VI. Iga liikmesriigi järelevalveasutus peaks täitma järgmisi põhiülesandeid:

      aitama kaasa taotletavas määruse ettepanekus kehtestatud õigusraamistiku ühetaolisele kohaldamisele koostöös teiste liikmesriikide järelevalveasutustega ning muude ametiasutustega, kes vastutavad valdkondlike õigusaktide rakendamise eest, samuti komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutusega, pidades eelkõige silmas taotletavas määruse ettepanekus sätestatud riskihindamise kriteeriumide ning lisas esitatud suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide loetelu kohaldamist ning niisuguse kohaldamise tulemusel suure riskiga tehnoloogia kindlakstegemise korral vajalike ja asjakohaste meetmete rakendamise edasist järelevalvet;

      hindama, kas liidus arendatavat, juurutatavat ja kasutatavat tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, tuleb pidada suure riskiga tehnoloogiaks vastavalt riskihindamise kriteeriumidele, mis on sätestatud taotletavas määruse ettepanekus ja selle lisas esitatud loetelus;

      väljastama taotletavas määruse ettepanekus ja asjakohases liidu õiguses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele vastavust kinnitava Euroopa sertifikaadi, sealhulgas juhul, kui selleks kasutatakse taotlusmenetlust, mille komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus on välja töötanud mitte suureks peetava riskiga tehnoloogia arendaja, juurutaja või kasutaja jaoks, kes soovib tõendada oma vastavust taotletavale määruse ettepanekule;

      hindama ja jälgima nende vastavust taotletavas määruse ettepanekus ja asjakohases liidu õiguses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele;

      vastutama tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia juhtimisstandardite kehtestamise ja rakendamise eest, ühtlasi suheldes ja pidades korrapärast dialoogi kõikide asjaomaste sidusrühmade ja kodanikuühiskonna esindajatega; tegema selleks liidu tasandil ühise raamistiku koordineerimise alast koostööd komisjoni ja mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutusega;

      suurendama teadlikkust, esitama üldsusele tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat käsitlevat teavet ning toetama asjakohastel kutsealadel, sealhulgas kohtusüsteemis, koolituse pakkumist, suurendades seeläbi kodanike ja töötajate mõjuvõimu õiglaseks üleminekuks vajalike digikirjaoskuse, -oskuste ja ‑vahenditega;

      olema esimene kontaktpunkt, kellega võtta ühendust juhul, kui kahtlustatakse taotletavas määruse ettepanekus sätestatud juriidiliste kohustuste ja eetikapõhimõtete rikkumist, ning tegema sellisel juhul vastavushindamise; vastavushindamise tegemisel võib ta konsulteerida teiste liidu pädevate asutustega, eelkõige tarbijakaitsealase koostöö võrgustiku, riiklike tarbijakaitseorganite, kodanikuühiskonna organisatsioonide ja sotsiaalpartneritega, ja/või neid teavitada.

    VII. Sidusrühmade keskse tähtsusega ülesanne peaks olema teha koostööd komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutuse ning iga liikmesriigi järelevalveasutusega.

    B. TAOTLETAVA SEADUSANDLIKU ETTEPANEKU TEKST

    Ettepanek:

    EUROOPA PARLAMENDI JA NÕUKOGU MÄÄRUS

    tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta

    võttes arvesse Euroopa Liidu toimimise lepingut, eriti selle artiklit 114,

    võttes arvesse Euroopa Komisjoni ettepanekut,

    olles edastanud seadusandliku akti eelnõu liikmesriikide parlamentidele,

    võttes arvesse Euroopa Majandus- ja Sotsiaalkomitee arvamust,

    toimides seadusandliku tavamenetluse kohaselt

    ning arvestades järgmist:

    (1) Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamine, juurutamine ja kasutamine peaks põhinema soovil teenida ühiskonda. Sellise tehnoloogiaga võivad kaasneda võimalused ja riskid, mille käsitlemiseks ja reguleerimiseks tuleks liidu tasandil kehtestada terviklik õigusraamistik, milles võetakse arvesse eetikapõhimõtteid ning mida tuleb järgida alates sellest, kui sellist tehnoloogiat hakatakse arendama ja juurutama, kuni selle kasutamiseni.

    (2) Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete liidus arendamine, juurutamine ja kasutamine peaks olema kõikides liikmesriikides ühesugusel määral õigusraamistikule vastav, et kasutada tõhusalt ära sellise tehnoloogia võimalusi ja tegeleda järjepidevalt sellega seotud riskidega ning hoida ära õiguslikku killustatust. Tuleks tagada, et käesolevas määruses sätestatud reegleid kohaldatakse kogu liidus ühetaoliselt.

    (3) Sellega seoses kujutab kogu liidus järgitavate reeglite ja tavade praegune mitmekesisus endast märkimisväärset ühtse turu killustatuse riski ning ohustab märkimisväärselt nii üksikisikute kui ka ühiskonna heaolu ja jõukuse kaitset ning takistab tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia innovatsiooni edendamise ning heaolu ja jõukuse säilitamise alase täieliku potentsiaali sidusat uurimist. Erinevused selles, kui suurel määral võtavad arendajad, juurutajad ja kasutajad sellele tehnoloogiale omast eetilist mõõdet arvesse, võivad takistada niisuguse tehnoloogia vaba arendamist, juurutamist ja kasutamist liidus ning sellised erinevused võivad takistada võrdsete tingimuste loomist, tehnoloogiliste edusammude tegemist ning majandustegevust liidu tasandil, moonutada konkurentsi ja takistada ametiasutusi täitmast oma liidu õigusest tulenevaid kohustusi. Lisaks loob tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtteid kajastava ühise õigusraamistiku puudumine kõigi osaliste, nimelt arendajate, juurutajate ja kasutajate jaoks õiguskindlusetuse.

    (4) Käesolev määrus peaks aga samaaegselt liidu tasandil sidusa lähenemisviisi saavutamisele kaasa aitamisega ja selles seatud piirangute raames jätma liikmesriikidele teatava rakendamisalase manööverdamisruumi, sealhulgas selle osas, kuidas nende asjaomased riiklikud järelevalveasutused peavad oma volitusi käesolevas määruses sätestatud eesmärki silmas pidades täitma.

    (5) Käesolev määrus ei piira kehtivate ega tulevaste valdkondlike õigusaktide kohaldamist. See peaks olema oma eesmärgiga proportsionaalne, et see ei takistaks põhjendamatult liidus innovatsiooni, ning olema kooskõlas riskipõhise lähenemisviisiga.

    (6) Sellise raamistiku geograafiline kohaldamisala peaks hõlmama kõiki tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia komponente kogu nende liidus arendamise, juurutamise ja kasutamise protsessis, sealhulgas juhul, kui osa tehnoloogiast võib asuda väljaspool liitu või kui sellel ei ole kindlat või ühte asukohta, näiteks pilvandmetöötluse teenuste puhul.

    (7) Liidus on vaja ühist arusaama sellistest mõistetest nagu tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia ning biomeetria, et võimaldada ühtset regulatiivset lähenemisviisi ja seeläbi õiguskindlust nii kodanikele kui ka äriühingutele. Need peaksid olema tehnoloogianeutraalsed ja need tuleks vajaduse korral läbi vaadata.

    (8) Lisaks tuleb arvesse võtta niisuguste tehisintellekti ja robotitehnoloogiaga seotud tehnoloogiate olemasolu, mis võimaldavad tarkvaral juhtida füüsilisi ja virtuaalseid protsesse ning mille autonoomia tase on erinev[13]. Näiteks automatiseeritud sõidukijuhtimise puhul on ühingu SAE International standardiga J3016 ette nähtud kuus sõidukijuhtimise automatiseerimise taset.

    (9) Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamisel, juurutamisel ja kasutamisel tuleks tagada inimvõimete täiendamine, mitte nende asendamine, ning seejuures ei tohi minna vastuollu kodanike parimate huvidega ja tuleb tagada vastavus liidu õigusele, Euroopa Liidu põhiõiguste hartas (edaspidi „harta“) sätestatud põhiõigustele, Euroopa Liidu Kohtu väljakujunenud kohtupraktikale ning muudele liidus kohaldatavatele ELi ja rahvusvahelistele õigusaktidele.

    (10) Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia enda tehtud või nendelt saadud teabe alusel tehtud otsuseid peaksid ka edaspidi sisuliselt läbi vaatama, hindama ja kontrollima ning nendesse sekkuma inimesed. Sellise tehnoloogia tehniline ja tegevuslik keerukus ei tohiks mingil juhul takistada selle juurutajat või kasutajat vähemalt käivitamast tõrkekindlat seiskamist, tehnoloogia toiminguid muutmast või peatamast või eelmist olekut taastamast, millega taastatakse turvalised funktsioonid, kui vastavus liidu õigusele ning käesolevas määruses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele on ohus.

    (11) Tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, mille arendamise, juurutamise ja kasutamisega kaasneb märkimisväärne risk tekitada üksikisikutele või ühiskonnale vigastusi või kahju, rikkudes liidu õiguses sätestatud põhiõigusi ja ohutusreegleid, tuleks liigitada suure riskiga tehnoloogiaks. Neile sellise hinnangu andmisel tuleks arvesse võtta sektorit, kus neid arendatakse, juurutatakse või kasutatakse, nende spetsiifilist kasutusala ja -eesmärki ning eeldatava vigastuse või kahju tõsidust. Tõsidusaste tuleks kindlaks määrata võimaliku vigastuse või kahju ulatuse, mõjutatud isikute arvu, tekitatud kahju koguväärtuse ja ühiskonnale tervikuna tekitatud kahju alusel. Tõsise vigastuse ja kahju liikide hulka kuuluvad näiteks laste, tarbijate ja töötajate õiguste rikkumised, mis oma ulatuse, mõjutatud laste, tarbijate või töötajate arvu või kogu ühiskonnale avalduva mõju tõttu kujutavad endast märkimisväärset liidu õiguses sätestatud põhiõiguste ja ohutusreeglite rikkumise ohtu. Käesolevas määruses tuleks esitada suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide ammendav ja kumulatiivne loetelu.

    (12) Käesolevas määruses sätestatud nõudeid, eelkõige neid, mis on seotud suure riskiga tehnoloogiaga, tuleks kohaldada üksnes tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete suhtes, mille arendamine, juurutamine või kasutamine toimub liidus ning mida käesolevas määruses sätestatud riskihindamise põhjal peetakse suure riskiga tehnoloogiaks. Selliseid nõudeid tuleb täita, ilma et see piiraks üldist nõuet, et mis tahes tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamine, juurutamine ja kasutamise peaks olema liidus inimkeskne ning põhinema inimeste autonoomia ja inimeste ohutuse põhimõttel kooskõlas liidu õigusega, austades täielikult põhiõigusi, nagu inimväärikus, õigus vabadusele ja turvalisusele ning õigus isikupuutumatusele.

    (13) Suure riskiga tehnoloogia puhul tuleks järgida ohutuse, läbipaistvuse, vastutuse, kallutamatuse ja mittediskrimineerimise, sotsiaalse vastutuse ja soolise võrdõiguslikkuse, õiguskaitse õiguse, keskkonnasäästlikkuse, eraelu puutumatuse ja hea juhtimistava põhimõtteid, võttes aluseks erapooletu, objektiivse ja välise riskihindamise, mille teeb riiklik järelevalveasutus vastavalt käesolevas määruses ja selle lisas esitatud loetelus sätestatud kriteeriumidele. Hindamisel tuleks arvesse võtta arendaja või juurutaja seisukohti ja enesehindamist.

    (14) Komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus peaks arendajatele, juurutajale ja kasutajatele koostama mittesiduvad rakendussuunised meetodite kohta, millega tagatakse vastavus käesolevale määrusele. Seda tehes peaksid nad konsulteerima asjaomaste sidusrühmadega.

    (15) Kõnealuse tehnoloogia riskihindamine peaks liidus olema sidus, eriti juhul, kui seda hinnatakse nii käesoleva määruse seisukohast kui ka kooskõlas mis tahes kohaldatavate valdkondlike õigusaktidega. Sellest tulenevalt peaksid riiklikud järelevalveasutused teavitama teisi asutusi, kes teevad riskihindamist kooskõlas valdkondlike õigusaktidega, sellest, kui kõnealusele tehnoloogiale antakse käesolevas määruses ette nähtud riskihindamisel suure riskiga tehnoloogia hinnang.

    (16) Selleks et suure riskiga tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, sealhulgas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed, oleksid usaldusväärsed, tuleks niisugust tehnoloogiat arendada, juurutada ja kasutada ohutul, läbipaistval ja vastutustundlikul viisil kooskõlas selliste ohutusnõuetega nagu töökindlus, vastupanuvõime, turvalisus, täpsus ja vigade tuvastamine, selgitatavus, tõlgendatavus, kontrollitavus, läbipaistvus ja tuvastatavus ning viisil, mis võimaldab asjakohased funktsioonid välja lülitada või eelmise oleku taastada, millega taastatakse turvalised funktsioonid, kui neid nõudeid ei järgita. Läbipaistvus tuleks tagada seeläbi, et avaliku sektori asutustele antakse juhul, kui see on tingimata vajalik, juurdepääs sellise tehnoloogia aluseks olevatele tehnoloogia-, andme- ja andmetöötlussüsteemidele.

    (17) Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, eriti suure riskiga tehnoloogia arendajad, juurutajad ja kasutajad vastutavad ohutuse, läbipaistvuse ja vastutuse põhimõtete järgimise eest erineval määral vastavalt nende seotusele asjakohase tehnoloogiaga, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmetega. Arendajad peaksid tagama, et asjakohane tehnoloogia projekteeritakse ja ehitatakse vastavalt käesolevas määruses sätestatud ohutusnõuetele ning juurutajad ja kasutajad peaksid selle tehnoloogia juurutamisel ja kasutamisel neid nõudeid täielikult järgima. Selleks peaksid suure riskiga tehnoloogia arendajad hindama ja prognoosima väärkasutuse riske, mida nende arendatava tehnoloogia puhul võib põhjendatult eeldada. Samuti peavad nad tagama, et nende arendatavad süsteemid annavad võimaluste piires ja asjakohaste vahendite, näiteks vastutuse välistamise teadete kaudu märku vigade või ebatäpsuste tõenäosusest.

    (18) Arendajad ja juurutajad peaksid tegema kasutajatele kättesaadavaks kõik asjakohase tehnoloogia hilisemad, eelkõige tarkvaraga seotud, uuendused, nagu on sätestatud lepingus või liidu või riigi õiguses. Kui riskihindamine seda näitab, peaksid arendajad ja juurutajad esitama avaliku sektori asutustele kõnealuse tehnoloogia kasutamist käsitlevad asjakohased dokumendid ja sellega seotud ohutusjuhised, sealhulgas süsteemis kasutatava lähtekoodi, arendusvahendid ja andmed, kui see on tingimata vajalik ja täielikus kooskõlas andmekaitset, eraelu puutumatust ja intellektuaalomandi õigusi ning ärisaladusi käsitlevate liidu õigusaktidega.

     (19) Üksikisikutel on õigus eeldada, et nende kasutatav tehnoloogia toimib mõistlikul viisil ja väärib nende usaldust. Kodanike usaldus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete vastu sõltub tehniliste protsesside mõistmisest ja neist arusaamisest. Selliste protsesside selgitatavuse tase peaks sõltuma protsesside kontekstist ning ekslike või ebatäpsete väljundite tagajärgede tõsidusest ning peab olema piisav nende vaidlustamiseks ja õiguskaitse taotlemiseks. Kontrollitavus, jälgitavus ja läbipaistvus peaksid vähendama sellise tehnoloogia võimalikku mittemõistetavust.

    (20) Ühiskonna usaldus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete vastu sõltub sellest, kuivõrd on asjakohase tehnoloogia puhul võimalik neid hinnata, kontrollida ja jälgida. Kui arendajate osalemise ulatuse tõttu on see vajalik, peaksid nad tagama, et selline tehnoloogia projekteeritakse ja ehitatakse viisil, mis võimaldab sellist hinnatavust, kontrollitavust ja jälgitavust. Kui see on tehniliselt võimalik, peaksid arendajad, juurutajad ja kasutajad tagama, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia juurutamisel ja kasutamisel järgitakse täielikult läbipaistvusnõudeid ning võimaldatakse kontrollitavust ja jälgitavust.

    (21) Läbipaistvuse ja vastutuse tagamiseks tuleks kodanikke teavitada sellest, kui süsteemis kasutatakse tehisintellekti, kui tehisintellekti süsteemid isikustavad kasutaja jaoks toodet või teenust, kas nad saavad isikustamise välja lülitada või seda piirata ning kui nad puutuvad kokku automatiseeritud otsuste tegemise tehnoloogiaga. Lisaks tuleks läbipaistvusmeetmeteid tehniliste võimaluste piires täiendada selgete ja arusaadavate selgitustega kasutatud andmete ja algoritmi, selle kasutuseesmärgi, väljundi ja võimalike ohtude kohta.

    (22) Tarkvara, algoritmide ja andmete kallutatus ja nende kaudu toimuv diskrimineerimine on ebaseaduslik ning selle vältimiseks tuleks reguleerida nende projekteerimise ja juurutamise protsesse. Kallutatus võib tuleneda nii automatiseeritud süsteemilt saadud teabel põhinevatest või niisuguse süsteemi tehtud otsustest, samuti andmekogumitest, millel niisuguste otsuste tegemine põhineb või millega süsteemi treenitud on.

    (23) Tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavaid või nendega toodetavaid tarkvara, algoritme ja andmeid tuleks pidada kallutatuks näiteks siis, kui nende kasutamisel ei saada mõne isiku või isikute rühma puhul optimaalseid tulemusi tingituna üksikisiku või ühiskonna eelarvamuslikust suhtumisest ja nende omadusi käsitlevate andmete hilisemast töötlemisest.

    (24) Liidu õiguse kohaselt tuleks tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavaid või nendega toodetavaid tarkvara, algoritme ja andmeid pidada diskrimineerivaks, kui need loovad väljundeid, millel on ebaproportsionaalne kahjulik mõju ja millega kaasneb mõne isiku või isikute rühma teistest erinev kohtlemine, sealhulgas nende teistega võrreldes halvemasse olukorda seadmine nende isikuomadustega seotud põhjustel – seda objektiivselt või mõistlikult põhjendamata ja tehnoloogia väidetavast neutraalsusest hoolimata.

    (25) Kooskõlas liidu õigusega on õiguspärased eesmärgid, mida võib käesoleva määruse alusel pidada isikute või nende rühmade erinevat kohtlemist objektiivselt põhjendatavateks eesmärkideks, järgmised: avaliku julgeoleku ja turvalisuse ning rahvatervise kaitse, kuritegevuse ennetamine, põhiõiguste ja -vabaduste kaitse, õiglane esindatus ja objektiivsed nõuded kutsealal töötamiseks.

    (26) Tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, sealhulgas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed, peaksid aitama teha kestlikke edusamme. Niisugune tehnoloogia ei tohiks olla vastuolus keskkonnakaitse ega rohelisele majandusele ülemineku eesmärkidega. Sellel võib olla oluline roll ÜRO kestliku arengu eesmärkide saavutamisel, et võimaldada tulevastele põlvkondadele õitsengut. Sellise tehnoloogiaga võidakse toetada piisavate edusammude jälgimist, võttes aluseks kestlikkuse ja sotsiaalse ühtekuuluvuse näitajad ning kasutades vastutustundlikke teadus- ja innovatsioonivahendeid, milleks on vaja liidu ja liikmesriikide eraldatavaid vahendeid, et toetada projekte, millega nende eesmärkide poole püüeldakse, ja neisse investeerida.

    (27) Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamisel, juurutamisel ja kasutamisel ei tohiks mingil juhul tekitada üksikisikutele ega ühiskonnale tahtlikult mis tahes vigastust või kahju ega sellega sisseprojekteeritult leppida. Seetõttu tuleks suure riskiga tehnoloogiat arendada, juurutada ja kasutada sotsiaalselt vastutustundlikult.

    (28) Seetõttu tuleks arendajaid, juurutajaid ja kasutajaid pidada üksikisikutele ja ühiskonnale tekitatud mis tahes vigastuse või kahju eest vastutavaks vastavalt sellele, kuivõrd nad on tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisse, juurutamisse ja kasutamisse kaasatud, ning kooskõlas liidu ja riikide vastutusreeglitega.

    (29) Eelkõige arendajaid, kes teevad tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise käiku ja viisi määravaid ja kontrollivaid otsuseid, ning juurutajaid, kes on nende juurutamisse kaasatud, tehes juurutamist käsitlevaid otsuseid ning kontrollides sellega seotud riske või saades juurutamisest kasu, ning täidavad juhtimis- või haldusülesandeid, tuleks üldiselt pidada vastutavaks mis tahes vigastuse või kahju tekitamise ärahoidmise eest, milleks nad peavad arendamisprotsessis kehtestama meetmed, mida nad peavad juurutamisetapis ka üksikasjalikult järgima.

    (30) Sotsiaalselt vastutustundlikku tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, võib määratleda tehnoloogiana, mis aitab leida lahendusi, millega kaitstakse ja edendatakse ühiskonda puudutavaid eri eesmärke, eelkõige eesmärke, mis on seotud demokraatia, tervishoiu ja majandusliku jõukuse, võrdsete võimaluste, töötajate ja sotsiaalsete õiguste, mitmekesise ja sõltumatu meedia ning avalikku arutelu võimaldava objektiivse ja vabalt kättesaadava teabe, kvaliteetse hariduse, kultuurilise ja keelelise mitmekesisuse, soolise tasakaalu, digikirjaoskuse, innovatsiooni ja loovusega. Siia hulka kuulub ka tehnoloogia, mille arendamisel, juurutamisel ja kasutamisel võetakse nõuetekohaselt arvesse selle lõplikku mõju kodanike füüsilisele ja vaimsele heaolule ning millega ei õhutata vaenu ega vägivalda. Need eesmärgid tuleks saavutada eelkõige suure riskiga tehnoloogia abil.

    (31) Tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat tuleks arendada, juurutada ja kasutada ka selleks, et toetada sotsiaalset kaasatust, demokraatiat, pluralismi, solidaarsust, õiglust, võrdsust ja koostööd, ning nende sellealast potentsiaali tuleks teadus- ja innovatsiooniprojektide kaudu võimalikult palju suurendada ja uurida. Seetõttu peaksid liit ja selle liikmesriigid võtma selliste projektide toetamiseks ja nendesse investeerimiseks kasutusele oma kommunikatsiooni-, haldus- ja rahalised vahendid.

    (32) Projekte, mis on seotud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia potentsiaaliga tegeleda sotsiaalse heaolu küsimusega, tuleks ellu viia vastutustundlike teadus- ja innovatsioonivahenditega, et tagada nende projektide puhul algusest peale eetikapõhimõtetele vastavus.

    (33) Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamisel, juurutamisel ja kasutamisel tuleks arvesse võtta nende keskkonnajalajälge. Kooskõlas kohaldatavas liidu õiguses kehtestatud kohustustega ei tohiks niisugune tehnoloogia tekitada oma olelusringi jooksul ega kogu oma tarneahelas keskkonnale kahju ning seda tuleks arendada, juurutada ja kasutada nii, et sellega hoitakse keskkonda, leevendatakse ja korvatakse selle keskkonnajalajälge, aidatakse kaasa rohelisele majandusele üleminekule ning toetatakse kliimaneutraalsuse ja ringmajanduse eesmärkide saavutamist.

    (34) Käesoleva määruse kohaldamisel tuleks arendajaid, juurutajaid ja kasutajaid pidada keskkonnale tekitatud mis tahes kahju eest vastutavaks vastavalt sellele, kuivõrd nad on suure riskiga tehnoloogiaks peetava tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisse, juurutamisse ja kasutamisse kaasatud, ning kooskõlas kohaldatavate keskkonnavastutuse reeglitega.

    (35) Sellist tehnoloogiat tuleks arendada, juurutada ja kasutada ka selleks, et toetada kooskõlas kohaldatavas liidu õiguses kehtestatud kohustustega selliste keskkonnaeesmärkide saavutamist nagu jäätmetekke ja CO2 jalajälje vähendamine, kliimamuutuste vastu võitlemine ja keskkonnakaitse, ning selle potentsiaali tuleks selles valdkonnas teadus- ja innovatsiooniprojektide kaudu võimalikult palju suurendada ja uurida. Seetõttu peaksid liit ja liikmesriigid võtma selliste projektide toetamiseks ja nendesse investeerimiseks kasutusele oma kommunikatsiooni-, haldus- ja rahalised vahendid.

    (36) Projekte, mis on seotud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia potentsiaaliga lahendada keskkonnaprobleeme, tuleks ellu viia vastutustundlike teadus- ja innovatsioonivahenditega, et tagada nende projektide puhul algusest peale eetikapõhimõtetele vastavus.

    (37) Liidus arendatava, juurutatava ja kasutatava tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete puhul tuleks täielikult austada liidu kodanike õigust eraelu puutumatusele ja isikuandmete kaitsele. Eelkõige peaks selle arendamine, juurutamine ja kasutamine olema kooskõlas Euroopa Parlamendi ja nõukogu määrusega (EL) 2016/679[14] ning Euroopa Parlamendi ja nõukogu direktiiviga 2002/58/EÜ[15].

    (38) Eelkõige tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete kasutamise eetilisi piire nõuetekohaselt arvesse võtta siis, kui isikute automaatseks tuvastamiseks kasutatakse kaugtuvastustehnoloogiat, näiteks biomeetriliste tunnuste tuvastamist, eelkõige näotuvastust. Kui avaliku sektori asutused kasutavad niisugust tehnoloogiat olulise avaliku huviga seotud põhjustel, eelkõige isikute turvalisuse tagamiseks ja riikliku hädaolukorraga tegelemiseks, mitte vara turvalisuse tagamiseks, peaks niisugune kasutamine olema alati avalik, proportsionaalne ja sihipärane, piirduma erieesmärkidega ning olema ajaliselt piiratud ning seejuures tuleks järgida liidu õigust ja võtta nõuetekohaselt arvesse inimeste väärikust ja autonoomiat ning hartas sätestatud põhiõigusi. Sellise kasutamise kriteeriumid ja piirangud peaksid olema allutatud kohtulikule kontrollile ja demokraatlikule kontrollile ning neid tuleks arutada koos kodanikuühiskonnaga.

    (39) Asjakohastel standarditel põhinev juhtimine suurendab ohutust ning tekitab kodanikes suurema usalduse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamise, juurutamise ja kasutamise vastu.

    (40) Avaliku sektori asutused peaksid enne niisuguse suure riskiga tehnoloogia juurutamist, mis toetab avalikus sektoris tehtavaid otsuseid ning millel on otsene ja märkimisväärne mõju kodanike õigustele ja kohustustele, hindama selle mõju põhiõiguste seisukohast.

    (41) Olemasolevatest asjakohastest juhtimisstandarditest võib nimetada näiteks komisjoni moodustatud kõrgetasemelise tehisintellekti eksperdirühma koostatud eetikasuuniseid usaldusväärse tehisintellekti arendamiseks ning muid tehnilisi standardeid, näiteks neid, mille on Euroopa tasandil vastu võtnud Euroopa Standardikomitee (CEN), Euroopa Elektrotehnika Standardikomitee (CENELEC) ja Euroopa Telekommunikatsioonistandardite Instituut (ETSI) ning üleilmsel tasandil Rahvusvaheline Standardiorganisatsioon (ISO) ning Elektri- ja Elektroonikainseneride Instituut (IEEE).

    (42) Kui andmeid kasutavad ja jagavad mitu osalejat, on tegemist tundliku tegevusega, mistõttu tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, juurutamist ja kasutamist reguleerida asjakohaste reeglite, standardite ja protokollidega, milles võetakse arvesse kvaliteeti, terviklust, turvalisust, usaldusväärsust, eraelu puutumatust ja kontrolli käsitlevaid nõudeid. Andmehaldusstrateegias tuleks keskenduda selliste andmete töötlemisele, jagamisele ja kättesaadavusele, sh nende nõuetekohasele haldamisele, kontrollitavusele ja jälgitavusele, ning tagada piisav kaitse andmete puhul, mis puudutavad haavatavaid rühmi, sealhulgas puuetega inimesi, patsiente, lapsi, alaealisi, vähemusi ja rändajaid ning muid tõrjutuse ohus olevaid rühmi. Lisaks peaks arendajatel, juurutajatel ja kasutajatel olema arendatava, juurutatava ja kasutatava tehnoloogia usaldusväärsuse suurendamiseks kasutatavate andmekogumite hindamisel võimalik tugineda vajaduse korral võtmetähtsusega tulemuslikkuse põhinäitajatele.

    (43) Liikmesriigid peaksid määrama järelevalveasutuseks sõltumatu haldusasutuse. Eelkõige peaks iga riiklik järelevalveasutus vastutama niisuguse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kindlakstegemise eest, mida peetakse käesolevas määruses sätestatud riskihindamiskriteeriumide alusel suure riskiga tehnoloogiaks, ning niisuguse tehnoloogia puhul käesolevas määruses sätestatud nõuetele vastavuse hindamise ja jälgimise eest.

    (44) Iga riiklik järelevalveasutus peaks kandma ka vastutust niisuguse tehnoloogia hea juhtimistava eest ning seda peaks koordineerima komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus. Sellest tulenevalt on neil oluline roll liidu kodanike usalduse ja turvalisuse suurendamisel ning demokraatliku, pluralistliku ja võrdõigusliku ühiskonna võimaldamisel.

    (45) Selleks et hinnata käesoleva määruse kohaselt suure riskiga tehnoloogiat ja jälgida selle vastavust käesolevale määrusele, peaksid riiklikud järelevalveasutused tegema vajaduse korral koostööd asutustega, kes vastutavad niisuguse tehnoloogia hindamise ja jälgimise ning valdkondlikele õigusaktidele vastavuse tagamise eest.

    (46) Riiklikud järelevalveasutused peaksid tegema sisulist ja korrapärast koostööd nii omavahel kui ka komisjoni ja muude asjaomaste liidu institutsioonide, organite, ametite ja asutustega, et tagada sidusad piiriülesed meetmed ning võimaldada liidus kõnealuse tehnoloogia järjepidevat arendamist, juurutamist ja kasutamist vastavalt käesolevas määruses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele.

    (47) Sellise koostöö kontekstis ja selleks, et saavutada liidu tasandil täielik ühtlustamine, peaksid riiklikud järelevalveasutused abistama komisjoni suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia ühise ja ammendava loetelu koostamisel kooskõlas käesolevas määruses ja selle lisas sätestatud kriteeriumidega. Lisaks tuleks välja töötada eetikapõhimõtetele vastavust kinnitava Euroopa sertifikaadi väljastamise menetlus, sealhulgas vabatahtlik taotlusmenetlus mitte suureks peetava riskiga tehnoloogia arendaja, juurutaja või kasutaja jaoks, kes soovib tõendada oma vastavust käesolevale määrusele.

    (48) Riiklikud järelevalveasutused peaksid tagama võimalikult paljude sidusrühmade (tööstussektori esindajad, ettevõtjad, sotsiaalpartnerid, teadlased, tarbijad ja kodanikuühiskonna organisatsioonid) kokkutoomise ning looma pluralistliku foorumi aruteludeks ja arvamuste vahetuseks, et jõuda mõistetavate ja täpsete järeldusteni, millest juhinduda juhtimise reguleerimisel.

    (49) Riiklikud järelevalveasutused peaksid tagama võimalikult paljude sidusrühmade, näiteks tööstussektori esindajate, ettevõtjate, sotsiaalpartnerite, teadlaste, tarbijate ja kodanikuühiskonna organisatsioonide kaasamise ning looma aruteluks ja arvamuste vahetuseks pluralistliku foorumi, et soodustada koostööd sidusrühmadega, eriti akadeemilise ringkonna, teadus- ja tööstusvaldkonna ning kodanikuühiskonna esindajate ja üksikekspertidega, ning nende vahel, mille tulemusel saaks selle valdkonna juhtimise reguleerimise kohta suuniste andmiseks teha mõistetavaid ja täpseid järeldusi.

    (50) Peale selle peaksid riiklikud järelevalveasutused andma abi ja asjatundlikke haldussuuniseid arendajatele, juurutajatele ja kasutajatele, eelkõige väikestele ja keskmise suurusega ettevõtjatele ning idufirmadele, kellel on käesolevas määruses sätestatud eetikapõhimõtete ja juriidiliste kohustuste järgimisel raskusi.

    (51) Komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus peaks koostama mittesiduvad rakendussuunised meetodite kohta, mida riiklikud järelevalveasutused peavad vastavushindamisel kasutama.

    (52) Rikkumisest teatamine juhib ametiasutuste tähelepanu liidu õiguse võimalikule ja tegelikule rikkumisele ning aitab ära hoida vigastusi, kahju ja kahjustusi, mis muidu tekiksid. Ühtlasi aitavad teatamismenetlused parandada ettevõtte- ja organisatsioonisisest teabevoogu ning vähendada niimoodi puudustega ja vigaste toodete ja teenuste arendamise ohtu. Tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid andmeid, arendavad, juurutavad ja kasutavad ettevõtjad ja organisatsioonid, peaksid sisse seadma kanalid rikkumisest teatamiseks ning teatajaid tuleks kättemaksu eest kaitsta.

    (53) Ei ole võimalik prognoosida, kui kiiresti arenevad tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, sealhulgas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed, ning arengu aluseks olevad tehniline masinõpe, arutlusprotsessid ja muu tehnoloogia. Seda arvestades on asjakohane ja vajalik kehtestada läbivaatamismehhanism, mille kohaselt peaks komisjon lisaks määruse kohaldamisest aru andmisele esitama korrapäraselt aruande, mis käsitleb käesoleva määruse kohaldamisala võimalikku muutmist.

    (54) Kuna käesoleva määruse eesmärki kehtestada liidus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, juurutamist ja kasutamist reguleeriv ühine eetikapõhimõtete ja juriidiliste kohustuste raamistik ei suuda liikmesriigid piisavalt saavutada, küll aga saab seda selle ulatuse ja toime tõttu paremini saavutada liidu tasandil, võib liit võtta meetmeid kooskõlas Euroopa Liidu lepingu artiklis 5 sätestatud subsidiaarsuse põhimõttega. Kõnealuses artiklis sätestatud proportsionaalsuse põhimõtte kohaselt ei lähe käesolev määrus nimetatud eesmärgi saavutamiseks vajalikust kaugemale.

    (55) Käesolevas määruses sätestatud liidu tasandi koordineerimise ülesanne oleks kõige õigem anda komisjonile ja/või mis tahes selleks määratavale asjaomasele liidu institutsioonile, organile, ametile või asutusele, et vältida killustumist ja tagada käesoleva määruse järjepidev kohaldamine. Komisjonile tuleks seetõttu teha ülesandeks leida sobiv lahendus, kuidas koordineerimist liidu tasandil korraldada, st kuidas koordineerida igas liikmesriigis määratud riikliku järelevalveasutuse volitusi ja tegevust, mis puudutavad tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia riskihindamist, sellise tehnoloogia arendamise, juurutamise ja kasutamise juhtimise reguleerimiseks ühise raamistiku kehtestamist, käesoleva määrusega kehtestatud eetikapõhimõtetele ja juriidilistele kohustustele vastavust kinnitava sertifikaadi väljatöötamist ja väljastamist, sidusrühmade ja kodanikuühiskonna esindajatega korrapärase arvamuste vahetuse toetamist ning liidu tasandil sellise eksperdikeskuse loomist, kuhu on koondunud akadeemilise ringkonna, teadus- ja tööstusvaldkonna esindajad ning üksikeksperdid ja mille eesmärk on soodustada teadmiste, sealhulgas tehniliste eriteadmiste vahetamist, liidu tegutsemisviisi edendamist rahvusvahelise koostöö kaudu ning selle tagamist, et kogu maailmas tegutsetaks seoses kõnealuse tehnoloogiaga kaasnevate võimaluste ja riskidega ühetaoliselt järjepidevalt,


    ON VASTU VÕTNUD KÄESOLEVA MÄÄRUSE:

     

    I peatükk

    Üldsätted

    Artikkel 1

    Eesmärk

     

    Käesoleva määruse eesmärk on kehtestada kõikehõlmav ja tulevikukindel liidu õigusraamistik, mis hõlmab eetikapõhimõtteid ja juriidilisi kohustusi, mida tuleb liidus täita tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel.

    Artikkel 2

    Kohaldamisala

     

    Käesolevat määrust kohaldatakse liidus arendatava, juurutatava ja kasutatava tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete suhtes.

    Artikkel 3

    Geograafiline kohaldamisala

    Käesolevat määrust kohaldatakse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes, mille mingi osa on liidus arendatud, juurutatud või kasutusel, sõltumata sellest, kas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed asuvad väljaspool liitu või neil puudub kindel geograafiline asukoht.

    Artikkel 4

    Mõisted

    Käesolevas määruses kasutatakse järgmisi mõisteid:

    a) „tehisintellekt“ – tarkvarapõhine või riistvarasse integreeritud intelligentselt käituv süsteem, mis suudab muu hulgas oma tegutsemiskeskkonna kohta andmeid koguda ning neid töödelda, analüüsida ja tõlgendada ning sooritab teataval määral autonoomseid toiminguid, et saavutada konkreetseid eesmärke[16];

    b) „autonoomia“ – tehisintellektisüsteem, mis oma töös tõlgendab teatavat sisendit ja kasutab kindlaksmääratud juhiseid, samas nendega piirdumata, olgugi et süsteemi käitumist piiravad ja suunavad süsteemile seatud eesmärk ja muud arendaja poolt projekteerimise käigus tehtud valikud;

    c) „robotitehnoloogia“ – tehnoloogia, mille abil sooritavad automaatjuhitavad ümberprogrammeeritavad mitmeotstarbelised masinad[17] muu hulgas tehisintellekti või seonduvat tehnoloogiat kasutades füüsilises maailmas toiminguid, mida tavapäraselt on sooritanud või algatanud inimesed;

    d) „seonduv tehnoloogia“ – tehnoloogia, mille abil tarkvara juhib osaliselt või täiesti autonoomselt füüsilist või virtuaalset protsessi, ning biomeetrilisi, geneetilisi või muid andmeid tuvastav tehnoloogia ja inimestele omaseid tunnuseid jäljendav või muul viisil kasutav tehnoloogia;

    e) „suur risk“ – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamisega kaasnev märkimisväärne risk tekitada üksikisikutele või ühiskonnale liidu õiguses sätestatud põhiõigusi ja ohutusreegleid rikkudes vigastusi või kahju, võttes arvesse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kindlat kasutusala ja -eesmärki, sektorit, kus neid arendatakse, juurutatakse või kasutatakse, ning tõenäoliselt tekkiva vigastuse või kahju tõsidust;

    f) „arendamine“ – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia loomise või treenimise või olemasolevale tehisintellektile, robotitehnoloogiale ja seonduvale tehnoloogiale uue rakendusvõimaluse loomise eesmärgil algoritmide koostamine ja loomine, tarkvara kirjutamine ja kujundamine ning andmete kogumine, salvestamine ja haldamine;

    g) „arendaja“ – füüsiline või juriidiline isik, kes teeb tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise käiku ja viisi määravaid ja juhtivaid otsuseid;

    h) „juurutamine“ – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia käitamine ja haldamine, turulelaskmine ja muul viisil kasutajatele kättesaadavaks tegemine;

    i) „juurutaja“ – füüsiline või juriidiline isik, kes on kaasatud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia juurutamisse ning täidab seejuures juhtimis- või haldusülesandeid, s.o teeb otsuseid, kontrollib riske ja saab juurutamisest kasu;

    j) „kasutamine“ – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud mis tahes tegevus, mis ei ole arendamine ega juurutamine;

    k) „kasutaja“ – füüsiline või juriidiline isik, kes kasutab tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat muul kui arendamise ja juurutamise eesmärgil;

    l) „kallutatus“ – üksikisiku või ühiskonna eelarvamuslik suhtumine mõnda isikusse või isikute rühma tingituna selle isiku või isikute rühma isikuomadustest;

    m) „diskrimineerimine“ – mõne isiku või isikute rühma teistest erinev kohtlemine, mis ei ole objektiivselt ega mõistlikult põhjendatud ja on seetõttu liidu õigusega keelatud;

    n) „vigastus või kahju“ – muu hulgas vaenu õhutamise, kallutatuse, diskrimineerimise või häbimärgistamise tagajärjel tekkinud füüsiline vigastus ja vaimse tervise kahjustus, varaline ja moraalne kahju, näiteks rahaline ja muu majanduslik kahju, töökoha kaotus ja õppimisvõimalustest ilma jäämine, valiku- ja väljendusvabaduse põhjendamatu piiramine, eraelu puutumatusest ilma jäämine, ning liidu õiguse rikkumine, mis tekitab teisele isikule kahju;

    o) „hea juhtimistava“ – viis, millega tagatakse, et arendajad, juurutajad ja kasutajad kehtestavad asjakohased ja mõistlikud käitumisreeglid ja -protokollid, mis põhinevad ametlikel reeglitel, menetlustel ja väärtustel ning mida järgides saavad nad eetikaküsimusi asjakohaselt lahendada nende tekkimisel või enne seda.

    Artikkel 5

    Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes kohaldatavad eetikapõhimõtted

    1. Tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse liidus kooskõlas liidu õigusega ning inimväärikust, autonoomiat ja ohutust ning teisi hartas sätestatud õigusi täielikult järgides.

    2. Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel töödeldakse isikuandmeid, sealhulgas muude andmete ja biomeetriliste andmete põhjal saadud isikuandmeid, kooskõlas määrusega (EL) 2016/679 ja direktiiviga 2002/58/EÜ.

    3. Liit ja selle liikmesriigid soodustavad uurimisprojekte, mille eesmärk on leida tehisintellektil, robotitehnoloogial ja seonduval tehnoloogial põhinevaid lahendusi, millega püütakse edendada sotsiaalset kaasamist, demokraatiat, pluralismi, solidaarsust, õiglust, võrdsust ja koostööd.

    II peatükk

    Suure riskiga tehnoloogiaga seotud kohustused

    Artikkel 6

    Suure riskiga tehnoloogiaga seotud kohustused

    1. Käesoleva peatüki sätteid kohaldatakse ainult sellise liidus arendatava, juurutatava ja kasutatava tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete suhtes, millega kaasnevat riski peetakse suureks.

     

    2. Suure riskiga tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse nii, et oleks tagatud vastavus käesolevas määruses sätestatud eetikapõhimõtetele.

    Artikkel 7

    Inimkeskne ja inimese loodud tehisintellekt

    1. Suure riskiga tehistehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse nii, et kogu aeg on tagatud täielik inimjärelevalve.

    2. Lõikes 1 osutatud tehnoloogiat arendatakse, juurutatakse ja kasutatakse nii, et vajaduse korral saab muu hulgas tehnoloogia muutmise või seiskamise kaudu taastada täieliku inimjuhtimise.

     

    Artikkel 8

    Ohutus, läbipaistvus ja vastutus

    1. Suure riskiga tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse nii, et oleks tagatud, et

     a) neid arendatakse, juurutatakse ja kasutatakse vastupidavana, et nendega oleks tagatud piisav turvalisus, st et need vastaksid küberturvalisuse miinimumpõhimõtetele, mis on tuvastatud riskiga proportsionaalsed, ja välditaks tehnilistelt nõrkade kohtade ärakasutamist pahatahtlikul või ebaseaduslikul eesmärgil;

    b) neid arendatakse, juurutatakse ja kasutatakse ohutul viisil, millega on tagatud kaitsemeetmed, mis hõlmavad ohutus- või turvariski korral rakendavaid varuplaani ja -meetmeid;

    c) neid arendatakse, juurutatakse ja kasutatakse nii, et need töötavad piisavalt kindlalt, et täita kasutaja mõistlikke ootusi eesmärkide saavutamise ja selliste toimingute tegemise suhtes, milleks nad loodi, muuhulgas tagades, et kõiki toiminguid saab teha korduvalt;

    d) neid arendatakse, juurutatakse ja kasutatakse nii, et need täidavad oma eesmärke ja teevad toiminguid täpselt; kui juhuslikku ebatäpsust ei õnnestu vältida, peab süsteem teatama juurutajatele ja kasutajatele sobiva vahendi abil võimaluse korral vigade ja ebatäpsuste tõenäosuse;

    e) neid arendatakse, juurutatakse ja kasutatakse lihtsasti kirjeldataval viisil, et tehnoloogia tehnilisi protsesse saaks läbi vaadata;

    f) neid arendatakse, juurutatakse ja kasutatakse nii, et need annavad kasutajatele teada, et nad suhtlevad tehisintellektisüsteemiga, ning esitavad tehisintellekti arendajatele, juurutajatele ja kasutajatele korrektselt ja ammendavalt oma suutlikkust, täpsust ja piiranguid puudutavad andmed;

    g) neid arendatakse, juurutatakse ja kasutatakse kooskõlas artikliga 6 nii, et kui punktides a–g toodud ohutusnõudeid ei järgita, saaks asjaomased funktsioonid ajutiselt välja lülitada ja eelmise oleku taastada, millega taastatakse turvalised funktsioonid. 

    2. Kooskõlas artikli 6 lõikega 1 arendatakse, juurutatakse ja kasutatakse lõikes 1 osutatud tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, läbipaistval ja jälgitaval viisil, nii et selle elemendid, protsessid ja etapid oleksid dokumenteeritud rangeimate kohaldatavate normide kohaselt ning et artiklis 14 osutatud riiklikud järelevalveasutused saaksid hinnata sellise tehnoloogia vastavust käesolevas määruses sätestatud nõuetele. Eelkõige peab tehnoloogia arendaja, juurutaja ja kasutaja vastutama lõikes 1 sätestatud ohutusnõuete järgimise eest ja suutma seda tõendada.

    3. Lõikes 1 osutatud tehnoloogia arendaja, juurutaja ja kasutaja tagab, et artiklis 14 osutatud riiklikud järelevalveasutused ja vajaduse korral muud riiklikud või Euroopa valdkondlikud järelevalveorganid saaksid lõikes 1 sätestatud ohutusnõuete täitmiseks võetud meetmeid auditeerida.

    Artikkel 9

    Kallutatus ja mittediskrimineerimine

     

    1. Liidus arendatud, juurutatud ja kasutatavas suure riskiga tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed peavad olema kallutamata ja, ilma et see piiraks lõike 3 kohaldamist, ei tohi need kedagi rassi, soo, seksuaalse sättumuse, raseduse, puude, füüsiliste ega geneetiliste iseärasuste, vanuse, rahvusvähemuse hulka kuulumise, etnilise ega sotsiaalse päritolu, keele, usutunnistuse ega veendumuste, poliitiliste vaadete ega kodanikuaktiivsuse, kodakondsuse, tsiviilõigusliku ega majandusliku seisundi, hariduse ega karistusregistri andmete alusel diskrimineerida.

     

    2. Erandina lõigetest 1 ja 2 ning ilma et see piiraks ebaseaduslikku diskrimineerimist käsitleva liidu õiguse kohaldamist, võib isikute või isikute rühmade erinev kohtlemine olla põhjendatud vaid juhul, kui seda tehakse objektiivsel, mõistlikul ja õiguspärasel eesmärgil ning kui see on proportsionaalne ja vajalik niivõrd, kuivõrd puuduvad muud võimalused, millega rikutaks võrdse kohtlemise põhimõtet vähem.

    Artikkel 10

    Sotsiaalne vastutus ja sooline võrdõiguslikkus

    Liidus arendatavat, juurutatavat ja kasutatavat suure riskiga tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse kooskõlas asjakohaste liidu õigusaktide, põhimõtete ja väärtustega ning nii, et ei sekkuta valimistesse ega aidata kaasa desinformatsiooni levitamisele, austatakse töötajate õigusi, edendatakse kvaliteetset haridust ja digikirjaoskust, ei suurendata soolist ebavõrdsust sellega, et takistatakse kõigile võrdsete võimaluste tagamist, ega rikuta intellektuaalomandiõigusi ega nendega seotud piiranguid ja erandeid.

    Artikkel 11

    Keskkonnasäästlikkus

    Suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete keskkonnasäästlikkust hindavad artiklis 14 osutatud riiklikud järelevalveasutused või vajaduse korral muud riiklikud või Euroopa valdkondlikud järelevalveorganid, kes tagavad, et on kehtestatud meetmed, millega leevendada ja korvata sellise tehnoloogia üldist mõju loodusvaradele, energiatarbimisele, jäätmetekkele, CO2 jalajäljele, kliimamuutustega seotud hädaolukorrale ja keskkonnaseisundi halvenemisele, et tagada kooskõla kohaldatava liidu ja liikmesriigi õigusega ning muude rahvusvaheliste keskkonnaalaste kohustustega, mille liit on võtnud.

    Artikkel 12

    Eraelu puutumatuse austamine ja isikuandmete kaitse

    Biomeetriliste andmete kasutamisega ja kogumisega selleks, et isikuid avalikus kohas biomeetria või näotuvastuse abil kaugidentida, kaasneb spetsiifiline oht põhiõigustele ning neid võimalusi juurutavad ja kasutavad suure avaliku huvi eesmärgil üksnes liikmesriikide avaliku sektori asutused. Kõnealused asutused tagavad, et kooskõlas liidu ja liikmesriigi õigusega, eelkõige määrusega (EL) 2016/679 ja direktiiviga 2002/58/EÜ, antakse sellisest juurutamisest ja kasutamisest üldsusele teada, see on proportsionaalne, sihipärane ja piiratud kindlate eesmärkide ja asukohaga ja ajaliselt ning selle puhul võetakse nõuetekohaselt arvesse inimväärikust ja autonoomiat ning hartas sätestatud põhiõigusi, eelkõige õigust eraelu puutumatusele ja isikuandmete kaitsele.

     

    Artikkel 13

    Õigus õiguskaitsele

     Igal füüsilisel ja juriidilisel isikul on õigus taotleda õiguskaitset vigastuse või kahju korral, mis on tekitatud sellega, et suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamisel, juurutamisel või kasutamisel on rikutud liidu õigust ja eiratud käesolevas määruses sätestatud nõudeid.

    Artikkel 14

    Riskihindamine

    1. Käesoleva määruse kohaldamisel käsitatakse tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid ja sellega toodetavaid tarkvara, algoritme ja andmeid, suure riskiga tehnoloogiana, kui objektiivsetel kriteeriumidel, nagu nende kasutusala ja -eesmärk, sektor, kus neid arendatakse, juurutatakse või kasutatakse, ning tekitatud võimaliku vigastuse või kahju tõsidus, põhineva riskihindamise tulemusel selgub, et nende arendamise, juurutamise või kasutamisega kaasneb liidu õiguses sätestatud põhiõiguste ja ohutusreeglite rikkumise korral suur risk tekitada üksikisikutele tõenäoliselt vigastusi või üksikisikutele või ühiskonnale kahju.

    2. Ilma et see piiraks kohaldatavate valdkondlike õigusaktide kohaldamist, teevad tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete riskihindamist vastavalt käesoleva artikli lõikes 1 sätestatud objektiivsetele kriteeriumidele ning käesoleva määruse lisas sätestatud ammendavale ja kumulatiivsele loetelule artiklis 14 osutatud riiklikud järelevalveasutused ning seda koordineerib komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus.

    3. Komisjon koostab lõikes 2 osutatud riiklike järelevalveasutustega koostööd tehes artikli 15a kohaste delegeeritud õigusaktidega liidus tuvastatud suure riskiga tehnoloogia ühise loetelu ja hoiab seda ajakohasena.

    4. Samuti ajakohastab komisjon artikli 15a kohaste delegeeritud õigusaktidega korrapäraselt käesoleva määruse lisas esitatud loetelu.

    Artikkel 15

    Vastavushindamine

    1. Komisjoni ja/või mis tahes muu selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutuse koordineerimisel hindavad artiklis 17 osutatud riiklikud järelevalveasutused, kas suure riskiga tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia vastavad käesoleva määruse artiklites 6–12 sätestatud nõuetele, ning teevad seejärel sellise tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia üle järelevalvet.

     

    2. Tarkvara, algoritme ja andmeid, mida kasutatakse suure riskiga tehnoloogias või mida toodetakse suure riskiga tehnoloogiaga, mis vastavad lõikes 1 sätestatud hindamise kohaselt käesolevas määruses sätestatud nõuetele, käsitatakse samuti nendele nõuetele vastavana, välja arvatud juhul, kui asjaomane riiklik järelevalveasutus otsustab teha hindamise omal algatusel või arendaja, juurutaja või kasutaja taotlusel.

     

    3. Ilma et see piiraks valdkondlike õigusaktide kohaldamist, koostab komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus käesoleva määruse jõustumise kuupäevaks siduvad suunised meetodite kohta, mida riiklikud järelevalveasutused peavad lõikes 1 osutatud vastavushindamisel kasutama.

     

    Artikkel 16

    Eetikapõhimõtetele vastavust kinnitav Euroopa sertifikaat

    1. Kui kooskõlas artikliga 7a tehtud vastavushindamise tulemusel jõutakse järeldusele, et suure riskiga tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, sealhulgas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed, vastavad nõuetele, väljastab asjaomane riiklik järelevalveasutus eetikapõhimõtetele vastavust kinnitava Euroopa sertifikaadi.

     

    2. Sellise tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendaja, juurutaja ja kasutaja, mida ei peeta suure riskiga tehnoloogiaks ja milles suhtes seetõttu artiklites 6–12 sätestatud nõudeid ega artiklites 13 ja 14 sätestatud riskihindamist ja vastavushindamist ei kohaldata, võib samuti taotleda käesolevas määruses sätestatud nõuetele või nendest osale vastavuse tõendamist, kui see on riikliku järelevalveasutuse otsuse kohaselt asjaomase tehnoloogia laadi tõttu põhjendatud. Sertifikaat väljastatakse üksnes juhul, kui asjaomane riiklik järelevalveasutus on teinud vastavushindamise ja selle tulemus on positiivne.

     

    3. Lõikes 2 osutatud sertifikaadi väljastamiseks töötab komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus välja taotlusmenetluse.

     

    III peatükk

    Institutsiooniline järelevalve

    Artikkel 17

    Juhtimisnormid ja rakendussuunised

    1. Liidus arendatud, juurutatud ja kasutatav tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia peavad vastama asjakohastele juhtimisnormidele, mille artiklis 17 osutatud riiklikud järelevalveasutused on kehtestanud kooskõlas liidu õiguse, põhimõtete ja väärtustega ning komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutuse koordineerimisel ning sidusrühmadega konsulteerides.

     

    2. Lõikes 1 osutatud normid sisaldavad mittesiduvaid rakendussuuniseid meetodite kohta, mille alusel peavad arendajad, juurutajad ja kasutajad käesolevat määrust täitma, ning need avaldatakse hiljemalt käesoleva määruse jõustumise kuupäevaks.

     

    3. Liidus arendatud, juurutatud ja kasutatavas tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavaid või nendega toodetavaid andmeid haldavad arendajad, juurutajad ja kasutajad kooskõlas asjaomaste liikmesriigi, liidu ja muude Euroopa organisatsioonide ja rahvusvaheliste reeglite ja normidega ning asjakohaste tööstus- ja äritegevuse protokollidega. Kui see on teostatav, kontrollivad arendajad ja juurutajad eelkõige tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavate andmete välisallikate kvaliteeti ning kehtestavad nende andmete kogumise, säilitamise, töötlemise ja kasutamise järelevalveks mehhanismid.

     

    3. Ilma et see piiraks andmete ülekandmise õiguse kasutamist ja nende isikute õigusi, kes tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamisega andmed tekitasid, tuleb liidus arendatud, juurutatud ja kasutatavas tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavate või sellega toodetavate andmete kogumisel, säilitamisel, töötlemisel, jagamisel ja kättesaadavaks tegemisel järgida asjaomaseid liikmesriigi, liidu ning muude Euroopa organisatsioonide ja rahvusvahelisi reegleid ja norme ning asjakohaseid tööstus- ja äritegevuse protokolle. Eelkõige tagavad arendajad ja juurutajad, et nimetatud protokolle kohaldatakse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel ja juurutamisel ning selleks tuleb selgelt määratleda sellises tehnoloogias kasutatavate või sellega toodetavate andmete töötlemisel ja kättesaadavaks tegemisel kehtivad nõuded ning andmete töötlemise ja kättesaadavaks tegemise eesmärk, kohaldamisala ja adressaadid, ning kogu see teave peab olema igal ajal auditeeritav ja jälgitav.

     

    Artikkel 18

    Järelevalveasutused

    1. Iga liikmesriik määrab sõltumatu avaliku sektori asutuse (edaspidi „järelevalveasutus“), kes vastutab käesoleva määruse kohaldamise järelevalve eest ning artiklites 13, 14 ja 15 sätestatud riski- ja vastavushindamise ning sertifitseerimise eest, ilma et see piiraks valdkondlike õigusaktide kohaldamist.

     

    2. Riiklik järelevalveasutus peab aitama tagada käesoleva määruse ühetaolist kohaldamist kogu liidus. Sel eesmärgil teevad kõigi liikmesriikide järelevalveasutused koostööd omavahel ning komisjoni ja/või mis tahes muude selleks määratavate asjaomaste liidu institutsioonide, organite, ametite ja asutustega.

     

    3. Riiklik järelevalveasutus on esimene, kelle poole pöörduda, kui kahtlustatakse, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise või kasutamise tõttu on rikutud käesolevas määruses sätestatud eetikapõhimõtteid ja juriidilisi kohustusi, sealhulgas diskrimineeritakse kedagi või rikutakse muid õigusi. Sellistel juhtudel teeb asjaomane riiklik järelevalveasutus vastavushindamise, et toetada kodanike õigust vaidlustamisele ja õiguskaitsele.

     

    4. Riiklik järelevalveasutus vastutab tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes artiklis 13 osutatud asjakohaste liikmesriigi, Euroopa ja rahvusvaheliste reguleerimisreeglite ja -normide kohaldamise järelevalve eest ning muu hulgas kaasab selleks võimalikult palju sidusrühmi. Selleks loovad kõigi liikmesriikide järelevalveasutused foorumid, kus on võimalik sidusrühmadega, kelle hulgas on akadeemilise ringkonna, teadus- ja tööstusvaldkonna ning kodanikuühiskonna esindajaid, ja sidusrühmadel omavahel korrapäraselt aru pidada.

     

    5. Riiklik järelevalveasutus annab eelkõige asjaomastele teadus- ja arendusorganisatsioonidele ning väikestele ja keskmise suurusega ettevõtjatele ning idufirmadele asjatundlikke haldussuuniseid ja -abi, mis puudutavad tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes kohaldava liidu õiguse ning käesolevas määruses sätestatud eetikapõhimõtete üldist rakendamist.

     

    6. Kõik liikmesriigid annavad komisjonile hiljemalt [ELT: palun sisestada kuupäev – üks aasta pärast käesoleva määruse jõustumist] teada, millised õigusnormid nad käesoleva artikli alusel vastu võtavad ning edastavad viivitamata kõik nende hilisemad muudatused.

     

    7. Liikmesriigid võtavad kõik käesolevas määruses sätestatud eetikapõhimõtete ja juriidiliste kohustuste täitmise tagamiseks vajalikud meetmed. Liikmesriigid toetavad nii liidu kui ka liikmesriikide tasandil sidusrühmade ja kodanikuühiskonna püüdlusi tegutseda eelkõige piiriüleste uute võimaluste ja probleemide korral, mis tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arenguga kaasnevad, kiiresti, eetiliselt ja teadlikult.

     

    Artikkel 19

    Rikkumisest teatamine ja rikkumisest teatajate kaitse

     

    Käesoleva määruse nõuete rikkumisest teatamise ja rikkumisest teatajate kaitse suhtes kohaldatakse Euroopa Parlamendi ja nõukogu direktiivi (EL) 2019/1937[18].

     

    Artikkel 20

    Koordineerimine liidu tasandil

    1. Komisjonil ja/või mis tahes selleks määrataval asjaomasel liidu institutsioonil, organil, ametil või asutusel on järgmised ülesanded:

     

     tagada, et artiklis 17 osutatud riiklikud järelevalveasutused teevad artikli 7 lõikes 1 ning käesoleva määruse lisas sätestatud suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide loetelus ette nähtud ühiste objektiivsete kriteeriumide alusel artiklis 13 osutatud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia riskihindamist ühetaoliselt;

     

     võtta teadmiseks suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia vastavushindamine ja sellele järgnev järelevalve, millele on osutatud artiklis 14 ja mida peavad tegema artiklis 17 osutatud riiklikud järelevalveasutused;

     

     töötada välja taotlusmenetlus, mida artiklis 17 osutatud riiklikud järelevalveasutused peavad artiklis 15 osutatud sertifikaadi väljastamiseks kasutama;

     

     koostada artikli 14 lõikes 3 osutatud siduvad suunised meetodite kohta, mida artiklis 17 osutatud riiklikud järelevalveasutused peavad kasutama, ilma et see piiraks valdkondlike õigusaktide kohaldamist;

     

     koordineerida artiklis 17 osutatud riiklike järelevalveasutuste poolt artiklis 16 osutatud asjakohaste juhtimisnormide, sealhulgas arendajatele, juurutajatele ja kasutajatele mõeldud, käesoleva määruse täitmise meetodeid käsitlevate mittesiduvate rakendussuuniste kehtestamist;

     

     teha artiklis 17 osutatud riiklike järelevalveasutustega koostööd, et nad saaksid kooskõlas artikli 17 lõikega 2 aidata käesolevat määrust kogu liidus ühetaoliselt kohaldada;

     

     tegutseda eksperdikeskusena, kes edendab tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat käsitleva teabe vahetamist ning toetab ühtsel turul ühise arusaama kujundamist, esitades artiklis 17 osutatud riiklikele järelevalveasutustele lisasuuniseid, arvamusi ja ekspertteavet, jälgides asjakohase liidu õiguse rakendamist, määrates kindlaks parimate tavade standardid ja andes vajaduse korral soovitusi reguleerivate meetmete kohta; seda tehes peaks ta suhtlema võimalikult paljude sidusrühmadega ja tagama, et tema otsustustasandite koosseis on mitmekesine ja tagab soolise võrdõiguslikkuse;

     

     tagada töötingimused julgeoleku ja kaitse töörühmale, mille eesmärk on analüüsida poliitika- ja investeerimisküsimusi, mis on seotud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia eetilise kasutamisega julgeoleku ja kaitse valdkonnas.

     

    Artikkel 21

    Volituste delegeerimine

    1. Komisjonile antakse õigus võtta vastu delegeeritud õigusakte käesolevas artiklis sätestatud tingimustel.

     

    2. Artikli 7 lõigetes 3 ja 4 osutatud õigus võtta vastu delegeeritud õigusakte antakse komisjonile viieks aastaks alates [käesoleva määruse jõustumise kuupäev].

     

    3. Euroopa Parlament ja nõukogu võivad artikli 7 lõigetes 3 ja 4 osutatud volituste delegeerimise igal ajal tagasi võtta. Tagasivõtmise otsusega lõpetatakse otsuses nimetatud volituste delegeerimine. Otsus jõustub järgmisel päeval pärast selle avaldamist Euroopa Liidu Teatajas või otsuses kindlaksmääratud hilisemal kuupäeval. See ei mõjuta juba jõustunud delegeeritud õigusaktide kehtivust.

     

    4. Enne delegeeritud õigusakti vastuvõtmist konsulteerib komisjon kooskõlas 13. aprilli 2016. aasta institutsioonivahelises parema õigusloome kokkuleppes sätestatud põhimõtetega iga liikmesriigi määratud ekspertidega.

     

    5. Niipea kui komisjon on delegeeritud õigusakti vastu võtnud, teeb ta selle samal ajal teatavaks Euroopa Parlamendile ja nõukogule.

     

    6. Artikli 7 lõigete 3 ja 4 alusel vastu võetud delegeeritud õigusakt jõustub üksnes juhul, kui Euroopa Parlament ega nõukogu ei ole kolme kuu jooksul pärast õigusakti teatavakstegemist Euroopa Parlamendile ja nõukogule esitanud selle suhtes vastuväidet või kui Euroopa Parlament ja nõukogu on enne selle tähtaja möödumist komisjonile teatanud, et nad ei esita vastuväidet. Euroopa Parlamendi või nõukogu algatusel pikendatakse seda tähtaega kolme kuu võrra.

     

    Artikkel 22

    Direktiivi (EL) 2019/1937 muutmine

     

    Direktiivi (EL) 2019/1937 muudetakse järgmiselt.

     

    1) Artikli 2 lõikesse 1 lisatakse järgmine alapunkt:

     

    „xi) tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamine, juurutamine ja kasutamine;“

     

    2) Lisa I osasse lisatakse järgmine punkt:

     

    „K. Artikli 2 lõike 1 punkti a alapunkt xi – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamine, juurutamine ja kasutamine:

     

    xxi) Euroopa Parlamendi ja nõukogu määrus [XXX] tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta.“

    Artikkel 23

    Läbivaatamine

    Komisjon jälgib tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arengut pidevalt ning esitab hiljemalt [ELT: palun sisestada kuupäev – kolm aastat pärast käesoleva määruse jõustumist] ja seejärel iga kolme aasta järel Euroopa Parlamendile, nõukogule ning Euroopa Majandus- ja Sotsiaalkomiteele käesoleva määruse kohaldamist käsitleva aruande koos hinnanguga selle kohta, kas käesoleva määruse kohaldamisala oleks vaja muuta.

    Artikkel 24

    Jõustumine

    1. Käesolev määrus jõustub kahekümnendal päeval pärast selle avaldamist Euroopa Liidu Teatajas. Käesolevat määrust kohaldatakse alates XX.

    2. Käesolev määrus on tervikuna siduv ja vahetult kohaldatav kõikides liikmesriikides kooskõlas Euroopa Liidu lepinguga.

    Käesolev määrus on tervikuna siduv ja vahetult kohaldatav kõikides liikmesriikides.


     

    LISA

     

    Ammendav ja kumulatiivne loetelu suure riskiga sektoritest ning suure riskiga kasutusaladest ja -eesmärkidest, millega kaasneb põhiõiguste ja ohutusreeglite rikkumise risk

     

     

    Suure riskiga sektorid

     

     tööhõive

     haridus

     tervishoid

     transport

     energeetika

     avalik sektor (varjupaigaküsimused, ränne, piirikontroll, kohtusüsteem ja sotsiaalkindlustusteenused)

     kaitse ja julgeolek

     rahandus, pangandus, kindlustus

     

     

    Suure riskiga kasutusalad ja -eesmärgid

     

     töölevõtmine

     üliõpilaste hindamine, sh neile hinnete panemine

     avaliku sektori raha eraldamine

     laenude andmine

     kauplemine, vahendamine, maksustamine jms

     ravi, sh raviprotseduurid

     valimisprotsess ja poliitilised kampaaniad

     avaliku sektori otsused, millel on füüsiliste või juriidiliste isikute õigustele ja kohustustele suur ja otsene mõju

     automatiseeritud sõidukijuhtimine

     liikluskorraldus

     autonoomsed relvasüsteemid

     energia tootmine ja jaotamine

     jäätmekäitlus

     heitekontroll

     


    SELETUSKIRI

     

    1982. aastal valminud filmis Blade Runner ütleb nn replikante (mõistuslikke inimroboteid) valmistavas ettevõttes töötav replikant Rachael kontrollimatuks muutunud replikantide hävitamisega elatist teenivale pearahakütile Deckardile:

     

    „Tundub, et sinu meelest ei too meie töö ühiskonnale kasu.“

     

    Selle peale vastab Deckard:

     

    „Replikandid on nagu mis tahes muu masin kas kasulikud või ohtlikud. Kui nad on kasulikud, siis pole see minu mure.“

     

    Kasud ja ohud

    Tehisintellekti laialdane kasutuselevõtt kõigis masinates ja seadmetes, millega me avaliku halduse ning töö- ja sotsiaalsfääris kokku puutume, toob endaga kaasa üksnes tööstusrevolutsiooniga võrreldava tehnoloogilise hüppe. Meie elu ei saa enam kunagi olema endine, ilmnevad väga põhjapanevad muutused tööturul, valitsusasutustega suhtlemisel ja inimestevahelistes suhetes, kuni meie koduse eluni välja – mõtelgem vaid, mida toob kaasa nn asjade internet kõigis meie kodumasinates ja -seadmetes. Niivõrd ulatuslik tehnoloogiline hüpe seab meid valiku ette, mida väljendab blade runneri vastus: igasuguse tehnoloogiaga kaasnevad kasud ja ohud. Ning tehisintellekti olemuslikku võimsust arvestades on sellega seotud kasud ja/või ohud enneolematult suured.

     

    Euroopa Liidu roll õigusraamistiku loomisel

     

    Käsitledes kõnealust nähtust avaliku sektori asutuste seisukohast, ei saa me aga rahulduda Deckardi ametialase küünilisusega. Just Euroopa Parlamendile on väga tähtis rakendada sellises tehnoloogias peituvaid võimalusi Euroopa heaolu ja konkurentsivõime tõstmiseks ja samas hoida sellest tulenevad ohud kontrolli all või siis suuta prognoosida mõne sellise ohu tulemusliku käsitlemise tagajärgi. Seda silmas pidades tahame olla esimeste hulgas, kes kehtestavad õiguslikult eetikapõhimõtted, mis ühelt poolt kaitseksid ELi kodanikke sellise tehnoloogilise arengu võimalike varjukülgede eest ja teiselt poolt lisaväärtusena suurendaksid maailmas usaldust ELi tehisintellekti vastu. Need peavad olema eetikapõhimõtted, mis tulenevad Euroopa Liidu põhiõiguste hartas kajastuvatest euroopalikest väärtustest ja põhimõtetest ning on ühtlasi kooskõlas meie tsiviliseerimisprojektiga. Määrus peab olema inspireeritud humanistlikust ja inimkesksest tehnoloogilisest arengust. Need peavad olema eeskirjad, mida ei kohaldata üksnes Euroopas arendatud tehisintellekti suhtes, vaid millega kehtestatakse ranged kohustuslikud normid igasugusele tehisintellektile, mida püütakse liidus kasutada.

     

    Selle õiguste ja kohustuste raamistikuga peavad tingimata ühinema kõik Euroopa Liidu liikmesriigid. Riigisisesed õigusaktid, millel puudub ühtne võrdlusalus, võivad kahjustada ühtset turgu ja pidurdada meie ühiseid püüdlusi saavutada tehnoloogiavaldkonnas kogu maailmas juhtpositsiooni. Käesoleva määruse täitmise ja edasiarendamise üle järelevalvet tegeva ELi ameti loomine on oluline samm liikmesriikides väljatöötatavate juriidiliste ja tehniliste raamistike ühtlustamisel.

     

    Paindlik ja tulevikusuunitlusega määrus

     

    Vastusena neile, kes kaitsevad kõnealuses valdkonnas iseregulatsiooni põhimõtet, võib eeltoodud dialoog näidata üldsuse sekkumise vajalikkust selleks, et kaitsta ka eesmärke, mis ei piirdu üksnes majandusliku tasuvusega. ELi institutsioonide eesmärk on ka vältida otsustusprotsesside juures igasugust diskrimineerimist ning kasutada kõnealuses tehnoloogias peituvat muutuste potentsiaali õiglasema (erilise tähelepanuga soolise lõhe vähendamisele) ja ökoloogiliselt kestlikuma ühiskonna edendamiseks. Viimatinimetatud valdkondades nähakse määruse tekstis ELi avaliku sektori asutustele ette selged volitused.

     

    Lisaks tahetakse siinses dokumendis ühendada nõuete rangus normatiivide lihtsusega ning vältida kohmakaid regulatiivseid süsteeme ja/või mõjutatud osaliste suurt halduskoormust. Eesmärgiks on ka piisavalt paindlik raamistik, mida saaks kohaldada ülimalt muutlikus tegelikkuses toimuva arenguga, ning mis samal ajal võimaldaks välja töötada konkreetsemaid küsimusi reguleerivaid valdkondlikke norme.

     

    Kõikehõlmav käsitlus, sealhulgas riiklike järelevalveasutuste loomine

     

    Käesoleva määruse eesmärk on laiendada järelevalvet keeruka tehnoloogia kõigile arengujärkudele. Käesoleva dokumendi sätetega reguleeritakse kõiki aspekte – tehnoloogia arendamist, kasutuselevõtmist ja edasist arengut masinõppe või süvaõppe kaudu. Erilist tähelepanu pööratakse suure riskiga tehnoloogia võimalike kahjulike tagajärgede ärahoidmisele. Suure riskiga tehnoloogiaks peetakse sellist tehnoloogiat, millel võivad suure tõenäosusega olla kahjulikud välismõjud ja/või mis puudutavad erilisi kaitsemeetmeid nõudvaid tundlikke küsimusi (mis on samuti määruses määratletud). Määrusega reguleeritakse nii tundlikku üksikisiku õigustega seonduvat küsimust nagu kaugtuvastustehnoloogia, ja kehtestatakse selle kasutamise puhuks rida kaitsemeetmeid. Ühtlasi on kehtestatud väga ranged materiaalsed ja ajalised raamtingimused, mida ametiasutused võivad suures hädakorras erandkorras kohaldada.

     

    Määruse üks eesmärk on kaasata siinse reguleeriva raamistiku kavandamisse, arendamisse, kontrollimisse ja järelevalvesse kõik kodanikud, eelkõige need üksikisikud ja inimrühmad, keda määrus kõige enam mõjutab. Määrusega nähakse ette, et kõik riiklikud järelevalveasutused – mille loomine on määruse kohaselt kohustuslik – on volitatud vajaduse korral kaasama kodanikuühiskonda. Tehisintellekti arendajatele, juurutajatele ja kasutajatele kehtestatakse samuti ranged läbipaistvus- ja aruandekohustused. Lisaks nähakse ette käitumisnõuded kasutajatele ja kasutajate kaitse kõnealuse tehnoloogia heauskse kasutamise korral.

     

    Mõistetavus, läbipaistvus, aruandekohustus, vastutus ja juhtimine

     

    Oleme veel väga kaugel sellest, et algoritmiga luua nn psühhoajalugu, millest räägib Isaac Asimov oma teoses „Asum“. Seetõttu tundub, et inimolemusele omane vaba tahte kontseptsioon ei ole praegu ohus. Sellegipoolest tuleb olla valmis suurteks ajaloolisteks muutusteks. Demokraatlike jõududena peame kindlustama olukorra, kus ei suuri ega väikseid tehisintellekti kasutamise abil vastu võetavaid otsuseid ei langetataks ebaselgete ja mõistetamatute matemaatiliste valemite põhjal. Euroopa Liidus arendatava ja seal toimiva tehisintellekti lahutamatuteks omadusteks peavad olema mõistetavus, läbipaistvus, aruandekohustus ja vastutustundlikkus.

     

    Lõppude lõpuks peab Euroopa Liit olema ruum, kus kodanike õiguste kaitse ja tehnoloogilise arengu edendamine on omavahel tasakaalus. Käesolev määrus ja selle edasiarendamine järelevalveasutuste poolt peab olema ülejäänud maailmale eeskujuks kui esimene samm selle poole, et hakata seda nähtust ülemaailmsel tasandil juhtima.


     

     

     

    VÄLISKOMISJONI ARVAMUS (24.6.2020)

    õiguskomisjonile

    soovitustega komisjonile tehisintellekti, robootika ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    (2020/2012(INL))

    Arvamuse koostaja (*): Urmas Paet

    (*) Kaasatud komisjon – kodukorra artikkel 57

    (Algatus – kodukorra artikkel 47)

     

     

     

     

    ETTEPANEKUD

    Väliskomisjon palub vastutaval õiguskomisjonil

     lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

    1. rõhutab, et Euroopa Liidu ja selle liikmesriikide julgeoleku- ja kaitsepoliitika juhindub Euroopa Liidu põhiõiguste hartas ja Ühinenud Rahvaste Organisatsiooni põhikirjas sätestatud põhimõtetest ning universaalsete põhiväärtuste austamise ühisest käsitusest, mis puudutab inimeste puutumatuid ja võõrandamatuid õigusi, inimväärikust, vabadust, demokraatiat, võrdsust ja õigusriiki; rõhutab, et kõigis liidu raamistikus tehtavates kaitsealastes jõupingutustes tuleb neid universaalseid põhiväärtusi järgida, edendades samal ajal rahu, julgeolekut ja progressi Euroopas ja maailmas; on arvamusel, et tehisintellekti kasutamine peaks põhinema sellistel ühistel eetikapõhimõtetel, nagu vastutus, võrdsus, jälgitavus, usaldusväärsus ja juhitavus;

    2. väljendab heameelt selle üle, et Ühinenud Rahvaste Organisatsiooni teatavate tavarelvade konventsiooni kõrgete konventsiooniosaliste 2019. aasta kohtumisel kiideti heaks autonoomsete relvasüsteemide arendamise ja kasutamise 11 juhtpõhimõtet; peab siiski kahetsusväärseks, et ei ole suudetud kokku leppida autonoomseid surmavaid relvi reguleerivas õiguslikult siduvas õigusaktis koos tõhusa jõustamismehhanismiga; peab tervitatavaks ja toetab komisjoni kõrgetasemelise tehisintellekti eksperdirühma 9. aprillil 2019. aastal avaldatud usaldusväärse tehisintellekti eetikasuuniseid ja rühma seisukohta autonoomsete surmavate relvasüsteemide suhtes; nõuab tungivalt, et liikmesriigid töötaksid välja autonoomsete surmavate relvade määratlemise ja staatuse riiklikud strateegiad, eesmärgiga jõuda liidu tasandi tervikliku strateegiani, ning edendaksid koos liidu kõrge esindaja/komisjoni asepresidendiga ning nõukoguga arutelu autonoomsete, poolautonoomsete ja kaugjuhitavate relvade väljatöötamise ja kasutamise eetilisi ja õiguslikke parameetreid käsitlevate rahvusvaheliste normide kehtestamise üle ÜRO tavarelvade konventsiooni raamistikus ja muudel asjakohastel foorumitel; tuletab sellega seoses meelde oma 12. septembri 2018. aasta resolutsiooni autonoomsete surmavate relvasüsteemide kohta ja nõuab veel kord, et kiiresti töötataks välja ja võetaks vastu ühine seisukoht autonoomsete surmavate relvasüsteemide kohta, eesmärgiga keelustada rahvusvahelisel tasandil kooskõlas maailma kõige silmapaistvamate tehisintellekti valdkonna teadlaste avaldusega nende 2015. aasta avalikus kirjas selliste autonoomsete surmavate relvasüsteemide arendamine, tootmine ja kasutamine, mis võimaldavad korraldada rünnakuid ilma tegeliku inimkontrollita; väljendab heameelt nõukogu ja parlamendi kokkuleppe üle jätta Euroopa Kaitsefondi rahastatud meetmetest välja autonoomsed surmavad relvad, „mille üle puudub sihtmärkide valimisel ja [...] ründamise otsuse tegemisel tegelik inimkontroll“; on veendunud, et tähelepanuta ei tohi jätta muude kaitsevaldkonna tehisintellekti rakenduste, nagu luure, seire ja luure või küberoperatsioonide eetilisi aspekte, ning erilise hoolega tuleb jälgida droonide arendamise ja kasutamise küsimusi sõjalistes operatsioonides;

    3. soovitab, et mis tahes ELi raamistik, mis reguleerib tehisintellektil põhinevate süsteemide kasutust kaitsevaldkonnas – nii lahingu- kui ka muus olukorras – peab järgima kõiki kohaldatavaid õigusrežiime, eelkõige rahvusvahelist humanitaarõigust ja rahvusvahelist inimõigustealast õigust, ning olema kooskõlas liidu õiguse, põhimõtete ja väärtustega; rõhutab, et liit peaks täitma ülemaailmse teejuhi rolli liikumisel usaldusväärse ja siduva tehisintellekti regulatiivraamistiku suunas, mis põhineb demokraatlikel ja inimesekesksetel väärtustel; kutsub liitu ja selle liikmesriike üles töötama välja ühised mehhanismid, et kiiresti ja põhjalikult hinnata tehisintellektiga seotud olemuslikke riske ja võimalusi seoses liidu õiguse kohaldamisega, tuginedes arenenumate liikmesriikide parimatele tavadele, ning nägema vajaduse korral ette võimalikud kohandused ja õigusnormide täitmise tagamise, pidades silmas erinevusi tehnilistes ja julgeolekutaristutes üle kogu liidu;

    4. tunnistab, et erinevalt kaitsetööstuslikust baasist võivad otsustava tähtsusega tehisintellekti uuendused pärineda väikestest liikmesriikidest, mistõttu peaks ÜJKP standardne lähenemisviis tagama, et väiksemaid liikmesriike ja VKEsid ei jäeta kõrvale; rõhutab, et ühised ELi tehisintellekti alased võimekused, mis vastavad liikmesriikide tegevuskontseptsioonidele, võivad ületada tehnilise lõhe, mis võib jätta välja riigid, kellel puudub asjakohane tehnoloogia, selle valdkonna eksperditeadmised või suutlikkus rakendada tehisintellekti süsteeme oma kaitseministeeriumides;

    5. rõhutab, et sellise raamistiku geograafiline kohaldamisala peaks hõlmama kõiki tehisintellekti, robootika ja seonduva tehnoloogia komponente, mida liidus arendatakse, juurutatakse või kasutatakse, sealhulgas juhtudel, kui osa tehnoloogiast võib asuda väljaspool liitu või kui sellel ei ole konkreetset asukohta, näiteks pilvandmetöötluse teenuste puhul;

    6. rõhutab, et kujunemisjärgus tehnoloogiat, mis ei ole rahvusvahelise õigusega hõlmatud, tuleks hinnata humaansuse põhimõtte ja üldkinnistunud arusaamade põhjal; rõhutab, et tehisintellektil põhinevate kaitsesüsteemide kasutamise eetilisust kaitsevaldkonnas tuleb pidevalt hinnata, pidades silmas inimõigusi, eelkõige inimeste ohutust, tervist ja turvalisust, vabadust, eraelu puutumatust, isikupuutumatust ja väärikust, ning seda pidevalt jälgida, eelkõige silmas pidades selle eeliseid ja puudusi, ning ka selle mõju universaalsete inimõiguste kaitsele; on veendunud, et kaitsevaldkonnas kasutatavate tehisintellektil põhinevate süsteemide tehnoloogilised eelised peavad käima käsikäes ulatusliku aruteluga tehisintellekti kasutamise ja selle mõju üle ühiskonnale ja kogukondadele ning majandusliku ja ühiskondliku kasu üle, mida see võib pakkuda, ning et tehisintellekti kasutamisest tulenevatest riskidest tuleb nõuetekohaselt teada anda;

    7. on seisukohal, et liidu raamistikus nii praegu kui ka tulevikus toimuv julgeoleku- ja kaitsealane tegevus tugineb tehisintellektile, robootikale ja autonoomsusele ning sellega seotud tehnoloogiale ning et usaldusväärne, vastupidav ja usaldusväärne tehisintellekt võib anda panuse kaasaegsele ja tõhusale sõjaväele; liit peab seetõttu võtma julgeoleku- ja kaitsevaldkonna tehisintellekti süsteemide teadus- ja arendustegevuses juhtiva rolli; on veendunud, et tehisintellektil põhinevate rakenduste kasutamine julgeoleku- ja kaitsevaldkonnas võib sõjaliste operatsioonide juhtidele pakkuda mitmeid otseseid eeliseid, näiteks kvaliteetsemaid kogutud andmeid, suuremat olukorrateadlikkust, kiiremat otsuste tegemist, vähemat ohtu kaasneva kahju tekkimiseks tänu paremale kaabelühendusele, kohapealsete vägede kaitset ning sõjalise varustuse suuremat töökindlust; rõhutab, et usaldusväärse tehisintellekti arendamine kaitsevaldkonnas on hädavajalik, et tagada Euroopa strateegiline autonoomia sõjaliste võimete ja operatsioonide valdkonnas; tuletab meelde, et tehisintellekti süsteemid on muutumas võtmeelementideks ka uute julgeolekuohtude, näiteks kübersõja ja hübriidsõja vastu võitlemisel nii internetis kui ka väljaspool seda; rõhutab samal ajal kõiki ohte ja probleeme, mis kaasnevad tehisintellekti reguleerimata kasutamisega; märgib, et tehisintellekt puutuda kokku manipuleerimise, vigade ja ebatäpsustega;

    8. nõuab koostoime ja võrkude loomist erinevate Euroopa tehisintellekti valdkonna teaduskeskuste ning muude mitmepoolsete foorumitega, näiteks Euroopa Nõukogu, ÜRO Hariduse, Teaduse ja Kultuuri Organisatsiooni (UNESCO), Majanduskoostöö ja Arengu Organisatsiooni (OECD), Maailma Kaubandusorganisatsiooni ja Rahvusvahelise Telekommunikatsiooniliiduga (ITU), et kooskõlastada jõupingutused ja paremini koordineerida tehisintellekti tehnoloogia arengut;

    9. rõhutab, et tehisintellekti tehnoloogia on oma olemuselt kahese kasutusega, ning tehisintellekti arendamisele kaitsealases tegevuses tuleb kasuks sõjalise ja tsiviiltehnoloogia vaheline koostoime; rõhutab, et kaitsealases tegevuses kasutatav tehisintellekt on valdkonnaülene murranguline tehnoloogia, mille arendamine võib pakkuda võimalusi ELi konkurentsivõime ja strateegilise autonoomia jaoks;

    10. rõhutab, et lähtudes komisjoni 8. aprilli 2019. aasta teatisest „Usalduse loomine inimkeskse tehisintellekti vastu“, mille kohaselt peab tehnoloogia täielikult austama inimõigusi ning inimese võim automatiseeritud otsustussüsteemide üle peab säilima, samal ajal täiendades ja toetades inimese autonoomiat ja otsuste tegemist, vajab liit tugevat tehisintellekti valdkonna õigusraamistikku, mis keskendub julgeolekule ja kaitsele, rajaneb vastutustundlikkusel, läbipaistvusel ning ELi kodanike, nende andmete ja ELi väärtuste kaitsel, ning et selle poliitika eesmärk on hoida rahu, vältida konflikte ja tugevdada rahvusvahelist julgeolekut, kasutades samal ajal ära võimalused, mida need tehnoloogiad pakuvad, ning mõistes, et tehisintellektil põhinevad süsteemid on tuleviku kaitsearenduse ja kaitsevõime võtmeelement;

    11. kutsub liikmesriike ja Euroopa Komisjoni üles tagama, et kaitsesüsteemides kasutatavate algoritmide suhtes kohaldatakse läbipaistvuse põhimõtet, sealhulgas selget vastutuskorda tehisintellekti kasutamise tulemuste eest, säilitades samas vajaliku konfidentsiaalsuse; rõhutab, et selliseid algoritme tuleb pidevalt kohandada tehisintellekti tehnoloogia arenguga;

    12. rõhutab, et liit peab ÜRO teatavate tavarelvade konventsiooni valitsuste eksperdirühma raamistikus ja muudel asjakohastel foorumitel juhtima mitmepoolsete jõupingutuste toetamist, pidama arutelusid tõhusa rahvusvahelise õigusraamistiku üle, mis tagaks tegeliku inimkontrolli autonoomsete relvasüsteemide üle, et neid tehnoloogiaid edasi arendada, luues selleks selgelt määratletud võrdluspõhised protsessid ja võttes vastu õigusaktid nende eetiliseks kasutamiseks ning pidada nõu sõjaväe, tööstuse, õiguskaitse, akadeemiliste ringkondade ja kodanikuühiskonna sidusrühmadega, et mõista nendega seotud eetilisi aspekte, piirata selliste tehnoloogiate olemuslikke riske ning ära hoida nende kasutamine kuritahtlikel eesmärkidel; need hõlmavad eelkõige inimestele soovimatu materiaalse või mittemateriaalse kahju põhjustamist, näiteks põhiõiguste rikkumist või füüsilist kahju; liit peab koostöös liikmesriikidega kindlaks määrama asjakohased vastutuskorrad, mida kohaldatakse tehisintellekti ja muude immersiivsete tehnoloogiate alase innovatsiooni suhtes julgeoleku ja kaitse valdkonnas, luues sellega vastutuse ja jälgitavuse mehhanismidele õigusliku aluse; rõhutab, et mis tahes tulevane tehnoloogiasaavutus, tehisintellekti areng või uued sõjapidamise meetodid ei tohi mööda minna liidu õigusaktidest ja normatiivraamistikest ning seetõttu tuleb neid toetada asjakohaste järelevalvesüsteemidega, mida pidevalt kohandatakse, et vältida seaduselünki või nn halle alasid; rõhutab, et edasine tehisintellekti alane uurimis- ja arendustegevus peaks tagama, et tehisintellektil põhinevad süsteemid on võimelised paremini mõistma ainulaadset konteksti;

    13. kinnitab sisseprojekteeritud eetilisuse peamist põhimõtet, milles eetilised põhimõtted on lõimitud tehisintellekti toodetesse ja teenustesse kavandamisprotsessi algusest peale;

    14. tuletab meelde, et enamik maailma praegustest sõjalistest jõududest juba teeb tehisintellekti sõjalise mõõtme vallas märkimisväärseid teadus- ja arendustegevuse alaseid jõupingutusi; on seisukohal, et liit peab hoolitsema selle eest, et ta ei jääks selles osas maha; rõhutab, et tehisintellektil põhinevate süsteemide kaitserakenduste jaoks peaks liit vastavalt sisseprojekteeritud turve põhimõttele kehtestama tehnilised ja organisatsioonilised standardid, mis võimaldaks konkreetset inimjärelevalvet, et tagada selliste süsteemide vastupanuvõime haavatavusele, mida võidakse ära kasutada välis- ja küberrünnakutes ning digitaalse mõjutamisega, mis on suunatud andmete, mudeli või alustaristu, nii tarkvara kui ka riistvara vastu, ning samuti tagada süsteemide kogu olelusringi vältel nende vastavus kõrgeimatele võimalikele töökindlusstandarditele, ning aktiivne seire ja järelevalve operatiivandmete kogumisel, säilitamisel ja kasutamisel; rõhutab tehisintellekti algoritmide läbipaistvuse ja usaldusväärsuse tähtsust; rõhutab, kui oluline on eristada algoritmide läbipaistvust algoritmide kasutamise läbipaistvusest; rõhutab, et tehisintellekti süsteemid ja rakendused, mille eesmärk on andmetest väljavõtete tegemine ja nende sünteesimine ning nende tulemuste ekstrapoleerimine, et saada teavet kaitse- ja riikliku julgeolekuga seotud otsuste tegemiseks, peavad olema konkreetse ulatusega ning vastama andmete kogumist ja töötlemist käsitlevatele kehtiva õigusraamistiku sätetele; rõhutab, et tehisintellekti rakendused, mis on ette nähtud andmete töötlemiseks luure eesmärgil kaitsealases tegevuses, peaksid vastama andmetöötlusstandarditele, et vältida tahtmatu jälgimise või üksikisiku õiguste rikkumise ohtu; on veendunud, et kõrge riskitasemega tehisintellektil põhinevate tehnoloogiate, näiteks näotuvastuse rakenduste puhul, millel puudub ELi tasandil lõplik õigusraamistik, peab liit tagama, et nende väljatöötamine ja kasutuselevõtt on õiguspärane, proportsionaalne ja austab üksikisikute õigusi; rõhutab, et tehisintellektil põhinevate süsteemide ja tehnoloogiate väljatöötamisel ja kasutuselevõtul peavad pädevad riiklikud õiguskaitseasutused kinni pidama asjakohastest õigusaktidest, et säilitada avalik kord ning leevenda ennetava politseitöö ebaproportsionaalseid riske; tõdeb, et NATO on Euro-Atlandi piirkonna julgeoleku peamine tagaja ning nõuab, et NATO liidu raames tuleb teha tihedamat koostööd kaitseotstarbeliste tehisintellekti süsteemide ühiste standardite ja koostalitluse loomiseks; rõhutab, et Atlandi-ülesed suhted on ühiste väärtuste säilitamiseks ning tulevaste ja tekkivate ohtude tõrjumiseks otsustavalt tähtsad;

    15. rõhutab, et kaitsevaldkonnas kasutatavate tehisintellekti süsteemide kohta on vaja võtta vastu selged sätted ja nõuded usaldusväärsuse, ohutuse ja julgeoleku kohta koos asjakohaste sertifikaatidega, ning kehtestada erinevate etappide (nimelt projekteerimise, tootmise ja toimimise) kohta läbipaistvuskriteeriumid ning korraldada kogu olelusringi vältel pidev järelevalve ning perioodilised testid ja kontrollid; rõhutab vajadust tagada vastavus kohaldatavatele standarditele ja saadud sertifikaatidele, kui tehisintellekt muudab näiteks masinõppe abil nende süsteemide funktsionaalsust ja käitumist, millesse tehisintellekt on integreeritud, et tagada tehisintellekti abil tehtud otsuste ja nende tulemuste täielik jälgitavus, seletatavus ja vastutus samuti sisuline inimkontroll, juhul kui sellised süsteemid võivad inimesi tappa;

    16. palub komisjonil lõimida oma tööstuspoliitikasse suutlikkuse suurendamine küberturvalisuse valdkonnas, et tagada ohutute, vastupanuvõimeliste ja tugevate tehisintellekti- ja robootikasüsteemide arendamine ja kasutuselevõtt; kutsub komisjoni üles uurima plokiahelal põhinevate küberturvalisuse protokollide ja rakenduste kasutamist, et parandada tehisintellekti taristute vastupanuvõimet, usaldusväärsust ja stabiilsust andmete krüptimise vahenduseta mudelite kaudu; soovitab Euroopa sidusrühmadel uurida ja kavandada täiustatud elemente, mis aitaksid avastada mitteusaldusväärseid ja pahatahtlikke tehisintellekti ja robootikasüsteeme, mis võivad kahjustada Euroopa Liidu ja kodanike julgeolekut;

    17. rõhutab, et kõikidel kaitsevaldkonna tehisintellekti süsteemidel peab olema konkreetne ja täpselt määratletud ülesande raamistik, kus inimestel säilitab võimalus tuvastada ja välja lülitada või desaktiveerida kasutuses olevaid süsteeme, kui need väljuvad oma ülesande raamistikus määratletud ja inimese korraldusel määratud kasutusalast või tegutsevad tahtmatult või olukorda pingestavalt; on seisukohal, et tehisintellektil põhinevad ja sõjaliseks kasutuseks mõeldud süsteemid, tooted ja tehnoloogia peaksid olema varustatud nn musta kastiga, mis registreerib kõik masina poolt tehtud andmetehingud;

    18. rõhutab, et tehisintellekti süsteemide projekteerimise, arendamise, kasutuselevõtu ja kasutamise otsuse eest peab täielikult vastutama inimene, kuna mis tahes relvasüsteemi üle peab toimuma sisuline inimese järelevalve ja kontroll, samuti peab inimese tahe jääma määravaks tehisintellektil põhineva relvasüsteemi otsuse puhul kasutada jõudu, millel võib olla surmav tagajärgedega; rõhutab, et inimkontroll peaks kehtima tehisintellektil põhinevate süsteemide juhtimisel ja kontrollimisel, ning järgima inimosaluse, inimsekkumise ja inimkontrolli põhimõtet sõjaväelise juhtkonna tasandil; rõhutab, et tehisintellektil põhinevad süsteemid peavad võimaldama sõjaväe sõjalisel juhtkonnal võtta täieliku vastutuse ja aruandekohustuse surmava jõu kasutamise eest, ning kui selliste süsteemide abil võetakse surmavaid või laiaulatuslikke hävitavaid meetmeid, siis hinnata olukorda ja võtta lähtuvalt eristamise, proportsionaalsuse ja ettevaatuse põhimõttest vastu otsus, mida ei saa usaldada masinale; toonitab vajadust luua selged ja jälgitavad loa- ja vastutusraamistikud arukate relvade ja muude tehisintellektil põhinevate süsteemide kasutuselevõtuks, kasutades kordumatuid kasutajatunnuseid, nagu biomeetrilised spetsifikatsioonid, et neid saaksid kasutusele võtta üksnes volitatud töötajad;

    19. palub komisjonil teha koostööd liikmesriikide pädevate asutuste ja muude sidusrühmadega, kes osalevad tehisintellektil põhinevate süsteemide, toodete ja tehnoloogiate arendamises ja kasutuselevõtus, et luua ohutu, turvaline ja vastupanuvõimeline raamistik, mille puhul tehisintellektil põhinevate süsteemide lähtekoodi jagatakse, jälgitakse ja kontrollitakse, et leevendada võimalikke kõrvalekaldeid julgeoleku ja kaitse valdkonna tehisintellektitehnoloogia aluseks olevatest juhtpõhimõtetest ja eetilisest raamistikust; soovitab komisjonil säilitada liidu rahastatud julgeoleku ja kaitse valdkonna tehisintellektil põhinevate süsteemide, toodete ja tehnoloogiate teemalistes uuringutes liidu intellektuaalõiguse omandiõigus;

    20. rõhutab, et liit peab koostöös sõjaväega edendama paremat arusaamist tehisintellekti, robootika ja autonoomsete funktsioonide ja omaduste sõjalisest mõjust, eelistest, võimalustest ja kohta, sealhulgas nende potentsiaalist Euroopa kaitsetööstuse jaoks; on seisukohal, et liit peab edendama vajalike oskuste ja teadmiste omandamist tehnoloogia arendamise protsesside ja töömeetodite kohta kogu tarneahelas ning tehisintellektil põhinevate sõjaliste võimete kogu olelusringi vältel; rõhutab tungivat vajadust suurendada Euroopa strateegilist ja tehnoloogilist sõltumatust tehisintellektil põhinevate süsteemide valdkonnas, sealhulgas elutähtsate taristute osas, millele see toetub;

    21. on arvamusel, et liikmesriikide ja komisjoni tõhustatud koostöö on vajalik, tagamaks liidus sidusad piiriülesed reeglid, mis ergutavad Euroopa tööstussektorite koostööd ning võimaldavad tehisintellektil põhinevate tehnoloogiate arendamist ja kasutuselevõttu kooskõlas ettenähtud ohutus- ja julgeolekunormidega ning tehisintellekti tehnoloogia arendamist ja kasutuselevõttu reguleeriva eetilise raamistikuga;

    22. tunnistab, et tänapäeva arenenud hübriidsõjas võib info maht ja levimiskiirus kriisi algetapis inimanalüütikutele üle jõu käia ning et tehisintellekti süsteem võiks teavet töödelda, tagamaks, et otsuseid tegevatel inimestel oleks kiireks reageerimiseks vajaliku aja vältel ülevaade kogu teabest;

    23. rõhutab, kui oluline on investeerida inimkapitali arengusse tehisintellekti jaoks, edendada vajalikke oskusi ja haridust julgeoleku- ja kaitseotstarbelise tehisintellekti tehnoloogia valdkonnas, eelkõige seoses eetikaküsimustega inimlikul vastutusel põhinevate poolautonoomsete ja autonoomsete operatsioonisüsteemide vallas; rõhutab eelkõige, kui oluline on tagada, et selle valdkonna eetikaspetsialistidel oleksid asjakohased oskused ja et nad saaksid nõuetekohast koolitust; kutsub komisjoni üles esitama võimalikult kiiresti oma täiendatud oskuste tegevuskava, mis kuulutati välja 19. veebruari 2020. aasta tehisintellekti valges raamatus;

    24. rõhutab, et kvantandmetöötlus võib kujutada endast peale tuumarelvi konflikti olukordades kõige revolutsioonilisemat muutust, ning nõuab seetõttu tungivalt, et kvantandmetöötluse tehnoloogia edasiarendamine oleks liidu ja liikmesriikide prioriteet; tõdeb, et agressiooniaktid, sealhulgas kvantandmetöötluse abil sooritatud rünnakud elutähtsa taristu vastu tekitavad konfliktiolukorra, kus otsustamisaeg väheneb päevadelt ja tundidelt minutitele ja sekunditele, mistõttu liikmesriigid on sunnitud välja töötama enda kaitsmiseks võimed, ning koolitama nii poliitikakujundajaid kui sõjaväelasi sellistes ajalistes raamides tulemuslikult reageerima;

    25. rõhutab vajadust kaotada praegu liidus tehisintellektiga seotud riiklike õigusaktide, teadusuuringute, innovatsiooni ja oskusteabe osas valitsev killustatus, mis seab ohtu siseturu toimimise ja eesmärgi tagada tehisintellekti usaldusväärne ja turvaline areng Euroopas; väljendab sellega seoses heameelt, et tehisintellektiga seotud projektid on lisatud Euroopa kaitsevaldkonna tööstusliku arendamise programmi; on veendunud, et ka tulevane Euroopa Kaitsefond ja alaline struktureeritud koostöö (PESCO) pakuvad tulevaste tehisintellektiga seotud projektide jaoks hästi kohandatud raamistikke, mis aitavad liidu püüdlusi selles valdkonnas paremini ühtlustada, ning edendavad samas liidu eesmärki tugevdada inimõigusi, rahvusvahelist õigust ja mitmepoolseid lahendusi; rõhutab, et tehisintellektiga seotud projektid tuleks sünkroniseerida ELi laiemate tehisintellekti käsitlevate tsiviilprogrammidega; märgib, et kooskõlas Euroopa Komisjoni tehisintellekti valge raamatuga tuleks luua tipptaseme- ja katsekeskused, kus keskendutakse tehisintellektiga seotud uurimis- ja arendustegevusele julgeoleku ja kaitse valdkonnas, koos kindlate spetsifikatsioonidega, mis toetavad erasektori sidusrühmade osalemist ja investeeringuid;

    26. rõhutab, et liit peab püüdma saavutada strateegilise vastupanuvõime, et mitte kunagi enam olla kriisiks ette valmistamata, ning toonitab, et see on otsustavalt tähtis eriti seoses tehisintellekti ja selle rakendamisega kaitse- ning julgeolekuvaldkonnas; rõhutab, et kaitse- ja julgeolekuvaldkonna tehisintellekti süsteemide varustusahelad, mis võivad tekitada tehnoloogilise sõltuvuse, tuleks ümber kujundada ja selline sõltuvus tuleks järk-järgult lõpetada; nõuab investeeringute suurendamist Euroopa kaitseotstarbelisse tehisintellekti ja seda toetavasse elutähtsasse taristusse;

    27. rõhutab, et tehisintellekti arendamine nii, et seejuures austatakse inimõigusi ja arvestatakse avaliku huviga, eeldab andmete strateegilist koondamist ja jagamist ELis era- ja avalike üksuste vahel, samuti liidu tehisintellekti ökosüsteemi tugevdamist, kuhu on kaasatud avalik ja erasektor ning kodanikuühiskonna sidusrühmad; kutsub komisjoni üles edendama dialoogi, tihedamat koostööd ja sünergiat liikmesriikide, teadlaste, akadeemiliste ringkondade, kodanikuühiskonna osalejate ja erasektori, eelkõige juhtivate firmade ja ettevõtete ning sõjaväe vahel, et panna paika kaasavad poliitikakujundamise protsessid seoses kaitsealase tehisintellekti eeskirjadega, kasutada maksimaalselt tehisintellekti potentsiaali, soodustada samal ajal riskide ja kasu paremat mõistmist ning tagada maksimaalne operatiivjulgeolek;

    28. rõhutab, et ulatusliku väärinfosõja raames, mida juhivad eelkõige väljastpoolt Euroopat pärit osalejad, võivad tehisintellekti tehnoloogiad avaldada eetiliselt kahjulikku mõju, kasutades ära andmete ja algoritmide kallutatust või vahetades teadlikult kolmanda riigi masinõppeandmeid, ning ettearvamatul viisil ja mõõtmatute tagajärgedega puutuda kokku ka muude ohtlike kuritahtliku manipuleerimise vormidega; seetõttu on suurenenud vajadus, et liit jätkaks investeerimist teadusuuringutesse, analüüsi, innovatsiooni ning piiriülesesse ja sektoriülesesse teadmussiirdesse, et arendada tehisintellekti tehnoloogiaid, milles selgelt puuduks mis tahes profiilianalüüs, eelarvamused ja diskrimineerimine ning mis võiksid tõhusalt aidata võidelda võltsuudiste ja väärinfo vastu, austades samal ajal andmekaitset ja Euroopa õigusraamistikku;

    29. rõhutab, et tähtis on koostada eetilise käitumise koodeks, mida tuleks järgida tehisintellektil põhinevate relvasüsteemide kasutuselevõtmisel sõjalistes operatsioonides ja mis sarnaneks juba kehtivale reguleerivale raamistikule, mis keelab keemia- ja bioloogiliste relvade kasutamise; on seisukohal, et komisjon peaks kooskõlas rahvusvahelise humanitaarõigusega algatama tehisintellektipõhiste relvasüsteemide sõjategevuses kasutamise kohta standardite koostamise, ning EL peaks püüdma saavutada selliste standardite vastuvõtmise rahvusvahelisel tasandil; on seisukohal, et liit peaks rahvusvahelistel foorumitel ajama tehisintellekti alast diplomaatiat selliste temaga sarnastel seisukohtadel olevate partneritega nagu G7, G20 ja OECD;

    30. võtab teadmiseks Euroopa Komisjoni 19. veebruari 2020. aasta valge raamatu tehisintellekti kohta ja kahetseb, et selles ei võetud arvesse sõjalisi aspekte; palub komisjonil ning liidu välisasjade ja julgeolekupoliitika kõrgel esindajal ja komisjoni asepresidendil esitada üldise lähenemisviisi osana valdkondlik tehisintellekti strateegia kaitsealase tegevuse jaoks liidu raamistikus, millega tagatakse nii kodanike õiguste kui ka liidu strateegiliste huvide austamine ning mis põhineb järjepideval lähenemisviisil, mis hõlmab nii tehisintellektil põhinevate süsteemide loomist kui ka nende sõjalist kasutust, ning luua tehisintellekti kõrgetasemelises eksperdirühmas julgeoleku ja kaitse töörühm, mis peaks tegelema konkreetselt poliitika- ja investeerimisküsimustega ning käsitlema ka eetilisi küsimusi tehisintellekti valdkonnas; kutsub nõukogu, komisjoni ja komisjoni asepresidenti ning liidu välisasjade ja julgeolekupoliitika kõrget esindajat üles alustama sel eesmärgil struktureeritud dialoogi Euroopa Parlamendiga.


    TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

    Vastuvõtmise kuupäev

    22.6.2020

     

     

     

    Lõpphääletuse tulemus

    +:

    –:

    0:

    60

    7

    2

    Lõpphääletuse ajal kohal olnud liikmed

    Alviina Alametsä, Maria Arena, Petras Auštrevičius, Traian Băsescu, Lars Patrick Berg, Anna Bonfrisco, Reinhard Bütikofer, Fabio Massimo Castaldo, Susanna Ceccardi, Włodzimierz Cimoszewicz, Katalin Cseh, Tanja Fajon, Anna Fotyga, Michael Gahler, Kinga Gál, Sunčana Glavak, Raphaël Glucksmann, Klemen Grošelj, Bernard Guetta, Márton Gyöngyösi, Sandra Kalniete, Karol Karski, Dietmar Köster, Stelios Kouloglou, Andrius Kubilius, Ilhan Kyuchyuk, David Lega, Miriam Lexmann, Nathalie Loiseau, Antonio López-Istúriz White, Claudiu Manda, Lukas Mandl, Thierry Mariani, David McAllister, Vangelis Meimarakis, Sven Mikser, Francisco José Millán Mon, Javier Nart, Gheorghe-Vlad Nistor, Urmas Paet, Kostas Papadakis, Tonino Picula, Manu Pineda, Kati Piri, Giuliano Pisapia, Diana Riba i Giner, María Soraya Rodríguez Ramos, Nacho Sánchez Amor, Isabel Santos, Jacek Saryusz-Wolski, Andreas Schieder, Radosław Sikorski, Sergei Stanishev, Tineke Strik, Hermann Tertsch, Hilde Vautmans, Harald Vilimsky, Idoia Villanueva Ruiz, Thomas Waitz, Witold Jan Waszczykowski, Charlie Weimers, Isabel Wiseler-Lima, Željana Zovko

    Lõpphääletuse ajal kohal olnud asendusliikmed

    Katarina Barley, Nicolas Bay, Arnaud Danjean, Katrin Langensiepen, Hannah Neumann, Mick Wallace

     


    NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

    60

    +

    PPE

    Traian Băsescu, Arnaud Danjean, Michael Gahler, Kinga Gál, Sunčana Glavak, Sandra Kalniete, Andrius Kubilius, David Lega, Miriam Lexmann, Antonio López-Istúriz White, Lukas Mandl, David McAllister, Vangelis Meimarakis, Francisco José Millán Mon, Gheorghe-Vlad Nistor, Radosław Sikorski, Isabel Wiseler-Lima, Željana Zovko

    S&D

    Maria Arena, Katarina Barley, Włodzimierz Cimoszewicz, Tanja Fajon, Raphaël Glucksmann, Dietmar Köster, Claudiu Manda, Sven Mikser, Tonino Picula, Kati Piri, Giuliano Pisapia, Nacho Sánchez Amor, Isabel Santos, Andreas Schieder, Sergei Stanishev

    RENEW

    Petras Auštrevičius, Katalin Cseh, Klemen Grošelj, Bernard Guetta, Ilhan Kyuchyuk, Nathalie Loiseau, Javier Nart, Urmas Paet, María Soraya Rodríguez Ramos, Hilde Vautmans

    ID

    Anna Bonfrisco, Susanna Ceccardi

    VERTS

    Alviina Alametsä, Reinhard Bütikofer, Katrin Langensiepen, Hannah Neumann, Diana Riba i Giner, Tineke Strik, Thomas Waitz

    ECR

    Anna Fotyga, Karol Karski, Jacek Saryusz-Wolski, Hermann Tertsch, Witold Jan Waszczykowski, Charlie Weimers

    NI

    Fabio Massimo Castaldo, Márton Gyöngyösi

     

    7

    GUE

    Stelios Kouloglou, Manu Pineda, Idoia Villanueva Ruiz, Mick Wallace

    ID

    Nicolas Bay, Thierry Mariani

    NI

    Kostas Papadakis

     

    2

    0

    ID

    Lars Patrick Berg, Harald Vilimsky

     

    Kasutatud tähised:

    + : poolt

     : vastu

    0 : erapooletu


     

     

    SISETURU- JA TARBIJAKAITSEKOMISJONI ARVAMUS (8.7.2020)

    õiguskomisjonile

    soovitustega komisjonile tehisintellekti, robootika ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    (2020/2012(INL))

    Arvamuse koostaja: Alexandra Geese

    (Algatus – kodukorra artikkel 47)

     

    (*) Kaasatud komisjon – kodukorra artikkel 57

     

     

     

     

     

    ETTEPANEKUD

    Siseturu- ja tarbijakaitsekomisjon palub vastutaval õiguskomisjonil

     lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

     

    A. arvestades, et eetikasuunised, näiteks kõrgetasemelise tehisintellekti eksperdirühma poolt vastu võetud põhimõtted, on hea lähtepunkt, kuid neist ei piisa tagamaks, et ettevõtjad käituvad ausalt ja tagavad tulemusliku tarbijakaitse;

     

    Kohaldamisala

    1. rõhutab, kui oluline on kohaldada ELi õigusraamistikku, mis keskendub tehisintellekti (TI), robootika ja seonduva tehnoloogia eetilistele aspektidele, kui liidus asuvad tarbijad kasutavad või nende suhtes kohaldatakse algoritmilist süsteemi, nad on sellise süsteemi sihtmärk või nad suunatakse selle juurde, olenemata seda süsteemi arendavate, müüvate või rakendavate üksuste asukohast; on ühtlasi veendunud, et õiguskindluse huvides tuleks kehtestatud eeskirju kohaldada kõigi arendajate suhtes ja kogu väärtusahela ulatuses, st asjaomase tehnoloogia ja selle komponentide väljatöötamise, kasutuselevõtu ja kasutamise etapis, ning need peaksid tagama tarbijakaitse kõrge taseme; kordab, kui olulised on aluslepingutes osutatud liidu väärtused, mis puudutavad isikuandmete kaitse ning selge ja teadliku nõusoleku olulisust, ja soovitab võtta neis eeskirjades arvesse kogemusi, mis on saadud üleilmseks võrdlusaluseks peetava määruse (EL) 2016/679[19] (isikuandmete kaitse üldmäärus) rakendamisel; on seisukohal, et ELi tulevase õigusraamistiku jõustamise seisukohast on oluline liidus asutatud seadusliku esindaja olemasolu, kellele saaks taotlusi adresseerida, et võimaldada näiteks tarbijatele kahju hüvitamist;

     

    2. märgib, et ELi õigusraamistikku tuleks kohaldada algoritmiliste süsteemide suhtes, sealhulgas sellistes valdkondades nagu tehisintellekt, asjade internet, masinõpe, reeglipõhised süsteemid, automatiseeritud ja toetatavad otsustusprotsessid ning robootika; märgib lisaks, et välja võiks töötada standardsed ikoonid, mis aitaksid tarbijatele selliseid süsteeme selgitada, kui need süsteemid on olemuselt keerukad või nende abil on võimalik teha otsuseid, millel on tarbijate elule suur mõju;

     

    3. rõhutab, et ELi õigusraamistik peab lähtuma inimkesksest lähenemisviisist ja viima selliste süsteemide väljatöötamiseni, mille puhul võetakse algusest peale arvesse Euroopa eetilisi väärtusi; on seisukohal, et aluslepingutes osutatud liidu väärtustele keskenduv ELi õigusraamistik kujutaks endast lisaväärtust, mis annaks Euroopale ainulaadse konkurentsieelise, suurendaks märkimisväärselt liidu kodanike ja ettevõtete heaolu ja hüvangut ning edendaks siseturgu; rõhutab, et tehisintellekti eetikaraamistik kujutab endast ka lisaväärtust, pidades silmas innovatsiooni edendamist siseturul;

     

     

    4. juhib tähelepanu sellele, et otsusega nr 768/2008/EÜ[20] kehtestatud õigusraamistikuga kehtestatakse tootjatele, importijatele ja turustajatele ühtlustatud kohustuste loetelu, ergutatakse standardite kasutamist ja nähakse sõltuvalt toote ohtlikkusest ette mitu kontrollitasandit; on seisukohal, et seda raamistikku tuleks kohaldada ka toodete suhtes, millesse on sisse ehitatud tehisintellekt;

     

    5. rõhutab, et mis tahes tulevastes õigusaktides tuleks järgida diferentseeritud riskipõhist lähenemisviisi, et võimaldada arendada välja ja võtta kasutusele turvalised ja usaldusväärsed süsteemid koos selgete kriteeriumide ja näitajatega, millele järgneb erapooletu õiguslik hindamine, mis põhineb võimalikul kahjul nii üksikisikule kui ka kogu ühiskonnale või üksikisiku või kogu ühiskonna õiguste rikkumisel, võttes arvesse algoritmilise süsteemi kasutamise konkreetset konteksti; rõhutab, et õiguslikud kohustused ja sertifitseerimisnõuded peaksid järk-järgult suurenema kooskõlas tuvastatud riskitasemega; rõhutab, et madalaimas riskikategoorias ei tohiks olla täiendavaid juriidilisi kohustusi; märgib, et algoritmilisi süsteeme, mis võivad kahjustada üksikisikut, põhjustada üksikisiku õiguste võimalikke rikkumisi või mõjutada üksikisiku juurdepääsu avalikele hüvedele, ei loeta madalaimasse riskikategooriasse kuuluvaks; märgib, et riskipõhine lähenemisviis peaks järgima selgeid ja läbipaistvaid eeskirju, mis tagavad piisava õiguskindluse, kuid on samas tulevikukindlad; nõuab riskide liigitamise süsteemi ja sellega seotud õiguslike kohustuste ühetaolist rakendamist, et tagada liikmesriikide vahel võrdsed tingimused ja vältida siseturu killustumist; rõhutab, et konkreetse süsteemi riskihinnang tuleb korrapäraselt ümber hinnata;

     

    6. tuletab meelde, et komisjon peaks analüüsima kehtivat ELi õigusraamistikku ja selle kohaldamist, sealhulgas tarbijaõigustikku, tootevastutust käsitlevaid õigusakte, tooteohutust käsitlevaid õigusakte ja turujärelevalvet käsitlevaid õigusakte, et teha kindlaks õiguslikud lüngad, samuti kehtivaid regulatiivseid kohustusi; on seisukohal, et see on vajalik selleks, et teha kindlaks, kas kehtiv ELi õigusraamistik suudab reageerida tehisintellekti, robootika ja seonduva tehnoloogia esilekerkimisele ja kas see suudab tagada tarbijakaitse kõrge taseme;

     

    Andmehaldus

    7. rõhutab ELi eetilise ja õigusraamistiku olulisust, sealhulgas eelkõige sätteid, millega nõutakse kvaliteetseid andmeid algoritmiliste süsteemide treenimiseks vastavalt nende kasutusotstarbele; rõhutab sellega seoses vajadust tagada kasutatavate treenimisandmete representatiivsus ja võimaluse korral andmekogumite ning andme- ja agregeerimisstandardite kallutatuse vähendamine, et parandada algoritmiliste süsteemide väljundit ning suurendada tarbijate usaldust ja heakskiitu; rõhutab, et kõnealused andmekogumid peaksid olema pädevate asutuste poolt auditeeritavad alati, kui neil seda teha palutakse, et tagada nende vastavus eelnevalt viidatud põhimõtetele;

     

    Tarbijakaitse: algoritmide läbipaistvus ja selgitatavus

    8. rõhutab, et tarbijate usaldus on hädavajalik selliste tehisintellekti-, robootika- ja seonduva tehnoloogia rakenduste väljatöötamiseks ja kasutamiseks, millega võivad kaasneda riskid, kui need põhinevad läbipaistmatutel algoritmidel ja kallutatud andmekogumitel; on seisukohal, et tarbijatel peaks olema õigus saada arusaadaval, õigeaegsel, standarditud, täpsel ja juurdepääsetaval viisil piisavat teavet algoritmiliste süsteemide olemasolust, põhjendustest, võimalikest tulemustest ja mõjust tarbijate jaoks, sellest, kuidas jõuda otsustusõigusega inimeseni ning kuidas süsteemi otsuseid saaks kontrollida, sisuliselt vaidlustada ja parandada; tuletab meelde, et inimestel peab alati olema võimalus automatiseeritud otsused tühistada; on veendunud, et tarbijaid peaks kaitsma ka õigus TI-süsteem välja lülitada või seda piirata, kasutades võimaluse korral isikustamist; rõhutab, et sellise läbipaistvusraamistiku väljatöötamisel on tähtis proportsionaalsus, et vältida tarbetu koormuse tekitamist väikese riskiga kategooriates tegutsevatele idufirmadele ning väikestele ja keskmise suurusega ettevõtjatele (VKEd);

     

    9. rõhutab vajadust tegeleda mõjusalt algoritmilistest süsteemidest tulenevate probleemidega ning tagada, et tarbijad omaksid mõjuvõimu ja oleksid nõuetekohaselt kaitstud; rõhutab vajadust vaadata kaugemale traditsioonilistest teavitamise ja avalikustamise põhimõtetest, millele tarbijaõigustik on rajatud, kuna vaja on tugevamaid tarbijaõigusi ja selgeid piiranguid algoritmiliste süsteemide väljatöötamisele ja kasutamisele, tagamaks et tehnoloogia aitab kaasa tarbijate elu paremaks muutmisele ja areneb viisil, mis austab põhi- ja tarbijaõigusi ning Euroopa väärtusi;

     

    10. on seisukohal, et väärtustundlikku disaini on väga vaja selleks, et luua tarbijatele tingimused tehisintellekti laialdaseks sotsiaalseks heakskiitmiseks; on seisukohal, et tehisintellekti aluseks peaksid olema õigluse, täpsuse, konfidentsiaalsuse ja läbipaistvuse eetilised väärtused, mis selles kontekstis tähendab, et süsteemi tegevus peaks olema selline, et see ei tekita ebaõiglaselt kallutatud väljundeid;

     

    11. tuletab meelde, kui oluline on tagada tarbijatele mõjusate õiguskaitsevahendite kättesaadavus, ning kutsub liikmesriike ja riiklikke turujärelevalveasutusi üles tagama kättesaadavate, taskukohaste, sõltumatute ja mõjusate menetluste ja läbivaatamisstruktuuride olemasolu, et tagada kõigi selliste väidete erapooletu läbivaatamine inimese poolt, mis on seotud tarbijate õiguste rikkumisega algoritmiliste süsteemide kasutamise kaudu, olenemata sellest, kas need pärinevad avaliku või erasektori osalejatelt; nõuab tungivalt, et kättesaadavaks tehtaks vaidluste lahendamise ja kollektiivse hüvitamise mehhanismid, mis on kooskõlas Euroopa Parlamendi ja nõukogu direktiiviga, mis käsitleb tarbijate kollektiivsete huvide kaitsmise esindushagisid ja millega tunnistatakse kehtetuks direktiiv 2009/22/EÜ[21], et vaidlustada tarbijate õiguste rikkumisi põhjustada võiva süsteemi kasutuselevõtmine või jätkuv kasutamine või heastada õiguste rikkumine; palub komisjonil tagada, et riikide ja Euroopa tasandi tarbijaorganisatsioonidel on piisavalt rahalisi vahendeid, et aidata tarbijatel kasutada oma õigust õiguskaitsele juhtudel, kus TI-rakendustel põhinevate otsustega rikutakse tarbijate õigusi;

     

    12. rõhutab, et kui algoritmilise süsteemi arendamisel või rakendamisel on lisaks avatud hangetele ja avatud lepingustandarditele kasutatud märkimisväärselt ka avalikest allikatest pärit vahendeid, võiksid kood, genereeritud andmed (niivõrd kui need ei ole isiklikud) ja treenitud mudel olla arendaja nõusolekul vaikimisi avalikud, et tagada läbipaistvus, suurendada küberturvalisust ja võimaldada nende taaskasutamist, et edendada innovatsiooni; rõhutab, et sellisel viisil on võimalik ära kasutada ühtse turu kogu potentsiaal, vältides turu killustumist;

     

    Siseturg: tarbijate teavitamine ja teadlikkus

    13. rõhutab, kui oluline on tagada kõigi tarbijate, sealhulgas tõrjutud või haavatavas olukorras olevate tarbijate, näiteks puuetega inimeste huvide piisav arvessevõtmine ja esindatus ELi tulevases õigusraamistikus; märgib, et selleks, et analüüsida algoritmiliste süsteemide mõju tarbijatele, võiks andmetele juurdepääsu laiendada asjaomastele osalistele, eelkõige sõltumatutele teadlastele, meediale ja kodanikuühiskonna organisatsioonidele, võimaluse korral rakendusliideste (API) kaudu, järgides samal ajal täielikult liidu andmekaitset ja eraelu puutumatust käsitlevaid õigusakte ning ärisaladust käsitlevaid õigusakte; tuletab meelde, kui oluline on tarbijate harimine, et suurendada nende teadlikkust ja oskusi algoritmiliste süsteemidega ümberkäimisel, et kaitsta neid võimalike ohtude eest ja kaitsta nende õigusi; on seisukohal, et tehisintellektil, asjade internetil ja muudel kujunemisjärgus tehnoloogiatel on tohutu potentsiaal pakkuda tarbijatele võimalusi pääseda juurde mitmetele mugavustele, mis lihtsustavad nende igapäevaelu mitmel viisil ja võimaldavad paremaid tooteid ja teenuseid, aidates tarbijatel samal ajal saada kasu ka paremast turujärelevalvest, tingimusel et jätkuvalt kohaldatakse kõiki kohaldatavaid põhimõtteid, tingimusi (sh läbipaistvus ja auditeeritavus) ja eeskirju;

     

    14. rõhutab, kui oluline on saavutada üldise digikirjaoskuse kõrge tase ja koolitada kõrgelt kvalifitseeritud spetsialiste selles valdkonnas ning tagada selliste kvalifikatsioonide vastastikune tunnustamine kogu liidu piires; rõhutab vajadust arendajatest ja inseneridest koosnevate mitmekesiste meeskondade järele, kes töötavad koos peamiste ühiskondlike osalejatega, et vältida sooliste ja kultuuriliste eelarvamuste tahtmatut lisamist tehisintellekti algoritmidesse, süsteemidesse ja rakendustesse; toetab õppekavade loomist ja tegevusi üldsuse teadlikkuse suurendamiseks tehisintellekti ühiskondliku, õigusliku ja eetilise mõju kohta;

     

    15. kutsub komisjoni üles edendama ja rahastama sellise inimkeskse tehisintellekti, robootika ja seonduva tehnoloogia arendamist, mille abil tegeletakse keskkonna- ja kliimaprobleemidega ning mis tagab võrdse juurdepääsu põhiõigustele ja nende kasutamise, fiskaal-, hankealaste või muude stiimulite kasutamise kaudu;

     

    16. rõhutab, et tehisintellekt ja algoritmilised süsteemid peaksid olema õiguslikult kooskõlas, töökindlad, usaldusväärsed ja sisseprojekteeritud turbega; kutsub komisjoni üles tagama, et liidu regulatiivne lähenemine algoritmilistele süsteemidele hõlmaks asjakohaseid meetmeid, et võimaldada allutada sellised süsteemid sõltumatule kontrollile ja järelevalvele;

     

    Turujärelevalve

    17. nõuab, et loodaks Euroopa eksperdikeskus, mis suurendab liidu suutlikkust ja rajaneb võimalikult suurel määral olemasolevatel struktuuridel, et edendada algoritmiliste süsteemidega seotud teabevahetust liikmesriikide ametiasutuste vahel ning toetada ühtse seisukoha kujundamist ühtsel turul, andes liikmesriikide ametiasutustele suuniseid, arvamusi ja eksperditeadmisi, jälgides asjakohaste liidu õigusaktide rakendamist, käsitledes võimalikke tarbijakaitseküsimusi, määrates kindlaks parimate tavade standardid ja andes vajaduse korral soovitusi regulatiivsete meetmete kohta; nõuab lisaks, et sidusrühmade organisatsioonid, näiteks tarbijakaitseorganisatsioonid, annaksid sellele struktuurile asjakohast nõu, et tagada tarbijate laialdane esindatus; on seisukohal, et algoritmiliste süsteemide ebaproportsionaalse mõju tõttu naistele ja vähemustele peaksid sellise struktuuri otsustustasandid olema mitmekesised ja sooliselt tasakaalustatud; rõhutab, et liikmesriigid peavad oma riiklike turujärelevalve strateegiate raames töötama tehisintellekti jaoks välja riskijuhtimisstrateegiad;

     

    18. nõuab, et komisjon esitaks ettepaneku andmete jälgitavust tagavate meetmete kohta, pidades silmas nii andmete omandamise seaduslikkust kui ka tarbijaõiguste ja põhiõiguste kaitset; rõhutab, et seni tuleks algoritmiliste süsteemide arendamisel ja kasutuselevõtmisel kasutatavad andmekogumid, algoritmid ja protsessid, sealhulgas andmete kogumiseks ja märgistamiseks, dokumenteerida kooskõlas tööstusharu standardiga; märgib, et on oluline, et riskihindamise dokumentatsioon, tarkvara dokumentatsioon, algoritmid ning tehisintellekti, robootika ja seonduva tehnoloogia poolt kasutatavad või loodavad andmekogumid oleksid turujärelevalveasutustele kättesaadavad ja selgitatavad, järgides samal ajal liidu õigust ja austades ärisaladusi; märgib lisaks, et sellist dokumentatsiooni peaksid säilitama algoritmiliste süsteemide arendamise eri etappides osalejad; märgib, et turujärelevalveasutustele tuleks sellega seoses anda lisaõigusi; on seisukohal, et kehtivad turujärelevalvet käsitlevad õigusaktid võib olla vaja läbi vaadata, et vältida nende aegumist ja tagada, et need vastavad eetiliselt tehisintellekti, robootika ja seonduva tehnoloogia esilekerkimisele;

     

    19. nõuab, et iga liikmesriik määraks pädeva riikliku asutuse, kes jälgib algoritmiliste süsteemidega seotud sätete kohaldamist, ja rahastaks seda asutust piisavalt; rõhutab vajadust suurendada riikide turujärelevalveasutuste suutlikkust, oskusi ja pädevusi tehisintellekti valdkonnas, samuti teadmisi tehisintellekti spetsiifilistest riskidest;

     

    20. nõuab liikmesriikide ametiasutuste tugevat koordineerimist ja riikide ametiasutustest koosneva algoritmiliste süsteemide Euroopa turujärelevalve nõukogu loomist, et tagada tulemuslik järelevalve ja võrdsed tingimused Euroopas ning vältida siseturu killustumist;

     

    21. tunnustab kõrgetasemelise tehisintellekti eksperdirühma töö väärtuslikke tulemusi, eelkõige eetikasuuniseid usaldusväärse tehisintellekti arendamiseks; teeb ettepaneku, et see rühm, kuhu kuuluvad akadeemiliste ringkondade, kodanikuühiskonna ja tööstuse esindajad ning Euroopa tehisintellekti liit, võiks anda algoritmiliste süsteemide Euroopa turujärelevalve nõukogule oskusteavet;

     

    22. märgib, et eelkõige ettevõtja ja tarbija vaheliste tehingute valdkonnas peaksid süsteemid olema kasutajakesksed ja kavandatud viisil, mis võimaldab TI-tooteid või -teenuseid kasutada igaühel, olenemata tema vanusest, soost, võimetest või omadustest; märgib, et eriti oluline on selle tehnoloogia juurdepääsetavus puuetega inimestele; märgib, et TI-süsteemidele ei tohiks olla kõigile ühtmoodi sobivat lähenemist ning nende puhul tuleks kaaluda universaaldisaini põhimõtteid, mis on suunatud võimalikult paljudele kasutajatele, järgides asjakohaseid juurdepääsetavusstandardeid; rõhutab, et see võimaldab üksikisikute võrdset juurdepääsu olemasolevale ja kujunemisjärgus arvutivahendatud inimtegevusele ja tugitehnoloogiale ning võimaldab neil selles aktiivselt osaleda.

     


    TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

    Vastuvõtmise kuupäev

    7.7.2020

     

     

     

    Lõpphääletuse tulemus

    +:

    –:

    0:

    39

    1

    4

    Lõpphääletuse ajal kohal olnud liikmed

    Alex Agius Saliba, Andrus Ansip, Alessandra Basso, Brando Benifei, Adam Bielan, Hynek Blaško, Biljana Borzan, Vlad-Marius Botoş, Markus Buchheit, Dita Charanzová, Deirdre Clune, David Cormand, Petra De Sutter, Carlo Fidanza, Evelyne Gebhardt, Alexandra Geese, Sandro Gozi, Maria Grapini, Svenja Hahn, Virginie Joron, Eugen Jurzyca, Arba Kokalari, Marcel Kolaja, Kateřina Konečná, Andrey Kovatchev, Jean-Lin Lacapelle, Maria-Manuel Leitão-Marques, Adriana Maldonado López, Antonius Manders, Beata Mazurek, Leszek Miller, Kris Peeters, Anne-Sophie Pelletier, Christel Schaldemose, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Kim Van Sparrentak, Marion Walsmann, Marco Zullo

    Lõpphääletuse ajal kohal olnud asendusliikmed

    Pascal Arimont, Maria da Graça Carvalho, Edina Tóth, Stéphanie Yon-Courtin


     

    NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

    39

    +

    PPE

    S&D

    RENEW

    Verts/ALE

    ECR

    GUE/NGL

    NI

    Pascal Arimont, Maria da Graça Carvalho, Deirdre Clune, Arba Kokalari, Andrey Kovatchev, Antonius Manders, Kris Peeters, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Edina Tóth, Marion Walsmann

    Alex Agius Saliba, Brando Benifei, Biljana Borzan, Evelyne Gebhardt, Maria Grapini, MariaManuel LeitãoMarques, Adriana Maldonado López, Leszek Miller, Christel Schaldemose

    Andrus Ansip, VladMarius Botoş, Dita Charanzová, Sandro Gozi, Svenja Hahn, Stéphanie YonCourtin

    David Cormand, Petra De Sutter, Alexandra Geese, Marcel Kolaja, Kimvan Sparrentak

    Adam Bielan, Carlo Fidanza, Eugen Jurzyca, Beata Mazurek

    Kateřina Konečná, AnneSophie Pelletier

    Marco Zullo

     

    1

    ID

    Hynek Blaško

     

    4

    0

    ID

    Alessandra Basso, Markus Buchheit, Virginie Joron, JeanLin Lacapelle

     

    Kasutatud tähised:

    + : poolt

     : vastu

    0 : erapooletu


     

     

     

    TRANSPORDI- JA TURISMIKOMISJONI ARVAMUS (16.7.2020)

    õiguskomisjonile

    soovitustega komisjonile tehisintellekti, robootika ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    (2020/2012(INL))

    Arvamuse koostaja: Valter Flego

    (*) Kaasatud komisjon – kodukorra artikkel 57

     

     

    (Algatus – kodukorra artikkel 47)

     

     

    ETTEPANEKUD

    Transpordi- ja turismikomisjon palub vastutaval õiguskomisjonil lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

    A. arvestades, et tehisintellekt on transpordisektori jaoks strateegilise tähtsusega tehnoloogia vorm ning peaks tooma kasu kodanikele ja ühiskonnale, parandades elukvaliteeti, tõstes kõigi transpordiliikide ohutustaset ning luues uusi töövõimalusi ja kestlikumaid ärimudeleid; arvestades, et tehisintellekt võib ühiskonda märkimisväärselt muuta, eelkõige juhul, kui see tehakse laialdaselt kättesaadavaks ja ligipääsetavaks;

    B. arvestades, et transpordisektoris saab tehisintellekti täit potentsiaali ära kasutada ainult siis, kui kasutajad on teadlikud sellise tehnoloogia pakutavatest võimalikest eelistest ja probleemidest; arvestades, et seda küsimust tuleb käsitleda hariduses ja koolituses, pidades sealhulgas silmas e-kaasatuse edendamist, ning liidu tasandil tuleb korraldada teabekampaaniaid, mis kajastaksid täpselt tehisintellekti arendamise kõiki aspekte;

    C. arvestades, et Euroopa lähenemisviis tehisintellektile, robootikale ja seonduvale tehnoloogiale peab olema kooskõlas eetiliste põhimõtetega, et tagada tehisintellekti, robootika ja seonduva tehnoloogia inimkesksus, suurendada inimeste heaolu, ohutust ning ühiskonna ja keskkonna heaolu, tegeleda asjakohaste eetiliste dilemmadega, austada täielikult liidu põhiõigusi, väärtusi ja põhimõtteid ning olla täielikult kooskõlas eraelu puutumatust ja andmekaitset käsitlevate liidu õigusaktidega; arvestades, et sellise lähenemisviisi raames tuleb käsitleda ka algoritmilistes süsteemides kasutatavate andmekogumite kvaliteedi, algoritmide endi ning andmete ja agregeerimisstandarditega seotud küsimusi;

    D. arvestades, et usaldusväärne tehisintellekt peab põhinema neljal eetikapõhimõttel: inimeste autonoomia austamine, kahju tegemisest hoidumine, õiglus ja seletatavus; arvestades, et nimetatud eetiliste põhimõtete järgimiseks on vaja võtta vastu erinormid liidu transpordisektori jaoks;

    E. arvestades, et kõigist liidus toimuvatest liiklusõnnetustest on ligi 95 % ikka veel seotud inimliku eksimusega; arvestades, et liidu eesmärk oli vähendada 2020. aastaks liiklussurmade arvu liidus 50 % võrra võrreldes 2010. aastaga, kuid olukorra vähest paranemist silmas pidades tegi liit uusi jõupingutusi liiklusohutuse poliitikaraamistikus aastateks 2021–2030, kavandades edasised sammud liiklussurmade nulltaseme suunas; arvestades, et sellega seoses on tehisintellektil, automatiseerimisel ja muudel uutel tehnoloogiatel liiklusohutuse suurendamise seisukohast suur potentsiaal ja eluline tähtsus, kuna need vähendavad inimliku eksimuse võimalusi;

    F. arvestades, et tehisintellekt, automatiseerimine ja muud uued tehnoloogiad võivad aidata ka vähendada liiklusummikuid ning kasvuhoonegaaside ja õhusaasteainete heitkoguseid;

    G. arvestades, et eetiliselt vastutustundliku, inimkeskse ja tehnoloogiliselt vastupidava tehisintellekti, robootika ja seonduva tehnoloogia tootmine transpordisektoris annab liidu ettevõtjatele, sealhulgas VKEdele, ärivõimaluse tõusta selles valdkonnas maailmas esirinda;

    H. arvestades, et sellised uued ärivõimalused võivad aidata kaasa liidu tööstuse taastumisele pärast praegust tervise- ja majanduskriisi ning tehisintellekti tehnoloogia suuremale kasutamisele transpordisektoris; arvestades, et sellised võimalused loovad uusi töökohti, kuna tehisintellekti ja seonduva tehnoloogia kasutuselevõtt võib suurendada ettevõtete tootlikkust ja aidata edendada tõhusust; arvestades, et selle valdkonna innovatsiooniprogrammid võivad anda piirkondlikele klastritele võimaluse jõudsalt areneda;

    I. arvestades, et Euroopa lähenemisviis tehisintellekti, robootika ja seonduva tehnoloogia arendamisele transpordis võib suurendada liidu majanduse ülemaailmset konkurentsivõimet ja strateegilist autonoomiat;

    J. arvestades, et sellistes sektorites nagu ühistransport võib intelligentsete transpordisüsteemide tehisintellektisüsteeme kasutada järjekordade vähendamiseks, marsruudi optimeerimiseks, puuetega inimestele suurema iseseisvuse võimaldamiseks ning energiatõhususe suurendamiseks, mis aitaks kaasa süsinikuheite vähendamiseks tehtavatele jõupingutustele ja vähendaks keskkonnajalajälge;

    1. rõhutab tehisintellekti, robootika ja seonduva tehnoloogia kasutamise potentsiaali kõigi autonoomsete maantee-, raudtee-, vee- ja lennutranspordi liikide puhul ning samuti ühelt transpordiliigilt teisele ülemineku ja ühendvedude edendamisel, kuna sellised tehnoloogiad võivad aidata leida kaupade ja reisijate veoks optimaalset transpordiliikide kombinatsiooni; rõhutab lisaks nende potentsiaali muuta transpordi-, logistika- ja liiklusvood tõhusamaks ning muuta kõik transpordiliigid ohutumaks, arukamaks ja keskkonnasõbralikumaks; juhib tähelepanu sellele, et eetilist lähenemisviisi tehisintellektile võib näha ka varajase hoiatamise süsteemina, eelkõige seoses transpordi ohutuse ja tõhususega;

    2. rõhutab asjaolu, et ülemaailmne konkurents äriühingute ja majanduspiirkondade vahel kohustab liitu edendama investeeringuid ja tugevdama transpordisektoris tegutsevate äriühingute rahvusvahelist konkurentsivõimet, luues tehisintellekti lahenduste ja edasiste uuenduste väljatöötamiseks ja rakendamiseks soodsa keskkonna, kus liidus asuvad ettevõtjad võivad saada tehisintellekti tehnoloogiate arendamisel maailmas juhtivaks jõuks;

    3. rõhutab, et ELi transpordisektoris on vaja ajakohastada õigusraamistikku, mis käsitleb selliseid kujunemisjärgus tehnoloogiaid ja nende kasutamist transpordisektoris, ning luua selge eetiline raamistik usaldusväärse tehisintellekti saavutamiseks, mis hõlmab ohutust, turvalisust, inimeste sõltumatuse austamist, järelevalvet ja vastutust käsitlevaid aspekte, ning see suurendab kasu, mida jagavad kõik ja mis on esmatähtis, et suurendada investeeringuid, mida tehakse teadusuuringutesse ja innovatsiooni, oskuste arendamisse ja tehisintellekti kasutuselevõttu avalike teenuste, VKEde, idufirmade ja ettevõtjate poolt, tagades samal ajal andmekaitse ja koostalitlusvõime, ilma et see tekitaks ettevõtjatele ja tarbijatele liigset halduskoormust; rõhutab, et äärmiselt oluline on tagada, et nende kujunemisjärgus tehnoloogiatega seotud õigusraamistiku ajakohastamine põhineks alati tegelikul vajadusel ja oleks kooskõlas parema õigusloome põhimõttega, ning sellega seoses

    a) kutsub komisjoni üles kehtestama transpordisektoris tehisintellekti, robootika ja seonduva tehnoloogia arendamisel, kasutuselevõtmisel ja kasutamisel järgitavate eetikapõhimõtete selge raamistiku; mis tahes tehisintellekti, robootika ja seonduva tehnoloogia väljatöötamine, kasutuselevõtt ja kasutamine transpordisektoris peab toimuma kooskõlas nimetatud eetikapõhimõtetega;

    b) soovitab kehtestada suunised kõikides transpordiliikides kasutatavate tehisintellektil põhinevate tehnoloogiate ühtlustatud riskiastme liigituse kohta, mis hõlmaks inimestele ja tehisintellektile määratud funktsioone sõidukis ning selgitaks ohutusega seotud kohustusi ja nõudeid;

    c) palub, et komisjon uuriks olemasoleva Euroopa turujärelevalve struktuuri kasutamist algoritmiliste süsteemide jaoks, sealhulgas seonduvaid andmekaitsesätteid, et pakkuda liikmesriikide ametiasutustele suuniseid, arvamusi ja eksperditeadmisi, sealhulgas ka koostalitlusvõime kohta;

    d) kutsub komisjoni üles looma intelligentsete transpordisüsteemide jaoks tehisintellekti riskiklassifikatsiooni süsteemi, mis oleks kooskõlas kõrgetasemelise eksperdirühma hindamistega ning aitaks paremini reageerida transpordisektori esilekerkivatele vajadustele;

    e) kutsub komisjoni üles pöörama erilist tähelepanu VKEde olukorrale ja kavandama tulevasi õigusakte viisil, mis parandaks selliste ettevõtjate võimalusi tehisintellekti tehnoloogia arendamiseks ja kasutamiseks;

    f) peab vajalikuks anda lõppkasutajatele üksikasjalikku teavet transpordisüsteemide ja tehisintellektil põhinevate sõidukite toimimise kohta;

    4. rõhutab, et Euroopa lähenemisviis tehisintellekti tehnoloogiale peaks tagama inimeste usalduse, teenima avalikke huve ja tugevdama jagatud sotsiaalset vastutust; on seisukohal, et usaldusväärse, eetiliselt vastutustundliku ja tehniliselt töökindla tehisintellekti arendamine võimaldab olulisel määral saavutada kestlikku ja arukat liikuvust, mis on ohutu ja ligipääsetav; kutsub sellega seoses komisjoni üles jätkama tehisintellekti kasutuselevõtu edendamist transpordisektoris ning esitama liidu põhiõiguste järgimise tagamiseks viivitamata ja tihedas koostöös kõigi transpordisektori sidusrühmadega ettepanekuid vastavate muudatuste tegemiseks liidu õigusaktides;

    5. rõhutab, et tehisintellekti arendamine ja kasutuselevõtt teeb võimalikuks ohutud ja ligipääsetavad transporditeenused;

    6. soovitab töötada välja kogu liitu hõlmavad usaldusväärsed tehisintellekti standardid, mis kehtiksid kõigi transpordiliikide, sealhulgas autotööstuse suhtes ja käsitleksid seonduva riistvara ohutust, koostalitlusvõimet, tehnilist töökindlust, parandatavust ja ringlussevõetavust, et lahendada seejuures ressursitõhususe, eraelu puutumatuse, andmekaitse ja läbipaistvusega seotud probleeme, ning millest lähtutaks ka tehisintellektil põhinevate sõidukite ja seonduvate toodete ja teenuste katsetamisel;

    7. kutsub komisjoni üles tegema liidus usaldusväärse tehisintellekti standardite väljatöötamisel, rakendamisel ja täitmise tagamisel liikmesriikidega tihedat koostööd; märgib, et liidul on potentsiaal saavutada tehisintellekti tehnoloogia ja selle kasutamise sotsiaalselt vastutustundliku ja kestliku käsitlusviisi edendamisel üleilmne juhtpositsioon;

    8. kutsub komisjoni üles uurima võimalust usaldada ühele või mitmele asjaomasele olemasolevale liidu tasandi ametile, institutsioonile või asutusele järelevalve-, täitmise tagamise ja karistusmehhanismid ning uurima, kuidas saaks transpordisektoris olemas olevaid järelevalve- ja kontrollivahendeid varustada ja kasutada selliste meetmete võtmiseks, millega oleks tagatud järelevalve liidu tasandil ja mis võimaldaksid komisjonil võtta meetmeid, kui transpordis kasutatav tehisintellektisüsteem rikub põhiõigusi või Euroopa eetika- ja julgeolekuraamistiku nõudeid;

    9. kutsub komisjoni üles jätkuvalt toetama usaldusväärsete tehisintellektisüsteemide arendamist, et muuta transport ohutumaks, tõhusamaks, ligipääsetavamaks, taskukohasemaks ja kaasavamaks, sealhulgas piiratud liikumisvõimega isikute, eelkõige puuetega inimeste jaoks, võttes arvesse Euroopa Parlamendi ja nõukogu direktiivi (EL) 2019/882[22] ning reisijate õigusi käsitlevaid liidu õigusakte;

    10. juhib tähelepanu autonoomsete sõidukite suurele lisaväärtusele piiratud liikumisvõimega isikute jaoks, kuna sellised sõidukid võimaldavad neil osaleda tõhusamalt eraviisilises maanteeliikluses ja lihtsustavad seeläbi nende igapäevaelu;

     

    11. rõhutab ligipääsetavuse tähtsust, eriti „liikuvus kui teenus“ (MaaS) tüüpi süsteemide kavandamisel;

     

    12. toonitab, et andmeteadusel on mittediskrimineerivate tehisintellektisüsteemide kavandamisel ja kahjustatud andmete kasutamise vältimisel otsustav tähtsus; soovitab lisaks järgida andmetöötlusmenetlusi, mis on kooskõlas isikuandmete kaitse üldmäärusega ning järgivad konfidentsiaalsuse ja mittediskrimineerimise põhimõtteid;

     

    13. märgib, et tehisintellektisüsteemid võivad aidata märkimisväärselt vähendada liiklussurmade arvu, näiteks reageerimisaja parandamise ja õigusnormide parema järgimise kaudu; on siiski seisukohal, et autonoomsete sõidukite kasutamisega ei ole võimalik kaotada kõiki õnnetusi, ning rõhutab, et seetõttu muutub üha olulisemaks tehisintellekti otsuste seletatavus, et põhjendada tehisintellekti otsuste puudusi ja soovimatuid tagajärgi;

     

    14. on seisukohal, et tehisintellekti otsuseid ja nende otsuste aluseks olevaid mis tahes asjakohaseid andmeid peab alati olema võimalik lõppkasutajatele ja muudele sidusrühmadele mittetehnilises keeles selgitada;

     

    15. märgib, et tehisintellekti arendamine ja rakendamine transpordisektoris ei ole võimalik ilma kaasaegse taristuta, mis on intelligentsete transpordisüsteemide oluline osa; rõhutab, et liikmesriikide arengutaseme püsivad erinevused tekitavad ohu, et vähim arenenud piirkonnad ja nende elanikud jäävad autonoomse liikuvuse arendamisest saadavast kasust ilma; nõuab, et hinnataks tööturu tulevikuprobleeme, mis tulenevad tehisintellekti tehnoloogiate arengust transpordisektoris, ning et liidu taristu ajakohastamist, sealhulgas selle integreerimist 5G-võrku, rahastataks piisavalt.


    TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

    Vastuvõtmise kuupäev

    14.7.2020

     

     

     

    Lõpphääletuse tulemus

    +:

    –:

    0:

    49

    0

    0

    Lõpphääletuse ajal kohal olnud liikmed

    Magdalena Adamowicz, Andris Ameriks, José Ramón Bauzá Díaz, Izaskun Bilbao Barandica, Marco Campomenosi, Ciarán Cuffe, Jakop G. Dalunde, Johan Danielsson, Andor Deli, Karima Delli, Anna Deparnay-Grunenberg, Ismail Ertug, Gheorghe Falcă, Giuseppe Ferrandino, Mario Furore, Søren Gade, Isabel García Muñoz, Jens Gieseke, Elsi Katainen, Kateřina Konečná, Elena Kountoura, Julie Lechanteux, Bogusław Liberadzki, Benoît Lutgen, Elżbieta Katarzyna Łukacijewska, Marian-Jean Marinescu, Tilly Metz, Giuseppe Milazzo, Cláudia Monteiro de Aguiar, Caroline Nagtegaal, Jan-Christoph Oetjen, Philippe Olivier, Rovana Plumb, Dominique Riquet, Dorien Rookmaker, Massimiliano Salini, Barbara Thaler, István Ujhelyi, Elissavet Vozemberg-Vrionidi, Lucia Vuolo, Roberts Zīle, Kosma Złotowski

    Lõpphääletuse ajal kohal olnud asendusliikmed

    Leila Chaibi, Angel Dzhambazki, Markus Ferber, Carlo Fidanza, Maria Grapini, Roman Haider, Alessandra Moretti

     


    NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

    49

    +

    ECR

    Angel Dzhambazki, Carlo Fidanza, Roberts Zīle, Kosma Złotowski

    GUE/NGL

    Leila Chaibi, Kateřina Konečná, Elena Kountoura

    ID

    Marco Campomenosi, Roman Haider, Julie Lechanteux, Philippe Olivier, Lucia Vuolo

    NI

    Dorien Rookmaker, Mario Furore,

    PPE

    Magdalena Adamowicz, Andor Deli, Gheorghe Falcă, Markus Ferber, Jens Gieseke, Benoît Lutgen, Marian-Jean Marinescu, Giuseppe Milazzo, Cláudia Monteiro de Aguiar, Massimiliano Salini, Barbara Thaler, Elissavet Vozemberg-Vrionidi, Elżbieta Katarzyna Łukacijewska

    Renew

    José Ramón Bauzá Díaz, Izaskun Bilbao Barandica, Søren Gade, Elsi Katainen, Caroline Nagtegaal, Jan-Christoph Oetjen, Dominique Riquet

    S&D

    Andris Ameriks, Johan Danielsson, Ismail Ertug, Giuseppe Ferrandino, Isabel García Muñoz, Maria Grapini, Bogusław Liberadzki, Alessandra Moretti, Rovana Plumb, István Ujhelyi

    Verts/ALE

    Ciarán Cuffe, Jakop G. Dalunde, Karima Delli, Anna Deparnay-Grunenberg, Tilly Metz

     

    0

     

     

     

    0

    0

     

     

     

    Kasutatud tähised:

    + : poolt

     : vastu

    0 : erapooletu

     


     

     

    KODANIKUVABADUSTE, JUSTIITS- JA SISEASJADE KOMISJONI ARVAMUS (22.9.2020)

    õiguskomisjonile

    soovitustega komisjonile tehisintellekti, robootika ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    (2020/2012(INL))

    Arvamuse koostaja (*): Assita Kanko

    (*) Kaasatud komisjon – kodukorra artikkel 57

     

     

    (Algatus – kodukorra artikkel 47)

     

     

    ETTEPANEKUD

    Kodanikuvabaduste, justiits- ja siseasjade komisjon palub vastutaval õiguskomisjonil lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

     võttes arvesse Euroopa Liidu lepingu artikleid 2 ja 3,

     võttes arvesse Euroopa Liidu toimimise lepingu artikleid 10, 19, 21 ja 167,

     võttes arvesse petitsiooniõigust, mis on sätestatud Euroopa Liidu toimimise lepingu artiklites 20 ja 227 ning Euroopa Liidu põhiõiguste harta artiklis 44,

     võttes arvesse Euroopa Liidu põhiõiguste harta artikleid 21 ja 22,

     võttes arvesse Euroopa Liidu lepingu preambulit,

     võttes arvesse Euroopa Nõukogu rahvusvähemuste kaitse raamkonventsiooni, inimõiguste ja põhivabaduste kaitse konventsiooni protokolli nr 12 ning Euroopa piirkondlike ja vähemuskeelte hartat,

     võttes arvesse nõukogu 29. juuni 2000. aasta direktiivi 2000/43/EÜ, millega rakendatakse võrdse kohtlemise põhimõte sõltumata isikute rassilisest või etnilisest päritolust[23] (rassilise võrdõiguslikkuse direktiiv),

     võttes arvesse nõukogu 27. novembri 2000. aasta direktiivi 2000/78/EÜ, millega kehtestatakse üldine raamistik võrdseks kohtlemiseks töö saamisel ja kutsealale pääsemisel[24] (võrdse tööalase kohtlemise direktiiv),

     võttes arvesse Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta määrust (EL) 2016/679 füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta[25] (isikuandmete kaitse üldmäärus) ning Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta direktiivi (EL) 2016/680 (mis käsitleb füüsiliste isikute kaitset seoses pädevates asutustes isikuandmete töötlemisega süütegude tõkestamise, uurimise, avastamise ja nende eest vastutusele võtmise või kriminaalkaristuste täitmisele pööramise eesmärgil ning selliste andmete vaba liikumist ning millega tunnistatakse kehtetuks nõukogu raamotsus 2008/977/JSK)[26],

     võttes arvesse komisjoni 11. detsembri 2019. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele Euroopa rohelise kokkuleppe kohta,

     võttes arvesse oma 16. veebruari 2017. aasta resolutsiooni soovitustega komisjonile robootikat käsitlevate tsiviilõiguse normide kohta[27],

     võttes arvesse OECD 22. mai 2019. aasta soovitust tehisintellekti kohta,

    A. arvestades, et nn tehisintellekti, robootika ja seonduva tehnoloogia arendamise ja kavandamisega tegelevad inimesed ning nende valikud määravad ära tehnoloogia potentsiaali ühiskonnale kasu tuua;

    B. arvestades, et vastutus algoritmide eest peaks tähendama selliste tehniliste ja talitlusmeetmete võtmist, mis tagavad automatiseeritud otsustusprotsessi kaudu või üksikisiku käitumise tõenäosuse arvutamise kaudu läbipaistvuse, selgelt määratud vastutusahelad ja mittediskrimineerimise; arvestades, et läbipaistvus peaks tagama üksikisikutele sisulise teabe kasutatud loogika, tähtsuse ja prognoositud tagajärgede kohta; arvestades, et see peaks hõlmama teavet selle kohta, milliseid andmeid tehisintellekti väljaõpetamisel kasutati, ja võimaldama inimestel neid mõjutavaid otsuseid mõista ja jälgida;

    C.  arvestades, et on väljendatud tõsist muret, et praegune ELi õigusraamistik, sealhulgas tarbijaõigustik, tooteohutust ja turujärelevalvet käsitlevad õigusaktid ning diskrimineerimisvastased õigusaktid ei ole tehisintellektist, robootikast ja seonduvast tehnoloogiast tulenevate riskide tõhusaks ohjamiseks alati otstarbekohased;

    D. arvestades, et tehisintellekt, robootika ja seonduv tehnoloogia võivad avaldada tõsist mõju üksikisikute, rühmade ja kogu ühiskonna materiaalsetele ja immateriaalsetele hüvedele ning see individuaalne ja kollektiivne kahju peab kajastuma seadusandlikes lahendustes;

    E. arvestades, et avalikus sektoris tehisintellekti kasutuselevõtu puhul tuleb nõuetekohaselt arvesse võtta valitsemisega seotud küsimusi, pidades silmas nende mõju demokraatiale, eelkõige demokraatlikule legitiimsusele, vastutusele, avalikkuse sisulisele kaasamisele ja järelevalvele;

    F. arvestades, et tehisintellekt ja andmeanalüüs mõjutavad kodanikele kättesaadavaks tehtavat teavet järjest rohkem; arvestades, et kui selliseid tehnoloogiaid valesti kasutatakse, võivad ohtu sattuda nii teabe kättesaadavuse põhiõigus kui ka meediavabadus ja mitmekesisus;

    G. arvestades, et eetikasuunised, näiteks kõrgetasemelise tehisintellekti eksperdirühma vastu võetud põhimõtted, on hea lähtepunkt, kuid ainult nende abil ei ole võimalik kindlustada, et ettevõtjad käituvad ausalt ja tagavad üksikisikute tõhusa kaitse;

    1. rõhutab, et kodanikud, avalik ja erasektor, akadeemilised ringkonnad ja teadlaste kogukond saavad tehisintellektiga kaasnevatest võimalustest täielikku kasu vaid siis, kui avalikkuse usaldus nende tehnoloogiate vastu on tagatud sellega, et põhiõigused on nõuetekohaselt jõustatud, kehtivast ELi andmekaitseõigusest peetakse kinni ja kõigile asjaosalistele on tagatud õiguskindlus; rõhutab, et isikuandmete töötlemine saab toimuda ainult määruse (EL) nr 2016/679 artiklis 6 sätestatud õiguslike aluste kohaselt; on seisukohal, et asjaomastele sihtrühmadele teabe läbipaistev ja korrektne esitamine on peamine vahend üldsuse usalduse võitmiseks ja üksikisiku õiguste kaitsmiseks;

    2. rõhutab, et kehtivate andmekaitsealaste õigusaktide järgimine koos tugevate teaduslike, eetiliste ja õiguslike normide ning demokraatliku järelevalve meetoditega on väga tähtis, selleks et luua usaldus tehisintellekti lahenduste suhtes ja saavutada nende usaldusväärsus; rõhutab, et tehisintellekti abil saadud teave ei anna ühestki küsimusest erapooletut ülevaadet ja see on ainult nii usaldusväärne, kui alusandmed seda võimaldavad; rõhutab, et tehisintellekti abil tehtud prognoosiv analüüs võib anda üksnes statistilise tõenäosuse ning seetõttu ei saa sellega alati täpselt ennustada üksikisikute käitumist; rõhutab seetõttu, et andmete kogumise haldamiseks ja selliste tehisintellektianalüüside tulemuste hindamiseks on vaja rangeid teaduslikke, eetilisi ja õiguslikke norme;

    3. on veendunud, et igasugune tehisintellekti, robootika ja seonduva tehnoloogia arendamise, kasutuselevõtmise ja kasutamise eetikapõhimõtete raamistik peab täielikult järgima ELi põhiõiguste hartat ning seetõttu austama üksikisiku inimväärikust, autonoomiat ja enesemääramist, vältima kahjustamist, edendama õiglust, kaasamist ja läbipaistvust, välistama (ka vähemusrühmade suhtes) erapoolikuse ja diskrimineerimise ning tunnistama ja järgima järgmisi põhimõtteid: kasutatava tehnoloogia kahjulike välismõjude piiramine, tehnoloogiate seletatavus ning selle tagamine, et tehnoloogia teenib inimesi, mitte ei asenda neid ega otsusta nende eest, kusjuures lõppeesmärk on kõigi inimeste heaolu kasv;

    4. juhib tähelepanu asümmeetriale tehisintellekti tehnoloogia rakendajate ning sellega suhtlejate ja selle objektide vahel; sellega seoses rõhutab, et kodanike usaldus tehisintellekti vastu saab rajaneda üksnes nn vaikimisi ja lõimitud eetilisuse õigusraamistikul, mis tagab, et igasuguse kasutusele võetud tehisintellekti puhul tunnustatakse ja järgitakse täielikult Euroopa Liidu põhiõiguste hartat, liidu õigust ja aluslepinguid; on seisukohal, et see peaks olema kooskõlas ettevaatuspõhimõttega, millest juhindutakse ELi õigusaktides ning mis peaks olema tehisintellekti mis tahes raamistiku keskmes; nõuab sellega seoses selget ja sidusat juhtimismudelit, mis võimaldaks ettevõtjatel tehisintellekti, robootikat ja seonduvat tehnoloogiat edasi arendada;

    5. kutsub Euroopa Liitu ja liikmesriike üles edendama eetikanõudena avalikkuse teadlikkust tehisintellekti kasutamisega seotud riskidest ja võimalustest;

    6. on seisukohal, et tehisintellekti, robootika ja seonduva tehnoloogia suhtes tuleb täielikult kohaldada kehtivat liidu õigusraamistikku, eelkõige seda, mis käsitleb kaitset, eraelu puutumatust ja isikuandmeid, ning seda tuleb korrapäraselt läbi vaadata ja kontrollida ning vajaduse korral ajakohastada, et tõhusalt maandada tehisintellektist, robootikast ja seonduvast tehnoloogiatest tulenevaid riske, kusjuures kasu võiks olla sellest, kui seda täiendataks rangete eetiliste juhtpõhimõtetega; juhib tähelepanu sellele, et seal, kus õigusaktide vastuvõtmine oleks enneaegne, tuleks kasutada mittesiduvat õigusraamistikku;

    7. ootab, et komisjon integreeriks tehisintellekti, sealhulgas ohutust, vastutust ja põhiõigusi käsitleva valge raamatu järelmeetmena tulevasse seadusandlikku ettepanekusse tugeva eetikaraamistiku, mis suurendab tehisintellekti tehnoloogiate võimalusi ja vähendab nendega seotud riske; ootab, et tulevane seadusandlik ettepanek sisaldab tehisintellekti peamiste tuntud riskide poliitilisi lahendusi, muu hulgas suurandmete eetilise kogumise ja kasutamise ning algoritmide läbipaistvuse ja nende erapoolikuse/kallutatuse küsimustes; kutsub komisjoni üles välja töötama tehisintellektitehnoloogia märgistamise kriteeriumid ja näidikud, et stimuleerida läbipaistvust, selgitatavust ja vastutust ning ergutada arendajaid rakendama täiendavaid ettevaatusabinõusid; rõhutab vajadust lõimida tehisintellektialasesse teadus- ja uurimistegevusse sotsiaalset konteksti käsitlevad tehnikavälised valdkonnad;

    8. tuletab meelde, et sõltuvalt tehisintellekti väljatöötamise, kasutamise ja rakendamise viisist võib see põhjustada ja süvendada kallutatust, sealhulgas alusandmekogumitele olemuslikult omase kallutatuse tõttu, ning seega põhjustada mitmesugust automaatset diskrimineerimist, sealhulgas eelkõige sarnaste omadustega inimrühmade kaudset diskrimineerimist; kutsub komisjoni ja liikmesriike üles igal võimalikul moel sellist kallutatust vältima ja tagama põhiõiguste täieliku kaitse;

    9. märgib, et tehisintellekti, robootika ja seonduva tehnoloogia valdkond on silmatorkavalt homogeenne ja selles puudub mitmekesisus; tunnistab vajadust tagada, et töörühmad, kes neid süsteeme kavandavad, arendavad, katsetavad, hooldavad, juurutavad ja hangivad, kajastaksid nende kasutusalade ja kogu ühiskonna mitmekesisust, tagamaks et tahtmatult ei kujundataks neid tehnoloogiaid eelarvamuslikeks;

    10. on seisukohal, et tulemuslikku piiriülest koostööd ja eetikanorme on võimalik saavutada vaid juhul, kui kõik sidusrühmad püüavad tagada inimtegevuse primaarsust ja järelevalvet, tehnilist ohutust ja töökindlust, läbipaistvust, vastutust, mitmekesisust, õiglust, mittediskrimineerimist ning sotsiaalset ja ökoloogilist heaolu ning järgivad eraelu puutumatuse, andmehalduse ja andmekaitse põhimõtteid, eelkõige neid, mis on sätestatud määruses (EL) 2016/679 (isikuandmete kaitse üldmäärus);

    11. nõuab tehisintellekti, robootika ja seonduva tehnoloogia reguleerimisel riskipõhist ja tulevikusuunitlusega käsitlust, sealhulgas valdkonnaüleseid tehnoloogianeutraalseid norme ning vajaduse korral valdkonnapõhiseid norme; on kindlalt veendunud, et killustatuse vältimiseks peaks kogu ELi hõlmav toimiv eetikaraamistik kehtima kõigi suhtes, kes kavatsevad ELis tehisintellekti rakendusi arendada või käitada; kutsub liitu üles edendama avaliku ja erasektori vahel tihedat ja läbipaistvat koostööd ja teadmiste jagamist, et luua parimaid tavasid ning teha kindlaks riskantsed tehisintellekti rakendused;

    12. pooldab digitaalvaldkonnas ettevõtjate vabatahtlikku vastutust; liit peaks toetama äriühinguid, kes vabatahtlikult kasutavad oma ettevõtetes digitehnoloogiaid ja tehisintellekti eetiliselt; liit peaks õhutama äriühinguid ennetavalt tegutsema ja looma selleks ettevõtjate jaoks platvormi, kus nad saavad jagada oma kogemusi eetilisest digitaliseerimisest, samuti koordineerima osalevate ettevõtjate tegevust ja strateegiaid;

    13. rõhutab, et ühendatud tehisintellekti ja robootika võrkude kaitse on tähtis ning tuleb võtta jõulisi meetmeid, et vältida turvarikkumisi, andmelekkeid, andmete rikkumist (data poisoning) küberrünnakuid ja isikuandmete väärkasutamist ning selleks on vaja, et asjaomased asutused, organid ja institutsioonid nii Euroopa kui ka riikide tasandil teeksid koostööd omavahel ja nende tehnoloogiate lõppkasutajatega; kutsub komisjoni ja liikmesriike üles tagama, et liidu digitaalse taristu turvalisuse ja vastupidavuse tagamiseks järgitaks tehisintellektitehnoloogia arendamisel ja juurutamisel alati ELi väärtusi ja austataks põhiõigusi;

    14. võtab sellega seoses teadmiseks ENISAt käsitleva Euroopa Parlamendi ja nõukogu määruse (EL) 2019/881 ja küberturvalisust käsitleva õigusakti sätted, eelkõige seoses ENISA rolliga üldsuse teadlikkuse suurendamisel ja lõppkasutajatele suunatud hariduskampaaniate edendamisel, sealhulgas võimalike küberohtude ja küberkuritegevuse valdkonnas, ning oluliste andmekaitsemeetmete edendamisel; tunnistab sellega seoses selle ELi ameti lisaväärtust;

    15. rõhutab, et tehisintellekti kuritahtlik kasutamine võib ohustada meie demokraatlike riikide väärtusi ja Euroopa Liidu kodanike põhiõigusi; kutsub komisjoni üles esitama raamistikku, mille alusel karistatakse neid, kes seda tehnoloogiat kasutades moonutavad meie reaalsustaju väärinfo kampaaniatega või kes digiturvalisuse kahjustamiseks provotseerivad küberrünnakuid;

    16. märgib, et õiguskaitse ja piirikontrolli valdkonnas võivad tehisintellekt, robootika ja seonduv tehnoloogia suurendada turvalisust ja avalikku julgeolekut, kuid seejuures on vaja ulatuslikku ja ranget avalikku kontrolli ning võimalikult suurt läbipaistvust üksikute rakenduste riskihindamisel, samuti üldist ülevaadet tehisintellekti, robootika ja seonduva tehnoloogia kasutamisest õiguskaitse ja piirikontrolli valdkonnas; on seisukohal, et nende tehnoloogiatega kaasnevad märkimisväärsed eetilised riskid, millega tuleb asjakohaselt tegeleda, võttes arvesse võimalikku negatiivset mõju üksikisikutele, eelkõige nende õigusele eraelu puutumatusele, isikuandmete kaitsele ja mittediskrimineerimisele; rõhutab, et nende väärkasutamine võib muutuda otseseks ohuks demokraatiale ning nende tehnoloogiate kasutuselevõtmisel ja kasutamisel tuleb järgida proportsionaalsuse ja vajalikkuse põhimõtteid, põhiõiguste hartat ning asjaomaseid liidu teiseseid õigusakte, näiteks ELi andmekaitse-eeskirju; rõhutab, et kohtuotsuste tegemisel ei tohiks tehisintellekt kunagi asendada inimesi; selliste otsustega nagu kautsjoni vastu vabastamine või tingimisi vangistuse kohaldamine, kohtus ärakuulamine või üksnes automatiseeritud töötlemisel põhinevad otsustega, millel on õiguslikud tagajärjed üksikisikute suhtes või mis neid märkimisväärselt mõjutavad, peab alati kaasnema inimesepoolne sisuline hindamine ja otsuse langetamine;

    17. hoiatab, et kuna õiguskaitseasutuste – sealhulgas andmetöötluse ja tehisintellekti abil – tehtud otsused ja meetmed riivavad kodanike elu ja õigusi, on vaja suurimat ettevaatust, et vältida ebaseaduslikku diskrimineerimist ja seda, et sihtmärgiks võetakse teatavad isikud või inimrühmad, kes on määratletud rassi, nahavärvi, etnilise või sotsiaalse päritolu, geneetiliste tunnuste, keele, usu või veendumuste, poliitiliste või muude seisukohtade, varanduse, sünni, puude, vanuse, soo, soolise eneseväljenduse või identiteedi, seksuaalse sättumuse, elanikustaatuse, tervise või rahvusvähemusse kuulumise alusel ja kelle suhtes kohaldatakse sageli etnilist profiilianalüüsi või politsei jõulisemaid korrakaitsemeetmeid, samuti teatavate tunnuste põhjal määratletud üksikisikud; nõuab, et nn eesliini andmekogujad ja tehisintellekti abil saadud luureteabe kasutajad peavad saama asjakohast koolitust;

    18. juhib tähelepanu, et selle tehnoloogia pakutav võimalus kasutada isiku- ja isikustamata andmeid, et inimesi kategoriseerida ja täpsemalt segmenteerida, teha kindlaks üksikisikute nõrkused või kasutada ära täpseid prognoosivaid teadmisi, peab olema tasakaalustatud selliste tegelikult jõustatud andmekaitse ja eraelu puutumatuse põhimõtetega nagu võimalikult väheste andmete kogumine, õigus esitada vastuväiteid profiilianalüüsile ja oma andmeid kontrollida, õigus saada selgitust automaatsel andmetöötlusel põhineva otsuse kohta, lõimprivaatsus ning proportsionaalsuse, vajalikkuse ja täpselt määratletud eesmärgiga piirdumise põhimõtted; juhib tähelepanu sellele, et kuigi mõned ennetava politseitegevuse mudelid on rohkem eraelu puutumatust austavad kui teised, näiteks kui tõenäosuspõhiseid prognoose tehakse mitte üksikisikute, vaid kohtade või sündmuste kohta, on ennetava politseitegevuse puhul ilmnenud, et see suurendab politsei ülemäärast sekkumist lähtuvalt juba varasemast kallutatusest näiteks rassilise profiilianalüüsi või rände- või töölisklassi tausta alusel, isegi kui see ei vasta kuritegevuse tegelikule tasemele;

    19. rõhutab, et kodanikel on õigus usaldada tehnoloogiat, mida nemad ise või teised kasutavad; rõhutab, et tehisintellekt ja robootika ei ole vigade suhtes immuunsed, ning rõhutab seetõttu, kui oluline on õigus selgitustele, kui inimeste suhtes tehakse algoritmipõhiseid otsuseid, samuti rõhutab algoritmide läbipaistvuse vajalikkust, kuna algoritmi alusloogika läbipaistvus on mõjutatud isikute põhiõiguste täieliku kaitstuse seisukohalt väga oluline; peab vajalikuks, et seadusandjad mõtiskleksid keeruka vastutuse küsimuse üle, ning et kõigis tehisintellekti rakendustes lasuks vastutus alati kas füüsilisel või juriidilisel isikul;

    20. rõhutab, et tehisintellekt, robootika ja seonduv tehnoloogia on ülemaailmsed tehnoloogiad ja et vastavad normid tuleb vastu võtta kogu maailmas, tagamaks et nende edasine areng oleks kooskõlas liidu väärtuste ja eetikanormidega; kutsub komisjoni üles tegelema tehisintellekti valdkonna diplomaatiaga rahvusvahelistel foorumitel koos selliste sarnaselt meelestatud partneritega nagu USA, G7, G20 ja OECD, et kehtestada tehisintellekti, robootika ja seonduva tehnoloogia arendamise ühised eetikanormid ja suunised;

    21. rõhutab, et kehtestada tuleb tehisintellekti sotsiaalmeedia platvormidel kasutamise selge raamistik, samuti kasutatavate algoritmide ja nende kalibreerimise läbipaistvusnõuded, et vältida liigset sisu eemaldamist ja interneti mis tahes vormis filtreerimist või tsenseerimist;

    22. märgib, et tehisintellekti saab kasutada tihtipeale süvavõltsinguks nimetatud manipulatsioonideks näojoonte ja audiovisuaalsete näitajatega; tuletab meelde, et selle tehnika abil saab moonutada valimistulemusi, levitada väärinfot ja teha muid nurjatusi; palub seetõttu komisjonil kasutada oma eetikaraamistikku, et kehtestada kogu süvavõltsingu materjali või mis tahes muu realistlikult valmistatud kunstliku video puhul kohustus märkida, et see materjal pole ehtne, ning kehtestada ranged piirangud selle kasutamisele valimiste kontekstis;

    23. soovitab luua eksperdikeskuse, mis ühendaks liidu tasandil akadeemilisi ringkondi, teaduse ja tööstuse esindajaid ja üksikeksperte kas sellise asutusega seotult või selle lahutamatu osana, et edendada teadmiste ja tehnilise oskusteabe vahetamist ning hõlbustada koostööd kogu ELis ja väljaspool;

    24. tuletab meelde keelelise ja kultuurilise mitmekesisuse tähtsust; palub seepärast, et komisjon kasutaks oma eetikaraamistikku, et mitte lasta tehisintellektil seda mitmekesisust vähendada, et ta hoiaks kättesaadavana võimalikult mitmekesise infosisu, milles ei domineeriks vaid üks keeleline ja/või kultuuriline mudel, ning tõkestaks kõik algoritmide katsed seda mitmekesisust piirata ja pakkuda vaid mingitele varasematele mudelitele vastavat sisu või nn kõlakambrina toimivat sisu, mis ei võimaldaks juurdepääsu suuremale mitmekesisusele;

    25. soovitab komisjonil näidata, et ta on oma tehisintellekti käsitleva koordineeritud kava selgelt läbi vaadanud, seda hinnanud ja kohandanud, et käsitleda tehisintellekti tõsist mõju põhiõigustele ning selgitada, kuidas leevendatakse selliseid riske ELi seadusandlikus käsitluses ja liikmesriikide riiklike strateegiate rakendamisel.


    TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

    Vastuvõtmise kuupäev

    22.9.2020

     

     

     

    Lõpphääletuse tulemus

    +:

    –:

    0:

    55

    5

    7

    Lõpphääletuse ajal kohal olnud liikmed

    Magdalena Adamowicz, Malik Azmani, Katarina Barley, Pernando Barrena Arza, Pietro Bartolo, Nicolas Bay, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Patrick Breyer, Saskia Bricmont, Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Damien Carême, Anna Júlia Donáth, Lena Düpont, Cornelia Ernst, Laura Ferrara, Nicolaus Fest, Jean-Paul Garraud, Maria Grapini, Sylvie Guillaume, Andrzej Halicki, Balázs Hidvéghi, Evin Incir, Sophia in ‘t Veld, Patryk Jaki, Lívia Járóka, Marina Kaljurand, Assita Kanko, Fabienne Keller, Peter Kofod, Moritz Körner, Alice Kuhnke, Jeroen Lenaers, Juan Fernando López Aguilar, Nuno Melo, Roberta Metsola, Nadine Morano, Javier Moreno Sánchez, Maite Pagazaurtundúa, Nicola Procaccini, Paulo Rangel, Diana Riba i Giner, Ralf Seekatz, Michal Šimečka, Birgit Sippel, Sylwia Spurek, Tineke Strik, Ramona Strugariu, Annalisa Tardino, Tomas Tobé, Dragoş Tudorache, Milan Uhrík, Tom Vandendriessche, Bettina Vollath, Jadwiga Wiśniewska, Elena Yoncheva

    Lõpphääletuse ajal kohal olnud asendusliikmed

    Delara Burkhardt, Gwendoline Delbos-Corfield, Kostas Papadakis, Kris Peeters, Anne-Sophie Pelletier, Sira Rego, Rob Rooken, Paul Tang, Tomáš Zdechovský

    Lõpphääletuse ajal kohal olnud asendusliikmed (art 209 lg 7)

    Isabel Benjumea Benjumea

     


     

    NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

    55

    +

    PPE

    Magdalena Adamowicz, Isabel Benjumea Benjumea, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Lena Düpont, Andrzej Halicki, Balázs Hidvéghi, Lívia Járóka, Jeroen Lenaers, Nuno Melo, Roberta Metsola, Nadine Morano, Kris Peeters, Paulo Rangel, Ralf Seekatz, Tomas Tobé, Tomáš Zdechovský

    S&D

    Katarina Barley, Pietro Bartolo, Delara Burkhardt, Maria Grapini, Sylvie Guillaume, Evin Incir, Marina Kaljurand, Juan Fernando López Aguilar, Javier Moreno Sánchez, Birgit Sippel, Sylwia Spurek, Paul Tang, Bettina Vollath, Elena Yoncheva

    RENEW

    Malik Azmani, Anna Júlia Donáth, Sophia In 'T Veld, Fabienne Keller, Moritz Körner, Maite Pagazaurtundúa, Michal Šimečka, Ramona Strugariu, Dragoş Tudorache

    ID

    Peter Kofod

    Verts/ALE

    Patrick Breyer, Saskia Bricmont, Damien Carême, Gwendoline Delbos-Corfield, Alice Kuhnke, Diana Riba I Giner, Tineke Strik

    ECR

    Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Assita Kanko, Nicola Procaccini, Jadwiga Wiśniewska

    NI

    Laura Ferrara

     

    5

    GUE/NGL

    Pernando Barrena Arza, Cornelia Ernst, Anne-Sophie Pelletier, Sira Rego

    NI

    Kostas Papadakis

     

    7

    0

    ID

    Nicolas Bay, Nicolaus Fest, Jean-Paul Garraud, Annalisa Tardino, Tom Vandendriessche

    ECR

    Rob Rooken

    NI

    Milan Uhrík

     

    Kasutatud tähised:

    + : poolt

     : vastu

    0 : erapooletu

     


     

     

     

     

    TÖÖHÕIVE- JA SOTSIAALKOMISJONI ARVAMUS (7.9.2020)

    õiguskomisjonile

    soovitustega komisjonile tehisintellekti, robootika ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    (2020/2012(INL))

    Arvamuse koostaja: Lina Gálvez Muñoz

    (Algatus – kodukorra artikkel 47)

     

     

    ETTEPANEKUD

    Tööhõive- ja sotsiaalkomisjon palub vastutaval õiguskomisjonil lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

    A. arvestades, et tehisintellekti, robootika ja seonduva tehnoloogia kasutamine igapäevaelus ja töökohal pidevalt suureneb, mis muudab märkimisväärselt praeguseid sotsiaal-majanduslikke struktuure; arvestades, et tehisintellekt peaks tooma kasu kodanikele ja ühiskonnale, parandama elukvaliteeti, looma uusi töövõimalusi ja suurendama liidu konkurentsivõimet; arvestades, et tehisintellekt on digitaalmajanduse oluline osa, mis hea rakendamise korral võib edendada jõukust ja hõlbustada üleminekut kestlikule majandusele;

    B. arvestades, et tehisintellekti all mõeldakse intelligentselt käituvaid süsteeme, mis suudavad analüüsida oma keskkonda ja sooritada teataval määral iseseisvaid toiminguid, et saavutada konkreetseid eesmärke; arvestades, et tehisintellektil põhinevad süsteemid võivad olla ainult tarkvarapõhised ja tegutseda virtuaalmaailmas (nt häälele reageerivad virtuaalassistendid, kujutise analüüsi tarkvara, otsingumootorid, kõne- ja näotuvastussüsteemid) või olla paigaldatud riistvarasse (nt kõrgtehnoloogilised robotid, isejuhtivad autod, droonid või asjade interneti rakendused);[28]

    C. arvestades, et tehisintellekt kujutab endast strateegilist prioriteeti, mille täit potentsiaali saab kasutada ainult siis, kui kasutajad on teadlikud selle võimalikest eelistest ja probleemidest; arvestades, et ettevõtted, töötajad ja nende esindajad ei ole sageli teadlikud tehisintellekti rakendustest ega nende põhifunktsioonidest ja andmetest; arvestades, et esineb juhtumeid, kus tehisintellekti rakendustega rikutakse kehtivaid eeskirju, näiteks andmekaitset;

    D. arvestades, et tehisintellekt võib tuua majanduslikku ja ühiskondlikku kasu ja uusi võimalusi nii ettevõtetele kui ka töötajatele, kuid tekitab seejuures ka mitmeid eetilisi, juriidilisi ja tööhõivega seotud probleeme; arvestades, et tehisintellekti rakendamine töökohal võib soodustada kaasavamat tööturgu ning avaldada mõju töötervishoiule ja tööohutusele, samas kui seda saab kasutada ka töötajate töö jälgimiseks, hindamiseks, prognoosimiseks ja juhatamiseks, millel on otsene ja kaudne mõju nende karjäärile; arvestades, et tehisintellektil peaks olema positiivne mõju töötingimustele ning see peaks juhinduma inimõiguste ning liidu põhiõiguste ja -väärtuste austamisest; arvestades, et tehisintellekt peaks olema inimkeskne, suurendama inimeste ja ühiskonna heaolu ning aitama kaasa õiglasele ja võrdsele üleminekule;

    E. arvestades, et tehisintellektil on märkimisväärne mõju tööturule[29]; arvestades, et see võib asendada korduvaid tegevusi tegevaid töötajaid, hõlbustada inimeste ja masinate koostööl põhinevaid töösüsteeme, suurendada konkurentsivõimet ja jõukust ning luua kvalifitseeritud töötajate jaoks uusi töövõimalusi; arvestades, et tööhõivemaastik areneb kiiresti ja hinnanguliselt 65 % praegustest lastest hakkavad tulevikus tööle täiesti uut tüüpi töökohtadel, ning et töötajad tuleb ümber koolitada ja nende oskusi täiendada, eelkõige digitaaloskuste vallas selle tagamiseks, et kedagi ei jäeta kõrvale ja on saadaval piisaval hulgal spetsialiseerunud tööjõudu;[30]

    F. arvestades, et Euroopa Kutseõppe Arenduskeskuse (Cedefop) andmetel on umbes 43 % liidu täiskasvanud töötajatest töökohal kokku puutunud uute tehnoloogiatega; arvestades, et kümnest ELi töötajast umbes seitse vajab oma töö tegemiseks vähemalt keskmisi digioskusi;[31] arvestades, et keskmiselt puuduvad ELi kodanikest umbes veerandil digioskused või on need oskused madalal tasemel; arvestades, et digilõhel on ka konkreetsed sotsiaalmajanduslikud, soolised, vanuselised, geograafilised ja juurdepääsetavusega seotud aspektid, millega tuleb tegeleda; arvestades, et 42 % töötajatest ettevõtetes, kus rakendatakse äriprotsessides tehisintellekti, arvavad, et selline tegevus põhjustab eetilisi probleeme, millega tuleb tegeleda; arvestades, et 28 % tööandjatest arvab, et seda küsimust käsitlevate eetikaeeskirjade puudumise tõttu ei ole tehisintellekti rakendamine täiel määral arenenud;[32]

    G. arvestades, et COVID-19 pandeemia tõi esile digitaalsete lahenduste, sealhulgas kaugtöö tähtsuse ning nende tehnilise ja sotsiaalse mõju; arvestades, et liidu tasandil puuduvad ühised sätted tehisintellekti rakendamise kohta töökohal, mis võib tuua kaasa turumoonutused ja ebasoodsa konkurentsi; arvestades, et tehisintellekt tuleks allutada asjakohasele regulatiivraamistikule;

    H. arvestades, et OECD on koostanud tehisintellekti käsitlevad soovitused;[33]

    I. arvestades, et Euroopa Liidu Nõukogu julgustab edendama eetilist ja inimesekeskset lähenemisviisi tehisintellektile;[34]

    J. arvestades, et liidu tasandi sotsiaalpartnerid sõlmisid digiülemineku kohta raamlepingu, mis muu hulgas sisaldab peatükki „Tehisintellekt ja inimkontrolli tagamine“;[35]

    K. arvestades, et mõnes liikmesriigis on juba asutatud spetsiaalsed organid, et jälgida ja hinnata tehisintellekti mõju töökohal;

    L. arvestades, et jõupingutused digisektoris esineva soolise kallutatuse ja ebavõrdsuse kaotamiseks on ebapiisavad; arvestades, et sooline ebavõrdsus püsib kõigis digitehnoloogia valdkondades, eriti tehisintellekti puhul, mis tugevdab lähitulevikus digisektoris mehi eelistavat suundumust;

    1. rõhutab vajadust hinnata põhjalikult võimalusi ja väljakutseid, mida tehisintellekti rakendused nii era- kui riiklikes ettevõtetes ning avalikus halduses töötajate ja töökohtade suhtes kaasa toovad, sealhulgas nende mõju töö ja eraelu tasakaalule, töö korraldamisele ja töövoogudele; peab hädavajalikuks, et sotsiaaldialoogi ei jäetaks kõrvale ning töötajate ja nende esindajatega konsulteeritaks ja nad saaksid piisavalt teavet juba otsustusprotsessi alguses; rõhutab, et tehisintellekti kasutuselevõtt peab olema läbipaistev ning et tehisintellekti süsteemid töökohal peavad austama töötajate eraelu puutumatust ja väärikust;

    2. juhib tähelepanu sellele, et enne tehisintellekti süsteemide väljatöötamist, kasutuselevõttu ja rakendamist tuleks korraldada põhjalik riskianalüüs, mille raames hinnatakse nende mõju põhiõigustele ja töötingimustele, sealhulgas töötervishoiu ja tööohutuse valdkonnas, samuti nende sotsiaalseteid tagajärgi; hindamine peaks hõlmama riske, mis on seotud otsuste tegemisega inimeste poolt ja sotsiaalse diskrimineerimisega, samuti tekkivate kutsealaste riskide hindamist;

    3. juhib tähelepanu sellele, et tehisintellekti lahendustega on võimalik parandada töötingimusi ja elukvaliteeti, sealhulgas parandada töö- ja eraelu tasakaalu ning puuetega inimeste juurdepääsu, prognoosida tööturu arengut ja toetada inimressursi juhtimist inimliku kallutatuse ennetamisel, kuid samas võivad need tõstatada ka küsimusi seoses eraelu puutumatuse ning töötervishoiu ja -ohutusega, nagu õigus olla mittekättesaadav, ning viia töötajate ebaproportsionaalse ja ebaseadusliku järelevalve ja jälgimiseni, mis rikub nende väärikust ja eraelu puutumatust, samuti diskrimineeriva kohtlemiseni, sealhulgas töölevõtmisel, mis on tingitud sooliselt, rassiliselt ja etniliselt kallutatud algoritmidest sealhulgas soolised või rassiliselt ja etniliselt kallutatud algoritmid[36] ja haavatavate rühmade kahjuks toimivatest algoritmidest; on lisaks mures, et tehisintellekt võib kahjustada inimeste vabadust ja sõltumatust ning tuua kaasa vaimse tervise probleeme, nagu läbipõlemine, nn tehnostress, psühholoogiline ülekoormus ja kurnatus; rõhutab, et tehisintellekti lahendused töökohal peavad olema läbipaistvad ja õiglased ning vältima negatiivset mõju töötajatele;

    4. rõhutab, et pädevatel asutustel peaks olema juurdepääs kogu teabele koolitusel kasutatud andmete, tehisintellekti lahendustega seotud statistiliste mudelite ja teoreetiliste põhimõtete ning nende tulemuste empiirilise kehtivuse kohta;

    5. on seisukohal, et tehisintellekt võib aidata paremini ära kasutada puuetega inimeste oskusi ja pädevusi ning et tehisintellekti rakendamine töökohal võib aidata kaasa kaasavale tööturule ja puuetega inimeste suuremale tööhõivemäärale;

    6. rõhutab, et uued tehnoloogilised võimalused, nagu tehisintellekt ja töö tõhususe väärtustamine ei tohi tuua kaasa tehnoloogia abil ebavõrdselt tõhustatud võimeid ja ebainimlikku digitaalset tulevikku; rõhutab, et innovatsioonieetika peab järgima inimesekeskset lähenemisviisi;

    7. on seisukohal, et juhul kui süsteem kasutab tehisintellekti, tuleks kasutajaid, sh töötajaid ja tarbijaid kohustuslikus korras sellest teavitada, eelkõige individuaalsete toodete või teenuste puhul, ning neile tuleks anda kergesti mõistetaval ja kättesaadaval kujul sisulist teavet tehisintellekti rakenduste kõigi eetiliste aspektide kohta, mis neid puudutavad, et nad saaks teha teadlikke otsuseid; rõhutab, kui oluline on mõista, kuidas algoritmid andmeid töötlevad ja hindavad, ning kuidas seda saab piirata või peatada; rõhutab, et töötajate ja nende esindajate oskusi tehisintellekti vallas tuleb arendada töökohal pakutava koolituse ja hariduse kaudu, et inimesed saaksid tehisintellekti lahenduste mõjust paremini aru;

    8. rõhutab, et kui tehisintellekti kasutatakse töölevõtmisel või muude personaliotsuste langetamisel, tuleb kandidaate ja töölisi sellest nõuetekohaselt ja kirjalikult teavitada, ja teatada neile, kuidas saab sellisel juhul automatiseeritud otsuse tühistamiseks taotleda selle läbivaatamist inimese poolt;

    9. rõhutab vajadust tagada, et tehisintellekti ja robootika arendamisest ja kasutamisest tulenev tootlikkuse kasv ei too kasu mitte ainult ettevõtte omanikele ja aktsionäridele, kuid ka kasumit taotlevatele ettevõtetele ja töötajatele paremate töö- ja tööhõivetingimuste, sealhulgas palkade, majanduskasvu ja arengu kaudu, ning teenib laiemas mõttes ka ühiskonna huve, eriti kui selline kasu saadakse töökohtade arvelt; kutsub liikmesriike üles hoolikalt uurima tehisintellekti võimalikku mõju tööturule ja sotsiaalkindlustussüsteemidele ning töötama välja strateegiad selle kohta, kuidas maksude ja maksete reformimise ning muude meetmete abil tagada pikaajaline stabiilsus, juhul kui avaliku sektori tulud on väiksemad;

    10. rõhutab selle olulisust, et ettevõtted investeeriksid formaalsesse ja informaalsesse koolitusse ning elukestvasse õppesse, et toetada õiglast üleminekut digitaalmajandusele; rõhutab sellega seoses, et tehisintellekti kasutavatel ettevõtetel on kohustus pakkuda kõigile asjaomastele töötajatele piisavat ümber- ja täiendusõpet, et nad saaksid õppida kasutama digitaalseid vahendeid ning töötada koostöörobotite ja muude uute tehnoloogiatega, ning niimoodi kohaneda tööturu muutuvate vajadustega ja säilitada oma töökoha;

    11. nõuab, et tehisintellektil põhinevate uute tehnoloogiate suhtes kohaldataks ettevaatuspõhimõtet; rõhutab aluspõhimõtet, et inimestel peab alati olema masinate ja tehisintellekti üle kontroll ning et tehisintellekti abil tehtud otsuste eest tuleb kanda vastutust, neid peab saama vaidlustada ja vajaduse korral tühistada; rõhutab, et tehisintellekti ohutus- ja turvanõudeid tuleb järgida ning toonitab, et sellega seoses on oluline viia korrapäraselt läbi kontrolle, et vältida tehisintellekti ekslikku väljundit; tuletab meelde, et tehisintellekti kasutamise korral tuleb nii tööõnnetuste kui ka kolmandatele isikutele tekitatud kahju puhuks selgelt määratleda vastutus;

    12. rõhutab, et tehisintellekt peab olema inimkeskne, läbipaistev, ohutu ja turvaline ning vastama kõigile põhiõigustele, kohaldatavatele õigusaktidele ja eeskirjadele, sealhulgas isikuandmete kaitse üldmäärusele süsteemi kogu oma elutsükli vältel, eriti kui see on võetud kasutusele töökohal; nõuab, et töötataks välja tugev sertifitseerimissüsteem, mis põhineb katsemenetlustel ja lähtub ettevaatuspõhimõttest, mis võimaldaks ettevõtetel tõendada, et nende tehisintellekti tooted vastavad põhiõigustele ja liidu standarditele;

    13. tuletab meelde, et tehisintellekti suhtes kohaldatakse täielikult liidu tööhõive- ja sotsiaalõigustikku, ning kutsub komisjoni ja liikmesriike üles tagama nõuetekohast jõustamist ja täitma võimalikud õiguslüngad; märgib, et liit võib saada ülemaailmseks liidriks tehisintellekti sotsiaalselt vastutustundliku kasutamise edendamisel;

    14. rõhutab selle olulisust, et tehisintellekti eetiliste aspektide suhtes kohaldatakse kogu Euroopas ühist lähenemisviisi; rõhutab, et mis tahes asjaomane õigusraamistik peab olema piisav ja põhinema põhjalikul mõjuhinnangul, et mitte takistada tulevast innovatsiooni ja töökohtade loomist; nõuab sellega seoses tehisintellekti eetilisi aspekte käsitleva Euroopa õigusraamistiku loomist, mis oleks proportsionaalne ja milles pöörataks erilist tähelepanu töömaailmale, sealhulgas töötajate õigustele ja töötingimustele; on seisukohal, et erilist tähelepanu tuleks pöörata uutele töövormidele, nagu juhu- ja platvormitöö, mis tulenevad uute tehnoloogiate rakendamisest selles valdkonnas; on seisukohal, et tehisintellekti mõju tuleb arvesse võtta ka õigusraamistikus, mille eesmärk on reguleerida kaugtöö tingimusi kogu liidus ning tagada inimväärsed töö- ja töötingimused digitaalmajanduses; kutsub komisjoni üles konsulteerima selles küsimuses sotsiaalpartnerite, tehisintellekti arendajate, teadlaste ja muude sidusrühmadega;

    15. rõhutab, et tehisintellekt ja iga sellega seotud õigusakt ei tohi mingil viisil mõjutada liikmesriikides ja liidu tasandil tunnustatud põhiõiguste kasutamist, sealhulgas streigiõigust või -vabadust või õigust võtta kooskõlas siseriikliku õiguse ja/või tavaga muid meetmeid, mis on hõlmatud liikmesriigi konkreetse töösuhete süsteemidega, ega mõjutada õigust pidada läbirääkimisi, sõlmida ja jõustada kollektiivlepinguid või võtta kooskõlas riikliku õiguse ja/või tavaga kollektiivseid meetmeid;

    16. rõhutab, et erilist tähelepanu tuleb pöörata tehisintellekti abil töökohal kogutavatele andmetele, eelkõige siis, kui neid kasutatakse otsuste tegemiseks inimeste kohta; kutsub sotsiaalpartnereid üles ühiselt analüüsima ja jälgima tehisintellekti kasutuselevõttu ettevõtte tasandil; kutsub komisjoni ja sotsiaalpartnereid üles analüüsima vajadust erisätete järele, mis käsitlevad tehisintellektiga seoses andmekaitset töökohal; rõhutab, et töötaja on teda puudutavate andmete omanik ja jääb selleks ka pärast töösuhte lõppu;

    17. on seisukohal, et uues Euroopa oskuste tegevuskavas tuleb käsitleda kvalifikatsiooni ja teadmiste kohandamise ja omandamisega seotud probleeme, võttes arvesse ökoloogilist ja digiüleminekut, sealhulgas tehisintellekti eetilisi aspekte; rõhutab vajadust muuta tehisintellekti eetilised aspektid ja oskuste arendamine eetilistel eesmärkidel arendajate ja tehisintellektiga töötavate inimeste haridus- ja koolitusprogrammide lahutamatuks osaks; tuletab meelde, et tehisintellektiga tegelevad arendajad, programmeerijad, otsustajad ja ettevõtted peavad olema teadlikud oma eetilisest vastutusest; peab samuti oluliseks tagada, et lõppkasutajatele ja tarbijatele antakse põhjalikku teavet ning et kõik asjaomased sidusrühmad vahetavad sellega seoses korrapäraselt teavet;

    18. kordab hariduse ja pidevõppe tähtsust digitaalajastul, et arendada vajalikke ametioskusi, mida on vaja digitaalse tõrjutuse vastu võitlemiseks; kutsub liikmesriike üles investeerima kvaliteetsesse, reageerimisvõimelisesse ja kaasavasse haridusse, kutseõppesse ja elukestva õppe süsteemidesse ning töötajate ümber- ja täiendusõppe poliitikasse sektorites, mida tehisintellekt võib tõsiselt mõjutada; rõhutab vajadust tagada praegustele ja tulevastele töötajatele vajalik kirja-, arvutus- ja digitaaloskus, pädevus loodusteaduste, tehnoloogia, inseneriteaduste ja matemaatika (nn STEM valdkonna) vallas ning valdkonnaülesed pehmed oskused, nagu kriitiline mõtlemine, loovus ja ettevõtlikkus; rõhutab, et sellega seoses tuleb erilist tähelepanu pöörata ebasoodsas olukorras olevate rühmade kaasamisele;

    19. rõhutab, et tehisintellekt ei tohi tugevdada soolist ebavõrdsust ega stereotüüpe ja muuta senise kallutatuse ja eelarvamused algoritmide kaudu digitaalseteks;

    20. rõhutab vajadust tagada, et tehisintellekti arendamisse, kasutuselevõttu ja kasutamisse kaasatakse erineva taustaga inimesed, sealhulgas naised, noored, erineva nahavärviga ja puudega inimesed; rõhutab, et tehisintellektipõhine tehnoloogia töökohal, sealhulgas kaugtööks kasutatavad rakendused peavad universaaldisaini põhimõtetest lähtudes olema kõigile kättesaadavad;

    21. juhib tähelepanu sellele, et juurdepääs tehisintellekti lahendustele on tihedalt seotud kiire internetiühendusega ja seetõttu peaks seadma prioriteediks lairibaühenduse, et vältida diskrimineerimist ja ebavõrdset juurdepääsu nendele tehnoloogiatele;

    22. märgib, et tehisintellekti lahenduste võimalused sõltuvad suurandmetest ning algoritmide treenimiseks ja tulemuste täpsustamiseks on vaja andmete kriitilist massi; väljendab sellega seoses heameelt komisjoni ettepaneku üle luua ELis ühtne andmeruum andmevahetuse tugevdamiseks ja teadusuuringute toetamiseks, järgides sealjuures täielikult Euroopa andmekaitse eeskirju.


    TEAVE VASTUVÕTMISE KOHTA
    NÕUANDVAS KOMISJONIS

    Vastuvõtmise kuupäev

    7.9.2020

     

     

     

    Lõpphääletuse tulemus

    +:

    –:

    0:

    46

    6

    1

    Lõpphääletuse ajal kohal olnud liikmed

    Atidzhe Alieva-Veli, Abir Al-Sahlani, Marc Angel, Dominique Bilde, Gabriele Bischoff, Vilija Blinkevičiūtė, Andrea Bocskor, Milan Brglez, Sylvie Brunet, David Casa, Leila Chaibi, Margarita de la Pisa Carrión, Özlem Demirel, Klára Dobrev, Jarosław Duda, Estrella Durá Ferrandis, Lucia Ďuriš Nicholsonová, Rosa Estaràs Ferragut, Nicolaus Fest, Loucas Fourlas, Cindy Franssen, Heléne Fritzon, Elisabetta Gualmini, France Jamet, Agnes Jongerius, Radan Kanev, Ádám Kósa, Stelios Kympouropoulos, Katrin Langensiepen, Miriam Lexmann, Elena Lizzi, Radka Maxová, Kira Marie Peter-Hansen, Dragoș Pîslaru, Manuel Pizarro, Dennis Radtke, Elżbieta Rafalska, Guido Reil, Daniela Rondinelli, Mounir Satouri, Monica Semedo, Beata Szydło, Eugen Tomac, Romana Tomc, Yana Toom, Marie-Pierre Vedrenne, Nikolaj Villumsen, Marianne Vind, Maria Walsh, Stefania Zambelli, Tomáš Zdechovský

    Lõpphääletuse ajal kohal olnud asendusliikmed

    Lina Gálvez Muñoz, Eugenia Rodríguez Palop

     

     


    NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

    46

    +

    ECR

    Lucia Ďuriš Nicholsonová, Elżbieta Rafalska, Beata Szydło, Margarita de la Pisa Carrión

    GUE/NGL

    Leila Chaibi, Özlem Demirel, Eugenia Rodríguez Palop, Nikolaj Villumsen

    NI

    Daniela Rondinelli

    PPE

    Andrea Bocskor, David Casa, Jarosław Duda, Rosa Estaràs Ferragut, Loucas Fourlas, Cindy Franssen, Radan Kanev, Ádám Kósa, Stelios Kympouropoulos, Miriam Lexmann, Dennis Radtke, Eugen Tomac, Romana Tomc, Maria Walsh, Tomáš Zdechovský

    Renew

    Abir Al-Sahlani, Atidzhe Alieva-Veli, Sylvie Brunet, Dragoș Pîslaru, Monica Semedo, Yana Toom, Marie-Pierre Vedrenne

    S&D

    Marc Angel, Gabriele Bischoff, Vilija Blinkevičiūtė, Milan Brglez, Klára Dobrev, Estrella Durá Ferrandis, Heléne Fritzon, Lina Gálvez Muñoz, Elisabetta Gualmini, Agnes Jongerius, Manuel Pizarro, Marianne Vind

    Verts/ALE

    Katrin Langensiepen, Kira Marie Peter-Hansen, Mounir Satouri

     

    6

    ID

    Dominique Bilde, Nicolaus Fest, France Jamet, Elena Lizzi, Guido Reil, Stefania Zambelli

     

    1

    0

    Renew

    Radka Maxová

     

    Kasutatud tähised:

    + : poolt

     : vastu

    0 : erapooletu

     

     


     

     

     

    KESKKONNA-, RAHVATERVISE JA TOIDUOHUTUSE KOMISJONI ARVAMUS (16.9.2020)

    õiguskomisjonile

    soovitustega komisjonile tehisintellekti, robootika ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    (2020/2012(INL))

    Arvamuse koostaja: Adam Jarubas

    (Algatus – kodukorra artikkel 47)

     

     

    ETTEPANEKUD

    Keskkonna-, rahvatervise ja toiduohutuse komisjon palub vastutaval õiguskomisjonil

     lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

    A. arvestades, et liit rajaneb Euroopa Liidu lepingu artiklis 2 sätestatud väärtustel ja Euroopa Liidu toimimise lepingu artikli 191 lõikes 2 sätestatud ettevaatusprintsiibil;

    B. arvestades, et ELi toimimise lepingu artiklis 16 on sätestatud, et igaühel on õigus oma isikuandmete kaitsele; arvestades, et Euroopa Parlamendi ja nõukogu määruse (EL) 2016/679[37] artiklis 22 osutatakse olukorrale, kus andmeid kasutatakse üksnes automatiseeritud töötlusel, ning tunnistatakse andmesubjekti õigust, et tema kohta ei võetaks otsust, mis põhineb üksnes automatiseeritud töötlusel;

    C. arvestades, et kuna hoogustumas on ülemaailmne konkurents, et saavutada tehisintellekti arendamisel juhtpositsioon, ning see mõjutab valdkonda kogu maailmas kujundavaid eetilisi väärtusi ja norme, peaks Euroopa Liit ülejäänud maailmale asjakohase õigusraamistiku kehtestamisega eeskujuks olema, et ühtlasi vältida võimalikku võidujooksu leebemate riiklike õigusnormide suunas;

    D. arvestades, et seda ülemaailmset konkurentsi ei tohiks lahutada eetiliste väärtuste ja normide küsimusest;

    E.  arvestades, et teaduse ja innovatsiooni kiire areng on tõstatanud mitmeid olulisi eetilisi, õiguslikke ja sotsiaalseid küsimusi, mis mõjutavad teaduse ja ühiskonna suhteid; arvestades, et teadusuuringud ja innovatsioon selles valdkonnas peavad vastama eetilistele põhimõtetele ning asjakohasele riiklikule, liidu ja rahvusvahelisele õigusele, sealhulgas Euroopa Liidu põhiõiguste hartale ning Euroopa inimõiguste ja põhivabaduste kaitse konventsioonile, vastavalt Euroopa teadusprogrammide sätetele;

    F. arvestades, et suurandmete ja tehisintellekti tehnoloogiate integreerimisega riiklikesse tervishoiusüsteemidesse ja muudesse sektoritesse peavad kaasnema asjakohased eeskirjad, normid ja õigusaktid, mis kaitsevad üksikisikute põhiõigusi ja käsitlevad neid uusi eetilisi probleeme;

    G. arvestades, et patentide ja investeeringute osas on liidus võrreldes ülejäänud maailmaga märgatav lõhe;

    H. arvestades, et tehisintellekt ja muud kujunemisjärgus digilahendused võivad olla ühiskonnale kasulikud sellistes valdkondades nagu rohepööre, keskkonna ja bioloogilise mitmekesisuse kaitse, põllumajanduse tõhususe suurendamine, jäätmekäitlus, ringmajandus, kliimamuutuste leevendamine ja nendega kohanemine, mitmesuguste tööstusprotsesside keskkonnasäästlikumaks muutmine, energia- ja transpordihaldus ja -tõhusus, vee- ja õhukvaliteet (nt arukad võrgud ja elektromobiilsus), riskijuhtimine ja Maa seire, milles liidu Copernicuse programm on muu hulgas üks parimaid;

    I. arvestades, et meditsiinis saab tehisintellekti kasutada peaaegu igas valdkonnas: biomeditsiinilised uuringud, mille näiteks on tehisintellekti abil avastatud antibiootikum halicin või tehisintellekti panus vähiennetusse, varasem ja täpsem diagnoosimine ning uudsed ravivõimalused tänu preventiivsele meditsiinile või meditsiinilisele genoomikale, meditsiiniharidus, hooldajate abistamine, eakate hoolduse toetamine, patsientide seisundi jälgimine, tõhusam ravimite väljatöötamine, sihipärasem ravi, kliiniline otsustamine, personaalmeditsiin, psüühiliste haiguste diagnoosimine ja ravi, uuenduslikud robootilised proteesid ja tugisüsteemid, telemeditsiin, telekirurgia ning tervishoiusüsteemide üldise tõhususe ja koostalitlusvõime suurendamine;

    J.  arvestades, et digitaalne areng eeldab tervishoiu- ja haldustöötajate asjakohast koolitust ja ettevalmistust, et vältida digilõhet, samal ajal tuleb silmas pidada vananevat ühiskonda ja võimalikke väljakutseid tervishoiusüsteemidele;

    K. arvestades, et masinate autonoomia tekitab tõsiseid eetilisi probleeme;

    L. arvestades, et digitervishoid ei tohiks ravi dehumaniseerida ega vähendada arsti ja patsiendi vahelise suhtluse tähtsust, vaid peaks pakkuma arstidele abi tõhusamal diagnoosimisel ja/või patsientide tõhusamal ravimisel;

    M. arvestades, et tehisintellekti tehnoloogia kiirendab tööstuse üleminekut digitehnoloogiale ja mängib olulist rolli digitaalmajanduse edukuses üha enam ühendatud maailmas;

    N. arvestades, et kehtivas liidu õigusraamistikus ja eetikasuunistes on juba käsitletud mõningaid tehisintellekti rakendustega seotud eetilisi probleeme, millele on osutatud komisjoni valges raamatus tehisintellekti kohta, nt tehisintellektipõhiste tervishoiulahenduste riskihindamise protsesse ühtsel turul; arvestades, et muudes valdkondades ei ole reguleerimine sammu pidanud eetiliste probleemidega, mis tuleb kindlaks teha ja mida tuleb leevendada, kuna tehisintellektil on suur potentsiaal seada ohtu patsientide eelistused, turvalisus ja eraelu puutumatus; arvestades, et tuleb piiritleda meditsiini- ja hooldustöötajate ning masinate rolli patsientide ravis, sealhulgas robotite kontrollitava autonoomia põhimõtet, ning arvestades, et vaja on nii tervishoiutöötajate kui ka patsientide koolitamist;

    O. arvestades, et liidu andmekaitse-eeskirju tuleks kohandada, et võtta arvesse väga tundlikke isikuandmeid ja terviseandmeid käsitleda suutvate hooldus- ja meditsiiniliste robotite kasvavat keerukust ja omavahelist seotust, ning need peaksid olema kooskõlas lõimprivaatsusega, nagu on sätestatud isikuandmete kaitse määruses (EL) 2016/679;

    P. arvestades, et lahendused, milles rõhutatakse vajadust võtta arengustrateegiate aluseks teadusuuringud ning millega luuakse meditsiiniliste andmete (nt neuroloogilised ja kardioloogilised andmed) hoidlad ja jagatakse nendest uuringutest saadud andmeid, võivad tuua käegakatsutavat sotsiaalset kasu seoses avaliku julgeoleku ja tervishoiuga;

    Q. arvestades, et tehisintellekti lahendused võivad tuua ühiskonnale kasu toiduohutuse valdkonnas, muu hulgas pestitsiidide vähema kasutamise, täppispõllumajanduse toetamise või laiemalt põllumajandus 2.0 toetamise kaudu, kus liit on tehisintellekti rakenduste poolest esirinnas (nt automatiseeritud masinseadistused ilma ennustamiseks või haiguste avastamiseks), mis võimaldab kooskõlas rohelise kokkuleppe prioriteetidega tõhusamat tootmist kombineerida kõrgemate keskkonnastandardite ja ressursside parema kasutamisega, eelkõige piirkondades, kus veevarud on napid ja kliimamuutustel on tõsised tagajärjed;

    R. arvestades, et kõnealuse raamistiku kohaldamisala peaks olema piisav, proportsionaalne ja läbinud põhjaliku hindamise; arvestades, et raamistiku kohaldamisala peaks hõlmama mitmesugust tehnoloogiat ja selle komponente, sealhulgas tehisintellekti abil kasutatavaid või sellega toodetavaid algoritme, tarkvara ja andmeid; arvestades, et kõrge riski kontseptsioonil põhinev sihipärane lähenemisviis on vajalik selleks, et tulevaste uuenduste puhul mitte pärssida tehisintellekti rakendustest inimestele tõusvat kasu, nt tervishoiu, keskkonnakaitse ja toidu kvaliteedi valdkonnas;

    S. arvestades, et oluline on teha kindlaks tõhusad vahendid usaldusväärsete digitehnoloogiate tagamiseks, et neist kasu saada, kaitstes samal ajal põhiõigusi ning soodustades informaalsete, avatud, sallivate ja õiglaste ühiskondade arengut; arvestades, et see on eriti oluline inim- ja tehisintellekti hübriidsüsteemide puhul;

    T. arvestades, et robotmasinad hägustavad inimeste ja tehnoloogiliste objektide vahelisi piire; arvestades, et lisaks ühiskonnale avalduvatele ja eetilist hinnangut vajavatele mõjudele ohustavad nad isegi neid eetikaraamistikke, mille põhjal neid tuleb hinnata; arvestades, et nagu märgitakse teaduse ja tehnoloogia eetika maailmakomisjoni (World Commission on the Ethics of Scientific Knowledge and Technology, COMEST) aruandes, tuleks erilist tähelepanu pöörata meditsiiniliste robotite, õendusrobotite, eakate hooldusrobotite ja robotkaaslaste (companion robot) kasutamisele;

    U. arvestades, et tervishoius ja eeskätt eakate hoolduses levib kiiresti seltsi pakkuvate robotkaaslaste (social robots and companion robots) kasutamine; arvestades, et eakate hooldusrobotid ja robotkaaslased võivad täita funktsionaalset ja emotsionaalset rolli; arvestades, et nendel robotitel võib olla oma osa eakate inimeste üksinduse leevendamisel, dementsusest tingitud käitumise ennetamisel, neurodegeneratiivse haigusega patsientide kognitiivse tegevuse stimuleerimisel või teatavate eakatele inimestele raskusi valmistavate igapäevaste ülesannete täitmisel; arvestades, et seetõttu võivad robotkaaslased tekitada võltse, illusoorseid, ühepoolseid, petlikke ja eakaid inimesi lapsikuks muutvaid tundeid;

    V. arvestades, et robotkaaslasi võidakse üha enam seksuaalselt ära kasutada; arvestades, et lastetaoliste või kuritarvitatavaks programmeeritud seksirobotite kasutamisel on eriti murettekitavad eetilised järelmid;

    Tehisintellekti eetiline ja õigusraamistik

    1. rõhutab, et liit peab võtma kõik vajalikud meetmed, et tagada oma õigustikus väljendatud eetiliste väärtuste mõjus kohaldamine oma territooriumil kõigis tehisintellekti valdkondades ja edendada oma standardeid kogu maailmas; sellega seoses rõhutab, et tehisintellekti tehnoloogiline areng peab alati inimkonnale kasu tooma;

    2. rõhutab, et liit peab võtma kõik vajalikud meetmed, et suurendada ühiskonna usaldust tehisintellekti, robootika ja seonduva tehnoloogia arendamise ja rakendamise vastu, arvestades seda, kui oluliselt niisugune tehnoloogia võib kodanikke mõjutada; kutsub komisjoni üles järgima usaldusväärse tehisintellekti eetikasuuniseid ja pakkuma välja asjakohaseid meetmeid, tagamaks et see tehnoloogia ei tekitaks kodanike jaoks ebaõiglaselt kallutatud väljundeid;

    3. rõhutab, et õiguspõhine liidu tehisintellekti ökosüsteem, mis on usaldusväärne nii keskkonnakaitse, tervishoiu kui ka toiduohutuse rakenduste suhtes ja mida on laiendatud liidu tehisintellekti eetikaraamistikuga, tugevdab õiguskindlust ja prognoositavust, soodustab sidusrühmade kaasamist, suurendab usaldusväärsete andmete mahtu ja kasutuselevõttu turul, võimaldab mastaabisäästu ja toetab nende sektorite tipptasemel ökosüsteeme; on seisukohal, et see tugevdab liidu tehisintellektisektori üleilmset konkurentsivõimet ning võimalust edendada liidu norme ja väärtusi;

    4. märgib, et kuna õiguslikud regulatsioonid vastavad paremini kaasaja selgelt määratletud probleemidele, ning tehisintellekti kiire arengu ja sellest tingitud tuleviku ebamäärasuse tõttu laiendab liidu ühine tehisintellekti eetikaraamistik komisjoni valges raamatus määratletud ühtset, õiguskindlat, jõustatavat ja kõiki sidusrühmi hõlmavat usalduskeskkonda, eelkõige keskkonnakaitse, rahvatervise kaitse, paremate tervishoiuvahendite või toiduohutuse rakenduste valdkonnas, suurendades seeläbi tipptaseme ökosüsteemi õiguskindlust ja prognoositavust ning tulemuslikult reageerides probleemidele, mida ei ole kohtusaalides, juhatuse koosolekutel ega teaduslaborites veel isegi defineeritud;

    5. märgib, et tehisintellekti määratlemise kallal tuleb veel tööd teha; rõhutab seetõttu inimkeskse käsitluse ning tehisintellekti edusammude ja eetikaraamistiku korrapärase läbivaatamise tähtsust selleks, et edendada ennetavat reguleerimist ja tagada selle kohaldatavus igal ajal ja uute arengute ilmnedes; rõhutab, et tehisintellektitehnoloogia arenguga kaasneb arvukalt ajas muutuvaid riskitasemeid; rõhutab, et on vaja proportsionaalset õigusraamistikku, mis peaks muutuma vastavalt tehnoloogia arengu kiirusele; juhib tähelepanu sellele, et programm Copernicus võib anda parimaid tavasid kvaliteetsete suurte andmekogumite väljatöötamiseks tehisintellekti mudelite sisendina;

    6. rõhutab vajadust õigusraamistiku järele, milles sätestataks eetilised põhimõtted, mida tuleb kohaldada kõnealuse tehnoloogia kavandamisel, arendamisel, rakendamisel ja toimimisel – alates andmetele juurdepääsust kuni tulemuste range järelevalveni;

    7. rõhutab vajadust leida reguleerimise tasakaalustatud käsitlus, eelkõige tagada, et ei kahjustataks meie väärtusi, ning samal ajal vältida tarbetu halduskoormuse tekitamist, eelkõige VKEde ja idufirmade jaoks; sellega seoses märgib, et tehisintellekti alases üleilmses konkurentsis ei järgita alati samu eetilisi põhimõtteid nagu liidus; juhib tähelepanu sellele, et tehisintellekti ja seonduva tehnoloogia puhul ei tohiks piirduda üksnes nn kerge eneseregulatsiooniga; peab siin vajalikuks proportsionaalset ja toetavat liidu õigusraamistikku; juhib tähelepanu sellele, et paljud kolmandad riigid töötavad välja oma eetikaraamistikke ja et ülemaailmsel tasandil on esitatud mitmeid sellekohaseid ettepanekuid; mõistab, et eetikapõhimõtete puhul võib põhiraskus seisneda mitte niivõrd põhimõtete olemasolus kui nende kohaldamises;

    8. toetab seisukohta, et kõrgetasemelise tehisintellekti eksperdirühma poolt välja töötatud usaldusväärse tehisintellekti eetikasuunistes esitatud seitse tehisintellekti käsitlevat nõuet kujutavad endast liidu ühise tehisintellekti eetikaraamistiku kindlaid aluseid; neil on tugevad õiguslikud alused ning need käsitlevad muu hulgas tehisintellekti rakenduste eetilisi aspekte keskkonna, tervise ja toiduohutuse valdkonnas; nõuab õigustiku parandamist läbipaistvuse, jälgitavuse ja inimjärelevalve osas – 350 organisatsiooni poolt suuniste kohta antud tagasisides nimetati neid parandamist vajavateks valdkondadeks; õhutab lisaks looma liidu tehisintellekti eetikaraamistikku, mis oleks avatud liidu väärtusi jagavate teiste rahvusvaheliste partnerite tööle (nt ÜRO, Euroopa Nõukogu 2019. aasta tehisintellekti ja andmekaitse suunised[38], Euroopa eetikaharta tehisintellekti kasutamise kohta kohtusüsteemides ja selle õigusuuringute keskuse töö, tehisintellekti ajutine komitee (CAHAI), 2019. aasta mais OECD liikmete poolt allkirjastatud tehisintellekti käsitlevad põhimõtted[39], G20 ministrite 2019. aasta avaldus kaubanduse ja digitaalmajanduse kohta, mille lisas esitatakse tehisintellekti käsitlevad põhimõtted, ning IEEE ülemaailmne algatus autonoomsete ja arukate süsteemidega seotud eetikaküsimustega tegelemiseks[40]);

    9.  avaldab komisjonile kindlat toetust liidu ühise tehisintellekti eetikaraamistiku loomisel, et võidelda puudustega, mida põhjustab tehisintellekti siseturu killustatus, sealhulgas keskkonna-, tervishoiu- ja toiduohutuse rakenduste alaste teadusuuringute, innovatsiooni ja oskusteabe vallas, ning vältida liikmesriikides topeltstandardeid liidus ja mujal välja töötatud tehisintellekti jaoks, muu hulgas sellistes valdkondades nagu tarbijaandmete haldamine, arukate võrkude kaitse ja privaatsus, jäätmekäitlus, teenuste ja tehnoloogiate võrdne kättesaadavus, patsiendi ja arsti vaheliste suhete standardid, andmekaitset ja eraelu puutumatust reguleerivad õigusaktid (sh nende seosed teadusuuringute ja ravimite väljatöötamisega), tsiviilvastutus tehisintellektipõhises riiklikus tervishoius ning tsiviilvastutus seoses autonoomsete sõidukite või masinatega; märgib, et liikmesriikide riiklikud õigusaktid ei sisalda ühtlustatud vastutuseeskirju, mida saaks kohaldada digitaal- ja käitumistehnoloogiatest tuleneda võiva kahju suhtes; nõuab sellise liidu tehisintellekti valdkonna õigusraamistiku nõuetekohast positsioneerimist ja sellele kindla õigusliku aluse loomist;

    10. tuletab sellega seoses meelde, et Euroopa Parlamendi 16. veebruari 2017. aasta resolutsioonis robootikat käsitlevate tsiviilõiguse normide kohta[41] paluti komisjonil kaaluda Euroopa robootika- ja tehisintellekti ameti loomist, et muu hulgas tagada kogu liidus valdkonna ühtne käsitlus, töötada välja eetikanõuetele vastavuse Euroopa sertifikaadi ühtsed kriteeriumid ja selle taotlemise menetlus ning käsitleda tehnoloogia arengust tingitud (eelkõige piiriüleseid) uusi probleeme ja võimalusi; palub komisjonil kaaluda, kas olemasolevad liidu organid ja institutsioonid on nende ülesannete täitmiseks piisavad või on vaja luua uus tehisintellekti asutus;

    11. on seisukohal, et sarnaselt kõigi muude tehnoloogiatega tuleks liidus kõigi selle piirides või väljaspool välja töötatud tehisintellekti rakenduste suhtes tagada ühesugune kaitsetase, sealhulgas tõhus õiguskaitse tehisintellektisüsteemide tõttu kahju saanud osapooltele, kuid seejuures peab tehnoloogiline innovatsioon saama edasi areneda; on lisaks seisukohal, et tehisintellekti riskide valdkond on väga oluline näiteks tervishoiuteenuste, autonoomsete sõidukite ja toiduohutuse puhul; nõuab kohustuste, õiguste ja vastutuse selget jaotamist tehisintellekti rakenduste tarnimises osalevate ettevõtjate vahel, et määrata iga kohustus sellele osalejale, kes saab kõige paremini võimalike riskidega tegeleda, olgu see siis arendaja, rakendaja, tootja, turustaja või importija, teenuseosutaja või kutseline või erakasutaja, ning nõuab sellega seoses asjaomaste ELi õigusaktide, nt tootevastutuse direktiivi asjakohast läbivaatamist ja riiklike õigusaktide ühtlustamist; toetab komisjoni valges raamatus väljendatud seisukohta, et tehisintellektisüsteemide keerukuse tõttu võib tulemusliku kaitse ja õiguskaitse tagamiseks olla vaja kohandada tõendamiskohustust, mida nõutakse riiklikes eeskirjades, mis käsitlevad vastutust tehisintellekti rakenduste käitamisest põhjustatud kahjude eest; on seisukohal, et tehisintellekti sektoriga seotud selge õiguslik vastutus tugevdab liidu õigustikus sätestatud eetiliste väärtuste jõustamist, õiguskindlust, prognoositavust ja ühiskondlikku heakskiitu, mis kõik toetab liidu tipptasemel tehisintellekti ökosüsteemi arengut tänu investorite ühtekoondamisele ja toodete turulelaskmise soodustamisele;

    12. juhib tähelepanu sellele, et paljud kolmandate riikide ja rahvusvaheliste organisatsioonide esitatud ettepanekud lähtuvad järgmistest tehisintellekti ühistest põhimõtetest või kontseptsioonidest: inimkesksus, usaldusväärsus, inimese autonoomia austamine, kahjustamise vältimine, võrdsus, seletatavus ja põhimõte, et kedagi ei jäeta kõrvale; on seisukohal, et neil põhimõtetel rajanev rahvusvaheline eetikaraamistik oleks äärmiselt soovitav; on mures selle pärast, et kui midagi ette ei võeta, võivad tehisintellekti valdkonna areng ja innovatsioonid tekitada sotsiaalset ebavõrdsust; kutsub seetõttu komisjoni ja liikmesriike üles võtma vajalikke meetmeid, et Euroopa digipöördel kedagi kõrvale ei jäetaks, ning tagama sellealastele uuendustele õiglase, taskukohase ja võrdse juurdepääsu, eriti niisugustes valdkondades nagu tervishoid;

    13. soovitab täiendada riskipõhist lähenemisviisi algoritmilise mõjuhinnanguga, kasutades näiteks regulatiivse mõju analüüsist, isikuandmete kaitse üldmääruse riskihindamise menetlusest ja inimõigustele avalduva mõju hindamisest saadud teavet, ja teha hinnangu tulemused üldkättesaadavaks;

    14. väljendab heameelt asjaolu üle, et komisjoni 19. veebruari 2020. aasta valges raamatus[42] määratletud riskipõhise lähenemisviisi metoodikas tunnustatakse tervishoidu, transporti ja energeetikat vaikimisi kõrge riskitasemega sektoritena ning kehtestatakse neis valdkondades tehisintellekti jaoks kehtivatest liidu eeskirjadest rangemad nõuded, välja arvatud juhul, kui seal tehisintellekti kasutamisega ei kaasne märkimisväärset riski; rõhutab, et liidu tehisintellekti eetikaraamistikus tuleks käsitleda eelkõige eelnimetatud kõrge riskitasemega sektoreid;

    15. nõuab liidu tasandil selgeid, objektiivseid ja läbipaistvaid menetlusi kõrge riskiga tehisintellekti rakenduste avaliku kataloogi koostamiseks koos selle korrapärase läbivaatamise ja ajakohastamisega; nõuab, et selleks et hoida kataloog innovatsioonile avatuna ja mitte ignoreerida riski, et tehisintellekti rakendused võidakse liigitada madala riskitasemega rakendusteks, tuleb sellistes menetlustes kaaluda tõendamiskohustuse panemist kõigi tehisintellekti rakenduste puhul ja kõigis valdkondades üksusele, kes soovib tehisintellekti süsteemi välja töötada või kasutusele võtta;

    16. on seisukohal, et kõrge riskitasemega tehisintellekti, robootika ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatava või sellega toodetava tarkvara, algoritmide ja andmete arendamisel, kasutuselevõtmisel ja kasutamisel valitseb kallutatuse ja diskrimineerimise oht; tuletab meelde, et nende tehnoloogiate juures tuleb igas olukorras austada inimväärikust ja tagada kõigi võrdne kohtlemine; on seisukohal, et sellist võimalikku kallutatust saaks vältida andmetöötluseeskirjade kehtestamisega ning kehtestades asjakohased kaitsemeetmed, et ära hoida eelarvamusi ja diskrimineerimist sotsiaalsetel, majanduslikel, etnilistel, rassilistel, seksuaalsetel, soolistel, puudest tingitud või muudel põhjustel; hoiatab tehisintellekti diagnostikarakenduste võimaliku väärkasutamise eest ning nõuab tehisintellekti valdkonnas suutlikkuse ja motivatsiooni alaste kaitsemeetmete kehtestamist;

    17. tunneb heameelt vabatahtliku märgistamise algatuse üle vähese riskiga tehisintellekti jaoks;

    18. soovitab meetmeid, et julgustada kõigi erasektori, tarbijarühmade ja akadeemiliste ringkondade tehisintellekti eetika sidusrühmade osalemist eetilise koodeksi koostamises, mis on kohandatud tehnoloogilistele, sotsiaalsetele ja poliitilistele arengutele;

    19. juhib tähelepanu sellele, et otsuste tegemiseks kasutavad robotid algoritme, millel on väärtuste ja eetiliste raamistike roll, ning et nende kasutuselevõtmisel on oluline eetiline mõju tervishoiule ja sotsiaalsetele suhetele; on eriti mures selle pärast, et seltsiliseks mõeldud roboteid kasutatakse pedofiilsetel ja seksuaalse väärkohtlemise eesmärkidel; on veendunud, et robootikatehnoloogiate kavandamisel tuleks arvesse võtta eetilisi kaalutlus; nõuab, et nende masinate väljatöötamise protsessis antaks koht eetikale, tuginedes väärtustundliku disaini lähenemisviisile, eelkõige eakate hooldusrobotite ja seltsiliseks mõeldud robotite puhul; rõhutab, et seda lähenemisviisi tuleks laiendada, et võtta arvesse ka loomade heaolu;

    20. rõhutab, et lisaks selgetele regulatiivsetele nõuetele aruandekohustuse ja vastutuse teemal on vaja tagada ka algoritmide läbipaistvus, et oleks võimalik tabada hetke, mil asjad lähevad valesti, ja võimaldada ekspertidel õigeaegselt sekkuda; peab algoritmide läbipaistvust ülioluliseks, et vältida olukordi, kus meditsiinilisi otsuseid tehakse läbipaistmatus keskkonnas; rõhutab, et läbipaistmatuid otsuseid tegevad nn musta kasti algoritmid on vastuvõetamatud mis tahes sektoris, kuid olukorras, kus tehisintellekti otsused mõjutavad elu või surma, võivad algoritmide ebaõnnestumise tagajärjed olla rasked; kutsub komisjoni ja liikmesriike üles alustama dialoogi peamiste sidusrühmadega sellistes valdkondades nagu meditsiin, IT, matemaatika, füüsika, meditsiiniliste andmete tehnoloogia, kliiniline psühholoogia, biotehnoloogia ja farmaatsia, et luua platvormid dialoogi arendamiseks ning hinnata mõju arsti ja patsiendi suhtele ja arstiabi dehumaniseerimisele;

    21. nõuab, et liit suunaks algatusi, millega edendatakse tõlgendatavaid algoritme, läbipaistva otsustusprotsessiga tehisintellekti (xAI), sümbolmõtlemise tehisintellekti, tehisintellekti abil nn valge kasti testimise tehnoloogiat, näidates, et neid tehnoloogiaid saab kombineerida süvanärvivõrgustikega, ning näidates nende õiguslikke, eetilisi ja sageli ärilisi eeliseid, samuti edendades erinevate tehnoloogiliste võimalustega seotud riskide kindlaksmääramise meetodeid, kasutades muu hulgas Ühendkuningriigi infovoliniku büroo (ICO) ja Alan Turing Institute’i suuniseid „Explaining decisions made with AI“, mis näitavad, et isegi väga keerulisi tehisintellekti neuraalsüsteeme on võimalik piisavalt tõlgendada;

    22. nõuab, et tagataks läbipaistvus, vastutus, auditeeritavus, prognoositavus ja vastutus, kuna kodanikke, patsiente ja kasutajaid tuleks tehisintellekti kasutava süsteemiga suhtlemisel teavitada ning anda selgeid ja arusaadavaid selgitusi kasutatud andmete, algoritmi toimimise, selle eesmärgi, tulemuste ja võimalike ohtude kohta; rõhutab, et läbipaistvus ja selgitatavus on olulised, et tagada usaldus nende tehnoloogiate vastu; on seisukohal, et selgitust peaks täiendama auditeeritavus ja jälgitavus, sest selliste põhimõtete järgimisega tagatakse vastutus; juhib tähelepanu sellele, et tehisintellekti rakendused võivad inimestest paremini täita kitsaid konkreetseid ülesandeid, kuid mitte tulla toime ülevaatliku analüüsiga; nõuab inimestepoolset järelevalvet, ametialast vastutust ja süsteemi prognoositavust koos võimega tehisintellekti süsteem tühistada;

    23. on seisukohal, et igal füüsilisel või juriidilisel isikul peaks olema võimalik taotleda hüvitist otsuse eest, mille on teinud kõrge riskiastmega tehisintellekt, robootika või seotud tehnoloogia ning mis on isikule kahjulik, ning et iga tehisintellekti tehtud otsuse suhtes tuleks kohaldada ranget inimkontrolli ja nõuetekohast menetlust; soovitab, et avaliku võimu alaste otsuste raames kehtestataks suure riskiga tehisintellekti, robootika ja seotud tehnoloogiate kasutuse osas kaitsemeetmed, sealhulgas õigusraamistiku korrapärane hindamine ja võimalik läbivaatamine, et pidada sammu tehnoloogia arenguga; soovitab kehtestada siduvad suunised vastavushindamise metoodika kohta, mida riiklikud järelevalveasutused peavad järgima, ning kehtestada arendajatele, rakendajatele ja kasutajatele suunatud mittesiduvad suunised;

    24. tervitab Euroopa andmestrateegiat, milles käsitletakse selles valdkonnas lahendamist vajavaid ülesandeid, mis on tehisintellekti arengu jaoks otsustava tähtsusega, ning otsitakse Euroopa võimalusi konkurentsieeliseks uues andmepõhises majanduses, eelkõige tööstusest, ettevõtlusest ja avalikust sektorist ning võrgu äärmistest sõlmedest asuvatest seadmetest pärinevate detsentraliseeritud isikustamata andmete kasvavas sektoris, mis moodustab 2025. aastal eeldatavasti 80 % 175 zettabaitist ja pöörab ümber praegused proportsioonid;

    25. nõuab, et tehisintellekti laiemaks kasutuselevõtuks liidus tagataks piisav rahastamine; toetab komisjoni valges raamatus seatud eesmärki kaasata liidus järgmise 10 aasta jooksul tehisintellekti arendamiseks 200 miljardit eurot avaliku ja erasektori investeeringuid; väljendab heameelt, et pööratakse tähelepanu tehisintellekti ökosüsteemide puudujääkidele vähem arenenud piirkondades ning VKEde ja idufirmade vajadustele; palub, et komisjon teeks kindlaks avaliku taristu puudujäägid ja hõlbustaks tehisintellekti rahastamist kliimamuutuste leevendamise ja nendega kohanemise, taastuvenergia ja tervishoiu valdkonnas ning lihtsustaks geograafiliselt tasakaalustatud juurdepääsu kogu tehisintellekti rahastamisele, sealhulgas VKEde ja idufirmade jaoks; rõhutab, et liidu uued eesmärgid ei tohi vähendada liidu osalust püsivates prioriteetides, nagu ÜPP, ühtekuuluvuspoliitika, roheline kokkulepe ja ELi järgmise põlvkonna COVID 19 taastumiskava;

    26 kutsub komisjoni üles edendama ja rahastama inimkeskse tehisintellekti, robootika ja seonduvate tehnoloogiate arendamist, mis tegelevad keskkonna- ja kliimaprobleemidega ning tagavad võrdse juurdepääsu põhiõigustele ja nende kasutamise maksude, roheliste avalike hangete või muude stiimulite kasutamise kaudu;

    Tehisintellekti CO2 jalajälg:

    27. märgib, et 19. veebruaril 2020 avaldatud digitaalses paketis märkis komisjon, et IKT moodustab praegu 5–9 % ülemaailmsest elektritarbimisest ja 2 % CO2-heitest ning et edastatavate ja säilitatavate andmete maht kasvab lähiaastatel hüppeliselt ja sellega seoses tuleb leida lahendused; märgib lisaks, et Teadusuuringute Ühiskeskuse 2018. aasta aruande „Tehisintellekt – Euroopa perspektiiv“ kohaselt võivad andmekeskused ja andmeedastus moodustada 3–4 % liidu kogu energiatarbimisest;

    28. tunneb heameelt asjaolu üle, et Euroopa digitaalstrateegias tehakse ettepanek võtta meetmeid digitaalsektorite keskkonnahoidlikumaks muutmiseks;

    29. rõhutab, et hoolimata süvaõppe ja tehisintellekti enda praegusest suurest CO2 jalajäljest võivad need tehnoloogiad aidata kaasa IKT sektori praeguse ökoloogilise jalajälje vähendamisele ning tehisintellekti, robootika, automatiseeritud otsuste ja masinõppe arendamisele; rõhutab, et need ja muud nõuetekohaselt reguleeritud seotud tehnoloogiad peaksid olema otsustava tähtsusega rohelise kokkuleppe, ÜRO kestliku arengu eesmärkide ja Pariisi kokkuleppe eesmärkide saavutamisel paljudes eri sektorites ning peaksid suurendama keskkonnakaitse poliitika mõju, nt jäätmete vähendamise ja keskkonnaseisundi halvenemise osas;

    30. kutsub komisjoni üles viima läbi uuringu tehisintellekti tehnoloogia CO2 jalajälje mõju kohta ning positiivse ja negatiivse mõju kohta, mida avaldab üleminek tehisintellekti tehnoloogia kasutamisele tarbijate poolt;

    31. märgib, et arvestades arvutus-, salvestus- ja energiaressursse nõudvate tehisintellekti rakenduste kasvavat arengut, tuleks tehisintellekti süsteemide keskkonnamõju arvesse võtta kogu nende olelusringi jooksul;

    Tehisintellekti mõju tervishoiule ja patsiendi õigustele:

    32. tunnistab, et tehisintellektil võib olla tervishoius tähtis roll ja rõhutab, et tehisintellekti rakenduste eesmärk tervishoius peaks alati olema maksimeerida võimalusi, mida nad võivad pakkuda, nagu üksikute patsientide tervise ja liikmesriikide tervishoiusüsteemide toimimise parandamine, alandamata eetikastandardeid ja ohustamata kodanike eraelu puutumatust ja ohutust;

    33. tervitab komisjoni valges raamatus võetud kohustust uurida tervishoiule omaseid ohutuse ja vastutusega seotud probleeme, näiteks tehisintellektisüsteeme, mis annavad arstidele või otse patsiendile meditsiinilist eriteavet, ning tehisintellektisüsteeme, mis teevad ise otse patsiendile meditsiinilisi toiminguid; nõuab, et vastavalt uuritaks ka teisi loetletud sektoreid, mis on vaikimisi kõrge riskiga;

    34. on seisukohal, et sellistes valdkondades nagu tervishoid peab vastutus lasuma lõppkokkuvõttes füüsilisel või juriidilisel isikul; rõhutab, et algoritmide jaoks on vaja jälgitavaid ja avalikult kättesaadavaid koolitusandmeid;

    35. kutsub komisjoni üles algatama avatud ja läbipaistva valdkondliku dialoogi, milles on esikohal tervishoid, et seejärel esitada tegevuskava tehisintellekti arendamise, katsetamise ja kasutuselevõtu hõlbustamiseks teadusuuringutes ja innovatsioonis ning selle laialdaseks rakendamiseks tervishoiuteenustes;

    36. on vastu katsetele anda masinatele teatav „isiksus“, mis võib kaasa tuua inimvastutuse kaotamise ravivigade korral;

    37. toetab kindlalt komisjoni kavandatud tervishoiu Euroopa andmeruumi[43] loomist, mille eesmärk on edendada terviseandmete vahetamist ja toetada teadusuuringuid, mis järgivad täielikult andmekaitset, sealhulgas andmete töötlemist tehisintellekti tehnoloogia abil, ning mis tugevdab ja laiendab terviseandmete kasutamist ja taaskasutamist; nõuab, et laiendataks terviseandmete piiriülest vahetamist, nende ühendamist ja kasutamist turvaliste liithoidlate kaudu, teatavat liiki terviseteabe vahetamist, nagu Euroopa tervisekaardid, genoomiline teave ja digitaalsed tervisepildid, et hõlbustada kogu liitu hõlmavaid koostalitlusvõimelisi registreid või andmebaase sellistes valdkondades nagu teadusuuringud, teadus ja tervishoid;

    38. rõhutab, et patsiendid peaksid teadma, millal ja kuidas nad suhtlevad inimesest spetsialistiga ja millal mitte; rõhutab, et patsientidel peaks olema vabadus otsustada selle suhtluse üle ja neile tuleks pakkuda võrdväärsel tasemel alternatiivi;

    39. on seisukohal, et eelkõige võivad mobiilirakendused aidata tervishoiusektoris haigusi jälgida ning robotite kohalolek on kasulik arstide või tervishoiutöötajate töö toetamiseks, et parandada diagnoosimist ja ravi, samal ajal tuleb tagada, et patsiendihoolduse ja meditsiini tavad ei oleks dehumaniseeritud;

    40. nõuab, et e-tervise rakenduste koostalitlusvõime oleks liidus standarditud ning et loodaks Euroopa ühine juurdepääs retseptide, diagnooside ja meditsiiniliste aruannete andmetele, nii et need oleks lihtsalt kättesaadavad kõigile liidu kodanikele ja kõikides liikmesriikides;

    41. kordab, et nende tehnoloogiatega seotud võimalustel ja riskidel on ülemaailmne mõõde, mis nõuab järjekindlat ühtlustatud lähenemisviisi rahvusvahelisel tasandil; kutsub komisjoni üles edendama kahe- ja mitmepoolsete suhete raames eetikapõhimõtete järgimist ja seda tagama;

    42. tõstab esile tehisintellekti kasulikkust haiguste ennetamises, ravis ja tõrjes, mille näiteks on see, et tehisintellekt prognoosis COVID-19 epideemiat enne WHOd; nõuab tungivalt, et komisjon annaks Haiguste Ennetamise ja Tõrje Euroopa Keskusele piisava õigusraamistiku ja vahendid vajalike reaalajas anonüümitud ülemaailmsete terviseandmete kogumiseks sõltumatult ja koostöös liikmesriikidega, et tegeleda muu hulgas ka COVID-19 pandeemia käigus ilmnenud probleemidega;

    43. juhib tähelepanu sellele, et jälgimis- ja kontaktide jälgimise tehnoloogiate kasutamine avaliku sektori asutuste poolt COVID-19 pandeemia ajal ja muudes võimalikes tervisega seotud hädaolukordades võib olla vastuolus andmekaitsega; tuletab sellega seoses meelde komisjoni 17. aprilli 2020. aasta teatist „Andmekaitsega seotud suunised COVID-19 pandeemia vastast võitlust toetavate mobiilirakenduste kohta“[44] ning vajadust proportsionaalsuse, ajaliste piirangute, liidu väärtustega kooskõla tagamise ning inimväärikuse ja põhiõiguste austamise järele;

    44. on seisukohal, et tehisintellekt ja robootika võivad oluliselt parandada meditsiiniseadmete kontrolli ja hõlbustada tervishoiutöötajate igapäevast tööd; on seisukohal, et kriitilise tähtsusega meditsiiniseadmete jaoks on vaja varusüsteemi, et jälgida ja kindlustada seadme toimivust mis tahes võimalikus häireolukorras, ning et selliste seadmete kontrollimisel tuleb arvesse võtta ja leevendada võimalikke küberohte; rõhutab, et lisaks häkkeritele ja välistele ohtudele võivad küberohud tuleneda ka inimlikest vigadest või süsteemivigadest ning et on vaja piisavaid varusüsteeme, mis on paigas ja toimivad; on lisaks seisukohal, et liit peaks looma tehisintellekti varulahenduse arendamise tegevuskava, et tegeleda võimalike probleemidega, mis on seotud tehisintellekti süsteemi kontrollide veaga;

    45. juhib tähelepanu sellele, et Euroopa Parlamendi ja nõukogu määruses (EL) 2017/745[45] sätestatud ohutusstandardid ei pruugi olla tehisintellekti süsteemidega seotud probleemide lahendamiseks piisavad; kutsub komisjoni üles jälgima selle valdkonna probleeme ja esitama vajaduse korral ettepanekuid;

    46. rõhutab vajadust tagada, et tehisintellektil põhinevad meditsiiniseadmed vastaksid määruse (EL) 2017/745 ohutus- ja toimivusnõuetele; kutsub komisjoni ja liikmesriike üles tagama määruse (EL) 2017/745 rakendamist nende tehnoloogiate suhtes; on seisukohal, et tarkvara, tehisintellekti ja süvaõppe jõul töötavate seadmete ohutuse ja tõhususe hindamiseks kogu kasutustsükli jooksul on vaja uusi suuniseid ja spetsifikatsioone;

    47. nõuab Euroopa Ravimiametile ja ravimite eest vastutavatele riiklikele pädevatele asutustele selgemat õiguslikku pädevust ja nende piisavat rahastamist, et toetada tehisintellektiga seotud innovatsiooni ja rahvatervise aspekte ravimi olelusringis, eelkõige selleks, et koguda ja analüüsida tegelikke terviseandmeid, mis võivad anda ravimite kohta täiendavaid tõendeid, et toetada teadus- ja arendustegevust, ning optimeerida olemasolevate ravimite ohutut ja tõhusat kasutamist patsientide ja Euroopa tervishoiusüsteemide huvides;

    48. on seisukohal, et kindlustusseltsidel ega ühelgi muul teenuseosutajal ei tohiks olla lubatud kasutada e-tervise andmeid, et diskrimineerida hindade kehtestamisel, kuna see oleks vastuolus põhiõigusega võimalikult heale tervislikule seisundile;

    Tehisintellekt ja andmekaitse:

    49.  väljendab heameelt komisjoni poolt hiljuti avaldatud määruse (EL) 2016/679 läbivaatamise[46] üle, märgib, et liikmesriikide õigusaktides järgitakse isikuandmete eriliikide töötlemise üldisest keelust erandite tegemisel erinevaid lähenemisviise seoses nõuete ja kaitsemeetmete tasemega, sealhulgas tervisega seotud eesmärkidel; märgib seetõttu, et lõppkokkuvõttes peaksid otsuste tegemise eest jääma vastutavaks inimesed, eriti valdkondades, kus on palju kaalul ja riskid on suured, nagu tervishoid;

    50. tervitab komisjoni kavatsust jälgida määruse (EL) 2016/679 kohaldamist uute tehnoloogiate suhtes, sealhulgas võimalikes tulevastes algatustes tehisintellekti valdkonnas ja andmestrateegia raames, ning toetab komisjoni üleskutset Euroopa Andmekaitsenõukogule anda välja suunised määruse (EL) 2016/679 kohaldamiseks teadusuuringute, tehisintellekti, plokiahela ja muude võimalike tehnoloogiliste arengute valdkonnas;

    51. nõuab, et kodanikele ja patsientidele antaks rohkem otsustusõigust oma isikuandmete üle, et tagada andmekaitset ja eraelu puutumatust käsitleva liidu õigusraamistiku täielik jõustamine ja ühetaoline tõlgendamine, eelkõige tervishoiuvaldkonna tehisintellekti rakendustes ja muudes seonduvates tundlikes andmetes, et täielikult järgida määruse (EL) 2016/679 artiklis 17 sätestatud õigust olla unustatud ja tugevdada määruse (EL) 2016/679 artiklis 22 sätestatud õigust selgitusele ning rangemaid tõlgendamisnõudeid kõrge riskitasemega tehisintellektile;

    52. rõhutab, et tehisintellekti eetiline raamistik peaks nägema ette, et isikutel, kelle suhtes tehakse automatiseeritud töötlusel põhinevais otsuseid, on õigus saada selliste otsuste kohta selgitust;

    53. nõuab, et leitaks õige tasakaal eraelu puutumatuse ja andmekaitse ning andmete kasulikkuse vahel; on seisukohal, et teaduse arengu seisukohalt on oluline tagada, et terviseandmeid oleks võimalik jagada ja töödelda piisavalt põhjalikult ja üksikasjalikult; nõuab, et tagataks andmete anonüümseks muutmine, vältides samal ajal liigset andmete minimeerimist; nõuab koostalitlusvõimeliste ja sobivate andmebaaside, registrite ja hoidlate loomist liidu tasandil, et hõlbustada terviseandmete kasutamist tervishoiu-, keskkonna- ja toiduohutuse sektoris;

    54. rõhutab vajadust tagada haavatavate rühmade andmete ja terviseandmete kaitse ning juhib tähelepanu sellele, et kui tehisintellekti rakendused töötlevad terviseandmeid andmesubjekti nõusoleku alusel, peavad olema täidetud määruse (EL) 2016/679 artiklis 7 sätestatud tingimused;

    55. rõhutab, et loodud andmed ei tohiks mingil juhul kaasa aidata mis tahes diskrimineerimisele; nõuab tagatisi, et andmete kogumine ja kättesaadavus oleks alati kooskõlas liidu õigusraamistikuga;

    56. juhib tähelepanu sellele, et andmete pahatahtliku muutmise ja manipuleerimise ning võimaliku häkkimise või andmevarguse oht võib olla eriti suur tervishoiusektoris ning seda võib kasutada üksikisikute kahjustamiseks, diskrediteerimiseks või nende arvelt kasu saamiseks; rõhutab, et asjaomaste võrgustike jaoks tuleks kehtestada kõrgeimad küberturvalisuse standardid;

    Tehisintellekti mõju töö- ja sotsiaalsele keskkonnale:

    57. juhib tähelepanu sellele, et OECD eetilises raamistikus võetakse arvesse tööturu murrangulisi muutusi; rõhutab, et automatiseerimine koos tehisintellektiga suurendab tootlikkust ja seega ka toodangut; märgib, et sarnaselt varasemate tehnoloogiliste revolutsioonidega asendatakse mõned töökohad; rõhutab, et robootika ja tehisintellekti järjest suurem kasutamine peaks aitama vähendada inimeste kokkupuudet kahjulike ja ohtlike oludega, luua kvaliteetseid ja inimväärseid töökohti ning parandada tootlikkust; juhib tähelepanu OECD tööle, milles rõhutatakse, et automatiseerimine võib anda ühiskonnale võimaluse vähendada töötatud tundide arvu, parandades seeläbi töötajate elutingimusi ja tervist;

    58. juhib lisaks tähelepanu OECD soovitustele, milles kutsutakse valitsusi üles tegema tihedat koostööd sidusrühmadega, et edendada tehisintellekti vastutustundlikku kasutamist töökohal, suurendada töötajate ohutust ja töökohtade kvaliteeti ning püüda tagada tehisintellekti eeliste laialdane ja õiglane jagamine; rõhutab sellega seoses, et mitmesugused arendajate ja inseneride meeskonnad, kes töötavad koos peamiste osalejatega, võivad aidata vältida soolist ja kultuurilist kallutatust ning tagada, et tehisintellekti algoritmides, süsteemides ja rakendustes austatakse töötajate füüsilist ja vaimset heaolu;

    59. rõhutab, et tehisintellekti rakenduste arendamine võib vähendada kulusid ja suurendada pakutavate teenuste mahtu, nt tervishoiuteenused, ühistransport, põllumajandus 2.0, muutes need taskukohasemaks laiemale ühiskonnaspektrile; rõhutab, et tehisintellekti rakendustega võib kaasneda ka töötuse kasv, surve sotsiaalhoolekandesüsteemidele ja vaesuse suurenemine; rõhutab, et kooskõlas Euroopa Liidu lepingu artiklis 3 sätestatud väärtustega tuleb tehisintellekti laiemat kasutuselevõttu liidus kohandada vastavalt sotsiaal-majanduslikule suutlikkusele, piisavale sotsiaalsele kaitstusele, haridusele ja alternatiivsete töökohtade loomisele; nõuab, et kaalutaks liidu tehisintellektiga kohanemise fondi loomist, tuginedes Globaliseerumisega Kohanemise Euroopa Fondi (EGF) või praegu loodava õiglase ülemineku fondi kogemustele;

    60. rõhutab ka sotsiaaldialoogi tähtsust, et võimaldada töötajatele õiglast ja kaasavat üleminekut tehisintellektist mõjutatud uuele töökeskkonnale, ning vajadust, et ettevõtted investeeriksid oma töötajate koolitusse ja ümberõppesse;

    61. nõuab, et liikmesriigid viiksid keskkonnakaitse-, tervishoiu- ja toiduohutusspetsialistide hariduse vastavusse tehisintellekti arenguga ning suurendaksid teadlikkust tehisintellektiga seotud riskidest ja eetilistest probleemidest;

    62. tunneb heameelt valges raamatus esitatud kõrge riskitasemega tehisintellekti alaste koolitusandmete nõuete üle, milles käsitletakse ka ohutust – piisavalt laiad andmed, mis hõlmavad kõiki asjakohaseid stsenaariume, et vältida ohtlikke olukordi ja diskrimineerimist – ning piisavalt esindavad andmed, et kajastada hästi sotsiaalset keskkonda, milles neid kohaldatakse;

    63. rõhutab, et avalik sektor peaks keskenduma sotsiaalsete probleemide lahendamisele, selle asemel et võtta tehisintellekt kasutusele oma tarbeks; nõuab, et parandataks liidu riigihanke-eeskirju ja suuniseid, sealhulgas keskkonnasäästlikke riigihankeid Euroopa Liidus, nii et pakkumuste hindamismenetluse käigus võetaks arvesse seda, kas konkreetne probleem nõuab tehisintellekti süsteemi rakendust, ning lubataks kasutada alternatiivseid lahendusi juhtudel, kui hindamine näitab, et antud sotsiaalset probleemi saaks paremini lahendada ilma tehisintellektita.


    TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

    Vastuvõtmise kuupäev

    10.9.2020

     

     

     

    Lõpphääletuse tulemus

    +:

    –:

    0:

    77

    2

    2

    Lõpphääletuse ajal kohal olnud liikmed

    Nikos Androulakis, Bartosz Arłukowicz, Margrete Auken, Simona Baldassarre, Marek Paweł Balt, Traian Băsescu, Aurelia Beigneux, Monika Beňová, Sergio Berlato, Alexander Bernhuber, Malin Björk, Simona Bonafè, Delara Burkhardt, Pascal Canfin, Sara Cerdas, Mohammed Chahim, Tudor Ciuhodaru, Nathalie Colin-Oesterlé, Miriam Dalli, Esther de Lange, Christian Doleschal, Marco Dreosto, Bas Eickhout, Eleonora Evi, Agnès Evren, Fredrick Federley, Pietro Fiocchi, Andreas Glück, Catherine Griset, Jytte Guteland, Teuvo Hakkarainen, Martin Hojsík, Pär Holmgren, Jan Huitema, Yannick Jadot, Adam Jarubas, Petros Kokkalis, Athanasios Konstantinou, Ewa Kopacz, Joanna Kopcińska, Ryszard Antoni Legutko, Peter Liese, Sylvia Limmer, Javi López, César Luena, Fulvio Martusciello, Liudas Mažylis, Joëlle Mélin, Tilly Metz, Silvia Modig, Dolors Montserrat, Alessandra Moretti, Dan-Ștefan Motreanu, Ville Niinistö, Ljudmila Novak, Jutta Paulus, Stanislav Polčák, Jessica Polfjärd, Luisa Regimenti, Frédérique Ries, María Soraya Rodríguez Ramos, Sándor Rónai, Rob Rooken, Silvia Sardone, Christine Schneider, Günther Sidl, Ivan Vilibor Sinčić, Linea Søgaard-Lidell, Nicolae Ştefănuță, Nils Torvalds, Edina Tóth, Véronique Trillet-Lenoir, Alexandr Vondra, Mick Wallace, Pernille Weiss, Michal Wiezik, Tiemo Wölken, Anna Zalewska

    Lõpphääletuse ajal kohal olnud asendusliikmed

    Michael Bloss, Manuel Bompard, Christel Schaldemose

     

     


    NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

    77

    +

    PPE

    Bartosz Arłukowicz, Alexander Bernhuber, Traian Băsescu, Nathalie Colin-Oesterlé, Christian Doleschal, Agnès Evren, Adam Jarubas, Ewa Kopacz, Peter Liese, Fulvio Martusciello, Liudas Mažylis, Dolors Montserrat, Dan-Ștefan Motreanu, Ljudmila Novak, Jessica Polfjärd, Stanislav Polčák, Christine Schneider, Edina Tóth, Pernille Weiss, Michal Wiezik, Esther de Lange

    S&D

    Nikos Androulakis, Marek Paweł Balt, Monika Beňová, Simona Bonafè, Delara Burkhardt, Sara Cerdas, Mohammed Chahim, Tudor Ciuhodaru, Miriam Dalli, Jytte Guteland, César Luena, Javi López, Alessandra Moretti, Sándor Rónai, Christel Schaldemose, Günther Sidl, Tiemo Wölken

    Renew

    Pascal Canfin, Fredrick Federley, Andreas Glück, Martin Hojsík, Jan Huitema, Frédérique Ries, María Soraya Rodríguez Ramos, Linea Søgaard-Lidell, Nils Torvalds, Véronique Trillet-Lenoir, Nicolae Ştefănuță

    ID

    Simona Baldassarre, Aurelia Beigneux, Marco Dreosto, Catherine Griset, Joëlle Mélin, Luisa Regimenti, Silvia Sardone

    Verts/ALE

    Margrete Auken, Michael Bloss, Bas Eickhout, Pär Holmgren, Yannick Jadot, Tilly Metz, Ville Niinistö, Jutta Paulus

    ECR

    Sergio Berlato, Pietro Fiocchi, Joanna Kopcińska, Ryszard Antoni Legutko, Alexandr Vondra, Anna Zalewska

    GUE/NGL

    Malin Björk, Manuel Bompard, Petros Kokkalis, Silvia Modig, Mick Wallace

    NI

    Eleonora Evi, Athanasios Konstantinou

     

    2

    ID

    Sylvia Limmer

    ECR

    Rob Rooken

     

    2

    0

    ID

    Teuvo Hakkarainen

    NI

    Ivan Vilibor Sinčić

     

    Kasutatud tähised:

    + : poolt

     : vastu

    0 : erapooletu

     


     

     

    KULTUURI- JA HARIDUSKOMISJONI ARVAMUS (3.9.2020)

    õiguskomisjonile

    soovitustega komisjonile tehisintellekti, robootika ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta

    (2020/2012(INL))

    Arvamuse koostaja: Łukasz Kohut

    (Algatus – kodukorra artikkel 47)

     

     

    ETTEPANEKUD

    Kultuuri- ja hariduskomisjon palub vastutaval õiguskomisjonil

     lisada oma resolutsiooni ettepanekusse järgmised ettepanekud:

    1. tuletab meelde, et tehisintellekti arendamine, juurutamine ja kasutamine kultuuri- ja loomesektoris ning haridus-, meedia-, noorsoo- ja teabepoliitikas mitte ainult ei või tõstatada, vaid tõstatab juba praegu ja ka edaspidi mitmesuguseid eetilisi küsimusi, millega tuleb tegeleda; rõhutab, et liit peaks näitama teed liidu väärtustele rajatud eetilise tehisintellekti suunas, mis tagab inimväärikuse ja põhiõiguste kaitse demokraatlikus, õiglases ja kestlikus liidus; kutsub ELi institutsioone üles mõtisklema pikaajaliselt selle üle, millist mõju avaldab tehisintellekt meie demokraatlikele aruteludele, ühiskonnale ja inimeste olemusele, sest siis on tal võimalik sillutada teed tehisintellekti tehnoloogiale, mis austab meie vabadust, ei takista innovatsiooni ega piira väljendusvabadust;

    2. peab kindlalt vajalikuks uurida, kuidas inimõiguste raamistikud ja kohustused saavad suunata uue ja kujunemisjärgus digitehnoloogiaga seotud tegevust ja poliitikat, et tagada nende inimkeskne lähenemisviis ja nende hüvede kättesaadavus kõigile; tunnistab vajadust tagada, et tehisintellekti arendamine, juurutamine ja kasutamine oleks vaba diskrimineerimisest ja profiilianalüüsi kallutatusest ning kajastaks ühiskonna kõiki olulisi elemente; tunnistab, et tehisintellekt ja automatiseerimine võivad mõjutada globaliseerunud majandust ning see võib olemasolevat ebavõrdsust veelgi süvendada;

    3. rõhutab vajadust töötada välja kohandatud kriteeriumid tehisintellekti arendamiseks, juurutamiseks ja kasutamiseks haridus-, meedia-, noorte-, teadus- ning kultuuri- ja loomesektoris, töötades neis valdkondades välja tehisintellekti tehnoloogia sihttasemed ja määrates kindlaks selle eetiliselt vastutustundliku ja aktsepteeritud kasutamise põhimõtted, sealhulgas selge vastutuskorra, mis kehtib tehisintellekti kasutamisest saadud toodete puhul; rõhutab, et sellised kriteeriumid peavad olema kohandatavad ja käima pidevalt kaasas tehisintellekti tehnoloogia arenguga, et aidata ka vastutustundlikult ära kasutada tehisintellekti kogu potentsiaali; rõhutab eelkõige vajadust käsitleda kasutajate isikuandmete kogumise ja privaatsusega seotud probleeme ning vastutusega seotud küsimusi juhtudel, kui automatiseeritud protsessid viivad soovimatute tulemusteni; tuletab meelde, et sellistele kriteeriumidele kindla aluse panemiseks on vaja nõuda süsteemi spetsifikatsioonidele vastavuse, läbipaistvuse, hea usu ja võrdsete võimaluste põhimõtete järgimist, mille puhul konsulteeritakse pädevate eetikakomiteedega, kes vastutavad Euroopa Liidu kultuuriväärtustele ja õigusraamistiku sätetele vastava aluse loomisele kaasaaitamise eest; märgib, et tehisintellekti süsteemid on tarkvarapõhised ja neile on omane intelligentne käitumine, mis põhineb nende keskkonna analüüsil; rõhutab, et see analüüs põhineb statistilistel mudelitel, mille vältimatuks osaks on ka vead; rõhutab vajadust tagada selliste süsteemide ja meetodite olemasolu, mis võimaldavad algoritmi kontrollimist ja seletamist ning juurdepääsu õiguskaitsevahenditele; rõhutab vajadust tagada siduvate õigusnormide olemasolu, millega tagatakse läbipaistvuse, vastutuse ja mittediskrimineerimise põhimõtete säilimine; tuletab meelde 2019. aasta eetikasuuniseid usaldusväärse tehisintellekti arendamiseks ning tehisintellekti usaldusväärsuse seitset põhinõuet;

    4. märgib, et igal lapsel on õigus kvaliteetsele avalikule haridusele kõikidel haridusastmetel; nõuab seetõttu selliste kvaliteetsete tehisintellekti süsteemide arendamist, juurutamist ja kasutamist, mis hõlbustaksid ja pakuksid kvaliteetseid haridusvahendeid kõikidel astmetel, ning rõhutab, et uute tehisintellekti süsteemide kasutuselevõtt koolides ei tohiks tekitada ühiskonnas suuremat digilõhet;

    5. märgib, et koolides ja ülikoolides kasutatakse üha enam tehisintellektipõhiseid isikustatud õppesüsteeme, mistõttu õpetajate roll õppetöös on vähehaaval muutumas; rõhutab, et seda muutust tuleks põhjalikult hinnata, kajastada vastavalt õppekavades ja kinnistada inimkesksete väärtustega; tunnistab, et tehisintellekti ja robootika panus haridusse võib olla tohutult suur; märgib, et tehisintellektipõhised isikustatud õppesüsteemid ei tohiks asendada haridussuhteid, millesse on kaasatud õpetajad, ning et traditsioonilisi haridusvorme ei tohiks kõrvale jätta, juhtides samal ajal tähelepanu sellele, et õpetajatele, kes soovivad omandada asjakohaseid oskusi tehnoloogiliste muutustega kohanemiseks ning mitte ainult tehisintellekti potentsiaali ärakasutamiseks, vaid ka selle piirangute mõistmiseks, tuleb pakkuda rahalist, tehnoloogilist ja haridustoetust, sealhulgas erikoolitust info- ja kommunikatsioonitehnoloogia valdkonnas;

    6. rõhutab, et kui tulevaste üliõpilaste valikumenetlustes kasutatakse masinõpet, tuleb rakendada piisavaid kaitsemeetmeid, sealhulgas teavitada taotlejaid sellistest menetlustest ja nende vastavatest õigustest; märgib, et asjaomaseid algoritme tuleb koolitada laiaulatuslike andmekogumite põhjal, et algoritmid ei diskrimineeriks ebaõiglaselt teatavaid rühmi; on seisukohal, et automatiseeritud protsesside abil tehtud asjakohaseid otsuseid peab olema võimalik selgitada, sealhulgas vajaduse korral ka tagasilükatud üliõpilastele;

    7. nõuab tehisintellekti, robootika ja seonduva tehnoloogia strateegia väljatöötamist liidu tasandil, et aidata muuta ja ajakohastada meie haridussüsteeme, valmistada ette kõigi tasemete haridusasutusi ning anda õpetajatele ja õpilastele vajalikud oskused ja võimed; on seisukohal, et hariduses on vaja eetikaraamistikku; soovitab kaasata sellise raamistiku koostamisse kodanikuühiskonna, ülikoolid, ametiühingud ja tööandjate ühendused; märgib, et liidus välja töötatud, juurutatud ja kasutatavad tehisintellekti süsteemid peavad kajastama liidu kultuurilist mitmekesisust ja mitmekeelsust; toonitab, et tehnoloogiaarendajatele ja tehnoloogiast kasu saajatele, kes kuuluvad ebasoodsas olukorras olevatesse rühmadesse, ning puuetega inimestele tuleks anda eritoetust;

    8. on seisukohal, et erilist tähelepanu ja kaitset nõuab alaealiste õiguste tagamine, kuna haridus avaldab nende tulevikule erilist mõju, ning eelkõige tuleb silmas pidada õigust eraelu puutumatusele ja juurdepääsu kvaliteetsele haridusele, tagades igal juhul võrdsed võimalused; rõhutab, et haridusasutused peaksid kasutama tehisintellekti süsteeme üksnes hariduslikel eesmärkidel, mis on auditeeritud ja mille puhul on tõestatud, et need on eetilised, kasulikud ja kooskõlas inimõiguste põhimõtetega; kutsub komisjoni ja liikmesriike üles edendama koostööd avaliku ja erasektori ning akadeemiliste ringkondade vahel, et tugevdada teadmiste jagamist ja avatud allikaid;

    9. märgib, et kunsti ning kultuuri- ja loometeoste mõistet ning inimeste rolli loojate ja kunstnikena on vaja täpsustada; rõhutab, et digiteerimise ja uute tehnoloogiatega pakutavad võimalused ei tohi põhjustada kultuuri- ja loomesektori töökohtade üldist kadumist, originaalide säilitamise hooletusse jätmist ega vähema tähelepanu pööramist kultuuripärandi traditsioonilisele kättesaadavusele, mida tuleks samavõrra soosida;

    10. tunnistab tehisintellekti kasvavat potentsiaali teabe, meedia ja veebiplatvormide valdkonnas, sealhulgas võimsa vahendina desinformatsiooni vastu võitlemisel; tunneb siiski muret tehisintellekti võimaliku väärkasutamise pärast, mille eesmärk on internetis avaliku arvamusega manipuleerida; rõhutab, et kui tehisintellekti ei reguleerita, siis võib sellel olla ka andmete ja algorütmide kallutatuse ärakasutamisest tulenev eetiliselt kahjulik mõju, mis väljendub desinformatsiooni levitamises, infomullide loomises ja tehisintellekti algoritmides sisalduva kallutatuse ärakasutamises; tuletab meelde, et piisav haridus on vajalik tingimus, et kaitsta kodanike õigusi seoses teabe-, arvamus- ja väljendusvabadusega, ning nõuab tehisintellekti tehnoloogiate eetilist kasutamist meedia valdkonnas; hoiatab tehnoloogiapõhise tsensuuri ohtude eest ja rõhutab vajadust eetilise raamistiku järele, et kaitsta sõnavabadust;

    11. on seisukohal, et teatavat liiki tehisintellekti, näiteks näo-, emotsioonide ja käitumise tuvastussüsteemide kasutamisel võib olla kahjulik mõju, eelkõige meedia ja ajakirjanike rollile demokraatia järelevalvajana ning seega ka demokraatlikele protsessidele; rõhutab seetõttu, et nende süsteemide kasutamist avalikus ruumis tuleks vajaduse korral piirata või keelata; rõhutab vajadust jätkata võitlust valeuudiste, sealhulgas selliste tehnikate nagu nn süvavõltsing vastu ning tsensuuri ja automatiseeritud jälgimise vastu;

    12. rõhutab vajadust suurendada formaalse ja mitteformaalse hariduse, sealhulgas inimkonnauuringute kaudu üldsuse teadlikkust ja arusaamist tehisintellekti rollist ja mõjust, eelkõige algoritmide kasutamisest ja nende mõjust muu hulgas töökohtadele ja eraelu puutumatusele, ning arusaamist IT-süsteemide toimimisest andmete valimisel, tõlgendamisel, salvestamisel ja esitamisel; toetab digikirjaoskuse vahendite loomist kõigil haridustasemetel ning kutsub seetõttu liikmesriike ja ELi institutsioone üles investeerima info- ja meediapädevusse, haridusse ja koolitusse; on seisukohal, et info- ja meediapädevus on ülioluline kõigi kodanike, sealhulgas haavatavate sotsiaalsete rühmade jaoks, et nad suudaksid kriitiliselt hinnata ja mõista uusi arengusuundi, sealhulgas tehisintellekti toimimist ja selle olemuslikku kallutatust, ning arendada seega välja uued kriitilise mõtlemise vormid; soovitab komisjonil edendada tehisintellekti, robootika ja tehnoloogiaga seotud hariduse ja täiendusõppe vorme;

    13. märgib, kui oluline on eristada algoritmide läbipaistvust algoritmide kasutamise läbipaistvusest; rõhutab videojagamis- ja voogedastusplatvormide kasutatavate algoritmide läbipaistvuse ja usaldusväärsuse tähtsust, et tagada juurdepääs kultuuriliselt ja keeleliselt mitmekesisele sisule ning vältida privilegeerimist; on arvamusel, et iga kasutajat tuleks nõuetekohaselt teavitada, kui sisu soovitamiseks kasutatakse algoritmi, ja tal peaks olema võimalik seda vastavalt oma valikutele optimeerida, ning sellised algoritmid ei tohiks piirata kasutaja valikut; on seisukohal, et igal kasutajal peaks olema võimalik ka tehisintellekti kaudu antavaid sisusoovitusi blokeerida; rõhutab, et sellised algoritmid tuleks kavandada nii, et need kajastaksid meie ühiskondade kultuurilist mitmekesisust, tagades tõelise kultuurilise avatuse ja loomevabaduse; rõhutab, et tehisintellekti kaudu kogutud kasutajaandmeid, nagu kultuurilised eelistused või haridustulemused, ei tohi ilma omaniku teadmata edastada ega kasutada;

    14. märgib, et sport on uuendusliku tehnoloogia alati omaks võtnud; on siiski seisukohal, et tehisintellekti tehnoloogiate kasutamine, mis on spordivõistlustel kiiresti levimas, tõstatab üha enam küsimusi ausa konkurentsi kohta spordis, kuna kõige suuremate rahaliste vahenditega võistkonnad saavad hankida parima tehnoloogia, mis võib neile seega anda ebaõiglase eelise; toonitab, et neid suundumusi tuleb tähelepanelikult jälgida, ja rõhutab, et see valdkond vajab õigusraamistikku, mis kohaldab tehisintellekti tehnoloogiate arendamisel ja kasutamisel eetilisi ja inimkeskseid kriteeriume; nõuab spordis kasutatavate algoritmide ja tehnoloogiate täielikku läbipaistvust, et tagada võrdsed võimalused.


     

     

    TEAVE VASTUVÕTMISE KOHTA NÕUANDVAS KOMISJONIS

    Vastuvõtmise kuupäev

    31.8.2020

     

     

     

    Lõpphääletuse tulemus

    +:

    –:

    0:

    28

    0

    2

    Lõpphääletuse ajal kohal olnud liikmed

    Isabella Adinolfi, Christine Anderson, Ilana Cicurel, Gilbert Collard, Gianantonio Da Re, Laurence Farreng, Tomasz Frankowski, Romeo Franz, Hannes Heide, Irena Joveva, Petra Kammerevert, Niyazi Kizilyürek, Predrag Fred Matić, Dace Melbārde, Victor Negrescu, Peter Pollák, Marcos Ros Sempere, Andrey Slabakov, Massimiliano Smeriglio, Michaela Šojdrová, Sabine Verheyen, Salima Yenbou, Milan Zver

    Lõpphääletuse ajal kohal olnud asendusliikmed

    Isabel Benjumea Benjumea, Christian Ehler, Ibán García Del Blanco, Bernard Guetta, Marcel Kolaja, Elżbieta Kruk, Martina Michels

     

     


    NIMELINE LÕPPHÄÄLETUS NÕUANDVAS KOMISJONIS

     

    28

    +

    PPE

    Isabel Benjumea Benjumea, Christian Ehler, Tomasz Frankowski, Peter Pollák, Michaela Šojdrová, Sabine Verheyen, Milan Zver

    S&D

    Ibán García del Blanco, Hannes Heide, Petra Kammerevert, Predrag Fred Matić, Victor Negrescu, Marcos Ros Sempere, Massimiliano Smeriglio

    RENEW

    Ilana Cicurel, Laurence Farreng, Bernard Guetta, Irena Joveva

    ID

    Gilbert Collard

    VERTS/ALE

    Romeo Franz, Marcel Kolaja, Salima Yenbou

    ECR

    Elżbieta Kruk, Dace Melbārde, Andrey Slabakov

    GUE/NGL

    Niyazi Kizilyürek, Martina Michels

    NI

    Isabella Adinolfi

     

    0

     

    2

    0

    ID

    Christine Anderson, Gianantonio Da Re

     

    Kasutatud tähised:

    + : poolt

     : vastu

    0 : erapooletu

     


     

     

    TEAVE VASTUVÕTMISE KOHTA VASTUTAVAS KOMISJONIS

    Vastuvõtmise kuupäev

    1.10.2020

     

     

     

    Lõpphääletuse tulemus

    +:

    –:

    0:

    20

    0

    4

    Lõpphääletuse ajal kohal olnud liikmed

    Manon Aubry, Gunnar Beck, Geoffroy Didier, Angel Dzhambazki, Ibán García Del Blanco, Jean-Paul Garraud, Esteban González Pons, Mislav Kolakušić, Gilles Lebreton, Karen Melchior, Jiří Pospíšil, Franco Roberti, Marcos Ros Sempere, Liesje Schreinemacher, Stéphane Séjourné, Raffaele Stancanelli, József Szájer, Marie Toussaint, Adrián Vázquez Lázara, Axel Voss, Tiemo Wölken, Javier Zarzalejos

    Lõpphääletuse ajal kohal olnud asendusliikmed

    Patrick Breyer, Evelyne Gebhardt

     


    NIMELINE LÕPPHÄÄLETUS VASTUTAVAS KOMISJONIS

    20

    +

    PPE

    Geoffroy Didier, Esteban González Pons, Jiří Pospíšil, József Szájer, Axel Voss, Javier Zarzalejos

    S&D

    Ibán García Del Blanco, Evelyne Gebhardt, Franco Roberti, Marcos Ros Sempere, Tiemo Wölken

    RENEW

    Karen Melchior, Liesje Schreinemacher, Stéphane Séjourné, Adrián Vázquez Lázara

    VERTS/ALE

    Patrick Breyer, Marie Toussaint

    ECR

    Angel Dzhambazki, Raffaele Stancanelli

    NI

    Mislav Kolakušić

     

    0

    -

     

     

     

     

     

    4

    0

    ID

    Gunnar Beck, Jean Paul Garraud, Gilles Lebreton

    GUE/NGL

    Manon Aubry

     

    Kasutatud tähised:

    + : poolt

    - : vastu

    0 : erapooletu

     

     

     

    Viimane päevakajastamine: 19. oktoober 2020
    Õigusteave - Privaatsuspoliitika