RESOLUTSIOONI ETTEPANEK automatiseeritud otsustusprotsesside, tarbijakaitse ning kaupade ja teenuste vaba liikumise tagamise kohta
6.2.2020 - (2019/2915(RSP))
vastavalt kodukorra artikli 136 lõikele 5
Petra De Sutter
siseturu- ja tarbijakaitsekomisjoni nimel
B9‑0094/2020
Euroopa Parlamendi resolutsioon automatiseeritud otsustusprotsesside, tarbijakaitse ning kaupade ja teenuste vaba liikumise tagamise kohta
Euroopa Parlament,
– võttes arvesse oma 12. veebruari 2019. aasta resolutsioon tervikliku Euroopa tööstuspoliitika kohta tehisintellekti ja robootika valdkonnas[1],
– võttes arvesse oma 16. veebruari 2017. aasta resolutsiooni soovitustega komisjonile robootikat käsitlevate tsiviilõiguse normide kohta[2],
– võttes arvesse komisjoni vastutust ja uusi tehnoloogiaid käsitleva eksperdirühma aruannet „Vastutus tehisintellekti ja teiste kujunemisjärgus digitehnoloogiate eest“, mis avaldati 21. novembril 2019,
– võttes arvesse komisjoni kõrgetasemelise tehisintellekti eksperdirühma aruannet „Policy and investment recommendations for trustworthy artificial intelligence“ (Poliitilised ja investeerimissoovitused seoses usaldusväärse tehisintellektiga), mis avaldati 26. juunil 2019,
– võttes arvesse komisjoni kõrgetasemelise tehisintellekti eksperdirühma dokumenti pealkirjaga „Usaldusväärse tehisintellekti eetikasuunised“, mis avaldati 8. aprillil 2019, samuti usaldusväärse tehisintellekti kontrollnimekirja,
– võttes arvesse komisjoni 8. aprilli 2019. aasta teatist „Usalduse loomine inimkeskse tehisintellekti vastu“ (COM(2019)0168),
– võttes arvesse komisjoni 7. detsembri 2018. aasta teatist „Tehisintellekti käsitlev kooskõlastatud kava“ (COM(2018)0795),
– võttes arvesse komisjoni 25. aprilli 2018. aasta teatist „Tehisintellekt Euroopa huvides“ (COM(2013)0237),
– võttes arvesse siseturu- ja tarbijakaitsekomisjoni resolutsiooni ettepanekut,
– võttes arvesse komisjonile esitatud küsimust automatiseeritud otsustusprotsesside, tarbijakaitse ning kaupade ja teenuste vaba liikumise tagamise kohta (O-000008/2020 – B9‑XXXX/2020),
– võttes arvesse kodukorra artikli 136 lõiget 5 ja artikli 132 lõiget 2,
A. arvestades, et tehisintellekti, masinõppe, keerukate algoritmipõhiste süsteemide ja automatiseeritud otsustusprotsesside valdkonnas toimub kiire tehnoloogia areng, ning arvestades, et nende tehnoloogiate pakutud rakendusi, võimalusi ja probleeme on palju ning need mõjutavad peaaegu kõiki siseturu sektoreid;
B. arvestades, et automatiseeritud otsustusprotsesside arendamine peaks andma märkimisväärse panuse teadmistepõhisesse majandusse ja tooma kasu ühiskonnale muu hulgas paremate avalike teenuste kaudu, tarbijatele uuenduslike toodete ja teenuste kaudu ning ettevõtjatele optimeeritud jõudluse kaudu;
C. arvestades, et tehisintellekti ja automatiseeritud otsustusprotsesside kasutamine ja arendamine toob kaasa ka lahendamist vajavaid probleeme tarbijate usalduse ja heaolu valdkonnas, eelkõige puudutab see tarbijate võimet selliseid protsesse ära tunda, mõista nende toimimist, teha teadlikke otsuseid nende kasutamise kohta ja soovi korral nende kasutamisest loobuda;
D. arvestades, et lähtepunktiks on eetikasuunised, näiteks komisjoni kõrgetasemelise tehisintellekti eksperdirühma vastu võetud põhimõtted; arvestades, et tuleks üle vaadata kehtiv ELi õigusraamistik, sealhulgas tarbijakaitseõigustikku ning andmekaitset, tooteohutust ja turujärelevalvet käsitlevad õigusaktid, et kontrollida, kas see raamistik suudab tehisintellekti ja automatiseeritud otsustusprotsesside tingimustes reageerida ning tagada kõrgel tasemel tarbijakaitse, nagu on nõutud ELi põhiõiguste harta artiklis 38;
E. arvestades, et ELi ühine lähenemisviis automatiseeritud otsustusprotsesside väljatöötamisele aitab tagada, et neist protsessidest on kasu, maandada riske kogu ELis ja vältida siseturu killustumist, samuti võimaldab see ELil paremini edendada oma lähenemisviisi ja väärtusi kogu maailmas;
Tarbijate valikuvõimalused, usaldus ja heaolu
1. väljendab heameelt automatiseeritud otsustusprotsesside potentsiaali üle pakkuda tarbijatele uuenduslikke ja täiustatud teenuseid, sealhulgas uusi digitaalseid teenuseid, nagu virtuaalassistendid ja juturobotid; usub siiski, et kui tarbijad suhtlevad süsteemiga, mis automatiseerib otsuste tegemise, tuleks neid piisavalt teavitada, kuidas see toimib, kuidas jõuda otsustusõigusega inimeseni ning kuidas kontrollida ja parandada süsteemi otsuseid;
2. nõuab tungivalt, et komisjon jälgiks tähelepanelikult parema täitmise direktiivi[3] kohaste uute eeskirjade rakendamist, millega nõutakse, et kauplejad teavitaksid tarbijaid, kui kaupade või teenuste hinda on isikupõhiselt kohandatud automatiseeritud otsustusprotsessi ja tarbijakäitumise profiili alusel, mis võimaldab kauplejatel hinnata tarbija ostujõudu;
3. nõuab tungivalt, et komisjon jälgiks tähelepanelikult asukohapõhise tõkestuse määruse[4] rakendamist, tagamaks, et automaatset otsuste tegemist ei kasutataks tarbijate diskrimineerimiseks nende kodakondsuse, elukoha või ajutise asukoha alusel;
4. ärgitab komisjoni jälgima, kas kauplejatele pandud kohustused tagavad tarbijatele tõhusa valiku ja piisava tarbijakaitse; palub komisjonil kontrollida, kas esineb regulatiivseid lünki ja selgitada välja, kas on vaja lisameetmeid, et tagada tarbijate kaitseks tehisintellekti ja automatiseeritud otsuste tegemise kontekstis tugevad õigused;
5. märgib, et automatiseeritud otsustussüsteeme kasutatakse mitmesugustel veebiplatvormidel alternatiivsetes vaidluste lahendamise mehhanismides, et lahendada tarbijate ja kauplejate vaidlusi; kutsub komisjoni üles tagama, et tarbijavaidluste kohtuvälist lahendamist käsitleva direktiivi 2013/11/EL[5] ja tarbijavaidluste internetipõhist lahendamist käsitleva määruse (EL) nr 524/2013[6] tulevastel läbivaatamistel võetakse arvesse automatiseeritud otsustusprotsesside kasutamist ja tagatakse, et kontroll jääb inimestele;
Toodete ohutuse ja vastutuse raamistik
6. toonitab, et ELi tooteohutuse raamistik kohustab ettevõtjaid tagama, et turule lastakse ainult ohutuid ja nõuetele vastavaid tooteid; tunnistab, et automatiseeritud otsustusvõimega toodete tekkimine toob kaasa uusi probleeme, kuna sellised tooted võivad areneda ja toimida viisil, mida esmakordsel turule laskmisel ette ei nähtud; nõuab tungivalt, et komisjon esitaks ettepanekud kohandada nende toodete ELi ohutuseeskirju, mis on hõlmatud konkreetsete ELi õigusaktidega, millega kehtestatakse ühtlustatud nõuded, sealhulgas masinadirektiiv[7], mänguasjade ohutuse direktiiv[8], raadioseadmete direktiiv[9] ja madalpingedirektiiv[10], samuti üldise tooteohutuse direktiiviga[11] hõlmatud ühtlustamata toodete ohutuseeskirju, et uued eeskirjad oleks eesmärgipärased, kasutajad ja tarbijad oleks kahju eest kaitstud, tootjatel oleks nende kohustused selged ning kasutajad teaksid, kuidas automatiseeritud otsustuvõimega tooteid kasutada;
7. rõhutab, et reguleerimisele tuleb läheneda riskipõhiselt, sest tehisintellekti ja automatiseeritud otsustussüsteemide eri liigid ja rakendused tekitavad probleeme, mis on olemuselt erinevad ja keerulised; palub komisjonil töötada tehisintellekti ja automatiseeritud otsustusprotsesside jaoks välja riskihindamise kava, et tagada ühtne lähenemisviis tooteohutust käsitlevate õigusaktide jõustamisele siseturul; rõhutab, et liikmesriigid peavad oma riiklike turujärelevalve strateegiate raames töötama tehisintellekti jaoks välja ühtlustatud riskijuhtimisstrateegiad;
8. märgib, et tootevastutuse direktiiv[12] on üle 30 aasta pakkunud väärtuslikku turvavõrku, et kaitsta tarbijaid puudustega toodete põhjustatud kahju eest; tunnistab, et kui tarbijatele tekitatav kahju tuleneb autonoomsetest otsustusprotsessidest, on vastutust kindlaks määrata keeruline; palub, et komisjon vaataks selle direktiivi läbi ja kaaluks selliste mõistete nagu „toode“ „kahju“ ja „puudus“ kohandamist, samuti tõendamiskoormist reguleerivate eeskirjade kohandamist; nõuab tungivalt, et komisjon esitaks ettepaneku neid mõisteid ja eeskirju ajakohastada, kui see on vajalik;
Teenuste õigusraamistik
9. tuletab meelde, et kehtiv teenuste õigusraamistik, mis koosneb teenuste direktiivist[13], kutsekvalifikatsioonide tunnustamise direktiivist[14], proportsionaalsuse kontrolli direktiivist[15], e-kaubanduse direktiivist[16] ja isikuandmete kaitse üldmäärusest[17], hõlmab juba praegu paljusid poliitikaaspekte, mis seonduvad automatiseeritud otsustusprotsesse kasutavate teenustega, sealhulgas tarbijakaitse, eetika ja vastutuse eeskirju; märgib, et selliseid eeskirju tuleks kohaldada nii traditsiooniliste teenuste kui ka automatiseeritud otsustusprotsesse hõlmavate teenuste suhtes;
10. rõhutab, et kuigi automatiseeritud otsustusprotsessid võivad muuta teenuseid tõhusamaks ja täpsemaks, peavad lõplikult vastutama alati inimesed ja neil peab olema võimalik tühistada otsuseid, mis tehakse erialateenuste raames sellistes valdkondades nagu meditsiin, õigus ja raamatupidamine ning pangandussektor; tuletab meelde, kui oluline on, et automatiseeritud otsuste tegemise korral, kui kaalul on õigustatud avalikud huvid, teeksid kvalifitseeritud spetsialistid kontrolli või sõltumatut järelevalvet;
11. rõhutab, et kooskõlas proportsionaalsuse kontrolli direktiiviga on tähtis, et enne kutseteenuste automatiseerimist hinnataks piisavalt riske; nõuab tungivalt, et liikmesriikide pädevad asutused tagaksid, et kutseõppes võetakse arvesse teaduse arengut automatiseeritud otsusprotsesside valdkonnas;
Andmehalduse kvaliteet ja läbipaistvus
12. märgib, et automatiseeritud otsustussüsteemid tuginevad suure hulga andmete kogumisele, ning on arvamusel, et isikustamata andmete vaba liikumist käsitlev määrus[18] aitab teha kogu ELis kättesaadavaks rohkem andmeid, võimaldades seeläbi luua uuenduslikke andmepõhiseid teenuseid; tunnistab sellega seoses mitte ainult avalikest, vaid ka eraallikatest pärinevate andmete jagamise potentsiaali, rõhutades samal ajal, et isikuandmeid tuleb isikuandmete kaitse üldmääruse kohaselt kaitsta; rõhutab, et on tähtis kasutada ainult kvaliteetseid ja neutraalseid andmekogumeid, et parandada algoritmiliste süsteemide väljundit ning suurendada tarbijate usaldust ja heakskiitu;
13. rõhutab, et kuna automatiseeritud otsustussüsteemid võivad tarbijaid, eriti kaitsetus olukorras olevaid tarbijaid väga suuresti mõjutada, on tähtis, et need süsteemid ei kasutaks mitte ainult kvaliteetseid ja neutraalseid andmekogumeid, vaid ka seletatavaid ja erapooletuid algoritme; on seisukohal, et äriprotsessides on vaja kontrollistruktuure, et parandada võimalikud vead automatiseeritud otsustes, ning et tarbijatel peaks olema võimalik taotleda lõplike ja püsivate automatiseeritud otsuste läbivaatamist inimese poolt ja hüvitamist;
14. rõhutab, et selle hindamiseks, kas automatiseeritud otsustusvõimega tooted vastavad ohutuseeskirjadele, on tähtis, et otsustusvõime taga olevad algoritmid oleksid piisavalt läbipaistvad ja turujärelevalveasutustele arusaadavad; kutsub komisjoni üles hindama, kas turujärelevalveasutustele tuleks sellega seoses anda lisaõigusi;
15. kutsub komisjoni üles tähelepanelikult jälgima, kuidas rakendatakse platvormide ja ettevõtjate vahelisi suhteid käsitlevat määrust[19], eelkõige eeskirju läbipaistvuse kohta järjestuste koostamisel, mille juures kasutatakse automaiseeritud otsustusprotsesse;
16. teeb presidendile ülesandeks edastada käesolev resolutsioon nõukogule, komisjonile ja tööturu osapooltele.
- [1] Vastuvõetud tekstid, P8_TA(2019)0081.
- [2] ELT C 252, 18.7.2018, lk 239.
- [3] Euroopa Parlamendi ja nõukogu 27. novembri 2019. aasta direktiiv, millega muudetakse nõukogu direktiivi 93/13/EMÜ ning Euroopa Parlamendi ja nõukogu direktiive 98/6/EÜ, 2005/29/EÜ ja 2011/83/EL, et ajakohastada liidu tarbijakaitsenorme ja tagada paremini nende täitmine, ELT L 328, 18.12.2019, lk 7.
- [4] Euroopa Parlamendi ja nõukogu 28. veebruari 2018. aasta määrus (EL) 2018/302, mis käsitleb siseturul toimuvat põhjendamatut asukohapõhist tõkestust ja muul viisil diskrimineerimist kliendi kodakondsuse, elukoha või asukoha alusel ning millega muudetakse määrusi (EÜ) nr 2006/2004 ja (EL) 2017/2394 ning direktiivi 2009/22/EÜ, ELT L 60 I, 2.3.2018, lk 1.
- [5] ELT L 165, 18.6.2013, lk 63.
- [6] ELT L 165, 18.6.2013, lk 1.
- [7] Euroopa Parlamendi ja nõukogu 17. mai 2006. aasta direktiiv 2006/42/EÜ, mis käsitleb masinaid ja millega muudetakse direktiivi 95/16/EÜ (uuesti sõnastatud), ELT L 157, 9.6.2006, lk 24.
- [8] Euroopa Parlamendi ja nõukogu 18. juuni 2009. aasta direktiiv 2009/48/EÜ mänguasjade ohutuse kohta, ELT L 170, 30.6.2009, lk 1.
- [9] Euroopa Parlamendi ja nõukogu 16. aprilli 2014. aasta direktiiv 2014/53/EL raadioseadmete turul kättesaadavaks tegemist käsitlevate liikmesriikide õigusaktide ühtlustamise kohta ja millega tunnistatakse kehtetuks direktiiv 1999/5/EÜ, ELT L 153, 22.5.2014, lk 62.
- [10] Euroopa Parlamendi ja nõukogu 26. veebruari 2014. aasta direktiiv 2014/35/EL teatavates pingevahemikes kasutatavate elektriseadmete turul kättesaadavaks tegemist käsitlevate liikmesriikide õigusaktide ühtlustamise kohta, ELT L 96, 29.3.2014, lk 357.
- [11] Euroopa Parlamendi ja nõukogu 3. detsembri 2001. aasta direktiiv 2001/95/EÜ üldise tooteohutuse kohta, EÜT L 11, 15.1.2002, lk 4.
- [12] Nõukogu 25. juuli 1985. aasta direktiiv 85/374/EMÜ liikmesriikide tootevastutust käsitlevate õigus- ja haldusnormide ühtlustamise kohta, EÜT L 210, 7.8.1985, lk 29.
- [13] Euroopa Parlamendi ja nõukogu 12. detsembri 2006. aasta direktiiv 2006/123/EÜ teenuste kohta siseturul, ELT L 376, 27.12.2006, lk 36.
- [14] Euroopa Parlamendi ja nõukogu 20. novembri 2013. aasta direktiiv 2013/55/EL, millega muudetakse direktiivi 2005/36/EÜ kutsekvalifikatsioonide tunnustamise kohta ning määrust (EL) nr 1024/2012 siseturu infosüsteemi kaudu tehtava halduskoostöö kohta (IMI määrus), ELT L 354, 28.12.2013, lk 132.
- [15] Euroopa Parlamendi ja nõukogu 28. juuni 2018. aasta direktiiv (EL) 2018/958, milles käsitletakse uute kutsealasid reguleerivate õigusnormide vastuvõtmisele eelnevat proportsionaalsuse kontrolli, ELT L 173, 9.7.2018, lk 25.
- [16] Euroopa Parlamendi ja nõukogu 8. juuni 2000. aasta direktiiv 2000/31/EÜ infoühiskonna teenuste teatavate õiguslike aspektide, eriti elektroonilise kaubanduse kohta siseturul (direktiiv elektroonilise kaubanduse kohta), EÜT L 178, 17.7.2000, lk 1.
- [17] Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta määrus (EL) 2016/679 füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta (isikuandmete kaitse üldmäärus), ELT L 119, 4.5.2016, lk 1.
- [18] Euroopa Parlamendi ja nõukogu 14. novembri 2018. aasta määrus (EL) 2018/1807, mis käsitleb isikustamata andmete Euroopa Liidus vaba liikumise raamistikku, ELT L 303, 28.11.2018, lk 59.
- [19] Euroopa Parlamendi ja nõukogu 20. juuni 2019. aasta määrus (EL) 2019/1150, mis käsitleb õigluse ja läbipaistvuse edendamist veebipõhiste vahendusteenuste ärikasutajate jaoks, ELT L 186, 11.7.2019, lk 57.