Evropski parlament,

–  ob upoštevanju svoje resolucije z dne 12. februarja 2019 o celoviti evropski industrijski politiki na področju umetne inteligence in robotike(1),

–  ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki(2),

–  ob upoštevanju poročila strokovne skupine Komisije za odgovornost in nove tehnologije o odgovornosti v zvezi z umetno inteligenco in drugimi novimi digitalnimi tehnologijami, objavljenega 21. novembra 2019,

–  ob upoštevanju poročila strokovne skupine Komisije na visoki ravni za umetno inteligenco o politiki in naložbenih priporočilih za zaupanja vredno umetno inteligenco, objavljenega 26. junija 2019,

–  ob upoštevanju dokumenta strokovne skupine Komisije na visoki ravni za umetno inteligenco o etičnih smernicah za zaupanja vredno umetno inteligenco, objavljenega 8. aprila 2019, ter ocenjevalnega seznama za zaupanja vredno umetno inteligenco,

–  ob upoštevanju sporočila Komisije z dne 8. aprila 2019 o krepitvi zaupanja v umetno inteligenco, osredotočeno na človeka (COM(2019)0168),

–  ob upoštevanju sporočila Komisije z dne 7. decembra 2018 o usklajenem načrtu za umetno inteligenco (COM(2018)0795),

–  ob upoštevanju sporočila Komisije z dne 25. aprila 2018 o umetni inteligenci za Evropo (COM(2018)0237),

–  ob upoštevanju predloga resolucije Odbora za notranji trg in varstvo potrošnikov,

–  ob upoštevanju vprašanja za Komisijo o avtomatiziranem sprejemanju odločitev: zagotavljanje varstva potrošnikov in prostega pretoka blaga in storitev (O-000008/2020 – B9-0007/2020),

–  ob upoštevanju člena 136(5) in člena 132(2) Poslovnika,

A.  ker je tehnološki napredek na področju umetne inteligence, strojnega učenja, kompleksnih algoritemskih sistemov in avtomatiziranega sprejemanja odločitev zelo hiter in ker so uporaba, priložnosti in izzivi, ki jih prinašajo te tehnologije, številni in vplivajo na skoraj vse sektorje notranjega trga;

B.  ker naj bi razvoj avtomatiziranega sprejemanja odločitev znatno prispeval h gospodarstvu, ki temelji na znanju, in koristi družbi, med drugim z izboljšanimi javnimi storitvami, potrošnikom z inovativnimi proizvodi in storitvami ter podjetjem z optimizirano zmogljivostjo;

C.  ker uporaba in razvoj umetne inteligence in avtomatiziranega sprejemanja odločitev predstavljata tudi izzive za zaupanje potrošnikov in blaginjo, zlasti v smislu omogočanja potrošnikom, da te postopke prepoznajo, da razumejo, kako delujejo, da so pred sprejemanjem odločitev o njihovi uporabi ustrezno obveščeni in da se lahko odločijo, da jih ne uporabljajo;

D.  ker so etične smernice, kot so načela, ki jih je sprejela strokovna skupina Komisije na visoki ravni za umetno inteligenco, izhodišče; ker je treba pregledati sedanji pravni okvir EU, vključno s potrošniško zakonodajo ter zakonodajo o varnosti proizvodov in nadzoru trga, da bi preverili, ali se lahko odzove na pojav umetne inteligence in avtomatiziranega odločanja ter zagotovi visoko raven varstva potrošnikov, kot je določeno v členu 38 Listine EU o temeljnih pravicah;

E.  ker bo skupni pristop EU k razvoju avtomatiziranega sprejemanja odločitev pomagal zagotoviti koristi teh postopkov in zmanjšal tveganja po vsej EU, preprečil razdrobljenost notranjega trga ter EU omogočil, da bo bolje spodbujala svoj pristop in svoje vrednote po svetu;

Izbira, zaupanje in blaginja potrošnikov

1.  pozdravlja potencial, ki ga ima avtomatizirano odločanje za zagotavljanje inovativnih in izboljšanih storitev potrošnikom, vključno z novimi digitalnimi storitvami, kot so virtualni pomočniki in digitalni asistenti; kljub temu meni, da bi morali biti potrošniki pri delu s sistemom, ki avtomatizira odločanje, ustrezno obveščeni o tem, kako deluje, kako vzpostaviti stik s človekom, pooblaščenim za sprejemanje odločitev, in kako preveriti in popraviti odločitve sistema;

2.  poziva Komisijo, naj pozorno spremlja izvajanje novih pravil v skladu z direktivo o boljšem izvrševanju(3), ki od trgovcev zahteva, da potrošnike obvestijo, ko so cene blaga ali storitev prilagojene na podlagi avtomatiziranega odločanja in profiliranja vedenja potrošnikov, kar trgovcem omogoča, da ocenijo kupno moč potrošnika;

3.  poziva Komisijo, naj pozorno spremlja izvajanje uredbe o geografskem blokiranju(4), da se avtomatizirano odločanje ne bo uporabljalo za diskriminacijo potrošnikov na podlagi njihovega državljanstva, prebivališča ali začasne lokacije;

4.  spodbuja Komisijo, naj spremlja, ali obveznosti trgovcev omogočajo učinkovito izbiro za potrošnike in zagotavljajo zadostno varstvo potrošnikov; poziva Komisijo, naj preveri, ali obstajajo morebitne regulativne vrzeli, in preuči, ali so potrebni dodatni ukrepi, da bi zagotovili močan sklop pravic za varstvo potrošnikov v okviru umetne inteligence in pri avtomatiziranem odločanju;

5.  ugotavlja, da se sistemi avtomatiziranega odločanja uporabljajo v alternativnih mehanizmih za reševanje sporov na različnih digitalnih platformah za reševanje sporov med potrošniki in trgovci; poziva Komisijo, naj zagotovi, da se pri vsakem prihodnjem pregledu Direktive 2013/11/EU o alternativnem reševanju potrošniških sporov(5) in Uredbe (EU) št. 524/2013 o spletnem reševanju potrošniških sporov(6) upošteva uporaba avtomatiziranega odločanja in zagotovi, da se ohrani nadzor človeka;

Okvir za varnost in odgovornost za proizvode

6.  poudarja, da morajo podjetja v skladu z okvirom EU za varnost proizvodov zagotoviti, da se na trg dajo le varni in skladni proizvodi; priznava, da pojav izdelkov z zmogljivostmi za avtomatizirano odločanje predstavlja nove izzive, saj se takšni proizvodi lahko razvijajo in delujejo na načine, ki pri dajanju na trg niso predvideni; poziva Komisijo, naj pripravi predloge za prilagoditev varnostnih predpisov EU za proizvode, ki so zajeti v posebni zakonodaji EU, ki določa usklajene zahteve, vključno z direktivo o strojih(7), direktivo o varnosti igrač(8), direktivo o radijski opremi(9) in direktivo o nizki napetosti(10), ter za „neusklajene proizvode“, ki jih zajema direktiva o splošni varnosti proizvodov(11), da se zagotovi, da nova pravila ustrezajo svojemu namenu, da so uporabniki in potrošniki zaščiteni pred škodo, da so proizvajalci jasno seznanjeni s svojimi obveznostmi in da so uporabniki jasno seznanjeni s tem, kako uporabljati proizvode, ki so zmožni avtomatizirano sprejemati odločitve;

7.  poudarja, da je potreben pristop k ureditvi, ki temelji na tveganju, ob upoštevanju raznolike narave in kompleksnosti izzivov, ki nastanejo zaradi različnih vrst in načinov uporabe umetne inteligence in sistemov avtomatiziranega odločanja; poziva Komisijo, naj razvije sistem za oceno tveganja za umetno inteligenco in avtomatizirano sprejemanje odločitev, da bi zagotovila skladen pristop k izvrševanju zakonodaje o varnosti proizvodov na notranjem trgu; da morajo države članice v nacionalnih strategijah za nadzor trga razviti usklajene strategije obvladovanja tveganja za umetno inteligenco;

8.  ugotavlja, da direktiva o odgovornosti za proizvode(12) že več kot 30 let zagotavlja dragoceno varnostno mrežo za zaščito potrošnikov pred škodo, ki nastane zaradi proizvodov z napako; priznava izziv, ki ga predstavlja določanje odgovornosti, kadar je potrošnik oškodovan zaradi avtomatiziranega sprejemanja odločitev; poziva Komisijo, naj pregleda to direktivo in razmisli o prilagoditvi pojmov, kot so „proizvod“, „škoda“ in „napaka“, in o prilagoditvi pravil v zvezi z dokaznim bremenom; poziva Komisijo, naj pripravi predloge za posodobitev teh pojmov in pravil, če je to potrebno;

Regulativni okvir za storitve

9.  opozarja, da sedanji regulativni okvir o storitvah, ki je sestavljen iz direktive o storitvah(13), direktive o poklicnih kvalifikacijah(14), direktive o preskusu sorazmernosti(15), direktive o elektronskem poslovanju(16) in splošne uredbe o varstvu podatkov (17), že zajema številne vidike politike, pomembne za storitve, ki vključujejo avtomatizirano sprejemanje odločitev, vključno s pravili o varstvu potrošnikov, etiki in odgovornosti; ugotavlja, da bi se morala ta pravila uporabljati tako za tradicionalne storitve kot za storitve, ki vključujejo avtomatizirano sprejemanje odločitev;

10.  poudarja, da čeprav lahko avtomatizirano sprejemanje odločitev izboljša učinkovitost in natančnost storitev, morajo imeti končno odgovornost za odločitve, sprejete v okviru strokovnih storitev na področju zdravstvenih, pravnih in računovodskih poklicev ter bančnega sektorja, vedno ljudje, ki morajo tudi imeti možnost te odločitve razveljaviti; opozarja na pomen kontrole ali neodvisnega nadzora, ki ga v primerih avtomatiziranega sprejemanja odločitev, kadar gre za legitimne javne interese, opravljajo usposobljeni strokovnjaki;

11.  poudarja, da je v skladu z direktivo o preskusu sorazmernosti pomembno, da se pred avtomatizacijo poklicnih storitev ustrezno ocenijo tveganja; poziva pristojne organe držav članic, naj zagotovijo, da bo strokovno usposabljanje upoštevalo znanstveni napredek na področju avtomatiziranega sprejemanja odločitev;

Kakovost in preglednost upravljanja podatkov

12.  ugotavlja, da se sistemi avtomatiziranega odločanja zanašajo na zbiranje velikih količin podatkov, in meni, da bo uredba o prostem pretoku neosebnih podatkov(18) prispevala, da bo na voljo več podatkov v EU, kar bo omogočilo oblikovanje inovativnih storitev, ki temeljijo na podatkih; v zvezi s tem priznava potencial izmenjave podatkov tako iz javnih kot iz zasebnih virov, hkrati pa poudarja, da je treba nujno varovati osebne podatke v skladu s splošno uredbo o varstvu podatkov; poudarja, da je pomembno uporabljati le visokokakovostne in nepristranske podatkovne sklope, da bi izboljšali rezultate algoritemskih sistemov ter okrepili zaupanje potrošnikov in njihovo sprejemanje;

13.  poudarja, da je glede na velik vpliv, ki ga lahko imajo sistemi avtomatiziranega odločanja na potrošnike, zlasti tiste v ranljivem položaju, pomembno, da ti sistemi uporabljajo visokokakovostne in nepristranske podatkovne sklope pa tudi nepristranske algoritme, ki jih je mogoče razložiti; meni, da so v okviru poslovnih procesov potrebne strukture za pregled, da bi odpravili morebitne napake pri avtomatiziranih odločitvah, potrošniki pa bi morali imeti možnost zahtevati, da avtomatizirane odločitve, ki so dokončne in trajne, pregleda človek in popravi krivice pri njih;

14.  poudarja, da je za oceno, ali so proizvodi z zmožnostjo avtomatiziranega odločanja v skladu z ustreznimi varnostnimi pravili, bistvenega pomena, da so algoritmi za temi zmogljivostmi ustrezno pregledni in da jih je mogoče pojasniti organom za nadzor trga; poziva Komisijo, naj oceni, ali bi bilo treba organom za nadzor trga v zvezi s tem dodeliti dodatne pristojnosti;

15.  poziva Komisijo, naj pozorno spremlja izvajanje uredbe o razmerjih med platformami in podjetji(19), zlasti pravil o preglednosti razvrščanja, ki vključujejo uporabo avtomatiziranega sprejemanja odločitev;

o
o   o

16.  naroči svojemu predsedniku, naj to resolucijo posreduje Svetu in Komisiji.

(1) Sprejeta besedila, P8_TA(2019)0081. (2) UL C 252, 18.7.2018, str. 239. (3) Direktiva (EU) 2019/2161 Evropskega parlamenta in Sveta z dne 27. novembra 2019 o spremembi Direktive Sveta 93/13/EGS in direktiv 98/6/ES, 2005/29/ES ter 2011/83/EU Evropskega parlamenta in Sveta zaradi boljšega izvrševanja in posodobitve pravil Unije o varstvu potrošnikov (UL L 328, 18.12.2019, str. 7). (4) Uredba (EU) 2018/302 Evropskega parlamenta in Sveta z dne 28. februarja 2018 o naslovitvi neupravičenega geografskega blokiranja in drugih oblik diskriminacije na podlagi državljanstva, kraja prebivališča ali kraja sedeža strank na notranjem trgu ter o spremembi uredb (ES) št. 2006/2004 in (EU) 2017/2394 ter Direktive 2009/22/ES (UL L 60 I, 2.3.2018, str. 1). (5) UL L 165, 18.6.2013, str. 63. (6) UL L 165, 18.6.2013, str. 1. (7) Direktiva 2006/42/ES Evropskega parlamenta in Sveta z dne 17. maja 2006 o strojih in spremembah Direktive 95/16/ES (preoblikovano), UL L 157, 9.6.2006, str. 24. (8) Direktiva 2009/48/ES Evropskega parlamenta in Sveta z dne 18. junija 2009 o varnosti igrač (UL L 170, 30.6.2009, str. 1). (9) Direktiva 2014/53/EU Evropskega parlamenta in Sveta z dne 16. aprila 2014 o harmonizaciji zakonodaj držav članic v zvezi z dostopnostjo radijske opreme na trgu in razveljavitvi Direktive 1999/5/ES (UL L 153, 22.5.2014, str. 62). (10) Direktiva 2014/35/EU Evropskega parlamenta in Sveta z dne 26. februarja 2014 o harmonizaciji zakonodaj držav članic v zvezi z omogočanjem dostopnosti na trgu električne opreme, ki je načrtovana za uporabo znotraj določenih napetostnih mej (UL L 96, 29.3.2014, str. 357). (11) Direktiva 2001/95/ES Evropskega parlamenta in Sveta z dne 3. decembra 2001 o splošni varnosti proizvodov (UL L 11, 15.1.2002, str. 4). (12) Direktiva Sveta 85/374/EGS z dne 25. julija 1985 o približevanju zakonov in drugih predpisov držav članic v zvezi z odgovornostjo za proizvode z napako (UL L 210, 7.8.1985, str. 29). (13) Direktiva 2006/123/ES Evropskega parlamenta in Sveta z dne 12. decembra 2006 o storitvah na notranjem trgu (UL L 376, 27.12.2006, str. 36). (14) Direktiva 2013/55/EU Evropskega parlamenta in Sveta z dne 20. novembra 2013 o spremembi Direktive 2005/36/ES o priznavanju poklicnih kvalifikacij in Uredbe (EU) št. 1024/2012 o upravnem sodelovanju prek informacijskega sistema za notranji trg (uredba IMI) (UL L 354, 28.12.2013, str. 132). (15) Direktiva (EU) 2018/958 Evropskega parlamenta in Sveta z dne 28. junija 2018 o preskusu sorazmernosti pred sprejetjem nove regulacije poklicev (UL L 173, 9.7.2018, str. 25). (16) Direktiva 2000/31/ES Evropskega parlamenta in Sveta z dne 8. junija 2000 o nekaterih pravnih vidikih storitev informacijske družbe, zlasti elektronskega poslovanja na notranjem trgu (Direktiva o elektronskem poslovanju) (UL L 178, 17.7.2000, str. 1). (17) Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (UL L 119, 4.5.2016, str. 1). (18) Uredba (EU) 2018/1807 Evropskega parlamenta in Sveta z dne 14. novembra 2018 o okviru za prosti pretok neosebnih podatkov v Evropski uniji (UL L 303, 28.11.2018, str. 59). (19) Uredba (EU) 2019/1150 Evropskega parlamenta in Sveta z dne 20. junija 2019 o spodbujanju pravičnosti in preglednosti za poslovne uporabnike spletnih posredniških storitev (UL L 186, 11.7.2019, str. 57).