Indeks 
 Prethodno 
 Sljedeće 
 Cjeloviti tekst 
Postupak : 2019/2915(RSP)
Faze dokumenta na plenarnoj sjednici
Odabrani dokument : B9-0094/2020

Podneseni tekstovi :

B9-0094/2020

Rasprave :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Glasovanja :

PV 12/02/2020 - 11.8
Objašnjenja glasovanja

Doneseni tekstovi :

P9_TA(2020)0032

Usvojeni tekstovi
PDF 154kWORD 48k
Srijeda, 12. veljače 2020. - Strasbourg Završno izdanje
Automatizirani postupak donošenja odluka: Osiguravanje zaštite potrošača i slobodnog kretanja robe i usluga
P9_TA(2020)0032B9-0094/2020

Rezolucija Europskog parlamenta od 12. veljače 2020. o automatiziranim postupcima donošenja odluka: osiguravanje zaštite potrošača i slobodnog kretanja robe i usluga (2019/2915(RSP))

Europski parlament,

–  uzimajući u obzir svoju Rezoluciju od 12. veljače 2019. o sveobuhvatnoj europskoj industrijskoj politici o umjetnoj inteligenciji i robotici(1),

–  uzimajući u obzir svoju Rezoluciju od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici(2);

–  uzimajući u obzir izvješće stručne skupine Komisije za odgovornost i nove tehnologije pod naslovom „Odgovornost za umjetnu inteligenciju i druge digitalne tehnologije u nastajanju” objavljeno 21. studenoga 2019.,

–  uzimajući u obzir izvješće Komisijine stručne skupine na visokoj razini za umjetnu inteligenciju pod naslovom „Preporuke za politiku i ulaganja u cilju pouzdane umjetne inteligencije” objavljeno 26. lipnja 2019.,

–  uzimajući u obzir dokument pod naslovom „Etičke smjernice za pouzdanu umjetnu inteligenciju” koji je sastavila Komisijina stručna skupina na visokoj razini za umjetnu inteligenciju i koji je objavljen 8. travnja 2019., kao i popis za ocjenjivanje pouzdane umjetne inteligencije,

–  uzimajući u obzir Komunikaciju Komisije od 8. travnja 2019. o izgradnji povjerenja u antropocentričnu umjetnu inteligenciju (COM(2019)0168),

–  uzimajući u obzir Komunikaciju Komisije od 7. prosinca 2018. o koordiniranom planu o umjetnoj inteligenciji (COM(2018)0795),

–  uzimajući u obzir Komunikaciju Komisije od 25. travnja 2018. o umjetnoj inteligenciji za Europu (COM(2018)0237),

–  uzimajući u obzir prijedlog rezolucije Odbora za unutarnje tržište i zaštitu potrošača,

–  uzimajući u obzir pitanje upućeno Komisiji o automatiziranim postupcima donošenja odluka: osiguravanje zaštite potrošača i slobodnog kretanja robe i usluga (O-000008/2020 – B9-0007/2020),

–  uzimajući u obzir članak 136. stavak 5. i članak 132. stavak 2. Poslovnika,

A.  budući da se tehnološki napredak u području umjetne inteligencije, strojnog učenja, složenih algoritamskih sustava i automatiziranih postupaka donošenja odluka odvija velikom brzinom i budući da te tehnologije nude brojne primjene, prilike i izazove te utječu na gotovo sve sektore unutarnjeg tržišta;

B.  budući da se očekuje da razvoj automatiziranih postupaka donošenja odluka znatno doprinijeti gospodarstvu znanja i da koristi društvu zahvaljujući, primjerice, boljim javnim službama, potrošačima zahvaljujući inovativnim proizvodima i uslugama, a poduzećima zahvaljujući optimiziranim rezultatima;

C.  budući da primjena i razvoj umjetne inteligencije i automatiziranih postupaka donošenja odluka također predstavlja izazov za povjerenje i dobrobit potrošača, posebno u pogledu osposobljavanja potrošača da prepoznaju te postupke, da shvate kako funkcioniraju, da donose utemeljene odluke o njihovoj upotrebi i da odluče u njima ne sudjelovati;

D.  budući da etičke smjernice, kao što su načela koja je usvojila Komisijina stručna skupina na visokoj razini za umjetnu inteligenciju, služe kao polazna točka; budući da je, međutim, potrebno ispitati aktualni pravni okvir EU-a, uključujući pravnu stečevinu o zaštiti potrošača te zakonodavstvo o sigurnosti proizvoda i nadzoru tržišta, kako bi se provjerilo može li on odgovoriti na pojavu umjetne inteligencije i automatiziranog donošenja odluka te pružiti visoku razinu zaštite potrošača, kako se zahtijeva člankom 38. Povelje EU-a o temeljnim pravima;

E.  budući da će zajednički pristup EU-a razvoju automatiziranih postupaka donošenja odluka pomoći osigurati korist od tih postupaka i ublažiti rizike u cijelom EU-u, izbjeći rascjepkanost unutarnjeg tržišta i omogućiti EU-u da na bolji način promiče svoj pristup i svoje vrijednosti u svijetu;

Odabir, povjerenje i dobrobit potrošača

1.  pozdravlja potencijal automatiziranog donošenja odluka za pružanje inovativnih i boljih usluga potrošačima, primjerice novih digitalnih usluga kao što su virtualni asistenti i chatboti; smatra, međutim, da bi potrošači, kada se nađu u interakciji sa sustavom automatiziranog odlučivanja, trebali biti adekvatno informirani o tome kako on funkcionira, o načinu na koji se može doći do ljudskog bića s ovlastima odlučivanja i o tome kako se odluke sustava mogu provjeriti i ispraviti;

2.  apelira na Komisiju da pomno prati provedbu novih pravila u okviru Direktive o boljem izvršavanju(3) kojima se od trgovaca zahtijeva da obavijeste potrošače ako su cijene robe ili usluga personalizirane na temelju automatiziranog donošenja odluka i izrade profila ponašanja potrošača, čime se trgovcima omogućuje procjena kupovne moći potrošača;

3.  apelira na Komisiju da pomno prati provedbu Uredbe o geografskom blokiranju(4) kako bi se zajamčilo da se automatizirano donošenje odluka ne koristi za diskriminaciju potrošača na temelju njihove nacionalnosti, mjesta boravišta ili privremenog boravka;

4.  potiče Komisiju da prati omogućuju li obveze trgovaca stvaran izbor potrošačima i pružaju li dostatnu zaštitu potrošača; poziva Komisiju da provjeri postoje li regulatorne praznine i da ispita jesu li potrebne dodatne mjere kako bi se zajamčio snažan skup prava za zaštitu potrošača u kontekstu umjetne inteligencije i automatiziranog donošenja odluka;

5.  napominje da se sustavi automatiziranog donošenja odluka upotrebljavaju u okviru alternativnih mehanizama rješavanja sporova na različitim digitalnim platformama za rješavanje sporova između potrošača i trgovaca; poziva Komisiju da se pobrine za to da se pri eventualnoj budućoj reviziji Direktive 2013/11/EU o alternativnom rješavanju potrošačkih sporova(5) i Uredbe (EU) br. 524/2013 o online rješavanju potrošačkih sporova(6) uzme u obzir upotreba automatiziranog donošenja odluka i da se zajamči da će čovjek i dalje imati kontrolu;

Okvir za sigurnost i odgovornost za proizvode

6.  ističe da se okvirom EU-a za sigurnost proizvoda poduzeća obvezuju na to da zajamče da se na tržište stavljaju samo sigurni i sukladni proizvodi; uviđa da pojava proizvoda sa sposobnošću automatiziranog donošenja odluka predstavlja nove izazove, s obzirom na to da se takvi proizvodi mogu razvijati i djelovati na načine koji nisu bili predviđeni prilikom njihova prvotnog stavljanja na tržište; apelira na Komisiju da iznese prijedloge za prilagodbu sigurnosnih pravila EU-a za proizvode obuhvaćene posebnim zakonodavstvom EU-a kojim se utvrđuju usklađeni zahtjevi, uključujući Direktivu o strojevima(7), Direktivu o sigurnosti igračaka(8), Direktivu o radijskoj opremi(9) i Direktivu o niskom naponu(10), te za „neusklađene proizvode” obuhvaćene Direktivom o općoj sigurnosti proizvoda(11), kako bi se osiguralo da nova pravila odgovaraju svrsi, da su korisnici i potrošači zaštićeni od eventualne štete, da su proizvođačima jasne njihove obveze i da korisnici znaju kako koristiti proizvode sa sposobnošću automatiziranog donošenja odluka;

7.  ističe potrebu za pristupom regulaciji koji će se temeljiti na riziku, s obzirom na različitu prirodu i složenost izazova koji se javljaju zbog različitih vrsta i primjena sustava umjetne inteligencije i automatiziranog donošenja odluka; poziva Komisiju da razvije sustav procjene rizika za umjetnu inteligenciju i automatizirano donošenje odluka kako bi se zajamčio dosljedan pristup provedbi zakonodavstva o sigurnosti proizvoda na unutarnjem tržištu; naglašava da države članice moraju razviti usklađene strategije upravljanja rizicima za umjetnu inteligenciju u kontekstu svojih nacionalnih strategija nadzora tržišta;

8.  napominje da Direktiva o odgovornosti za proizvode(12) već više od 30 godina pruža važnu sigurnosnu mrežu za zaštitu potrošača od štete uzrokovane neispravnim proizvodima; prepoznaje izazov utvrđivanja odgovornosti u slučajevima u kojima šteta za potrošače proizlazi iz autonomnih postupaka donošenja odluka; poziva Komisiju da preispita tu direktivu i razmotri mogućnost prilagodbe pojmova kao što su „proizvod”, „šteta” i „neispravnost”, kao i prilagodbe pravila kojima se uređuje teret dokazivanja; apelira na Komisiju da donese prijedloge za ažuriranje tih koncepata i pravila, ako bude potrebno;

Regulatorni okvir za usluge

9.  podsjeća da su postojećim regulatornim okvirom za usluge, koji se sastoji od Direktive o uslugama(13), Direktive o stručnim kvalifikacijama(14), Direktive o ispitivanju proporcionalnosti(15), Direktive o e-trgovini(16) i Opće uredbe o zaštiti podataka (GDRP)(17), već obuhvaćeni brojni aspekti politike koji su relevantni za usluge koje uključuju automatizirane postupke donošenja odluka, uključujući pravila o zaštiti potrošača, etici i odgovornosti; napominje da bi se ta pravila trebala primjenjivati i na tradicionalne usluge i na usluge koje uključuju automatizirane postupke donošenja odluka;

10.  naglašava da, iako automatizirani postupci donošenja odluka mogu poboljšati učinkovitost i točnost usluga, krajnju odgovornost za odluke koje se donose u kontekstu profesionalnih usluga u područjima, primjerice, medicine, prava i računovodstva te u bankovnom sektoru uvijek moraju snositi ljudi, koji također moraju moći poništiti te odluke; podsjeća na važnost kontrole i neovisnog nadzora koji će provoditi kvalificirani stručnjaci u slučajevima automatiziranog donošenja odluka kada su u pitanju legitimni javni interesi;

11.  ističe važnost, u skladu s Direktivom o ispitivanju proporcionalnosti, pravilne procjene rizika prije automatizacije profesionalnih usluga; apelira na nadležna tijela država članica da osiguraju da se u okviru stručnog osposobljavanja uzme u obzir znanstveni napredak u području automatiziranog donošenja odluka;

Kvaliteta i transparentnost u upravljanju podacima

12.  napominje da se sustavi automatiziranog donošenja odluka oslanjaju na prikupljanje velikih količina podataka te smatra da će Uredba o slobodnom protoku neosobnih podataka(18) doprinijeti dostupnosti više podataka diljem EU-a, čime će se omogućiti razvoj inovativnih usluga temeljenih na podacima; prepoznaje potencijal razmjene podataka ne samo iz javnih, već i iz privatnih izvora u tom pogledu, no istodobno naglašava obvezu zaštite osobnih podataka u skladu s Općom uredbom o zaštiti podataka; naglašava važnost korištenja isključivo visokokvalitetnih i nepristranih skupova podataka kako bi se poboljšali rezultati algoritamskih sustava i ojačalo povjerenje i prihvaćanje potrošača;

13.  ističe da je, s obzirom na znatan utjecaj koji sustavi automatiziranog donošenja odluka mogu imati na potrošače, posebne one koji se nalaze u osjetljivoj situaciji, važno ne samo da ti sustavi koriste visokokvalitetne i nepristrane skupove podataka, već i da primjenjuju objašnjive i nepristrane algoritme; smatra da su u okviru poslovnih procesa potrebne strukture za preispitivanje kako bi se ispravile moguće pogreške u automatiziranim odlukama te da bi potrošači trebali moći zatražiti ljudsko preispitivanje i pravnu zaštitu za automatizirane odluke koje su konačne i trajne;

14.  naglašava da je, kako bi se ocijenilo jesu li proizvodi sa sposobnošću automatiziranog donošenja odluka u skladu s relevantnim sigurnosnim pravilima, nužno da algoritmi na kojima se ta sposobnost temelji budu adekvatno transparentni i da se mogu objasniti tijelima za nadzor tržišta; poziva Komisiju da procijeni treba li u tom pogledu tijelima za nadzor tržišta dati dodatne ovlasti;

15.  poziva Komisiju da pomno prati provedbu Uredbe o odnosima platformi i poduzeća(19), a posebno pravila o transparentnosti rangiranja, koje uključuje upotrebu automatiziranih postupaka donošenja odluka;

o
o   o

16.  nalaže svojem predsjedniku da ovu Rezoluciju proslijedi Vijeću i Komisiji.

(1) Usvojeni tekstovi, P8_TA(2019)0081.
(2) SL C 252, 18.7.2018., str. 239.
(3) Direktiva (EU) 2019/2161 Europskog parlamenta i Vijeća od 27. studenoga 2019. o izmjeni Direktive Vijeća 93/13/EEZ i direktiva 98/6/EZ, 2005/29/EZ te 2011/83/EU Europskog parlamenta i Vijeća u pogledu boljeg izvršavanja i modernizacije pravila Unije o zaštiti potrošača (SL L 328, 18.12.2019., str. 7.).
(4) Uredba (EU) 2018/302 Europskog parlamenta i Vijeća od 28. veljače 2018. o rješavanju pitanja neopravdanoga geografskog blokiranja i drugih oblika diskriminacije na unutarnjem tržištu na temelju državljanstva, mjesta boravišta ili mjesta poslovnog nastana klijenata te o izmjeni uredbi (EZ) br. 2006/2004 i (EU) 2017/2394 i Direktive 2009/22/EZ (SL L 60 I, 2.3.2018., str. 1.).
(5) SL L 165, 18.6.2013., str. 63.
(6) SL L 165, 18.6.2013., str. 1.
(7) Direktiva 2006/42/EZ Europskog parlamenta i Vijeća od 17. svibnja 2006. o strojevima i o izmjeni Direktive 95/16/EZ (preinaka) (SL L 157, 9.6.2006., str. 24.).
(8) Direktiva 2009/48/EZ Europskog parlamenta i Vijeća od 18. lipnja 2009. o sigurnosti igračaka (SL L 170, 30.6.2009., str. 1.).
(9) Direktiva 2014/53/EU Europskog parlamenta i Vijeća od 16. travnja 2014. o usklađivanju zakonodavstava država članica o stavljanju na raspolaganje radijske opreme na tržištu i stavljanju izvan snage Direktive 1999/5/EZ (SL L 153, 22.5.2014., str. 62.).
(10) Direktiva 2014/35/EU Europskog parlamenta i Vijeća od 26. veljače 2014. o usklađivanju zakonodavstava država članica u odnosu na stavljanje na raspolaganje na tržištu električne opreme namijenjene za uporabu unutar određenih naponskih granica (SL L 96, 29.3.2014., str. 357.).
(11) Direktiva 2001/95/EZ Europskog parlamenta i Vijeća od 3. prosinca 2001. o općoj sigurnosti proizvoda (SL L 11, 15.1.2002., str. 4.).
(12) Direktiva Vijeća 85/374/EEZ od 25. srpnja 1985. o usklađivanju zakona i drugih propisa država članica u vezi s odgovornošću za neispravne proizvode (SL L 210, 7.8.1985., str. 29.).
(13) Direktiva 2006/123/EZ Europskog parlamenta i Vijeća od 12. prosinca 2006. o uslugama na unutarnjem tržištu (SL L 376, 27.12.2006., str. 36.).
(14) Direktiva 2013/55/EU Europskog parlamenta i Vijeća od 20. studenoga 2013. o izmjeni Direktive 2005/36/EZ o priznavanju stručnih kvalifikacija i Uredbe (EU) br. 1024/2012 o administrativnoj suradnji putem Informacijskog sustava unutarnjeg tržišta („Uredba IMI”) (SL L 354, 28.12.2013., str. 132.).
(15) Direktiva (EU) 2018/958 Europskog parlamenta i Vijeća od 28. lipnja 2018. o ispitivanju proporcionalnosti prije donošenja novih propisa kojima se reguliraju profesije (SL L 173, 9.7.2018., str. 25.).
(16) Direktiva 2000/31/EZ Europskog parlamenta i Vijeća od 8. lipnja 2000. o određenim pravnim aspektima usluga informacijskog društva na unutarnjem tržištu, posebno elektroničke trgovine (Direktiva o elektroničkoj trgovini) (SL L 178, 17.7.2000., str. 1.).
(17) Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
(18) Uredba (EU) 2018/1807 Europskog parlamenta i Vijeća od 14. studenoga 2018. o okviru za slobodan protok neosobnih podataka u Europskoj uniji (SL L 303, 28.11.2018., str. 59.).
(19) Uredba (EU) 2019/1150 Europskog parlamenta i Vijeća od 20. lipnja 2019. o promicanju pravednosti i transparentnosti za poslovne korisnike usluga internetskog posredovanja (SL L 186, 11.7.2019., str. 57.).

Posljednje ažuriranje: 14. rujna 2020.Pravna obavijest - Politika zaštite privatnosti