Zoznam 
 Predchádzajúci 
 Nasledujúci 
 Úplné znenie 
Postup : 2019/2915(RSP)
Postup v rámci schôdze
Postup dokumentu : B9-0094/2020

Predkladané texty :

B9-0094/2020

Rozpravy :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Hlasovanie :

PV 12/02/2020 - 11.8
Vysvetlenie hlasovaní

Prijaté texty :

P9_TA(2020)0032

Prijaté texty
PDF 165kWORD 48k
Streda, 12. februára 2020 - Štrasburg
Automatizované rozhodovacie procesy: zabezpečenie ochrany spotrebiteľa a voľný pohyb tovaru a služieb
P9_TA(2020)0032B9-0094/2020

Uznesenie Európskeho parlamentu z 12. februára 2020 o automatizovaných rozhodovacích procesoch: zabezpečenie ochrany spotrebiteľa a voľného pohybu tovaru a služieb (2019/2915(RSP))

Európsky parlament,

–  so zreteľom na svoje uznesenie z 12. februára 2019 o komplexnej európskej priemyselnej politike v oblasti umelej inteligencie a robotiky(1),

–  so zreteľom na svoje uznesenie zo 16. februára 2017 s odporúčaniami pre Komisiu k normám občianskeho práva v oblasti robotiky(2),

–  so zreteľom na správu expertnej skupiny Komisie pre zodpovednosť a nové technológie s názvom Zodpovednosť za umelú inteligenciu a ďalšie nové digitálne technológie uverejnenú 21. novembra 2019,

–  so zreteľom na správu expertnej skupiny Komisie na vysokej úrovni pre umelú inteligenciu s názvom Politické a investičné odporúčania pre dôveryhodnú umelú inteligenciu uverejnenú 26. júna 2019,

–  so zreteľom na dokument expertnej skupiny Komisie na vysokej úrovni pre umelú inteligenciu s názvom Etické usmernenia pre dôveryhodnú umelú inteligenciu, ktorý bol uverejnený 8. apríla 2019, ako aj na zoznam posúdení pre umelú inteligenciu,

–  so zreteľom na oznámenie Komisie z 8. apríla 2019 o budovaní dôvery v umelú inteligenciu sústredenú na človeka (COM(2019)0168),

–  so zreteľom na oznámenie Komisie zo 7. decembra 2018 o koordinovanom pláne v oblasti umelej inteligencie (COM(2018)0795),

–  so zreteľom na oznámenie Komisie z 25. apríla 2018 o umelej inteligencii pre Európu (COM(2018)0237),

–  so zreteľom na návrh uznesenia Výboru pre vnútorný trh a ochranu spotrebiteľa,

–  so zreteľom na otázku pre Komisiu o automatizovaných rozhodovacích procesoch: zabezpečenie ochrany spotrebiteľa a voľného pohybu tovaru a služieb (O-000008/2020 – B9-0007/2020),

–  so zreteľom na článok 136 ods. 5 a článok 132 ods. 2 rokovacieho poriadku,

A.  keďže technologický pokrok v oblasti umelej inteligencie, strojového učenia, zložitých systémov založených na algoritmoch a automatizovaných rozhodovacích procesov prebieha rýchlym tempom a keďže aplikácie, príležitosti a výzvy, ktoré tieto technológie prinášajú, sú početné a ovplyvňujú takmer všetky odvetvia vnútorného trhu;

B.  keďže sa očakáva, že rozvoj automatizovaných rozhodovacích procesov významne prispeje k znalostnej ekonomike a okrem iného prinesie spoločnosti výhody zlepšením verejných služieb, spotrebiteľom prostredníctvom inovačných výrobkov a služieb a podnikom optimalizáciou výkonnosti;

C.  keďže používanie a rozvoj umelej inteligencie a automatizovaných rozhodovacích procesov prinášajú aj výzvy v oblasti dôvery a blaha spotrebiteľov, najmä pokiaľ majú byť spotrebitelia schopní identifikovať takéto procesy, chápať ich fungovanie, prijímať informované rozhodnutia o ich použití a rozhodnúť sa ich nevyužiť;

D.  keďže etické usmernenia, ako sú zásady prijaté expertnou skupinou Komisie na vysokej úrovni pre umelú inteligenciu, sú východiskovým bodom; keďže však treba preskúmať súčasný právny rámec EÚ vrátane acquis v oblasti spotrebiteľského práva, bezpečnosti výrobkov a dohľadu nad trhom s cieľom overiť, či je schopný reagovať na nástup umelej inteligencie a automatizovaného rozhodovania a poskytnúť vysokú úroveň ochrany spotrebiteľa, ako sa vyžaduje v článku 38 Charty základných práv EÚ;

E.  keďže spoločný prístup EÚ k rozvoju automatizovaných rozhodovacích procesov pomôže zabezpečiť výhody týchto procesov a zmierniť riziká v celej EÚ, zabrániť fragmentácii vnútorného trhu a umožniť EÚ lepšie presadzovať jej prístup a hodnoty na celom svete;

Možnosť výberu, dôvera a blaho spotrebiteľov

1.  víta potenciál automatizovaného rozhodovania pri poskytovaní inovatívnych a vylepšených služieb spotrebiteľom vrátane nových digitálnych služieb, ako sú virtuálni asistenti a chatboty; domnieva sa však, že ak sú spotrebitelia v interakcii so systémom, ktorý automatizuje rozhodovanie, mali by byť riadne informovaní o tom, ako funguje, o tom, ako sa spojiť s človekom s rozhodovacou právomocou, a o tom, ako možno skontrolovať a opraviť rozhodnutia systému;

2.  naliehavo vyzýva Komisiu, aby podrobne monitorovala vykonávanie nových pravidiel podľa smernice o lepšej presadzovaní(3), ktoré od obchodníkov vyžadujú, aby spotrebiteľov informovali, keď boli ceny tovaru alebo služieb individualizované na základe automatizovaného rozhodovania a profilovania správania spotrebiteľov, čo by obchodníkom umožnilo posúdiť kúpnu silu spotrebiteľa;

3.  naliehavo vyzýva Komisiu, aby pozorne sledovala vykonávanie nariadenia o geografickom blokovaní(4) s cieľom zabezpečiť, aby sa automatické rozhodovanie nepoužívalo na diskrimináciu spotrebiteľov na základe ich štátnej príslušnosti, miesta bydliska alebo dočasného miesta;

4.  nabáda Komisiu, aby sledovala, či povinnosti obchodníkov umožňujú spotrebiteľom účinný výber a poskytujú im dostatočnú ochranu; vyzýva Komisiu, aby overila, či prípadne existujú regulačných medzier, a preskúmala, či sú potrebné ďalšie opatrenia s cieľom zaručiť silný súbor práv na ochranu spotrebiteľov v kontexte umelej inteligencie a automatizovaného rozhodovania;

5.  poznamenáva, že automatizované rozhodovacie systémy sa využívajú v mechanizmoch alternatívneho riešenia sporov na rôznych digitálnych platformách s cieľom riešiť spory medzi spotrebiteľmi a obchodníkmi; vyzýva Komisiu, aby bola zárukou toho, že akékoľvek nadchádzajúce preskúmanie smernice 2013/11/EÚ o alternatívnom riešení spotrebiteľských sporov(5) a nariadenia (EÚ) č. 524/2013 o riešení spotrebiteľských sporov online(6) zohľadní používanie automatizovaného rozhodovania a zabezpečí, že si ľudia ponechajú kontrolu;

Rámec bezpečnosti a zodpovednosti vo vzťahu k výrobkom

6.  zdôrazňuje, že rámec EÚ pre bezpečnosť výrobkov ukladá podnikom povinnosť zaistiť, aby sa na trh uvádzali len bezpečné a vyhovujúce výrobky; uznáva, že zavedenie výrobkov, ktoré majú schopnosti automatizovaného rozhodovania, prináša nové výzvy, keďže takéto výrobky sa môžu vyvíjať a konať spôsobom, s ktorým sa pri ich prvom uvedení na trh vôbec nepočítalo; naliehavo vyzýva Komisiu, aby predložila návrhy na úpravu bezpečnostných pravidiel EÚ pre výrobky, na ktoré sa vzťahujú osobitné právne predpisy EÚ stanovujúce harmonizované požiadavky, vrátane smernice o strojových zariadeniach(7), smernice o bezpečnosti hračiek(8), smernice o rádiových zariadeniach(9) a smernice o nízkom napätí(10), a pre „neharmonizované výrobky“, na ktoré sa vzťahuje smernica o všeobecnej bezpečnosti výrobkov(11), s cieľom zaručiť, aby nové pravidlá boli vhodné na daný účel, používatelia a spotrebitelia boli chránení pred škodou, výrobcovia si boli jednoznačne vedomí svojich povinností a používatelia rozumeli tomu, ako používať výrobky, ktoré majú schopnosti automatizovaného rozhodovania;

7.  zdôrazňuje, že vzhľadom na rôznorodú povahu a zložitosť výziev, ktoré prinášajú rôzne typy a aplikácie umelej inteligencie a automatizovaných rozhodovacích systémov, je potrebné pri ich regulácii uplatňovať prístup založení na riziku; vyzýva Komisiu, aby vypracovala systém hodnotenia rizika pre umelú inteligenciu a automatizované rozhodovanie s cieľom zabezpečiť konzistentný prístup k presadzovaniu právnych predpisov v oblasti bezpečnosti výrobkov na vnútornom trhu; zdôrazňuje, že členské štáty musia vypracovať harmonizované stratégie riadenia rizík pre umelú inteligenciu v kontexte svojich stratégií dohľadu nad trhom;

8.  poznamenáva, že smernica o zodpovednosti za výrobky(12) poskytuje už viac ako 30 rokov cennú záchrannú sieť chrániacu spotrebiteľov pred škodou spôsobenou chybnými výrobkami; berie na vedomie, že bude náročné určiť zodpovednosť za škodu, keď spotrebiteľ utrpí škodu v dôsledku automatizovaných rozhodovacích procesov; vyzýva Komisiu, aby túto smernicu preskúmala a zvážila prispôsobenie pojmov ako „škoda“, „výrobok“ a „chyba“ a pravidiel upravujúcich dôkazné bremeno; naliehavo vyzýva Komisiu, aby v prípade potreby predložila návrhy na aktualizáciu týchto pojmov a pravidiel;

Regulačný rámec pre služby

9.  pripomína, že existujúci regulačný rámec pre služby pozostávajúci zo smernice o službách(13), smernice o uznávaní odborných kvalifikácií(14), smernice o teste proporcionality(15), smernice o elektronickom obchode(16) a všeobecného nariadenia o ochrane údajov (GDPR)(17) už zahŕňa mnohé aspekty politiky týkajúce sa služieb, ktoré zahŕňajú automatizované rozhodovacie procesy, vrátane pravidiel v oblasti ochrany spotrebiteľa, etiky a zodpovednosti; konštatuje, že takéto pravidlá by sa mali uplatňovať na tradičné služby aj na služby zahŕňajúce automatizované rozhodovacie procesy;

10.  zdôrazňuje, že hoci automatizované rozhodovacie procesy môžu zlepšiť efektívnosť a presnosť služieb, zodpovednosť za rozhodnutia, ktoré sa prijímajú v kontexte odborných služieb, ako sú zdravotnícke, právnické a účtovnícke profesie a bankový sektor, musí v konečnom dôsledku vždy niesť človek, ktorý musí byť schopní tieto rozhodnutia aj zmeniť; pripomína význam dohľadu alebo nezávislého dohľadu kvalifikovaných odborníkov v prípade automatizovaného rozhodovania, ak ide o oprávnený verejný záujem;

11.  zdôrazňuje, že pred automatizáciou profesionálnych služieb je dôležité riadne zhodnotiť riziká v súlade so smernicou o teste proporcionality; naliehavo vyzýva príslušné orgány členských štátov, aby zabezpečili, že odborná príprava zohľadní vedecký pokrok v oblasti automatizovaného rozhodovania;

Kvalita a transparentnosť správy údajov

12.  poznamenáva, že automatizované systémy rozhodovania sa spoliehajú na zhromažďovanie veľkého množstvo údajov, a domnieva sa, že nariadenie o voľnom toku iných ako osobných údajov(18) pomôže sprístupniť viac údajov v celej EÚ, čo umožní vytvorenie inovatívnych služieb založených na údajoch; v tejto súvislosti uznáva potenciál spoločného využívania údajov nielen z verejných, ale aj zo súkromných zdrojov, pričom zdôrazňuje potrebu ochrany osobných údajov podľa GDPR; zdôrazňuje, že je dôležité používať iba vysokokvalitné a nestranné súbory údajov s cieľom zlepšiť výstup algoritmických systémov a posilniť dôveru a prijatie zo strany spotrebiteľov;

13.  zdôrazňuje, že vzhľadom na významný vplyv, ktorý môžu mať automatizované rozhodovacie systémy na spotrebiteľov, najmä na tých, ktorí sa nachádzajú v zraniteľných situáciách, je preto dôležité, aby tieto systémy využívali nielen vysokokvalitné a nestranné súbory údajov, ale aj vysvetliteľné a nestranné algoritmy; domnieva sa, že na nápravu možných chýb v automatizovaných rozhodnutiach sú potrebné štruktúry preskúmania v rámci podnikových procesov a že spotrebitelia by mali mať možnosť požiadať o preskúmanie človekom a o nápravu konečných a trvalých automatizovaných rozhodnutí;

14.  zdôrazňuje, že na posúdenie toho, či sú výrobky, ktoré majú schopnosti automatizovaných rozhodnutí, v súlade s príslušnými bezpečnostnými pravidlami, je nevyhnutné, aby algoritmy, na ktorých sú založené tieto schopnosti, boli primerane transparentné a zrozumiteľné orgánom dohľadu nad trhom; vyzýva Komisiu, aby v tejto súvislosti posúdila, či by sa orgánom dohľadu nad trhom mali udeliť ďalšie právomoci;

15.  vyzýva Komisiu, aby pozorne sledovala vykonávanie nariadenia o vzťahoch medzi platformami a podnikmi(19), najmä pravidlá transparentnosti určovania poradia, ktoré zahŕňajú využívanie automatizovaných rozhodovacích procesov;

o
o   o

16.  poveruje svojho predsedu, aby postúpil toto uznesenie Rade a Komisii.

(1) Prijaté texty, P8_TA(2019)0081.
(2) Ú. v. EÚ C 252, 18.7.2018, s. 239.
(3) Smernica Európskeho parlamentu a Rady (EÚ) 2019/2161 z 27. novembra 2019, ktorou sa menia smernica Rady 93/13/EHS a smernice Európskeho parlamentu a Rady 98/6/ES, 2005/29/ES a 2011/83/EÚ, pokiaľ ide o lepšie presadzovanie a modernizáciu predpisov Únie v oblasti ochrany spotrebiteľa (Ú. v. EÚ L 328, 18.12.2019, s. 7).
(4) Nariadenie Európskeho parlamentu a Rady (EÚ) 2018/302 z 28. februára 2018 o riešení neoprávneného geografického blokovania a iných foriem diskriminácie z dôvodu štátnej príslušnosti zákazníkov, miesta bydliska alebo sídla na vnútornom trhu, ktorým sa mení nariadenie (ES) č. 2006/2004, nariadenie (EÚ) 2017/2394 a smernica 2009/22/ES (Ú. v. EÚ L 60 I, 2.3.2018, s. 1).
(5) Ú. v. EÚ L 165, 18.6.2013, s. 63.
(6) Ú. v. EÚ L 165, 18.6.2013, s. 1.
(7) Smernica Európskeho parlamentu a Rady 2006/42/ES zo 17. mája 2006 o strojových zariadeniach a o zmene a doplnení smernice 95/16/ES (prepracované znenie) (Ú. v. EÚ L 157, 9.6.2006, s. 24).
(8) Smernica Európskeho parlamentu a Rady 2009/48/ES z 18. júna 2009 o bezpečnosti hračiek (Ú. v. EÚ L 170, 30.6.2009, s. 1).
(9) Smernica Európskeho parlamentu a Rady 2014/53/EÚ zo 16. apríla 2014 o harmonizácii právnych predpisov členských štátov týkajúcich sa sprístupňovania rádiových zariadení na trhu, ktorou sa zrušuje smernica 1999/5/ES (Ú. v. EÚ L 153, 22.5.2014, s. 62).
(10) Smernica Európskeho parlamentu a Rady 2014/35/EÚ z 26. februára 2014 o harmonizácii právnych predpisov členských štátov týkajúcich sa sprístupnenia elektrického zariadenia určeného na používanie v rámci určitých limitov napätia na trhu (Ú. v. EÚ L 96, 29.3.2014, s. 357).
(11) Smernica Európskeho parlamentu a Rady 2001/95/ES z 3. decembra 2001 o všeobecnej bezpečnosti výrobkov (Ú. v. ES L 11, 15.1.2002, s. 4).
(12) Smernica Rady 85/374/EHS z 25. júla 1985 o aproximácii zákonov, iných právnych predpisov a správnych opatrení členských štátov o zodpovednosti za chybné výrobky (Ú. v. ES L 210, 7.8.1985, s. 29).
(13) Smernica Európskeho parlamentu a Rady 2006/123/ES z 12. decembra 2006 o službách na vnútornom trhu (Ú. v. EÚ L 376, 27.12.2006, s. 36).
(14) Smernica Európskeho parlamentu a Rady 2013/55/EÚ z 20. novembra 2013, ktorou sa mení smernica 2005/36/ES o uznávaní odborných kvalifikácií a nariadenie (EÚ) č. 1024/2012 o administratívnej spolupráci prostredníctvom informačného systému o vnútornom trhu (nariadenie o IMI) (Ú. v. EÚ L 354, 28.12.2013, s. 132).
(15) Smernica Európskeho parlamentu a Rady (EÚ) 2018/958 z 28. júna 2018 o teste proporcionality pred prijatím novej regulácie povolaní (Ú. v. EÚ L 173, 9.7.2018, s. 25).
(16) Smernica 2000/31/ES Európskeho parlamentu a Rady z 8. júna 2000 o určitých právnych aspektoch služieb informačnej spoločnosti na vnútornom trhu, najmä o elektronickom obchode (smernica o elektronickom obchode) (Ú. v. ES L 178, 17.7.2000, s. 1).
(17) Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).
(18) Nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1807 zo 14. novembra 2018 o rámci pre voľný tok iných ako osobných údajov v Európskej únii (Ú. v. EÚ L 303, 28.11.2018, s. 59).
(19) Nariadenie Európskeho parlamentu a Rady (EÚ) 2019/1150 z 20. júna 2019 o podpore spravodlivosti a transparentnosti pre komerčných používateľov online sprostredkovateľských služieb (Ú. v. EÚ L 186, 11.7.2019, s. 57).

Posledná úprava: 14. septembra 2020Právne upozornenie - Politika ochrany súkromia