Procedura : 2019/2915(RSP)
Przebieg prac nad dokumentem podczas sesji
Dokument w ramach procedury : B9-0094/2020

Teksty złożone :

B9-0094/2020

Debaty :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Głosowanie :

PV 12/02/2020 - 11.8
Wyjaśnienia do głosowania

Teksty przyjęte :

P9_TA(2020)0032

<Date>{06/02/2020}6.2.2020</Date>
<NoDocSe>B9‑0094/2020</NoDocSe>
PDF 179kWORD 52k

<TitreType>PROJEKT REZOLUCJI</TitreType>

<TitreSuite>złożony w następstwie pytania wymagającego odpowiedzi ustnej B9-xxxx/2020</TitreSuite>

<TitreRecueil>zgodnie z art. 136 ust. 5 Regulaminu</TitreRecueil>


<Titre>w sprawie zautomatyzowanych procesów decyzyjnych – zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług</Titre>

<DocRef>(2019/2915(RSP))</DocRef>


<RepeatBlock-By><Depute>Petra De Sutter</Depute>

<Commission>{IMCO}w imieniu Komisji Rynku Wewnętrznego i Ochrony Konsumentów</Commission>

</RepeatBlock-By>

POPRAWKI

B9‑0094/2020

Rezolucja Parlamentu Europejskiego w sprawie zautomatyzowanych procesów decyzyjnych – zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług

(2019/2915(RSP))

Parlament Europejski,

 uwzględniając swoją rezolucję z dnia 12 lutego 2019 r. w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki[1],

 uwzględniając swoją rezolucję z dnia 16 lutego 2017 r. zawierającą zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki[2],

 uwzględniając sprawozdanie pt. „Odpowiedzialność za sztuczną inteligencję i inne powstające technologie cyfrowe”, sporządzone przez grupę ekspertów Komisji ds. odpowiedzialności i nowych technologii oraz opublikowane 21 listopada 2019 r.;

 uwzględniając sprawozdanie pt. „Zalecenia polityczne i inwestycyjne dotyczące sztucznej inteligencji godnej zaufania”, sporządzone przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji i opublikowane 26 czerwca 2019 r.;

 uwzględniając dokument pt. „Wytyczne w zakresie etyki w odniesieniu do sztucznej inteligencji godnej zaufania”, sporządzone przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji i opublikowane 8 kwietnia 2019 r., a także uwzględniając listę kontrolną w zakresie sztucznej inteligencji godnej zaufania;

 uwzględniając komunikat Komisji z 8 kwietnia 2019 r. w sprawie budowania zaufania do sztucznej inteligencji ukierunkowanej na człowieka (COM(2019)0168),

 uwzględniając komunikat Komisji z 7 grudnia 2018 r. w sprawie skoordynowanego planu w dziedzinie sztucznej inteligencji (COM(2018)0795),

 uwzględniając komunikat Komisji z 25 kwietnia 2018 r. w sprawie sztucznej inteligencji dla Europy (COM(2018)0237),

 uwzględniając projekt rezolucji Komisji Rynku Wewnętrznego i Ochrony Konsumentów,

 uwzględniając pytanie do Komisji w sprawie zautomatyzowanych procesów decyzyjnych – zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług (O-000008/2020 – B9‑XXXX/2020),

 uwzględniając art. 136 ust. 5 i art. 132 ust. 2 Regulaminu,

A. mając na uwadze, że postęp technologiczny w dziedzinie sztucznej inteligencji, uczenia maszynowego, systemów opartych na algorytmach i zautomatyzowanych procesów decyzyjnych następuje w szybkim tempie, a także mając na uwadze, że aplikacje, możliwości i wyzwania związane z tymi technologiami są liczne i mają wpływ na praktycznie wszystkie sektory rynku wewnętrznego;

B. mając na uwadze, że oczekuje się, iż rozwój zautomatyzowanych procesów podejmowania decyzji wniesie znaczący wkład w gospodarkę opartą na wiedzy oraz przyniesie korzyści społeczeństwu, m.in. poprzez poprawę jakości usług publicznych, konsumentom dzięki innowacyjnym produktom i usługom oraz przedsiębiorstwom dzięki optymalizacji wyników;

C. mając na uwadze, że wykorzystywanie i rozwój sztucznej inteligencji i zautomatyzowanych procesów podejmowania decyzji stanowi również wyzwanie w zakresie zaufania i dobrobytu konsumentów, zwłaszcza jeżeli chodzi o kwestię wzmocnienia pozycji konsumentów w zakresie identyfikowania takich procesów, rozumienia sposobu ich funkcjonowania, podejmowania świadomych decyzji dotyczących ich stosowania i rezygnacji z nich;

D. mając na uwadze, że wytyczne w zakresie etyki, takie jak zasady przyjęte przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji, stanowią pewien punkt wyjścia; mając jednak na uwadze, że potrzebna jest analiza obecnych ram prawnych UE, w tym dorobku prawnego w dziedzinie prawa konsumenckiego, przepisów dotyczących ochrony danych oraz przepisów dotyczących bezpieczeństwa produktów i nadzoru nad rynkiem, aby sprawdzić, czy ramy te są w stanie reagować na pojawienie się sztucznej inteligencji i zautomatyzowanych procesów decyzyjnych oraz czy mogą zapewnić wysoki poziom ochrony konsumentów zgodnie z wymogami art. 38 Karty praw podstawowych Unii Europejskiej;

E. mając na uwadze, że wspólne podejście UE do rozwoju zautomatyzowanych procesów decyzyjnych pomoże zagwarantować korzyści wynikające z tych procesów, ograniczyć ryzyko w całej UE i uniknąć fragmentacji rynku wewnętrznego, a także umożliwi UE lepsze propagowanie swojego podejścia i swoich wartości na całym świecie;

Wybór konsumentów, ich zaufanie i dobrobyt

1. z zadowoleniem przyjmuje potencjał zautomatyzowanego podejmowania decyzji w celu świadczenia konsumentom innowacyjnych i udoskonalonych usług, w tym nowych usług cyfrowych, takich jak wirtualni asystenci i wirtualni doradcy; uważa jednak, że gdy konsumenci wchodzą w kontakt z systemem, który automatyzuje proces podejmowania decyzji, powinni być należycie poinformowani o tym, w jaki sposób ten system działa, jak dotrzeć do człowieka dysponującego uprawnieniami decyzyjnymi oraz w jaki sposób można kontrolować i korygować decyzje podejmowane przez system;

2. wzywa Komisję do ścisłego monitorowania wdrażania nowych przepisów wynikających z dyrektywy w sprawie lepszego egzekwowania[3], które nakładają na przedsiębiorców obowiązek informowania konsumentów w sytuacji, gdy ceny towarów lub usług zostały zindywidualizowane w oparciu o zautomatyzowane podejmowanie decyzji i profilowanie zachowań konsumentów, co umożliwia przedsiębiorcom ocenę siły nabywczej konsumenta;

3. wzywa Komisję do ścisłego monitorowania wdrażania rozporządzenia w sprawie blokowania geograficznego[4] w trosce o to, by automatyczne podejmowanie decyzji nie było wykorzystywane do dyskryminacji konsumentów ze względu na przynależność państwową, miejsce zamieszkania lub tymczasowy pobyt;

4. zachęca Komisję do monitorowania, czy obowiązki przedsiębiorców umożliwiają konsumentom skuteczny wybór i zapewniają wystarczającą ochronę konsumentów; wzywa Komisję do zbadania, czy istnieją luki regulacyjne i czy konieczne są dodatkowe środki w celu zagwarantowania solidnego zbioru praw chroniących konsumentów w kontekście sztucznej inteligencji i zautomatyzowanego podejmowania decyzji;

5. zauważa, że systemy zautomatyzowanego podejmowania decyzji wykorzystuje się w alternatywnych mechanizmach rozstrzygania sporów na różnych platformach cyfrowych w celu rozwiązywania sporów między konsumentami a przedsiębiorcami; wzywa Komisję do dopilnowania, aby wszelkie przyszłe przeglądy dyrektywy 2013/11/UE w sprawie alternatywnych metod rozstrzygania sporów konsumenckich[5] oraz rozporządzenia (UE) nr 524/2013 w sprawie internetowego systemu rozstrzygania sporów konsumenckich[6] uwzględniały korzystanie ze zautomatyzowanego procesu podejmowania decyzji oraz gwarantowały, że kontrolę wciąż sprawuje człowiek;

Ramy dotyczące bezpieczeństwa i odpowiedzialności w odniesieniu do produktów

6. podkreśla, że unijne ramy dotyczące bezpieczeństwa produktów zobowiązują przedsiębiorstwa do dbania o to, aby na rynek wprowadzano tylko produkty bezpieczne i zgodne z wymogami; uznaje, że pojawienie się produktów wyposażonych w zautomatyzowane zdolności decyzyjne wiąże się z nowymi wyzwaniami, ponieważ produkty takie mogą ewoluować i działać w sposób nieprzewidziany w momencie pierwszego wprowadzenia produktu do obrotu; wzywa Komisję do przedstawienia wniosków w celu dostosowania przepisów UE w zakresie bezpieczeństwa w odniesieniu do produktów objętych szczegółowymi przepisami UE przewidującymi zharmonizowane wymogi, w tym dyrektywy w sprawie maszyn[7], dyrektywy w sprawie bezpieczeństwa zabawek[8], dyrektywy w sprawie urządzeń radiowych[9] oraz dyrektywy o niskim napięciu[10], a także w odniesieniu do tzw. produktów niezharmonizowanych objętych zakresem dyrektywy w sprawie ogólnego bezpieczeństwa produktów[11], aby zagwarantować, że nowe przepisy będą adekwatne do zakładanych celów, użytkownicy i konsumenci będą chronieni przed szkodliwymi skutkami, producenci będą mieć jasność co do swoich obowiązków, a użytkownicy – jasność co do sposobu korzystania z produktów wyposażonych w zautomatyzowane zdolności decyzyjne;

7. podkreśla potrzebę podejścia do regulacji opartego na analizie ryzyka w świetle zróżnicowanego charakteru i złożoności wyzwań wynikających z różnych rodzajów i zastosowań sztucznej inteligencji i systemów zautomatyzowanego podejmowania decyzji; wzywa Komisję do opracowania systemu oceny ryzyka z myślą o sztucznej inteligencji i zautomatyzowanym podejmowaniu decyzji w celu zapewnienia spójnego podejścia do egzekwowania przepisów dotyczących bezpieczeństwa produktów na rynku wewnętrznym; podkreśla, że państwa członkowskie muszą opracować zharmonizowane strategie zarządzania ryzykiem w odniesieniu do sztucznej inteligencji w kontekście krajowych strategii nadzoru nad rynkiem;

8. zauważa, że od ponad 30 lat dyrektywa w sprawie odpowiedzialności za produkty[12] stanowi cenne zabezpieczenie chroniące konsumentów przed szkodami spowodowanymi wadliwymi produktami; dostrzega wyzwanie, jakim jest ustalenie odpowiedzialności w przypadku, gdy przyczyną szkody poniesionej przez konsumenta są autonomiczne procesy podejmowania decyzji; wzywa Komisję do dokonania przeglądu tej dyrektywy i rozważenia możliwości dostosowania takich pojęć jak szkoda, której przyczyną jest produkt, i wada produktu, a także dostosowania przepisów dotyczących ciężaru dowodu; wzywa Komisję do przedstawienia w razie potrzeby wniosków dotyczących aktualizacji tych pojęć i przepisów;

Ramy regulacyjne dotyczące usług

9. przypomina, że istniejące ramy regulacyjne dotyczące usług, a mianowicie dyrektywa o usługach[13], dyrektywa w sprawie uznawania kwalifikacji zawodowych[14], dyrektywa w sprawie analizy proporcjonalności[15], dyrektywa w sprawie handlu elektronicznego[16] i ogólne rozporządzenie o ochronie danych (RODO)[17], już obejmują wiele aspektów politycznych istotnych dla usług, które obejmują zautomatyzowane procesy podejmowania decyzji, w tym przepisy dotyczące ochrony konsumentów, etyki i odpowiedzialności; zauważa, że zasady te powinny mieć zastosowanie zarówno do tradycyjnych usług, jak i usług obejmujących zautomatyzowane procesy podejmowania decyzji;

10. podkreśla, że choć zautomatyzowane procesy decyzyjne mogą poprawić skuteczność i dokładność usług, to jednak człowiek zawsze musi ponosić ostateczną odpowiedzialność za decyzje podejmowane w kontekście usług świadczonych w ramach zawodów regulowanych, takich jak zawody medyczne, prawnicze i rachunkowe oraz sektor bankowy, a także musi być w stanie uchylić takie decyzje; przypomina o znaczeniu nadzoru lub niezależnej kontroli ze strony wykwalifikowanych specjalistów w przypadku zautomatyzowanego podejmowania decyzji, jeżeli w grę wchodzi uzasadniony interes publiczny;

11. podkreśla znaczenie właściwej oceny ryzyka przed automatyzacją usług świadczonych w ramach zawodów regulowanych, zgodnie z dyrektywą w sprawie analizy proporcjonalności; wzywa właściwe organy państw członkowskich do zadbania o to, by szkolenia zawodowe uwzględniały postęp naukowy w dziedzinie zautomatyzowanego podejmowania decyzji;

Jakość i przejrzystość zarządzania danymi

12. zauważa, że zautomatyzowane systemy podejmowania decyzji opierają się na gromadzeniu dużych ilości danych i uważa, że rozporządzenie w sprawie swobodnego przepływu danych nieosobowych[18] pomoże udostępnić więcej danych w całej UE, umożliwiając tym samym tworzenie innowacyjnych usług opartych na danych; w związku z tym uznaje potencjał udostępniania danych zarówno ze źródeł publicznych, jak i prywatnych, a jednocześnie podkreśla konieczność ochrony danych osobowych na mocy ogólnego rozporządzenia o ochronie danych; podkreśla znaczenie wykorzystywania jedynie wysokiej jakości i bezstronnych zbiorów danych w celu poprawy wyników systemów algorytmicznych oraz zwiększenia zaufania i akceptacji konsumentów;

13. podkreśla, że w świetle znaczącego wpływu, jaki zautomatyzowane systemy podejmowania decyzji mogą mieć na konsumentów, zwłaszcza na osoby znajdujące się w trudnej sytuacji, systemy te powinny nie tylko korzystać z wysokiej jakości i bezstronnych zbiorów danych, ale również wykorzystywać wytłumaczalne i bezstronne algorytmy; uważa, że w ramach procesów biznesowych potrzebne są struktury kontrolne w celu korygowania ewentualnych błędów w zautomatyzowanych decyzjach oraz że konsumenci powinni mieć możliwość wystąpienia o korektę przez człowieka w przypadku zautomatyzowanych decyzji, które mają charakter ostateczny i niezmienny, a także dochodzenia roszczeń;

14. podkreśla, że aby ocenić, czy produkty posiadające zautomatyzowane zdolności decyzyjne są zgodne z odpowiednimi zasadami bezpieczeństwa, algorytmy stanowiące podstawę tych zdolności muszą być odpowiednio przejrzyste i zrozumiałe dla organów nadzoru rynku; zwraca się do Komisji o ocenę, czy organom nadzoru rynku należy przyznać dodatkowe uprawnienia w tym zakresie;

15. wzywa Komisję do ścisłego monitorowania wdrażania rozporządzenia regulującego stosunki między platformami internetowymi a przedsiębiorstwami[19], zwłaszcza przepisów dotyczących przejrzystości rankingów, które wiążą się z wykorzystaniem procesów zautomatyzowanego podejmowania decyzji;

16. zobowiązuje swojego przewodniczącego do przekazania niniejszej rezolucji Radzie, Komisji i partnerom społecznym.

 

[1] Teksty przyjęte, P8_TA(2019)0081.

[2] Dz.U. C 252 z 18.7.2018, s. 239.

[3] Dyrektywa Parlamentu Europejskiego i Rady (UE) 2019/2161 z 27 listopada 2019 r. zmieniająca dyrektywę Rady 93/13/EWG oraz dyrektywy Parlamentu Europejskiego i Rady 98/6/WE, 2005/29/WE i 2011/83/UE w odniesieniu do lepszego egzekwowania i unowocześnienia unijnych przepisów dotyczących ochrony konsumenta (Dz.U. L 328 z 18.12.2019, s. 7).

[4] Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/302 z dnia 28 lutego 2018 r. w sprawie nieuzasadnionego blokowania geograficznego oraz innych form dyskryminacji klientów ze względu na przynależność państwową, miejsce zamieszkania lub miejsce prowadzenia działalności na rynku wewnętrznym oraz w sprawie zmiany rozporządzeń (WE) nr 2006/2004 oraz (UE) 2017/2394 i dyrektywy 2009/22/WE (Dz.U. L 60 I z 2.3.2018, s. 1).

[5] Dz.U. L 165 z 18.6.2013, s. 63.

[6] Dz.U. L 165 z 18.6.2013, s. 1.

[7] Dyrektywa Parlamentu Europejskiego i Rady 2006/42/WE z dnia 17 maja 2006 r. w sprawie maszyn, zmieniająca dyrektywę 95/16/WE (przekształcenie) (Dz.U. L 157 z 9.6.2006, s. 24).

[8] Dyrektywa Parlamentu Europejskiego i Rady 2009/48/WE z dnia 18 czerwca 2009 r. w sprawie bezpieczeństwa zabawek (Dz.U. L 170 z 30.6.2009, s. 1).

[9] Dyrektywa Parlamentu Europejskiego i Rady 2014/53/UE z dnia 16 kwietnia 2014 r. w sprawie harmonizacji ustawodawstwa państw członkowskich dotyczącego udostępniania na rynku urządzeń radiowych i uchylająca dyrektywę 1999/5/WE (Dz.U. L 153 z 22.5.2014, s. 62).

[10] Dyrektywa Parlamentu Europejskiego i Rady 2014/35/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstwa państw członkowskich dotyczącego udostępniania na rynku sprzętu elektrycznego przewidzianego do stosowania w określonych granicach napięcia (Dz.U. L 96 z 29.3.2014, s. 357).

[11] Dyrektywa 2001/95/WE Parlamentu Europejskiego i Rady 2001/95/WE z dnia 3 grudnia 2001 r. w sprawie ogólnego bezpieczeństwa produktów (Dz.U. L 11 z 15.1.2002, s. 4).

[12] Dyrektywa Rady 85/374/EWG z dnia 25 lipca 1985 r. w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących odpowiedzialności za produkty wadliwe (Dz.U. L 210 z 7.8.1985, s. 29).

[13] Dyrektywa Parlamentu Europejskiego i Rady 2006/123/WE z dnia 12 grudnia 2006 r. dotycząca usług na rynku wewnętrznym (Dz.U. L 376 z 27.12.2006, s. 36).

[14] Dyrektywa Parlamentu Europejskiego i Rady 2013/55/UE z dnia 20 listopada 2013 r. zmieniająca dyrektywę 2005/36/WE w sprawie uznawania kwalifikacji zawodowych i rozporządzenie (UE) nr 1024/2012 w sprawie współpracy administracyjnej za pośrednictwem systemu wymiany informacji na rynku wewnętrznym („rozporządzenie w sprawie IMI”) (Dz.U. L 354 z 28.12.2013, s. 132).

[15] Dyrektywa Parlamentu Europejskiego i Rady (UE) 2018/958 z dnia 28 czerwca 2018 r. w sprawie analizy proporcjonalności przed przyjęciem nowych regulacji dotyczących zawodów (Dz.U. L 173 z 9.7.2018, s. 25).

[16] Dyrektywa Parlamentu Europejskiego i Rady 2000/31/WE z dnia 8 czerwca 2000 r. w sprawie niektórych aspektów prawnych usług społeczeństwa informacyjnego, w szczególności handlu elektronicznego w ramach rynku wewnętrznego („dyrektywa o handlu elektronicznym”) (Dz.U. L 178 z 17.7.2000, s. 1).

[17] Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz.U. L 119 z 4.5.2016, s. 1).

[18] Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1807 z dnia 14 listopada 2018 r. w sprawie ram swobodnego przepływu danych nieosobowych w Unii Europejskiej (Dz.U. L 303 z 28.11.2018, s. 59).

[19] Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/1150 z dnia 20 czerwca 2019 r. w sprawie propagowania sprawiedliwości i przejrzystości dla użytkowników biznesowych korzystających z usług pośrednictwa internetowego (Dz.U L 186 z 11.7.2019, s. 57).

Ostatnia aktualizacja: 7 lutego 2020Zastrzeżenia prawne - Polityka ochrony prywatności