Indeks 
 Poprzedni 
 Następny 
 Pełny tekst 
Procedura : 2019/2915(RSP)
Przebieg prac nad dokumentem podczas sesji
Dokument w ramach procedury : B9-0094/2020

Teksty złożone :

B9-0094/2020

Debaty :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Głosowanie :

PV 12/02/2020 - 11.8
Wyjaśnienia do głosowania

Teksty przyjęte :

P9_TA(2020)0032

Teksty przyjęte
PDF 172kWORD 49k
Środa, 12 lutego 2020 r. - Strasburg Wersja tymczasowa
Zautomatyzowane procesy podejmowania decyzji: zapewnienie ochrony konsumentów i wolnego przepływu towarów i usług
P9_TA-PROV(2020)0032B9-0094/2020

Rezolucja Parlamentu Europejskiego z dnia 12 lutego 2020 r. w sprawie zautomatyzowanych procesów decyzyjnych – zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług (2019/2915(RSP))

Parlament Europejski,

–  uwzględniając swoją rezolucję z dnia 12 lutego 2019 r. w sprawie kompleksowej europejskiej polityki przemysłowej w dziedzinie sztucznej inteligencji i robotyki(1),

–  uwzględniając swoją rezolucję z dnia 16 lutego 2017 r. zawierającą zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki(2),

–  uwzględniając sprawozdanie pt. „Odpowiedzialność za sztuczną inteligencję i inne powstające technologie cyfrowe”, sporządzone przez grupę ekspertów Komisji ds. odpowiedzialności i nowych technologii oraz opublikowane 21 listopada 2019 r.;

–  uwzględniając sprawozdanie pt. „Zalecenia polityczne i inwestycyjne dotyczące sztucznej inteligencji godnej zaufania”, sporządzone przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji i opublikowane 26 czerwca 2019 r.;

–  uwzględniając dokument pt. „Wytyczne w zakresie etyki w odniesieniu do sztucznej inteligencji godnej zaufania”, sporządzone przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji i opublikowane 8 kwietnia 2019 r., a także uwzględniając listę kontrolną w zakresie sztucznej inteligencji godnej zaufania;

–  uwzględniając komunikat Komisji z 8 kwietnia 2019 r. w sprawie budowania zaufania do sztucznej inteligencji ukierunkowanej na człowieka (COM(2019)0168),

–  uwzględniając komunikat Komisji z 7 grudnia 2018 r. w sprawie skoordynowanego planu w dziedzinie sztucznej inteligencji (COM(2018)0795),

–  uwzględniając komunikat Komisji z 25 kwietnia 2018 r. w sprawie sztucznej inteligencji dla Europy (COM(2018)0237),

–  uwzględniając projekt rezolucji Komisji Rynku Wewnętrznego i Ochrony Konsumentów,

–  uwzględniając pytanie do Komisji w sprawie zautomatyzowanych procesów decyzyjnych – zagwarantowanie ochrony konsumenta oraz swobodnego przepływu towarów i usług (O-000008/2020 – B9‑0007/2020),

–  uwzględniając art. 136 ust. 5 i art. 132 ust. 2 Regulaminu,

A.  mając na uwadze, że postęp technologiczny w dziedzinie sztucznej inteligencji, uczenia maszynowego, systemów opartych na algorytmach i zautomatyzowanych procesów decyzyjnych następuje w szybkim tempie, a także mając na uwadze, że aplikacje, możliwości i wyzwania związane z tymi technologiami są liczne i mają wpływ na praktycznie wszystkie sektory rynku wewnętrznego;

B.  mając na uwadze, że oczekuje się, iż rozwój zautomatyzowanych procesów podejmowania decyzji wniesie znaczący wkład w gospodarkę opartą na wiedzy oraz przyniesie korzyści społeczeństwu, m.in. poprzez poprawę jakości usług publicznych, konsumentom dzięki innowacyjnym produktom i usługom oraz przedsiębiorstwom dzięki optymalizacji wyników;

C.  mając na uwadze, że wykorzystywanie i rozwój sztucznej inteligencji i zautomatyzowanych procesów podejmowania decyzji stanowi również wyzwanie w zakresie zaufania i dobrobytu konsumentów, zwłaszcza jeżeli chodzi o kwestię wzmocnienia pozycji konsumentów w zakresie identyfikowania takich procesów, rozumienia sposobu ich funkcjonowania, podejmowania świadomych decyzji dotyczących ich stosowania i rezygnacji z nich;

D.  mając na uwadze, że wytyczne w zakresie etyki, takie jak zasady przyjęte przez działającą w łonie Komisji grupę ekspertów wysokiego szczebla ds. sztucznej inteligencji, stanowią pewien punkt wyjścia; mając jednak na uwadze, że potrzebna jest analiza obecnych ram prawnych UE, w tym dorobku prawnego w dziedzinie prawa konsumenckiego oraz przepisów dotyczących bezpieczeństwa produktów i nadzoru nad rynkiem, aby sprawdzić, czy ramy te są w stanie reagować na pojawienie się sztucznej inteligencji i zautomatyzowanych procesów decyzyjnych oraz czy mogą zapewnić wysoki poziom ochrony konsumentów zgodnie z wymogami art. 38 Karty praw podstawowych Unii Europejskiej;

E.  mając na uwadze, że wspólne podejście UE do rozwoju zautomatyzowanych procesów decyzyjnych pomoże zagwarantować korzyści wynikające z tych procesów, ograniczyć ryzyko w całej UE i uniknąć fragmentacji rynku wewnętrznego, a także umożliwi UE lepsze propagowanie swojego podejścia i swoich wartości na całym świecie;

Wybór konsumentów, ich zaufanie i dobrobyt

1.  z zadowoleniem przyjmuje potencjał zautomatyzowanego podejmowania decyzji w celu świadczenia konsumentom innowacyjnych i udoskonalonych usług, w tym nowych usług cyfrowych, takich jak wirtualni asystenci i wirtualni doradcy; uważa jednak, że gdy konsumenci wchodzą w kontakt z systemem, który automatyzuje proces podejmowania decyzji, powinni być należycie poinformowani o tym, w jaki sposób ten system działa, jak dotrzeć do człowieka dysponującego uprawnieniami decyzyjnymi oraz w jaki sposób można kontrolować i korygować decyzje podejmowane przez system;

2.  wzywa Komisję do ścisłego monitorowania wdrażania nowych przepisów wynikających z dyrektywy w sprawie lepszego egzekwowania(3), które nakładają na przedsiębiorców obowiązek informowania konsumentów w sytuacji, gdy ceny towarów lub usług zostały zindywidualizowane w oparciu o zautomatyzowane podejmowanie decyzji i profilowanie zachowań konsumentów, co umożliwia przedsiębiorcom ocenę siły nabywczej konsumenta;

3.  wzywa Komisję do ścisłego monitorowania wdrażania rozporządzenia w sprawie blokowania geograficznego(4) w trosce o to, by automatyczne podejmowanie decyzji nie było wykorzystywane do dyskryminacji konsumentów ze względu na przynależność państwową, miejsce zamieszkania lub tymczasowy pobyt;

4.  zachęca Komisję do monitorowania, czy obowiązki przedsiębiorców umożliwiają konsumentom skuteczny wybór i zapewniają wystarczającą ochronę konsumentów; wzywa Komisję do zbadania, czy istnieją luki regulacyjne i czy konieczne są dodatkowe środki w celu zagwarantowania solidnego zbioru praw chroniących konsumentów w kontekście sztucznej inteligencji i zautomatyzowanego podejmowania decyzji;

5.  zauważa, że systemy zautomatyzowanego podejmowania decyzji wykorzystuje się w alternatywnych mechanizmach rozstrzygania sporów na różnych platformach cyfrowych w celu rozwiązywania sporów między konsumentami a przedsiębiorcami; wzywa Komisję do dopilnowania, aby wszelkie przyszłe przeglądy dyrektywy 2013/11/UE w sprawie alternatywnych metod rozstrzygania sporów konsumenckich(5) oraz rozporządzenia (UE) nr 524/2013 w sprawie internetowego systemu rozstrzygania sporów konsumenckich(6) uwzględniały korzystanie ze zautomatyzowanego procesu podejmowania decyzji oraz gwarantowały, że kontrolę wciąż sprawuje człowiek;

Ramy dotyczące bezpieczeństwa i odpowiedzialności w odniesieniu do produktów

6.  podkreśla, że unijne ramy dotyczące bezpieczeństwa produktów zobowiązują przedsiębiorstwa do dbania o to, aby na rynek wprowadzano tylko produkty bezpieczne i zgodne z wymogami; uznaje, że pojawienie się produktów wyposażonych w zautomatyzowane zdolności decyzyjne wiąże się z nowymi wyzwaniami, ponieważ produkty takie mogą ewoluować i działać w sposób nieprzewidziany w momencie pierwszego wprowadzenia produktu do obrotu; wzywa Komisję do przedstawienia wniosków w celu dostosowania przepisów UE w zakresie bezpieczeństwa w odniesieniu do produktów objętych szczegółowymi przepisami UE przewidującymi zharmonizowane wymogi, w tym dyrektywy w sprawie maszyn(7), dyrektywy w sprawie bezpieczeństwa zabawek(8), dyrektywy w sprawie urządzeń radiowych(9) oraz dyrektywy o niskim napięciu(10), a także w odniesieniu do tzw. produktów niezharmonizowanych objętych zakresem dyrektywy w sprawie ogólnego bezpieczeństwa produktów(11), aby zagwarantować, że nowe przepisy będą adekwatne do zakładanych celów, użytkownicy i konsumenci będą chronieni przed szkodliwymi skutkami, producenci będą mieć jasność co do swoich obowiązków, a użytkownicy – jasność co do sposobu korzystania z produktów wyposażonych w zautomatyzowane zdolności decyzyjne;

7.  podkreśla potrzebę podejścia do regulacji opartego na analizie ryzyka w świetle zróżnicowanego charakteru i złożoności wyzwań wynikających z różnych rodzajów i zastosowań sztucznej inteligencji i systemów zautomatyzowanego podejmowania decyzji; wzywa Komisję do opracowania systemu oceny ryzyka z myślą o sztucznej inteligencji i zautomatyzowanym podejmowaniu decyzji w celu zapewnienia spójnego podejścia do egzekwowania przepisów dotyczących bezpieczeństwa produktów na rynku wewnętrznym; podkreśla, że państwa członkowskie muszą opracować zharmonizowane strategie zarządzania ryzykiem w odniesieniu do sztucznej inteligencji w kontekście krajowych strategii nadzoru nad rynkiem;

8.  zauważa, że od ponad 30 lat dyrektywa w sprawie odpowiedzialności za produkty(12) stanowi cenne zabezpieczenie chroniące konsumentów przed szkodami spowodowanymi wadliwymi produktami; dostrzega wyzwanie, jakim jest ustalenie odpowiedzialności w przypadku, gdy przyczyną szkody poniesionej przez konsumenta są autonomiczne procesy podejmowania decyzji; wzywa Komisję do dokonania przeglądu tej dyrektywy i rozważenia możliwości dostosowania takich pojęć jak szkoda, której przyczyną jest produkt, i wada produktu, a także dostosowania przepisów dotyczących ciężaru dowodu; wzywa Komisję do przedstawienia w razie potrzeby wniosków dotyczących aktualizacji tych pojęć i przepisów;

Ramy regulacyjne dotyczące usług

9.  przypomina, że istniejące ramy regulacyjne dotyczące usług, a mianowicie dyrektywa o usługach(13), dyrektywa w sprawie uznawania kwalifikacji zawodowych(14), dyrektywa w sprawie analizy proporcjonalności(15), dyrektywa w sprawie handlu elektronicznego(16) i ogólne rozporządzenie o ochronie danych (RODO)(17), już obejmują wiele aspektów politycznych istotnych dla usług, które obejmują zautomatyzowane procesy podejmowania decyzji, w tym przepisy dotyczące ochrony konsumentów, etyki i odpowiedzialności; zauważa, że zasady te powinny mieć zastosowanie zarówno do tradycyjnych usług, jak i usług obejmujących zautomatyzowane procesy podejmowania decyzji;

10.  podkreśla, że choć zautomatyzowane procesy decyzyjne mogą poprawić skuteczność i dokładność usług, to jednak człowiek zawsze musi ponosić ostateczną odpowiedzialność za decyzje podejmowane w kontekście usług świadczonych w ramach zawodów regulowanych, takich jak zawody medyczne, prawnicze i rachunkowe oraz sektor bankowy, a także musi być w stanie uchylić takie decyzje; przypomina o znaczeniu nadzoru lub niezależnej kontroli ze strony wykwalifikowanych specjalistów w przypadku zautomatyzowanego podejmowania decyzji, jeżeli w grę wchodzi uzasadniony interes publiczny;

11.  podkreśla znaczenie właściwej oceny ryzyka przed automatyzacją usług świadczonych w ramach zawodów regulowanych, zgodnie z dyrektywą w sprawie analizy proporcjonalności; wzywa właściwe organy państw członkowskich do zadbania o to, by szkolenia zawodowe uwzględniały postęp naukowy w dziedzinie zautomatyzowanego podejmowania decyzji;

Jakość i przejrzystość zarządzania danymi

12.  zauważa, że zautomatyzowane systemy podejmowania decyzji opierają się na gromadzeniu dużych ilości danych i uważa, że rozporządzenie w sprawie swobodnego przepływu danych nieosobowych(18) pomoże udostępnić więcej danych w całej UE, umożliwiając tym samym tworzenie innowacyjnych usług opartych na danych; w związku z tym uznaje potencjał udostępniania danych zarówno ze źródeł publicznych, jak i prywatnych, a jednocześnie podkreśla konieczność ochrony danych osobowych na mocy ogólnego rozporządzenia o ochronie danych; podkreśla znaczenie wykorzystywania jedynie wysokiej jakości i bezstronnych zbiorów danych w celu poprawy wyników systemów algorytmicznych oraz zwiększenia zaufania i akceptacji konsumentów;

13.  podkreśla, że w świetle znaczącego wpływu, jaki zautomatyzowane systemy podejmowania decyzji mogą mieć na konsumentów, zwłaszcza na osoby znajdujące się w trudnej sytuacji, systemy te powinny nie tylko korzystać z wysokiej jakości i bezstronnych zbiorów danych, ale również wykorzystywać wytłumaczalne i bezstronne algorytmy; uważa, że w ramach procesów biznesowych potrzebne są struktury kontrolne w celu korygowania ewentualnych błędów w zautomatyzowanych decyzjach oraz że konsumenci powinni mieć możliwość wystąpienia o korektę przez człowieka w przypadku zautomatyzowanych decyzji, które mają charakter ostateczny i niezmienny, a także dochodzenia roszczeń;

14.  podkreśla, że aby ocenić, czy produkty posiadające zautomatyzowane zdolności decyzyjne są zgodne z odpowiednimi zasadami bezpieczeństwa, algorytmy stanowiące podstawę tych zdolności muszą być odpowiednio przejrzyste i zrozumiałe dla organów nadzoru rynku; zwraca się do Komisji o ocenę, czy organom nadzoru rynku należy przyznać dodatkowe uprawnienia w tym zakresie;

15.  wzywa Komisję do ścisłego monitorowania wdrażania rozporządzenia regulującego stosunki między platformami internetowymi a przedsiębiorstwami(19), zwłaszcza przepisów dotyczących przejrzystości rankingów, które wiążą się z wykorzystaniem procesów zautomatyzowanego podejmowania decyzji;

o
o   o

16.  zobowiązuje swojego przewodniczącego do przekazania niniejszej rezolucji Radzie i Komisji.

(1) Teksty przyjęte, P8_TA(2019)0081.
(2) Dz.U. C 252 z 18.7.2018, s. 239.
(3) Dyrektywa Parlamentu Europejskiego i Rady (UE) 2019/2161 z 27 listopada 2019 r. zmieniająca dyrektywę Rady 93/13/EWG oraz dyrektywy Parlamentu Europejskiego i Rady 98/6/WE, 2005/29/WE i 2011/83/UE w odniesieniu do lepszego egzekwowania i unowocześnienia unijnych przepisów dotyczących ochrony konsumenta (Dz.U. L 328 z 18.12.2019, s. 7).
(4) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/302 z dnia 28 lutego 2018 r. w sprawie nieuzasadnionego blokowania geograficznego oraz innych form dyskryminacji klientów ze względu na przynależność państwową, miejsce zamieszkania lub miejsce prowadzenia działalności na rynku wewnętrznym oraz w sprawie zmiany rozporządzeń (WE) nr 2006/2004 oraz (UE) 2017/2394 i dyrektywy 2009/22/WE (Dz.U. L 60 I z 2.3.2018, s. 1).
(5) Dz.U. L 165 z 18.6.2013, s. 63.
(6) Dz.U. L 165 z 18.6.2013, s. 1.
(7) Dyrektywa Parlamentu Europejskiego i Rady 2006/42/WE z dnia 17 maja 2006 r. w sprawie maszyn, zmieniająca dyrektywę 95/16/WE (przekształcenie) (Dz.U. L 157 z 9.6.2006, s. 24).
(8) Dyrektywa Parlamentu Europejskiego i Rady 2009/48/WE z dnia 18 czerwca 2009 r. w sprawie bezpieczeństwa zabawek (Dz.U. L 170 z 30.6.2009, s. 1).
(9) Dyrektywa Parlamentu Europejskiego i Rady 2014/53/UE z dnia 16 kwietnia 2014 r. w sprawie harmonizacji ustawodawstwa państw członkowskich dotyczącego udostępniania na rynku urządzeń radiowych i uchylająca dyrektywę 1999/5/WE (Dz.U. L 153 z 22.5.2014, s. 62).
(10) Dyrektywa Parlamentu Europejskiego i Rady 2014/35/UE z dnia 26 lutego 2014 r. w sprawie harmonizacji ustawodawstwa państw członkowskich dotyczącego udostępniania na rynku sprzętu elektrycznego przewidzianego do stosowania w określonych granicach napięcia (Dz.U. L 96 z 29.3.2014, s. 357).
(11) Dyrektywa 2001/95/WE Parlamentu Europejskiego i Rady 2001/95/WE z dnia 3 grudnia 2001 r. w sprawie ogólnego bezpieczeństwa produktów (Dz.U. L 11 z 15.1.2002, s. 4).
(12) Dyrektywa Rady 85/374/EWG z dnia 25 lipca 1985 r. w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących odpowiedzialności za produkty wadliwe (Dz.U. L 210 z 7.8.1985, s. 29).
(13) Dyrektywa Parlamentu Europejskiego i Rady 2006/123/WE z dnia 12 grudnia 2006 r. dotycząca usług na rynku wewnętrznym (Dz.U. L 376 z 27.12.2006, s. 36).
(14) Dyrektywa Parlamentu Europejskiego i Rady 2013/55/UE z dnia 20 listopada 2013 r. zmieniająca dyrektywę 2005/36/WE w sprawie uznawania kwalifikacji zawodowych i rozporządzenie (UE) nr 1024/2012 w sprawie współpracy administracyjnej za pośrednictwem systemu wymiany informacji na rynku wewnętrznym („rozporządzenie w sprawie IMI”) (Dz.U. L 354 z 28.12.2013, s. 132).
(15) Dyrektywa Parlamentu Europejskiego i Rady (UE) 2018/958 z dnia 28 czerwca 2018 r. w sprawie analizy proporcjonalności przed przyjęciem nowych regulacji dotyczących zawodów (Dz.U. L 173 z 9.7.2018, s. 25).
(16) Dyrektywa Parlamentu Europejskiego i Rady 2000/31/WE z dnia 8 czerwca 2000 r. w sprawie niektórych aspektów prawnych usług społeczeństwa informacyjnego, w szczególności handlu elektronicznego w ramach rynku wewnętrznego („dyrektywa o handlu elektronicznym”) (Dz.U. L 178 z 17.7.2000, s. 1).
(17) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz.U. L 119 z 4.5.2016, s. 1).
(18) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2018/1807 z dnia 14 listopada 2018 r. w sprawie ram swobodnego przepływu danych nieosobowych w Unii Europejskiej (Dz.U. L 303 z 28.11.2018, s. 59).
(19) Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2019/1150 z dnia 20 czerwca 2019 r. w sprawie propagowania sprawiedliwości i przejrzystości dla użytkowników biznesowych korzystających z usług pośrednictwa internetowego (Dz.U L 186 z 11.7.2019, s. 57).

Ostatnia aktualizacja: 19 lutego 2020Zastrzeżenia prawne - Polityka ochrony prywatności