Procedure : 2019/2915(RSP)
Forløb i plenarforsamlingen
Dokumentforløb : B9-0094/2020

Indgivne tekster :

B9-0094/2020

Forhandlinger :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Afstemninger :

PV 12/02/2020 - 11.8
Stemmeforklaringer

Vedtagne tekster :

P9_TA(2020)0032

<Date>{06/02/2020}6.2.2020</Date>
<NoDocSe>B9‑0094/2020</NoDocSe>
PDF 171kWORD 51k

<TitreType>FORSLAG TIL BESLUTNING</TitreType>

<TitreSuite>på baggrund af forespørgsel til mundtlig besvarelseB9‑XXXX/2020</TitreSuite>

<TitreRecueil>jf. forretningsordenens artikel 136, stk. 5</TitreRecueil>


<Titre>om automatiserede beslutningsprocesser: sikring af forbrugerbeskyttelse og fri bevægelighed for varer og tjenesteydelser</Titre>

<DocRef>(2019/2915(RSP))</DocRef>


<RepeatBlock-By><Depute>Petra De Sutter</Depute>

<Commission>{IMCO}for Udvalget om det Indre Marked og Forbrugerbeskyttelse</Commission>

</RepeatBlock-By>

ÆNDRINGSFORSLAG

B9‑0094/2020

Europa-Parlamentets beslutning om automatiserede beslutningsprocesser: sikring af forbrugerbeskyttelse og fri bevægelighed for varer og tjenesteydelser

(2019/2915(RSP))

Europa-Parlamentet,

 der henviser til sin beslutning af 12. februar 2019 om en omfattende europæisk industripolitik om kunstig intelligens og robotteknologi[1],

 der henviser til sin beslutning af 16. februar 2017 med henstillinger til Kommissionen om civilretlige bestemmelser om robotteknologi[2],

 der henviser til rapporten med titlen "Liability for artificial intelligence and other emerging digital technologies" (Ansvar for kunstig intelligens og andre nye digitale teknologier) fra Kommissionens ekspertgruppe vedrørende ansvar og nye teknologier, offentliggjort den 21. november 2019,

 der henviser til rapporten med titlen "Policy and investment recommendations for trustworthy artificial intelligence" (Politiske og investeringsmæssige henstillinger vedrørende pålidelig kunstig intelligens) fra Kommissionens ekspertgruppe på højt plan vedrørende kunstig intelligens, offentliggjort den 26. juni 2019,

 der henviser til dokumentet med titlen "Ethics Guidelines for Trustworthy AI" (Etiske retningslinjer vedrørende pålidelig kunstig intelligens) fra Kommissionens ekspertgruppe på højt plan vedrørende kunstig intelligens, der blev offentliggjort den 8. april 2019, samt evalueringslisten over pålidelig kunstig intelligens,

 der henviser til Kommissionens meddelelse af 8. april 2019 om opbygning af tillid til menneskecentreret kunstig intelligens (COM(2019)0168),

 der henviser til Kommissionens meddelelse af 7. december 2018 om en koordineret plan for kunstig intelligens (COM(2018)0795),

 der henviser til Kommissionens meddelelse af 25. april 2018 om kunstig intelligens for Europa" (COM(2018)0237),

 der henviser til forslag til beslutning fra Udvalget om det Indre Marked og Forbrugerbeskyttelse,

 der henviser til forespørgsel til Kommissionen om automatiserede beslutningsprocesser: sikring af forbrugerbeskyttelse og fri bevægelighed for varer og tjenesteydelser (O-000008/2020 – B9‑XXXX/2020),

 der henviser til forretningsordenens artikel 136, stk. 5, og artikel 132, stk. 2,

A. der henviser til, at teknologiske fremskridt inden for kunstig intelligens (AI), maskinindlæring, komplekse algoritmebaserede systemer og automatiserede beslutningsprocesser udvikles i hurtigt tempo, og at de anvendelser, muligheder og udfordringer, som disse teknologier giver, er talrige og berører stort set alle sektorer i det indre marked;

B. der henviser til, at udviklingen af automatiserede beslutningsprocesser forventes at yde et væsentligt bidrag til videnøkonomien og giver fordele for samfundet i form af bl.a. forbedrede offentlige tjenester, for forbrugerne i form af innovative produkter og tjenesteydelser og for virksomheder i form af optimerede præstationer;

C. der henviser til, at anvendelse og udvikling af kunstig intelligens og automatiserede beslutningsprocesser også indebærer udfordringer for forbrugernes tillid og velfærd, navnlig for så vidt angår at sætte forbrugerne i stand til at identificere sådanne processer, forstå, hvordan de fungerer, træffe informerede beslutninger om deres anvendelse og fravælge;

D. der henviser til, at etiske retningslinjer såsom de principper, der er vedtaget af Kommissionens ekspertgruppe på højt plan vedrørende kunstig intelligens, er et udgangspunkt; der henviser til, at der imidlertid er behov for en gennemgang af EU's nuværende retlige ramme, herunder forbrugerlovgivningen, lovgivningen om databeskyttelse, produktsikkerhed og markedsovervågning, for at kontrollere, om den er i stand til at reagere på fremkomsten af kunstig intelligens og automatiseret beslutningstagning og sikre et højt niveau af forbrugerbeskyttelse som krævet i artikel 38 i EU's charter om grundlæggende rettigheder;

E. der henviser til, at en fælles EU-tilgang til udvikling af automatiserede beslutningsprocesser vil bidrage til at sikre fordelene ved disse processer og afbøde risiciene i hele EU, undgå fragmentering af det indre marked og sætte EU i stand til bedre at fremme sin tilgang og sine værdier rundt om i verden;

Valgmuligheder, tillid og velfærd for forbrugerne

1. glæder sig over det potentiale, der ligger i automatiseret beslutningstagning for så vidt angår at levere innovative og forbedrede tjenester til forbrugerne, herunder nye digitale tjenester såsom virtuelle assistenter og chatbots; mener imidlertid, at forbrugerne, når de interagerer med systemer, der automatiserer beslutningstagning, bør informeres ordentligt om, hvordan de fungerer, hvordan man kan få fat i et menneske med beslutningsbeføjelser, og hvordan systemets afgørelser kan kontrolleres og korrigeres.

2. opfordrer indtrængende Kommissionen til nøje at overvåge gennemførelsen af nye regler i henhold til direktivet om bedre håndhævelse[3], som kræver, at erhvervsdrivende oplyser forbrugerne, når priser på varer eller tjenesteydelser er blevet personaliseret på grundlag af automatiseret beslutningstagning og profilering af forbrugeradfærd, som giver de erhvervsdrivende mulighed for at vurdere forbrugernes købekraft;

3. opfordrer indtrængende Kommissionen til nøje at overvåge gennemførelsen af geoblokeringsforordningen[4] for at sikre , at automatisk beslutningstagning ikke anvendes til at forskelsbehandle forbrugere på grundlag af deres nationalitet, bopæl eller midlertidige opholdssted;

4. opfordrer Kommissionen til at holde øje med, om erhvervsdrivendes forpligtelser giver mulighed for et effektivt forbrugervalg og giver tilstrækkelig forbrugerbeskyttelse; opfordrer Kommissionen til at kontrollere, om der findes huller i lovgivningen, og til at undersøge, om der er behov for yderligere foranstaltninger for at sikre et stærkt sæt af rettigheder til beskyttelse af forbrugerne i forbindelse med kunstig intelligens og automatiseret beslutningstagning;

5. bemærker, at der anvendes automatiserede beslutningssystemer i alternative tvistbilæggelsesmekanismer på forskellige digitale platforme til bilæggelse af tvister mellem forbrugere og erhvervsdrivende; opfordrer Kommissionen til at sikre, at enhver kommende revision af direktiv 2013/11/EU om alternativ tvistbilæggelse i forbindelse med tvister på forbrugerområdet[5] og forordning (EU) nr. 524/2013 om onlinetvistbilæggelse i forbindelse med tvister på forbrugerområdet[6] tager hensyn til brugen af automatiseret beslutningstagning og sikrer, at det stadig er mennesker, der har kontrollen;

Rammer for produktsikkerhed og -ansvar

6. understreger, at EU's produktsikkerhedsramme forpligter virksomhederne til at sikre, at kun produkter, der er sikre og opfylder kravene, bringes i omsætning; anerkender, at fremkomsten af produkter med automatiseret beslutningskapacitet indebærer nye udfordringer, da sådanne produkter kan udvikle sig og handle på måder, der ikke er forudset, når de første gang bringes i omsætning; opfordrer indtrængende Kommissionen til at fremsætte forslag med henblik på at tilpasse EU's sikkerhedsbestemmelser for produkter, der er omfattet af specifik EU-lovgivning, som fastsætter harmoniserede krav, herunder maskindirektivet, [7]direktivet om sikkerhedskrav til legetøj[8], direktivet om radioudstyr[9] og lavspændingsdirektivet[10], og for "ikke-harmoniserede produkter", der er omfattet af direktivet om produktsikkerhed i almindelighed[11], for at sikre, at de nye regler er egnede til formålet, at brugerne og forbrugerne er beskyttet mod at lide skade, at producenterne har klarhed over deres forpligtelser, og at brugerne har klarhed over, hvordan produkter med automatiseret beslutningskapacitet skal anvendes;

7. understreger, at der er behov for en risikobaseret tilgang til regulering i lyset af den forskelligartede karakter og kompleksitet af de udfordringer, der opstår som følge af forskellige typer og anvendelser af kunstig intelligens og automatiserede beslutningssystemer; opfordrer Kommissionen til at udvikle en risikovurderingsordning for kunstig intelligens og automatiseret beslutningstagning med henblik på at sikre en konsekvent tilgang til håndhævelsen af lovgivningen om produktsikkerhed i det indre marked; understreger, at medlemsstaterne er nødt til at udvikle harmoniserede risikoforvaltningsstrategier for kunstig intelligens i forbindelse med deres nationale markedsovervågningsstrategier;

8. bemærker, at produktansvarsdirektivet[12] i over 30 år har udgjort et værdifuldt sikkerhedsnet til at beskytte forbrugerne mod skade forårsaget af defekte produkter; anerkender den udfordring, det er at fastslå ansvaret, når forbrugerne lider skade som følge af selvstændige beslutningsprocesser; opfordrer Kommissionen til at revidere dette direktiv og overveje at tilpasse begreber som "produkt", "skade" og "defekt" såvel som at tilpasse reglerne vedrørende bevisbyrde; opfordrer indtrængende Kommissionen til at stille forslag om ajourføring af disse begreber og regler, hvis det er nødvendigt;

Lovgivningsmæssige rammer for tjenesteydelser

9. minder om, at de eksisterende lovgivningsmæssige rammer for tjenesteydelser, der består af servicedirektivet[13], direktivet om erhvervsmæssige kvalifikationer[14], direktivet om proportionalitetstest[15], direktivet om e-handel[16] og den generelle forordning om databeskyttelse[17], allerede dækker mange politiske aspekter, som er relevante for tjenesteydelser, der omfatter automatiserede beslutningsprocesser, herunder regler om forbrugerbeskyttelse, etik og ansvar; bemærker, at sådanne regler bør gælde for både traditionelle tjenesteydelser og tjenester, der omfatter automatiserede beslutningsprocesser;

10. understreger, at automatiserede beslutningsprocesser ganske vist kan forbedre effektiviteten og nøjagtigheden af tjenesteydelser, men at mennesker altid skal have det endelige ansvar for og skal kunne omstøde afgørelser, der træffes i forbindelse med professionelle tjenesteydelser, f.eks. inden for de medicinske, juridiske og regnskabsmæssige erhverv, og i banksektoren; minder om betydningen af tilsyn eller uafhængig kontrol fra kvalificerede fagfolks side i sager om automatiseret beslutningstagning, hvor der står legitime offentlige interesser på spil;

11. understreger i overensstemmelse med direktivet om proportionalitetstest betydningen af en korrekt vurdering af risici før automatisering af professionnelle ydelser; opfordrer indtrængende medlemsstaternes kompetente myndigheder til at sikre, at faglig uddannelse tager hensyn til videnskabelige fremskridt inden for automatiseret beslutningstagning;

Kvalitet og gennemsigtighed i datastyring

12. bemærker, at automatiserede beslutningssystemer er afhængige af indsamling af store mængder data, og mener, at forordningen om fri udveksling af andre data end personoplysninger[18] vil bidrage til at gøre flere data tilgængelige i hele EU, hvilket vil gøre det muligt at skabe innovative datadrevne tjenester; anerkender potentialet i datadeling, ikke kun fra offentlige, men også private kilder i denne henseende, og understreger samtidig nødvendigheden af at beskytte personoplysninger i henhold til den generelle forordning om databeskyttelse; understreger betydningen af kun at anvende objektive datasæt af høj kvalitet for at forbedre resultaterne af algoritmiske systemer og styrke forbrugernes tillid og accept;

13. understreger, at det i lyset af den betydelige indvirkning, som automatiserede beslutningssystemer kan have på forbrugerne, navnlig forbrugere, der befinder sig i sårbare situationer, er det vigtigt, at de pågældende systemer ikke blot anvender objektive datasæt af høj kvalitet, men også anvender forklarlige og objektive algoritmer; mener, at der er behov for revisionsstrukturer inden for forretningsprocesser for at afhjælpe eventuelle fejl i automatiske afgørelser, og at det bør være muligt for forbrugerne at søge menneskelig kontrol med og erstatning for automatiske afgørelser, der er endelige og permanente;

14. understreger, at det for at vurdere, om produkter med automatiseret beslutningskapacitet er i overensstemmelse med de relevante sikkerhedsregler, er afgørende, at de algoritmer, der ligger til grund for disse kapaciteter, er tilstrækkeligt gennemsigtige og kan forklares for markedsovervågningsmyndighederne; opfordrer Kommissionen til at vurdere, om markedsovervågningsmyndighederne bør tildeles yderligere beføjelser i denne henseende;

15. opfordrer Kommissionen til nøje at overvåge gennemførelsen af forordningen om forbindelserne mellem platforme og virksomheder[19], navnlig reglerne om gennemsigtighed i rangordninger, som indebærer brug af automatiserede beslutningsprocesser;

16. pålægger sin formand at sende denne beslutning til Rådet, Kommissionen og arbejdsmarkedets parter.

[1] Vedtagne tekster, P8_TA(2019)0081.

[2] EUT C 252 af 18.7 2018, s. 239.

[3] Europa-Parlamentets og Rådets direktiv (EU)2019/2161 af 27. november 2019 om ændring af Rådets direktiv 93/13/EØF og Europa-Parlamentets og Rådets direktiv 98/6/EF, 2005/29/EF og 2011/83/EU for så vidt angår bedre håndhævelse og modernisering af EU-reglerne om forbrugerbeskyttelse, EUT L 328 af 18.12.2019, s. 7.

[4] Europa-Parlamentets og Rådets forordning (EU) 2018/302 af 28. februar 2018 om imødegåelse af uberettiget geoblokering og andre former for forskelsbehandling på grundlag af kundernes nationalitet, bopæl eller hjemsted i det indre marked og om ændring af forordning (EF) nr. 2006/2004 og (EU) 2017/2394 og af direktiv 2009/22/EF, EUT L 60I af 2.3.2018, s. 1.

[5] EUT L 165 af 18.6.2013, s. 63.

[6] EUT L 165 af 18.6.2013, s. 1.

[7] Europa-Parlamentets og Rådets direktiv 2006/42/EF af 17. maj 2006 om maskiner og om ændring af direktiv 95/16/EF (omarbejdning), EUT L 157 af 9.6.2006, s. 24.

[8] Europa-Parlamentets og Rådets direktiv 2009/48/EF af 18. juni 2009 om sikkerhedskrav til legetøj, EUT L 170 af 30.6.2009, s. 1.

[9] Europa-Parlamentets og Rådets direktiv 2014/53/EU af 16. april 2014 om harmonisering af medlemsstaternes love om tilgængeliggørelse af radioudstyr på markedet og om ophævelse af direktiv 1999/5/EF, EUT L 153 af 22.5.2014, s. 62.

[10] Europa-Parlamentets og Rådets direktiv 2014/35/EU af 26. februar 2014 om harmonisering af medlemsstaternes love om tilgængeliggørelse på markedet af elektrisk materiel bestemt til anvendelse inden for visse spændingsgrænser, EUT L 96 af 29.3.2014, s. 357.

[11] Europa-Parlamentets og Rådets direktiv 2001/95/EF af 3. december 2001 om produktsikkerhed i almindelighed, EFT L 11 af 15.1.2002, s. 4.

[12] Rådets direktiv 85/374/EØF af 25. juli 1985 om tilnærmelse af medlemsstaternes administrativt eller ved lov fastsatte bestemmelser om produktansvar, EFT L 210 af 7.8.1985, s. 29.

[13] Europa-Parlamentets og Rådets direktiv 2006/123/EF af 12. december 2006 om tjenesteydelser i det indre marked, EUT L 376 af 27.12.2006, s. 36.

[14] Europa-Parlamentets og Rådets direktiv 2013/55/EU af 20. november 2013 om ændring af direktiv 2005/36/EF om anerkendelse af erhvervsmæssige kvalifikationer og forordning (EU) nr. 1024/2012 om det administrative samarbejde ved hjælp af informationssystemet for det indre marked ("IMI-forordningen"), EUT L 354 af 28.12.2013, s. 132.

[15] Europa-Parlamentets og Rådets direktiv (EU) 2018/958 af 28. juni 2018 om en proportionalitetstest forud for vedtagelse af ny regulering af erhverv, EUT L 173 af 9.7.2018, s. 25.

[16] Europa-Parlamentets og Rådets direktiv 2000/31/EF af 8. juni 2000 om visse retlige aspekter af informationssamfundstjenester, navnlig elektronisk handel, i det indre marked ("Direktivet om elektronisk handel"), EFT L 178 af 17.7.2000, s. 1.

[17] Europa-Parlamentets og Rådets forordning (EU) 2016/679 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger og om fri udveksling af sådanne oplysninger og om ophævelse af direktiv 95/46/EF (generel forordning om databeskyttelse), EUT L 119 af 4.5.2016, s. 1.

[18] Europa-Parlamentets og Rådets forordning (EU) 2018/1807 af 14. november 2018 om en ramme for fri udveksling af andre date end personoplysninger i Den Europæiske Union, EUT L 303 af 28.11.2018, s. 59.

[19] Europa-Parlamentets og Rådets forordning (EU) 2019/1150 af 20. juni 2019 om fremme af retfærdighed og gennemsigtighed for brugere af onlineformidlingstjenester, EUT L 186 af 11.7.2019, s. 57.

Seneste opdatering: 7. februar 2020Juridisk meddelelse - Databeskyttelsespolitik