Förfarande : 2019/2915(RSP)
Dokumentgång i plenum
Dokumentgång : B9-0094/2020

Ingivna texter :

B9-0094/2020

Debatter :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Omröstningar :

PV 12/02/2020 - 11.8
Röstförklaringar

Antagna texter :

P9_TA(2020)0032

<Date>{06/02/2020}6.2.2020</Date>
<NoDocSe>B9‑0094/2020</NoDocSe>
PDF 167kWORD 52k

<TitreType>FÖRSLAG TILL RESOLUTION</TitreType>

<TitreSuite>till följd av frågan för muntligt besvarande B9‑XXXX/2020</TitreSuite>

<TitreRecueil>i enlighet med artikel 136.5 i arbetsordningen</TitreRecueil>


<Titre>angående automatiserat beslutsfattande: att säkerställa konsumentskydd och fri rörlighet för varor och tjänster</Titre>

<DocRef>(2019/2915(RSP))</DocRef>


<RepeatBlock-By><Depute>Petra De Sutter</Depute>

<Commission>{IMCO}för utskottet för den inre marknaden och konsumentskydd</Commission>

</RepeatBlock-By>

ÄNDRINGSFÖRSLAG

B9‑0094/2020

Europaparlamentets resolution om automatiserat beslutsfattande: att säkerställa konsumentskydd och fri rörlighet för varor och tjänster

(2019/2915(RSP))

Europaparlamentet utfärdar denna resolution

 med beaktande av sin resolution av den 12 februari 2019 om en övergripande europeisk industripolitik för artificiell intelligens och robotteknik[1],

 med beaktande av sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik[2],

 med beaktande av rapporten Liability for artificial intelligence and other emerging digital technologies (skadeståndsansvar för artificiell intelligens och annan ny digital teknik) från kommissionens expertgrupp för ansvarsfrågor och ny teknik, som offentliggjordes den 21 november 2019,

 med beaktande av rapporten Policy and investment recommendations for trustworthy artificial intelligence (politik- och investeringsrekommendationer för tillförlitlig artificiell intelligens) från kommissionens högnivåexpertgrupp för AI-frågor, som offentliggjordes den 26 juni 2019,

 med beaktande av dokumentet Ethics Guidelines for Trustworthy AI (etiska riktlinjer för tillförlitlig AI) från kommissionens högnivåexpertgrupp för AI-frågor, som offentliggjordes den 8 april 2019, samt bedömningslistan för tillförlitlig AI,

 med beaktande av kommissionens meddelande av den 8 april 2019 Att skapa förtroende för människocentrerad artificiell intelligens (COM(2019)0168),

 med beaktande av kommissionens meddelande av den 7 december 2018 Samordnad plan om artificiell intelligens (COM(2018)0795),

 med beaktande av kommissionens meddelande av den 25 april 2018 Artificiell intelligens för Europa (COM(2018)0237),

 med beaktande av förslaget till resolution från utskottet för den inre marknaden och konsumentskydd,

 med beaktande av frågan till kommissionen angående automatiserat beslutsfattande: att säkerställa konsumentskydd och fri rörlighet för varor och tjänster (O-000008/2020 – B9‑XXXX/2020),

 med beaktande av artiklarna 136.5 och 132.2 i arbetsordningen,

A. Tekniken utvecklas i snabb takt på områdena artificiell intelligens (AI), maskininlärning, komplexa algoritmbaserade system och automatiserat beslutsfattande, och de tillämpningar, möjligheter och utmaningar som följer av denna teknik är otaliga och påverkar i stort sett alla sektorer på den inre marknaden.

B. Utvecklingen av automatiserat beslutsfattande förväntas ge ett betydande bidrag till kunskapsekonomin, och erbjuder fördelar för samhället genom bland annat förbättrade allmänna tjänster, för konsumenterna genom innovativa produkter och tjänster samt för företag genom optimerade resultat.

C. Användningen och utvecklingen av AI och automatiserat beslutsfattande medför också utmaningar för konsumenternas förtroende och välfärd, särskilt när det gäller att ge konsumenterna möjlighet att identifiera sådana processer och förstå hur de fungerar samt fatta välgrundade beslut om hur de ska användas och om att inte delta.

D. Etisk vägledning, såsom de principer som har antagits av kommissionens högnivåexpertgrupp för AI-frågor, utgör en utgångspunkt. Men EU:s befintliga rättsliga ram, inklusive konsumenträtten, dataskyddslagstiftningen, produktsäkerhetslagstiftningen och marknadskontrollagstiftningen, behöver undersökas för att kontrollera att den kan dels hantera framväxten av AI och automatiserat beslutsfattande, dels ge en hög konsumentskyddsnivå enligt artikel 38 i EU:s stadga om de grundläggande rättigheterna.

E. En gemensam EU-strategi för utvecklingen av processer för automatiserat beslutsfattande kommer att bidra till att säkra fördelarna med dessa processer och minska riskerna i hela EU, undvika fragmentering av den inre marknaden och göra det möjligt för EU att i högre grad främja sin strategi och sina värden i hela världen.

Konsumenternas valmöjligheter, förtroende och välfärd

1. Europaparlamentet välkomnar potentialen i det automatiska beslutsfattandet att leverera innovativa och förbättrade tjänster till konsumenterna, inklusive nya digitala tjänster såsom röstassistenter och chattrobotar. Parlamentet anser emellertid att när konsumenter har att göra med ett system som automatiskt fattar beslut bör de få fullständig information om hur systemet fungerar, hur man gör för att kontakta en person med beslutsbefogenheter, och hur systemets beslut kan kontrolleras och korrigeras.

2. Europaparlamentet uppmanar med kraft kommissionen att noggrant övervaka genomförandet av nya regler inom ramen för direktivet om bättre upprätthållande[3], som ålägger näringsidkare att informera konsumenterna när priser på varor eller tjänster har personanpassats på grundval av automatiserat beslutsfattande och profilering av konsumentbeteende, som ger näringsidkarna möjlighet att bedöma konsumenternas köpkraft.

3. Europaparlamentet uppmanar med kraft kommissionen att noggrant övervaka genomförandet av förordningen om geoblockering[4] för att säkerställa att automatiskt beslutsfattande inte används för att diskriminera konsumenter på grundval av deras nationalitet, bosättningsort eller tillfälliga vistelseort.

4. Europaparlamentet uppmuntrar kommissionen att kontrollera om näringsidkares skyldigheter leder till verklig valfrihet för konsumenterna och erbjuder ett tillräckligt konsumentskydd. Kommissionen uppmanas att undersöka om det finns luckor i lagstiftningen och om det behövs ytterligare åtgärder för att säkerställa starka rättigheter för att skydda konsumenterna på områdena för AI och automatiserat beslutsfattande.

5. Europaparlamentet konstaterar att system för automatiserat beslutsfattande används i alternativa tvistlösningsmekanismer på många olika digitala plattformar för att lösa tvister mellan konsumenter och näringsidkare. Kommissionen uppmanas att säkerställa att en eventuell översyn av direktiv 2013/11/EU om alternativ tvistlösning vid konsumenttvister[5] och förordning (EU) nr 524/2013 om tvistlösning online vid konsumenttvister[6] beaktar användningen av automatiserat beslutsfattande och ser till att människor fortfarande har kontroll.

Säkerhets- och ansvarsramar för produkter

6. Europaparlamentet understryker att företag enligt EU:s ram för produktsäkerhet ska se till att endast säkra produkter som uppfyller kraven släpps ut på marknaden. Parlamentet konstaterar att framväxten av produkter med möjlighet till automatiserat beslutsfattande utgör nya utmaningar, eftersom dessa produkter skulle kunna utvecklas och agera på sätt som man inte hade avsett när de släpptes ut på marknaden första gången. Parlamentet uppmanar med kraft kommissionen att lägga fram förslag för att anpassa EU:s säkerhetsbestämmelser dels för produkter som omfattas av särskild EU‑lagstiftning med harmoniserade krav, bland annat maskindirektivet[7], direktivet om leksakers säkerhet[8], direktivet om radioutrustning[9] och lågspänningsdirektivet[10], dels för ”icke-harmoniserade produkter” som omfattas av direktivet om allmän produktsäkerhet[11], för att säkerställa att de nya reglerna är ändamålsenliga, att användare och konsumenter skyddas från skada, att det är tydligt för tillverkare vilka skyldigheter de har samt att användare vet hur produkter med möjlighet till automatiserat beslutsfattande ska användas.

7. Europaparlamentet betonar att det behövs en riskbaserad inställning till reglering, mot bakgrund av de olika utmaningar av varierande komplexitet som uppstår till följd av olika typer och tillämpningar av AI och automatiserat beslutsfattande. Parlamentet uppmanar kommissionen att utarbeta ett system för riskbedömning av AI och automatiserat beslutsfattande i syfte att se till att produktsäkerhetslagstiftningen tillämpas enhetligt på den inre marknaden, och betonar att medlemsstaterna måste utarbeta harmoniserade riskhanteringsstrategier för AI inom ramen för sina nationella marknadskontrollstrategier.

8. Europaparlamentet konstaterar att direktivet om produktansvar[12] i mer än 30 år har tillhandahållit ett värdefullt skyddsnät för att skydda konsumenter mot skador som orsakas av produkter med säkerhetsbrister. Parlamentet är medvetet om att det är svårt att fastställa skadeståndsansvar i fall där konsumenter har skadats som en följd av automatiserat beslutsfattande. Kommissionen uppmanas att se över direktivet och överväga att anpassa dels sådana begrepp som ”produkt”, ”skada” och ”defekt”, dels bestämmelserna om bevisbördan. Parlamentet uppmanar med kraft kommissionen att lägga fram förslag för att vid behov uppdatera dessa begrepp och bestämmelser.

Regelverket för tjänster

9. Europaparlamentet påminner om att det befintliga regelverket för tjänster, som består av tjänstedirektivet[13], direktivet om yrkeskvalifikationer[14], direktivet om proportionalitetsprövning[15], e-handelsdirektivet[16] och den allmänna dataskyddsförordningen[17], redan omfattar många politiska aspekter som är relevanta för tjänster som inbegriper automatiserat beslutsfattande, bland annat regler för konsumentskydd, etik och skadeståndsansvar. Parlamentet konstaterar att dessa regler bör gälla för både traditionella tjänster och tjänster som inbegriper automatiserat beslutsfattande.

10. Europaparlamentet understryker att även om automatiserat beslutsfattande kan göra tjänster mer effektiva och korrekta, så måste människor alltid vara ytterst ansvariga för och kunna upphäva beslut som fattas inom ramen för yrkesmässiga tjänster, till exempel inom hälso- och sjukvård, juridik och redovisning samt inom banksektorn. Parlamentet påminner om att automatiserat beslutsfattande där legitima allmänna intressen står på spel måste genomgå övervakning eller oberoende tillsyn utförd av kvalificerad personal.

11. Europaparlamentet understryker att automatisering av yrkesmässiga tjänster måste föregås av en ordentlig riskbedömning, i enlighet med direktivet om proportionalitetsprövning. De behöriga myndigheterna i medlemsstaterna uppmanas med kraft att se till att all yrkesutbildning tar hänsyn till vetenskapliga framsteg inom automatiserat beslutsfattande.

Kvalitet och transparens i dataförvaltning

12. Europaparlamentet noterar att system för automatiserat beslutsfattande kräver insamling av stora mängder data, och anser att förordningen om det fria flödet av icke‑personuppgifter[18] kommer att bidra till att göra mer data tillgängliga i hela EU, vilket gör det möjligt att ta fram innovativa datadrivna tjänster. Parlamentet är medvetet om den potential som erbjuds i detta avseende av datadelning, inte bara från offentliga utan även från privata källor, men betonar samtidigt att personuppgifter måste skyddas enligt dataskyddsförordningen. Parlamentet framhåller att det är viktigt att endast datamängder av hög kvalitet och utan systematiska fel används, så att utmatningen från de algoritmiska systemen kan förbättras och konsumenternas förtroende och acceptans höjas.

13. Med tanke på att automatiserat beslutsfattande kan ha en betydande inverkan på konsumenter, särskilt konsumenter i utsatta situationer, betonar Europaparlamentet att det är viktigt att systemen använder inte bara datamängder av hög kvalitet och utan systematiska fel utan även algoritmer som går att förklara och som inte innehåller systematiska fel. Omprövningsstrukturer behöver ingå i företagsprocesser för att åtgärda eventuella misstag i automatiserade beslut, och det bör vara möjligt för konsumenter att få slutgiltiga och varaktiga automatiserade beslut granskade och prövade av en person.

14. För att kunna bedöma huruvida produkter som innehåller automatiserat beslutsfattande är förenliga med relevanta säkerhetsbestämmelser så understryker Europaparlamentet att algoritmerna bakom dessa processer måste vara transparenta och kunna förklaras för marknadskontrollmyndigheter. Parlamentet uppmanar kommissionen att bedöma huruvida marknadskontrollmyndigheterna bör ges ytterligare befogenheter i detta avseende.

15. Europaparlamentet uppmanar kommissionen att noga övervaka genomförandet av förordningen om förbindelserna mellan plattformar och företag[19], särskilt bestämmelserna om transparens i rangordningar som tas fram genom automatiserat beslutsfattande.

16. Europaparlamentet uppdrar åt talmannen att översända denna resolution till rådet, kommissionen och arbetsmarknadens parter.

 

[1] Antagna texter, P8_TA(2019)0081.

[2] EUT C 252, 18.7.2018, s. 239.

[3] Europaparlamentets och rådets direktiv (EU) 2019/2161 av den 27 november 2019 om ändring av rådets direktiv 93/13/EEG och Europaparlamentets och rådets direktiv 98/6/EG, 2005/29/EG och 2011/83/EU vad gäller bättre upprätthållande och modernisering av unionens konsumentskyddsregler, EUT L 328, 18.12.2019, s. 7.

[4] Europaparlamentets och rådets förordning (EU) 2018/302 av den 28 februari 2018 om åtgärder mot omotiverad geoblockering och andra former av diskriminering på grund av kundernas nationalitet, bosättningsort eller etableringsort på den inre marknaden och om ändring av förordningarna (EG) nr 2006/2004 och (EU) 2017/2394 samt direktiv 2009/22/EG, EUT L 60 I, 2.3.2018, s. 1.

[5] EUT L 165, 18.6.2013, s. 63.

[6] EUT L 165, 18.6.2013, s. 1.

[7] Europaparlamentets och rådets direktiv 2006/42/EG av den 17 maj 2006 om maskiner och om ändring av direktiv 95/16/EG (omarbetning), EUT L 157, 9.6.2006, s. 24.

[8] Europaparlamentets och rådets direktiv 2009/48/EG av den 18 juni 2009 om leksakers säkerhet, EUT L 170, 30.6.2009, s. 1.

[9] Europaparlamentets och rådets direktiv 2014/53/EU av den 16 april 2014 om harmonisering av medlemsstaternas lagstiftning om tillhandahållande på marknaden av radioutrustning och om upphävande av direktiv 1999/5/EG, EUT L 153, 22.5.2014, s. 62.

[10] Europaparlamentets och rådets direktiv 2014/35/EU av den 26 februari 2014 om harmonisering av medlemsstaternas lagstiftning om tillhandahållande på marknaden av elektrisk utrustning avsedd för användning inom vissa spänningsgränser EUT L 96, 29.3.2014, s. 357.

[11] Europaparlamentets och rådets direktiv 2001/95/EG av den 3 december 2001 om allmän produktsäkerhet EGT L 11, 15.1.2002, s. 4.

[12] Rådets direktiv 85/374/EEG av den 25 juli 1985 om tillnärmning av medlemsstaternas lagar och andra författningar om skadeståndsansvar för produkter med säkerhetsbrister , EGT L 210, 7.8.1985, s. 29.

[13] Europaparlamentets och rådets direktiv 2006/123/EG av den 12 december 2006 om tjänster på den inre marknaden, EUT L 376, 27.12.2006, s. 36.

[14] Europaparlamentets och rådets direktiv 2013/55/EU av den 20 november 2013 om ändring av direktiv 2005/36/EG om erkännande av yrkeskvalifikationer och förordning (EU) nr 1024/2012 om administrativt samarbete genom informationssystemet för den inre marknaden (IMI-förordningen), EUT L 354, 28.12.2013, s. 132.

[15] Europaparlamentets och rådets direktiv (EU) 2018/958 av den 28 juni 2018 om proportionalitetsprövning före antagandet av ny reglering av yrken, EUT L 173, 9.7.2018, s. 25.

[16] Europaparlamentets och rådets direktiv 2000/31/EG av den 8 juni 2000 om vissa rättsliga aspekter på informationssamhällets tjänster, särskilt elektronisk handel, på den inre marknaden (”Direktiv om elektronisk handel”) EGT L 178, 17.7.2000, s. 1.

[17] Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (allmän dataskyddsförordning), EUT L 119, 4.5.2016, s. 1.

[18] Europaparlamentets och rådets direktiv (EU) 2018/1807 av den 14 november 2018 om en ram för det fria flödet av andra data än personuppgifter i Europeiska unionen, EUT L 303, 28.11.2018, s. 59.

[19] Europaparlamentets och rådets förordning (EU) 2019/1150 av den 20 juni 2019 om främjande av rättvisa villkor och transparens för företagsanvändare av onlinebaserade förmedlingstjänster, EUT L 186, 11.7.2019, s. 57.

Senaste uppdatering: 7 februari 2020Rättsligt meddelande - Integritetspolicy