Het Europees Parlement,

–  gezien zijn resolutie van 12 februari 2019 inzake een alomvattend Europees industriebeleid inzake artificiële intelligentie en robotica(1),

–  gezien zijn resolutie van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica(2),

–  gezien het rapport met als titel “Liability for Artificial Intelligence and other emerging digital technologies” (Aansprakelijkheid voor artificiële intelligentie en andere opkomende digitale technologieën) van de deskundigengroep van de Commissie voor aansprakelijkheid en nieuwe technologieën, dat gepubliceerd is op 21 november 2019,

–  gezien het rapport met als titel “Policy and investment recommendations for trustworthy Artificial Intelligence” (Aanbevelingen voor het beleid en voor investeringen met het oog op betrouwbare kunstmatige intelligentie) van de deskundigengroep op hoog niveau van de Commissie voor kunstmatige intelligentie, dat gepubliceerd is op 26 juni 2019,

–  gezien het document met als titel “Ethics Guidelines for Trustworthy AI” (Ethische richtsnoeren met het oog op betrouwbare KI) van de deskundigengroep op hoog niveau van de Commissie voor kunstmatige intelligentie, dat gepubliceerd is op 8 april 2019, alsmede de controlelijst voor betrouwbare KI,

–  gezien de mededeling van de Commissie van 8 april 2019 met als titel “Vertrouwen kweken in mensgerichte kunstmatige intelligentie” (COM(2019)0168),

–  gezien de mededeling van de Commissie van 7 december 2018 met als titel “Gecoördineerd plan inzake kunstmatige intelligentie” (COM(2018)0795),

–  gezien de mededeling van de Commissie van 25 april 2018 met als titel “Kunstmatige intelligentie voor Europa” (COM(2018)0237),

–  gezien de door de Commissie interne markt en consumentenbescherming ingediende ontwerpresolutie,

–  gezien de vraag aan de Commissie over geautomatiseerde besluitvormingsprocessen: waarborging van consumentenbescherming en vrij verkeer van goederen en diensten (O-000008/2020 – B9‑0007/2020),

–  gezien artikel 136, lid 5, en artikel 132, lid 2, van zijn Reglement,

A.  overwegende dat de technologische vooruitgang op het gebied van kunstmatige intelligentie (KI), machinaal leren, complexe, op algoritmen gebaseerde systemen en geautomatiseerde besluitvormingsprocessen in een snel tempo verloopt, en dat de toepassingen, kansen en uitdagingen van deze technologieën talrijk zijn en van invloed zijn op nagenoeg alle sectoren van de interne markt,

B.  overwegende dat de ontwikkeling van geautomatiseerde besluitvormingsprocessen naar verwachting een aanzienlijke bijdrage zal leveren aan de kenniseconomie, en voordelen oplevert voor de maatschappij, onder andere door middel van verbeterde overheidsdiensten, voor de consumenten, door middel van innoverende producten en diensten, en voor bedrijven, door middel van geoptimaliseerde prestaties,

C.  overwegende dat het gebruik en de ontwikkeling van KI en geautomatiseerde besluitvormingsprocessen ook uitdagingen met zich meebrengt op het gebied van het vertrouwen en het welzijn van de consument, met name in de zin dat consumenten in staat moeten worden gesteld om de processen in kwestie te identificeren, inzicht te verkrijgen in de manier waarop zij functioneren, weloverwogen beslissingen te nemen over het gebruik ervan en te kiezen voor een opt-out,

D.  overwegende dat ethische richtsnoeren, zoals de beginselen die zijn vastgesteld door de deskundigengroep op hoog niveau van de Commissie voor kunstmatige intelligentie, een uitgangspunt vormen; overwegende dat evenwel een onderzoek van het huidige rechtskader van de EU, met inbegrip van het acquis op het gebied van consumentenrecht en de wetgeving inzake productveiligheid en markttoezicht, moet worden uitgevoerd om na te gaan of dit een antwoord kan bieden op de opkomst van KI en geautomatiseerde besluitvorming en een hoog niveau van consumentenbescherming kan bieden, zoals vereist uit hoofde van artikel 38 van het Handvest van de grondrechten van de EU;

E.  overwegende dat een gemeenschappelijke EU-aanpak van de ontwikkeling van geautomatiseerde besluitvormingsprocessen zal helpen om de voordelen van deze processen te waarborgen en de risico’s in de hele EU te beperken, versnippering van de interne markt te voorkomen en de EU in staat te stellen haar aanpak en haar waarden beter te bevorderen over de hele wereld,

Keuze, vertrouwen en welzijn van de consument

1.  is ingenomen met het potentieel van geautomatiseerde besluitvorming om innoverende en verbeterde diensten te leveren aan consumenten, waaronder nieuwe digitale diensten zoals virtuele assistenten en chatbots; is evenwel van mening dat, wanneer consumenten gebruikmaken van een systeem waarbij de besluitvorming geautomatiseerd is, zij goed moeten worden geïnformeerd over de werking van dit systeem, over hoe zij een beslissingsbevoegde persoon kunnen bereiken en over de manier waarop de beslissingen van het systeem gecontroleerd en verbeterd kunnen worden;

2.  dringt er bij de Commissie op aan om nauwlettend toe te zien op de toepassing van de nieuwe regels in het kader van de richtlijn inzake betere handhaving(3), op grond waarvan handelaars consumenten moeten informeren wanneer de prijzen van goederen of diensten op maat zijn gemaakt op basis van geautomatiseerde besluitvorming en van een profilering van het consumentengedrag, waardoor handelaars de koopkracht van de consument kunnen beoordelen;

3.  dringt er bij de Commissie op aan om nauwlettend toe te zien op de toepassing van de tenuitvoerlegging van de verordening inzake geoblocking(4), om ervoor te zorgen dat automatische besluitvorming niet wordt gebruikt om consumenten te discrimineren op grond van hun nationaliteit, verblijfplaats of tijdelijke locatie;

4.  moedigt de Commissie ertoe aan te controleren of de verplichtingen ten aanzien van de handelaars een doeltreffende keuze van de consument mogelijk maken en voldoende consumentenbescherming bieden; verzoekt de Commissie na te gaan of er lacunes in de regelgeving zijn en te onderzoeken of aanvullende maatregelen nodig zijn om een ruime reeks rechten te waarborgen om consumenten in het kader van KI en geautomatiseerde besluitvorming te beschermen;

5.  merkt op dat geautomatiseerde besluitvormingssystemen gebruikt worden in het kader van mechanismen voor alternatieve geschillenbeslechting op diverse digitale platforms, voor de beslechting van geschillen tussen consumenten en ondernemers; verzoekt de Commissie ervoor te zorgen dat bij elke komende herziening van Richtlijn 2013/11/EU betreffende alternatieve beslechting van consumentengeschillen(5) en Verordening (EU) nr. 524/2013 betreffende onlinebeslechting van consumentengeschillen(6) rekening wordt gehouden met het gebruik van geautomatiseerde besluitvorming en gewaarborgd wordt dat de controle in handen blijft van de mens;

Kader inzake veiligheid en aansprakelijkheid voor producten

6.  onderstreept het feit dat bedrijven op grond van het EU-kader voor productveiligheid verplicht zijn ervoor te zorgen dat alleen veilige en conforme producten op de markt worden gebracht; is zich ervan bewust dat de opkomst van producten met mogelijkheden op het gebied van geautomatiseerde besluitvorming, nieuwe uitdagingen met zich meebrengt, aangezien deze producten kunnen evolueren en op manieren kunnen werken die niet beoogd waren toen zij voor het eerst op de markt werden gebracht; dringt er bij de Commissie op aan om voorstellen in te dienen voor de aanpassing van de veiligheidsvoorschriften van de EU voor producten die vallen onder specifieke EU-wetgeving waarin voorzien is in geharmoniseerde vereisten, met inbegrip van de machinerichtlijn(7), de richtlijn speelgoedveiligheid(8), de richtlijn inzake radioapparatuur(9) en de laagspanningsrichtlijn(10), en voor “niet-geharmoniseerde producten” die vallen onder de richtlijn inzake algemene productveiligheid(11), teneinde ervoor te zorgen dat de nieuwe regels geschikt zijn voor het beoogde doel, dat gebruikers en consumenten beschermd zijn tegen schade, dat de fabrikanten duidelijkheid hebben over hun verplichtingen en dat gebruikers duidelijkheid hebben over de manier waarop producten met mogelijkheden op het gebied van geautomatiseerde besluitvorming moeten worden gebruikt;

7.  benadrukt het feit dat een op risico’s gebaseerde benadering van regelgeving moet worden gevolgd, in het licht van de uiteenlopende aard en complexiteit van de uitdagingen die uit verschillende soorten en toepassingen van KI en geautomatiseerde besluitvormingssystemen voortvloeien; verzoekt de Commissie een risicobeoordelingssysteem voor KI en geautomatiseerde besluitvorming te ontwikkelen om te zorgen voor een consistente aanpak van de handhaving van de wetgeving inzake productveiligheid op de interne markt; benadrukt het feit dat de lidstaten in het kader van hun nationale strategieën voor markttoezicht geharmoniseerde risicobeheerstrategieën voor KI moeten ontwikkelen;

8.  merkt op dat de richtlijn productaansprakelijkheid(12) al meer dan 30 jaar een waardevol vangnet biedt om consumenten te beschermen tegen schade als gevolg van producten met gebreken; is zich bewust van de uitdaging om de aansprakelijkheid vast te stellen wanneer de schade voor de consument het gevolg is van autonome besluitvormingsprocessen; verzoekt de Commissie deze richtlijn te herzien en een aanpassing te overwegen van begrippen als “product”, “schade” en “gebrek”, alsmede van de regels inzake de bewijslast; dringt er bij de Commissie op aan voorstellen in te dienen om deze concepten en regels indien nodig bij te werken;

Regelgevingskader voor diensten

9.  herinnert eraan dat het bestaande regelgevingskader voor diensten, bestaande uit de dienstenrichtlijn(13), de richtlijn betreffende de erkenning van beroepskwalificaties(14), de richtlijn betreffende een evenredigheidsbeoordeling(15), de richtlijn elektronische handel(16) en de algemene verordening gegevensbescherming (AVG)(17), reeds betrekking heeft op veel beleidsaspecten die relevant zijn voor diensten die geautomatiseerde besluitvormingsprocessen omvatten, met inbegrip van regels inzake consumentenbescherming, ethiek en aansprakelijkheid; merkt op dat deze regels zowel van toepassing moeten zijn op traditionele diensten als op diensten die geautomatiseerde besluitvormingsprocessen omvatten;

10.  benadrukt het feit dat, hoewel geautomatiseerde besluitvormingsprocessen de efficiëntie en nauwkeurigheid van diensten kunnen verbeteren, de mens altijd de eindverantwoordelijkheid moet dragen voor besluiten die worden genomen in het kader van professionele diensten, zoals medische, juridische en boekhoudkundige diensten, alsmede bankdiensten, en dat de mens deze besluiten altijd moet kunnen herroepen; herinnert eraan dat het belangrijk is dat toezicht of onafhankelijke supervisie wordt uitgeoefend door gekwalificeerde beroepsbeoefenaars in gevallen van geautomatiseerde besluitvorming waar legitieme openbare belangen op het spel staan;

11.  onderstreept het feit dat het, in overeenstemming met de richtlijn betreffende een evenredigheidsbeoordeling, belangrijk is een goede risicobeoordeling uit te voeren alvorens professionele diensten te automatiseren; dringt er bij de bevoegde autoriteiten van de lidstaten op aan ervoor te zorgen dat in de beroepsopleiding rekening wordt gehouden met de wetenschappelijke vooruitgang op het gebied van geautomatiseerde besluitvorming;

Kwaliteit en transparantie van het gegevensbeheer

12.  merkt op dat geautomatiseerde besluitvormingssystemen afhankelijk zijn van het verzamelen van grote hoeveelheden gegevens en is van mening dat de verordening inzake het vrije verkeer van niet-persoonsgebonden gegevens(18) zal helpen om in de hele EU meer gegevens beschikbaar te maken, waardoor de creatie mogelijk wordt gemaakt van innoverende datagestuurde diensten; is zich in verband hiermee bewust van het potentieel van het delen van gegevens, niet alleen uit openbare maar ook uit particuliere bronnen, en benadrukt tegelijk het feit dat persoonsgegevens moeten worden beschermd overeenkomstig de algemene verordening gegevensbescherming; benadrukt het feit dat het belangrijk is alleen gebruik te maken van hoogwaardige en objectieve datasets om de output van algoritmische systemen te verbeteren en het vertrouwen en de acceptatie van de consument te vergroten;

13.  benadrukt het feit dat het, gezien de aanzienlijke impact die geautomatiseerde besluitvormingssystemen kunnen hebben op consumenten, met name wanneer die zich bevinden in kwetsbare situaties, belangrijk is dat deze systemen niet alleen gebruikmaken van hoogwaardige en objectieve datasets, maar ook verklaarbare en objectieve algoritmen; is van mening dat in het kader van bedrijfsprocessen toetsingsstructuren nodig zijn om mogelijke fouten in geautomatiseerde besluiten te corrigeren en dat het voor de consument mogelijk moet zijn om geautomatiseerde besluiten die definitief en permanent zijn, door mensen te laten onderzoeken en herstellen;

14.  benadrukt het feit dat het, om na te gaan of producten met mogelijkheden op het gebied van geautomatiseerde besluitvorming voldoen aan de toepasselijke veiligheidsvoorschriften, van essentieel belang is dat de algoritmen die hieraan ten grondslag liggen, op adequate wijze transparant zijn en kunnen worden uitgelegd aan de markttoezichtautoriteiten; verzoekt de Commissie na te gaan of in verband hiermee aanvullende prerogatieven aan de markttoezichtautoriteiten moeten worden verleend;

15.  verzoekt de Commissie om nauwlettend toe te zien op de tenuitvoerlegging van de platform-to-businessverordening(19), met name de regels inzake de transparantie van rangschikkingen waarbij geautomatiseerde besluitvormingsprocessen worden gebruikt;

o
o   o

16.  verzoekt zijn Voorzitter deze resolutie te doen toekomen aan de Raad en de Commissie.

(1) Aangenomen teksten, P8_TA(2019)0081. (2) PB C 252 van 18.7.2018, blz. 239. (3) Richtlijn (EU) 2019/2161 van het Europees Parlement en de Raad van 27 november 2019 tot wijziging van Richtlijn 93/13/EEG van de Raad en Richtlijnen 98/6/EG, 2005/29/EG en 2011/83/EU van het Europees Parlement en de Raad wat betreft betere handhaving en modernisering van de regels voor consumentenbescherming in de Unie (PB L 328 van 18.12.2019, blz. 7). (4) Verordening (EU) 2018/302 van het Europees Parlement en de Raad van 28 februari 2018 inzake de aanpak van ongerechtvaardigde geoblocking en andere vormen van discriminatie van klanten op grond van nationaliteit, verblijfplaats of plaats van vestiging in de interne markt, en tot wijziging van Verordeningen (EG) nr. 2006/2004 en (EU) 2017/2394 en Richtlijn 2009/22/EG (PB L 60 I van 2.3.2018, blz. 1). (5) PB L 165 van 18.6.2013, blz. 63. (6) PB L 165 van 18.6.2013, blz. 1. (7) Richtlijn 2006/42/EG van het Europees Parlement en de Raad van 17 mei 2006 betreffende machines en tot wijziging van Richtlijn 95/16/EG (herschikking) (PB L 157 van 9.6.2006, blz. 24). (8) Richtlijn 2009/48/EG van het Europees Parlement en de Raad van 18 juni 2009 betreffende de veiligheid van speelgoed (PB L 170 van 30.6.2009, blz. 1). (9) Richtlijn 2014/53/EU van het Europees Parlement en de Raad van 16 april 2014 betreffende de harmonisatie van de wetgevingen van de lidstaten inzake het op de markt aanbieden van radioapparatuur en tot intrekking van Richtlijn 1999/5/EG (PB L 153 van 22.5.2014, blz. 62). (10) Richtlijn 2014/35/EU van het Europees Parlement en de Raad van 26 februari 2014 betreffende de harmonisatie van de wetgevingen van de lidstaten inzake het op de markt aanbieden van elektrisch materiaal bestemd voor gebruik binnen bepaalde spanningsgrenzen (PB L 96 van 29.3.2014, blz. 357). (11) Richtlijn 2001/95/EG van het Europees Parlement en de Raad van 3 december 2001 inzake algemene productveiligheid (PB L 11 van 15.1.2002, blz. 4). (12) Richtlijn 85/374/EEG van de Raad van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der lidstaten inzake de aansprakelijkheid voor producten met gebreken (PB L 210 van 7.8.1985, blz. 29). (13) Richtlijn 2006/123/EG van het Europees Parlement en de Raad van 12 december 2006 betreffende diensten op de interne markt (PB L 376 van 27.12.2006, blz. 36). (14) Richtlijn 2013/55/EU van het Europees Parlement en de Raad van 20 november 2013 tot wijziging van Richtlijn 2005/36/EG betreffende de erkenning van beroepskwalificaties en Verordening (EU) nr. 1024/2012 betreffende de administratieve samenwerking via het Informatiesysteem interne markt (“de IMI-verordening”) (PB L 354 van 28.12.2013, blz. 132). (15) Richtlijn (EU) 2018/958 van het Europees Parlement en de Raad van 28 juni 2018 betreffende een evenredigheidsbeoordeling voorafgaand aan een nieuwe reglementering van beroepen (PB L 173 van 9.7.2018, blz. 25). (16) Richtlijn 2000/31/EG van het Europees Parlement en de Raad van 8 juni 2000 betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij, met name de elektronische handel, in de interne markt ("richtlijn inzake elektronische handel") (PB L 178 van 17.7.2000, blz. 1). (17) Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming) (PB L 119 van 4.5.2016, blz. 1). (18) Verordening (EU) 2018/1807 van het Europees Parlement en de Raad van 14 november 2018 inzake een kader voor het vrije verkeer van niet-persoonsgebonden gegevens in de Europese Unie (PB L 303 van 28.11.2018, blz. 59). (19) Verordening (EU) 2019/1150 van het Europees Parlement en de Raad van 20 juni 2019 ter bevordering van billijkheid en transparantie voor zakelijke gebruikers van onlinetussenhandelsdiensten (PB L 186 van 11.7.2019, blz. 57).