Index 
 Précédent 
 Suivant 
 Texte intégral 
Procédure : 2019/2915(RSP)
Cycle de vie en séance
Cycle relatif au document : B9-0094/2020

Textes déposés :

B9-0094/2020

Débats :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Votes :

PV 12/02/2020 - 11.8
Explications de votes

Textes adoptés :

P9_TA(2020)0032

Textes adoptés
PDF 149kWORD 47k
Mercredi 12 février 2020 - Strasbourg Edition définitive
Processus de prise de décision automatisés: assurer la protection des consommateurs et la libre circulation des biens et des services
P9_TA(2020)0032B9-0094/2020

Résolution du Parlement européen du 12 février 2020 sur les processus de prise de décision automatisés: assurer la protection des consommateurs et la libre circulation des biens et des services (2019/2915(RSP))

Le Parlement européen,

–  vu sa résolution du 12 février 2019 sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique(1),

–  vu sa résolution du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique(2),

–  vu le rapport sur la responsabilité en ce qui concerne l’intelligence artificielle et les autres technologies numériques émergentes, publié par le groupe d’experts de la Commission sur la responsabilité et les nouvelles technologies le 21 novembre 2019,

–  vu le rapport sur les recommandations stratégiques et d’investissement pour une intelligence artificielle digne de confiance, publié par le groupe d’experts de haut niveau de la Commission le 26 juin 2019,

–  vu le document sur les lignes directrices en matière d’éthique pour une IA digne de confiance, du groupe d’experts de haut niveau de la Commission, publié le 8 avril 2019, ainsi que la liste d’évaluation d’une IA digne de confiance,

–  vu la communication de la Commission du 8 avril 2019 intitulée «Renforcer la confiance dans l’intelligence artificielle axée sur le facteur humain» (COM(2019)0168),

–  vu la communication de la Commission du 7 décembre 2018 intitulée «Un plan coordonné dans le domaine de l’intelligence artificielle» (COM(2018)0795),

–  vu la communication de la Commission du 25 avril 2018 intitulée «L’intelligence artificielle pour l’Europe» (COM(2018)0237),

–  vu la proposition de résolution de la commission du marché intérieur et de la protection des consommateurs,

–  vu la question à la Commission sur les processus de prise de décision automatisés: assurer la protection des consommateurs et la libre circulation des biens et des services (O-000008/2020 – B9-0007/2020),

–  vu l’article 136, paragraphe 5, et l’article 132, paragraphe 2, de son règlement intérieur,

A.  considérant que des avancées technologiques rapides ont lieu dans les domaines de l’intelligence artificielle (IA), l’apprentissage automatique, les systèmes complexes fondés sur des algorithmes et les processus de prise de décision automatisés, et que les applications, possibilités et défis découlant de ces technologies sont nombreux et concernent pratiquement tous les secteurs du marché intérieur;

B.  considérant que le développement de processus de décision automatisés devrait contribuer grandement à l’économie de la connaissance, et être source d’avantages pour la société grâce, entre autres, à une amélioration des services publics, à l’offre de produits et services innovants aux consommateurs et à l’optimisation des performances des entreprises;

C.  considérant que l’utilisation et le développement de l’IA et des processus de décision automatisés présentent également un certain nombre de défis en ce qui concerne la confiance des consommateurs et leur protection, en particulier pour mettre ces derniers en mesure de repérer ces processus, de comprendre leur fonctionnement, de prendre des décisions éclairées quant à leur utilisation et de choisir éventuellement de ne pas en bénéficier;

D.  considérant que les lignes directrices en matière d’éthique, telles que les principes adoptés par le groupe d’experts de haut niveau de la Commission sur l’intelligence artificielle, constituent un point de départ; que, toutefois, un examen du cadre juridique actuel de l’Union européenne, y compris l’acquis en matière de droit des consommateurs, ainsi que la législation portant sur la sécurité des produits et la surveillance du marché, est nécessaire pour vérifier qu’il est à même de faire face à l’émergence de l’IA et de la prise de décision automatisée et de garantir un degré élevé de protection des consommateurs, comme le requiert l’article 38 de la charte des droits fondamentaux de l’Union européenne;

E.  considérant qu’une approche commune de l’Union européenne en matière de développement des processus de prise de décision automatisés contribuera à garantir les avantages de ces processus et à atténuer les risques qui y sont liés dans toute l’Union et à éviter la fragmentation du marché intérieur, et qu’elle aidera l’Union à promouvoir sa démarche et ses valeurs dans le monde entier;

Choix, confiance et protection des consommateurs

1.  salue le potentiel que présente la prise de décision automatisée pour offrir des services innovants et améliorés aux consommateurs, y compris de nouveaux services numériques tels qu’assistants virtuels et dialogueurs («chatbots»); est cependant convaincu que, lorsque les consommateurs interagissent avec un système qui automatise la prise de décision, ils doivent être dûment informés de la manière dont un tel système fonctionne, savoir comment joindre un être humain disposant de pouvoirs de décision, et connaître la manière dont les décisions du système peuvent être contrôlées et corrigées;

2.  demande instamment à la Commission de surveiller étroitement la mise en œuvre des nouvelles règles au titre de la directive sur une meilleure application(3) qui requiert des professionnels qu’ils informent les consommateurs lorsque les prix des biens ou services ont été personnalisés sur la base d’une prise de décision automatisée et du profilage du comportement du consommateur, ce qui permet aux professionnels d’évaluer le pouvoir d’achat du consommateur en question;

3.  prie instamment la Commission de surveiller étroitement la mise en œuvre du règlement sur le blocage géographique(4), pour veiller à ce que la prise de décision automatisée ne soit pas utilisée pour exercer une discrimination à l’égard de certains consommateurs en fonction de leur nationalité, de leur lieu de résidence ou du lieu où ils se trouvent temporairement;

4.  encourage la Commission à vérifier si les obligations imposées aux professionnels permettent effectivement aux consommateurs d’opérer un choix et garantissent une protection suffisante des consommateurs; demande à la Commission de vérifier s’il existe des lacunes réglementaires et d’examiner si des mesures supplémentaires sont nécessaires pour garantir un ensemble robuste de droits afin de protéger les consommateurs dans le contexte de l’IA et de la prise de décision automatisée;

5.  fait observer que les systèmes de prise de décision automatisés sont utilisés dans le cadre des mécanismes de règlement extrajudiciaire des litiges sur diverses plateformes numériques pour régler les différends entre consommateurs et professionnels; demande à la Commission de veiller à ce que tout prochain réexamen de la directive 2013/11/UE relative au règlement extrajudiciaire des litiges de consommation(5) et du règlement (UE) nº 524/2013 relatif au règlement en ligne des litiges de consommation(6) tienne compte de l’utilisation de la prise de décision automatisée et permette de garantir que les êtres humains restent aux commandes;

Cadre de sécurité et de responsabilité pour les produits

6.  souligne que le cadre de l’Union européenne pour la sécurité des produits oblige les entreprises à s’assurer que seuls des produits sûrs et conformes à la réglementation soient mis sur le marché; est conscient du fait que l’émergence de produits présentant des capacités de prise de décision automatisée présente un certain nombre de nouveaux défis, puisque ces produits peuvent évoluer et agir d’une manière qui n’était pas envisagée lors de leur mise sur le marché initiale; demande instamment à la Commission de présenter des propositions afin d’adapter les règles de sécurité de l’Union européenne pour les produits faisant l’objet d’un acte législatif de l’Union fixant des exigences harmonisées, y compris la directive relative aux machines(7), la directive relative à la sécurité des jouets(8), la directive sur les équipements radioélectriques(9) et la directive «basse tension»(10), et pour les produits «non harmonisés» couverts par la directive relative à la sécurité générale des produits(11), pour veiller à ce que les nouvelles règles soient adaptées à la finalité recherchée, à ce que les utilisateurs et consommateurs soient protégés, à ce que les fabricants puissent connaître clairement les obligations qui leur incombent et à ce que les utilisateurs sachent clairement comment utiliser les produits présentant des capacités de prise de décision automatisée;

7.  souligne la nécessité d’une approche de la réglementation qui soit fondée sur les risques, compte tenu de la diversité et de la complexité des enjeux découlant des différents types et applications de l’IA et des systèmes de prise de décision automatisés; invite la Commission à élaborer un système d’évaluation des risques pour l’IA et la prise de décision automatisée afin de garantir une approche cohérente de la mise en œuvre de la législation relative à la sécurité des produits dans le marché intérieur; souligne que les États membres doivent développer des stratégies harmonisées de gestion des risques pour l’IA dans le contexte de leurs propres stratégies nationales de surveillance du marché;

8.  fait observer que la directive sur la responsabilité du fait des produits défectueux(12) offre depuis plus de 30 ans un précieux filet de sécurité pour protéger les consommateurs des dangers des produits défectueux; a conscience qu’il est difficile d’établir les responsabilités lorsqu’un préjudice subi par un consommateur découle de processus de prise de décision autonomes; invite la Commission à réexaminer cette directive et à envisager d’adapter les concepts tels que «produit», «dommage» et «défaut», et d’adapter les règles relatives à la charge de la preuve; prie instamment la Commission de présenter des propositions pour mettre ces concepts et ces règles à jour s’il y a lieu;

Cadre réglementaire pour les services

9.  rappelle que le cadre réglementaire existant relatif aux services, qui se compose de la directive sur les services(13), de la directive sur les qualifications professionnelles(14), de la directive relative à un contrôle de proportionnalité(15), de la directive sur le commerce électronique(16) et du règlement général sur la protection des données (RGPD)(17), couvre déjà de nombreux aspects pertinents pour les services qui intègrent des processus de prise de décision automatisés, y compris des règles en matière de protection des consommateurs, d’éthique et de responsabilité; fait observer que de telles règles devraient s’appliquer aussi bien aux services traditionnels qu’aux services intégrant des processus de prise de décision automatisés;

10.  souligne que, si les processus de prise de décision automatisés peuvent certes renforcer l’efficacité et la précision des services, les êtres humains doivent toujours être, au final, les responsables des décisions qui sont prises dans le contexte de services professionnels des professions du domaine médical, juridique et comptable, ainsi que dans le secteur bancaire, et que les êtres humains doivent toujours pouvoir passer outre lesdites décisions; rappelle l’importance du contrôle ou d’une surveillance indépendante par des professionnels qualifiés en cas de prise de décision automatisée lorsque des intérêts publics légitimes sont en jeu;

11.  souligne l’importance, conformément à la directive relative à un contrôle de proportionnalité, d’évaluer correctement les risques avant d’automatiser des services professionnels; demande instamment aux autorités compétentes des États membres de veiller à ce que la formation professionnelle tienne compte des avancées scientifiques dans le domaine de la prise de décision automatisée;

Qualité et transparence dans la gouvernance des données

12.  relève que les systèmes de prise de décision automatisés dépendent de la collecte de quantités importantes de données, et est convaincu que le règlement sur le libre flux des données à caractère non personnel(18) contribuera à rendre davantage de données disponibles dans toute l’Union européenne, permettant ainsi la création de services innovants dépendant des données; reconnaît le potentiel que présente le partage de données, non seulement provenant de sources publiques mais aussi privées, tout en soulignant l’impératif que constitue la protection des données à caractère personnel dans le cadre du RGPD; souligne l’importance d’utiliser uniquement des données non faussées et de qualité pour améliorer les résultats des systèmes algorithmiques et renforcer la confiance et l’acceptation des consommateurs;

13.  souligne qu’à la lumière de l’incidence significative que les systèmes de prise de décision automatisés peuvent avoir sur les consommateurs, en particulier ceux qui se trouvent en situation de vulnérabilité, il importe non seulement que ces systèmes utilisent des ensembles de données de qualité et non faussées mais aussi qu’ils utilisent des algorithmes explicables et impartiaux; estime que des structures de réexamen sont nécessaires au sein des processus des entreprises afin qu’il soit possible de remédier à d’éventuelles erreurs dans les prises de décision automatisées et que les consommateurs devraient être en mesure de réclamer un réexamen et une correction, par un être humain, des décisions automatisées qui sont définitives et permanentes;

14.  souligne que, pour analyser si des produits présentant des capacités de prise de décision automatisée sont conformes aux règles applicables en matière de sécurité, il est essentiel que les algorithmes sous-tendant ces capacités soient suffisamment transparents, et explicables vis-à-vis des autorités de surveillance du marché; invite la Commission à étudier si des prérogatives supplémentaires devraient, à cet égard, être accordées aux autorités de surveillance du marché;

15.  demande à la Commission de surveiller étroitement la mise en œuvre du règlement sur les relations entre les plateformes et les entreprises(19), en particulier les règles relatives à la transparence des classements, qui ont recours à des processus de prise de décision automatisés;

o
o   o

16.  charge son Président de transmettre la présente résolution au Conseil et à la Commission.

(1) Textes adoptés de cette date, P8_TA(2019)0081.
(2) JO C 252 du 18.7.2018, p. 239.
(3) Directive (UE) 2019/2161 du Parlement Européen et du Conseil du 27 novembre 2019 modifiant la directive 93/13/CEE du Conseil et les directives 98/6/CE, 2005/29/CE et 2011/83/UE du Parlement européen et du Conseil en ce qui concerne une meilleure application et une modernisation des règles de l’Union en matière de protection des consommateurs (JO L 328 du 18.12.2019, p. 7).
(4) Règlement (UE) 2018/302 du Parlement européen et du Conseil du 28 février 2018 visant à contrer le blocage géographique injustifié et d’autres formes de discrimination fondée sur la nationalité, le lieu de résidence ou le lieu d’établissement des clients dans le marché intérieur, et modifiant les règlements (CE) nº 2006/2004 et (UE) 2017/2394 et la directive 2009/22/CE (JO L 60 I du 2.3.2018, p. 1).
(5) JO L 165 du 18.6.2013, p. 63.
(6) JO L 165 du 18.6.2013, p. 1.
(7) Directive 2006/42/CE du Parlement européen et du Conseil du 17 mai 2006 relative aux machines et modifiant la directive 95/16/CE (refonte) (JO L 157 du 9.6.2006, p. 24).
(8) Directive 2009/48/CE du Parlement européen et du Conseil du 18 juin 2009 relative à la sécurité des jouets (JO L 170 du 30.6.2009, p. 1).
(9) Directive 2014/53/UE du Parlement européen et du Conseil du 16 avril 2014 relative à l’harmonisation des législations des États membres concernant la mise à disposition sur le marché d’équipements radioélectriques et abrogeant la directive 1999/5/CE (JO L 153 du 22.5.2014, p. 62).
(10) Directive 2014/35/UE du Parlement européen et du Conseil du 26 février 2014 relative à l’harmonisation des législations des États membres concernant la mise à disposition sur le marché du matériel électrique destiné à être employé dans certaines limites de tensions (JO L 96 du 29.3.2014, p. 357).
(11) Directive 2001/95/CE du Parlement européen et du Conseil du 3 décembre 2001 relative à la sécurité générale des produits (JO L 11 du 15.1.2002, p. 4).
(12) Directive 85/374/CEE du Conseil du 25 juillet 1985 relative au rapprochement des dispositions législatives, réglementaires et administratives des États membres en matière de responsabilité du fait des produits défectueux (JO L 210 du 7.8.1985, p. 29).
(13) Directive 2006/123/CE du Parlement européen et du Conseil du 12 décembre 2006 relative aux services dans le marché intérieur (JO L 376 du 27.12.2006, p. 36).
(14) Directive 2013/55/UE du Parlement européen et du Conseil du 20 novembre 2013 modifiant la directive 2005/36/CE relative à la reconnaissance des qualifications professionnelles et le règlement (UE) nº 1024/2012 concernant la coopération administrative par l’intermédiaire du système d’information du marché intérieur («règlement IMI») (JO L 354 du 28.12.2013, p. 132).
(15) Directive (UE) 2018/958 du Parlement européen et du Conseil du 28 juin 2018 relative à un contrôle de proportionnalité avant l’adoption d’une nouvelle réglementation de professions (JO L 173 du 9.7.2018, p. 25).
(16) Directive 2000/31/CE du Parlement européen et du Conseil du 8 juin 2000 relative à certains aspects juridiques des services de la société de l’information, et notamment du commerce électronique, dans le marché intérieur («directive sur le commerce électronique») (JO L 178 du 17.7.2000, p. 1).
(17) Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données) (JO L 119 du 4.5.2016, p. 1).
(18) Règlement (UE) 2018/1807 du Parlement européen et du Conseil du 14 novembre 2018 établissant un cadre applicable au libre flux des données à caractère non personnel dans l’Union européenne (JO L 303 du 28.11.2018, p. 59).
(19) Règlement (UE) 2019/1150 du Parlement européen et du Conseil du 20 juin 2019 promouvant l’équité et la transparence pour les entreprises utilisatrices de services d’intermédiation en ligne (JO L 186 du 11.7.2019, p. 57).

Dernière mise à jour: 14 septembre 2020Avis juridique - Politique de confidentialité