RAPPORT sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique
30.1.2019 - (2018/2088(INI))
Commission de l’industrie, de la recherche et de l’énergie
Rapporteur: Ashley Fox
Rapporteurs pour avis (*):Dita Charanzová, commission du marché intérieur et de la protection des consommateurs
Mady Delvaux, commission des affaires juridiques
Michał Boni, commission des libertés civiles, de la justice et des affaires intérieures
(*) Commissions associées – article 54 du règlement intérieur
- PROPOSITION DE RÉSOLUTION DU PARLEMENT EUROPÉEN
- AVIS de la commission du marché intérieur et de la protection des consommateurs
- AVIS DE LA COMMISSION DES AFFAIRES JURIDIQUES SUR LA BASE JURIDIQUE
- AVIS de la commission des libertés civiles, de la justice et des affaires intérieures
- AVIS de la commission de l’environnement, de la santé publique et de la sécurité alimentaire
- INFORMATIONS SUR L’ADOPTIONPAR LA COMMISSION COMPÉTENTE AU FOND
- VOTE FINAL PAR APPEL NOMINAL EN COMMISSION COMPÉTENTE AU FOND
PROPOSITION DE RÉSOLUTION DU PARLEMENT EUROPÉEN
sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique
Le Parlement européen,
– vu sa résolution du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique[1],
– vu sa résolution du 1er juin 2017 sur le passage au numérique des entreprises européennes[2],
– vu sa résolution du 12 septembre 2018 sur les systèmes d’armes autonomes[3],
– vu sa résolution du 11 septembre 2018 sur l’égalité des langues à l’ère numérique[4],
– vu la proposition de la Commission du 6 juin 2018 établissant le programme pour une Europe numérique pour la période 2012-2027 (COM(2018)0434),
– vu le règlement (UE) 2018/1488 du Conseil du 28 septembre 2018 établissant l’entreprise commune pour le calcul à haute performance européen[5],
– vu l’article 52 de son règlement intérieur,
– vu le rapport de la commission de l’industrie, de la recherche et de l’énergie et les avis de la commission du marché intérieur et de la protection des consommateurs, de la commission des affaires juridiques, de la commission des libertés civiles, de la justice et des affaires intérieures et de la commission de l’environnement, de la santé publique et de la sécurité alimentaire (A8-0019/2019),
A. considérant qu’une intelligence artificielle (IA) et une robotique transparentes et intégrant l’éthique sont potentiellement en mesure d’enrichir nos vies et de renforcer nos capacités, tant sur le plan individuel que pour le bien commun;
B considérant que l’IA évolue rapidement et qu’elle fait déjà partie de notre vie quotidienne depuis plusieurs années; que l’IA et la robotique stimulent l’innovation, donnant lieu à de nouveaux modèles d’entreprise et jouant un rôle clé dans la transformation de nos sociétés et la numérisation de nos économies dans de nombreux secteurs, tels que l’industrie, les soins de santé, la construction et les transports;
C. considérant que l’intégration croissante de la robotique dans des systèmes humains nécessite des orientations politiques fortes sur la manière de tirer le meilleur parti des avantages et de réduire au minimum les risques pour la société, ainsi que de garantir le développement sûr et équitable de l’intelligence artificielle;
D. considérant que l’intelligence artificielle constitue l’une des technologies stratégiques du 21e siècle, tant au niveau mondial qu’européen, qui apporte des évolutions positives à l’économie européenne et favorise l’innovation, la productivité, la compétitivité et le bien-être;
E. considérant qu’un quart de tous les robots industriels et la moitié des robots de services professionnels produits à l’échelle mondiale le sont par des entreprises européennes et que l’Union dispose donc déjà d’atouts non négligeables sur lesquels elle devrait fonder sa politique industrielle européenne;
F. considérant que l’IA et la robotique sont potentiellement en mesure de remodeler des secteurs industriels multiples, de générer des gains d’efficacité et de productivité et de renforcer la compétitivité de l’industrie et des petites et moyennes entreprises (PME) européennes sur la scène internationale; que pour le développement de l’intelligence artificielle, il est crucial de disposer d’ensembles de données et d’installations d’essai et d’expérimentation à grande échelle;
G. considérant qu’une approche commune facilitera le développement des technologies de l’IA au profit de la société et permettra de répondre aux défis posés par ces technologies afin de favoriser l’innovation, d’améliorer la qualité des produits et des services reposant sur l’IA, d’améliorer l’expérience des consommateurs et leur confiance dans les technologies de l’IA et la robotique, et d’éviter une fragmentation du marché intérieur;
H. considérant que la performance informatique doit être maintenue à un niveau de pointe dans l’Union, ce qui devrait offrir des possibilités au secteur de l’approvisionnement de l’Union et renforcer l’efficacité de ce secteur pour ce qui est de transformer les évolutions technologiques en produits et services axés sur la demande et les applications, conduisant à leur intégration dans des applications émergentes à grande échelle, en se fondant sur l’intelligence artificielle;
I. considérant qu’une approche coordonnée au niveau européen est instamment nécessaire afin que l’Union soit en mesure de rivaliser avec les investissements de masse effectués par des pays tiers, notamment les États-Unis et la Chine;
J. considérant que le 25 avril 2018[6], la Commission s’est engagée à proposer une approche européenne de l’intelligence artificielle en élaborant un projet de lignes directrices dans le domaine de l’intelligence artificielle, en coopération avec des parties prenantes dans le cadre d’une Alliance européenne pour l’IA, un groupe d’experts dans le domaine de l’intelligence artificielle, afin de promouvoir les applications qui font appel à l’IA et les entreprises qui l’utilisent en Europe;
K. considérant que les règles et les processus actuels devraient être examinés et, le cas échéant, modifiés pour tenir compte de l’intelligence artificielle et de la robotique;
L. considérant que le cadre européen pour l’IA doit être élaboré dans le plein respect des droits définis par la charte des droits fondamentaux de l’Union et notamment des principes de protection des données, de la vie privée et de la sécurité;
M. considérant que les évolutions dans le domaine de l’intelligence artificielle peuvent et devraient être conçues de façon à préserver la dignité, l’autonomie et l’autodétermination des individus;
N. considérant que, dans sa résolution du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique, le Parlement a demandé à la Commission de proposer un cadre juridique cohérent régissant le développement de la robotique, y compris les systèmes autonomes et les robots autonomes intelligents;
O. considérant que le développement de l’IA et de la robotique doit profiter à l’ensemble de la société; considérant toutefois qu’en 2017, les zones rurales étaient toujours exclues des avantages liés à l’IA, étant donné que 8 % des ménages n’avaient pas accès au réseau fixe et que 53 % n’avaient accès à aucune technologie d’accès de nouvelle génération (VDSL, réseau câblé Docsis 3.0 ou FTTP);
P. considérant que le développement de produits et de services reposant sur l’IA nécessite la connectivité, la libre circulation et l’accessibilité des données au sein de l’Union; que l’utilisation de techniques avancées d’extraction de données dans les produits et les services peut contribuer à accroître la qualité de la prise de décision et, partant, à élargir le choix des consommateurs et à améliorer les performances des entreprises;
Q. considérant que les développements technologiques concernant des produits et services intelligents peuvent bénéficier à l’économie de la connaissance, qui repose sur la quantité, la qualité et l’accessibilité des informations disponibles, et peuvent permettre ainsi une meilleure adaptation aux besoins des consommateurs;
R. considérant que la cybersécurité a un rôle essentiel à jouer pour garantir que les données ne soient pas corrompues par malveillance ou utilisées abusivement de manière à ce que l’IA nuise aux citoyens ou aux entreprises, ce qui porterait préjudice à l’industrie et réduirait la confiance des consommateurs dans l’IA; que les progrès dans le domaine de l’IA font que l’on s’appuie de plus en plus sur ces systèmes pour des décisions ou des actions, ce qui rend des normes élevées en matière de cyber-résilience indispensables au sein de l’Union afin de prévenir les atteintes à la cybersécurité et les failles;
S. considérant que la tendance à l’automatisation exige que les personnes participant au développement et à la commercialisation des applications de l’intelligence artificielle y intègrent la sécurité et les valeurs déontologiques dès le départ et reconnaissent ainsi qu’elles doivent être prêtes à accepter la responsabilité juridique de la qualité de la technologie qu’elles produisent;
T. considérant que l’établissement d’un écosystème de confiance en matière de développement des technologies de l’IA devrait reposer sur un cadre approprié de traitement des données; que cela implique la création de programmes de collecte et de gestion des données fluides et simplifiés aux fins de la recherche pédagogique pour favoriser le développement de l’IA dans de nombreux domaines, tels que la médecine, les finances, la biologie, l’énergie, l’industrie, la chimie ou le secteur public; qu’un écosystème de l’IA fondé sur les données pourrait comprendre des initiatives européennes lancées en utilisant des normes ouvertes et reposant sur la reconnaissance mutuelle des certificats et des règles transparentes d’interopérabilité;
U. considérant que l’utilisation de l’IA à elle seule ne garantit pas la vérité ou l’équité, étant donné que des biais peuvent être introduits dans la manière dont les données sont collectées et dont l’algorithme est écrit et peuvent être dérivés de biais présents dans la société; considérant que la qualité des données ainsi que la conception des algorithmes et des processus de réévaluation constante devraient empêcher les biais;
V. considérant que l’IA et la robotique devraient être développées et déployées de manière centrée sur l’homme en vue de soutenir les personnes dans le cadre de leur travail et à leur domicile; que l’IA peut également être utilisée pour éviter que des personnes n’aient à effectuer des tâches dangereuses;
W. considérant qu’un développement et une utilisation accrus des processus décisionnels automatiques et algorithmiques ont sans aucun doute une incidence sur les choix opérés par des individus (comme des hommes d’affaires ou des internautes) et des autorités administratives, judiciaires ou autres autorités publiques lorsqu’ils prennent une décision finale en tant que consommateur, entreprise ou autorité; qu’il est nécessaire d’intégrer des garanties et des possibilités de contrôle et de vérification par l’homme dans les processus décisionnels automatiques et algorithmiques;
X. considérant que l’apprentissage automatique présente également des défis en termes de garantie de la non-discrimination, de respect de la légalité, de transparence et de clarté des processus de prise de décision;
Y. considérant que l’IA constitue un outil important pour relever les défis de société mondiaux et que les États membres, par l’intermédiaire de leur politique publique, devraient par conséquent promouvoir l’investissement, dégager des fonds pour la recherche et le développement et éliminer les obstacles au développement et à l’adoption de l’IA;
Z. considérant que des plateformes commerciales d’intelligence artificielle sont passées du stade des essais à celui des applications concrètes dans les domaines de la santé, de l’environnement, de l’énergie et des transports; que les techniques d’apprentissage automatique sont au cœur de l’ensemble des principales plateformes en ligne et des applications de mégadonnées;
AA. considérant que les chercheurs et les entreprises d’Europe travaillent sur des sujets nombreux et variés liés aux chaînes de blocs, allant de la chaîne d’approvisionnement aux services gouvernementaux, en passant par la finance, l’internet des objets, les soins de santé, les médias, les villes intelligentes, l’énergie et les transports; considérant que l’Europe est un acteur majeur dans des domaines importants liés aux chaînes de blocs, tels que l’IA; que les chaînes de blocs peuvent jouer un rôle important dans la dynamisation de l’innovation européenne;
AB. considérant que les technologies relatives à la cybersécurité comme les identités numériques, la cryptographie ou la détection des intrusions et leur application dans des domaines comme la finance, l’industrie 4.0, l’énergie, les transports, les soins de santé et l’administration en ligne sont essentielles pour garantir la sûreté et la fiabilité des activités et transactions en ligne des citoyens, des administrations publiques et des sociétés;
AC. considérant que la fouille de textes et l’exploration des données sont le fondement des applications de l’IA et de l’apprentissage automatique et qu’elles sont essentielles pour les PME et les jeunes entreprises, car elles leur permettent d’accéder à une grande quantité de données en vue d’entraîner les algorithmes d’IA;
AD. considérant que l’IA pourrait s’avérer consommer beaucoup d’énergie; qu’en conséquence, il est important que l’utilisation des progrès de l’IA soit conforme aux objectifs actuels de l’Union en matière d’efficacité énergétique et d’économie circulaire;
AE. considérant que l’IA devrait pleinement prendre en charge l’ensemble des langues européennes afin d’offrir à tous les Européens les mêmes chances de tirer parti de l’évolution moderne de l’IA au sein de la société de l’information multilingue européenne;
AF. considérant que, dans les domaines de l’industrie et des services liés aux technologies de pointe, l’IA est essentielle pour faire de l’Europe un continent des jeunes pousses («start-up continent») en exploitant les technologies les plus récentes afin de générer de la croissance en Europe, en particulier dans les domaines des technologies de la santé, des services et programmes de soins de santé, de la découverte de médicaments, de la robotique et de la chirurgie assistée par robot, du traitement des maladies chroniques, ainsi que de l’imagerie médicale et des dossiers médicaux, et pour garantir un environnement durable ainsi que la sécurité de la production alimentaire; considérant qu’à l’heure actuelle, l’Europe accuse un retard vis-à-vis de l’Amérique du Nord et de l’Asie en ce qui concerne la recherche et les brevets dans le domaine de l’intelligence artificielle;
AG. considérant que le développement des technologies de l’IA est susceptible de contribuer à améliorer la vie des personnes atteintes de maladies chroniques et des personnes handicapées et à relever des défis sociaux tels que le vieillissement de la population en rendant plus précises et plus efficaces les technologies de la santé en matière de soins de santé;
AH. considérant qu’il existe un large éventail d’applications potentielles de l’IA et de la robotique dans le domaine des soins de santé, telles que la gestion des données et des dossiers médicaux, l’accomplissement de tâches répétitives (analyses de tests, radiographies, tomodensitométries, saisie de données), l’élaboration de traitements, la consultation numérique (comme la consultation médicale s’appuyant sur des antécédents médicaux personnels et sur des connaissances médicales générales), les infirmières virtuelles, la gestion de la médication, la conception de médicaments, la médecine de précision (comme la génétique et la génomique qui recherchent des mutations et des liens avec les pathologies dans les informations fournies par l’ADN), le suivi de santé, l’analyse des systèmes de soins de santé, parmi d’autres applications;
AI. considérant que l’accessibilité ne signifie pas les mêmes services et les mêmes équipements pour tous; que l’accessibilité de l’IA et de la robotique s’appuie sur une planification et une conception inclusives; que les besoins, les souhaits et le vécu des utilisateurs doivent constituer le point de départ de la conception;
AJ. considérant qu’il existe de fortes préoccupations éthiques, psychologiques et juridiques quant à l’autonomie des robots, à leur manque évident d’empathie humaine et à leur impact sur la relation entre le médecin et le patient, qui n’ont pas encore été traitées de manière adéquate au niveau de l’Union, notamment en ce qui concerne la protection des données à caractère personnel des patients, la responsabilité des actes réalisés par les robots et les nouvelles relations économiques et de travail qui en résultent; que l’«autonomie» en tant que telle ne peut être pleinement l’attribut que des êtres humains; qu’il est nécessaire de mettre en place un cadre juridique et éthique solide pour l’intelligence artificielle;
AK. considérant que l’introduction de l’intelligence artificielle dans le domaine de la santé en particulier doit toujours respecter le principe de responsabilité selon lequel «l’humain contrôle la machine»;
1. Une société soutenue par l’intelligence artificielle et la robotique
1.1. Le travail à l’ère de l’intelligence artificielle et de la robotique
1. souligne que l’automatisation combinée à l’intelligence artificielle va accroître la productivité et donc augmenter la production; fait observer que, comme lors des révolutions technologiques précédentes, certains emplois seront remplacés mais que de nouveaux emplois seront également créés, qui transformeront les vies et les pratiques professionnelles; souligne que l’utilisation accrue de la robotique et de l’IA devrait également réduire l’exposition de l’homme à des conditions nocives et dangereuses et contribuer à créer davantage d’emplois de qualité et décents, ainsi qu’à améliorer la productivité;
2. invite instamment les États membres à se concentrer sur la reconversion des travailleurs des secteurs les plus touchés par l’automatisation des tâches; souligne que les nouveaux programmes éducatifs devraient se concentrer sur le développement des compétences des travailleurs afin qu’ils puissent saisir les possibilités d’emploi parmi les nouveaux emplois créés par l’IA; encourage l’élaboration de programmes d’alphabétisation numérique dans les écoles ainsi que la fixation de priorités en matière d’apprentissage et de formation professionnelle pour aider les travailleurs à s’adapter à l’évolution technologique;
3. recommande que les États membres, aux côtés des acteurs du secteur privé, répertorient les risques et élaborent des stratégies afin de garantir la mise au point de programmes pertinents de reconversion et de requalification; souligne que les entreprises elles-mêmes doivent investir dans la formation et la requalification de leur main-d’œuvre existante en vue de répondre à leurs besoins;
4. souligne que le développement de la robotique dans l’Union aura une incidence importante sur les relations du travail; estime qu’il convient de gérer cette incidence de manière équilibrée afin de promouvoir la réindustrialisation et de permettre aux travailleurs de bénéficier aussi des gains de productivité;
5. constate que, dans le paysage industriel actuel, il existe un équilibre fragile entre les propriétaires et les travailleurs; estime que les progrès en matière de déploiement de l’IA dans l’industrie doivent s’accompagner d’une large consultation des partenaires sociaux, car l’éventuelle mutation du nombre de personnes travaillant dans l’industrie requiert la mise en place de politiques proactives visant à aider les travailleurs à s’adapter aux nouvelles exigences ainsi qu’à garantir le partage global des bénéfices; considère que cela suppose de repenser et de réviser les politiques du marché du travail ainsi que les systèmes de sécurité sociale et la fiscalité;
6. invite instamment les États membres à éliminer les obstacles à l’entrée dans le marché du travail, tels que les qualifications excessives;
7. estime que l’habileté numérique constitue l’un des facteurs clés du développement de l’IA et demande instamment à la Commission et aux États membres d’élaborer et de mettre en œuvre des stratégies de formation et de reconversion dans le domaine des compétences numériques; constate que l’habileté numérique peut encourager une large participation, ouverte à tous, aux solutions de l’économie fondée sur les données et faciliter la communication et la coopération avec l’ensemble des parties prenantes;
8 fait observer que, comme des citoyens de tout âge seront concernés, il convient d’adapter les programmes d’enseignement, y compris en mettant en place de nouveaux parcours de formation et au moyen de nouvelles technologies de transmission; souligne qu’il convient d’aborder de manière adéquate les aspects pédagogiques; estime notamment qu’il faut inclure l’acquisition des compétences numériques, y compris la programmation, dans l’éducation et la formation, depuis l’enseignement fondamental jusqu’à l’apprentissage tout au long de la vie;
1.2. Utilisation malveillante de l’intelligence artificielle et droits fondamentaux
9. souligne que les usages malveillants ou négligents de l’IA pourraient mettre en péril la sécurité numérique, physique et publique, car l’intelligence artificielle pourrait être utilisée pour mener des attaques à grande échelle, finement ciblées et très efficaces contre des services de la société de l’information et des machines connectées, ainsi que pour mener des campagnes de désinformation et plus généralement pour réduire les possibilités d’exercice, par les citoyens, de leur droit à l’autodétermination; relève que les usages malveillants ou négligents de l’IA pourraient également représenter un danger pour la démocratie et les droits fondamentaux;
10. invite la Commission à proposer un cadre qui réprime les pratiques de manipulation de la perception lorsque du contenu personnalisé ou des fils d’actualité sont à l’origine de sentiments négatifs et d’une déformation de la perception de la réalité susceptibles d’avoir des répercussions néfastes (vis-à-vis, par exemple, de résultats électoraux ou de problématiques sociales telles que la migration);
11. souligne l’importance d’apprendre à cerner et à surveiller les risques liés directement et indirectement au développement de l’IA; préconise que la recherche consacrée à l’IA s’attache également à repérer les cas où l’IA et la robotique peuvent être corrompues, que ce soit accidentellement ou par malveillance;
12. invite instamment la Commission à prendre connaissance des défis sociaux découlant des pratiques de classement des citoyens; souligne que les citoyens ne devraient pas faire l’objet d’une discrimination sur la base de leur classement et qu’ils devraient avoir le droit à une «seconde chance»;
13. exprime sa vive préoccupation quant à l’emploi d’applications d’IA, y compris la reconnaissance faciale et vocale, dans des programmes de «surveillance des émotions», c’est-à-dire le suivi des conditions mentales des travailleurs et des citoyens en vue d’accroître la productivité et de préserver la stabilité sociale, parfois associés à des systèmes de «crédit social», tels que ceux déjà mis en œuvre en Chine, par exemple; souligne que ces programmes sont par nature contraires aux valeurs et aux normes européennes de protection des droits et des libertés des individus;
2. La voie technologique vers l’intelligence artificielle et la robotique
2.1. Recherche et développement
14. rappelle que l’Europe abrite une communauté de chercheurs en IA de premier ordre sur le plan mondial, qui représente 32 % des institutions de recherche sur l’IA dans le monde;
15. salue la proposition de la Commission relative au programme pour une Europe numérique et le budget de 2,5 milliards d’euros consacré à l’intelligence artificielle, ainsi que la hausse du financement au titre du programme Horizon 2020; comprend l’importance du financement de l’Union pour compléter les budgets dédiés à la recherche de l’industrie et des États membres en matière d’IA, ainsi que la nécessité d’une collaboration entre les programmes de recherche publics, privés et européens;
16. soutient les objectifs opérationnels du programme pour une Europe numérique visant à accroître les capacités fondamentales de l’intelligence artificielle et à les renforcer dans l’Union, à les rendre accessibles à toutes les entreprises et administrations publiques, ainsi qu’à consolider et mettre en réseau les installations existantes d’essai et d’expérimentation dans le domaine de l’intelligence artificielle dans les États membres;
17. encourage les États membres à mettre sur pied des partenariats avec de multiples parties prenantes issues de l’industrie et des instituts de recherche ainsi que des centres d’excellence communs en matière d’IA;
18. souligne que la recherche en matière d’IA doit investir non seulement dans la technologie et l’innovation mais aussi dans les domaines sociaux, éthiques et de la responsabilité liés à l’IA; estime que tout modèle d’IA déployé doit être éthique dès sa conception;
19. relève que, si elles favorisent le progrès au bénéfice de la société et de l’environnement, la recherche en matière d’IA et les activités connexes devraient être menées conformément au principe de précaution et aux droits fondamentaux; souligne que toutes les personnes participant au développement, à l’application, à la diffusion et à l’utilisation de l’intelligence artificielle devraient apprécier à leur juste valeur et respecter la dignité humaine ainsi que l’autodétermination et le bien-être, physique comme psychologique, des individus et de la société dans son ensemble, prévoir les conséquences potentielles en matière de sécurité et prendre les précautions nécessaires eu égard au niveau de protection souhaité, y compris par la communication rapide des facteurs qui risquent de mettre les personnes ou l’environnement en péril;
20. met en évidence le fait qu’un environnement de recherche compétitif constitue un élément clé du développement de l’intelligence artificielle; souligne l’importance de soutenir les travaux de recherche d’excellence, y compris les projets de sciences fondamentales et les projets à risque élevé et à haut rendement, et de favoriser un domaine européen de la recherche offrant des conditions attrayantes en matière de financement, de mobilité et d’accès à l’infrastructure et à la technologie dans l’ensemble de l’Union, fondé sur le principe d’ouverture vis-à-vis des pays tiers et de l’expertise extérieure à l’Union, à condition qu’il ne soit pas porté atteinte à la cybersécurité de l’Union;
21. souligne que les chercheurs de l’Union continuent d’être nettement moins rémunérés que leurs homologues américains et chinois et qu’il est connu que cela constitue la principale raison de leur exode; lance un appel à la Commission et aux États membres pour qu’ils s’efforcent d’attirer les meilleurs talents pour les entreprises européennes et invite les États membres à mettre en place des conditions attrayantes à cet effet;
22. souligne que l’Europe doit consacrer son nouveau programme phare FET[7] à l’intelligence artificielle, en mettant tout particulièrement l’accent sur une approche centrée sur l’homme et les technologies du langage;
23. estime que l’intelligence artificielle, l’apprentissage automatique et les développements exponentiels enregistrés dans la disponibilité des données et l’informatique en nuage stimulent les initiatives de recherche visant à comprendre la biologie moléculaire et cellulaire, à guider le développement des traitements médicaux et à analyser les flux de données afin de détecter les menaces pour la santé, de prévoir les foyers de maladies et de conseiller les patients; constate que l’exploration de données et les systèmes de données et de navigation peuvent être utilisés pour recenser les lacunes, les risques, les tendances et caractéristiques en matière de soins;
24. relève que, lorsque des risques apparaissent comme un élément inhérent et inévitable d’une recherche en matière d’IA, des protocoles robustes d’évaluation et de gestion des risques doivent être développés et respectés, en tenant compte de l’exigence selon laquelle le risque de dommages ne doit pas être supérieur à celui rencontré dans la vie normale (c’est-à-dire que les individus ne doivent pas être exposés à des risques plus grands ou plus nombreux que ceux auxquels ils s’exposent du fait d’un mode de vie normal);
2.2. Investissements
25. note l’importance d’investir davantage dans ce domaine afin de rester compétitif; reconnaît que, bien que la majeure partie de l’investissement et de l’innovation dans ce domaine provienne d’entreprises privées, les États membres et la Commission devraient également être encouragés à poursuivre l’investissement dans la recherche dans ce secteur et à définir leurs priorités en matière de développement; se félicite de la proposition relative au programme EU Invest et d’autres partenariats entre les secteurs public et privé qui encourageront le financement privé; estime que la coordination des investissements privés et publics devrait être encouragée afin de veiller à ce que le développement soit ciblé;
26. souligne que les investissements dans l’IA qui peuvent présenter des niveaux d’incertitude considérables doivent être complétés par un financement européen, issu, par exemple, de la Banque européenne d’investissement (BEI), du Fonds européen d’investissement (FEI), du programme Invest EU ou du Fonds européen pour les investissements stratégiques (EFSI), de telles sources de financement pouvant contribuer au partage des risques;
27. invite instamment la Commission à ne pas financer les projets visant à intégrer l’IA dans des armements; invite instamment la Commission à exclure du financement de l’Union les entreprises qui se consacrent à la recherche et au développement de la conscience artificielle;
28. recommande à la Commission de veiller à ce que la propriété intellectuelle de la recherche menée au moyen des fonds publics de l’Union reste dans l’Union et entre les mains des universités européennes;
2.3. Innovation, acceptation par la société et responsabilité
29. constate que l’ensemble des avancées technologiques notables ont nécessité une période de transition, au cours de laquelle la majeure partie de la société a dû acquérir une meilleure compréhension de la technologie pour l’intégrer dans sa vie quotidienne;
30. fait observer que l’avenir de cette technologie dépendra de son acceptation par la société et qu’il convient de mettre davantage l’accent sur la communication appropriée de ses avantages pour permettre une meilleure compréhension de la technologie et de ses applications; fait également observer que si la société n’est pas suffisamment informée sur les technologies de l’IA, il y aura moins de motivation pour l’innovation dans ce secteur;
31. estime que l’acception du public s’appuie sur la manière dont ce dernier est informé des possibilités, des défis et des évolutions de l’intelligence artificielle; recommande aux États membres et à la Commission de faciliter l’accès à des informations crédibles visant à répondre aux principales préoccupations vis-à-vis de l’IA et de la robotique, comme le respect de la vie privée, la sécurité et la transparence dans la prise de décision;
32. se félicite de l’utilisation de «bacs à sable réglementaires» pour introduire, en coopération avec les régulateurs, de nouvelles idées innovantes permettant de mettre en place des garanties dans la technologie dès le début, en facilitant et en encourageant ainsi son entrée sur le marché; souligne la nécessité d’introduire des bacs à sable réglementaires spécifiques à l’IA afin de tester la sécurité et l’efficacité de l’utilisation des technologies de l’IA dans un environnement réel;
33. constate qu’afin de parvenir à une meilleure acceptation de l’intelligence artificielle par la société, il doit être garanti que les systèmes utilisés sont sûrs et sécurisés;
34. constate que l’intelligence artificielle et les technologies du langage peuvent proposer des applications importantes visant à encourager l’unité de l’Europe dans sa diversité, telles que la traduction automatisée, les dialogueurs et les assistants personnels, les interfaces orales pour les robots et l’internet des objets, l’analyse intelligente et l’identification automatisée de la propagande en ligne, des fausses informations et des discours de haine;
2.4. Conditions d’appui: connectivité, accessibilité des données et informatique à haute performance, et infrastructure en nuage
35. souligne que, pour permettre l’intégration de la robotique et des technologies de l’IA dans l’économie et dans la société, une infrastructure numérique fournissant une connectivité universelle est nécessaire;
36. souligne que la connectivité constitue une condition préalable pour que l’Europe fasse partie de la société du gigabit et que l’IA est un exemple précis de la croissance exponentielle d’une demande de connectivité de haute qualité, rapide, sécurisée et omniprésente; estime que l’Union et les États membres devraient continuer à favoriser les mesures qui encouragent l’investissement dans des réseaux à très haute capacité dans l’Union et l’adoption de ceux-ci;
37. souligne qu’un développement rapide, sûr et sécurisé de la 5G est essentiel pour garantir que l’Union puisse tirer pleinement avantage de l’IA et se protéger contre les menaces pour la cybersécurité, en rendant possible le renouvellement et le développement des industries et des services, qui constituent l’épine dorsale de l’économie européenne, ainsi qu’en soutenant l’émergence de nouveaux services, modes de production et marchés, critères indispensables à la création de nouveaux emplois et au maintien d’un taux d’emploi élevé;
38. rappelle que la disponibilité de données de haute qualité et significatives est essentielle pour la compétitivité réelle du secteur de l’IA et demande aux pouvoirs publics de veiller à la production, au partage et à la gouvernance des données en faisant des données publiques un bien commun tout en protégeant la vie privée et les données sensibles;
39. souligne l’importance de la qualité des données utilisées dans l’apprentissage profond; fait observer que l’utilisation de données de mauvaise qualité, obsolètes, incomplètes ou incorrectes peut conduire à de mauvaises prévisions et en conséquence à une discrimination et à des biais;
40. estime que, grâce au nouvel ensemble de règles régissant la libre circulation des données à caractère non personnel dans l’Union, de plus en plus de données sont susceptibles de servir de base à l’innovation fondée sur les données, ce qui permet aux PME et aux jeunes entreprises de développer plus facilement des services innovants fondés sur l’IA et de pénétrer sur de nouveaux marchés, et aux citoyens et aux entreprises de bénéficier de meilleurs produits et services;
41. prend acte du fait que l’IA a le potentiel d’accroître l’efficacité, le confort et la protection sociale dans de nombreux secteurs si les parties prenantes industrielles existantes coopèrent avec les développeurs de l’IA; relève en outre qu’un volume important de données, qui ne sont pas à caractère personnel, sont actuellement en la possession de parties prenantes et peuvent être utilisées par l’intermédiaire de partenariats pour renforcer leur efficacité; considère qu’afin de concrétiser cette possibilité, la coopération entre les utilisateurs et les développeurs de l’IA est indispensable;
42. met l’accent sur l’importance de l’interopérabilité et de l’exactitude des données, afin de garantir un niveau élevé de fiabilité et le respect de normes strictes en matière de sécurité des nouvelles technologies;
43. estime que la réussite des applications de l’IA, lesquelles doivent être adaptées aux utilisateurs dans l’ensemble de l’Union, exige souvent une connaissance approfondie des marchés locaux ainsi qu’un accès aux données locales appropriées et l’utilisation de celles-ci dans le cadre de l’entraînement des jeux de données, du contrôle et de la validation des systèmes, notamment dans les secteurs associés au traitement automatique du langage naturel; demande aux États membres d’encourager la mise à disposition de données de qualité élevée, interopérables et ouvertes provenant à la fois du secteur public et de sources privées;
44. met en évidence la nécessité de veiller à une cohérence optimale avec la politique de l’Union européenne en matière de mégadonnées;
45. se félicite des mesures visant à faciliter et à soutenir l’échange et le partage transfrontaliers des données;
46. constate qu’actuellement, le taux de partage des données est largement inférieur à son potentiel et que de grandes quantités de données sont sous-utilisées;
47. reconnaît qu’il existe une certaine réticence vis-à-vis du partage des données et souligne que des actions sont nécessaires pour l’encourager; prend acte du fait que le manque de normes communes joue également un rôle important dans la capacité à partager des données;
48. salue les règlements tels que le règlement relatif à la libre circulation des données et leur importance dans des domaines comme l’IA en vue de garantir des processus plus efficaces et efficients;
49. reconnaît qu’il est nécessaire de mettre en place des mesures d’incitation plus importantes fondées sur le marché en vue d’encourager l’accès aux données et leur partage; constate le risque que présente l’accès ouvert aux données pour les investissements dans les données en amont;
50. demande davantage de clarté en ce qui concerne les règles de propriété des données et les cadres juridiques en place; constate que l’incertitude réglementaire a engendré des réactions d’une prudence excessive de la part de l’industrie;
51. attire également l’attention sur l’importance des initiatives européennes relatives à l’informatique en nuage et à l’informatique à haute performance, qui renforceront davantage le développement d’algorithmes d’apprentissage profond ainsi que le traitement des mégadonnées; est fermement convaincu que pour garantir la réussite de ces initiatives et leur pertinence pour le développement de l’IA, l’infrastructure doit être ouverte aux entités publiques et privées établies dans l’Union et ailleurs, et être régie par des critères d’accès moins restrictifs;
52. salue la mise en place de l’entreprise commune européenne pour le calcul à haute performance; met en évidence le fait que le calcul à haute performance et l’infrastructure des données sont essentiels pour garantir la compétitivité de l’écosystème d’innovation en matière de développement des technologies et des applications de l’IA;
53. met en lumière que l’informatique en nuage a un rôle essentiel à jouer dans l’adoption de l’IA; souligne que l’accès aux services en nuage permet aux entreprises privées, aux institutions publiques, aux instituts de recherche et établissements universitaires ainsi qu’aux utilisateurs de développer et d’utiliser l’IA de manière efficace et économiquement viable;
3. Politique industrielle
54. rappelle que, bien qu’il existe déjà de longue date des applications industrielles pour l’IA et la robotique, les progrès dans ces domaines s’étendent à présent pour donner lieu à des applications larges et variées touchant toutes les activités humaines; estime que tout cadre réglementaire doit avoir un caractère flexible permettant l’innovation et le développement libre de nouvelles technologies et utilisations de l’IA;
55. souligne que la détermination du champ d’application et des applications de l’IA doit découler d’un processus de conception fondé sur les besoins et guidé par des principes qui prennent en compte le résultat escompté ainsi que la meilleure manière d’y parvenir, tant sur le plan économique que social; estime que l’existence de stratégies précises à toutes les étapes du développement aboutira à une mise en œuvre adaptée à l’utilisation et tiendra compte des risques et des inconvénients;
56. recommande de recourir à des partenariats public-privé et de les promouvoir en vue de rechercher des solutions aux principaux défis, tels que la création d’un écosystème de données et la promotion de l’accès, du partage et de la circulation des données tout en protégeant les droits à la protection de la vie privée des individus;
57. souligne qu’un défi important pour l’avenir des systèmes d’IA est la qualité inconstante de la technologie de production des logiciels et qu’il est dès lors nécessaire de normaliser la conception des systèmes d’IA et leur utilisation;
58. prend acte des travaux menés à l’échelle mondiale et reconnaît la nécessité d’œuvrer de manière proactive avec les partenaires, notamment dans le cadre de l’Organisation de coopération et de développement économique (OCDE) et du G20, à la définition de la direction que cette industrie prend pour faire en sorte que l’Union reste compétitive et garantisse un accès égal à toutes les nations ainsi que le partage aussi étendu que possible des avantages du développement de l’IA;
59. relève avec inquiétude le fait qu’un certain nombre d’entreprises non européennes et d’entités de pays tiers emploient de plus en plus des modèles de prédiction fondés sur l’IA pour fournir des services sur les marchés de l’Union et en extraire la valeur ajoutée, notamment au niveau local, ainsi que pour surveiller et éventuellement influencer l’opinion politique, ce qui crée des menaces potentielles pour la souveraineté en matière de technologie des citoyens de l’Union;
60. souligne qu’il convient de concentrer le soutien public apporté à l’IA sur les secteurs stratégiques dans lesquels l’industrie européenne a le plus de chances de jouer un rôle de premier plan au niveau mondial et qui présentent une valeur ajoutée d’intérêt public général;
3.1. Les secteurs prioritaires
3.1.1. Secteur public
61. souligne qu’il y a un certain nombre d’avantages à tirer de l’IA et de la robotique dans le secteur public et se félicite des investissements accrus dans la recherche et le développement afin d’en garantir le succès;
62. souligne que les États membres doivent aussi investir dans l’éducation et les programmes de formation relatifs à l’IA en vue d’aider les employés du secteur public à se familiariser à l’utilisation de l’IA et de la robotique; constate qu’il convient également de lancer des campagnes d’information à l’intention des citoyens qui utiliseront les services du secteur public fournis par des systèmes d’IA et de robotique afin d’atténuer leurs craintes quant à la perte du contrôle de leurs données personnelles et d’instaurer la confiance;
63. souligne que les informations du secteur public représentent une source considérable de données susceptible de contribuer à faire rapidement progresser et à créer une nouvelle stratégie englobant les nouvelles technologies numériques, notamment l’intelligence artificielle;
64. estime que l’adoption par le secteur public d’une intelligence artificielle de confiance peut fortement soutenir la réforme de l’administration publique dans le cadre de la prise de décision et améliorer les services publics et peut aussi favoriser l’adoption plus largement répandue de l’IA dans d’autres secteurs;
65. reconnaît l’utilisation de l’automatisation des processus robotisés et son incidence sur l’amélioration des procédures du secteur public; prend acte de son interopérabilité avec les systèmes antérieurs;
66. demande aux États membres de piloter le passage au numérique en se positionnant comme les principaux utilisateurs et acheteurs responsables des technologies de l’IA; souligne, dans ce contexte, que les États membres doivent adapter leurs politiques en matière de données s’appliquant à la collecte, l’utilisation, l’archivage ou l’annotation des données publiques, entre autres, afin de permettre le déploiement de l’IA dans l’ensemble des secteurs publics;
67. souligne la nécessité d’associer le public au processus de développement de l’IA; invite par conséquent la Commission à publier en code source ouvert tout algorithme, outil ou technologie financé ou cofinancé par des fonds publics;
68. estime que l’IA constituera un atout majeur pour la mise en œuvre du principe «une fois pour toutes», qui permet la combinaison de bases de données et d’informations provenant de différentes sources et favorise ainsi les interactions entre les citoyens et les administrations publiques;
69. invite la Commission à garantir la protection des citoyens contre tout système de décision fondé sur un classement effectué par l’IA dans les administrations publiques, semblable à ceux que la Chine prévoit d’utiliser;
3.1.2. Santé
70. souligne que le contact humain constitue un aspect essentiel des soins de santé;
71. fait observer que l’IA et la robotique peuvent présenter des avantages dans le secteur des soins de santé au fur et à mesure que l’espérance de vie augmente, par exemple en aidant les médecins et les infirmières à consacrer davantage de temps à des activités plus importantes (comme la relation avec le patient);
72. note l’incidence que l’IA a déjà eue sur le bien-être, la prévention, les diagnostics, la recherche ainsi que son potentiel considérable en matière de conception de soins personnalisés; estime que cela contribuera finalement à créer un écosystème de soins de santé plus durable, plus efficace et davantage axé sur les résultats;
73. fait observer que lorsque l’IA est combinée avec un diagnostic humain, le taux d’erreur est souvent inférieur à celui des diagnostics réalisés par les seuls médecins[8];
74. souligne que l’utilisation de données dans le secteur de la santé doit faire l’objet d’une surveillance particulière du point de vue éthique et qu’elle ne doit en aucune manière entraver l’accès à la protection sociale ou à l’assurance;
75. estime que lorsqu’un dispositif médical implanté a recours à l’intelligence artificielle, le porteur doit avoir le droit de contrôler et de modifier le code source utilisé par le dispositif;
76. estime qu’une attention particulière devrait être accordée à l’utilisation des mégadonnées dans le domaine de la santé, dans l’objectif de tirer le meilleur parti des possibilités qu’elles offrent, telles que l’amélioration de la santé des patients et des performances des systèmes de santé publique des États membres, sans abaisser les normes éthiques et sans porter atteinte à la vie privée ni à la sécurité des citoyens;
77. souligne toutefois que le système actuel d’approbation des dispositifs médicaux pourrait ne pas être adapté aux technologies de l’IA; invite la Commission à suivre de près l’évolution de ces technologies et à proposer des modifications au cadre réglementaire, le cas échéant, en vue de clarifier le cadre relatif à la répartition de la responsabilité entre l’utilisateur (médecin/professionnel), le producteur de la solution technologique et l’établissement de soins proposant le traitement; souligne l’importance particulière que revêt le problème de la responsabilité juridique pour les dommages dans le secteur de la santé en ce qui concerne l’utilisation de l’IA; met donc l’accent sur la nécessité d’éviter que l’utilisateur soit amené à céder systématiquement à la solution de diagnostic ou au traitement proposé par l’instrument technologique par crainte de subir des mesures de responsabilité civile lorsque le jugement professionnel et éclairé l’amène à tirer des conclusions pouvant être en partie divergentes;
78. demande aux États membres et à la Commission d’accroître le financement des technologies de l’IA liées à la santé dans les secteurs public et privé; salue, dans ce contexte, la déclaration de coopération signée par 24 États membres de l’Union et la Norvège en vue de renforcer l’impact des investissements dans l’IA au niveau européen; demande aux États membres et à la Commission de déterminer si les programmes de formation du personnel médical et de santé doivent être actualisés et harmonisés au niveau européen pour assurer des niveaux élevés de compétence et des conditions égales dans les différents États membres en ce qui concerne la connaissance et l’utilisation des instruments technologiques les plus avancés en matière de chirurgie robotique, de biomédecine et d’imagerie biomédicale fondée sur l’IA;
79. invite la Commission à élaborer des stratégies et des politiques permettant à l’Union d’occuper la première place mondiale dans le secteur en pleine croissance de la technologie des soins de santé, tout en garantissant aux patients un accès à des soins médicaux homogènes et efficaces;
80. reconnaît que de meilleurs moyens de diagnostic pourraient permettre de sauver des millions de vies, étant donné que, selon l’Organisation mondiale de la santé, 89 % des décès prématurés dans l’ensemble de l’Europe sont causés par des maladies non transmissibles;
81. met en avant la contribution apportée par l’IA et la robotique à l’innovation des pratiques et des techniques cliniques, de prévention et de réadaptation dans le domaine de la santé, notamment au regard des avantages offerts aux patients handicapés;
82. reconnaît que l’utilisation accrue de capteurs dans le domaine de la robotique a élargi le champ d’application des soins et permet aux patients de bénéficier d’un traitement et de services plus personnalisés et de recevoir des soins à distance à partir de leur propre domicile, tout en générant des données plus significatives;
83. reconnaît que, selon l’enquête Eurobaromètre de mai 2017[9], à l’heure actuelle, les citoyens de l’Union se sentent encore mal à l’aise avec l’idée que des robots soient utilisés dans les soins de santé de tous les jours; demande à la Commission et aux États membres de mettre au point des stratégies et des campagnes de communication visant à sensibiliser la population aux avantages de l’utilisation des robots dans la vie quotidienne; prend acte notamment de l’ambition de la stratégie du Japon en matière de robotique;
3.1.3. Énergie
84. note que l’IA permet aux fournisseurs d’énergie de passer d’une gestion préventive à la maintenance prédictive des actifs et de parvenir à une production d’énergie plus efficace en améliorant la fiabilité, en particulier pour les énergies renouvelables, et en déterminant les emplacements les plus efficaces pour les nouvelles installations, ce qui permet ainsi une meilleure gestion de la réponse à la demande;
85. reconnaît que des données plus précises produites par l’IA en matière de potentiel de production d’énergie renouvelable amélioreront la sécurité des investissements pour les entreprises et les individus, accélérant ainsi la transition énergétique vers les sources d’énergie renouvelable et contribuant à la stratégie à long terme de l’Union pour une économie neutre pour le climat;
86. fait observer que des solutions impliquant des capteurs sont déjà utilisées pour gérer l’utilisation de l’énergie dans les habitations et que cela a entraîné des économies d’énergie et monétaires considérables;
87. salue le potentiel de l’IA dans le cadre de la modélisation, de la détermination et de la diminution de l’influence de l’activité humaine sur le climat; constate que, bien que la numérisation accrue crée aussi de nouveaux besoins énergétiques, elle peut également améliorer l’efficacité de secteurs grands consommateurs d’énergie et offrir une meilleure compréhension des processus permettant ainsi de les perfectionner;
88. souligne qu’une numérisation accrue du secteur de l’énergie entraîne un accroissement de l’ampleur des réseaux énergétiques, lesquels sont par conséquent davantage exposés aux menaces informatiques; invite les États membres et la Commission à accompagner le passage au numérique du secteur de l’énergie au moyen de mesures, par exemple dans le domaine de l’intelligence artificielle, renforçant la cybersécurité;
3.1.4. Transports
89. se félicite de la capacité de l’IA et de la robotique d’améliorer considérablement nos systèmes de transport par la mise en place de trains et de véhicules à moteur autonomes; demande davantage de recherche et d’investissement dans ce domaine afin d’en garantir le développement sûr et efficace; met en évidence les possibilités extraordinaires qui s’ouvrent à la fois aux grandes sociétés technologiques et aux PME;
90. fait observer qu’en réduisant le taux d’erreur humaine dans le secteur des transports, le système est susceptible de devenir plus efficace, avec moins d’accidents, grâce à des évaluations plus claires et à la valeur prédictive de la technologie, à la réduction des retards, à la cartographie des schémas de circulation et à l’exploitation des services dans les délais, ainsi qu’à des économies plus importantes, avec moins de fautes imputables aux conducteurs et des processus internes rationalisés;
91. fait observer que la prévalence de véhicules autonomes présentera des risques en matière de confidentialité des données et de défaillances techniques et va transférer à l’avenir la responsabilité du conducteur vers le fabricant, imposant aux compagnies d’assurance de modifier la manière dont elles intègrent le risque dans leur souscription;
92. constate que la communication vocale est de plus en plus utilisée dans l’interaction avec les véhicules et les systèmes de transport mais que ces fonctions sont uniquement disponibles dans quelques langues européennes et qu’il convient donc de veiller à ce que tous les Européens puissent utiliser ces possibilités dans leur langue maternelle;
3.1.5. Agriculture et chaîne alimentaire
93. prend acte du fait que l’IA est susceptible de catalyser une transformation en profondeur du système alimentaire actuel en faveur d’un nouveau modèle plus diversifié, résilient, adapté au niveau régional et sain pour l’avenir;
94. souligne le rôle que l’IA peut jouer dans les efforts visant à résoudre les problèmes de sécurité alimentaire, à prévoir l’apparition de famines et les épidémies de maladies d’origine alimentaire, à réduire le gaspillage alimentaire et les déchets, ainsi qu’à améliorer la gestion durable des terres, de l’eau et d’autres ressources environnementales essentielles à la santé des écosystèmes;
95. met en évidence que l’IA peut intervenir à des points critiques de la chaîne de valeur du système alimentaire, de la production à la consommation, et améliorer notre capacité à fondamentalement modifier la façon dont nous produisons, transformons et achetons les produits alimentaires, en informant mieux sur les pratiques de planification de l’utilisation des sols;
96. constate que l’IA peut améliorer la gestion des ressources et l’efficacité des intrants, contribuer à réduire les déchets de récolte et influencer les choix de consommation;
97. constate que, sous la forme de l’agriculture de précision, l’IA est susceptible de modifier la production agricole ainsi que la gestion globale des terres en améliorant la planification de l’utilisation des terres, en prévoyant des modifications dans leur affectation et en surveillant la santé des cultures, tout en ayant le potentiel de transformer la prévision des événements météorologiques extrêmes;
98. constate que l’IA peut radicalement modifier la livraison des intrants, la lutte contre les organismes nuisibles et la gestion des exploitations agricoles, influencer les pratiques agricoles, transformer la manière dont les produits d’assurance sont conçus ou contribuer à prévoir et à éviter les famines et les cas de malnutrition aiguë;
99. note que l’IA peut améliorer la prise de décision en matière de gestion des systèmes agricoles et stimuler la conception d’outils d’aide à la décision et de conseil, tout en renforçant l’efficacité et la santé des exploitations agricoles;
3.1.6. Cybersécurité
100. constate que la cybersécurité constitue un aspect important de l’IA, notamment en raison des problèmes de transparence que comporte l’IA de haut niveau; estime qu’il convient d’assortir la perspective technologique, y compris la vérification du code source et les exigences en matière de transparence et de responsabilité, d’une approche institutionnelle abordant les défis que présente l’introduction dans le marché unique d’IA élaborées dans d’autres pays;
101. plaide pour la mise en œuvre rapide de l’Acte législatif sur la cybersécurité; fait observer que l’élaboration de systèmes de certification européens devrait garantir un développement plus résilient ainsi qu’un déploiement plus sécurisé de l’IA et des systèmes de robotique;
102. considère que l’IA peut à la fois constituer une menace pour la cybersécurité et l’outil principal de lutte contre les attaques informatiques; estime que l’Agence de l’Union européenne chargée de la sécurité des réseaux et de l’information (ENISA) doit préparer un plan d’action en matière de cybersécurité dans le domaine de l’IA afin d’évaluer les menaces et les faiblesses spécifiques à l’IA et d’y remédier;
103. souligne l’importance du renforcement de la base industrielle en tant que composante stratégique du développement sécurisé de l’IA; attire l’attention sur le fait que, pour garantir un niveau ambitieux de cybersécurité et de protection des données ainsi que des services informatiques de confiance, l’Europe doit investir dans son indépendance technologique; met en évidence le fait que l’Union doit instamment développer sa propre infrastructure, ses propres centres de données et systèmes d’informatique en nuage et ses propres composants informatiques, tels que des processeurs graphiques et des puces;
104. prend acte du fait qu’au fur et à mesure de l’évolution de l’IA et des capacités des pirates informatiques, des solutions solides de cybersécurité s’imposeront;
105. reconnaît que le déploiement de solutions intégrant l’IA aux fins de la cybersécurité permettra de prévoir les menaces, de les prévenir et de les atténuer;
106. met en évidence le fait que, si l’IA permettra à l’avenir de détecter plus largement les menaces, une interprétation humaine de ces menaces est impérative pour déterminer si ce sont de véritables menaces;
107. invite la Commission à étudier l’utilisation d’applications de cybersécurité fondées sur des chaînes de blocs qui améliorent la résilience, la confiance et la robustesse des infrastructures de l’IA grâce à des modèles désintermédiés de chiffrement des données; invite la Commission à examiner la possibilité de récompenser les citoyens en échange de leurs données au moyen de jetons;
108. invite la Commission à renforcer les capacités de l’Union en matière de cybersécurité en combinant et en coordonnant davantage les efforts dans toute l’Europe;
3.1.7. PME
109. reconnaît l’importance des PME pour la réussite de l’IA; salue l’initiative de la Commission visant à créer une plateforme d’IA à la demande qui stimulera le transfert de technologie et accélèrera la croissance des jeunes entreprises ainsi que des PME; invite la Commission à promouvoir des pôles d’innovation numérique pour l’IA qui n’entraînent pas la création de formalités administratives supplémentaires mais se concentrent sur l’accélération des investissements dans des projets dont l’efficacité a été prouvée;
110. constate que les coûts d’investissement dans l’IA créent d’importants obstacles à l’entrée pour les PME; reconnaît qu’une large adoption de l’IA par les consommateurs atténuerait les risques liés à cet investissement pour les PME;
111. souligne la nécessité de promouvoir à la fois l’adoption de l’IA par les PME et son utilisation par les consommateurs;
112. souligne l’importance de mesures ciblées visant à garantir que les PME et les jeunes entreprises aient la possibilité d’adopter les technologies de l’IA et d’en tirer parti; estime que les analyses d’impact des effets de la nouvelle législation européenne relative au développement technologique de l’IA doivent être obligatoires et qu’il convient de les prendre en compte au niveau national;
113. souligne que l’IA peut être un moteur pour les PME mais qu’elle renforce également l’influence des grands précurseurs et premiers développeurs; signale, par conséquent, qu’il est nécessaire, du point de vue de la concurrence, de veiller à évaluer et gérer correctement les nouvelles distorsions;
4. Cadre juridique pour l’intelligence artificielle et la robotique
114. demande à la Commission, en vue de promouvoir un environnement réglementaire favorable au développement de l’IA et conforme au principe d’amélioration de la réglementation, de réévaluer régulièrement la législation en vigueur afin de s’assurer qu’elle soit adaptée à son objectif en ce qui concerne l’IA, tout en respectant les valeurs fondamentales de l’Union, et, le cas échéant, de s’efforcer de modifier les propositions en question voire de les remplacer lorsqu’il s’avère que ce n’est pas le cas;
115. salue la création de plateformes participatives fondées sur l’IA qui permettent aux citoyens de se faire entendre avec succès et d’interagir avec les gouvernements en faisant des propositions, y compris au moyen de budgets participatifs et d’autres instruments de démocratie directe; souligne que les projets ascendants peuvent encourager la participation des citoyens et aider la population à prendre des décisions en connaissance de cause, de manière plus efficace et démocratique;
116. constate que l’IA est une notion qui englobe un large éventail de produits et d’applications, à commencer par l’automatisation, les algorithmes, l’intelligence artificielle étroite et l’intelligence artificielle générale; estime qu’il convient d’envisager avec précaution toute loi ou réglementation globale de l’IA, car la réglementation sectorielle peut prévoir des politiques suffisamment générales mais également affinées jusqu’à un niveau significatif pour le secteur industriel;
117. souligne qu’il faut mettre au point un cadre stratégique qui encourage la conception de tous types d’intelligence artificielle, et pas uniquement celle de systèmes fondés sur l’apprentissage profond, particulièrement gourmand en données;
4.1. Un marché intérieur de l’intelligence artificielle
118. souligne l’importance du principe de reconnaissance mutuelle en ce qui concerne l’utilisation transfrontière des produits intelligents, notamment des robots et des systèmes robotiques; rappelle que, le cas échéant, les essais, la certification et la sécurité des produits devraient garantir que certains produits sont sûrs dès leur conception et par défaut; prend acte, dans ce contexte, de l’importance de se pencher également sur les aspects éthiques liés à l’IA;
119. souligne que le droit de l’Union relatif à la mise en œuvre de la stratégie du marché unique numérique devrait éliminer les obstacles au déploiement de l’IA; demande à la Commission d’évaluer la nécessité de mettre à jour les cadres politiques et réglementaires en vue de la mise en place d’un marché unique européen de l’IA;
120. est conscient de l’usage de plus en plus fréquent de technologies liées à la robotique et à l’IA dans les véhicules autonomes, tels que les voitures autonomes et les drones civils; relève que certains États membres légifèrent déjà dans ce domaine particulier ou envisagent de le faire, ce qui pourrait donner lieu à une mosaïque de législations nationales qui entraverait le développement de véhicules autonomes; appelle par conséquent à la mise en place d’un ensemble unique de règles de l’Union établissant un juste équilibre entre les intérêts et les risques potentiels pour les utilisateurs, les entreprises et les autres parties concernées, tout en évitant une surréglementation du secteur de la robotique et des systèmes d’IA;
121. invite instamment les États membres à moderniser leurs systèmes d’éducation et de formation professionnelle pour tenir compte du progrès scientifique et des avancées dans le domaine de l’IA, conformément à la directive relative à un contrôle de proportionnalité[10] et à la directive relative à la reconnaissance des qualifications professionnelles[11], et à faire en sorte que les services professionnels de l’Union soient compétitifs à l’échelle internationale dans les décennies à venir;
122. souligne que l’IA s’applique à toute une série de secteurs dans lesquels la normalisation revêt une grande importance, comme la fabrication intelligente, la robotique, les véhicules autonomes, la réalité virtuelle, les soins de santé et l’analyse des données, et estime que la normalisation de l’IA à l’échelle de l’Union favorisera l’innovation et garantira un niveau élevé de protection des consommateurs; est d’avis que, compte tenu du nombre important de normes existant sur des questions telles que la sécurité, la fiabilité, l’interopérabilité et la sûreté, l’Union devrait se fixer pour priorité de poursuivre la promotion et le développement de normes communes pour la robotique et l’IA; invite la Commission, en coopération avec les organismes de normalisation de l’Union européenne, à continuer de s’engager de manière proactive auprès d’organismes internationaux de normalisation en vue de l’amélioration des normes dans ce domaine;
123. rappelle que de nombreux aspects politiques pertinents pour les services fondés sur l’IA, y compris les règles relatives à la protection des consommateurs et la politique en matière d’éthique et de responsabilité, sont couverts par le cadre réglementaire existant sur les services, à savoir la directive sur les services[12], la directive sur la reconnaissance des qualifications professionnelles et la directive sur le commerce électronique[13]; souligne, dans ce contexte, que l’homme doit toujours être responsable en dernier ressort de la prise de décision, en particulier pour les services professionnels tels que les professions dans le domaine médical, juridique et comptable; estime qu’il est nécessaire de déterminer si la surveillance par un professionnel qualifié est nécessaire afin de protéger les objectifs légitimes d’intérêt général et de fournir des services de haute qualité;
124. reconnaît l’importance de l’amélioration des services numériques, tels que les assistants virtuels, les dialogueurs et les agents virtuels, apportant des gains d’efficacité opérationnels sans précédent, mais n’en souligne pas moins la nécessité de mettre au point une IA centrée sur l’humain et axée sur le marché afin de produire des décisions de meilleure qualité et plus fiables, compte tenu des limites de l’autonomie de l’IA et de la robotique;
4.2. Données personnelles et respect de la vie privée
125. insiste sur la nécessité d’assurer un haut niveau de sûreté, de sécurité et de protection des données utilisées pour la communication entre les personnes, d’un côté, et les robots et l’intelligence artificielle, de l’autre; invite, par conséquent, la Commission et les États membres à intégrer la sécurité et le respect de la vie privée dans les principes de conception de leurs politiques relatives à la robotique et à l’intelligence artificielle;
126. répète que le droit au respect de la vie privée et le droit à la protection des données à caractère personnel, inscrits aux articles 7 et 8 de la charte des droits fondamentaux et à l’article 16 du traité sur le fonctionnement de l’Union européenne, s’appliquent à tous les domaines de la robotique et de l’intelligence artificielle, et que le cadre juridique de l’Union en ce qui concerne la protection des données doit être pleinement respecté; souligne la responsabilité qui est celle des concepteurs de robotique et d’intelligence artificielle de développer des produits de telle manière qu’ils soient sûrs, sécurisés et adaptés à l’utilisation à laquelle ils sont destinés, et qu’ils suivent des procédures de traitement des données qui soient conformes à la législation existante et garantissent la confidentialité, l’anonymat, le traitement équitable et le respect du droit;
127. invite la Commission à veiller à ce que le droit de l’Union relatif à l’intelligence artificielle comprenne des mesures et des règles qui prennent en compte l’évolution technologique rapide dans ce domaine, en vue de garantir que le droit de l’Union ne soit pas en retard en matière de développement et de déploiement technologique; souligne la nécessité d’aligner ce droit sur les règles en matière de protection de la vie privée et des données; appelle à une révision des règles, principes et critères applicables à l’utilisation des caméras et des capteurs dans la robotique et l’intelligence artificielle, conformément au cadre juridique de l’Union pour la protection des données;
128. invite la Commission à faire en sorte que tout cadre réglementaire à venir de l’Union en matière d’IA garantisse la protection de la vie privée et la confidentialité des communications, la protection des données à caractère personnel, notamment les principes de licéité, loyauté et transparence, de protection des données dès la conception et par défaut, de limitation des finalités, de limitation de la conservation, d’exactitude et de minimisation des données, conformément à la législation de l’Union en matière de protection des données, ainsi que la sécurité, y compris des personnes, et les autres droits fondamentaux, tels que le droit à la liberté d’expression et d’information;
129. souligne que le droit au respect de la vie privée doit toujours être respecté et que les personnes ne doivent pas être identifiables personnellement; souligne que les développeurs d’IA devraient toujours avoir des contenus clairs, éclairés et dénués d’ambiguïté et que les concepteurs d’IA ont la responsabilité de mettre au point et d’appliquer des procédures pour garantir le consentement valable, la confidentialité, l’anonymat, le traitement équitable et le respect de la légalité; souligne que les concepteurs doivent se conformer à toute demande visant à détruire d’éventuelles données y afférentes ou à les supprimer d’une série de données;
130. rappelle que le règlement (UE) 2018/1807[14] sur le libre flux des données à caractère non personnel dispose que si «les évolutions technologiques permettent de transformer les données anonymisées en données à caractère personnel, ces données doivent être traitées comme des données à caractère personnel, et le règlement (UE) 2016/679 doit s’appliquer en conséquence»;
4.3. Responsabilité
131. salue l’initiative de la Commission consistant à créer un groupe d’experts sur la responsabilité et les nouvelles technologies, chargé de conseiller l’Union européenne sur l’applicabilité de la directive sur la responsabilité du fait des produits[15] aux produits traditionnels, aux nouvelles technologies et aux nouveaux défis de société (sous-groupe «directive sur la responsabilité du fait des produits») et d’aider l’Union européenne à définir des principes d’orientation en vue d’une éventuelle adaptation de la législation applicable au niveau européen et national en matière de nouvelles technologies (sous-groupe «nouvelles technologies»);
132. déplore toutefois qu’aucune proposition législative n’ait été présentée au cours de la législature actuelle, ce qui retarde la mise à jour des règles en matière de responsabilité au niveau de l’Union et compromet la sécurité juridique dans toute l’Union dans ce domaine, tant pour les commerçants que pour les consommateurs;
133. constate que les ingénieurs en IA ou les entreprises qui les emploient devraient demeurer responsables des répercussions sociales, environnementales et sur la santé humaine que les systèmes d’IA ou la robotique pourraient avoir sur les générations actuelles et futures;
4.4. Protection et autonomisation du consommateur
134. souligne que la confiance des consommateurs est essentielle pour le développement de l’IA et que les systèmes fondés sur l’IA traitent de plus en plus de données des consommateurs, ce qui fait de ceux-ci des cibles privilégiées de cyberattaques; souligne également que l’IA doit fonctionner d’une manière qui ne porte pas préjudice aux citoyens et aux consommateurs et estime donc qu’il y a lieu de veiller à l’intégrité des données et des algorithmes sur lesquels repose cette technologie;
135. considère que les technologies de l’IA conçues tant pour la fabrication que pour l’usage individuel devraient être soumises à des contrôles de sécurité des produits par les autorités de surveillance du marché et à des règles de protection des consommateurs qui mettent en place, le cas échéant, des normes minimales de sécurité et tiennent compte du risque d’accident résultant de l’interaction avec des humains ou de l’activité à proximité d’humains; estime que toute politique en matière d’IA devrait tenir compte des questions d’éthique, de protection des données, y compris des données de tiers et des données personnelles, de responsabilité civile et de cybersécurité;
4.5. Droits de propriété intellectuelle
136. rappelle sa résolution susmentionnée du 16 février 2017, dans laquelle il relevait qu’il n’existe aucune disposition juridique qui s’applique spécifiquement à la robotique mais que les régimes et doctrines juridiques existants peuvent s’appliquer en l’état à ce domaine, certains aspects nécessitant néanmoins un examen spécifique; demande encore une fois à la Commission de soutenir une approche transversale et technologiquement neutre de la propriété intellectuelle, qui s’applique aux différents secteurs concernés par l’application de la robotique;
137. salue, à cet égard, la communication de Commission aux institutions européennes contenant des orientations sur certains aspects de la directive 2004/48/CE du Parlement européen et du Conseil relative au respect des droits de propriété intellectuelle (COM(2017)0708) mais souligne qu’il demeure nécessaire de contrôler la pertinence et l’efficacité des règles en matière de propriété intellectuelle lorsqu’elles sont appliquées à la gouvernance de l’IA; souligne, dans ce contexte, l’importance des bilans de qualité;
5. Aspects éthiques
138. estime que les actions et les applications de l’intelligence artificielle devraient respecter les principes éthiques et les lois nationales, européennes et internationales en la matière;
139. demande la création d’une charte éthique des bonnes pratiques en matière d’IA et de robotique à suivre par les entreprises et les experts;
140. invite la Commission et les États membres à promouvoir une coopération étroite et transparente entre les secteurs public et privé et le monde universitaire afin de renforcer le partage de connaissances et de promouvoir l’éducation et la formation des concepteurs sur les implications éthiques, la sécurité et le respect des droits fondamentaux ainsi que l’information des consommateurs sur l’utilisation de la robotique et de l’intelligence artificielle, en mettant tout particulièrement l’accent sur la sécurité et la confidentialité des données;
141. invite la Commission à veiller à ce que les demandes fondées sur l’IA ne puissent pas utiliser des données collectées auprès de différentes sources sans avoir préalablement reçu le consentement des personnes concernées; invite la Commission à créer un cadre garantissant que le consentement explicite des personnes concernées génèrera des données uniquement aux fins prévues;
142. invite la Commission à respecter le droit des citoyens à une vie hors ligne ainsi qu’à garantir l’absence de discrimination vis-à-vis des citoyens pour lesquels il n’existe pas de données enregistrées;
5.1. Technologie centrée sur l’homme
143. souligne que des règles éthiques doivent être en place pour garantir un développement de l’IA centré sur l’homme, la responsabilité et la transparence des systèmes décisionnels algorithmiques, la clarté des règles de responsabilité et l’équité;
144. se félicite de l’initiative de la Commission visant à établir un groupe d’experts à haut niveau sur l’intelligence artificielle, ainsi qu’un réseau d’alliance européenne de l’IA dont l’objectif est de présenter des lignes directrices en matière d’éthique dans le domaine de l’IA; demande à la Commission de garantir l’adoption la plus large possible de ces lignes directrices d’éthique par l’industrie, le monde universitaire et les autorités publiques; recommande aux États membres de transposer ces lignes directrices dans leurs stratégies nationales relatives à l’IA et de mettre au point de véritables structures de responsabilité à l’intention de l’industrie et des gouvernements lors de la conception et du déploiement de l’IA;
145. estime qu’un suivi continu du déploiement des lignes directrices en matière d’éthique dans le domaine de l’IA et de leur incidence sur le développement de l’IA centrée sur l’humain est essentiel; demande à la Commission de déterminer si des lignes directrices volontaires en matière d’éthique suffisent à garantir une adoption éthique et solidaire de l’IA qui ne crée pas de divisions économiques et sociales dans les sociétés européennes et de présenter des mesures politiques et réglementaires, le cas échéant;
146. prend acte des évolutions récentes en matière de suivi des analyses comportementales et d’adaptation à celles-ci; invite la Commission à mettre au point un cadre éthique délimitant leur utilisation; invite instamment la Commission à créer une campagne de sensibilisation et d’information concernant l’IA et son utilisation dans l’analyse comportementale;
5.2. Valeurs qui alimentent la technologie - éthique dès la conception
147. souligne que le cadre éthique de référence devrait se fonder sur les principes de bienfaisance, de non-malfaisance, d’autonomie et de justice, sur les principes et valeurs consacrés à l’article 2 du traité sur l’Union européenne et par la charte des droits fondamentaux de l’Union européenne, tels que la dignité humaine, l’égalité, la justice et l’équité, la non-discrimination, le consentement éclairé, le respect de la vie privée et de la vie familiale et la protection des données, ainsi que sur d’autres principes et valeurs fondateurs du droit de l’Union, tels que la non-stigmatisation, la transparence, l’autonomie, la responsabilité individuelle et la responsabilité sociale, ainsi que sur les pratiques et codes de déontologie existants;
148. estime que l’Europe devrait jouer un rôle de chef de file sur la scène internationale en déployant uniquement une IA intégrant des principes éthiques; souligne que pour y parvenir, il convient de garantir la gouvernance éthique de l’IA à différents niveaux; recommande aux États membres d’instaurer des organismes de suivi et de surveillance de l’éthique de l’IA et d’encourager les entreprises qui développent l’IA à établir un conseil d’éthique ainsi qu’à mettre au point des lignes directrices en la matière à l’intention de leurs développeurs;
149. souligne que les normes européennes en matière d’IA doivent se fonder sur les principes d’éthique numérique, de dignité humaine, de respect des droits fondamentaux, de protection et de sécurité des données, et ainsi contribuer à renforcer la confiance des utilisateurs; met en avant l’importance de s’appuyer sur le potentiel de l’Union pour créer une infrastructure solide pour les systèmes d’IA, fondée sur des normes exigeantes en matière de données et de respect des personnes; fait observer que la transparence et l’explicabilité doivent être intégrées dans le développement de l’IA;
150. fait observer que les technologies de l’intelligence artificielle destinées aux systèmes d’armes automatisés doivent continuer à faire l’objet d’une approche dans laquelle l’homme reste aux commandes;
5.3. Prise de décision - limites à l’autonomie de l’intelligence artificielle et de la robotique
151. attire l’attention sur le caractère difficile et complexe de la prédiction des comportements futurs d’un grand nombre de systèmes complexes d’IA ainsi que des comportements découlant de l’interaction entre différents systèmes d’IA; demande à la Commission d’évaluer la nécessité d’établir des règlements spécifiques concernant la prise de décision intégrant l’IA;
152. note que l’IA restera un outil utile pour compléter l’action humaine et pour améliorer ses performances et réduire les erreurs;
153. demande que les citoyens disposent d’un droit de savoir, d’un droit de recours et d’un droit d’obtenir réparation lorsque l’IA est utilisée pour des décisions touchant des personnes, ce qui peut poser un risque important pour les droits et les libertés des individus ou porter préjudice à ces derniers;
154. souligne qu’un algorithme utilisé dans un système de prise de décision ne doit pas être déployé sans avoir fait l’objet d’une analyse d’impact préalable, sauf s’il est clair qu’il n’aura pas d’incidence significative sur la vie des personnes;
155. estime que l’intelligence artificielle devrait être soumise à des principes solides, notamment les systèmes à autonomie intégrée, y compris la capacité à extraire de manière indépendante des données sensibles, à les collecter et à les partager avec diverses parties prenantes, ainsi que la possibilité d’auto-apprentissage, voire d’évoluer vers l’auto-modification; souligne que les systèmes d’IA ne doivent pas conserver ou divulguer des informations personnelles confidentielles sans l’accord explicite préalable de la source de ces informations;
5.4. Transparence, biais et explicabilité des algorithmes
156. fait observer que, si l’intelligence artificielle apporte de grands avantages en termes d’automatisation et de prise de décision, elle comporte également un risque inhérent lorsque les algorithmes sont statiques et opaques; souligne, dans ce contexte, la nécessité d’une plus grande transparence en ce qui concerne les algorithmes;
157. demande à la Commission, aux États membres et aux autorités chargées de la protection des données d’identifier et de prendre toutes les mesures possibles afin d’empêcher ou de réduire au minimum toute discrimination et biais algorithmiques, et de mettre en place un cadre éthique commun solide pour le traitement en toute transparence des données à caractère personnel et la prise de décision automatisée, qui puisse servir de guide pour l’utilisation des données et pour l’application de la législation européenne;
158. souligne que tout système d’IA doit être développé dans le respect des principes de transparence et de la responsabilité des algorithmes, de manière à permettre la compréhension de ses actions par les êtres humains; remarque qu’afin de renforcer la confiance et de permettre le progrès de l’IA, les utilisateurs doivent savoir comment sont utilisées leurs données, ainsi que d’autres données et les données déduites des leurs, quand ils communiquent ou interagissent avec un système d’IA ou avec des humains qui s’appuient sur un tel système; considère que cela contribuera à une meilleure compréhension et à plus de confiance de la part des utilisateurs; insiste sur le fait que le caractère intelligible des décisions doit être une norme de l’Union européenne, conformément aux articles 13, 14 et 15 du règlement général sur la protection des données (RGPD)[16]; rappelle que le RGPD prévoit d’ores et déjà le droit d’être informé de la logique qui sous-tend tout traitement de données; souligne que, conformément à l’article 22 du RGPD, les individus ont le droit de bénéficier d’une intervention humaine lorsqu’une décision fondée sur un traitement automatisé les affecte de manière significative;
159. souligne que la Commission, le comité européen de la protection des données, les autorités nationales chargées de la protection des données et d’autres autorités de contrôle indépendantes devraient désormais jouer un rôle essentiel en vue de promouvoir la transparence, le respect du droit et la sécurité juridique en général, et plus particulièrement les normes concrètes protégeant les droits fondamentaux et les garanties associées au traitement et à l’analyse des données; demande une coopération plus étroite entre les autorités chargées du contrôle ou de la réglementation des comportements dans l’environnement numérique; demande des financements et des effectifs adéquats pour ces autorités;
160. reconnaît que les algorithmes d’apprentissage automatique sont entraînés pour apprendre par eux-mêmes, apportant ainsi des avantages en termes d’automatisation et de prise de décision; demande l’élaboration de lignes directrices en matière d’éthique de l’IA relatives aux problèmes associés à la transparence, à l’explicabilité, à la responsabilité et à l’équité des algorithmes;
161. met en évidence l’importance revêtue par l’explicabilité des résultats, des processus et des valeurs des systèmes d’IA, afin de les rendre compréhensibles pour les publics non spécialisés et de leur fournir des informations utiles, ce qui est nécessaire pour en évaluer l’équité et instaurer la confiance;
162. souligne que le manque de transparence en ce qui concerne ces technologies et leurs applications soulève un certain nombre de questions éthiques;
163. fait observer que les systèmes d’IA devraient pouvoir être expliqués aux humains et devraient fournir des informations utiles, de façon à ce que des retours d’informations soient possibles; reconnaît que l’efficacité des modèles d’IA dépend des retours d’informations et de la réévaluation et encourage donc ce processus;
164. constate que les citoyens s’inquiètent du fait de ne pas savoir quand il est fait usage de l’IA et quelles informations sont traitées; recommande que les citoyens soient informés à chaque fois que l’IA est utilisée; souligne qu’afin de conserver la confiance des consommateurs, il importe de garantir la sécurité de la transmission des données;
165. considère que la responsabilité algorithmique devrait être réglementée par les décideurs au moyen d’analyses d’impact fondées sur des paramètres établis;
166. note que la divulgation du code informatique lui-même ne résoudra pas le problème de la transparence de l’IA parce qu’il ne révélerait pas les biais inhérents qui existent et ne permettrait pas d’expliquer le processus d’apprentissage automatique; souligne que la transparence signifie non seulement la transparence du code mais aussi des données et de la prise de décision automatisée;
167. reconnaît que la divulgation du code source est susceptible de conduire à une mauvaise utilisation des algorithmes et à leur manipulation;
168. relève l’importance de lutter contre les biais des développeurs et donc la nécessité d’avoir une main-d’œuvre diversifiée dans tous les domaines du secteur informatique ainsi que des mécanismes de sauvegarde permettant d’éviter que des biais liés au sexe ou à l’âge ne soient intégrés aux systèmes d’IA;
169. reconnaît que la divulgation du code ou des secrets commerciaux découragerait également les entreprises de R&D de mettre au point de nouveaux codes étant donné que leur propriété intellectuelle serait menacée; constate que le développement de l’IA doit plutôt encourager les modèles d’interprétabilité et leur interaction avec les données d’entrée et d’entraînement;
170. reconnaît que, bien que la transparence et l’explicabilité puissent révéler des défaillances, elles ne garantissent pas la fiabilité, la sécurité et l’équité; estime, par conséquent, que la responsabilité fait partie intégrante de la mise en place d’une intelligence artificielle digne de confiance, qui peut être obtenue par différents moyens, tels que les analyses d’impact, l’audit et la certification;
171. souligne la nécessité de développer des protocoles de surveillance continue et de détection de biais algorithmiques;
172. fait observer que les créateurs d’algorithmes doivent garantir le respect d’exigences essentielles, telles que l’équité ou l’explicabilité depuis le début de la phase de conception et tout au long du cycle d’élaboration;
173. constate la nécessité d’élaborer des lignes directrices décrivant des bonnes pratiques de développement;
174. souligne l’importance d’afficher l’historique de tout modèle d’IA afin de pouvoir retracer son évolution; estime que cela améliorera la compréhension des modèles et contribuera à établir une confiance fondée sur leur histoire;
175. souligne que l’utilisation des systèmes d’IA doit être clairement identifiée dans les interactions avec les utilisateurs;
176. fait observer que le développement de l’IA et de la robotique devra s’opérer dans le respect des droits de l’homme et ne devra en aucun cas perpétuer, dans les machines et les robots, les stéréotypes fondés sur le sexe ou toute autre forme de discrimination;
177. fait observer que même des données d’apprentissage de qualité peuvent perpétuer une situation existante d’injustice ou de discrimination si elles ne sont pas utilisées avec soin et discernement; remarque que l’emploi de données de mauvaise qualité, obsolètes, incomplètes ou incorrectes à différentes étapes du traitement des données peut avoir pour conséquence de mauvaises prédictions et évaluations, et donc des biais, qui peuvent résulter en des violations des droits fondamentaux des individus ou des conclusions entièrement incorrectes et des résultats erronés; considère par conséquent qu’il est important, à l’ère des mégadonnées, de veiller à ce que les algorithmes soient entraînés sur des échantillons de données représentatifs et de haute qualité afin de garantir la parité statistique; souligne que même si des données exactes et de haute qualité sont utilisées, l’analyse prédictive fondée sur l’IA ne peut offrir qu’une probabilité statistique; rappelle qu’en vertu du RGPD, le traitement ultérieur des données à caractère personnel à des fins statistiques, y compris l’entraînement d’IA, ne peut aboutir qu’à des données agrégées qui ne peuvent être réappliquées aux citoyens;
178. invite la Commission à veiller à ce que toute personne qui produit des documents ou des vidéos synthétiques comportant des trucages vidéos élaborés ou tout autre vidéo synthétique réaliste déclare explicitement qu’il ne s’agit pas d’un original;
179. constate que l’IA dépend, par nature, de la collecte d’une grande quantité de données et souvent de la création de nouvelles bases de données utilisées pour émettre des hypothèses concernant des personnes; estime qu’il conviendrait de mettre l’accent sur la détermination et l’élaboration de mécanismes d’intervention face aux menaces potentielles en vue de garantir l’atténuation des effets négatifs;
180. répète que les systèmes d’IA ne doivent pas créer ou renforcer des biais; souligne qu’il convient de tenir compte des biais et de l’équité lors de l’élaboration et de l’utilisation d’algorithmes à toutes les étapes, depuis la conception jusqu’à la mise en œuvre; estime que les jeux de données et l’algorithme doivent faire l’objet d’évaluations et d’essais réguliers en vue de garantir l’exactitude de la prise de décision;
6. Gouvernance
6.1. Coordination au niveau de l’Union
181. invite la Commission à œuvrer en faveur du développement d’un commandement européen fort permettant de prévenir la duplication ou la fragmentation des efforts ainsi que de garantir l’adoption de politiques cohérentes au niveau national et l’échange des bonnes pratiques en vue d’une utilisation plus répandue de l’IA;
182. se félicite des différentes stratégies nationales mises au point par les États membres; se félicite du plan coordonné de la Commission sur l’intelligence artificielle, publié le 7 décembre 2018; demande une meilleure coordination entre les États membres et la Commission à cet égard;
183. fait observer qu’un certain nombre d’États membres disposent déjà de leurs propres stratégies nationales en matière d’IA et salue le fait que tous les États membres ont signé, en avril 2018, une déclaration sur la coopération en matière d’intelligence artificielle; se félicite également du plan coordonné à venir sur l’IA entre la Commission et les États membres mais demande à toutes les parties concernées de s’efforcer d’atteindre le niveau de coopération le plus élevé possible;
184. juge nécessaire une coopération renforcée entre les États membres et la Commission afin de veiller à l’établissement de règles transfrontalières cohérentes au sein de l’Union qui favorisent la coopération entre industries européennes et permettent de déployer dans l’ensemble de l’Union une IA qui réponde aux normes en vigueur en matière de sûreté et de sécurité et qui respecte les principes éthiques consacrés par le droit de l’Union;
185. attire l’attention sur le fait qu’un cadre politique harmonisé, fondé sur les risques et progressif de l’Union en matière de données renforcerait la confiance et contribuerait à l’adoption de l’IA en Europe, garantissant ainsi l’achèvement du marché unique numérique et l’accroissement de la productivité des entreprises établies dans l’Union;
186. recommande que les initiatives et les projets pilotes existants et futurs axés sur l’IA menés par la Commission soient étroitement coordonnés, éventuellement sous la direction du mécanisme de surveillance susmentionné, afin de générer des effets de synergie et de créer une véritable valeur ajoutée tout en évitant les doubles structures coûteuses;
187. invite la Commission et les États membres à envisager la création d’une agence réglementaire européenne de l’IA et de la prise de décision algorithmique, qui serait chargée:
• d’établir une matrice d’évaluation des risques pour la classification des types d’algorithmes et des domaines d’application en fonction de leur potentiel d’incidence négative significative sur les citoyens;
• de se pencher sur l’utilisation de systèmes algorithmiques en cas de soupçon de violation des droits de l’homme (par exemple, des preuves fournies par un lanceur d’alerte);
• de fournir des conseils à d’autres agences réglementaires concernant les systèmes algorithmiques relevant de leurs compétences;
• de renforcer l’efficacité du mécanisme de responsabilité en matière délictuelle comme moyen de réglementation de la responsabilité des systèmes algorithmiques en fournissant un point de contact aux citoyens qui ne maîtrisent pas les procédures judiciaires;
• de contrôler les analyses d’impact algorithmiques des systèmes ayant une incidence de haut niveau en vue d’approuver ou de rejeter les utilisations proposées de la prise de décision algorithmique dans des domaines d’application très sensibles et/ou critiques sur le plan de la sécurité (par exemple, les soins de santé privés); l’analyse d’impact algorithmique des applications du secteur privé pourrait suivre une procédure très semblable à celle proposée pour le secteur public, à la différence éventuelle que les différentes étapes de divulgation publique pourraient être traitées comme une communication confidentielle à l’agence réglementaire (au titre d’un accord de non-divulgation) en vue de protéger des secrets commerciaux cruciaux;
• d’enquêter sur les cas présumés de violation de droits par des systèmes de décision algorithmiques, tant lorsqu’il s’agit de décisions individuelles (tels que des résultats aberrants uniques) que de modèles décisionnels statistiques (tels que des biais discriminatoires); les recherches pourraient être déclenchées après le dépôt de plaintes ou sur la base de preuves fournies par des lanceurs d’alerte, des journalistes d’investigation ou des chercheurs indépendants (y compris les membres d’organisations non gouvernementales et les universitaires);
188. prend acte des travaux actuellement menés par l’Organisation internationale de normalisation (ISO) sur l’intelligence artificielle et invite instamment les États membres à coopérer au niveau de leurs membres de l’ISO afin de veiller à ce que les intérêts européens soient représentés en conséquence dans l’élaboration des normes dans ce domaine;
6.2. Gouvernance internationale
189. se félicite de la création de l’observatoire des politiques en matière d’IA de l’OCDE et encourage une plus grande ambition dans l’élaboration d’une feuille de route pour une coopération renforcée;
190. souligne les différents modèles en cours d’élaboration dans les pays tiers, plus spécifiquement aux États-Unis, en Chine, en Russie et en Israël, et souligne l’approche fondée sur les valeurs qui est utilisée en Europe et la nécessité de coopérer avec des partenaires internationaux dans des contextes bilatéraux et multilatéraux, aux fins de l’évolution et de l’adoption éthiques de l’IA; reconnaît que cette technologie n’a pas de frontières et nécessite une coopération au-delà de celle des seuls États membres de l’Union;
191. invite la Commission à travailler au niveau international afin d’assurer une cohérence maximale entre les acteurs internationaux et à préconiser les principes éthiques de l’Union dans le monde entier;
192. souligne que l’IA est une technologie à incidence mondiale, offrant des avantages communs et présentant des défis similaires; relève la nécessité d’une approche mondiale, comme pour le système économique, et notamment dans le cas d’une technologie ayant une incidence significative sur les marchés; souligne qu’il convient d’inscrire l’IA à l’ordre du jour des institutions et organisations existantes et demande que la nécessité de mettre en place des forums supplémentaires soit évaluée, tout en garantissant le suivi approprié de ces évaluations;
°
° °
193. charge son Président de transmettre la présente résolution au Conseil et à la Commission.
- [1] JO C 252 du 18.7.2018, p. 239.
- [2] JO C 307 du 30.8.2018, p. 163.
- [3] Textes adoptés de cette date, P8_TA(2018)0341.
- [4] Textes adoptés de cette date, P8_TA(2018)0332.
- [5] JO L 252 du 8.10.2018, p. 1.
- [6] COM(2018)0237.
- [7] Technologies futures et émergentes
- [8] Perspectives de l’économie numérique de l’OCDE 2017
- [9] Eurobaromètre spécial 460.
- [10] Directive (UE) 2018/958 du Parlement européen et du Conseil du 28 juin 2018 relative à un contrôle de proportionnalité avant l’adoption d’une nouvelle réglementation de professions, JO L 173, du 9.7.2018, p. 25.
- [11] Directive 2013/55/UE du Parlement européen et du Conseil du 20 novembre 2013 modifiant la directive 2005/36/CE relative à la reconnaissance des qualifications professionnelles et le règlement (UE) nº 1024/2012 concernant la coopération administrative par l’intermédiaire du système d’information du marché intérieur («règlement IMI») (JO L 354 du 28.12.2013, p. 132).
- [12] Directive 2006/123/CE du Parlement européen et du Conseil du 12 décembre 2006 relative aux services dans le marché intérieur (JO L 376 du 27.12.2006, p. 36).
- [13] Directive 2000/31/CE du Parlement européen et du Conseil du 8 juin 2000 relative à certains aspects juridiques des services de la société de l’information, et notamment du commerce électronique, dans le marché intérieur («directive sur le commerce électronique») (JO L 178 du 17.7.2000, p. 1).
- [14] Règlement (UE) 2018/1807 du Parlement européen et du Conseil du 14 novembre 2018 établissant un cadre applicable au libre flux des données à caractère non personnel dans l’Union européenne, JO L 303, du 28.11.2018, p. 59.
- [15] Directive 85/374/CEE du Conseil du 25 juillet 1985 relative au rapprochement des dispositions législatives, réglementaires et administratives des États membres en matière de responsabilité du fait des produits défectueux (JO L 210 du 7.8.1985, p. 29).
- [16] Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (JO L 119 du 4.5.2016, p. 1).
AVIS de la commission du marché intérieur et de la protection des consommateurs (7.12.2018)
à l’intention de la commission de l’industrie, de la recherche et de l’énergie
sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique
(2018/2088(INI) – COM(2018)0237))
Rapporteure pour avis: Dita Charanzová
(Procédure simplifiée – article 50, paragraphes 1 et 3, du règlement intérieur
SUGGESTIONS
La commission du marché intérieur et de la protection des consommateurs invite la commission de l’industrie, de la recherche et de l’énergie, compétente au fond, à incorporer dans la proposition de résolution qu’elle adoptera les suggestions suivantes:
A. considérant que l’intelligence artificielle (IA) évolue rapidement et que l’IA fait partie de notre quotidien depuis plusieurs années; considérant que l’IA et la robotique stimulent l’innovation, donnant lieu à de nouveaux modèles d’entreprise et jouant un rôle clé dans la transformation de nos sociétés et la numérisation de nos économies dans de nombreux secteurs, tels que l’industrie, les soins de santé, la construction et les transports;
B. considérant que la Chine et les États-Unis sont les pays les plus avancés sur le plan des technologies de l’intelligence artificielle et que l’Union européenne accuse un retard considérable en la matière; considérant qu’à moins de déployer une approche coordonnée au niveau européen, il lui sera impossible de combler cet écart; considérant qu’une approche commune en matière d’IA permettrait à l’Union de mieux promouvoir ses valeurs dans le monde et de jouer un rôle plus important et plus efficace sur la scène mondiale;
C. considérant qu’un quart des robots industriels et la moitié des robots de services professionnels produits à l’échelle mondiale le sont par des entreprises européennes, et que l’Union dispose donc déjà d’atouts non négligeables sur lesquels fonder sa politique industrielle européenne;
D. considérant qu’une approche commune facilitera le développement des technologies de l’IA au profit de la société et permettra de répondre aux défis posés par ces technologies afin de favoriser l’innovation, d’améliorer la qualité des produits et des services reposant sur l’IA, d’améliorer l’expérience des consommateurs et leur confiance dans les technologies de l’IA et la robotique, et d’empêcher une fragmentation du marché intérieur;
E. considérant que le développement de l’intelligence artificielle et de la robotique doit profiter à l’ensemble de la société; considérant toutefois qu’en 2017, les zones rurales n’ont toujours pas pu bénéficier des avantages liés à l’IA, étant donné que 8 % des ménages n’ont pas d’accès au réseau fixe et que 53 % n’ont accès à aucune technologie d’accès de nouvelle génération (VDSL, réseau câblé Docsis 3.0 ou FTTP);
F. considérant que le développement de services et de produits reposant sur l’IA ne peut être réalisé sans la connectivité ainsi que la libre circulation et l’accessibilité des données au sein de l’Union; considérant que l’utilisation de techniques avancées d’extraction de données dans les services et les produits peut contribuer à accroître la qualité de la prise de décision et, partant, à élargir le choix des consommateurs, et à améliorer les performances des entreprises;
G. considérant que la cybersécurité a un rôle essentiel à jouer pour garantir que les données ne soient pas corrompues par malveillance ou utilisées abusivement de manière à ce que l’IA nuise aux citoyens ou aux entreprises, ce qui porterait préjudice à l’industrie et réduirait la confiance des consommateurs dans l’IA; considérant que les progrès dans le domaine de l’IA font que l’on s’appuie de plus en plus sur ces systèmes pour des décisions ou des actions, c’est pourquoi ceux-ci doivent à leur tour être soumis à des normes élevées en matière de cyber-résilience au sein de l’Union afin de prévenir les atteintes à la cybersécurité et les failles;
H. considérant que les développements technologiques concernant des produits et services intelligents peuvent bénéficier à l’économie de la connaissance, qui repose sur la quantité, la qualité et l’accessibilité des informations disponibles et permet ainsi une meilleure adaptation aux besoins des consommateurs;
I. considérant que les consommateurs devraient pouvoir faire confiance aux technologies avec lesquelles ils interagissent et qu’il est donc nécessaire de donner suite aux préoccupations éthiques concernant le développement de l’IA et de la robotique; considérant que, dans ce contexte, l’Union devrait s’appuyer sur les valeurs inscrites à l'article 2 du traité sur l'Union européenne et consacrées par la charte des droits fondamentaux de l’Union européenne; considérant que le groupe d’experts de haut niveau sur l’intelligence artificielle institué par la Commission élaborera un projet de lignes directrices en matière d’éthique de l’IA d’ici à la fin de 2018;
1. souligne que si l’Union entend rattraper son retard dans le domaine de l’IA, il est primordial qu’elle inscrive son action dans un cadre commun;
2. souligne que l’absence de coordination des actions en matière de R&D et de concertation au sujet des décisions relatives à la réglementation et aux actions menées au niveau international ne fait que l’éloigner de cet objectif;
3. fait observer qu’un certain nombre d’États membres disposent déjà de leurs propres stratégies nationales en matière d’IA; salue le fait que tous les États membres ont signé, en avril 2018, une déclaration sur la coopération en matière d’intelligence artificielle et se félicite du plan coordonné à venir sur l’IA entre la Commission et les États membres, mais demande à toutes les parties concernées de s’efforcer d’atteindre le niveau de coopération le plus élevé possible;
Une société soutenue par l’intelligence artificielle et la robotique
4. rappelle que l’Europe abrite une communauté de chercheurs en AI de premier ordre sur le plan mondial, qui représente 32 % des institutions de recherche sur l’IA dans le monde;
5. souligne que les chercheurs de l’Union continuent d’être nettement moins rémunérés que leurs homologues américains et chinois, et que cela constitue la principale raison de leur exode; lance un appel à la Commission et aux États membres pour qu’ils s’efforcent d’attirer les meilleurs talents pour les entreprises européennes et invite les États membres à mettre en place des conditions attrayantes à cet effet;
6. souligne l’importance de mesures ciblées visant à garantir que les petites et moyennes entreprises et les jeunes entreprises soient à même d’adopter les technologies de l’IA et d’en tirer parti; estime que des analyses d’impact portant sur les effets de la nouvelle législation de l’Union sur le développement technologique de l’IA devraient être obligatoires et que ce type d’analyses d’impact devrait également être envisagé au niveau national;
7. demande à la Commission, dans l’optique de promouvoir un environnement réglementaire favorable au développement de l’IA et conforme au principe d’amélioration de la réglementation, de réévaluer régulièrement la législation en vigueur afin de s’assurer qu’elle soit adaptée à son objectif en ce qui concerne l’IA, tout en respectant les valeurs fondamentales de l’Union, et, le cas échéant, de s’efforcer de modifier les propositions en question voire de les remplacer;
8. recommande de poursuivre les efforts pour améliorer la connectivité dans les zones négligées, telles que les zones rurales, de même que dans les secteurs négligés, afin que la transition numérique s’étende véritablement à tous;
9. souligne que l’introduction plus large des technologies de l’IA peut conduire au remplacement de certaines professions, en particulier celles qui sont les plus susceptibles d’être automatisées, et à la création de nouvelles; rappelle qu’une proportion significative de la population de l’Union, soit 37 % de la population active, ne possède pas les compétences numériques de base; souligne que la Commission prévoit une importante pénurie d’experts en TIC, avec 750 000 emplois vacants d’ici à 2020;
10. encourage vivement les États membres à moderniser leurs systèmes d’éducation et de formation professionnelle pour tenir compte du progrès scientifique et des avancées dans le domaine de l’IA, conformément à la directive relative à un contrôle de proportionnalité et à la directive relative à la reconnaissance des qualifications professionnelles, et à faire en sorte que les services professionnels de l’Union soient compétitifs à l’échelle internationale dans les décennies à venir;
La voie technologique vers l’intelligence artificielle et la robotique
11. estime que, grâce au nouvel ensemble de règles régissant la libre circulation des données à caractère non personnel dans l’Union, de plus en plus de données sont susceptibles de servir de base à l’innovation, ce qui permet aux PME et aux jeunes entreprises de développer plus facilement des services innovants fondés sur l’IA et de pénétrer sur de nouveaux marchés, et aux citoyens et aux entreprises de bénéficier de meilleurs produits et services;
12. rappelle que le règlement sur la libre circulation des données à caractère non personnel dispose que si les évolutions technologiques permettent de transformer les données anonymisées en données à caractère personnel, ces données sont traitées comme des données à caractère personnel et le règlement (UE) 2016/679 s’applique;
13. souligne le potentiel du partage des données, dans le contexte du développement à venir de l’apprentissage profond, notamment en ce qui concerne les ensembles de données de forte valeur, compte tenu des importants avantages qu’ils procurent aux citoyens et de leurs retombées socio-économiques ainsi que de leur capacité de créer des services et des applications à valeur ajoutée;
14. souligne l’importance des données ouvertes à caractère non personnel provenant de sources publiques et privées et estime qu’un cadre réglementaire, y compris la réutilisation des informations du secteur public, devrait favoriser l’accès aux données ouvertes et à l’interopérabilité; invite instamment la Commission à envisager la création d’un portail unique sécurisé et volontaire pour faciliter l’échange de données à caractère non personnel au niveau de l’Union, ce afin de simplifier la collecte des données;
15. souligne que la confiance des consommateurs est essentielle au développement de l’IA et que les systèmes fondés sur l’IA traitent de plus en plus de données des consommateurs, ce qui fait de ceux-ci des cibles privilégiées de cyberattaques; souligne également que l’IA doit fonctionner d’une manière qui ne porte pas préjudice aux citoyens et aux consommateurs et estime donc qu’il y a lieu de protéger l’intégrité des données et de sécuriser les algorithmes sur lesquels repose cette technologie;
16. souligne l’importance d’apprendre à cerner et à surveiller les risques liés directement et indirectement au développement de l’IA; préconise que la recherche consacrée à l’IA s’attache également à repérer les cas où l’IA et la robotique peuvent être corrompues, que ce soit accidentellement ou par malveillance;
Politique industrielle
17. estime que l’Union devrait être mieux équipée pour faire face aux cyberattaques; plaide en faveur de l’achèvement rapide de la stratégie en matière de cybersécurité, afin de garantir le développement et le déploiement de systèmes d’IA et de robotique sûrs et résilients face aux cyberattaques, notamment par l’élaboration de systèmes européens de certification; estime que l’ENISA devrait élaborer un plan d’action sur la cybersécurité dans le domaine de l’IA, qui devrait évaluer et traiter les menaces et les faiblesses propres à l’IA;
18. souligne que le développement d’un secteur de l’IA et de la robotique fort et compétitif ne saurait reposer uniquement sur des fonds publics; souligne l’importance de mobiliser des fonds privés pour stimuler l’innovation et développer le secteur de l’IA et de la robotique au sein de l’Union européenne;
19. rappelle que, bien qu’il existe déjà de longue date des applications industrielles pour l’IA et la robotique, les progrès dans ces domaines s’étendent à présent pour donner lieu à des applications larges et variées touchant toutes les activités humaines; estime que tout cadre réglementaire doit prévoir la flexibilité nécessaire pour permettre l’innovation et le libre développement des nouvelles technologies et des nouvelles applications liées à l’IA; souligne que la réglementation ne devrait nullement entraver la recherche et le développement dans le secteur privé;
20. invite la Commission à veiller à ce que les pôles d’innovation numérique n’entraînent pas la création de structures administratives supplémentaires, mais s’attachent à accélérer les investissements dans des projets qui ont prouvé leur efficacité; invite la Commission à se concentrer sur les subventions et l’aide financière en faveur de projets privés de R&D; souligne la nécessité de recourir davantage aux partenariats public-privé dans le domaine de l’IA;
21. estime que l’IA constituera un atout majeur pour la mise en œuvre du principe «une fois pour toutes», qui permet la combinaison de bases de données et d’informations provenant de différentes sources et favorise ainsi les interactions entre les citoyens et les administrations publiques;
Cadre juridique pour l’intelligence artificielle et la robotique
Un marché intérieur de l’intelligence artificielle
22. estime que les États membres devraient s'assurer que la création de données se fonde sur le principe d’«ouverture dès la conception et par défaut» et devraient également garantir un niveau cohérent de protection des objectifs d'intérêt public, tels que la sécurité publique ou la protection des données à caractère personnel, notamment lorsqu’il est question d’informations sensibles liées à des infrastructures critiques;
Développement responsable et libre circulation des produits intelligents
23. souligne l’importance du principe de reconnaissance mutuelle en ce qui concerne l’utilisation transfrontalière des produits intelligents, notamment des robots et des systèmes robotiques; rappelle que, le cas échéant, les essais, la certification et la sécurité des produits devraient garantir que certains produits sont sûrs dès leur conception et par défaut; prend acte, dans ce contexte, de l’importance de se pencher également sur les aspects éthiques liés à l’IA;
24. souligne que l’IA s’applique à toute une série de secteurs dans lesquels la normalisation revêt une grande importance, comme la fabrication intelligente, les robots, les voitures autonomes, la réalité virtuelle, les soins de santé et l’analyse des données, et estime que la normalisation de l’IA à l’échelle de l’Union favorisera l’innovation et garantira un niveau élevé de protection des consommateurs; est d’avis que, compte tenu du nombre important de normes existant sur des questions telles que la sécurité, la fiabilité, l’interopérabilité et la sûreté, l’Union devrait se fixer pour priorité de poursuivre la promotion et le développement de normes communes pour la robotique et l’intelligence artificielle; invite la Commission, en coopération avec les organismes de normalisation de l’Union européenne, à continuer de s’engager de manière proactive auprès d’organismes internationaux de normalisation en vue de l’amélioration des normes dans ce domaine;
25. prie instamment la Commission et les États membres de promouvoir les essais en conditions réelles à petite échelle pour les produits et technologies innovants (innovation selon l’approche dite «bac à sable»), et ce avant leur mise sur le marché;
26. est conscient de l'usage de plus en plus fréquent de technologies liées à la robotique et à l'intelligence artificielle dans les véhicules autonomes, tels que les voitures autonomes et les drones civils; relève que certains États membres légifèrent déjà dans ce domaine en particulier ou envisagent de le faire, ce qui pourrait donner lieu à une mosaïque de législations nationales qui entraverait le développement de véhicules autonomes; appelle par conséquent à la mise en place d’un ensemble unique de règles de l’Union établissant un juste équilibre entre les intérêts et les risques potentiels pour les utilisateurs, les entreprises et les autres parties concernées, tout en évitant une surréglementation du secteur de la robotique et des systèmes d’IA;
Libre prestation des services axés sur l’IA
27. rappelle que les technologies d’analyse, d’exploitation et de traitement des données, comme l’apprentissage automatique, l’IA et l’internet des objets, sont en constante évolution, et que la rapidité de cette évolution technologique permet la création de nouveaux services et applications fondés sur l’utilisation, l’agrégation ou la combinaison de données;
28. rappelle que de nombreux aspects politiques pertinents pour les services fondés sur l’IA, y compris les règles relatives à la protection des consommateurs et la politique en matière d’éthique et de responsabilité, sont couverts par le cadre réglementaire existant sur les services, à savoir la directive sur les services, la directive sur la reconnaissance des qualifications professionnelles et la directive sur le commerce électronique;
29. souligne que l’homme doit toujours être responsable en dernier ressort de la prise de décision, en particulier pour les services professionnels tels que les professions dans le domaine médical, juridique et comptable; estime qu’il est nécessaire de déterminer si la surveillance par un professionnel qualifié est nécessaire afin de protéger les objectifs légitimes d’intérêt général et de fournir des services de haute qualité;
30. reconnaît l’importance de l’amélioration des services numériques, tels que les assistants virtuels, les robots conversationnels ou les agents virtuels, qui apporte des gains d’efficacité opérationnels sans précédent, mais n’en souligne pas moins la nécessité de mettre au point une IA centrée sur l’humain et axée sur le marché afin de produire des décisions de meilleure qualité et plus fiables, compte tenu des limites de l’autonomie de l’IA et de la robotique;
Protection et responsabilisation des consommateurs
31. considère que les technologies de l’intelligence artificielle conçues tant pour la fabrication que pour l’usage individuel devraient être soumises à des contrôles de sécurité des produits par les autorités de surveillance du marché et à des règles de protection des consommateurs qui mettent en place, le cas échéant, des normes minimales de sécurité et tiennent compte du risque d’accident résultant de l’interaction avec des humaines ou de l’activité à proximité d’humains; estime que toute politique en matière d’IA devrait tenir compte des questions d'éthique, de protection des données, y compris des données de tiers et des données personnelles, de responsabilité civile, et de cybersécurité;
32. rappelle que les algorithmes sont les pierres angulaires de l’IA et de la robotique; invite les États membres à veiller à ce que l’IA se fonde uniquement sur des données de haute qualité, qui soient notamment actualisées, exactes et fiables, afin d’assurer la confiance et l’acceptation des consommateurs; rappelle à cet égard qu’il importe que les processus décisionnels résultant des technologies de l’IA et la neutralité des algorithmes puissent être expliqués, tout en respectant la législation de l’Union en particulier en ce qui concerne les secrets d’affaires, et que des structures de contrôle soient mises en place afin de corriger d’éventuelles erreurs dans les décisions prises par l’IA;
33. souligne l’importance d’une IA conviviale pour ce qui est de renforcer la confiance des consommateurs; estime que lorsque des décisions définitives et permanentes sont prises par l’IA et non par des humains, les consommateurs devraient en être informés et être en mesure de demander un contrôle et une rectification par un humain; souligne que, lorsqu’ils interagissent avec un système automatisé, les utilisateurs devraient être informés de la marche à suivre pour prendre contact avec un humain et demander que les décisions d’un système soient contrôlées et rectifiées;
34. prend acte du document de travail des services de la Commission du 25 avril 2018 sur la responsabilité en matière de technologies numériques émergentes (SWD(2018)0137); prend acte de sa conclusion selon laquelle, si le cadre actuel de responsabilité reste stable et opérationnel, il devrait être réexaminé par le groupe d’experts sur la responsabilité et les nouvelles technologies, à la lumière des nouvelles technologies de l’IA, afin de s’assurer qu’il est adapté à sa finalité et qu’il intègre le point de vue des consommateurs, des acteurs de l’innovation et des entreprises exerçant leur activité dans l’Union;
35. souligne la nécessité d’éduquer les citoyens, et en particulier les plus jeunes, pour qu’ils comprennent la manière dont fonctionne l’IA; plaide en faveur d’un renforcement des moyens d’action octroyés aux citoyens et aux consommateurs de l’Union, recommandant que l’IA soit davantage mise au service des citoyens, des consommateurs et de la société civile; estime que l’on peut y parvenir en proposant à tous un enseignement intensif visant à favoriser une meilleure compréhension de l’IA.
INFORMATIONS SUR L’ADOPTIONPAR LA COMMISSION SAISIE POUR AVIS
|
Procédure simplifiée - date de la décision |
16.5.2018 |
||||
|
Date de l’adoption |
4.12.2018 |
|
|
|
|
AVIS DE LA COMMISSION DES AFFAIRES JURIDIQUES SUR LA BASE JURIDIQUE
M. Jerzy BuzekPrésidentCommission de l’industrie, de la recherche et de l’énergieBRUXELLES
Objet: Avis sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique (2018/2088(INI))Monsieur le président,Dans le cadre de la procédure en objet, la commission des affaires juridiques, dont j’ai l’honneur d’être le président, a été chargée de soumettre un avis à votre commission. Mme Delvaux a été nommée rapporteure pour avis. Au cours de sa réunion du 20 novembre 2018, la commission a décidé de transmettre cet avis sous forme de lettre.En vertu de l’accord auquel nos deux commissions sont parvenues sur ce dossier en ce qui concerne l’association au titre de l’article 54 du règlement intérieur du Parlement européen, la commission des affaires juridiques détient la compétence exclusive pour les questions liées à la responsabilité et aux droits de propriété intellectuelle et une compétence partagée pour les questions liées aux valeurs qui alimentent la technologie («éthique dès la conception»). La commission des affaires juridiques a examiné la question lors de sa réunion du 6 décembre 2018. À l’issue d’échanges par procédure écrite entre les coordinateurs, l’avis reproduit ci-après a été adopté lors de la réunion du 10 décembre 2018. Lors de cette même réunion[1], la commission a décidé d’inviter la commission de l’industrie, de la recherche et de l’énergie, compétente au fond, à incorporer dans la proposition de résolution qu’elle adoptera les suggestions reproduites ci-après.Je suis convaincu que vous y trouverez une contribution utile au rapport rédigé par votre commission.Veuillez agréer, cher collègue, l’assurance de ma considération distinguée.Pavel Svoboda
SUGGESTIONS
A. considérant que, dans sa résolution du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2013(INL)), il invitait la Commission à proposer un cadre juridique cohérent régissant le développement de la robotique, y compris les systèmes autonomes et les robots autonomes intelligents;
1. invite instamment à accorder une attention particulière à la sécurité des produits, afin de protéger les consommateurs et de leur donner confiance en l’intelligence artificielle et la robotique;
2. souligne qu’il est vital qu’une conception centrée sur l’humain préside à la conception de toute intelligence artificielle, sans quoi le processus décisionnel des machines sera exempt de toute responsabilité ou obligation de rendre des comptes;
3. souligne qu’il faut mettre au point un cadre stratégique qui encourage la conception de tous types d’intelligence artificielle, et pas uniquement celle de systèmes fondés sur l’apprentissage en profondeur, cette dernière étant particulièrement gourmande en données;
4. souligne que l’utilisation de données dans le secteur de la santé doit faire l’objet d’une surveillance particulière du point de vue éthique, et qu’elle ne doit en aucune manière entraver l’accès à la protection sociale ou à l’assurance;
5. estime que lorsqu’un implant médical a recours à l’intelligence artificielle, le porteur doit avoir le droit de contrôler et de modifier le code source utilisé par l’implant;
6. rappelle que la disponibilité de données de qualité est essentielle pour la compétitivité réelle du secteur de l’intelligence artificielle et demande aux pouvoirs publics de veiller à la production, au partage et à la gouvernance des données en faisant des données un bien commun sous la forme de données ouvertes;
7. salue l’initiative de la Commission consistant à créer un groupe d’experts sur la responsabilité et les nouvelles technologies, chargé de conseiller l’Union européenne sur l’applicabilité de la directive sur la responsabilité du fait des produits aux produits traditionnels, aux nouvelles technologies et aux nouveaux défis de société (sous-groupe «directive sur la responsabilité du fait des produits») et d’aider l’Union européenne à définir des principes d’orientation en vue d’une éventuelle adaptation de la législation applicable au niveau européen et national en matière de nouvelles technologies (sous-groupe «nouvelles technologies»);
8. déplore toutefois qu’aucune proposition législative n’ait été présentée au cours de la législature actuelle, ce qui retarde la mise à jour des règles en matière de responsabilité au niveau de l’Union et compromet la sécurité juridique dans toute l’Union dans ce domaine, tant pour les commerçants que pour les consommateurs;
9. prend acte des travaux actuellement menés par l’Organisation internationale de normalisation (ISO) sur l’intelligence artificielle et invite instamment les États membres à coopérer au niveau de leurs membres de l’ISO afin de défendre du mieux possible les valeurs européennes et les intérêts européens en ce qui concerne l’élaboration de normes;
10. rappelle sa résolution susmentionnée du 16 février 2017, dans laquelle il relevait qu’il n’existe aucune disposition juridique qui s’applique spécifiquement à la robotique, mais que les régimes et doctrines juridiques existants peuvent s’appliquer en l’état à ce domaine, certains aspects nécessitant néanmoins un examen spécifique; demande encore une fois à la Commission de soutenir une approche transversale et technologiquement neutre de la propriété intellectuelle, qui s’applique aux différents secteurs concernés par l’application de la robotique;
11. salue, à cet égard, la communication de Commission aux institutions européennes contenant des orientations sur certains aspects de la directive 2004/48/CE du Parlement européen et du Conseil relative au respect des droits de propriété intellectuelle; souligne cependant qu’il demeure nécessaire de contrôler la pertinence et l’efficacité des règles en matière de propriété intellectuelle lorsqu’elles sont appliquées à la gouvernance de l’intelligence artificielle; souligne, dans ce contexte, l’importance des bilans de qualité;
12. se félicite de la création, par la Commission, d’un groupe d’experts de haut niveau sur l’intelligence artificielle, composé de représentants des milieux universitaires, de la société civile et du secteur et chargé de rédiger des lignes directrices en matière d’éthique sur des questions telles que l’équité, la sécurité, la transparence, l’avenir du monde du travail, la démocratie et, plus largement, les retombées sur l’application de la charte des droits fondamentaux, notamment en matière de respect de la vie privée et de protection des données à caractère personnel, de dignité, de protection des consommateurs et de non-discrimination;
13. attend avec intérêt la réunion commune avec les États membres, prévue en janvier 2019, qui suit la publication, fin 2018, du projet de lignes directrices en matière d’éthique, comme annoncé dans la communication de la Commission du 25 avril 2018;
14. souligne le rôle qu’est à même de jouer le Parlement, notamment grâce aux travaux du Comité de l’avenir de la science et de la technologie (STOA), pour que les préoccupations des citoyens soient prises en compte lors du processus de rédaction de ces lignes directrices;
15. prend acte du plan d’action coordonné en matière d’intelligence artificielle présenté par M. Ansip, vice-président de la Commission, en décembre 2018;
16. souligne que ce sont des pays hors Union européenne qui sont actuellement à la pointe du développement de l’intelligence artificielle et de la robotique; insiste dès lors sur l’importance de se doter d’une approche commune au niveau de l’Union pour défendre la place de l’Union dans ce domaine;
17. salue, à cet égard, la création de l’Alliance européenne pour l’intelligence artificielle, dont l’objectif est de mobiliser des participants très divers, dont des entreprises, des associations de consommateurs, des syndicats et d’autres représentants d’organes de la société civile; fait observer que le rôle de cette vaste plateforme rassemblant plusieurs parties prenantes est de compléter et d’étayer les travaux du groupe d’experts de haut niveau sur l’intelligence artificielle, en particulier en ce qui concerne la rédaction de lignes directrices en matière d’éthique dans le domaine, et de rendre l’Union européenne compétitive dans le secteur émergent qu’est l’intelligence artificielle.
- [1] Étaient présents au moment du vote final: Pavel Svoboda (président), Jean-Marie Cavada, (vice-président), Mady Delvaux (vice-présidente et rapporteure pour avis), Joëlle Bergeron, Kostas Chrysogonos, Sergio Gaetano Cofferati, Mary Honeyball, Sajjad Karim, Sylvia-Yvonne Kaufmann, António Marinho e Pinto, Julia Reda, Evelyn Regner, Axel Voss, Tiemo Wölken, Francis Zammit Dimech, Tadeusz Zwiefka, Kosma Złotowski, Luis de Grandes Pascual.
AVIS de la commission des libertés civiles, de la justice et des affaires intérieures (11.12.2018)
à l’intention de la commission de l’industrie, de la recherche et de l’énergie
sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique
(2018/2088(INI))
Rapporteur pour avis (*): Michał Boni
(*) Commission associée – article 54 du règlement intérieur
SUGGESTIONS
La commission des libertés civiles, de la justice et des affaires intérieures invite la commission de l’industrie, de la recherche et de l’énergie, compétente au fond, à incorporer dans la proposition de résolution qu’elle adoptera les suggestions suivantes:
– vu la communication de la Commission au Parlement européen, au Conseil européen, au Conseil, au Comité économique et social européen et au Comité des régions sur l’intelligence artificielle pour l’Europe (COM(2018)0237),
– vu sa résolution du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique[1],
A. considérant que l’intelligence artificielle est l’une des technologies stratégiques du XXIe siècle, dans le monde comme en Europe, qui apporte des évolutions positives à l’économie européenne et favorise l’innovation, la productivité, la compétitivité et le bien-être;
B. considérant que le cadre européen pour l’intelligence artificielle doit être établi dans le plein respect des droits fondamentaux définis par la Charte des droits fondamentaux de l’Union européenne, et notamment des principes de protection, de confidentialité et de sécurité des données;
C. considérant que l’apprentissage automatique et l’intelligence artificielle centrée sur l’humain représentent un avantage pour la société européenne et peuvent aider à résoudre certains des défis les plus urgents pour la société, apportant ainsi des avantages concrets pour les citoyens;
1. invite la Commission et les autres institutions compétentes à collaborer étroitement avec des chercheurs de différentes disciplines pour identifier, soutenir et multiplier les potentiels effets positifs des utilisations innovantes de l’intelligence artificielle, pour étudier, prévenir et limiter les potentiels effets néfastes d’utilisations malveillantes ou négligentes de l’intelligence artificielle, et pour développer des outils, des politiques et des normes à même de régir de manière éthique les applications de l’intelligence artificielle; souligne qu’il est nécessaire de développer des programmes d’échange de connaissances, notamment transfrontaliers, et de faciliter le développement de stratégies communes parmi les organisations de la société civile; remarque qu’il convient d’identifier les meilleures pratiques dans les domaines de recherche qui disposent de méthodes plus abouties pour répondre aux problématiques liées au double usage, telles que l’équilibre entre sécurité et vie privée, et d’appliquer ces pratiques au domaine de l’intelligence artificielle;
2. souligne que les usages malveillants ou négligents de l’intelligence artificielle pourraient mettre en péril la sécurité numérique, physique et publique, car l’intelligence artificielle peut être utilisée pour mener des attaques à grande échelle, finement ciblées et très efficaces contre des services de la société de l’information et des machines connectées, ainsi que pour mener des campagnes de désinformation et plus généralement pour réduire les possibilités d’exercice, par les citoyens, de leur droit à l’autodétermination; relève que les usages malveillants ou négligents de l’intelligence artificielle pourraient également représenter un danger pour la démocratie et les droits fondamentaux;
3. met en avant le fait que le droit au respect de la vie privée et à la protection des données à caractère personnel, consacré par les articles 7 et 8 de la charte des droits fondamentaux et par l’article 16 du traité sur le fonctionnement de l’Union européenne (traité FUE), s’applique dans tous les domaines de la robotique et tout autre domaine dans lequel il peut être fait usage d’intelligence artificielle, tels que l’analyse de mégadonnées, l’apprentissage automatique et l’internet des objets, et que le cadre juridique de l’Union en matière de protection des données doit être pleinement respecté dans le domaine des systèmes d’intelligence artificielle; réitère son soutien au plan d’action de la Commission intitulé «Plan d’action pour les technologies financières: Pour un secteur financier européen plus compétitif et plus innovant», qui met en avant le rôle que peut jouer la réglementation pour faciliter l’innovation technologique et améliorer la compréhension des modèles commerciaux innovants et des évolutions du marché en permettant aux régulateurs de suivre des entreprises dans le cadre juridique de l’Union;
4. invite la Commission à faire en sorte que tout cadre réglementaire à venir de l’Union en matière d’intelligence artificielle garantisse la protection et la confidentialité des communications, la protection des données à caractère personnel – notamment les principes de licéité, loyauté et transparence, de protection des données intégrée et par défaut, de limitation des finalités, de précision et de minimisation des données, conformément à la législation de l’Union en matière de protection des données – ainsi que la sécurité, y compris des personnes, et les autres droits fondamentaux, notamment le droit à la liberté d’expression et d’information; considère que tout cadre réglementaire à venir devrait être évalué régulièrement par la Commission au vu des nouvelles évolutions technologiques;
5. insiste sur le fait que les normes européennes en matière d’intelligence artificielle doivent se fonder sur les principes d’éthique numérique, de dignité humaine, de respect des droits fondamentaux, de protection des données et de sécurité, et viser à intégrer ces principes dès la conception, contribuant ainsi à renforcer la confiance des utilisateurs; met en avant l’importance de s’appuyer sur le potentiel de l’Union pour créer une infrastructure solide pour les systèmes d’intelligence artificielle, fondée sur des normes exigeantes en matière de protection des données et de respect des personnes; souligne le besoin d’investissements systématiques pour le développement des compétences futures nécessaires, notamment par la formation de chercheurs et la facilitation du partage de connaissances entre les disciplines – y compris l’éthique appliquée – spécialisées dans la technologie de l’intelligence artificielle, la robotique et les domaines connexes;
6. invite la Commission à prendre fermement position contre le développement de systèmes d’armements autonomes opérés par intelligence artificielle dans tout cadre européen;
7. se félicite de l’initiative de la Commission d’établir une alliance européenne pour l’intelligence artificielle, qui sera chargée d’élaborer des recommandations politiques et des lignes directrices complètes pour l’éthique en matière d’intelligence artificielle; souligne l’importance d’une participation active aux alliances mondiales et aux forums mondiaux sur l’intelligence artificielle afin de permettre un partage des connaissances et une compréhension exhaustive des problématiques de protection, de transparence et de sécurité des données dans le développement et le déploiement de systèmes d’intelligence artificielle; se félicite, à ce sujet, des travaux du groupe d’experts de haut niveau sur l’intelligence artificielle, qui fait office de groupe de pilotage pour les travaux de l’alliance pour l’intelligence artificielle; invite la Commission à garantir la participation d’autorités de protection des données à ce groupe de haut niveau, à achever les travaux de manière ouverte et transparente, et à publier les lignes directrices; invite, en outre, la Commission à continuer d’œuvrer pour une approche à l’échelle de l’Union en matière d’intelligence artificielle qui soit centrée sur l’humain et dirigée par lui, et à promouvoir activement des normes de l’Union élevées dans le domaine de l’intelligence artificielle au niveau international;
8. souligne que tout système d’intelligence artificielle doit être développé dans le respect des principes de transparence et de la responsabilité des algorithmes, de manière à permettre la compréhension de ses actions par les êtres humains; remarque qu’afin de renforcer la confiance et de permettre le progrès de l’intelligence artificielle, les utilisateurs doivent savoir comment sont utilisées leurs données, ainsi que d’autres données et les données déduites des leurs, et doivent savoir quand ils communiquent ou interagissent avec un système d’intelligence artificielle ou avec des humains qui s’appuient sur un tel système; considère que cela contribuera à une meilleure compréhension et à plus de confiance de la part des utilisateurs; insiste sur le fait que le caractère intelligible des décisions doit être une norme européenne, conformément aux articles 13, 14 et 15 du règlement général sur la protection des données (RGPD); rappelle que le RGPD prévoit d’ores et déjà le droit d’être informé de la logique qui sous-tend tout traitement de données; souligne que, conformément à l’article 22 du RGPD, les individus ont le droit de bénéficier d’une intervention humaine lorsqu’une décision fondée sur un traitement automatisé les affecte de manière significative;
9. souligne que la Commission, le comité européen de la protection des données, les autorités nationales chargées de la protection des données et d’autres autorités de contrôle indépendantes devraient désormais jouer un rôle essentiel en vue de promouvoir la transparence, le respect du droit et la sécurité juridique, et notamment les normes concrètes protégeant les droits fondamentaux et les garanties associées au traitement et à l’analyse des données; demande une meilleure coopération entre les autorités chargées du contrôle ou de la réglementation des comportements dans l’environnement numérique; demande des financements et des effectifs adéquats pour ces autorités;
10. relève l’importance de lutter contre les biais des développeurs, et donc d’avoir une main-d’œuvre diversifiée dans tous les domaines du secteur informatique ainsi que des mécanismes de sauvegarde permettant d’éviter que des biais liés au sexe ou à l’âge ne soient intégrés aux systèmes d’intelligence artificielle;
11. souligne qu’il est important d’établir un cadre réglementaire pour contrôler les algorithmes et leurs conséquences, ce qui implique par conséquent la possibilité d’engager des auditeurs indépendants pour les algorithmes, voire des organismes de veille au sujet des logiciels ou un régulateur à même d’enquêter sur les décisions automatiques fondées sur l’intelligence artificielle;
12. insiste sur l’importance d’utiliser des données de qualité, exactes et représentatives lors du développement et du déploiement d’algorithmes, car ces systèmes fondent leurs normes sur les données employées pour les entraîner; relève que même des données d’apprentissage de qualité peuvent perpétuer une situation existante d’injustice ou de discrimination si elles ne sont pas utilisées avec soin et discernement; remarque que l’emploi de données de mauvaises qualité, obsolètes, incomplètes ou incorrectes à différentes étapes du traitement des données peut avoir pour conséquence de mauvaises prédictions et évaluations, et donc un biais, qui peut résulter en des violations des droits fondamentaux des individus ou des conclusions entièrement incorrectes et des résultats erronés; considère par conséquent qu’il est important, à l’ère des mégadonnées, de veiller à ce que les algorithmes soient entraînés sur des échantillons de données représentatifs et de haute qualité afin de garantir l’absence de biais; souligne que même si des données précises et de haute qualité sont utilisées, l’analyse prédictive fondée sur l’intelligence artificielle ne peut offrir qu’une probabilité statistique; rappelle qu’en vertu du RGPD, le traitement ultérieur des données à caractère personnel à des fins statistiques, y compris l’entraînement d’intelligences artificielles, ne peut aboutir qu’à des données agrégées qui ne peuvent être réappliquées aux citoyens;
13. demande à la Commission, aux États membres et aux autorités chargées de la protection des données d’identifier et de prendre toutes les mesures possibles afin d’empêcher ou de réduire au minimum toute discrimination et partialité algorithmiques, et de mettre en place un cadre éthique commun solide pour le traitement en toute transparence des données à caractère personnel et la prise de décisions automatisée, qui puisse servir de guide pour l’utilisation des données et pour l’application de la législation européenne;
14. relève que, si elles favorisent le progrès au bénéfice de la société et de l’environnement, la recherche en matière d’intelligence artificielle et les activités connexes devraient être menées conformément au principe de précaution et aux droits fondamentaux; souligne que toutes les personnes participant au développement, à l’application, à la diffusion et à l’utilisation de l’intelligence artificielle devraient apprécier à leur juste valeur et respecter la dignité humaine ainsi que l’autodétermination et le bien-être – physique comme psychologique – des individus et de la société dans son ensemble, prévoir les conséquences potentielles en matière de sécurité et prendre les précautions nécessaires en regard du niveau de protection, y compris par la communication rapide des facteurs qui risquent de mettre les personnes ou l’environnement en péril; souligne la nécessité d’une approche coordonnée afin de garantir que des évaluations fondées sur le risque sont menées fréquemment pour les systèmes d’intelligence artificielle et leurs composantes; met en avant l’importance de la conception et du respect d’un ensemble exhaustif de règles et de lignes directrices en matière d’audit pour le développement et le déploiement de systèmes d’intelligence artificielle, ainsi que de mécanismes de sécurité et de signalement visant à réduire les risques d’infractions;
15. souligne que les principes suivants devraient s’appliquer aux stratégies générales en matière d’intelligence artificielle et de robotique:
a) les robots et l’intelligence artificielle sont des outils polyvalents; ils ne devraient pas être conçus dans le but unique ou principal de tuer des humains ou de leur nuire; les droits individuels et les libertés fondamentales doivent être garantis, notamment l’intégrité (physique et mentale), la dignité et l’identité humaines; il convient de souligner la prééminence de l’être humain sur le seul intérêt de la science ou de la société;
b) les humains sont des agents responsables; les législateurs devraient veiller à ce que les technologies émergentes soient conformes à la législation en vigueur et aux droits fondamentaux;
c) les robots et l’intelligence artificielle sont des produits qui devraient être conçus, comme tout produit, de sorte à être sûrs, inoffensifs et adaptés à l’usage prévu;
d) les robots et l’intelligence artificielle sont des objets manufacturés; ils ne devraient pas être d’une conception fallacieuse visant à abuser les utilisateurs vulnérables; il doit au contraire être manifeste qu’il s’agit de machines;
e) il convient de designer une personne portant la responsabilité juridique pour un robot ou un système d’intelligence artificielle; en cas de négligence grave en matière de sécurité ou de sûreté, les constructeurs devraient être tenus responsables même lorsque les accords d’utilisation comprennent des clauses de non-responsabilité;
16. souligne la nécessité d’associer le public au processus de développement de l’intelligence artificielle; invite par conséquent la Commission à publier en code source ouvert tout algorithme, outil ou technologie financé ou cofinancé par des fonds publics;
17. relève que, lorsque des risques apparaissent comme un élément inhérent et inévitable d’une recherche en matière d’intelligence artificielle, des protocoles robustes d’évaluation et de gestion des risques doivent être développés et respectés, qui tiennent compte de l’exigence que le risque de dommages ne soit pas supérieur à celui rencontré dans la vie normale (c’est-à-dire que les individus ne soient pas exposés à des risques plus grands ou plus nombreux que ceux auxquels ils s’exposent du fait d’un mode de vie normal).
INFORMATIONS SUR L’ADOPTION EN COMMISSION SAISIE POUR AVIS
|
Date de l’adoption |
10.12.2018 |
|
|
|
|
|
Résultat du vote final |
+: –: 0: |
30 0 1 |
|||
|
Membres présents au moment du vote final |
Martina Anderson, Monika Beňová, Michał Boni, Cornelia Ernst, Romeo Franz, Nathalie Griesbeck, Jussi Halla-aho, Monika Hohlmeier, Sophia in ‘t Veld, Dietmar Köster, Juan Fernando López Aguilar, Roberta Metsola, Claude Moraes, Péter Niedermüller, Ivari Padar, Giancarlo Scottà, Birgit Sippel, Csaba Sógor, Helga Stevens, Bodil Valero, Harald Vilimsky, Josef Weidenholzer |
||||
|
Suppléants présents au moment du vote final |
Marek Jurek, Jean Lambert, Angelika Mlinar, Maite Pagazaurtundúa Ruiz, Barbara Spinelli, Axel Voss |
||||
|
Suppléants (art. 200, par. 2) présents au moment du vote final |
Lucy Anderson, Margrete Auken, Anthea McIntyre |
||||
VOTE FINAL PAR APPEL NOMINAL EN COMMISSION SAISIE POUR AVIS
|
30 |
+ |
|
|
ALDE |
Nathalie Griesbeck, Sophia in ‘t Veld, Angelika Mlinar, Maite Pagazaurtundúa Ruiz |
|
|
ECR |
Jussi Halla-aho, Marek Jurek, Anthea McIntyre, Helga Stevens |
|
|
ENF |
Giancarlo Scottà |
|
|
GUE/NGL |
Martina Anderson, Cornelia Ernst, Barbara Spinelli |
|
|
PPE |
Michał Boni, Monika Hohlmeier, Roberta Metsola, Csaba Sógor, Axel Voss |
|
|
S&D |
Lucy Anderson, Monika Beňová, Dietmar Köster, Juan Fernando López Aguilar, Claude Moraes, Péter Niedermüller, Ivari Padar, Birgit Sippel, Josef Weidenholzer |
|
|
Verts/ALE |
Margrete Auken, Romeo Franz, Jean Lambert, Bodil Valero |
|
|
0 |
- |
|
|
|
|
|
|
1 |
0 |
|
|
ENF |
Harald Vilimsky |
|
Légende des signes utilisés:
+ : pour
- : contre
0 : abstention
- [1] Textes adoptés de cette date, P8_TA(2017)0051.
AVIS de la commission de l’environnement, de la santé publique et de la sécurité alimentaire (21.11.2018)
à l’intention de la commission de l’industrie, de la recherche et de l’énergie
sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique
(2018/2088(INI))
Rapporteur pour avis: Bolesław G. Piecha
SUGGESTIONS
La commission de l’environnement, de la santé publique et de la sécurité alimentaire invite la commission de l’industrie, de la recherche et de l’énergie, compétente au fond, à incorporer dans la proposition de résolution qu’elle adoptera les suggestions suivantes:
A. considérant que l’intelligence artificielle (IA) deviendra une révolution technologique, économique, sociale et psychologique aux répercussions éthiques évidentes, non seulement en Europe mais aussi dans le reste du monde;
B. considérant que l’intégration croissante de la robotique aux systèmes humains nécessite des orientations politiques fortes sur la manière de tirer le meilleur parti des avantages et de réduire au minimum les risques pour la société, ainsi que de garantir le développement sûr et équitable de l’intelligence artificielle;
C. considérant que la maturité du marché de l’intelligence artificielle représente, d’un point de vue éthique et moral, le bouleversement le plus important depuis l’invention de la machine à vapeur et celle de l’ordinateur; qu’il convient dès lors d’engager à ce sujet un débat approfondi au niveau social;
D. considérant que, dans les domaines de l’industrie et des services liés aux technologies de pointe, l’IA est essentielle pour faire de l’Europe un continent des jeunes pousses («start-up continent») en exploitant les technologies les plus récentes afin de générer de la croissance en Europe, en particulier dans les domaines des technologies de la santé, des services et programmes de soins de santé, de la découverte de médicaments, de la robotique et de la chirurgie assistée par robot, du traitement des maladies chroniques, ainsi que de l’imagerie médicale et des dossiers médicaux, et de garantir un environnement durable ainsi que la sécurité de la production alimentaire; considérant qu’à l’heure actuelle l’Europe accuse un retard certain vis-à-vis de l’Amérique du Nord et de l’Asie en ce qui concerne la recherche et les brevets en matière d’intelligence artificielle;
E. considérant que le développement des technologies de l’intelligence artificielle est susceptible de contribuer à améliorer la vie des personnes atteintes de maladies chroniques et des personnes handicapées et à relever des défis sociaux tels que le vieillissement de la population en rendant plus précises et plus efficaces les technologies de la santé en matière de soins de santé;
F. considérant qu’il existe un large éventail d’applications potentielles de l’intelligence artificielle et de la robotique en matière de soins de santé, telles que la gestion des données et des dossiers médicaux, l’accomplissement de tâches répétitives (analyses de tests, radiographies, tomodensitométries, saisie de données), l’élaboration de traitements, la consultation numérique (comme la consultation médicale s’appuyant sur des antécédents médicaux personnels et sur des connaissances médicales générales), les infirmières virtuelles, la gestion de la médication, la conception de médicaments, la médecine de précision (comme la génétique et la génomique qui recherchent des mutations et des liens avec les pathologies dans les informations fournies par l’ADN), le suivi de santé, l’analyse des systèmes de soins de santé, etc.;
G. considérant que l’accessibilité ne signifie pas les mêmes services et les mêmes équipements pour tous; que l’accessibilité de l’IA et de la robotique s’appuie sur une planification et une conception inclusives; que les besoins, les souhaits et le vécu des utilisateurs doivent constituer le point de départ de la conception;
H. considérant qu’il existe de fortes préoccupations éthiques, psychologiques et juridiques quant à l’autonomie des robots, à leur manque évident d’empathie humaine et à leur impact sur la relation entre le médecin et le patient qui n’ont pas encore été traitées de manière adéquate au niveau de l’Union, notamment en ce qui concerne la protection des données à caractère personnel des patients, la responsabilité des actes réalisés par les robots et les nouvelles relations économiques et de travail résultantes; que l’«autonomie» en tant que telle ne peut être pleinement l’attribut que des êtres humains; qu’il est nécessaire de mettre en place un cadre juridique et éthique solide pour l’intelligence artificielle;
I. considérant que l’introduction de l’intelligence artificielle dans le domaine de la santé doit en tout état de cause respecter le principe de responsabilité selon lequel «l’humain contrôle la machine»;
J. considérant que les risques liés à l’IA n’ont pas été suffisamment étudiés;
1. souligne que tout progrès technologique révolutionnaire, en particulier dans le domaine de l’IA et de la robotique, devrait servir le bien-être de l’homme;
2. souligne que les systèmes d’IA et les robots constituent des moyens technologiques novateurs permettant d’améliorer la vie des gens, d’assurer la croissance de l’économie et de répondre aux défis en matière, entre autres, de santé, d’environnement, de changement climatique et de sécurité alimentaire, et qu’un agent humain est toujours responsable de leur usage;
3. invite la Commission et les États membres à élaborer un plan d’action de l’Union global et complet visant à créer un «écosystème européen d’intelligence artificielle» afin de tirer pleinement parti des possibilités de développement socio-économique, tout en examinant de manière approfondie les questions de sûreté, de sécurité, de prévention des effets néfastes et d’atténuation des risques, de responsabilité morale de l’homme, de gouvernance et de réglementation liées à l’IA et aux robots, de viabilité écologique et d’élimination des équipements liés à l’intelligence artificielle[1]; souligne que cet «écosystème» devrait être ouvert aux besoins des très petites entreprises et des petites et moyennes entreprises et qu’il devrait être mis en place en concertation avec toutes les parties prenantes concernées, en particulier les groupes de patients, mais également en tenant compte des préoccupations d’autres groupes, tels que les associations caritatives, les églises et les facultés de philosophie;
4. estime qu’une attention particulière devrait être accordée à l’utilisation des mégadonnées dans le domaine de la santé, dans l’objectif de tirer le meilleur parti des possibilités qu’elles offrent, telles que l’amélioration de la santé des patients et des performances des systèmes de santé publique des États membres, sans nuire aux normes éthiques et sans porter atteinte à la vie privée ni à la sécurité des citoyens;
5. met vivement en garde contre toute tentative visant à doter des machines d’une sorte de «personnalité» et, ainsi, à libérer totalement de toute responsabilité les fabricants comme les utilisateurs de telles machines;
6. souligne toutefois que le système actuel d’approbation des dispositifs médicaux pourrait ne pas être adapté aux technologies de l’intelligence artificielle; invite la Commission à suivre de près l’évolution de ces technologies et à proposer des modifications au cadre réglementaire, le cas échéant, en vue de clarifier le cadre relatif à la répartition de la responsabilité civile entre l’utilisateur (médecin/professionnel), le producteur de la solution technologique et l’établissement de soins proposant le traitement; souligne l’importance particulière que revêt le problème de la responsabilité juridique pour les dommages dans le secteur de la santé en ce qui concerne l’utilisation de l’intelligence artificielle; met donc l’accent sur la nécessité d’éviter que l’utilisateur soit amené à céder systématiquement à la solution de diagnostic ou au traitement proposé par l’instrument technologique par crainte de subir des mesures de responsabilité civile lorsque le jugement professionnel et éclairé l’amène à tirer des conclusions pouvant être en partie divergentes;
7. demande à la Commission et aux États membres d’allouer davantage de fonds à la recherche dans le domaine de l’intelligence artificielle et de la robotique et d’encourager les experts dans le domaine de l’intelligence artificielle et les entreprises européennes et non européennes à créer des emplois innovants qui améliorent la recherche sur les questions de santé publique; souligne, en même temps, l’importance d’une stratégie globale pour l’emploi qui aille de pair avec la progression de l’intelligence artificielle dans le contexte du milieu médical;
8. demande à la Commission et aux États membres de promouvoir la création de talents dans les domaines de l’intelligence artificielle et de la robotique par des mesures concrètes (la création de pépinières d’entreprises et le soutien aux jeunes entreprises, par exemple) visant à augmenter le nombre de personnes formées dans ces domaines, en accordant une attention particulière à la présence des femmes et en s’efforçant d’attirer des étudiants d’autres disciplines;
9. prie le Conseil et la Commission de prendre toutes les mesures juridiques nécessaires pour interdire les méthodes d’euthanasie et de sélection au moyen de l’utilisation croissante d’interfaces entre l’humain et la machine introduites dans le corps humain en vue d’optimiser ce dernier;
10. invite la Commission à permettre l’accès à des bourses au titre des programmes-cadres de l’Union et à d’autres formes de financement des recherches sur l’intelligence artificielle;
11. invite la Commission et les États membres à élaborer des projets ambitieux visant à attirer les principales parties prenantes et les principaux acteurs des domaines des technologies de l’information, des mathématiques, de la physique, de l’informatique médicale, de la psychologie clinique, de la bio-ingénierie et de la pharmacologie en vue d’ouvrir des centres de recherche sur l’intelligence artificielle dans les domaines bionique et biomédical dans toute l’Europe; invite toutefois la Commission et les États membres à prendre au sérieux les risques liés à l’IA (tels que l’incidence sur la relation médecin-patient et la déshumanisation des soins médicaux) et à soutenir la recherche sur les risques et les préoccupations éthiques liés à l’IA, qui pourrait contribuer à déterminer si et dans quelles conditions l’utilisation d’une solution technologique donnée pourrait être considérée appropriée et conforme aux principes fondamentaux de la dignité humaine et de l’égalité et pourrait donc être autorisée;
12. demande aux États membres et à la Commission d’accroître le financement des technologies de l’intelligence artificielle liées à la santé dans les secteurs public et privé; salue, dans ce contexte, la déclaration de coopération signée par 24 États membres de l’Union et la Norvège en vue de renforcer l’impact des investissements dans l’intelligence artificielle au niveau européen; demande aux États membres et à la Commission de déterminer si les programmes de formation du personnel médical et de santé doivent être actualisés et harmonisés au niveau européen pour assurer des niveaux élevés de compétence et des conditions égales dans les différents États membres en ce qui concerne la connaissance et l’utilisation des instruments technologiques les plus avancés en matière de chirurgie robotique, de biomédecine et d’imagerie biomédicale fondée sur l’intelligence artificielle.
INFORMATIONS SUR L’ADOPTIONPAR LA COMMISSION SAISIE POUR AVIS
|
Date de l’adoption |
20.11.2018 |
|
|
|
|
|
Résultat du vote final |
+: –: 0: |
48 2 0 |
|||
|
Membres présents au moment du vote final |
Marco Affronte, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Biljana Borzan, Paul Brannen, Nessa Childers, Birgit Collin-Langen, Seb Dance, Mark Demesmaeker, Bas Eickhout, Francesc Gambús, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Benedek Jávor, Karin Kadenbach, Urszula Krupa, Giovanni La Via, Jo Leinen, Peter Liese, Valentinas Mazuronis, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Gilles Pargneaux, Bolesław G. Piecha, John Procter, Julia Reid, Frédérique Ries, Annie Schreijer-Pierik, Adina-Ioana Vălean, Jadwiga Wiśniewska |
||||
|
Suppléants présents au moment du vote final |
Cristian-Silviu Buşoi, Nicola Caputo, Michel Dantin, Martin Häusling, Esther Herranz García, Gesine Meissner, Tilly Metz, Ulrike Müller, Sirpa Pietikäinen, Carlos Zorrinho |
||||
|
Suppléants (art. 200, par. 2) présents au moment du vote final |
Mercedes Bresso, Innocenzo Leontini, Olle Ludvigsson, Ana Miranda |
||||
VOTE FINAL PAR APPEL NOMINALEN COMMISSION SAISIE POUR AVIS
|
48 |
+ |
|
|
ALDE |
Catherine Bearder, Gerben Jan Gerbrandy, Valentinas Mazuronis, Gesine Meissner, Ulrike Müller, Frédérique Ries |
|
|
ECR |
Mark Demesmaeker, Urszula Krupa, Bolesław G. Piecha, John Procter, Jadwiga Wiśniewska |
|
|
EFDD |
Sylvie Goddyn |
|
|
NI |
Zoltán Balczó |
|
|
PPE |
Pilar Ayuso, Ivo Belet, Cristian-Silviu Buşoi, Birgit Collin-Langen, Michel Dantin, Francesc Gambús, Jens Gieseke, Françoise Grossetête, Esther Herranz García, Giovanni La Via, Innocenzo Leontini, Peter Liese, Miroslav Mikolášik, Sirpa Pietikäinen, Annie Schreijer-Pierik, Adina-Ioana Vălean |
|
|
S&D |
Biljana Borzan, Paul Brannen, Mercedes Bresso, Nicola Caputo, Nessa Childers, Seb Dance, Karin Kadenbach, Jo Leinen, Olle Ludvigsson, Susanne Melior, Massimo Paolucci, Gilles Pargneaux, Carlos Zorrinho |
|
|
Verts/ALE |
Marco Affronte, Bas Eickhout, Martin Häusling, Benedek Jávor, Tilly Metz, Ana Miranda |
|
|
2 |
- |
|
|
EFDD |
Julia Reid |
|
|
PPE |
Julie Girling |
|
|
0 |
0 |
|
|
|
|
|
Légende des signes utilisés:
+ : pour
- : contre
0 : abstention
- [1] Voir notamment la déclaration du Groupe européen d’éthique des sciences et des nouvelles technologies sur l’intelligence artificielle, la robotique et les systèmes «autonomes» de mars 2018.
INFORMATIONS SUR L’ADOPTIONPAR LA COMMISSION COMPÉTENTE AU FOND
|
Date de l’adoption |
14.1.2019 |
|
|
|
|
|
Résultat du vote final |
+: –: 0: |
49 1 4 |
|||
|
Membres présents au moment du vote final |
Bendt Bendtsen, Jonathan Bullock, Cristian-Silviu Buşoi, Jerzy Buzek, Edward Czesak, Jakop Dalunde, Fredrick Federley, Ashley Fox, Igor Gräzin, Theresa Griffin, András Gyürk, Rebecca Harms, Eva Kaili, Barbara Kappel, Seán Kelly, Jeppe Kofod, Jaromír Kohlíček, Peter Kouroumbashev, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Christelle Lechevalier, Paloma López Bermejo, Edouard Martin, Tilly Metz, Angelika Mlinar, Csaba Molnár, Nadine Morano, Angelika Niebler, Morten Helveg Petersen, Miroslav Poche, Carolina Punset, Julia Reda, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Neoklis Sylikiotis, Patrizia Toia, Evžen Tošenovský, Vladimir Urutchev, Kathleen Van Brempt, Henna Virkkunen, Flavio Zanonato, Carlos Zorrinho |
||||
|
Suppléants présents au moment du vote final |
Pilar Ayuso, Michał Boni, Gunnar Hökmark, Rupert Matthews, Clare Moody, Caroline Nagtegaal, Răzvan Popa, Dennis Radtke, Giancarlo Scottà, Davor Škrlec |
||||
VOTE FINAL PAR APPEL NOMINAL EN COMMISSION COMPÉTENTE AU FOND
|
49 |
+ |
|
|
ALDE |
Fredrick Federley, Igor Gräzin, Angelika Mlinar, Caroline Nagtegaal, Morten Helveg Petersen, Carolina Punset |
|
|
ECR |
Edward Czesak, Ashley Fox, Zdzisław Krasnodębski, Rupert Matthews, Evžen Tošenovský |
|
|
ENF |
Barbara Kappel, Christelle Lechevalier, Giancarlo Scottà |
|
|
PPE |
Pilar Ayuso, Bendt Bendtsen, Michał Boni, Cristian-Silviu Buşoi, Jerzy Buzek, András Gyürk, Gunnar Hökmark, Seán Kelly, Nadine Morano, Angelika Niebler, Dennis Radtke, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Vladimir Urutchev, Henna Virkkunen |
|
|
S&D |
Theresa Griffin, Eva Kaili, Jeppe Kofod, Peter Kouroumbashev, Miapetra Kumpula-Natri, Csaba Molnár, Clare Moody, Miroslav Poche, Răzvan Popa, Patrizia Toia, Kathleen Van Brempt, Flavio Zanonato, Carlos Zorrinho |
|
|
Verts/ALE |
Jakop Dalunde, Rebecca Harms, Tilly Metz, Julia Reda, Davor Škrlec |
|
|
1 |
- |
|
|
EFDD |
Jonathan Bullock |
|
|
4 |
0 |
|
|
GUE/NGL |
Jaromír Kohlíček, Paloma López Bermejo, Neoklis Sylikiotis |
|
|
S&D |
Edouard Martin |
|
Légende des signes utilisés:
+ : pour
- : contre
0 : abstention