Le Parlement européen,

–  vu l’article 225 du traité sur le fonctionnement de l’Union européenne,

–  vu la directive 85/374/CEE du Conseil(1),

–  vu l’étude «Ethical Aspects of Cyber-Physical Systems, Scientific Foresight Study» [aspects éthiques des systèmes cyberphysiques, étude de prospective scientifique] conduite, à la demande du comité d'évaluation des choix scientifiques et technologiques (STOA) du Parlement européen, par l’unité de prospective scientifique de la direction générale des services de recherche parlementaire;

–  vu les articles 46 et 52 de son règlement,

–  vu le rapport de la commission des affaires juridiques et les avis de la commission du transport et du tourisme, de la commission des libertés civiles, de la justice et des affaires intérieures, de la commission de l’emploi et des affaires sociales, de la commission de l’environnement, de la santé publique et de la sécurité alimentaire, de la commission de l’industrie, de la recherche et de l’énergie ainsi que de la commission du marché intérieur et de la protection des consommateurs (A8-0005/2017),

Introduction

A.  considérant que, depuis la créature de Frankenstein imaginée par Mary Shelley au mythe antique de Pygmalion, en passant par le golem de Prague et le robot de Karel Čapek,inventeur du terme, les humains ont rêvé de construire des machines intelligentes, le plus souvent des androïdes à figure humaine;

B.  considérant que, maintenant que l’humanité se trouve à l’aube d’une ère où les robots, les algorithmes intelligents, les androïdes et les autres formes d’intelligence artificielle, de plus en plus sophistiqués, semblent être sur le point de déclencher une nouvelle révolution industrielle qui touchera probablement toutes les couches de la société, il est d’une importance fondamentale pour le législateur d’examiner les conséquences et les effets juridiques et éthiques d’une telle révolution, sans pour autant étouffer l’innovation;

C.  considérant qu’il est nécessaire de créer une définition acceptée par tous des notions de robot et d’intelligence artificielle qui soit flexible et n’entrave pas l’innovation;

D.  considérant qu’entre 2010 et 2014, les ventes de robots ont augmenté en moyenne de 17 % par an, qu’elles ont connu en 2014 leur plus forte augmentation annuelle (29 %) et que les équipementiers automobiles et le secteur de l’électricité/électronique sont les deux principaux moteurs de cette croissance; que le nombre annuel de demandes de brevets dans le domaine de la robotique a triplé au cours des dix dernières années;

E.  considérant qu’au cours des deux derniers siècles, les chiffres de l’emploi n’ont cessé d’augmenter grâce aux avancées technologiques; que le développement de la robotique et de l’intelligence artificielle recèle un potentiel important en matière de transformation des méthodes de travail et du mode de vie, d’accroissement de l’efficacité, de réalisation d’économies et d’amélioration de la sécurité et du niveau de service; considérant qu’à court ou moyen terme, la robotique et l’intelligence artificielle promettent des bénéfices en termes d’efficacité et d’économies, non seulement dans la production et le commerce, mais également dans des domaines tels que le transport, les soins médicaux, le sauvetage, l’éducation et l’agriculture, tout en permettant d’éviter d’exposer des êtres humains à des conditions dangereuses, par exemple lors des opérations de nettoyage de sites pollués par des substances toxiques;

F.  considérant que le vieillissement de la population est le résultat de l’allongement de l’espérance de vie à la suite des progrès des conditions de vie et de la médecine moderne, et qu’il constitue l’un des principaux défis politiques, sociaux et économiques du XXIe siècle pour les sociétés européennes; considérant que d’ici à 2025, plus de 20 % des Européens seront âgés de 65 ans ou plus, avec une augmentation particulièrement rapide du nombre de personnes âgées de 80 ans ou plus, ce qui conduira à une modification fondamentale de l’équilibre entre les générations au sein de nos sociétés, et considérant qu’il est de l’intérêt de la société que les personnes âgées restent en bonne santé et actives aussi longtemps que possible;

G.  considérant qu’à long terme, la tendance actuelle au développement de machines intelligentes et autonomes, dotées de la capacité d’apprendre et de prendre des décisions de manière indépendante, ne procure pas seulement des avantages économiques mais également de multiples préoccupations quant à leurs effets directs et indirects sur la société dans son ensemble;

H.  considérant que l’apprentissage automatique offre d’importants avantages à la société en termes d’économie et d’innovation en améliorant considérablement la capacité à analyser les données, mais qu’il pose également des défis pour ce qui est de garantir l’absence de discriminations, un traitement équitable, la transparence et l’intelligibilité des processus décisionnels;

I.  considérant que, dans le même temps, il convient d’évaluer les évolutions économiques et l’incidence sur l’emploi de la robotique et de l’apprentissage automatique; considérant que, malgré les avantages indéniables apportés par la robotique, sa mise en œuvre risque d’entraîner une modification du marché du travail et la nécessité de réfléchir en conséquence à l’avenir de l’éducation, de l’emploi et des politiques sociales;

J.  considérant que l’utilisation généralisée de robots pourrait ne pas entraîner automatiquement une destruction d’emplois, mais que les emplois moins qualifiés dans les secteurs à forte intensité de main-d’œuvre risquent d’être plus vulnérables à l’automatisation; que cette tendance pourrait conduire à un retour des procédés de production sur le territoire de l’Union européenne; considérant que la recherche a montré que la croissance de l’emploi est considérablement plus forte dans les métiers qui ont davantage recours aux ordinateurs; que l’automatisation des emplois détient le potentiel de libérer les personnes des tâches manuelles monotones et de leur permettre de s’orienter à la place vers des tâches plus créatives et constructives; considérant que l’automatisation demande des gouvernements qu’ils investissent dans l’éducation et d’autres réformes afin d’améliorer la réattribution des types de compétences dont auront besoin les travailleurs de demain;

K.  considérant que, compte tenu du fait que les écarts sociaux se creusent désormais, avec une classe moyenne en diminution, il convient de garder à l’esprit que le développement de la robotique peut avoir pour conséquence de concentrer de manière importante les richesses et le pouvoir entre les mains d’une minorité;

L.  considérant que le développement de la robotique et de l’intelligence artificielle aura forcément une influence sur l’environnement de travail et pourra susciter de nouvelles préoccupations en matière de responsabilité et en effacer d’autres; que la responsabilité juridique doit être clarifiée tant dans le modèle d’entreprise et que lors de la définition du travail à effectuer pour le cas où un incident ou une situation d’urgence se produirait;

M.  considérant que la tendance à l’automatisation demande que les personnes participant au développement et à la commercialisation des applications de l’intelligence artificielle y intègrent la sécurité et l’éthique dès le départ, et reconnaissent ainsi qu’elles doivent être prêtes à accepter la responsabilité juridique de la qualité de la technologie qu’elles produisent;

N.  considérant que le règlement (UE) 2016/679 du Parlement européen et du Conseil(2) (RGPD) définit un cadre juridique pour la protection des données à caractère personnel; qu’il pourrait cependant s’avérer nécessaire d’examiner plus avant d’autres aspects ayant trait à l’accès aux données et à la protection des données à caractère personnel et de la vie privée, étant donné que les communications des applications et des appareils entre eux et avec des bases de données sans intervention humaine pourraient continuer de susciter des préoccupations relatives à la protection de la vie privée;

O.  considérant que les avancées dans le domaine de la robotique et de l’intelligence artificielle peuvent et devraient, dès l’étape de la conception, préserver la dignité, l’autonomie et l’auto-détermination de la personne humaine, particulièrement dans le domaine des soins et de la compagnie des personnes et dans le contexte des appareils médicaux, de la «réparation» ou de l’amélioration du corps humain;

P.  considérant qu’il est possible, en fin de compte, qu’à long terme, l’intelligence artificielle surpasse les capacités intellectuelles de l’être humain;

Q.  considérant qu’un développement et une utilisation accrus des processus décisionnels automatiques et algorithmiques ont sans aucun doute une incidence sur les choix opérés par les personnes privées (comme les entreprises ou les internautes) et les autorités administratives, judiciaires ou autres autorités publiques lorsqu’elles prennent une décision en tant que consommateur, entreprise ou autorité; qu’il est nécessaire d’intégrer des garanties et des possibilités de contrôle et de vérification par l’homme dans les processus décisionnels automatiques et algorithmiques;

R.  considérant que plusieurs pays étrangers, tels les États-Unis, le Japon, la Chine et la Corée du Sud, envisagent des mesures réglementaires dans le domaine de la robotique et de l’intelligence artificielle, et qu’ils ont même déjà pris certaines mesures en ce sens; que certains États membres ont également commencé à réfléchir à la possibilité d’élaborer des normes juridiques ou de modifier la législation en vigueur afin de tenir compte de l’émergence de nouvelles applications de ces technologies;

S.  considérant que l’industrie européenne pourrait se voir avantagée par une démarche réglementaire efficace, cohérente et transparente au niveau de l’Union, qui définisse des conditions prévisibles et suffisamment claires dans le cadre desquelles les entreprises puissent concevoir des applications et mettre au point leurs modèles d’entreprise au niveau européen tout en veillant à ce que l’Union et ses États membres gardent le contrôle sur les normes réglementaires à définir, pour ne pas avoir à adopter et à vivre avec des normes définies par d’autres, c’est-à-dire des pays tiers qui sont eux aussi à la pointe du développement de la robotique et de l’intelligence artificielle;

Principes généraux

T.  considérant qu’il y a lieu de considérer les lois d’Asimov(3) comme s’appliquant aux concepteurs, aux fabricants et aux opérateurs de robots, y compris de robots dotés d’autonomie et de capacités d’auto-apprentissage, étant donné que lesdites lois ne peuvent être traduites en langage de programmation;

U.  considérant qu’il est utile et nécessaire de définir une série de règles, notamment en matière de responsabilité, de transparence, et d’obligation de rendre des comptes, qui reflètent les valeurs humanistes intrinsèquement européennes et universelles qui caractérisent la contribution de l’Europe à la société; que ces règles ne doivent pas brider la recherche, le développement et l’innovation dans le domaine de la robotique;

V.  considérant que l’Union pourrait jouer un rôle essentiel dans la définition de principes éthiques fondamentaux à respecter lors de la conception, la programmation et l’utilisation de robots et d’intelligences artificielles et dans l’intégration de ces principes dans les règlements et codes de conduite de l’Union, dans le but de façonner la révolution technologique pour qu’elle soit au service de l’humanité et afin que le plus grand nombre tire parti de la robotique et de l’intelligence artificielle de pointe, tout en évitant, autant que faire se peut, les écueils potentiels;

W.  considérant qu’une charte sur la robotique figure à l’annexe de la présente résolution, qu’elle a été rédigée avec l’aide de l’unité de prospective scientifique (STOA) de la direction générale des services de recherche parlementaire et qu’elle propose un code de conduite éthique pour les ingénieurs en robotique, un code de déontologie pour les comités d’éthique de la recherche, une «licence» pour les concepteurs et une «licence» pour les utilisateurs;

X.  considérant qu’il y a lieu d’adopter, au niveau de l’Union, une approche graduelle, pragmatique et prudente, telle que la préconisait Jean Monnet(4), en ce qui concerne toute future initiative relative à la robotique et à l’intelligence artificielle, de façon à ne pas mettre un frein à l’innovation;

Y.  considérant qu’il convient, eu égard à l’état d’avancement de la robotique et de l’intelligence artificielle, de commencer à envisager les questions de responsabilité civile;

Responsabilité

Z.  considérant que, grâce aux impressionnants progrès technologiques au cours des dix dernières années, non seulement les robots contemporains sont capables de mener à bien des tâches qui relevaient autrefois exclusivement de la compétence humaine, mais encore que la mise au point de certaines fonctionnalités autonomes et cognitives (comme la capacité de tirer des leçons de l’expérience ou de prendre des décisions quasi-indépendantes) rapprochent davantage ces robots du statut d’agents interagissant avec leur environnement et pouvant le modifier de manière significative; que, dans un tel contexte, la question de la responsabilité juridique en cas d’action dommageable d’un robot devient une question cruciale;

AA.  considérant que l’autonomie d’un robot peut être définie comme la capacité à prendre des décisions et à les mettre en pratique dans le monde extérieur, indépendamment de tout contrôle ou influence extérieurs; que cette autonomie est de nature purement technique et que le degré d’autonomie dépend du degré de complexité des interactions avec l’environnement prévu par le programme du robot;

AB.  considérant que, plus un robot est autonome, moins il peut être considéré comme un simple outil contrôlé par d’autres acteurs (tels que le fabricant, l’opérateur, le propriétaire, l’utilisateur, etc.); qu’à cet égard se pose la question de savoir si les règles ordinaires en matière de responsabilité sont suffisantes ou si des principes et règles nouveaux s’imposent pour clarifier la responsabilité juridique des divers acteursen matière de responsabilité pour les actes ou l’inaction d’un robot dont la cause ne peut être attribuée à un acteur humain en particulier, et pour déterminer si les actes ou l’inaction du robot qui ont causé des dommages auraient pu être évités;

AC.  considérant qu’en fin de compte, l’autonomie des robots pose la question de leur nature à la lumière des catégories juridiques existantes ou de la nécessité de créer une nouvelle catégorie dotée de ses propres caractéristiques et effets spécifiques;

AD.  considérant qu’en vertu du cadre juridique actuel, les robots en tant que tels ne peuvent être tenus pour responsables de leurs actes ou de leur inaction en cas de dommages causés à des tiers; que les règles en vigueur en matière de responsabilité couvrent les cas où la cause des actes ou de l’inaction du robot peut être attribuée à un acteur humain précis tels que le fabricant, l’opérateur, le propriétaire ou l’utilisateur et où cet acteur pourrait avoir prévu et évité le comportement dommageable du robot; considérant qu’en outre, les fabricants, les opérateurs, les propriétaires ou les utilisateurs pourraient être tenus comme objectivement responsables des actes ou de l’inaction d’un robot;

AE.  considérant que le cadre juridique actuel sur la responsabilité du fait des produits, en vertu duquel le fabricant d’un produit est responsable en cas de dysfonctionnement, et les règles définissant la responsabilité en cas d’actions dommageables, en vertu desquelles l’utilisateur d’un produit est responsable de tout comportement causant des dommages, s’applique aux dommages causés par un robot ou une intelligence artificielle;

AF.  considérant que, dans l’hypothèse ou un robot puisse prendre des décisions de manière autonome, les règles habituelles ne suffiraient pas à établir la responsabilité juridique pour dommages causés par un robot, puisqu’elles ne permettraient pas de déterminer quelle est la partie responsable pour le versement des dommages et intérêts ni d’exiger de cette partie qu’elle répare les dégâts causés;

AG.  considérant que les lacunes du cadre juridique actuellement en vigueur sont patentes dans le domaine de la responsabilité contractuelle, étant donné que l’existence de machines conçues pour choisir un co-contractant, négocier des clauses contractuelles, conclure un contrat et décider quand et comment appliquer ledit contrat rend les règles habituelles inapplicables ; considérant que cela souligne la nécessité de mettre au point de nouvelles règles, efficaces et actualisées, adaptées aux évolutions technologiques et aux innovations qui sont apparues récemment et qui sont utilisées sur le marché;

AH.  considérant qu’en ce qui concerne la responsabilité non contractuelle, la directive 85/374/CEE ne couvre que les dommages causés par les défauts de fabrication d’un robot, à condition également que la victime puisse apporter des preuves du dommage réel, du défaut du produit et de la relation de cause à effet entre le dommage et le défaut, et que, dès lors, le cadre fondé sur la responsabilité objective ou la responsabilité sans faute pourrait ne pas suffire;

AI.  considérant que, nonobstant le champ d’application de la directive 85/374/CEE, le cadre juridique actuellement en vigueur ne suffirait pas à couvrir les dommages causés par la nouvelle génération de robots, puisque celle-ci peut être équipée de capacités d’adaptation et d’apprentissage qui entraînent une certaine part d’imprévisibilité dans leur comportement, étant donné que ces robots tireraient, de manière autonome, des enseignements de leurs expériences, variables de l’un à l’autre, et interagiraient avec leur environnement de manière unique et imprévisible;

Principes généraux concernant le développement de la robotique et de l’intelligence artificielle à usage civil

1.  demande à la Commission de proposer des définitions communes, au niveau de l’Union, de systèmes cyber-physiques, systèmes autonomes et robots autonomes et intelligents, ainsi que de leurs sous-catégories, compte étant tenu des caractéristiques suivantes des robots intelligents:

2.  estime qu’un système européen général d’immatriculation des robots avancés pourrait être créé au sein du marché intérieur de l’Union si cela est pertinent et nécessaire pour certaines catégories spécifiques de robots; demande à la Commission de définir des critères de classification des robots dont l’inscription au registre devrait être obligatoire; dans ce contexte, invite la Commission à réfléchir à l’opportunité de confier la gestion du système d’immatriculation et du registre à une agence spécifique de l’Union chargée de la robotique et de l’intelligence artificielle;

3.  souligne que le développement de la technologie robotique devrait avant tout viser à compléter les capacités humaines et non à les remplacer; estime qu’il est indispensable, dans le cadre du développement de la robotique et de l’intelligence artificielle, de garantir la possibilité d’exercer un contrôle humain à tout moment sur les machines intelligentes; souligne qu’il convient d’accorder une attention toute particulière au fait qu’une relation émotionnelle est susceptible de se développer entre l’homme et le robot, notamment chez les personnes vulnérables (enfants, personnes âgées, personnes handicapées), et attire l’attention sur les problématiques soulevées par les éventuelles conséquences physiques ou émotionnelles graves, pour l’utilisateur humain, d’un tel lien émotionnel;

4.  souligne qu’une stratégie à l’échelle de l’Union peut faciliter le développement en évitant la fragmentation du marché intérieur et insiste parallèlement sur l’importance du principe de reconnaissance mutuelle dans l’utilisation transfrontalière de robots et de systèmes robotiques; rappelle qu’il n’y a pas lieu d’exiger que les essais, la certification et la délivrance d’autorisation de mise sur le marché aient lieu dans plus d’un État membre; insiste sur le fait que cette approche doit aller de pair avec une surveillance efficace des marchés;

5.  souligne qu’il est important d’arrêter des mesures visant à soutenir les petites et moyennes entreprises et les jeunes entreprises présentes dans le secteur de la robotique qui ouvrent de nouveaux segments de marché dans ce domaine ou utilisent elles-mêmes des robots;

Recherche et innovation

6.  souligne que de nombreuses applications de la robotique n’en sont qu’au stade expérimental; se félicite de ce qu’un nombre croissant de projets de recherche soit financé par les États membres et par l’Union; juge indispensable que l’Union et ses États membres, au moyen de financements publics, restent sur le devant de la scène pour ce qui est de la recherche dans les domaines de la robotique et de l’intelligence artificielle; demande à la Commission et aux États membres de renforcer les instruments financiers, partenariats public-privé compris, destinés à soutenir les projets de recherche dans les domaines de la robotique et des TIC, et d’appliquer, dans leurs politiques de recherche, les principes de la science ouverte et de l’innovation éthique et responsable; insiste sur l’importance d’allouer suffisamment de ressources à la recherche de solutions aux dilemmes sociaux, éthiques, juridiques et économiques que soulèvent les progrès de la technique et de ses applications;

7.  invite la Commission et les États membres à promouvoir les programmes de recherche, à encourager la recherche sur les éventuels risques et perspectives à long terme des technologies de l’intelligence artificielle et de la robotique, et à encourager l’ouverture d’un dialogue public structuré sur les répercussions du développement des technologies en question le plus rapidement possible; invite la Commission à renforcer, dans le cadre de l’examen à mi-parcours du cadre financier pluriannuel, le soutien accordé au programme SPARC, financé au titre d’Horizon 2020; demande à la Commission et aux États membres de joindre leurs forces pour veiller à une transition sans heurts, soigneusement contrôlée, de la recherche à la commercialisation et à l’utilisation sur le marché pour ces technologies, subordonnée à des évaluations de sécurité en bonne et due forme, dans le respect du principe de précaution;

8.  souligne qu’une infrastructure numérique capable d’offrir une connectivité universelle est indispensable si l’on veut innover dans le domaine de la robotique et de l’intelligence artificielle et intégrer ces technologies au cœur de l’économie et de la société; invite la Commission à définir un cadre qui permettra de couvrir les besoins de connectivité nécessaires à l’avenir numérique de l’Union et de faire en sorte que l’accès au haut débit et aux réseaux 5G s’effectue conformément au principe de la neutralité de l’internet;

9.  est convaincu que l’interopérabilité entre les systèmes, les dispositifs et les services d’informatique en nuage, fondés sur la sécurité et le respect de la vie privée dès la conception, est essentielle pour permettre aux flux de données en temps réel de rendre les robots et l’intelligence artificielle plus modulables et autonomes; demande à la Commission de promouvoir un environnement ouvert qui passe notamment par des normes et des plateformes ouvertes, des modèles d’attribution des licences innovants et de la transparence, afin d’éviter les effets de verrouillage dans les systèmes exclusifs qui limitent l’interopérabilité;

Principes éthiques

10.  relève que tout le potentiel d’émancipation que recèle le recours à la robotique est à mettre en regard d’un ensemble de tensions ou de risques et devrait être sérieusement évalué du point de vue de la sécurité, de la santé, et de la sûreté humaine, de la liberté, du respect de la vie privée, de l’intégrité, de la dignité, de l’auto-détermination, de la non-discrimination et de la protection des données à caractère personnel;

11.  considère qu’il est essentiel que l’Union actualise et complète son cadre juridique actuel, le cas échéant, en se fondant sur des principes éthiques de référence qui puissent refléter la complexité du sujet que constituent la robotique et ses nombreuses implications sociales, médicales et bioéthiques; estime qu’il est nécessaire de mettre au point un cadre éthique de référence clair, rigoureux et efficace pour le développement, la conception, la fabrication, l’utilisation et la modification des robots qui complète utilement les recommandations juridiques du présent rapport ainsi que l’acquis national et de l’Union existant; propose, en annexe à la présente résolution, un tel cadre, sous forme de charte établissant un code de conduite pour les ingénieurs en robotique, une déontologie pour les comités d’éthique de la recherche lorsqu’ils examinent les protocoles de robotique, et de licences-type pour les concepteurs et les utilisateurs;

12.  insiste sur le principe de transparence, à savoir qu’il devrait toujours être possible de fournir la justification rationnelle de toute décision prise avec l’aide de l’intelligence artificielle qui est susceptible d’avoir une incidence importante sur la vie d’une ou de plusieurs personnes; estime qu’il doit toujours être possible de traduire les calculs d’un système d’intelligence artificielle dans une forme compréhensible pour l’être humain; estime que les robots avancés devraient être dotés d’une «boîte noire» contenant les données sur chaque opération réalisée par la machine, y compris les logiques ayant contribué à la prise de décisions;

13.  souligne que le cadre éthique de référence devrait se fonder sur les principes de bienfaisance, de non-malfaisance, d’autonomie et de justice, sur les principes et valeurs consacrés à l’article 2 du traité sur l’Union européenne et par la Charte des droits fondamentaux de l’Union européenne (ci-après dénommée « Charte »), tels que la dignité humaine, l’égalité, la justice et l’équité, la non-discrimination, le consentement éclairé, le respect de la vie privée et de la vie familiale et la protection des données, ainsi que sur d’autres principes et valeurs fondateurs du droit de l’Union, tels que la non-stigmatisation, la transparence, l’autonomie, la responsabilité individuelle et la responsabilité sociale, et sur les pratiques et codes de déontologie existants;

14.  estime qu’une attention particulière devrait être accordée aux robots qui représentent une sérieuse menace pour la confidentialité, en raison de leur emplacement dans des espaces traditionnellement protégés et privés et de leurs capacités d’extraction et de transmission d’informations sur de données personnelles et sensibles;

Une agence européenne

15.  juge nécessaire une coopération renforcée entre les États membres et la Commission afin de veiller à l’établissement de règles transfrontalières cohérentes au sein de l’Union qui favorisent la coopération entre industries européennes et permettent de ne déployer dans l’ensemble de l’Union que des robots qui répondent aux normes en vigueur en matière de sûreté et de sécurité et respectent les principes éthiques consacrés par le droit de l’Union;

16.  invite la Commission à envisager la création d’une agence européenne chargée de la robotique et de l’intelligence artificielle, à même de fournir l’expertise technique, éthique et réglementaire nécessaire pour soutenir les acteurs publics concernés, tant au niveau de l’Union que des États membres, dans leur effort pour garantir une réaction rapide, éthique et éclairée face aux nouveaux enjeux et perspectives, en particulier transfrontaliers, du progrès technique dans le domaine de la robotique, auxquels est confronté par exemple le secteur des transports;

17.  estime que le potentiel, mais aussi les problèmes, liés à l’utilisation de robots et la dynamique d’investissement actuelle justifient que cette agence soit dotée d’un budget approprié et compte, parmi son personnel, des experts en réglementation, des experts techniques externes et des experts externes en matière éthique qui se consacrent à surveiller, d’un point de vue transsectoriel et pluridisciplinaire, les applications de la robotique, à définir des normes sur lesquelles fonder les meilleures pratiques et, le cas échéant, à recommander des mesures réglementaires, à définir de nouveaux principes et à résoudre d’éventuels problèmes en matière de protection du consommateur et des problèmes systémiques; demande à la Commission et à l’agence en question, si elle est créée, de présenter un rapport annuel au Parlement européen sur les dernières évolutions dans le domaine de la robotique, ainsi que sur les mesures qui s’imposent sur une base annuelle;

Droits de propriété intellectuelle et circulation des données

18.  relève qu’il n’existe aucune disposition juridique qui s’applique spécifiquement à la robotique, mais que les régimes et doctrines juridiques existants peuvent s’appliquer en l’état à ce domaine, certains aspects nécessitant néanmoins un examen spécifique; demande à la Commission de soutenir une approche transversale et technologiquement neutre de la propriété intellectuelle, qui s’applique aux différents secteurs concernées par l’application de la robotique;

19.  demande à la Commission et aux États membres de veiller à ce que les règles de droit civil en matière de robotique soient conformes au règlement général sur la protection des données et aux principes de nécessité et de proportionnalité; invite la Commission et les États membres à tenir compte de la rapidité de l’évolution technologique dans le domaine de la robotique, y compris en ce qui concerne le développement de systèmes cyber-physiques, et à veiller à ce que le droit de l’Union ne se laisse pas distancer par les progrès de la technique et du déploiement technologique;

20.  souligne que le droit au respect de la vie privée et le droit à la protection des données à caractère personnel, inscrits aux articles 7 et 8 de la Charte et à l’article 16 du traité sur le fonctionnement de l’Union européenne, s’appliquent à tous les domaines de la robotique et que le cadre juridique de l’Union en ce qui concerne la protection des données doit être pleinement respecté; demande, à cet égard, une clarification des règles et des critères applicables à l’utilisation des caméras et des capteurs embarqués dans les robots dans le cadre de la mise en œuvre du RGPD; demande à la Commission de veiller au respect des principes en matière de protection des données, tels que la protection de la vie privée dès la conception et par défaut, la minimisation des données et la limitation des finalités, de prévoir des mécanismes de contrôle transparents pour les personnes concernées, ainsi que des voies de recours appropriées, conformément au droit de l’Union en matière de protection des données, et de veiller à promouvoir des recommandations et normes appropriées et à les intégrer dans les politiques de l’Union;

21.  souligne que la libre circulation des données est l’un des fondements de l’économie numérique et du développement de la robotique et de l’intelligence artificielle; souligne qu’un niveau élevé de sécurité des systèmes de robotique, y compris de leurs systèmes de données internes et de leurs flux de données, est indispensable à une utilisation appropriée des robots et de l’intelligence artificielle; souligne que la protection des réseaux de robots et d’intelligence artificielle interconnectés doit être garantie pour prévenir d’éventuelles failles de sécurité; souligne qu’un niveau élevé de sécurité et de protection des données à caractère personnel, ainsi que de respect de la vie privée dans la communication entre humains et robots ou et les formes d’intelligence artificielle est essentiel; insiste sur la responsabilité qui incombe aux concepteurs de robotique et d’intelligence artificielle de concevoir des produits de telle manière qu’ils soient sûrs, sécurisés et adaptés à l’utilisation à laquelle ils sont destinés; demande à la Commission et aux États membres de soutenir et d’encourager le développement des technologies nécessaires, notamment la sécurité dès la conception;

Normalisation, sûreté et sécurité

22.  souligne que la question de l’élaboration de normes et de l’octroi de l’interopérabilité est cruciale pour la concurrence future dans le domaine des technologies de l’intelligence artificielle et de la robotique; demande à la Commission de poursuivre ses travaux relatifs à l’harmonisation des normes techniques au niveau international, notamment en coopération avec les organismes européens de normalisation et l’Organisation internationale de normalisation, afin de favoriser l’innovation, d’éviter le morcellement du marché intérieur et de garantir un niveau élevé de sécurité des produits et de protection des consommateurs, y compris en définissant, le cas échéant, un socle minimal de normes de sécurité sur le lieu de travail; souligne l’importance de la rétro-ingénierie licite et des normes ouvertes pour optimiser la valeur de l’innovation et faire en sorte que les robots puissent communiquer entre eux; salue, à cet égard, la mise en place de comités techniques spéciaux, tels que le comité ISO/TC 299 Robotique, consacrés exclusivement à l’élaboration de normes dans le domaine de la robotique;

23.  souligne qu’il est indispensable d’essayer les robots en conditions réelles afin de déterminer et d’évaluer les risques qu’ils peuvent présenter ainsi que leur degré d’avancement technique au-delà du stade purement expérimental en laboratoire; souligne, à cet égard, que les essais de robots en conditions réelles, en particulier dans les villes et sur les routes, posent de nombreux problèmes, dont des obstacles qui freinent le développement de ces phases d’essai et nécessitent un mécanisme de suivi et une stratégie efficaces; demande à la Commission de définir des critères uniformes à l’intention des États membres que ceux-ci puissent utiliser pour définir les domaines dans lesquels les expériences avec des robots sont autorisées, dans le respect du principe de précaution;

Moyens de transport autonomes

a)Véhicules autonomes

24.  souligne que le transport autonome couvre toutes les formes de moyens de transport routier, ferroviaire, aérien et par navigation télépilotés, automatisés, connectés et autonomes, y compris les véhicules, les trains, les navires, les transbordeurs, les aéronefs et les drones, ainsi que toutes les formes futures de développements et d’innovations dans ce domaine;

25.  estime que le secteur automobile est celui qui a le plus besoin de règles efficaces, tant internationales qu’au niveau de l’Union, pour que les véhicules automatisés et autonomes puissent se développer de manière transfrontalière de manière à exploiter pleinement le potentiel économique de ces véhicules et bénéficier des effets positifs des tendances technologiques; souligne qu’un morcellement des approches réglementaires entraverait la mise en application des moyens de transport autonomes et compromettrait la compétitivité européenne;

26.  attire l’attention sur le fait que le délai de réaction du conducteur en cas de reprise de contrôle imprévue du véhicule revêt une importance capitale et demande, par conséquent, aux acteurs concernés de prévoir des valeurs réalistes qui seront déterminantes pour les questions relatives à la sécurité et à la responsabilité;

27.  estime que le passage aux véhicules autonomes aura des répercussions dans les domaines suivants: la responsabilité civile (responsabilité et assurance), la sécurité routière, tous les sujets concernant l’environnement (par exemple efficacité énergétique, utilisation de technologies et de sources d’énergie renouvelables), les questions liées aux données (accès aux données, protection des données, vie privée, partage des données, etc.), les questions concernant les infrastructures de TIC (par exemple couverture dense de moyens de communications efficaces et fiables), et l’emploi (création et destruction d’emplois, formation des conducteurs de poids lourds à l’utilisation de véhicules automatisés, etc.); met l’accent sur le fait que des investissements considérables seront nécessaires dans les infrastructures routières, énergétiques et de TIC; demande à la Commission de tenir compte des éléments ci-dessus dans ses travaux portant sur les véhicules autonomes:

28.  souligne l’importance cruciale de la fiabilité des informations de positionnement et de temps fournies par les programmes européens de navigation par satellite Galileo et EGNOS pour le déploiement de véhicules autonomes; demande instamment, à cet égard, l’achèvement et le lancement des satellites qui sont nécessaires pour compléter le système de positionnement européen Galileo;

29.  attire l’attention sur la valeur ajoutée importante des véhicules autonomes pour les personnes à mobilité réduite, étant donné qu’ils leur permettent de participer plus efficacement au transport routier individuel et facilitent ainsi leur quotidien;

b) Drones (systèmes d’aéronefs télépilotés, RPAS)

30.  prend acte des progrès appréciables réalisés dans la technologie des drones, notamment dans le domaine des opérations de recherche et de sauvetage; souligne l’importance de disposer d’un cadre de l’Union applicable aux drones afin de préserver la sûreté, la sécurité et la vie privée des citoyens de l’Union, et demande à la Commission d’appliquer les recommandations formulées par le Parlement européen dans sa résolution du 29 octobre 2015 sur l’utilisation sûre des systèmes d’aéronefs télépilotés (RPAS), plus connus sous le nom de véhicules aériens sans pilote (UAV), dans le domaine de l’aviation civile(5); invite instamment la Commission à fournir des évaluations des questions de sécurité liées à l’utilisation généralisée de drones; invite la Commission à étudier la nécessité d’introduire l’obligation d’équiper les RPAS d’un système de traçabilité et d’identification permettant de connaître la position en temps réel des RPAS en cours d’utilisation; rappelle que l’homogénéité et la sécurité des aéronefs sans pilote doivent être assurées par les mesures énoncées dans le règlement (CE) nº 216/2008 du Parlement européen et du Conseil(6);

Robots de soins à la personne

31.  souligne que la recherche et le développement en matière de robots de soins pour les personnes âgées sont, avec le temps, devenus plus courants et moins coûteux, créant des produits dotés d’une plus grande fonctionnalité et mieux acceptés parmi les consommateurs; constate le vaste éventail d’applications de telles technologies qui offrent prévention, assistance, surveillance, stimulation et accompagnement aux personnes âgées, aux personnes handicapées et aux personnes atteintes de démence, de troubles cognitifs ou de pertes de mémoire;

32.  souligne que le contact humain est l’un des aspects fondamentaux des soins à la personne; estime que le remplacement des humains par des robots pourrait entraîner une déshumanisation des soins à la personne; reconnaît cependant que les robots pourraient contribuer à la réalisation de certaines tâches automatisées dans les soins de santé et faciliter le travail des auxiliaires de soins, améliorant ainsi les soins humains et rendant le processus de rééducation plus ciblé, ce qui permettrait aux équipes médicales et aux soignants de consacrer davantage de temps au diagnostic et à l’optimisation des traitements; souligne que, bien que la robotique ait le potentiel de renforcer la mobilité et la sociabilité des personnes handicapées et des personnes âgées, les humains resteront nécessaires dans le domaine des soins et continueront de leur offrir une source importante et pas entièrement remplaçable d’interaction sociale;

Robots médicaux

33.  souligne l’importance de fournir au personnel des soins de santé, dont les médecins et les aides-soignants, un enseignement, une formation et une préparation appropriés afin de s’assurer du plus haut niveau de compétence professionnelle possible et de protéger la santé des patients; souligne la nécessité de définir des exigences professionnelles minimales qu’un chirurgien devrait remplir pour qu’il lui soit permis d’utiliser des robots chirurgicaux lors d’une opération; estime qu’il est essentiel de respecter le principe de l’autonomie supervisée des robots, selon lequel la programmation initiale des soins et le choix final de leur exécution restent toujours dans la sphère décisionnelle du chirurgien; insiste sur l’importance toute particulière que revêt la formation, pour que les utilisateurs puissent se familiariser avec les exigences techniques du domaine; attire l’attention sur la tendance qui consiste, pour les patients, à effectuer eux-mêmes un diagnostic à l’aide d’un robot et, en conséquence, sur la nécessité de former les médecins afin qu’ils puissent gérer les cas d’autodiagnostic; considère que le recours à ces technologies ne doit pas affaiblir ni léser le rapport médecin-patient, mais fournir au contraire au médecin une aide pour le diagnostic et/ou les soins prodigués au patient, dans le but de réduire le risque d’erreur humaine et d’améliorer la qualité de vie et l’espérance de vie;

34.  estime que les robots médicaux sont de plus en plus présents dans la chirurgie de haute précision et dans la réalisation de procédures répétitives; est d’avis qu’ils peuvent améliorer les résultats de la réadaptation et apporter un soutien logistique très utile dans les hôpitaux; relève que les robots médicaux ont, en outre, le potentiel de réduire le coût des soins de santé, en permettant au corps médical de se concentrer davantage sur le prévention que sur le traitement et en augmentant le budget disponible pour une meilleure adaptation à la diversité des besoins des patients, pour la formation continue des professionnels de la santé et pour la recherche;

35.  demande à la Commission de veiller à ce que les procédures d’essai des nouveaux appareils robotiques médicaux soient sûres, en particulier pour ceux destinés à être implantés dans le corps humain, avant la date d’application du règlement (UE) 2017/745 relatif aux dispositifs médicaux;

Réparation et amélioration du corps humain

36.  relève les grands progrès réalisés et le grand potentiel de la robotique dans le domaine de la réparation et de la compensation d’organes endommagés et de fonctions corporelles amoindries, mais relève également les questions complexes soulevées notamment par les possibilités en matière d’amélioration du corps humain, les robots médicaux et notamment les systèmes cyber-physiques étant susceptibles de modifier en profondeur notre conception de la santé du corps humain sain, puisque ces derniers peuvent être portés directement sur le corps humain ou implantés dans ce dernier; insiste sur l’importance de créer sans délai des comités d’éthique sur la robotique dans les hôpitaux et dans les autres établissements de soins de santé, dotés d’un personnel suffisant, chargés d’examiner, afin d’aider à le résoudre, tout problème éthique épineux et inhabituel concernant des questions ayant une incidence sur les soins et le traitement des patients; demande à la Commission et aux États membres d’élaborer des lignes directrices relatives à la création et au fonctionnement de ces comités;

37.  relève que, dans le domaine des applications médicales vitales telles que les prothèses robotiques, il convient d’assurer un accès permanent et durable à l’entretien, aux améliorations et, en particulier, aux mises à jour logicielles qui remédient à des défaillances et à des vulnérabilités;

38.  recommande la création d’entités de confiance indépendantes qui conserveraient les moyens nécessaires pour fournir des services aux personnes qui utilisent des équipements médicaux vitaux ou avancés, sous la forme d’opérations de maintenance ou de réparation, ainsi que sous la forme d’améliorations, y compris de mises à jour des logiciels, notamment lorsque ces services ne sont plus proposés par le fournisseur original; suggère, à cette fin, la création d’une obligation pour les fabricants de fournir des instructions de conception complètes, ainsi que le code source, à ces entités de confiance indépendantes, de manière comparable au dépôt légal de publications dans une bibliothèque nationale;

39.  attire l’attention sur le risque que représentent le piratage, la désactivation ou encore l’effacement de la mémoire des systèmes cyber-physiques intégrés au corps humain, qui pourraient mettre en danger la santé, ou, dans les cas extrêmes, la vie de la personne concernée et souligne, par conséquent, la priorité qu’il convient d’accorder à la protection des systèmes de ce type;

40.  insiste sur l’importance de garantir l’égalité d’accès pour tous à ces innovations, outils et interventions technologiques; demande à la Commission et aux États membres de promouvoir le développement de technologies d’assistance afin de faciliter le développement et l’utilisation de ces technologies par ceux qui en ont besoin, conformément à l’article 4 de la convention des Nations unies relative aux droits des personnes handicapées, à laquelle l’Union est partie;

Éducation et emploi

41.  attire l’attention sur les prévisions de la Commission à l’horizon 2020, selon lesquelles il y aurait à cette date, en Europe, une pénurie de 825 000 professionnels des TIC et 90 % des emplois nécessiteraient de posséder des compétences numériques de base; salue l’initiative de la Commission de proposer une feuille de route pour l’utilisation et la révision éventuelles d’un cadre sur les compétences numériques et pour une description des compétences numériques pour tous les niveaux d’apprentissage; demande à la Commission de fournir une aide substantielle au développement des compétences numériques dans tous les groupes d’âge, indépendamment du statut d’emploi, ce qui représenterait une première étape vers une meilleure adaptation de l’offre à la demande sur le marché du travail; souligne que la croissance dans le domaine de la robotique rend nécessaire, de la part des États membres, la mise au point de systèmes de formation et d’enseignement plus flexibles, afin que les stratégies d’apprentissage répondent aux besoins de l’économie de la robotique;

42.  estime qu’il y a lieu, dans l’intérêt du secteur numérique, des femmes elles-mêmes et de l’économie européenne, d’inciter davantage de jeunes femmes à choisir une carrière dans le numérique et d’accorder davantage d’emplois dans le secteur à des femmes; demande à la Commission et aux États membres de lancer des initiatives de soutien aux femmes dans les TIC et d’amélioration des compétences numériques des femmes;

43.  demande à la Commission de commencer à analyser et à suivre de plus près les tendances à moyen et à long terme de l’emploi, en s’intéressant plus précisément à la création, au déplacement et à la perte d’emplois dans les différents domaines de compétences, afin de savoir dans quels domaines l’utilisation accrue des robots crée des emplois et dans quels domaines elle en détruit;

44.  souligne l’importance de prévoir les changements que la robotique entraînera dans la société, compte tenu des effets potentiels du développement et du déploiement de la robotique et de l’intelligence artificielle; demande à la Commission d’envisager plusieurs hypothèses et leurs conséquences sur la viabilité des régimes de sécurité sociale des États membres;

45.  souligne l’importance de la flexibilité des compétences et celle des compétences sociales, créatives et numériques dans l’éducation; est convaincu qu’outre la transmission de connaissances théoriques à l’école, l’apprentissage tout au long de la vie passe par l’activité tout au long de la vie;

46.  relève le grand potentiel de la robotique en matière d’amélioration de la sécurité au travail, puisqu’elle permettrait de charger les robots d’un certain nombre de tâches dangereuses et nocives qui seraient ainsi épargnées aux humains; relève cependant que la robotique est également susceptible d’entraîner son propre lot de nouveaux risques, dus à l’augmentation des interactions entre humains et robots sur le lieu de travail; souligne, à cet égard, l’importance d’appliquer des règles strictes, qui tiennent compte de l’évolution future de la robotique, aux interactions entre humains et robots, afin de garantir, sur le lieu de travail, la sécurité, la santé et le respect des droits fondamentaux;

Incidences sur l’environnement

47.  constate que les domaines de la robotique et de l’intelligence artificielle devraient être développés de manière à limiter l’incidence environnementale au moyen d’une consommation énergétique efficace, de la promotion de l’utilisation d’énergies renouvelables à des fins d’efficacité énergétique, de l’utilisation de faibles quantités de matériaux, de la réduction des déchets (déchets électriques et électroniques compris) ainsi que de possibilités de réparation; encourage par conséquent la Commission à intégrer les principes de l’économie circulaire dans chacune des politiques de l’Union dans le domaine de la robotique; observe que le recours à la robotique aura également une influence positive sur l’environnement, particulièrement dans les domaines de l’agriculture et de l’approvisionnement et du transport alimentaires, notamment grâce à l’utilisation de machines de taille réduite et d’une plus plus faible quantité de fertilisants, d’énergie et d’eau, ainsi qu’au moyen d’une agriculture de précision et d’une optimisation des trajets;

48.  souligne que les systèmes cyber-physiques mèneront à la création de systèmes d’énergie et d’infrastructures capables de contrôler le flux d’électricité du producteur au consommateur, ainsi qu’à la création de «prosommateurs» d’énergie, qui à la fois produiront et consommeront de l’énergie; insiste sur les bienfaits majeurs que cela aura pour l’environnement;

Responsabilité

49.  estime que la responsabilité civile pour les dommages causés par les robots est une question cruciale qui doit être analysée et à laquelle il importe de répondre au niveau de l’Union afin de garantir le même niveau d’efficacité, de transparence et de cohérence dans la mise en œuvre de la sécurité juridique dans toute l’Union, dans l’intérêt des citoyens, des consommateurs et des entreprises;

50.  fait observer que le développement de la technologie robotique nécessitera une meilleure compréhension des bases communes nécessaires à une activité conjointe homme-robot, qui devrait se fonder sur les deux relations interdépendantes fondamentales que sont la prévisibilité et la capacité à être dirigé; souligne que ces deux relations interdépendantes sont essentielles pour déterminer quelles informations doivent être partagées entre les hommes et les robots et pour définir la façon d’établir un terrain commun entre hommes et robots en vue de mener harmonieusement une activité conjointe homme-robot;

51.  demande à la Commission de présenter, sur la base de l’article 114 du traité sur le fonctionnement de l’Union européenne, une proposition d’instrument législatif sur les aspects juridiques du développement et de l’utilisation de la robotique et de l’intelligence artificielle à un horizon de 10 ou 15 ans, combinée à des instruments non législatifs, tels que des lignes directrices et des codes de conduite, comme mentionné dans les recommandations figurant en annexe;

52.  estime que, quelle que soit la solution juridique choisie dans le futur instrument législatif en matière de responsabilité civile pour les dommages causés par les robots dans les cas autres que des dommages matériels, ledit instrument ne devrait en aucune manière limiter le type ou l’étendue des dommages qui peuvent faire l’objet d’un dédommagement, et ne devrait pas non plus limiter la nature de ce dédommagement, au seul motif que les dommages sont causés par un acteur non humain;

53.  estime que le futur instrument législatif devra reposer sur une évaluation approfondie effectuée par la Commission, qui devra préciser la stratégie à appliquer, celle fondée sur la responsabilité objective ou celle basée sur la gestion du risque;

54.  constate dans le même temps que le principe de la responsabilité objective nécessite seulement d’apporter la preuve des dommages causés et de la relation de cause à effet entre les dommages causés à la partie lésée et le fonctionnement dommageable du robot;

55.  constate que l’approche fondée sur la gestion du risque ne se concentre pas sur la personne « qui a agi de manière négligente » en tant qu’individuellement responsable, mais sur la personne qui est capable, dans certaines circonstances, de réduire au minimum les risques et de gérer les répercussions négatives;

56.  estime qu’en principe, une fois les parties responsables en dernier ressort identifiées, leur responsabilité devrait être proportionnelle au niveau réel d’instructions données au robot et à l’autonomie de celui-ci, de sorte que, plus un robot est autonome, plus sa capacité d’apprentissage est grande, et plus sa période de formation a été longue, plus grande devrait être la responsabilité de la personne qui l’a formé; relève notamment que, lorsqu’il s’agit de déterminer qui est la personne réellement responsable du comportement dommageable du robot, les compétences acquises par un robot au cours de sa formation ne devraient pas être confondues avec les compétences strictement dépendantes de sa capacité à apprendre de manière autonome; relève en outre que, du moins en l’état actuel des choses, la responsabilité doit être imputable à un humain et non au robot;

57.  signale qu’une solution envisageable, face à la complexité de l’imputabilité des dommages causés par des robots de plus en plus autonomes, pourrait résider dans la mise en place d’un régime d’assurance obligatoire, comme c’est déjà le cas, entre autres, pour les automobiles; relève néanmoins que, contrairement au régime d’assurance des véhicules routiers, qui couvre les actes et l’inaction des automobilistes, un régime d’assurance robotique devrait tenir compte de toutes les responsabilités potentielles d’un bout à l’autre de la chaîne;

58.  estime que, comme c’est le cas pour les véhicules à moteur, un tel régime d’assurance pourrait être complété par un fonds, afin de garantir un dédommagement y compris en l’absence de couverture; demande au secteur de l’assurance de mettre au point de nouveaux produits et de nouveaux types d’offres, adaptés aux progrès de la robotique;

59.  demande à la Commission, lorsqu’elle procèdera à l’analyse d’impact de son futur instrument législatif, d’examiner, d’évaluer et de prendre en compte les conséquences de toutes les solutions juridiques envisageables, telles que:

Aspects internationaux

60.  relève que, bien qu’il ne soit pas nécessaire, dans l’immédiat, de remanier de fond en comble, pour les adapter à l’existence des véhicules autonomes, les règles générales du droit international privé sur les accidents de la route applicables au sein de l’Union, une simplification du double système qui permet actuellement de déterminer la loi applicable (système fondé sur le règlement (CE) n° 864/2007 du Parlement européen et du Conseil(7) et sur la convention de La Haye du 4 mai 1971 sur la loi applicable en matière d’accidents de la circulation routière) améliorerait la sécurité juridique et limiterait les possibilités de choisir la législation la moins stricte;

61.  estime nécessaire d’envisager de modifier certains accords internationaux tels que la convention de Vienne du 8 novembre 1968 sur la circulation routière et la convention de La Haye sur la loi applicable en matière d’accidents de la circulation routière;

62.  attend de la Commission qu’elle veille à ce que les États membres appliquent le droit international, notamment la convention de Vienne sur la circulation routière, qu’il y aurait d’ailleurs lieu de modifier, de manière cohérente afin de permettre l’utilisation de véhicules sans conducteur, et invite la Commission, les États membres et les acteurs industriels à réaliser dans les meilleurs délais les objectifs de la déclaration d’Amsterdam;

63.  encourage fortement la communauté internationale, sous les auspices des Nations unies, à coopérer pour examiner attentivement les enjeux de société, ainsi que les défis éthiques et juridiques, puis pour établir des normes réglementaires;

64.  souligne que les restrictions et les conditions prévues par le règlement (CE) n° 428/2009 du Parlement européen et du Conseil(8) relatives au commerce des biens à double usage (biens, logiciels et technologies pouvant être utilisés à des fins aussi bien militaires que civiles et/ou pouvant contribuer à la prolifération des armes de destruction massive) devraient s’appliquer également aux applications de la robotique;

Considérations finales

65.  demande, sur la base de l’article 225 du traité sur le fonctionnement de l’Union européenne, à la Commission de présenter, sur la base de l’article 114 du traité sur le fonctionnement de l’Union européenne, une proposition de directive sur des règles de droit civil sur la robotique qui suive les recommandations figurant en annexe;

66.  confirme que ces recommandations respectent les droits fondamentaux et le principe de subsidiarité;

67.  estime que la proposition demandée n’aura des incidences financières que si une nouvelle agence européenne est créée;

o
o   o

68.  charge son Président de transmettre la présente proposition ainsi que les recommandations figurant en annexe à la Commission et au Conseil.

(1) Directive 85/374/CEE du Conseil du 25 juillet 1985 relative au rapprochement des dispositions législatives, réglementaires et administratives des États membres en matière de responsabilité du fait des produits défectueux (JO L 210 du 7.8.1985, p. 29) (2) Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE (règlement général sur la protection des données) (JO L 119 du 4.5.2016, p. 1). (3) (1) Un robot ne peut attenter à la sécurité d’un être humain, ni, par inaction, permettre qu’un être humain soit mis en danger. (2) Un robot doit obéir aux ordres d’un être humain, sauf si ces ordres entrent en conflit avec la première loi. (3) Un robot doit protéger sa propre existence tant que cela n’entre pas en conflit avec la première ou la deuxième loi. (Voir I. Asimov, Cercle vicieux (Runaround, 1942)). (0) Un robot ne peut nuire à l’humanité, ni, par inaction, permettre que l’humanité soit mise en danger. (4) Dans la déclaration Schuman (1950): «L’Europe ne se fera pas d’un coup, ni dans une construction d’ensemble: elle se fera par des réalisations concrètes créant d’abord une solidarité de fait.» (5) Textes adoptés de cette date, P8_TA(2015)0390. (6) Règlement (CE) nº 216/2008 du Parlement européen et du Conseil du 20 février 2008 concernant des règles communes dans le domaine de l’aviation civile et instituant une Agence européenne de la sécurité aérienne, et abrogeant la directive 91/670/CEE du Conseil, le règlement (CE) nº 1592/2002 et la directive 2004/36/CE (JO L 79 du 19.3.2008, p. 1). (7) Règlement (CE) n° 864/2007 du Parlement européen et du Conseil du 11 juillet 2007 sur la loi applicable aux obligations non contractuelles (Rome II) (JO L 199 du 31.7.2007, p. 40). (8) Règlement (CE) n° 428/2009 du Conseil du 5 mai 2009 instituant un régime communautaire de contrôle des exportations, des transferts, du courtage et du transit de biens à double usage (JO L 134 du 29.5.2009, p. 1).

RECOMMANDATIONS CONCERNANT LE CONTENU DE LA PROPOSITION DEMANDÉE

Définition et classification des «robots intelligents»

Il convient d’établir une définition européenne commune des différentes catégories de robots autonomes et intelligents, en y intégrant des définitions de leurs sous-catégories le cas échéant, compte tenu des caractéristiques suivantes:

–  la capacité d’acquisition d’autonomie grâce à des capteurs et/ou à l’échange de données avec l’environnement (interconnectivité) et l’analyse de données;

–  la capacité d’apprentissage à travers l’expérience et l’interaction;

–  la forme de l’enveloppe physique du robot;

–  la capacité d’adaptation de son comportement et de ses actes à son environnement.

Immatriculation des «robots intelligents»

Il y a lieu de créer un système d’immatriculation des robots avancés sur la base de critères de classification des robots, à des fins de traçabilité et en vue de faciliter la mise en œuvre de recommandations ultérieures. Le système d’immatriculation et le registre devraient être instaurés à l’échelle de l’Union et couvrir le marché intérieur, et pourraient être gérés par une agence européenne spécifique chargée de la robotique et de l’intelligence artificielle, si une telle agence est créée.

Responsabilité civile

Quelle que soit la solution juridique choisie en matière de responsabilité des robots et de l’intelligence artificielle dans les cas autres que des dommages matériels, ledit instrument ne devrait en aucune manière limiter le type ou l’étendue des dommages qui peuvent faire l’objet d’un dédommagement, et ne devrait pas non plus limiter la nature de ce dédommagement, au seul motif que les dommages sont causés par un acteur non humain.

Le futur instrument législatif devra reposer sur une évaluation approfondie effectuée par la Commission, qui devra préciser la stratégie à appliquer, celle fondée sur la responsabilité objective ou celle basée sur la gestion du risque.

Il convient de créer un régime d’assurance robotique reposant éventuellement sur l’obligation faite au fabricant de contracter une police d’assurance pour les robots autonomes qu’il fabrique.

Ce régime d’assurance devrait être complété par un fonds afin de garantir un dédommagement, y compris en l’absence de couverture.

Toute décision politique concernant les règles de responsabilité civile applicables aux robots et à l’intelligence artificielle devrait être prise après la consultation en bonne et due forme d’un projet de recherche et de développement au niveau européen consacré à la robotique et aux neurosciences et mené avec des scientifiques et des experts capables d’évaluer tous les risques et les conséquences qu’impliquerait cette décision.

Interopérabilité, accès au code source et droits de propriété intellectuelle

Il convient d’assurer l’interopérabilité des robots autonomes connectés au réseau qui interagissent entre eux. L’accès au code source, aux données d’entrée et aux détails de construction devrait être disponible en cas de besoin, afin d’enquêter sur les accidents et les dommages causés par des «robots intelligents» et de garantir la continuité de leur fonctionnement, de leur disponibilité, de leur fiabilité, de leur sûreté et de leur sécurité.

Charte sur la robotique

Lorsqu’elle propose des actes juridiques en matière de robotique, la Commission devrait tenir compte des principes consacrés dans la charte sur la robotique ci-dessous.

CHARTE SUR LA ROBOTIQUE

La proposition d’un code de conduite éthique dans le domaine de la robotique jettera les bases de l’identification, de la surveillance et du respect de principes éthiques fondamentaux dès la phase de conception et de développement.

Ce cadre, élaboré après consultation d’un projet de recherche et de développement mené au niveau européen et consacré à la robotique et aux neurosciences, doit être conçu d’une manière réfléchie permettant d’opérer des ajustements individuels au cas par cas afin d’évaluer si un comportement donné est juste ou erroné dans telle ou telle situation et de prendre des décisions selon une hiérarchie de valeurs préétablie.

Le code ne devrait pas se substituer à la nécessité de s’attaquer à tous les grands problèmes juridiques dans ce domaine, mais remplir une fonction complémentaire. Il facilitera plutôt la classification éthique dans le domaine de la robotique, renforcera les efforts d’innovation responsable dans ce domaine et répondra aux préoccupations du public.

L’accent devrait être mis en particulier sur les phases de recherche et de développement de la trajectoire technologique pertinente (processus de conception, examen éthique, contrôles d’audit, etc.). Le code de conduite devrait avoir pour objectif de répondre à la nécessité de veiller au respect des normes éthiques par les chercheurs, les praticiens, les utilisateurs et les concepteurs, mais également d’introduire un processus de recherche de solution pour résoudre les dilemmes éthiques et permettre à ces systèmes de fonctionner de manière responsable d’un point de vue éthique.

CODE DE CONDUITE ÉTHIQUE POUR LES INGÉNIEURS EN ROBOTIQUE

PRÉAMBULE

Le code de conduite invite l’ensemble des chercheurs et des concepteurs à agir de façon responsable et avec la conscience absolue de la nécessité de respecter la dignité, la vie privée et la sécurité des personnes.

Le code demande une étroite collaboration entre toutes les disciplines afin de veiller à ce que la recherche dans le domaine de la robotique dans l’Union européenne soit menée d’une manière sûre, éthique et efficace.

Le code de conduite couvre toutes les activités de recherche et de développement dans le domaine de la robotique.

Le code de conduite est librement consenti et fixe un éventail de principes généraux et de lignes directrices pour les actions menées par toutes les parties intéressées.

Les organismes de financement de la recherche dans le domaine de la robotique, les centres de recherche, les chercheurs et les comités d’éthique sont invités à examiner, au stade le plus précoce, les incidences futures des technologies ou objets à l’étude et de développer une culture de responsabilité en vue de relever les défis et de saisir les occasions qui pourraient se présenter à l’avenir.

Les organismes publics et privés de financement de la recherche dans le domaine de la robotique devraient demander la réalisation et la présentation d’une analyse des risques pour chaque proposition de financement de la recherche en la matière. Ce code devrait considérer que la responsabilité incombe à l’être humain et pas aux robots.

Les chercheurs dans le domaine de la robotique devraient s’engager à adopter une conduite éthique et professionnelle la plus stricte ainsi qu’à respecter les principes suivants:

bienfaisance – les robots devraient agir au mieux des intérêts de l’homme;

non-malfaisance – la théorie «d’abord, ne pas nuire», en vertu de laquelle les robots ne devraient pas nuire à l’homme;

autonomie – la capacité de prendre une décision en connaissance de cause et sans contrainte quant aux modalités d’interaction avec les robots;

justice — répartition équitable des bénéfices liés à la robotique et caractère abordable des robots utilisés dans le domaine des soins à domicile et des soins de santé en particulier.

Droits fondamentaux

Les activités de recherche dans le domaine de la robotique devraient respecter les droits fondamentaux et être au service du bien-être et de l’autodétermination des personnes et de la société dans son ensemble s’agissant des activités de conception, de mise en œuvre, de diffusion et d’exploitation. La dignité et l’autonomie humaines, tant physiques que psychologiques, doivent toujours être respectées.

Précaution

Les activités de recherche dans le domaine de la robotique devraient être menées en respectant le principe de précaution, en anticipant les incidences éventuelles de leurs résultats sur la sécurité et en prenant toute précaution utile en fonction du niveau de protection, tout en stimulant le progrès au bénéfice de la société et de l’environnement.

Ouverture

Les ingénieurs en robotique garantissent la transparence et le respect du droit légitime d’accès à l’information de toutes les parties intéressées. Cette ouverture permet la participation aux processus de décision de toutes les parties prenantes participant à des activités de recherche dans le domaine de la robotique ou concernées par celles-ci.

Obligation de rendre compte

Les ingénieurs en robotique devraient être tenus de rendre compte des incidences sur la société, l’environnement et la santé humaine que la robotique pourrait entraîner pour les générations actuelles et futures.

Sécurité

Les concepteurs de robots devraient considérer et respecter le bien-être physique, la sécurité, la santé et les droits des personnes. Un ingénieur en robotique doit préserver le bien-être humain, tout en respectant les droits de l’homme, et communiquer sans délai les facteurs qui pourraient mettre en danger le public ou l’environnement.

Réversibilité

La réversibilité, qui constitue une condition nécessaire de la possibilité de contrôle, est un concept fondamental lors de la programmation de robots afin qu’ils se comportent de manière sûre et fiable. Un modèle de réversibilité indique au robot quelles actions sont réversibles et, le cas échéant, la manière de les inverser. La possibilité d’annuler la dernière action ou une séquence d’actions permet aux utilisateurs d’annuler des actions non désirées et de revenir à la «bonne» phase de leur travail.

Protection de la vie privée

Le droit au respect de la vie privée doit toujours être respecté. Un ingénieur en robotique devrait s’assurer que les informations privées sont conservées en toute sécurité et toujours utilisées à bon escient. En outre, il devrait garantir que les personnes ne sont pas identifiables personnellement, hors circonstances exceptionnelles et uniquement en cas de consentement clair, éclairé et dénué d’ambiguïté. Le consentement éclairé de la personne devrait être recherché et obtenu préalablement à toute interaction homme-machine. En tant que tels, les ingénieurs en robotique ont la responsabilité de mettre au point et d’appliquer des procédures pour garantir le consentement valable, la confidentialité, l’anonymat, le traitement équitable et le respect de la légalité. Les concepteurs se conformeront à toute demande visant à détruire d’éventuelles données y afférentes ou à les supprimer d’une série de données.

Optimiser les bénéfices et minimiser les préjudices

Les chercheurs devraient viser à maximiser les bénéfices de leur activité à toutes les étapes, depuis la création jusqu’à la diffusion. Il y a lieu d’éviter de porter préjudice aux participants ou aux sujets humains qui prennent part à des expériences, des essais ou des études dans le domaine de la recherche. En cas d’apparition de risques inévitables et faisant partie intégrante de la recherche, il convient de procéder à une évaluation solide des risques et d’établir des protocoles de gestion des risques rigoureux, et de s’y conformer. Normalement, le risque de préjudice ne devrait pas dépasser celui rencontré dans la vie ordinaire, ce qui signifie que les personnes ne devraient pas être exposées à des risques supérieurs ou s’ajoutant à ceux auxquels elles sont exposées dans leur vie quotidienne. L’exploitation d’un système de robotique devrait toujours reposer sur une évaluation approfondie des risques s’appuyant sur les principes de précaution et de proportionnalité.

CODE DE DÉONTOLOGIE POUR LES COMITÉS D’ÉTHIQUE DE LA RECHERCHE

Principes

Indépendance

Le processus d’examen éthique devrait être indépendant de la recherche elle-même. Ce principe souligne la nécessité d’éviter les conflits d’intérêts entre les chercheurs et les examinateurs du protocole d’éthique ainsi qu’entre les examinateurs et les structures de gouvernance organisationnelles.

Compétence

Il convient de faire réaliser le processus d’examen éthique par des examinateurs disposant des compétences appropriées et en tenant compte de la nécessité d’un examen attentif de la diversité dans la composition et de la formation spécifique en matière d’éthique des comités d’éthique de la recherche.

Transparence et obligation de rendre des comptes

Le processus d’examen devrait être responsable et en mesure de faire l’objet d’un contrôle. Les comités d’éthique de la recherche se doivent de prendre conscience de leurs responsabilités et d’être judicieusement placés au sein de structures organisationnelles qui assurent la transparence du fonctionnement et des procédures de ces comités visant à conserver et à examiner les normes.

Rôle d’un comité d’éthique de la recherche

En règle générale, un comité d’éthique de la recherche est chargé d’examiner toute recherche faisant appel à des participants humains effectuée par des personnes employées dans ou par l’institution concernée, en veillant à ce que l’examen éthique soit mené de manière indépendante, compétente et en temps opportun; en protégeant la dignité, les droits et le bien-être des participants à la recherche; en prenant en considération la sécurité du ou des chercheurs; en tenant compte des intérêts légitimes des autres parties intéressées; en rendant un jugement éclairé quant au mérite scientifique des propositions; et en faisant des recommandations en connaissance de cause au chercheur si la proposition est jugée inadéquate à certains égards.

Composition d’un comité d’éthique de la recherche

En règle générale, un comité d’éthique de la recherche devrait être pluridisciplinaire; être composé d’hommes et de femmes; comprendre des membres ayant une vaste expérience et une expertise dans la recherche en robotique. Le mécanisme de désignation devrait veiller à ce que les membres du comité offrent un équilibre approprié entre expertise scientifique et formation philosophique, éthique ou juridique, ainsi qu’une diversité de points de vue. Il devrait en outre comporter au moins un membre ayant des connaissances spécialisées en matière d’éthique ainsi que des utilisateurs de services spécialisés de santé, d’éducation ou de prestations sociales lorsque ces domaines se trouvent au cœur des activités de recherche, et des personnes ayant des compétences méthodologiques spécifiques en rapport avec la recherche qu’elles évaluent; les comités d’éthique de la recherche doivent en outre être constitués de manière à éviter les conflits d’intérêt.

Contrôle

Tous les organismes de recherche devraient mettre en place des procédures appropriées pour contrôler le déroulement de la recherche qui a reçu le feu vert en matière d’éthique jusqu’à son terme, et assurer un examen continu si la conception de la recherche anticipe des évolutions possibles dans le temps qu’il pourrait être nécessaire de traiter. Les contrôles devraient être proportionnés à la nature et à l’intensité du risque lié à la recherche. Lorsqu’un comité d’éthique de la recherche estime qu’un rapport de suivi suscite de vives préoccupations quant à la conduite éthique de l’étude, il devrait demander un compte rendu détaillé et complet de la recherche en vue d’un examen éthique exhaustif. Dans le cas où il est jugé qu’une étude est menée d’une manière qui est contraire à l’éthique, le retrait de son approbation devrait être envisagé et la recherche devrait être suspendue ou interrompue.

LICENCE POUR LES CONCEPTEURS

–  Les concepteurs devraient tenir compte des valeurs européennes de dignité, d’autonomie et d’autodétermination, ainsi que de liberté et de justice, avant, pendant et après le processus de conception, de développement et de fourniture de ces technologies, y compris la nécessité de ne pas léser, blesser, tromper ou exploiter les utilisateurs (vulnérables).

–  Les concepteurs devraient instaurer des principes de conception de systèmes fiables dans tous les aspects du fonctionnement d’un robot, tant pour la conception du matériel et des logiciels que pour le traitement de données «on platform» ou «off platform» à des fins de sécurité.

–  Les concepteurs devraient mettre en place des dispositifs de protection de la vie privée dès la conception pour assurer que les informations privées sont conservées en toute sécurité et toujours utilisées de manière appropriée.

–  Les concepteurs devraient intégrer des mécanismes de sortie évidents (boutons d’arrêt d’urgence) qui devraient concorder avec des objectifs de conception raisonnables.

–  Les concepteurs devraient garantir qu’un robot fonctionne d’une manière conforme aux principes éthiques et juridiques en vigueur aux niveaux local, national et international.

–  Les concepteurs devraient veiller à ce que les étapes décisionnelles du robot soient soumises à la reconstruction et à la traçabilité.

–  Les concepteurs devraient s’assurer qu’une transparence maximale est requise dans la programmation des systèmes robotiques, ainsi que la prévisibilité du comportement des robots.

–  Les concepteurs devraient analyser la prévisibilité d’un système humain-robot en examinant les incertitudes dans l’interprétation et dans l’action ainsi que d’éventuelles défaillances des robots ou de l’homme.

–  Les concepteurs devraient élaborer des outils de traçage lors de la phase de conception du robot. Ces outils permettront de rendre compte et d’expliquer les comportements des robots, même de manière limitée, aux différents niveaux prévus pour les experts, les opérateurs et les utilisateurs.

–  Les concepteurs devraient élaborer des protocoles de conception et d’évaluation, et collaborer avec les utilisateurs et les parties intéressées potentiels pour évaluer les avantages et les risques de la robotique, y compris sur le plan cognitif, psychologique et environnemental.

–  Les concepteurs devraient s’assurer que les robots sont identifiables en tant que robots lorsqu’ils interagissent avec les humains.

–  Les concepteurs devraient sauvegarder la sécurité et la santé des personnes qui interagissent et entrent en contact avec les robots, étant donné que ces derniers, en tant que produits, devraient être conçus selon des processus garantissant leur sûreté et leur sécurité. Un ingénieur en robotique doit préserver le bien-être humain, tout en respectant les droits de l’homme, et ne peut pas actionner un robot sans garantir la sécurité, l’efficacité et la réversibilité du fonctionnement du système.

–  Les concepteurs devraient obtenir un avis positif d’un comité d’éthique de la recherche avant de tester un robot dans un environnement réel ou impliquant des êtres humains dans les procédures de conception et de développement.

LICENCE POUR LES UTILISATEURS

–  Les utilisateurs sont autorisés à utiliser un robot sans risque ou crainte de préjudice physique ou psychique.

–  Les utilisateurs devraient avoir le droit de s’attendre à ce qu’un robot effectue toute tâche pour laquelle il a été explicitement conçu.

–  Les utilisateurs devraient être conscients que tout robot peut comporter des limites de perception, des limites cognitives et des limites d’actionnement.

–  Les utilisateurs devraient respecter la fragilité humaine, tant physique que psychologique, ainsi que les besoins émotionnels des personnes.

–  Les utilisateurs devraient tenir compte du droit à la vie privée dont jouissent les individus, y compris la désactivation de moniteurs vidéo au cours de procédures intimes.

–  Les utilisateurs ne sont pas autorisés à collecter, à utiliser ou à divulguer des informations personnelles sans le consentement explicite de la personne concernée.

–  Les utilisateurs ne sont pas autorisés à utiliser un robot d’une manière qui enfreint les principes et normes éthiques ou juridiques.

–  Les utilisateurs ne sont pas autorisés à modifier des robots pour les utiliser comme des armes.