Rendre l'intelligence artificielle éthique, sûre et innovante
- L’intelligence artificielle avec capacités d’auto-apprentissage devrait être conçue de manière à permettre un contrôle humain
- Un système de responsabilité civile tourné vers l'avenir est nécessaire pour protéger les personnes privées et les entreprises
- Le leadership de l'UE en matière d'intelligence artificielle nécessite un système de propriété intellectuelle efficace et des garanties pour les développeurs
Les députés ont approuvé des propositions visant à répondre aux opportunités à long terme et aux défis juridiques posés par l’intelligence artificielle.
Jeudi, la commission des affaires juridiques a adopté trois rapports sur des questions spécifiques liées au développement et à l'utilisation accrus des systèmes d'intelligence artificielle (IA). La Commission devrait présenter une proposition législative en la matière au début de l'année 2021.
Éthique et cadre pour l’IA
L'initiative législative d'Iban García del Blanco (S&D, ES), adoptée par 20 voix pour, 0 contre et 4 abstentions, invite la Commission européenne à présenter un nouveau cadre juridique pour les principes éthiques à utiliser lors du développement, du déploiement et de l'utilisation de l'IA, de la robotique et des technologies connexes dans l'UE, y compris les logiciels, les algorithmes et les données.
Les députés ont adopté des propositions sur plusieurs principes directeurs qui doivent être pris en compte par les futures lois, notamment une IA centrée sur l’humain, faite et contrôlée par l'homme; la sécurité, la transparence et la responsabilité; les garanties contre les préjugés et la discrimination; le droit à la réparation; la responsabilité sociale et environnementale; et le respect des droits fondamentaux.
En ce qui concerne l'IA avec capacités d'auto-apprentissage, elle doit être conçue de manière à permettre une surveillance humaine. Si la modification d’une fonctionnalité entraînait une grave violation des principes éthiques et était potentiellement dangereuse pour les personnes, les capacités d'auto-apprentissage devraient être désactivées et ramenées à des fonctionnalités sûres.
Responsabilité en cas de dommages causés par l’IA
L'initiative législative d'Axel Voss (PPE, DE), adoptée par 23 voix pour, 0 contre et 1 abstention, appelle à l'adaptation d'un cadre de responsabilité civile tourné vers l'avenir, avec une responsabilité stricte pour les IA à haut risque, ce qui encouragerait l'innovation en offrant aux entreprises une sécurité juridique, et renforcerait la protection des citoyens et leur confiance dans les technologies de l’IA en dissuadant les activités à risque. La responsabilité stricte devrait également s'appliquer aux systèmes d'IA qui ont causé plusieurs incidents graves entraînant des dommages.
Dans ce texte, les députés ont mis l'accent sur les actions en responsabilité civile contre les opérateurs de systèmes d'IA. La responsabilité couvrirait la protection de la vie, de la santé, de l'intégrité physique, des biens ainsi que les dommages immatériels importants s'ils entraînent une "perte économique substantielle vérifiable".
Droits de propriété intellectuelle
Le rapport de Stéphane Séjourné (Renew Europe, FR), adopté par 19 voix pour, 3 contre et 2 abstentions, souligne que la question clé de la protection des droits de propriété intellectuelle dans le contexte de l’AI n'a pas été abordée jusqu'à présent par la Commission européenne et demande une étude d'impact sur la question.
Le rapport souligne que le leadership mondial de l'UE en matière d'IA nécessite un système de propriété intellectuelle efficace et des garanties pour le système de brevets de l'UE afin de protéger les développeurs. Les députés précisent que l’IA ne devrait pas avoir de personnalité juridique, la qualité ‘‘d’inventeur’’ ne devant être accordée qu’aux humains. Le texte aborde par ailleurs les droits d'auteur, la protection des secrets commerciaux et la distinction entre les droits de propriété intellectuelle pour le développement de technologies d’IA et les droits de propriété intellectuelle potentiellement accordés sur les créations générées par l’IA.
Pour plus de détails sur les trois rapports, consultez les amendements de compromis qui ont tous été approuvés ce lundi. Les résultats du vote final sont disponibles ici.
Contexte
Le vote en plénière est prévu pour la session plénière du 19 au 22 octobre. Les trois rapports de la commission des affaires juridiques s'appuient sur le livre blanc sur l'IA, le rapport sur le cadre de sécurité et de responsabilité et la consultation publique de cet été.