Intelligence artificielle : protéger les consommateurs
L'intelligence artificielle et la prise de décision automatisée peuvent représenter une menace pour les consommateurs. Découvrez comment le Parlement européen souhaite les protéger.
Qu'est-ce que l'intelligence artificielle et pourquoi peut-elle être dangereuse ?
Les algorithmes d'apprentissage étant capables de traiter des ensembles de données avec précision et rapidité, les applications d'intelligence artificielle (IA) sont devenues de plus en plus courantes, entre autres, dans les secteurs de la finance, des soins de santé et de l'éducation. Cependant, le recours à l'intelligence artificielle n’est pas sans risque, en particulier lorsque des décisions sont prises sans supervision humaine.
L'intelligence artificielle dans les processus décisionnels
L'IA est de plus en plus impliquée dans les systèmes de décision algorithmiques. Il est important de noter que les décisions prises peuvent avoir un énorme impact sur autrui, comme par exemple, permettre ou non d’obtenir un crédit, de décrocher un l'emploi ou encore d’avoir accès aux soins de santé. La prise de décision automatisée peut donc faire persister les divisions sociales.
Comment protéger les consommateurs à l'ère de l'intelligence artificielle ?
Le développement de l'IA et des processus de prise de décision automatisés (ADM) peut également nuire au bien-être des consommateurs. Lorsque les consommateurs interagissent avec un système ADM, ils devraient être correctement informés de son fonctionnement.
La position du Parlement européen
Dans une résolution adoptée le 12 février en session plénière, les députés européens appellent la Commission européenne à examiner si des mesures supplémentaires doivent être prises afin de garantir la protection des consommateurs.
La Commission doit clarifier la façon dont elle prévoit de :
- veiller à ce que les consommateurs soient protégés contre les pratiques commerciales déloyales et discriminatoires
- garantir une plus grande transparence dans ces processus
- s'assurer que seuls des ensembles de données de haute qualité et non biaisés soient utilisés dans les systèmes de décision algorithmiques
« Nous devons veiller à ce que la protection et la confiance des consommateurs soient garanties, que les règles de l’UE sur la sécurité et la responsabilité des produits et des services soient adaptées à l’ère numérique », a déclaré Petra De Sutter, députée allemande membre du groupe des Verts/ALE et présidente de la commission du marché intérieur et de la protection des consommateurs.
Prochaines étapes
Suite au vote en session plénière, la résolution approuvée sera transmise au Conseil et à la Commission. La Commission devrait présenter ses plans pour une approche de l’UE envers l’IA le 19 février.
