El Parlamento Europeo,

–  Vista su Resolución, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica(1),

–  Vista su Resolución, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica(2),

–  Visto el informe del grupo de expertos sobre responsabilidad y nuevas tecnologías de la Comisión titulado «Liability for artificial intelligence and other emerging digital technologies» (Responsabilidad civil sobre inteligencia artificial y otras tecnologías digitales emergentes), publicado el 21 de noviembre de 2019,

–  Visto el informe del grupo de expertos de alto nivel sobre la IA de la Comisión titulado «Policy and Investment Recommendations for Trustworthy AI» (Recomendaciones estratégicas y de inversión para una IA fiable), publicado el 26 de junio de 2019,

–  Visto el documento del grupo de expertos de alto nivel sobre la IA de la Comisión titulado «Directrices éticas para una IA fiable», publicado el 8 de abril de 2019, así como la lista de evaluación para una IA fiable,

–  Vista la Comunicación de la Comisión, de 8 de abril de 2019, titulada «Generar confianza en la inteligencia artificial centrada en el ser humano» (COM(2019)0168),

–  Vista la Comunicación de la Comisión, de 7 de diciembre de 2018, titulada «Plan coordinado sobre la inteligencia artificial» (COM(2018)0795),

–  Vista la Comunicación de la Comisión, de 25 de abril de 2018, titulada «Inteligencia artificial para Europa» (COM(2018)0237),

–  Vista la propuesta de Resolución de la Comisión de Mercado Interior y Protección del Consumidor,

–  Vista la pregunta a la Comisión sobre los procesos automatizados de toma de decisiones: garantizar la protección de los consumidores y la libre circulación de bienes y servicios (O‑000008/2020 – B9‑0007/2020),

–  Vistos el artículo 136, apartado 5, y el artículo 132, apartado 2, de su Reglamento interno,

A.  Considerando que los adelantos técnicos en los ámbitos de la inteligencia artificial (IA), el aprendizaje automático, los sistemas complejos de algoritmos y los procesos automatizados de toma de decisiones están teniendo lugar con rapidez, y que las aplicaciones, las oportunidades y los desafíos que entrañan estas técnicas son numerosos y repercuten sobre prácticamente todos los sectores del mercado interior;

B.  Considerando que se espera que el perfeccionamiento de los procesos automatizados de toma de decisiones contribuya de manera notable a la economía del conocimiento y redunde en provecho tanto de la sociedad, a través de, entre otras cosas, mejores servicios públicos, como de los consumidores, gracias a productos y servicios innovadores, y de las empresas, con una optimización del rendimiento;

C.  Considerando que el uso y fomento de la IA y de los procesos automatizados de toma de decisiones plantea asimismo retos para la confianza y el bienestar de los consumidores, en particular en lo que respecta a la capacitación de los consumidores para detectar dichos procesos, entender su funcionamiento, tomar decisiones con conocimiento de causa en cuanto a su utilización y autoexcluirse;

D.  Considerando que las orientaciones éticas, como por ejemplo los principios aprobados por el grupo de expertos de alto nivel sobre la IA de la Comisión, constituyen un punto de partida; que resulta no obstante necesario llevar a cabo un estudio del marco jurídico vigente de la Unión, en particular del acervo en materia de protección de los consumidores, así como la legislación relativa a la seguridad de los productos y la vigilancia del mercado, al objeto de comprobar si es capaz de dar respuesta al surgimiento de la IA y la toma de decisiones automatizada y brindar un nivel elevado de protección de los consumidores, tal como exige el artículo 38 de la Carta de los Derechos Fundamentales de la Unión Europea;

E.  Considerando que un planteamiento común de la Unión en cuanto a la obtención de procesos automatizados de toma de decisiones hará más fácil que quede garantizada la utilidad de dichos procesos y se atenúen en toda la Unión los riesgos que entrañan, evitará la fragmentación del mercado interior y permitirá a la Unión impulsar de mejor manera su enfoque y sus valores en el resto del mundo;

Libertad de elección, confianza y bienestar de los consumidores

1.  Celebra las posibilidades que encierra la toma de decisiones automatizada a la hora de brindar servicios innovadores y de mayor calidad a los consumidores, en particular mediante los nuevos servicios digitales, como los asistentes virtuales y los bots conversacionales; estima no obstante que, cuando estén interactuando con un sistema que automatice la toma de decisiones, se debe informar debidamente a los consumidores de su funcionamiento, de la manera de contactar con un ser humano con poder de decisión y de cómo se pueden verificar y corregir las decisiones del sistema;

2.  Insta a la Comisión a que siga de cerca la aplicación de las nuevas normas sobre la base de la Directiva relativa a la mejora de la aplicación(3), en la que se impone a los comerciantes la obligación de informar a los consumidores cuando los precios de los bienes o servicios se hayan personalizado basándose en la toma de decisiones automatizada y la elaboración de perfiles del comportamiento de los consumidores, permitiendo a los comerciantes evaluar el poder adquisitivo del consumidor;

3.  Pide a la Comisión que siga de cerca la aplicación del Reglamento sobre el bloqueo geográfico(4) al objeto de velar por que no se recurra a la toma de decisiones automática para discriminar a los consumidores en razón de su nacionalidad, lugar de residencia o ubicación provisional;

4.  Alienta a la Comisión a que verifique que las obligaciones impuestas a los comerciantes permiten una verdadera elección por parte de los consumidores y brindan a estos suficiente protección; pide a la Comisión que compruebe si hay lagunas regulatorias y estudie la necesidad de otras medidas para lograr un sólido conjunto de derechos tendente a la protección de los consumidores en el ámbito de la IA y la toma de decisiones automatizada;

5.  Señala que los sistemas de toma de decisiones automatizada están siendo utilizados en el marco de los mecanismos de resolución alternativa de litigios de diversas plataformas digitales para dirimir controversias entre consumidores y comerciantes; pide a la Comisión que vele por que en toda próxima revisión de la Directiva 2013/11/UE relativa a la resolución alternativa de litigios en materia de consumo(5) y del Reglamento (UE) n.º 524/2013 sobre resolución de litigios en línea en materia de consumo(6) se tenga en cuenta este uso de la toma de decisiones automatizada y se garantice que el control sigue en manos de los seres humanos;

Marco de seguridad y responsabilidad para los productos

6.  Subraya que el marco de seguridad de los productos en la Unión impone a las empresas la obligación de garantizar que únicamente se comercializan productos seguros y conformes; es consciente de que la aparición de productos con capacidad de toma de decisiones automatizada plantea nuevos desafíos, ya que estos pueden evolucionar y actuar de manera distinta a la prevista en el momento inicial de comercialización; insta a la Comisión a que presente propuestas al objeto de adaptar la normativa de seguridad de la Unión para los productos que esta regula mediante legislación concreta fijando requisitos armonizados, en particular la Directiva relativa a las máquinas(7), la Directiva sobre la seguridad de los juguetes(8), la Directiva sobre equipos radioeléctricos(9) y la Directiva sobre baja tensión(10), así como en relación con los «productos no armonizados» de los que se ocupa la Directiva relativa a la seguridad general de los productos(11), a fin de velar por la adecuación de las nuevas normas a su función y por la protección de los usuarios y los consumidores contra posibles perjuicios, así como por que tengan claras tanto los fabricantes sus obligaciones como los usuarios la manera de utilizar los productos con capacidad de toma de decisiones automatizada;

7.  Insiste en la necesidad de un enfoque regulador basado en el riesgo, vista la variada naturaleza y complejidad de los retos planteados por los diferentes tipos y aplicaciones de IA y de los sistemas de toma de decisiones automatizada; pide a la Comisión que desarrolle un sistema de evaluación de riesgos para la IA y la toma de decisiones automatizada a fin de garantizar un enfoque coherente de la aplicación de la legislación sobre seguridad de los productos en el mercado interior; hace hincapié en que los Estados miembros deben elaborar estrategias armonizadas de gestión de riesgos para la IA en el contexto de sus estrategias nacionales de vigilancia del mercado;

8.  Toma nota de que la Directiva sobre la responsabilidad por productos defectuosos(12) ha proporcionado, desde hace más de treinta años, una valiosa red de seguridad para proteger a los consumidores contra los daños causados por productos defectuosos; reconoce el reto que plantea determinar la responsabilidad en caso de que el perjuicio del consumidor resulte de procesos autónomos de toma de decisiones; pide a la Comisión que revise dicha Directiva y considere la posibilidad de adaptar los conceptos como «productos», «daños» y «defectos», así como las normas en materia de carga de la prueba; insta a la Comisión a que presente propuestas para actualizar estos conceptos y normas en caso necesario;

Marco regulador en materia de servicios

9.  Recuerda que el marco regulador vigente en materia de servicios, integrado por la Directiva de servicios(13), la Directiva sobre cualificaciones profesionales(14), la Directiva sobre el test de proporcionalidad(15), la Directiva sobre comercio electrónico(16) y el Reglamento General de Protección de Datos (GDPR)(17), ya cubre numerosos aspectos de las políticas relevantes para los servicios que incorporan procesos automatizados de toma de decisiones, incluyendo normas sobre protección del consumidor, ética y responsabilidad; observa que estas normas deben aplicarse tanto a los servicios tradicionales como a los que incorporan procesos automatizados de toma de decisiones;

10.  Subraya que, si bien los procesos automatizados de toma de decisiones pueden mejorar la eficiencia y la precisión de los servicios, las personas deben ser las responsables en última instancia y poder revocar las decisiones tomadas en el contexto de servicios profesionales como los de carácter médico, jurídico o contable, así como en el sector bancario; recuerda la importancia del control independiente o la supervisión por profesionales cualificados en los casos de toma de decisiones automatizada cuando estén en juego intereses públicos legítimos;

11.  Subraya la importancia, en consonancia con la Directiva sobre el test de proporcionalidad, de evaluar adecuadamente los riesgos antes de automatizar los servicios profesionales; insta a las autoridades competentes de los Estados miembros a que velen por que la formación profesional tenga en cuenta los avances científicos en el ámbito de la toma de decisiones automatizada;

Calidad y transparencia en la gobernanza de los datos

12.  Toma nota de que los sistemas de toma de decisiones automatizada se basan en la recopilación de grandes volúmenes de datos, y considera que el Reglamento sobre la libre circulación de datos no personales(18) contribuirá a que más datos estén disponibles en toda la Unión, lo que permitirá la creación de servicios innovadores basados en los datos; reconoce el potencial del intercambio de datos de fuentes no solo públicas, sino también privadas, a este respecto, insistiendo al mismo tiempo en la necesidad de proteger los datos personales con arreglo al Reglamento General de Protección de Datos; destaca la importancia de utilizar únicamente conjuntos de datos no sesgados y de calidad, con el fin de mejorar los resultados de los sistemas algorítmicos y de reforzar la confianza y la aceptación de los consumidores;

13.  Subraya que, a la vista del impacto significativo que los sistemas de toma de decisiones automatizada pueden tener en los consumidores, y especialmente en los que se encuentran en situaciones de vulnerabilidad, es importante que estos sistemas no solo utilicen conjuntos de datos no sesgados y de calidad, sino que también se sirvan de algoritmos explicables e imparciales; considera que se necesitan estructuras de revisión dentro de los procesos de las empresas con el fin de subsanar posibles errores en las decisiones automatizadas y que los consumidores deben tener la posibilidad de solicitar la revisión y rectificación humanas de aquellas decisiones automatizadas que sean definitivas y permanentes;

14.  Subraya que, con el fin de determinar si los productos con capacidad de toma de decisiones automatizada se ajustan a las normas de seguridad pertinentes, es esencial que los algoritmos subyacentes a dichas capacidades sean suficientemente transparentes y puedan ser explicados a las autoridades de vigilancia del mercado; pide a la Comisión que evalúe si deben concederse a las autoridades de vigilancia del mercado prerrogativas adicionales en este sentido;

15.  Pide a la Comisión que siga de cerca la aplicación del Reglamento sobre las relaciones entre plataformas y empresas(19), en particular las normas sobre la transparencia de las clasificaciones, que implican el uso de procesos automatizados de toma de decisiones;

o
o   o

16.  Encarga a su presidente que transmita la presente Resolución al Consejo y a la Comisión.

(1) Textos Aprobados, P8_TA(2019)0081. (2) DO C 252 de 18.7.2018, p. 239. (3) Directiva (UE) 2019/2161 del Parlamento Europeo y del Consejo de 27 de noviembre de 2019 por la que se modifica la Directiva 93/13/CEE del Consejo y las Directivas 98/6/CE, 2005/29/CE y 2011/83/UE del Parlamento Europeo y del Consejo, en lo que atañe a la mejora de la aplicación y la modernización de las normas de protección de los consumidores de la Unión (DO L 328 de 18.12.2019, p. 7). (4) Reglamento (UE) 2018/302 del Parlamento Europeo y del Consejo, de 28 de febrero de 2018, sobre medidas destinadas a impedir el bloqueo geográfico injustificado y otras formas de discriminación por razón de la nacionalidad, del lugar de residencia o del lugar de establecimiento de los clientes en el mercado interior y por el que se modifican los Reglamentos (CE) n.º 2006/2004 y (UE) 2017/2394 y la Directiva 2009/22/CE (DO L 60 I de 2.3.2018, p. 1). (5) DO L 165 de 18.6.2013, p. 63. (6) DO L 165 de 18.6.2013, p. 1. (7) Directiva 2006/42/CE del Parlamento Europeo y del Consejo, de 17 de mayo de 2006, relativa a las máquinas y por la que se modifica la Directiva 95/16/CE (versión refundida) (DO L 157 de 9.6.2006, p. 24). (8) Directiva 2009/48/CE del Parlamento Europeo y del Consejo, de 18 de junio de 2009, sobre la seguridad de los juguetes (DO L 170 de 30.6.2009, p. 1). (9) Directiva 2014/53/UE del Parlamento Europeo y del Consejo, de 16 de abril de 2014, relativa a la armonización de las legislaciones de los Estados miembros sobre la comercialización de equipos radioeléctricos, y por la que se deroga la Directiva 1999/5/CE (DO L 153 de 22.5.2014, p. 62). (10) Directiva 2014/35/UE del Parlamento Europeo y del Consejo, de 26 de febrero de 2014, sobre la armonización de las legislaciones de los Estados miembros en materia de comercialización de material eléctrico destinado a utilizarse con determinados límites de tensión (DO L 96 de 29.3.2014, p. 357). (11) Directiva 2001/95/CE del Parlamento Europeo y del Consejo, de 3 de diciembre de 2001, relativa a la seguridad general de los productos (DO L 11 de 15.1.2002, p. 4). (12) Directiva 85/374/CEE del Consejo, de 25 de julio de 1985, relativa a la aproximación de las disposiciones legales, reglamentarias y administrativas de los Estados miembros en materia de responsabilidad por los daños causados por productos defectuosos (DO L 210 de 7.8.1985, p. 29). (13) Directiva 2006/123/CE del Parlamento Europeo y del Consejo, de 12 de diciembre de 2006, relativa a los servicios en el mercado interior (DO L 376 de 27.12.2006, p. 36). (14) Directiva 2013/55/UE del Parlamento Europeo y del Consejo, de 20 de noviembre de 2013, por la que se modifica la Directiva 2005/36/CE relativa al reconocimiento de cualificaciones profesionales y el Reglamento (UE) n.º 1024/2012 relativo a la cooperación administrativa a través del Sistema de Información del Mercado Interior («Reglamento IMI») (DO L 354 de 28.12.2013, p. 132). (15) Directiva (UE) 2018/958 del Parlamento Europeo y del Consejo, de 28 de junio de 2018, relativa al test de proporcionalidad antes de adoptar nuevas regulaciones de profesiones (DO L 173 de 9.7.2018, p. 25). (16) Directiva 2000/31/CE del Parlamento Europeo y del Consejo, de 8 de junio de 2000, relativa a determinados aspectos jurídicos de los servicios de la sociedad de la información, en particular el comercio electrónico en el mercado interior (Directiva sobre el comercio electrónico) (DO L 178 de 17.7.2000, p. 1). (17) Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento General de Protección de Datos) (DO L 119 de 4.5.2016, p. 1). (18) Reglamento (UE) 2018/1807 del Parlamento Europeo y del Consejo, de 14 de noviembre de 2018, relativo a un marco para la libre circulación de datos no personales en la Unión Europea (DO L 303 de 28.11.2018, p. 59). (19) Reglamento (UE) 2019/1150 del Parlamento Europeo y del Consejo, de 20 de junio de 2019, sobre el fomento de la equidad y la transparencia para los usuarios profesionales de servicios de intermediación en línea (DO L 186 de 11.7.2019, p. 57).