Compartir esta página: 

  • Las normas comunitarias de seguridad y responsabilidad deben adaptarse a las nuevas aplicaciones de la IA 
  • Evitar sesgos en los algoritmos 
  • Los humanos deben mantener el control en última instancia 

La UE debe garantizar la protección de los consumidores ante la extensión del uso de la inteligencia artificial y la toma automatizada de decisiones, según el Parlamento Europeo.

La Cámara aprobó el miércoles una resolución sobre los desafíos derivados del rápido desarrollo de la inteligencia artificial (IA) y la toma automatizada de decisiones, con especial énfasis en la protección de los consumidores.

Los eurodiputados valoran el potencial innovador de las decisiones automatizadas y los nuevos servicios que posibilitan, como los asistentes virtuales y los chatbots (robots para gestionar conversaciones). No obstante, subrayan que, al interactuar con estos sistemas , los consumidores deben recibir información sobre su funcionamiento, la posibilidad de contactar con una persona con poder de decisión y sobre cómo verificar y corregir las decisiones del sistema.

Esos sistemas sólo deben utilizar conjuntos de datos no sesgados y de calidad, así como algoritmos explicables e imparciales, dice la resolución. Tienen que contar, además, con estructuras de revisión para remediar posibles errores en las decisiones automatizadas y los consumidores han de disponer de mecanismos para solicitar la revisión y rectificación humanas de aquellas decisiones automatizadas que sean definitivas y permanentes.

“Las personas deben ser las responsables en última instancia y poder revocar las decisiones tomadas en el contexto de servicios profesionales como los de carácter médico, jurídico o contable, así como en el sector bancario”, recalcan los eurodiputados.

El Parlamento reclama un plan de evaluación de los riesgos asociados a la IA y la toma automatizada de decisiones y un enfoque común en la UE para aprovechar los beneficios de esos procesos y mitigar los riesgos.

Ajustar las normas de seguridad y responsabilidad a las nuevas tecnologías

Los eurodiputados piden a la Comisión que presente propuestas para adaptar las normas comunitarias sobre seguridad de los productos (por ejemplo, las directivas sobre la seguridad de maquinaria y juguetes) y garantizar que los consumidores estén adecuadamente informados sobre cómo utilizar esos productos y protegerles contra posibles daños, al tiempo que se clarifican las obligaciones de los fabricantes.

La directiva sobre responsabilidad en caso de productos defectuosos, adoptada hace más de treinta años, también necesita ser revisada, en particular la definición de “producto”, “daños” y “defectos”, así como las normas en materia de carga de la prueba, agrega la resolución.

Precios diferenciados y discriminación

Según la legislación de la UE, los comerciantes deben informar a los consumidores cuando el precio de los bienes o servicios se ha personalizado sobre la base de una decisión automatizada y el perfil del comportamiento de los consumidores, recuerdan los diputados, que instan a la Comisión a vigilar la aplicación de esa norma.

La UE también debe garantizar que las decisiones automatizadas no sirven para discriminar a los consumidores en función de su nacionalidad, lugar de residencia o ubicación temporal.

Próximos pasos

La resolución, aprobada a mano alzada, se transmitirá al Consejo de la UE (Estados miembros) y a la Comisión, para que tengan en cuenta el punto de vista de los diputados en lo relativo a la inteligencia artificial y la toma automatizada de decisiones. La Comisión prevé presentar su estrategia para para un enfoque europeo de la IA el próximo 19 de febrero.