INFORME sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual

19.4.2021 - (2020/2017(INI))

Comisión de Cultura y Educación
Ponente: Sabine Verheyen 
Ponente de opinión (*):
Ondřej Kovařík, Comisión de Libertades Civiles, Justicia y Asuntos de Interior
(*) Comisión asociada – artículo 57 del Reglamento interno

Procedimiento : 2020/2017(INI)
Ciclo de vida en sesión
Ciclo relativo al documento :  
A9-0127/2021
Textos presentados :
A9-0127/2021
Votaciones :
Textos aprobados :

PROPUESTA DE RESOLUCIÓN DEL PARLAMENTO EUROPEO

sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual

(2020/2017(INI))

El Parlamento Europeo,

 Vista la Carta de los Derechos Fundamentales de la Unión Europea,

 Vistos los artículos 165, 166 y 167 del Tratado de Funcionamiento de la Unión Europea,

 Vistas las Conclusiones del Consejo, de 9 de junio de 2020, sobre la configuración del futuro digital de Europa[1],

 Visto el Dictamen del Comité Económico y Social Europeo, de 19 de septiembre de 2018, titulado «La brecha digital de género»[2],

 Vista la propuesta de la Comisión de Reglamento del Parlamento Europeo y del Consejo, de 6 de junio de 2018, por el que se establece el programa Europa Digital para el período 2021-2027 (COM(2018)0434),

 Vista la Comunicación de la Comisión, de 30 de septiembre de 2020, titulada «Plan de Acción de Educación Digital 2021-2027 - Adaptar la educación y la formación a la era digital» (COM(2020)0624),

 Vista la Comunicación de la Comisión, de 30 de septiembre de 2020, relativa a la consecución del Espacio Europeo de Educación de aquí a 2025 (COM(2020)0625),

 Visto el informe de la Comisión, de 19 de febrero de 2020, sobre las repercusiones en materia de seguridad y responsabilidad civil de la inteligencia artificial, el internet de las cosas y la robótica (COM(2020)0064),

 Visto el Libro Blanco de la Comisión, de 19 de febrero de 2020, titulado «Inteligencia artificial – Un enfoque europeo orientado a la excelencia y la confianza» (COM(2020)0065),

 Vista la Comunicación de la Comisión, de 19 de febrero de 2020, titulada «Una Estrategia Europea de Datos» (COM(2020)0066),

 Vista la Comunicación de la Comisión, de 25 de abril de 2018, titulada «Inteligencia artificial para Europa» (COM(2018)0237),

 Vista la Comunicación de la Comisión, de 17 de enero de 2018, sobre el Plan de Acción de Educación Digital (COM(2018)0022),

 Visto el informe del Grupo de expertos de alto nivel sobre inteligencia artificial de la Comisión, de 8 de abril de 2019, titulado «Directrices éticas para una IA fiable»,

 Vista su Resolución, de 12 de febrero de 2019, sobre una política industrial global europea en materia de inteligencia artificial y robótica[3],

 Vista su Resolución, de 11 de septiembre de 2018, sobre la igualdad lingüística en la era digital[4],

 Vista su Resolución, de 12 de junio de 2018, sobre la modernización de la educación en la Unión[5],

 Vista su Resolución, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica[6],

 Vista su Resolución, de 1 de junio de 2017, sobre la digitalización de la industria europea[7],

 Visto el informe de su Departamento Temático de Políticas Estructurales y de Cohesión, de mayo de 2020, sobre el uso de la inteligencia artificial en los sectores cultural y creativo,

 Visto el análisis exhaustivo de su Departamento Temático de Políticas Estructurales y de Cohesión, de mayo de 2020, sobre el uso de la inteligencia artificial en el sector audiovisual,

 Visto el estudio de su Departamento Temático de Derechos de los Ciudadanos y Asuntos Constitucionales, de abril de 2020, titulado «La educación y el empleo de las mujeres en la ciencia, la tecnología y la economía digital, incluida la inteligencia artificial y su influencia en la igualdad de género»,

 Visto el artículo 54 de su Reglamento interno,

 Vistos los dictámenes de la Comisión de Libertades Civiles, Justicia y Asuntos de Interior, la Comisión de Mercado Interior y Protección del Consumidor, la Comisión de Asuntos Jurídicos y la Comisión de Derechos de las Mujeres e Igualdad de Género,

 Visto el informe de la Comisión de Cultura y Educación (A9-0127/2021),

A. Considerando que las tecnologías de inteligencia artificial (IA), que pueden repercutir directamente en nuestras sociedades, se están desarrollando a un ritmo acelerado y que se utilizan cada vez más en casi todos los ámbitos de nuestra vida, incluidos los sectores educativo, cultural y audiovisual; que es probable que la IA ayude a mejorar la productividad laboral y a acelerar el crecimiento económico;

B. Considerando que el desarrollo, la implantación y la utilización de la IA, incluidos los programas informáticos, los algoritmos y los datos utilizados y producidos por esta, deben guiarse por los principios éticos de transparencia, explicabilidad, equidad, rendición de cuentas y responsabilidad;

C. Considerando que la inversión pública en IA en la Unión ha estado muy por debajo de la de otras grandes economías; que la inversión insuficiente en IA probablemente ejercerá un impacto en la competitividad de la Unión en todos los sectores;

D. Considerando que un enfoque integrado de la IA, así como la disponibilidad, la recopilación y la interpretación de datos de alta calidad, fiables, justos, transparentes, solventes, seguros y compatibles son esenciales para el desarrollo de una IA ética;

E. Considerando que el artículo 21 de la Carta de los Derechos Fundamentales de la Unión Europea prohíbe la discriminación por una amplia gama de motivos; que no deben reproducirse múltiples formas de discriminación en el desarrollo, la implantación y la utilización de los sistemas de IA;

F. Considerando que la igualdad de género es un principio fundamental de la Unión, consagrado en los Tratados, que debe reflejarse en todas sus políticas, incluidos los sectores educativo, cultural y audiovisual, así como en el desarrollo de tecnologías como la IA;

G. Considerando que las experiencias pasadas, especialmente en los ámbitos técnicos, han demostrado que los avances y las innovaciones a menudo se basan principalmente en datos masculinos y que las necesidades de las mujeres no se reflejan plenamente; que hacer frente a esos sesgos exige una mayor vigilancia, soluciones técnicas y el desarrollo de unos requisitos claros de equidad, rendición de cuentas y transparencia;

H. Considerando que unos conjuntos de datos incompletos e inexactos, la falta de datos desglosados por sexo y unos algoritmos incorrectos pueden distorsionar el procesamiento de un sistema de IA, y poner en peligro la consecución de la igualdad de género en la sociedad; que los datos sobre colectivos desfavorecidos y formas de discriminación intersectoriales suelen ser incompletos o incluso inexistentes;

I. Considerando que las desigualdades de género, los estereotipos y la discriminación también se pueden crear y reproducir mediante el lenguaje y las imágenes difundidas a través de los medios de comunicación y las aplicaciones basadas en la IA; que la educación, los programas culturales y los contenidos audiovisuales tienen una influencia considerable en la formación de las creencias y los valores de las personas y son una herramienta fundamental para luchar contra los estereotipos de género, reducir la brecha digital de género y establecer modelos de referencia sólidos; que debe establecerse un marco ético y reglamentario antes de aplicar soluciones automatizadas para estos ámbitos clave de la sociedad;

J. Considerando que la ciencia y la innovación pueden aportar beneficios transformadores para la vida, especialmente para las personas más rezagadas, como por ejemplo las mujeres y las niñas residentes en regiones remotas; que la educación científica es importante para adquirir competencias, un trabajo digno y empleos del futuro, así como para romper con los estereotipos de género que la consideran un ámbito típicamente masculino; que la ciencia y el pensamiento científico son esenciales para la cultura democrática, lo que a su vez es clave para avanzar en la igualdad de género;

K. Considerando que una de cada diez mujeres de la Unión ya ha sufrido alguna forma de ciberviolencia desde los 15 años y que el ciberacoso sigue siendo motivo de preocupación en el desarrollo de la IA, también en el ámbito de la educación; que la ciberviolencia se dirige con frecuencia a las mujeres en la vida pública, como por ejemplo las activistas, las políticas y otras figuras públicas; que la IA y otras tecnologías emergentes pueden desempeñar un importante papel en la prevención de la ciberviolencia contra las mujeres y las niñas, así como en la educación de las personas;

L. Considerando que la Unión y sus Estados miembros tienen la responsabilidad particular de aprovechar, promover y aumentar el valor añadido de las tecnologías de IA, y de asegurarse de que dichas tecnologías sean seguras y atiendan al bienestar y al interés general de los europeos; que estas tecnologías pueden contribuir enormemente a lograr nuestro objetivo común de mejorar la vida de nuestros ciudadanos y fomentar la prosperidad en la Unión, favoreciendo el desarrollo de mejores estrategias e innovación en una serie de ámbitos, en particular en los sectores educativo, cultural y audiovisual;

M. Considerando que la mayoría de la IA está basada en software de código abierto, lo que significa que los códigos fuente pueden ser inspeccionados, modificados y reforzados;

N. Considerando que puede ser necesario introducir determinados ajustes en los actos normativos específicos de la Unión existentes para reflejar la transformación digital y hacer frente a los nuevos desafíos que plantea el uso de las tecnologías de IA en la educación, la cultura y el sector audiovisual, como la protección de los datos personales y la privacidad y contra la discriminación, la promoción de la igualdad de género, el respeto de los derechos de propiedad intelectual, la protección del medio ambiente y los derechos de los consumidores;

O. Considerando que es importante proporcionar acceso a los datos al sector audiovisual desde las plataformas mundiales y los principales agentes para garantizar la igualdad de condiciones;

P. Considerando que la IA y las futuras aplicaciones o inventos realizados con la ayuda de esta pueden tener una doble naturaleza, al igual que sucede con cualquier otra tecnología; considerando que la IA y las tecnologías conexas plantean numerosas dudas en cuanto a la ética y la transparencia de su desarrollo, implantación y utilización, sobre todo con respecto a la recopilación, la utilización y la difusión de datos; que los beneficios y riesgos de las tecnologías de IA en la educación, la cultura y el sector audiovisual se deben evaluar con minuciosidad y sus efectos en todos los aspectos de la sociedad deben analizarse de forma exhaustiva y continua, sin socavar su potencial;

Q. Considerando que la educación tiene como objetivo desarrollar el potencial humano, la creatividad y el auténtico cambio social, mientras que un uso incorrecto de los sistemas de IA basados en datos puede obstaculizar el desarrollo humano y social;

R. Considerando que la educación y las oportunidades educativas son un derecho fundamental; que el desarrollo, la implantación y la utilización de tecnologías de IA en el sector educativo deben clasificarse como de alto riesgo y estar sujetas a requisitos más estrictos sobre seguridad, transparencia, equidad y responsabilidad;

S. Considerando que una conectividad generalizada de gran calidad, rapidez y seguridad, la banda ancha, unas redes de alta capacidad, unos conocimientos especializados en TI, las capacidades digitales, unos equipos e infraestructuras digitales, así como la aceptación social y un marco de políticas específicas y adaptables constituyen algunas de las condiciones previas para una implantación amplia y satisfactoria de la IA en la Unión; que es esencial que estas infraestructuras y equipos se implanten de forma equitativa en toda la Unión para hacer frente a la persistente brecha digital entre las regiones y los ciudadanos;

T. Considerando que abordar la brecha de género en las materias de ciencia, tecnología, ingeniería, artes y matemáticas constituye una necesidad absoluta para garantizar la representación equitativa y justa de toda la sociedad en el desarrollo, la implantación y la utilización de tecnologías de IA, incluidos los programas informáticos, los algoritmos y los datos utilizados y generados por ellos;

U. Considerando que es esencial garantizar que, desde una edad temprana, todos los ciudadanos de la Unión adquieran las capacidades necesarias para comprender mejor las capacidades y limitaciones de la IA, a fin de estar mejor preparados ante la creciente presencia de la IA y las tecnologías conexas en todos los aspectos de la actividad humana y poder aprovechar plenamente las oportunidades que estas ofrecen; que la adquisición generalizada de capacidades digitales en todos los segmentos de la sociedad de la Unión constituye una condición previa para lograr una transformación digital justa beneficiosa para todos;

V. Considerando que, para ello, los Estados miembros deben invertir en educación digital y mediática, equipar las escuelas con infraestructuras adecuadas y los terminales necesarios, y prestar mayor atención a la enseñanza de capacidades y competencias digitales en los planes de estudios;

W. Considerando que la IA y las tecnologías conexas pueden utilizarse para mejorar los métodos de aprendizaje y enseñanza, en concreto ayudando a los sistemas educativos a utilizar datos justos para mejorar la equidad y la calidad educativas, al tiempo que fomenta planes de estudio a medida y un mejor acceso a la educación, y mejora y automatiza determinadas tareas administrativas; que el acceso equitativo y justo a las tecnologías digitales y la conectividad de alta velocidad son necesarios para hacer que el uso de la IA sea beneficioso para el conjunto de la sociedad; que es de suma importancia garantizar que la educación digital accesible para todos, incluidas las personas de entornos desfavorecidos y las personas con discapacidad; que los resultados del aprendizaje no dependen de la tecnología en sí, sino del modo en que pueden utilizarla los profesores de manera significativa desde el punto de vista pedagógico;

X. Considerando que la IA tiene el particular potencial de ofrecer soluciones a desafíos cotidianos del sector educativo, como la individualización del aprendizaje, la supervisión de las dificultades de aprendizaje y la automatización del contenido o el conocimiento sobre un tema específico, lo que permite ofrecer una mejor formación profesional y apoyar la transición hacia una sociedad digital;

Y. Considerando que la IA podría tener aplicaciones prácticas en términos de reducción del trabajo administrativo de los educadores y las instituciones educativas y dejarles más tiempo para sus actividades principales de enseñanza y aprendizaje;

Z. Considerando que las nuevas aplicaciones basadas en la IA en la educación están facilitando el progreso en diversas disciplinas, como el aprendizaje de idiomas y las matemáticas;

AA. Considerando que las experiencias de aprendizaje personalizadas propiciadas por la IA no solo pueden contribuir a aumentar la motivación de los alumnos y permitirles alcanzar su pleno potencial, sino también disminuir las tasas de abandono escolar;

AB. Considerando que la IA puede ayudar cada vez más a que los profesores mejoren su eficacia al permitirles comprender mejor los métodos y estilos de aprendizaje de los alumnos y ayudarles a identificar las dificultades de aprendizaje y a evaluar mejor los progresos individuales;

AC. Considerando que en el mercado laboral digital de la Unión faltan casi medio millón de expertos en ciencias de los datos y análisis de datos, que forman parte del desarrollo y el uso de una IA de calidad y fiable;

AD. Considerando que la implantación de la IA en la educación suscita cierta preocupación en cuanto al uso ético de los datos, los derechos de los alumnos, el acceso a los datos y la protección de los datos personales y, por tanto, conlleva riesgos para los derechos fundamentales, como la creación de modelos estereotipados de perfiles y comportamientos de los alumnos que podrían dar lugar a discriminación o a un riesgo de provocar daños al extender malas prácticas pedagógicas;

AE. Considerando que la cultura desempeña un papel fundamental en el uso de las tecnologías de IA a gran escala y que se perfila como una disciplina clave del patrimonio cultural gracias al desarrollo de tecnologías y herramientas innovadoras, y a su aplicación eficaz, para responder a las necesidades del sector;

AF. Considerando que las tecnologías de IA se pueden utilizar para promover y proteger el patrimonio cultural, entre otras cosas mediante el uso de herramientas digitales para preservar los emplazamientos históricos, buscando formas innovadoras que permitan facilitar un acceso más amplio y sencillo a conjuntos de datos de bienes culturales en poder de las instituciones culturales del conjunto de la Unión, al tiempo que permite que los usuarios naveguen por un gran volumen de contenidos culturales y creativos; que la promoción de normas y marcos de interoperabilidad es fundamental a este respecto;

AG. Considerando que el uso de las tecnologías de IA con respecto al contenido cultural y creativo, en concreto de los medios de comunicación y las recomendaciones de contenido a medida, plantea problemas relativos a la protección de datos, la discriminación y la diversidad cultural y lingüística, y entraña el riesgo de producir productos discriminatorios basados en datos de entrada sesgados, además de que podría reducir el pluralismo de opiniones y de los medios de comunicación;

AH. Considerando que con frecuencia las recomendaciones de contenido personalizadas basadas en IA pueden ajustarse mejor a las necesidades específicas de los individuos, incluidas las preferencias culturales y lingüísticas; considerando que la IA puede contribuir a la promoción de la diversidad lingüística en la Unión y a la mejora de la difusión de las obras audiovisuales europeas, en particular mediante el subtitulado automatizado y el doblaje de contenidos audiovisuales a otros idiomas; que la elaboración del contenido de los medios de comunicación en distintas lenguas es, por tanto, fundamental para apoyar la diversidad cultural y lingüística;

AI. Considerando que la IA impulsa la innovación en las salas de redacción mediante la automatización de diversas tareas mundanas, la interpretación de datos e incluso la generación de noticias como las previsiones meteorológicas y los resultados deportivos;

AJ. Considerando que el fomento de la lingüística computacional para una IA basada en derechos a través del plurilingüismo de Europa representa un potencial de innovación específico para crear un intercambio cultural y de información global democrático y no discriminatorio en la era digital;

AK. Considerando que las tecnologías de IA podrían tener el potencial de favorecer la educación de personas con necesidades especiales, así como la accesibilidad de los contenidos culturales y creativos de las personas con discapacidad; que la IA habilita soluciones como el reconocimiento de voz, los asistentes virtuales y las representaciones digitales de objetos físicos; que las creaciones digitales ya están cumpliendo su función en la puesta a disposición de esos contenidos para las personas con discapacidad;

AL. Considerando que las aplicaciones de IA están omnipresentes en el sector audiovisual, en particular en las plataformas de contenidos audiovisuales;

AM. Considerando que las tecnologías de IA contribuyen, por lo tanto, a la creación, la planificación, la gestión, la producción, la distribución, la localización y el consumo de productos de medios audiovisuales;

AN. Considerando que aunque la IA puede utilizarse para generar contenidos falsos, como los deep fakes (falsedad profunda), que crecen exponencialmente y constituyen una amenaza inminente para la democracia, también puede utilizarse como una herramienta inestimable para identificar y combatir de forma inmediata esa actividad maliciosa, por ejemplo, mediante la comprobación de los hechos en tiempo real o el etiquetado de contenidos; que la mayoría de los materiales deep fake son fáciles de detectar; que, al mismo tiempo, las herramientas de detección operadas por IA suelen tener éxito a la hora de marcar y filtrar dichos contenidos; que no se dispone de un marco jurídico sobre esta materia;

Observaciones generales

1. Subraya la importancia estratégica de la IA y las tecnologías conexas para la Unión; destaca que el enfoque de la IA y sus tecnologías conexas deben estar centrados en el ser humano y fundamentados en los derechos humanos y la ética, de modo que la IA sea realmente un instrumento al servicio de las personas, el bien común y el interés general de los ciudadanos;

2. Subraya que el desarrollo, la implantación y la utilización de la IA en la educación, la cultura y el sector audiovisual deben respetar plenamente los derechos, las libertades y los valores fundamentales, en particular la dignidad humana, la privacidad, la protección de los datos personales, la no discriminación y la libertad de expresión e información, así como la diversidad cultural y los derechos de propiedad intelectual, consagrados en los Tratados de la Unión y la Carta de los Derechos Fundamentales;

3. Afirma que los sectores educativo, cultural y audiovisual son ámbitos sensibles por lo que respecta al uso de la IA y las tecnologías conexas, ya que pueden influir en las piedras angulares de los derechos fundamentales y los valores de nuestra sociedad; destaca, por consiguiente que en el desarrollo, la implantación y la utilización de la IA y las tecnologías conexas deben observarse los principios éticos, incluidos los programas informáticos, los algoritmos y los datos que utilizan y producen;

4. Recuerda que los algoritmos y la IA deben integrar los principios éticos desde el proceso de diseño, sin sesgos incorporados, de forma que garantice un máximo nivel de protección de los derechos fundamentales;

5. Reitera la importancia de desarrollar la IA y las tecnologías conexas para su utilización en el aprendizaje profundo de calidad, compatibles e inclusivas que respeten y defiendan los valores de la Unión, sobre todo la igualdad de género, el multilingüismo y las condiciones necesarias para el diálogo intercultural, dado que el uso de datos de baja calidad, obsoletos, incompletos o incorrectos puede dar lugar a predicciones deficientes y, a su vez, a discriminación y sesgo; destaca que es fundamental desarrollar capacidades tanto a escala nacional como de la Unión para mejorar la recopilación, la seguridad, la sistematización y la transferibilidad de los datos, sin afectar a la privacidad; toma nota de la propuesta de la Comisión de crear un espacio único europeo de datos;

6. Recuerda que la IA puede dar lugar a prejuicios y, por consiguiente, a diversas formas de discriminación por razón de sexo, raza, color, origen étnico o social, características genéticas, lengua, religión o convicciones, opinión política o de otra índole, pertenencia a una minoría nacional, patrimonio, nacimiento, discapacidad, edad u orientación sexual; recuerda, en este sentido, que deben garantizarse los derechos de todas las personas y que la IA y las tecnologías conexas no deben ser discriminatorias en modo alguno;

7. Destaca que dichos prejuicios y discriminaciones pueden derivarse de conjuntos de datos ya sesgados que reflejan la discriminación ya existente en la sociedad; recuerda, en este contexto, que es esencial que participen las partes interesadas pertinentes, incluida la sociedad civil, a fin de evitar que se incluyan inadvertidamente prejuicios de género, sociales y culturales en los algoritmos, sistemas y aplicaciones de la IA; subraya la necesidad de buscar la forma más eficaz de reducir los sesgos en los sistemas de IA con arreglo a normas éticas y no discriminatorias; subraya que los conjuntos de datos utilizados para entrenar la IA deben ser lo más amplios posible con objeto de representar a la sociedad de la manera mejor y más relevante, que es preciso revisar los resultados para evitar todo tipo de estereotipos, discriminaciones y sesgos y que, cuando proceda, debe utilizarse la IA para detectar y rectificar el sesgo humano que pueda existir; insta a la Comisión a que promueva y facilite la puesta en común de estrategias en materia de eliminación de sesgos para los datos;

8. Pide a la Comisión y a los Estados miembros que tengan en cuenta los aspectos éticos, inclusive desde una perspectiva de género, al elaborar las políticas y la legislación en materia de IA, y que, en su caso, adapten la legislación vigente, incluidos los programas de la Unión y las directrices éticas para el uso de la IA;

9. Pide a la Comisión y a los Estados miembros que elaboren medidas que incorporen plenamente la dimensión de género, como campañas de sensibilización, formación y planes de estudios, que proporcionen información a los ciudadanos sobre el funcionamiento de los algoritmos y su impacto en su vida cotidiana; les pide, además, que fomenten la igualdad de género en las mentalidades y las condiciones de trabajo que conduzcan al desarrollo de productos tecnológicos y entornos de trabajo más inclusivos; insta a la Comisión y a los Estados miembros a que velen por que se incluya la formación en capacidades digitales e IA en los planes de estudio escolares de manera accesible para todos, como una forma de cerrar la brecha digital de género;

10. Subraya que es necesario formar a los trabajadores y educadores que se ocupan de cuestiones relativas a la IA con el fin de promover la capacidad de detectar y corregir prácticas discriminatorias por razón de género en el lugar de trabajo y en el ámbito docente, así como a los trabajadores encargados de desarrollar los sistemas y aplicaciones de IA para que puedan detectar y corregir problemas de discriminación basada en el género en los sistemas y aplicaciones de IA que desarrollen; pide que se establezcan responsabilidades claras en las empresas y en los centros docentes para velar por que no se den situaciones de discriminación por motivos de género en los lugares de trabajo y en los centros docentes; subraya que, para fines educativos y culturales, han de usarse imágenes de robots y relacionadas con la IA sin género, a menos que sea importante especificar el género por alguna razón;

11. Destaca la importancia del desarrollo y el despliegue de aplicaciones de IA en la educación, la cultura y el sector audiovisual a la hora de recopilar datos desglosados por género y otros datos relacionados con la igualdad, y de aplicar técnicas modernas de aprendizaje automático para la eliminación de sesgos, en caso necesario, a fin de corregir los estereotipos de género y los sesgos de género susceptibles de tener efectos negativos;

12. Pide a la Comisión que incluya la educación en el marco regulador de las aplicaciones de IA de alto riesgo, habida cuenta de la importancia de garantizar que la educación siga contribuyendo al interés público y del carácter extremadamente delicado de los datos de los alumnos de centros escolares, los estudiantes universitarios u otras personas en formación; hace hincapié en que esta introducción en el ámbito de la educación debe contar con la participación de educadores, de alumnos y de la sociedad en su conjunto, y ha de tener en cuenta las necesidades de todos y los beneficios esperados, a fin de garantizar que la IA se utilice de forma consciente y ética;

13. Pide a la Comisión que fomente el uso de programas de la Unión tales como Horizonte Europa, Europa Digital y Erasmus+, de cara a la promoción de la investigación multidisciplinar, de proyectos piloto y de experimentos, así como del desarrollo de herramientas, también de formación, para la determinación de los sesgos de género en la IA, y de campañas de sensibilización destinadas al público en general;

14. Hace hincapié en la necesidad de crear diversos equipos de desarrolladores e ingenieros que trabajen conjuntamente con los principales agentes de la educación, la cultura y el sector audiovisual, a fin de evitar que se incluyan involuntariamente sesgos culturales o de género en los algoritmos, los sistemas y las aplicaciones de la IA; destaca la necesidad de considerar la variedad de diferentes teorías a través de las cuales se ha desarrollado la IA hasta la fecha y que podrían seguir avanzando en el futuro;

15. Señala que la debida diligencia encaminada a eliminar los sesgos y la discriminación contra determinados colectivos, incluidos los estereotipos de género, no debe poner freno al progreso tecnológico;

16. Reitera la importancia de los derechos fundamentales y de la supremacía global de la legislación en materia de protección de datos y de la privacidad, imprescindible a la hora de usar dichas tecnologías; recuerda que la protección de datos y la privacidad pueden verse especialmente afectadas por la IA, en especial los datos de niños; destaca que los principios establecidos en el Reglamento general de protección de datos (RGPD)[8] son vinculantes para la implantación de la IA en este sentido; recuerda, además, que todas las aplicaciones de la IA deben respetar plenamente la legislación de la Unión en materia de protección de datos, en particular el RGPD y la Directiva sobre la privacidad y las comunicaciones electrónicas[9]; destaca el derecho a obtener intervención humana cuando se utilizan la IA y las tecnologías conexas;

17. Pide a la Comisión y a los Estados miembros que impongan una obligación de transparencia y de explicabilidad a las decisiones individuales automatizadas basadas en la IA que se hayan adoptado en el marco de las prerrogativas de los poderes públicos, y que apliquen sanciones para su cumplimiento; pide la aplicación de sistemas que utilicen la verificación y la intervención humanas por defecto, así como el respeto de las garantías procesales, incluidos el derecho de recurso y de compensación, así como el acceso a vías de reparación;

18. Señala el impacto potencialmente negativo de la publicidad personalizada, en particular de la publicidad microsegmentada y comportamental, y del análisis de individuos, especialmente menores, sin su consentimiento, pues se inmiscuyen en la vida privada de las personas e interrogan sobre la recopilación y el uso de datos para personalizar la publicidad y ofrecer productos o servicios o fijar precios; pide por tanto a la Comisión que introduzca estrictas limitaciones en materia de publicidad dirigida basada en la recogida de datos personales, empezando por prohibir la publicidad comportamental en distintas plataformas, sin perjudicar a las pequeñas y medianas empresas (pymes); recuerda que, en la actualidad, la Directiva sobre la privacidad y las comunicaciones electrónicas solo permite la publicidad dirigida si el usuario la ha autorizado de forma expresa, pues de lo contrario la considera ilegal; pide a la Comisión que prohíba el uso de prácticas discriminatorias en relación con la prestación de servicios o productos;

19. Destaca la necesidad de que las organizaciones de medios de comunicación estén informadas de los principales parámetros de los sistemas de IA basados en algoritmos que determinan los resultados de la clasificación y las búsquedas en plataformas de terceros, y de que los usuarios estén informados del uso de la IA en los servicios de toma de decisiones y estén facultados para establecer sus parámetros de privacidad a través de medidas transparentes y comprensibles;

20. Destaca que la IA puede apoyar la creación de contenidos en los sectores educativo, cultural y audiovisual, junto con plataformas educativas y de información, incluidas listas de diferentes tipos de bienes culturales y múltiples fuentes de datos; advierte del riesgo de vulneración de los derechos de propiedad intelectual al combinar la IA y diferentes tecnologías con múltiples fuentes (documentos, fotos, películas) con objeto de mejorar el modo en que se muestran, buscan y visualizan los datos; pide que se utilice la IA para garantizar un elevado nivel de protección de los derechos de propiedad intelectual en el actual marco legislativo, por ejemplo alertando a las personas y a las empresas cuando corran el riesgo de infringir involuntariamente las normas o asistiendo a los titulares de estos derechos cuando realmente se vulneren las normas; subraya, por lo tanto, la importancia de disponer de un marco jurídico a escala de la Unión adecuado para la protección de los derechos de propiedad intelectual en relación con el uso de la IA;

21. Destaca la necesidad de alcanzar un equilibrio entre el desarrollo de sistemas de IA y su utilización en la educación, la cultura y el sector audiovisual, por una parte, y la medidas de protección de la competencia y de la competitividad del mercado para todas las empresas de IA en estos sectores, por otra; destaca, a este respecto, la necesidad de alentar a las empresas a invertir en la innovación de los sistemas de IA empleados en esos sectores, evitando también que las empresas que suministran estas aplicaciones obtengan un monopolio de mercado; subraya la necesidad de que la IA se ponga a disposición de los sectores y las industrias culturales y creativos en toda Europa a fin de mantener la igualdad de condiciones y una competencia leal para todas las partes interesadas y agentes de Europa; pide a la Comisión y a los Estados miembros que, a la hora de adoptar decisiones en materia de competencia, incluidas las fusiones, presten mayor atención al papel de los datos y los algoritmos en la concentración del poder de mercado;

22. Subraya la necesidad de abordar de forma sistemática las cuestiones sociales, éticas y jurídicas que plantean el desarrollo, la implantación y la utilización de la IA, como la transparencia y la asunción de responsabilidades con respecto a los algoritmos, la no discriminación, la igualdad de oportunidades, la libertad de expresión, la diversidad de opiniones y el pluralismo de los medios de comunicación, así como la propiedad de los datos y contenidos y la recopilación, el uso y la difusión de los datos; recomienda que se elaboren unas directrices y normas europeas comunes que protejan la privacidad, al tiempo que se hace un uso eficaz de los datos disponibles; pide transparencia en el desarrollo y la asunción de responsabilidades en el uso de los algoritmos;

23. Pide a la Comisión que presente un marco normativo integral con el objetivo de regular horizontalmente las aplicaciones de IA y que lo complemente con normas específicas sectoriales, por ejemplo, para los servicios de comunicación audiovisual;

24. Destaca la necesidad de inversiones en investigación e innovación sobre el desarrollo, la implantación y la utilización de la IA y sus aplicaciones en la educación, la cultura y el sector audiovisual; destaca la importancia de la inversión pública en esos servicios y el valor añadido complementario que proporcionan las asociaciones público-privadas para lograr este objetivo y desplegar todo el potencial de la IA en estos sectores, en especial en la educación, habida cuenta del importante volumen de inversiones privadas realizadas en los últimos años; pide a la Comisión que encuentre financiación adicional para fomentar la investigación y la innovación en las aplicaciones de IA en estos sectores;

25. Subraya que los sistemas algorítmicos pueden permitir una rápida reducción de la brecha digital, pero es posible que su implementación desigual amenace con crear nuevas brechas o con acelerar el agravamiento de las ya existentes; manifiesta su preocupación por que los conocimientos y las infraestructuras no se desarrollen de forma coherente en toda la Unión, lo cual limita la accesibilidad a los productos y servicios que se basan en la IA, en particular en zonas escasamente pobladas y socioeconómicamente vulnerables; pide a la Comisión que garantice la cohesión en el reparto de beneficios de la IA y las tecnologías conexas;

26. Pide a la Comisión que establezca requisitos aplicables a la adquisición y la implementación de la IA y las tecnologías conexas por parte de organismos del sector público de la Unión, a fin de asegurar el respeto de la legislación de la Unión y de los derechos fundamentales; destaca el valor añadido de emplear instrumentos como las consultas públicas y las evaluaciones de impacto, que deben realizarse antes de la adquisición o la implementación de sistemas de IA, tal como se recomienda en el informe del relator especial a la Asamblea General de las Naciones Unidas sobre la IA y su impacto en la libertad de opinión y expresión[10]; alienta a las autoridades públicas a incentivar su desarrollo e implantación mediante la financiación y la contratación públicas de la IA; resalta la necesidad de reforzar el mercado ofreciendo a las pymes la oportunidad de participar en la contratación pública de aplicaciones de IA, con el fin de garantizar la participación de empresas tecnológicas de todos los tamaños y asegurar así la resiliencia y la competencia;

27. Pide que se lleven a cabo auditorías independientes con regularidad para determinar si las aplicaciones de IA utilizadas y los sistemas de controles y equilibrios correspondientes se ajustan a criterios definidos, y que dichas auditorías sean examinadas por autoridades de supervisión independientes y suficientes; pide que se realicen pruebas de resistencia específicas para facilitar y garantizar el cumplimiento de las normas;

28. Toma nota de los beneficios y los riesgos de la IA en el ámbito de la ciberseguridad y de su potencial de lucha contra la ciberdelincuencia, y hace hincapié en que las soluciones de IA tienen que ser resistentes a los ciberataques dentro del respeto de los derechos fundamentales de la Unión, especialmente la protección de los datos personales y la privacidad; destaca la importancia de supervisar el uso seguro de la IA y la necesidad de una estrecha colaboración entre los sectores público y privado para contrarrestar las vulnerabilidades de los usuarios y los riesgos resultantes; pide a la Comisión que evalúe la necesidad de una mejor prevención en lo que respecta a la ciberseguridad y las medidas de mitigación de riesgos asociados;

29. Destaca que la crisis de la pandemia de COVID-19 puede ser considerada como un periodo de prueba para el desarrollo, la implantación y la utilización de tecnologías digitales y tecnologías relacionadas con la IA en la educación y la cultura, como han demostrado las numerosas plataformas de enseñanza a distancia y herramientas en línea destinadas a la promoción cultural utilizadas en todos los Estados miembros; pide, por lo tanto, a la Comisión que haga balance de estas experiencias a la hora de considerar un enfoque común de la Unión con respecto al creciente uso de dichas soluciones tecnológicas;

Educación

30. Recuerda la importancia de reforzar las capacidades digitales y lograr un alto nivel de alfabetización mediática, digital e informativa en el conjunto de la Unión como requisito previo para el uso de la IA en la educación; subraya, en este sentido, la necesidad de velar por una alfabetización digital y en materia de IA en toda la Unión, en particular mediante la creación de oportunidades de formación para los profesores; insiste en que la utilización de las tecnologías de IA en las escuelas debe ayudar a reducir la brecha digital social y regional; celebra el Plan de Acción de Educación Digital actualizado de la Comisión, que aborda la utilización de la IA en la educación; pide a la Comisión, a este respecto, que convierta las capacidades digitales, la formación y la alfabetización mediática y las capacidades relacionadas con la IA en las prioridades de este plan, al tiempo que sensibiliza sobre los posibles usos indebidos y el mal funcionamiento de la IA; pide asimismo a la Comisión, a este respecto, que preste especial atención a los niños y jóvenes en situaciones precarias, que requieren un apoyo especial en el ámbito de la educación digital; insta a la Comisión a que aborde adecuadamente las iniciativas sobre la IA y la robótica en la educación en sus próximas propuestas legislativas sobre IA; insta a los Estados miembros a que inviertan en los equipos digitales de las escuelas, utilizando para este fin los fondos de la Unión;

31. Destaca que el uso de la IA en los sistemas educativos aporta un amplio abanico de posibilidades, oportunidades y herramientas para hacerla más innovadora, inclusiva, eficiente y cada vez más eficaz, introduciendo nuevos métodos de aprendizaje de alta calidad que son rápidos, personalizados y centrados en el estudiante; subraya, sin embargo, que, dado que repercutirá en la educación y la inclusión social, debe garantizarse la disponibilidad de esos instrumentos para todos los grupos sociales, estableciendo la igualdad de acceso a la educación y el aprendizaje sin dejar a nadie atrás, especialmente a las personas con discapacidad;

32. Subraya que para involucrarse con la IA de manera crítica y efectiva, los ciudadanos necesitan al menos una comprensión básica de esta tecnología; pide a los Estados miembros que integren campañas de sensibilización sobre la IA en sus actividades relativas a la alfabetización digital; pide a la Comisión y a los Estados miembros que promuevan planes de alfabetización digital y foros de debate para que los ciudadanos, los padres y los alumnos participen en un diálogo democrático con las autoridades públicas y las partes interesadas sobre el desarrollo, la implantación y la utilización de las tecnologías de IA en los sistemas educativos; subraya la importancia de poner a disposición de educadores y formadores, entre otros, los instrumentos y conocimientos especializados adecuados por lo que respecta a la IA y las tecnologías conexas para que sepan en qué consisten, cómo se usan y cómo se emplean correctamente y con arreglo a Derecho, a fin de evitar infracciones de los derechos de propiedad intelectual; pone de relieve, en particular, la importancia de la alfabetización digital para las personas que trabajan en los sectores de la educación y la formación, así como de la mejora de la formación digital para las personas de edad avanzada, teniendo presente que las generaciones más jóvenes ya tienen nociones básicas de estas tecnologías, puesto que han crecido con ellas;

33. Destaca que el verdadero objetivo de la IA en nuestros sistemas educativos ha de ser lograr una educación lo más individualizada posible, ofertando al alumno itinerarios académicos personalizados según sus fortalezas y debilidades y ofreciéndole materiales didácticos ajustados a sus características, al tiempo que se mantiene la calidad educativa y el principio integrador de nuestros sistemas educativos;

34. Recuerda el papel fundamental y polifacético que desempeñan los docentes en la educación y para hacerla inclusiva, en especial durante la primera infancia, en la que se adquieren las capacidades que permitirán avanzar a los alumnos a lo largo de sus vidas, como las relaciones personales, las capacidades de estudio, la empatía y el trabajo cooperativo; destaca, por consiguiente que no pueden emplearse las tecnologías de IA en detrimento o a expensas de la educación presencial, ya que los profesores no deben ser sustituidos por la IA o por tecnologías conexas;

35. Subraya que los beneficios del aprendizaje derivados del uso de la IA en la educación no solo dependerán de la propia IA, sino de la manera en que los docentes la utilicen en el entorno de aprendizaje digital para hacer frente tanto a sus necesidades como a las de los estudiantes y alumnos; señala, por tanto, la necesidad de que los programadores de IA impliquen a las comunidades docentes en el desarrollo, la implantación y la utilización de tecnologías de IA siempre que sea posible, creando un entorno de unión para dar lugar a conexiones y a cooperación entre los programadores de IA, los desarrolladores, las empresas, las escuelas, los docentes y otros interesados públicos y privados para crear tecnologías de IA que sean adecuadas para entornos educativos de la vida real, reflejen la edad y la preparación evolutiva de cada alumno y cumplan las normas éticas más estrictas; destaca que las instituciones educativas deben implantar únicamente tecnologías fiables, éticas y centradas en el ser humano, que puedan ser auditadas en todas las etapas de su ciclo de vida por las autoridades públicas y la sociedad civil; destaca en este sentido las ventajas de las soluciones gratuitas y de código abierto; pide que se dote de apoyo financiero y logístico, así como de los conocimientos especializados necesarios, a las escuelas y otros centros docentes a fin de introducir soluciones para el aprendizaje del futuro;

36. Destaca, además, la necesidad de formar constantemente a los docentes para que se adapten a la realidad de la educación basada en la IA y adquieran las capacidades y los conocimientos necesarios para utilizar las tecnologías de IA de un modo pedagógico y significativo, lo que les permite adoptar plenamente las posibilidades que esta ofrece y comprender sus limitaciones; pide que, en el futuro, la enseñanza digital forme parte de la formación de todos los docentes y que tanto el personal docente como las personas que trabajan en la educación y la formación tengan la posibilidad de formarse de forma continua a lo largo de toda su vida en el ámbito de la enseñanza digital; pide, por lo tanto, que se desarrollen programas de formación en materia de IA para profesores en todos los campos y en toda Europa; destaca, además, la importancia de reformar los programas de enseñanza dirigidos a las nuevas generaciones de docentes para permitirles adaptarse a la realidad de la educación basada en la IA, así como la importancia de elaborar y actualizar los manuales y las directrices sobre IA para docentes;

37. Manifiesta su preocupación por la falta de programas de educación superior específicos para la IA, así como la falta de financiación pública para la IA, en todos los Estados miembros; cree que esto hace peligrar las ambiciones relacionadas con el futuro digital de Europa;

38. Manifiesta su preocupación por el hecho de que pocos investigadores en IA siguen una trayectoria académica debido a que las empresas tecnológicas pueden ofrecer mejores salarios y menos burocracia para la investigación; cree que parte de la solución consistiría en destinar más dinero público a la investigación en IA en las universidades;

39. Subraya la importancia de la enseñanza de capacidades digitales generales desde la infancia para subsanar el déficit en materia de competencias y lograr una mejor integración de determinados sectores de la población en el mercado de trabajo digital y la sociedad digital; señala la importancia cada vez mayor de formar a profesionales altamente cualificados de todos los campos en el ámbito de la IA, de garantizar el reconocimiento mutuo de estas cualificaciones en toda la Unión, y de mejorar las capacidades actuales y futuras de la fuerza laboral para que pueda afrontar la realidad futura del mercado laboral; anima, por lo tanto, a los Estados miembros a que evalúen su oferta educativa y la mejoren con capacidades relativas a la IA, cuando sea necesario, y pongan en marcha planes de estudios específicos para desarrolladores de IA, al tiempo que también incluyen la IA en los planes de estudios tradicionales; subraya la necesidad de garantizar el reconocimiento mutuo de las cualificaciones profesionales sobre capacidades de IA en toda la Unión, dado que varios Estados miembros están modernizando su oferta educativa con capacidades relativas a la IA y poniendo en práctica planes de estudios específicos para desarrolladores de IA; acoge con agrado los esfuerzos de la Comisión para incluir las capacidades digitales como uno de los requisitos de cualificaciones de determinadas profesiones armonizadas a nivel de la Unión en virtud de la Directiva relativa al reconocimiento de cualificaciones profesionales[11]; pone de relieve la necesidad de que estos planes estén en consonancia con la lista de evaluación de las directrices éticas para una IA fiable y se felicita por la propuesta de la Comisión de transformar esta lista en un plan de estudios indicativo para los desarrolladores de IA; recuerda las necesidades especiales de la educación y formación profesionales (EFP) respecto a la IA y pide que se adopte un enfoque de colaboración en toda Europa con miras a aumentar el potencial que ofrece la IA en la EFP; destaca la importancia de formar a profesionales altamente cualificados en este ámbito, incluyendo aspectos éticos en los planes de estudios, y de apoyar a los grupos insuficientemente representados en este campo, así como de crear incentivos para aquellos profesionales que busquen empleo en la Unión; recuerda que las mujeres están insuficientemente representadas en la IA y que esto puede crear desequilibrios de género significativos en el futuro mercado laboral;

40. Destaca la necesidad de que los gobiernos y las instituciones educativas se replanteen, reformulen y adapten sus planes de estudios a las necesidades del siglo XXI ideando programas educativos que hacen un mayor énfasis en la ciencia, la tecnología, la ingeniería, las artes y las matemáticas, a fin de preparar a los alumnos y los consumidores de cara a una mayor prevalencia de la IA y facilitar la adquisición de capacidades cognitivas; subraya, en este sentido, la importancia de diversificar este sector y de animar a los estudiantes, en particular a las mujeres y las niñas, a matricularse en los cursos de ciencia, tecnología, ingeniería, artes y matemáticas, especialmente en relación con la robótica y la IA; pide más recursos financieros y científicos para motivar a las personas cualificadas a permanecer en la Unión, al tiempo que se atrae a este tipo de personas de terceros países; observa, asimismo, el número considerable de empresas emergentes que trabajan con IA y desarrollan tecnologías de IA; hace hincapié en que las pymes necesitarán apoyo adicional y formación relacionada con la IA para cumplir con la normativa digital y en materia de IA;

41. Señala que la automatización y el desarrollo de la IA podrían transformar de forma drástica e irreversible el empleo; reafirma que debe darse prioridad a adaptar las capacidades a las necesidades del mercado laboral del futuro, en especial en la educación y los sectores y las industrias culturales y creativos; destaca, en este contexto, la necesidad de mejorar las capacidades de la futura fuerza laboral; destaca, además, la importancia de implementar la IA para el reciclaje y el perfeccionamiento profesionales del mercado laboral europeo en los sectores y las industrias culturales y creativos, en particular en el sector audiovisual, que ya se ha visto gravemente afectado por la crisis de la COVID-19;

42. Pide a la Comisión que evalúe el nivel de riesgo de la introducción de la IA en el sector educativo, a fin de determinar si las aplicaciones de IA en dicho sector deben incluirse en el marco regulador de alto riesgo y con arreglo a requisitos más estrictos sobre la seguridad, la transparencia, la equidad y la responsabilidad, habida cuenta de la importancia de garantizar que la educación siga contribuyendo al interés público y del carácter extremadamente delicado de los datos de los alumnos, los estudiantes u otras personas en formación; subraya que es preciso revisar los conjuntos de datos utilizados para entrenar la IA a fin de evitar que se afiancen ciertos estereotipos y otros tipos de sesgos;

43. Pide a la Comisión que proponga un marco jurídico con perspectivas de futuro por el que se rija la IA, a fin de establecer medidas y normas éticas jurídicamente vinculantes para garantizar los derechos y las libertades fundamentales, y asegurar el desarrollo de aplicaciones de IA fiables, éticas y técnicamente sólidas, incluidas herramientas, servicios y productos digitales integrados, como la robótica y el aprendizaje automático, con especial consideración por la educación; pide que los datos utilizados y producidos por las aplicaciones de IA en la educación sean accesibles, interoperables y de alta calidad, y que se compartan con las autoridades públicas competentes, de forma accesible y respetando la legislación sobre derechos de autor y secretos comerciales; recuerda que los niños constituyen un grupo vulnerable que merece una atención y una protección especiales; pone de relieve que, si bien la IA puede ser beneficiosa para la educación, es necesario tener en cuenta sus aspectos tecnológicos, reglamentarios y sociales, con unas garantías adecuadas y un enfoque centrado en el ser humano que garantice en última instancia que los seres humanos puedan controlar y corregir en todo momento las decisiones del sistema; señala que, en este sentido, los profesores deben controlar y supervisar cualquier implantación y uso de tecnologías de IA en escuelas y universidades, cuando interactúen con alumnos y estudiantes; recuerda que los sistemas de IA no deben tomar ninguna decisión final que podría afectar a las oportunidades educativas, como la evaluación final de los alumnos, sin una completa supervisión humana; recuerda que las decisiones automatizadas sobre personas físicas basadas en la elaboración de perfiles que tengan repercusiones jurídicas o similares deben estar estrictamente limitadas y siempre exigir el derecho a la intervención humana y a una explicación de conformidad con el RGPD; subraya que este extremo debe cumplirse estrictamente, en particular en el sistema educativo, cuando se toman decisiones relacionadas con las oportunidades y posibilidades futuras;

44. Expresa una viva preocupación ante el hecho de que las escuelas y otros proveedores de servicios de educación sean cada vez más dependientes de los servicios de tecnología educativa, incluidas aplicaciones de IA, que ofrecen unas pocas empresas privadas que dominan el mercado; considera que esta situación debe examinarse atendiendo a las normativas de la Unión en materia de competencia; destaca la importancia, en este sentido, de apoyar la incorporación de la IA por parte de las pymes en los sectores educativo, cultural y audiovisual a través de unos incentivos adecuados que creen unas condiciones de competencia equitativas; pide, en este contexto, que se invierta en las empresas informáticas europeas con miras a desarrollar las tecnologías necesarias en la Unión, habida cuenta de que las principales empresas que actualmente ofrecen IA están establecidas fuera de la Unión; recuerda con firmeza que los datos de menores están estrictamente protegidos por el RGPD, y que solo pueden tratarse si son completamente anónimos o si el titular de la responsabilidad parental ha dado su consentimiento, en estricto cumplimiento de los principios de minimización de datos y de limitación de finalidad; pide, por lo tanto, una protección y garantías más sólidas en el sector educativo por lo que respecta a los datos de niños y solicita a la Comisión que adopte medidas más eficaces en este sentido; pide que se facilite información clara a los niños y a sus padres sobre el posible uso y tratamiento de los datos de los niños, también a través de campañas de sensibilización e información;

45. Destaca los riesgos específicos que plantea el uso de las aplicaciones de reconocimiento automatizado basadas en la IA, que se están desarrollando a buen ritmo; recuerda que los niños constituyen un grupo especialmente sensible; recomienda a la Comisión y a los Estados miembros que prohíban la identificación biométrica automatizada, como el reconocimiento facial con fines educativos y culturales, en los centros educativos y culturales, a menos que su uso esté autorizado por la ley;

46. Subraya la necesidad de aumentar las posibilidades de elección del cliente, de estimular la competencia y de ampliar la gama de servicios que ofrecen las tecnologías de IA con fines educativos; alienta, en este sentido, a las autoridades públicas a incentivar su desarrollo e implantación de tecnologías de IA mediante la financiación y la contratación públicas; considera que las tecnologías utilizadas por proveedores de servicios de educación públicos o adquiridas con financiación pública deben basarse en tecnologías de código abierto;

47. Observa que la innovación en la educación está atrasada, como ha puesto de relieve la pandemia de COVID-19 y el consiguiente cambio a la enseñanza en línea y a distancia; destaca que las herramientas educativas basadas en la IA, como las de evaluación y detección de dificultades de aprendizaje, pueden mejorar la calidad y la eficacia del aprendizaje en línea;

48. Destaca que la cobertura de internet y la infraestructura digital de nueva generación revisten una importancia estratégica para ofrecer una educación basada en la IA a los ciudadanos europeos; pide a la Comisión, a la luz de la crisis de la COVID-19, que elabore una estrategia para una 5G europea que garantice la resiliencia estratégica de Europa y que no dependa de tecnologías procedentes de Estados que no comparten nuestros valores;

49. Pide que se cree una red paneuropea de universidades e investigación centrada en la IA en la educación, que debe reunir a instituciones y expertos de todos los campos para que examinen el impacto de la IA en el aprendizaje e identifiquen soluciones para mejorar su potencial;

Patrimonio cultural

50. Reitera la importancia del acceso a la cultura para todos los ciudadanos en toda la Unión; destaca, en este contexto, la importancia del intercambio de buenas prácticas entre los Estados miembros, los centros educativos, las instituciones culturales y otras partes interesadas; considera, además, de vital importancia que se saque el máximo provecho de los recursos disponibles a escala nacional y de la Unión para seguir mejorando el acceso a la cultura; subraya que son muchas las opciones que existen para acceder a la cultura y que han de explorarse todas ellas para determinar cuál es la más apropiada; destaca la importancia de garantizar la coherencia con el Tratado de Marrakech;

51. Subraya que las tecnologías de IA pueden desempeñar un papel significativo en la conservación, la restauración, la documentación, el análisis, la promoción y la gestión del patrimonio cultural tangible e intangible, entre otras cosas mediante el seguimiento y el análisis de los cambios en los sitios del patrimonio cultural causados por amenazas como el cambio climático, las catástrofes naturales y los conflictos armados;

52. Destaca que las tecnologías de IA pueden aumentar la visibilidad de la diversidad cultural de Europa; señala que esas tecnologías ofrecen nuevas oportunidades a las instituciones culturales, como los museos, para que desarrollen herramientas innovadoras destinadas a catalogar artefactos, así como a documentar los sitios del patrimonio cultural y hacerlos más accesibles, incluso mediante el modelado 3D y la realidad virtual aumentada; subraya que la IA también permitirá que los museos y las galerías de arte introduzcan servicios interactivos y personalizados para los visitantes, proporcionándoles una lista de artículos sugeridos en función de sus intereses, tanto en persona como en línea;

53. Destaca que el uso de la IA anunciará nuevos enfoques, instrumentos y metodologías innovadores que permitirán a los trabajadores e investigadores culturales crear bases de datos uniformes con esquemas de clasificación adecuados, así como metadatos multimedia, que les permitirán establecer conexiones entre diferentes objetos del patrimonio cultural y aumentar así el conocimiento, además de proporcionar una mejor comprensión del patrimonio cultural;

54. Subraya que las buenas prácticas en tecnologías de IA para la protección y la accesibilidad del patrimonio cultural, en particular para las personas con discapacidad, se deben definir y compartir entre las redes culturales del conjunto de la Unión, al tiempo que se fomenta la investigación sobre los distintos usos de la IA para promover el valor, la accesibilidad y la preservación del patrimonio cultural; pide a la Comisión y a los Estados miembros que promuevan las oportunidades que ofrece el uso de la IA en los sectores y las industrias culturales y creativos;

55. Señala que las tecnologías de IA también se pueden utilizar para controlar el tráfico ilícito de objetos culturales y la destrucción de bienes culturales, además de respaldar la recopilación de datos destinados a las actividades de recuperación y reconstrucción del patrimonio cultural tanto material como inmaterial; señala, en particular, que el desarrollo, la implementación y la utilización de la IA en los procedimientos de inspección de aduanas pueden apoyar las actuaciones encaminadas a evitar el tráfico ilícito de patrimonio cultural, en particular complementando los sistemas que permiten a las autoridades aduaneras centrar sus esfuerzos y recursos en aquellos elementos que plantean un mayor riesgo;

56. Señala que la IA podría beneficiar al sector de la investigación, entre otras cosas, gracias al papel que puede desempeñar la analítica predictiva a la hora de afinar el análisis de datos, por ejemplo en relación con la adquisición y circulación de bienes culturales; subraya la necesidad de que la Unión Europea aumente las inversiones y favorezca las asociaciones entre la industria y el mundo académico para reforzar la excelencia de la investigación a nivel europeo;

57. Recuerda que la IA puede ser una herramienta revolucionaria para promover el turismo cultural y destaca su considerable potencial para predecir los flujos turísticos, lo que podría ayudar a las ciudades que sufren el exceso de turismo;

Sectores e industrias culturales y creativos

58. Deplora que la cultura no se encuentre entre las prioridades señaladas en las opciones y recomendaciones de políticas sobre IA a escala de la Unión, en concreto en el Libro Blanco de la Comisión, de 19 de febrero de 2020, sobre la IA; pide que se revisen estas recomendaciones para hacer de la cultura una prioridad política en materia de IA a escala de la Unión; pide a la Comisión y a los Estados miembros que aborden las posibles repercusiones del desarrollo, la implantación y la utilización de tecnologías de IA en los sectores y las industrias culturales y creativos, y que aprovechen al máximo el plan de recuperación de Next Generation EU para digitalizar estos sectores a fin de responder a nuevas formas de consumo en el siglo XXI;

59. Recuerda que la IA también ha llegado a los sectores y las industrias culturales y creativos, y que se manifiesta, por ejemplo, mediante la creación automatizada de textos, vídeos y piezas musicales; subraya que los creadores y los trabajadores culturales también deben disponer de las capacidades y la formación digitales necesarias a fin de poder hacer uso de la IA y otras tecnologías digitales; pide a la Comisión y a los Estados miembros que fomenten las oportunidades que ofrece el uso de la IA en los sectores y las industrias culturales y creativos, haciendo que haya más financiación disponible de los presupuestos de ciencia e investigación, y que creen centros de creatividad digital en los que los creadores y los trabajadores culturales puedan desarrollar aplicaciones de IA, aprender sobre la utilización de estas y otras tecnologías y probar su uso;

60. Reconoce que las tecnologías de IA tienen el potencial de impulsar un número creciente de puestos de trabajo en los sectores y las industrias culturales y creativos, propiciado por un mayor acceso a esas tecnologías; destaca, por lo tanto, la importancia de potenciar la alfabetización digital entre los sectores y las industrias culturales y creativos para que estas tecnologías sean más inclusivas, utilizables, aprendibles e interactivas para estos sectores;

61. Hace hincapié en que la interacción entre la IA y los sectores y las industrias culturales y creativos es compleja y requiere una evaluación en profundidad; acoge con satisfacción el informe de la Comisión de noviembre de 2020 titulado «Trends and Developments in Artificial Intelligence - Challenges to the IPR Framework» (Tendencias y avances en inteligencia artificial: retos para el marco de los derechos de propiedad intelectual) el «Estudio sobre derechos de autor y nuevas tecnologías: Gestión de datos de derechos de autor e inteligencia artificial»; subraya la importancia de aclarar las condiciones de uso de los contenidos protegidos por derechos de autor como datos de entrada (imágenes, música, películas, bases de datos, etc.) y en la elaboración de productos culturales y audiovisuales, creados por el hombre con la ayuda de la IA o generados de forma autónoma por tecnologías de IA; pide a la Comisión que estudie el impacto de la IA en los sectores creativos europeos; reitera la importancia de los datos europeos y acoge con satisfacción las declaraciones realizadas por la Comisión a este respecto, así como el lugar prominente que ocupan la inteligencia artificial y las tecnologías conexas en su programa de trabajo;

62. Subraya la necesidad de definir una visión coherente de las tecnologías de IA en los sectores y las industrias culturales y creativos a escala de la Unión; pide a los Estados miembros que refuercen la atención que se presta a la cultura en sus estrategias nacionales de IA para garantizar que los sectores y las industrias culturales y creativos acojan la innovación, sigan siendo competitivos y que la diversidad cultural se proteja y fomente en el conjunto de la Unión en el nuevo contexto digital;

63. Destaca la importancia de crear un entorno heterogéneo en toda la Unión para las tecnologías de IA a fin de fomentar la diversidad cultural y apoyar a las minorías y la diversidad lingüística, que fortalezca al mismo tiempo los sectores y las industrias culturales y creativos mediante plataformas en línea que permitan la inclusión y la participación de los ciudadanos de la Unión;

64. Pide a la Comisión y a los Estados miembros que apoyen un debate democrático sobre las tecnologías de IA y que proporcionen un foro regular de debate con la sociedad civil, los investigadores, los círculos académicos y las partes interesadas, a fin de dar a conocer las ventajas y los desafíos de su uso en los sectores las industrias culturales y creativos; subraya, en este contexto, el papel del arte y la cultura en la enseñanza de la IA y el debate social al respecto, dado su potencial para ilustrar y hacer tangible el aprendizaje automático, por ejemplo, en el ámbito de la música;

65. Pide a la Comisión y a los Estados miembros que aborden la cuestión del contenido generado con IA y los retos que plantea a la autoría y la infracción de los derechos de autor; pide a la Comisión, en este sentido, que evalúe el impacto de la IA y las tecnologías conexas en el sector audiovisual y los sectores y las industrias culturales y creativos, a fin de promover la diversidad cultural y lingüística, al tiempo que se respetan los derechos de los autores y los artistas intérpretes o ejecutantes;

66. Insiste en que el Instituto Europeo de Innovación y Tecnología, en particular su futura comunidad de conocimiento e innovación dedicada a las industrias culturales y creativas, debe desempeñar un papel destacado en la elaboración de una estrategia europea sobre la IA para los sectores educativo, cultural y audiovisual y puede contribuir a acelerar y obtener aplicaciones de IA en estos sectores;

67. Observa que la IA ya ha entrado en la cadena de valor creativa a nivel de creación, producción, difusión y consumo, y por lo tanto tiene un impacto inmenso en los sectores y las industrias culturales y creativos, incluida la industria musical y la cinematográfica, el arte y la literatura, mediante nuevos instrumentos, programas informáticos y producción asistida por la IA que se utilizan para facilitar la producción, a la vez que proporcionan inspiración y permiten que el público en general pueda crear contenidos;

68. Pide a la Comisión que lleve a cabo estudios y considere opciones de políticas para hacer frente al impacto perjudicial del control basado en la IA de los servicios de emisión en continuo en línea diseñados para limitar la diversidad o maximizar los beneficios, incluyendo o dando prioridad a determinados contenidos en la oferta a los consumidores, así como la forma en que esto repercute en la diversidad cultural y en las ganancias de los creadores;

69. Considera que la IA es cada vez más útil para los sectores y las industrias culturales y creativos en las actividades de creación y producción;

70. Hace hincapié en el papel que desempeña la personalidad de los autores en la expresión de las decisiones libres y creativas que constituyen la originalidad de las obras[12]; subraya la importancia de las limitaciones y excepciones a los derechos de autor al utilizar contenidos como datos de entrada, en particular en la educación, el ámbito universitario y la investigación, así como en la elaboración de productos culturales y creativos, incluidos los productos audiovisuales y los contenidos generados por los usuarios;

71. Considera que debe contemplarse la protección de las creaciones técnicas y artísticas generadas por la IA, con el fin de fomentar esta forma de creatividad;

72. Destaca que, en el contexto de la economía de los datos, es posible conseguir una mejor gestión de los datos sobre derechos de autor, con el fin de remunerar mejor a los autores y artistas intérpretes o ejecutantes, en particular para permitir la rápida identificación de la autoría y la titularidad de los derechos sobre contenidos, con lo que se contribuye a reducir el número de obras huérfanas; subraya asimismo que las soluciones tecnológicas de IA deben utilizarse para mejorar la infraestructura de datos sobre derechos de autor y la interconexión de metadatos en las obras, así como para facilitar la obligación de transparencia establecida en el artículo 19 de la Directiva (UE) 2019/790 sobre los derechos de autor y derechos afines en el mercado único digital[13], de cara a la producción de una información actualizada, pertinente y exhaustiva sobre la explotación de las obras e interpretaciones o ejecuciones de autores y artistas intérpretes o ejecutantes, en particular cuando sean varios los titulares de derechos o en caso de complejidad de los sistemas de licencias;

73. Pide que el plan de acción sobre la propiedad intelectual anunciado por la Comisión aborde la cuestión de la IA y su impacto en los sectores creativos, teniendo en cuenta la necesidad de encontrar un equilibrio entre la protección de los derechos de propiedad intelectual y el estímulo creativo en los ámbitos de la educación, la cultura y la investigación; considera que la Unión puede ser pionera en la creación de tecnologías de IA si adopta un marco normativo operativo y políticas públicas proactivas, en particular en materia de programas de formación y de apoyo financiero a la investigación; pide a la Comisión que evalúe el impacto de los derechos de propiedad intelectual en la investigación y el desarrollo de la IA y las tecnologías conexas, así como en los sectores y las industrias culturales y creativos, incluido el sector audiovisual, en particular en lo que respecta a la autoría, la remuneración justa de los autores y las cuestiones afines;

74. Pide a la Comisión que examine los aspectos jurídicos de los productos obtenidos con tecnologías de IA, así como de los contenidos culturales creados utilizando la IA y las tecnologías conexas; considera importante apoyar la producción de contenidos culturales; reitera, no obstante, la importancia de salvaguardar el marco único de la Unión en materia de derechos de propiedad intelectual y de que todo cambio se realice con el debido y necesario cuidado, para que no se rompa el frágil equilibrio existente; insta a la Comisión a que proceda a una evaluación en profundidad sobre la posible personalidad jurídica de los contenidos elaborados con IA, así como a la aplicación de derechos de propiedad intelectual a los contenidos generados con IA y a los contenidos creados usando herramientas de IA;

75. Insta, además, a la Comisión a que, en estrecha cooperación con los Estados miembros y las partes interesadas pertinentes, considere la posibilidad de elaborar mecanismos o sistemas de verificación para los editores, autores y creadores a fin de ayudarles a verificar qué contenidos pueden utilizar y a determinar más fácilmente qué está protegido por la legislación relativa a los derechos de propiedad intelectual;

76. Pide a la Comisión que establezca normas que garanticen una verdadera interoperabilidad de los datos, de manera que el contenido adquirido en una plataforma sea accesible desde cualquier herramienta digital, independientemente de la marca;

Sector audiovisual

77. Observa que la IA se usa a menudo para permitir que algoritmos de toma de decisiones automatizada divulguen y ordenen el contenido cultural y creativo que se muestra a los usuarios; destaca que estos algoritmos resultan opacos para los usuarios; subraya que los algoritmos utilizados por los proveedores de servicios de comunicación, las plataformas de uso compartido de vídeos y los servicios de emisión de música en continuo se deben diseñar de manera que no favorezcan obras específicas, al limitar sus sugerencias «personalizadas» a las obras más populares, con fines de publicidad dirigida o comerciales o para maximizar los beneficios; pide que los algoritmos de recomendaciones y la publicidad personalizada sean explicables y transparentes siempre que sea posible, con el objeto de ofrecer a los consumidores una información precisa y exhaustiva sobre estos procesos y contenidos y asegurar que los servicios personalizados no sean discriminatorios y se ajusten al Reglamento sobre las relaciones entre plataforma y empresas[14] recientemente adoptado y la Directiva de ámbito general sobre el nuevo marco para los consumidores[15]; pide a la Comisión que aborde las formas en las que se optimizan los algoritmos de moderación de contenidos para atraer a los usuarios y proponga recomendaciones destinadas a aumentar el control de los usuarios sobre los contenidos que visualizan, garantizando y aplicando adecuadamente el derecho de los usuarios a renunciar a los servicios recomendados y personalizados; subraya además que los consumidores deben ser informados cuando interactúen con un proceso automatizado de toma de decisiones, y que sus opciones y actividades no deben estar limitadas; destaca que ha de contrarrestarse el uso de mecanismos de IA para la vigilancia comercial de los consumidores, incluso si esta atañe a «servicios gratuitos», garantizando que se ajusta estrictamente a los derechos fundamentales y al RGPD; hace hincapié en que todas las modificaciones normativas deben tener en cuenta el efecto sobre los consumidores vulnerables;

78. Subraya que lo que es ilegal fuera de línea también debe serlo en línea; señala que las herramientas de IA tienen el potencial de combatir los contenidos ilegales en línea, y ya están siendo usadas para ello, pero recuerda firmemente que, en el marco de la próxima Ley de Servicios Digitales, dichas herramientas deben respetar siempre los derechos fundamentales, especialmente la libertad de expresión e información, y no deben conducir a una obligación de control general de internet, ni a la eliminación de material legal difundido con fines educativos, periodísticos, artísticos o de investigación; destaca que los algoritmos solo deben utilizarse como mecanismo de alerta en la moderación de contenidos, sujeto a la intervención humana, ya que la IA no es capaz de distinguir de manera fiable entre contenidos legales, ilegales y dañinos; señala que los términos y condiciones siempre deben incluir las directrices de la Unión, así como un procedimiento de recurso;

79. Recuerda además que no debe existir una supervisión general, como se establece en el artículo 15 de la Directiva sobre el comercio electrónico[16], y que la supervisión de contenidos específicos para servicios de medios audiovisuales debe ajustarse a las excepciones previstas en la legislación de la Unión; recuerda que las aplicaciones de IA deben respetar los protocolos internos y externos de seguridad, cuya naturaleza debe ser técnicamente precisa y sólida; considera que esto debe extenderse a su funcionamiento tanto en condiciones normales como en situaciones desconocidas e imprevisibles;

80. Destaca, además, que el uso de la IA en las recomendaciones de contenidos basadas en algoritmos por parte de los proveedores de servicios de comunicación, los servicios de vídeo a la carta y las plataformas de uso compartido de vídeos puede ejercer un grave impacto en la diversidad cultural y lingüística, en concreto en lo que respecta a la obligación de garantizar el predominio de obras europeas con arreglo al artículo 13 de la Directiva de servicios de comunicación audiovisual (Directiva (UE) 2018/1808[17]); observa que esas mismas preocupaciones son igualmente pertinentes para los servicios de emisión de música en continuo y pide que se elaboren indicadores para evaluar la diversidad cultural y la promoción de las obras europeas en esos servicios;

81. Pide a la Comisión y a los Estados miembros que ofrezcan un mayor impulso financiero al desarrollo, la implantación y la utilización de la IA en el ámbito del subtitulado automatizado y el doblaje de obras audiovisuales europeas, a fin de fomentar la diversidad cultural y lingüística en la Unión y mejorar la difusión de contenidos audiovisuales europeos y el acceso a estos;

82. Pide a la Comisión que establezca un marco ético claro para el uso de las tecnologías de IA en los medios de comunicación, a fin de prevenir todas las formas de discriminación y garantizar el acceso a contenidos que sean cultural y lingüísticamente diversos en el conjunto de la Unión, basados en algoritmos transparentes, inclusivos y por los que se rindan cuentas, que al mismo tiempo respeten las elecciones y preferencias de las personas;

83. Señala que la IA puede desempeñar un papel muy importante en la difusión rápida de desinformación; subraya, en este sentido, que el marco debe abordar también el uso indebido de la IA para difundir noticias falsas e información errónea y desinformación en línea, al tiempo que evita la censura; pide, por tanto, a la Comisión que evalúe los riesgos de que la IA contribuya a la propagación de desinformación en el ámbito digital, además de soluciones sobre cómo podría utilizarse la IA para contrarrestar la desinformación;

84. Pide a la Comisión que adopte medidas normativas para que los proveedores de servicios de comunicación tengan acceso a los datos que se generan en relación con la oferta y difusión de sus contenidos en plataformas de terceros; subraya que la comunicación de los datos en su totalidad por parte de los operadores de las plataformas a los proveedores de servicios de comunicación resulta esencial para que estos últimos puedan tener un mejor entendimiento de su público y así mejorar sus servicios conforme a las expectativas de este;

85. Destaca la importancia de aumentar la financiación a Europa Digital, Europa Creativa y Horizonte Europa para reforzar el apoyo al sector audiovisual europeo, a saber, mediante proyectos de investigación colaborativa e iniciativas piloto experimentales sobre el desarrollo, la implantación y la utilización de tecnologías éticas de IA;

86. Pide a los Estados miembros que colaboren estrechamente en la elaboración de programas de formación para el reciclaje y el perfeccionamiento profesionales de los trabajadores a fin de prepararlos mejor para la transición social que implicará la utilización de las tecnologías de IA en el sector audiovisual;

87. Considera que la IA tiene un enorme potencial para ayudar a impulsar la innovación en el sector de los medios informativos; cree que la integración generalizada de la IA, por ejemplo para la generación y distribución de contenidos, la supervisión de la sección de comentarios, el uso del análisis de datos y la identificación de fotos y vídeos adulterados, es fundamental para ahorrar costes en las salas de redacción a la luz de la disminución de los ingresos por publicidad y para dedicar más recursos a la información sobre el terreno y así incrementar la calidad y la variedad de los contenidos;

Desinformación en línea: deep fakes

88. Hace hincapié en la importancia de asegurar el pluralismo de los medios de comunicación, tanto en línea como fuera de línea, a fin de garantizar la calidad, la diversidad y la fiabilidad de la información disponible;

89. Recuerda que la precisión, la independencia, la equidad, la confidencialidad, la humanidad, la responsabilidad y la transparencia, como fuerzas motrices subyacentes a los principios de la libertad de expresión y de acceso a información en los medios de comunicación en línea y fuera de línea, son decisivas en la lucha contra la información errónea y la desinformación;

90. Constata el importante papel que desempeñan unos medios de comunicación independientes en la cultura y la vida diaria de los ciudadanos; subraya que la desinformación constituye un grave problema, dado que por lo general infringen constantemente los derechos de autor y los derechos de propiedad intelectual; insta a la Comisión a que, en cooperación con los Estados miembros, prosiga su labor de concienciación sobre este problema y contrarreste los efectos de la desinformación, así como los problemas relacionados con las fuentes; considera, además, importante elaborar estrategias educativas para mejorar específicamente la alfabetización digital a este respecto;

91. Recuerda que, con la rápida aparición de nuevas técnicas, la detección de contenido falso y manipulado, como los deep fakes, puede resultar más difícil debido a la capacidad de los creadores maliciosos para generar algoritmos sofisticados que se entrenan con éxito para impedir su detección, por lo que socava gravemente nuestros valores fundamentales democráticos; pide a la Comisión que evalúe el impacto de la IA en la creación de deep fakes, que establezca marcos jurídicos adecuados que regulen su creación, producción o distribución con fines maliciosos, y que proponga, entre otras iniciativas, recomendaciones para actuar contra cualquier amenaza basada en la IA a la democracia y las elecciones libres y justas;

92. Acoge con satisfacción las iniciativas y los proyectos recientes cuya finalidad es crear herramientas de detección de deep fakes más eficientes y requisitos de transparencia; subraya, en este sentido, la necesidad de explorar e invertir en métodos que aborden los deep fakes como paso crucial para combatir la información errónea y el contenido perjudicial; considera que las soluciones habilitadas por la IA pueden ser útiles a este respecto; pide, por tanto, a la Comisión que imponga una obligación de que todo material deep fake o cualquier otro vídeo sintético realizado de un modo realista deba indicar que el material no es original, así como una limitación estricta de su uso para fines electorales;

93. Manifiesta su preocupación por la influencia cada vez mayor que tiene la IA sobre el modo de localización y consumo de información en línea; recuerda que las denominadas burbujas de filtro y cámaras de eco limitan la diversidad de opiniones y repercuten negativamente en el debate social abierto; pide, por tanto, que el uso de algoritmos por parte de los operadores de plataformas para la gestión de información sea transparente y que se confiera una mayor libertad de decisión a los usuarios y usuarias sobre en qué medida desean recibir qué tipo de información;

94. Señala que ya se utilizan tecnologías de IA en el periodismo, por ejemplo, en la producción de textos o en el análisis de grandes conjuntos de datos en el ámbito de la investigación; subraya que, a efectos de producir información relevante para la sociedad en su conjunto, resulta importante que el periodismo automatizado utilice datos correctos y completos a fin de prevenir la difusión de noticias falsas; subraya que los principios básicos del periodismo de calidad, como la responsabilidad editorial, también deben aplicarse a los contenidos periodísticos generados por las tecnologías de IA; pide que se indique qué textos han sido generados mediante IA a fin de preservar la confianza en el periodismo;

95. Destaca el potencial de la IA para facilitar y fomentar el multilingüismo mediante el desarrollo de tecnologías relacionadas con los idiomas y la posibilidad de descubrir contenidos europeos en línea;

°

° °

96. Encarga a su presidente que transmita la presente Resolución al Consejo y a la Comisión.

 

 


 

EXPOSICIÓN DE MOTIVOS

«Creo que a finales de siglo el uso de las palabras y la opinión general educada se habrán alterado tanto que uno podrá hablar de máquinas que piensan sin esperar que nadie le contradiga».

 

Alan Turing, 1947

 

 

En la última década la IA ha sufrido una gran transformación, despertando en la humanidad tanto miedo como entusiasmo. Considerada como «la nueva electricidad», la IA ha avanzado hasta el punto de que ejercerá un impacto tan sistémico que podría modificar sustancialmente todos los aspectos de la sociedad en el próximo siglo.

Si bien resulta fácil entender los posibles efectos de la IA en sectores como las telecomunicaciones, el transporte, la gestión del tráfico y la asistencia sanitaria, la evaluación de sus efectos a largo plazo en los sectores educativo, cultural y audiovisual es bastante más complicada. Aunque exista el consenso de que es probable que la IA y la automatización generen más riqueza y simplifiquen una amplia gama de procesos, el uso de la IA suscita también serias preocupaciones de que pueda dar lugar a un aumento de la desigualdad, la discriminación y el desempleo.

 

Sin embargo, el posible impacto de la IA en los sectores educativo, cultural y audiovisual rara vez se debate y se desconoce en su mayor parte. No obstante, esta cuestión es de suma importancia porque la IA ya se utiliza para impartir planes de estudios y producir películas, temas musicales, relatos y cuadros.

 

El objetivo del presente informe es, por lo tanto, entender de una manera concreta cómo la IA afecta actualmente a estos sectores y cómo los avances tecnológicos futuros en la IA les afectarán aún más en la próxima década. En particular, el ponente reflexiona sobre la manera en que la IA puede transformar estos sectores y los retos normativos concretos a los que deberá hacer frente la Unión en este sentido.

 

 

i) La IA está remodelando la educación

 

La IA está transformando el aprendizaje, la enseñanza y la educación de una manera radical. La vertiginosa velocidad del desarrollo tecnológico acelera la transformación radical de las prácticas, las instituciones y las políticas educativas. En este ámbito, la IA tiene numerosas aplicaciones, como enfoques de aprendizaje personalizables, tutores basados en IA, libros de texto y material de curso con contenido personalizado, algoritmos inteligentes para determinar los mejores métodos de enseñanza, motores de juegos de IA y modelos de usuario adaptativos en entornos de aprendizaje personalizados que pueden permitir la identificación temprana de dificultades, como la dislexia o los riesgos de abandono escolar prematuro.

 

La experiencia de un aprendizaje personalizado es la piedra angular de la aplicación de la IA en la educación, ya que permitiría a los alumnos disponer de un enfoque educativo plenamente adaptado a sus capacidades, necesidades y dificultades individuales, al mismo tiempo que posibilitaría que los docentes supervisaran de cerca su evolución. No obstante, para que la educación personalizada sea una realidad, es necesario recopilar, utilizar y analizar grandes cantidades de datos personales.

 

En este sentido, el ponente subraya que es probable que la actual falta de acceso a los datos personales de los alumnos impida la aplicación con éxito de la IA en la educación. Por lo tanto, es fundamental que se garantice la seguridad y la transparencia en la recopilación, la utilización, la gestión y la difusión de los datos personales de los alumnos, protegiendo al mismo tiempo su confidencialidad y privacidad. Por otra parte, abordar los riesgos del posible sesgo de la IA y la cuestión del almacenamiento de los datos debe ser una prioridad en cualquier iniciativa destinada a una amplia implantación de la IA en el sistema educativo en el conjunto de la Unión.

 

Si bien existen pocas posibilidades de que las máquinas sustituyan a los docentes en un futuro próximo, el uso creciente de la IA en la educación implica la necesidad de replantearse la educación en general y de reflexionar sobre una nueva definición de la enseñanza, el papel de los docentes y, en consecuencia, el reciclaje profesional necesario para que se adapten a un sistema educativo basado en la IA.

Teniendo en cuenta que menos del 40 % de los docentes de la Unión ha recibido cursos sobre la inclusión de tecnologías de la información y la comunicación en el aula durante su formación inicial del profesorado (FIP), el ponente desea subrayar la importancia crucial de formar a los docentes para que adquieran capacidades digitales como un requisito previo para que se familiaricen con la IA. De este modo, podrían sacar partido de las tecnologías de IA y, al mismo tiempo, concienciarse de sus peligros potenciales.

 

Esta cuestión también se puede considerar de una manera más generalizada, dado que el 42 % de la población de la Unión sigue sin tener unas capacidades digitales básicas. Existen, además, importantes discrepancias regionales en el acceso a la infraestructura digital y en la adquisición de capacidades digitales en el conjunto de la Unión.

 

Las tendencias tecnológicas emergentes relacionadas con la transformación digital, como la IA, tienen profundas implicaciones en cuanto a las capacidades que se requieren en una economía digital en evolución. En concreto, el concepto del aprendizaje permanente en IA se ha convertido en una de las estrategias clave para la seguridad laboral y el empleo en la era digital.

 

El ponente sugiere que los ciudadanos reciban formación para adquirir las capacidades digitales necesarias, al tiempo que se evalúan detenidamente las capacidades relacionadas con la IA que se necesiten en la actualidad y en el futuro, y que se adopten las medidas necesarias para abordar las brechas de capacidades existentes y emergentes.

 

También es crucial garantizar que se cumplan los requisitos previos para la implantación y el uso pertinente de la IA, en lo que se refiere al acceso a Internet, la conectividad, las redes y las infraestructuras.

 

 

 ii) La IA se puede utilizar para salvaguardar y promover el patrimonio cultural

 

En los últimos años, la IA ha adquirido una importancia cada vez mayor en el ámbito del patrimonio cultural, especialmente en respuesta a posibles amenazas actuales, como el cambio climático o los conflictos armados. La IA puede tener varias aplicaciones en este sentido, ya que se puede utilizar para mejorar la experiencia de los usuarios, permitiendo que los visitantes de instituciones culturales y museos diseñen rutas narrativas personales o recurran a guías turísticos virtuales. Los bots (programas informáticos automatizados) conversacionales podrían informar de una forma interactiva acerca del patrimonio cultural sobre cualquier tema y en cualquier idioma. Además, facilitarían el acceso a la información y proporcionarían una experiencia cultural vívida a los usuarios.

 

La IA podría también facilitar la comprensión de la historia de la Unión, a semejanza del «Time Machine Project» (Proyecto Máquina del Tiempo) que tiene como objetivo la creación de tecnologías de IA avanzadas que den sentido a ingentes cantidades de información procedente de conjuntos de datos históricos complejos que se guardan en archivos y museos. De esta manera, sería posible transformar datos fragmentados en conocimientos útiles mediante la catalogación de toda la evolución social, cultural y geográfica de la Unión, lo que podría facilitar la exploración del desarrollo cultural, económico e histórico de las ciudades europeas y mejorar su comprensión.

 

 

iii) La IA modifica la manera en que funcionan las industrias culturales y creativas, en concreto, el sector audiovisual

 

El uso de la IA se está expandiendo con rapidez en los medios de comunicación con numerosas aplicaciones:

 

- Marketing y publicidad basados en datos, mediante el entrenamiento de algoritmos de aprendizaje automático que desarrollan avances de películas promocionales y diseñan anuncios.

 

- Personalización de la experiencia de los usuarios utilizando el aprendizaje automático para recomendar contenidos personalizados, basándose en sus datos de actividad y comportamiento.

 

- Optimización de la búsqueda, mediante el uso de la IA para mejorar la velocidad y la eficiencia del proceso de producción de medios y la capacidad de organizar los recursos visuales.

 

- Creación de contenido, mediante la generación de videoclips a partir de segmentos de vídeo automáticos listos para su difusión y efectos especiales, como recrear digitalmente una versión más joven de un actor o crear nuevo contenido con un actor fallecido.

 

- Escritura de guiones, como la creación simple de textos fácticos (reportajes deportivos e informativos producidos por robots), pero también relatos ficticios, como el corto experimental «Sunspring».

 

- Interacción del espectador en tramas complejas, como el último episodio de la serie británica Black Mirror, Bandersnatch.

 

- Subtítulos y subtitulado automatizados, como los procesos de conversión de audio a texto, para espectadores con discapacidades.

 

- Moderación automatizada de contenidos audiovisuales.

 

 

Si bien la IA ofrece una amplia gama de oportunidades para producir contenidos culturales y creativos de alta calidad, la distribución y el acceso centralizados a estos contenidos plantean una serie de problemas éticos y legales, concretamente en lo que se refiere a la protección de datos, la libertad de expresión y la diversidad cultural.

 

Las obras culturales y creativas, especialmente las audiovisuales, se distribuyen principalmente a través de grandes plataformas centralizadas, que condicionan el consumo de medios a los algoritmos patentados que desarrollan.

 

El ponente señala que las recomendaciones personalizadas basadas en algoritmos son potencialmente perjudiciales para la diversidad cultural y lingüística, ya que impiden que los contenidos culturales y creativos infrarrepresentados aparezcan en las sugerencias facilitadas por estos sistemas. En el caso de las plataformas más grandes, los criterios utilizados para seleccionar o recomendar una obra no son transparentes ni auditables, y es probable que se decidan basándose en factores económicos para su exclusivo beneficio.

 

La cuestión de la diversidad cultural y lingüística en los sistemas de recomendación es, por lo tanto, crucial y se debe abordar. El ponente destaca la necesidad de establecer un marco jurídico claro para que existan unos algoritmos transparentes, inclusivos y por los que se rindan cuentas, con el fin de salvaguardar y promover la diversidad cultural y lingüística.

 

Los retos normativos planteados por las aplicaciones de la IA en el sector audiovisual también se vinculan a actos jurídicos existentes, como la Directiva de servicios de comunicación audiovisual. En este sentido, podría ser necesaria una evaluación más pormenorizada de la urgencia o el impulso político para futuras adaptaciones de estos expedientes a la IA.

 

Si bien la IA puede favorecer a un gran número de creadores, aportando prosperidad a los sectores cultural y creativo, e impulsando la diversidad cultural, es posible que la gran mayoría de artistas y emprendedores no esté todavía familiarizada con las herramientas de la IA.

 

Existe una falta de conocimientos técnicos entre los creadores que les impide experimentar con el aprendizaje automático y sacar partido de los beneficios que puede aportar. Por lo tanto, es esencial evaluar las capacidades que serían necesarias en un futuro próximo, mejorando al mismo tiempo los sistemas de formación, incluida la mejora de las capacidades y el reciclaje, garantizando el aprendizaje permanente a lo largo de toda la vida laboral y posteriormente.

 

En este contexto, el ponente sugiere la creación de un observatorio de IA con el objetivo de armonizar y facilitar el examen basado en datos contrastados de los nuevos avances en la IA, con el fin de abordar la cuestión de la auditabilidad y la asunción de responsabilidades con respecto a las aplicaciones de la IA en los sectores cultural y creativo.

 

 

v) Contrarrestar las noticias falsas

 

Las tecnologías de IA se utilizan cada vez más para difundir noticias falsas, en concreto mediante el uso de deep fakes.

Los deep fakes son imágenes o vídeos sintéticos generados por IA que utilizan «máquinas de aprendizaje profundo» y redes generativas antagónicas. Los seres humanos no podemos distinguir los deep fakes del contenido auténtico. Los deep fakes se pueden utilizar para todo tipo de engaños, siendo los más habituales los face swaps o intercambio de rostros, que abarcan desde sátiras inofensivas y retoques cinematográficos a engaños maliciosos, acoso dirigido, porno deep fake o fraude financiero. El peligro de los deep fakes es hacer creer a la gente que algo es real cuando no lo es y, por lo tanto, se pueden utilizar como un arma especialmente potente y contundente para la desinformación en línea, difundiéndose viralmente en plataformas y redes sociales, donde se puede influir en la opinión pública, los procesos de votación y los resultados electorales.

 

Si bien la IA es señalada con frecuencia por su papel en la difusión de noticias falsas, podría también desempeñar un papel importante en contrarrestar y combatir este tipo de noticias y la desinformación, tal como demuestran proyectos del tipo «Fake News Challenge». En los sistemas de IA se puede realizar ingeniería inversa de las noticias falsas generadas por IA y ayudar a detectar el contenido manipulado. No obstante, los algoritmos que generan deep fakes son cada vez más sofisticados y resulta cada vez más difícil detectarlos.

 

Por lo tanto, el ponente subraya la necesidad de abordar el uso indebido de la IA en la difusión de noticias falsas y la información errónea en línea, concretamente mediante la exploración de vías que permitan detectar los deep fakes con eficacia.


 

OPINIÓN DE LA COMISIÓN DE LIBERTADES CIVILES, JUSTICIA Y ASUNTOS DE INTERIOR (16.7.2020)

para la Comisión de Cultura y Educación

sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual

(2020/2017(INI))

Ponente de opinión (*): Ondřej Kovařík

 (*) Comisión asociada – artículo 57 del Reglamento interno

 

SUGERENCIAS

La Comisión de Libertades Civiles, Justicia y Asuntos de Interior pide a la Comisión de Cultura y Educación, competente para el fondo, que incorpore las siguientes sugerencias en la propuesta de Resolución que apruebe:

1. Destaca que el uso de la inteligencia artificial (IA) en los sectores educativo, cultural y audiovisual debe respetar plenamente los derechos, las libertades y los valores fundamentales consagrados en los Tratados de la Unión y en la Carta de los Derechos Fundamentales de la Unión Europea, en particular la privacidad, la protección de los datos personales, la no discriminación y la libertad de expresión e información; acoge con satisfacción, a este respecto, el Libro Blanco sobre la inteligencia artificial de la Comisión, y le pide que incluya el sector educativo, limitado a ámbitos que planteen riesgos considerables, en el futuro marco regulador de las aplicaciones de IA de alto riesgo;

2. Recuerda que la IA puede dar lugar a prejuicios y, por consiguiente, a diversas formas de discriminación por razón de sexo, raza, color, origen étnico o social, características genéticas, lengua, religión o convicciones, opinión política o de otra índole, pertenencia a una minoría nacional, patrimonio, nacimiento, discapacidad, edad u orientación sexual; recuerda, en este sentido, que deben garantizarse los derechos de todos y que las iniciativas en materia de IA no deben ser discriminatorias en modo alguno;

3. Destaca que dichos prejuicios y discriminaciones pueden derivarse de conjuntos de datos ya sesgados, reflejo de la discriminación ya existente en la sociedad; hace hincapié en que la IA debe evitar prejuicios que conduzcan a una discriminación prohibida y no debe reproducir procesos de discriminación; insiste en que es necesario tener en cuenta estos riesgos a la hora de diseñar las tecnologías de IA, así como en la importancia de trabajar con los proveedores de tecnologías de IA para abordar las lagunas persistentes que favorecen la discriminación, y recomienda que los equipos de diseño y desarrollo de IA reflejen la diversidad de la sociedad;

4. Señala que el uso de la IA en la educación trae consigo un amplio abanico de posibilidades y oportunidades, por ejemplo para facilitar el acceso a la información, mejorar los métodos de investigación o comprender el modo en que aprenden los alumnos y ofrecerles una enseñanza personalizada, pero plantea al mismo tiempo riesgos en relación con la igualdad de acceso a la educación y la igualdad de aprendizaje a una edad cada vez más temprana, así como con respecto a los grupos vulnerables y tradicionalmente desfavorecidos; solicita una infraestructura de intercambio de datos suficiente entre las aplicaciones de IA y los centros públicos de investigación; señala que la igualdad y la inclusión son valores fundamentales que han de tenerse debidamente en cuenta a la hora de definir las políticas sobre el uso de la IA en la educación; pide el uso no discriminatorio de la IA en el sector educativo; recuerda los riesgos y las discriminaciones que pueden derivarse de herramientas de IA desarrolladas recientemente y utilizadas para fines de admisión escolar y pide que se rectifiquen lo antes posible; subraya la necesidad de evaluar adecuadamente las herramientas de IA utilizadas en el sector educativo para determinar su impacto en los derechos del niño;

5. Reconoce que el uso de tecnologías digitales y de IA puede ayudar a desarrollar herramientas educativas cada vez más eficaces y conducir a una sociedad más inclusiva, combatiendo las formas tradicionales de discriminación, incluida la falta de acceso a los servicios, llevando la educación a las comunidades desfavorecidas, a las personas con discapacidad, en consonancia con el Acta Europea de Accesibilidad, y a otros grupos de ciudadanos europeos que carecen de un acceso adecuado a la educación, y facilitando el acceso a oportunidades de aprendizaje adecuadas;

6. Subraya que los beneficios de la IA deben compartirse con todos los integrantes de la sociedad, sin dejar a nadie atrás; destaca que es necesario tener plenamente en cuenta las necesidades específicas de los grupos más vulnerables, como los niños, las personas con discapacidad, las personas de edad avanzada y otros grupos en riesgo de exclusión; expresa su preocupación por la limitada accesibilidad de internet en algunas regiones de la Unión, y pide a la Comisión y a los Estados miembros que trabajen de forma continuada para mejorar las infraestructuras de telecomunicaciones;

7. Es consciente de las posibilidades que ofrece la IA en el sector cultural a la hora de desarrollar la expresión musical y artística, así como otras expresiones culturales; hace hincapié en que la libertad de expresión es una libertad y un valor importantes y en que un panorama cultural multiforme reviste un gran valor para la sociedad; pide a la Comisión que tenga estos valores presentes al elaborar sus propuestas sobre IA;

8. Acoge con satisfacción el proyecto de la Comisión de actualizar el Plan de Acción de Educación Digital para hacerlo más ambicioso e integrado con vistas a adaptar los sistemas educativos a la era digital, en especial haciendo un mejor uso de los datos y las tecnologías basadas en la IA; pide a todas las partes interesadas, tanto públicas como privadas, que cooperen estrechamente en la aplicación de estas reformas educativas;

9. Destaca que es necesario garantizar una mayor sensibilización de la opinión pública sobre la IA a todos los niveles, como elemento clave que permita a los ciudadanos tomar decisiones con conocimiento de causa y que contribuya a reforzar la resiliencia de nuestras sociedades; subraya que también debe informarse a la opinión pública acerca de los riesgos que la IA puede plantear en términos de privacidad y prejuicios; pide a la Comisión y a los Estados miembros que incluyan todo lo anterior en los programas educativos y de apoyo al arte;

10. Subraya la urgente necesidad de formar a la población a todos los niveles en el uso de la IA y de dotar a todos los ciudadanos europeos, incluidos los grupos vulnerables, de capacidades digitales básicas que les garanticen las mismas oportunidades sociales y económicas, así como la necesidad de disponer de programas de TIC de calidad en los sistemas educativos a todos los niveles; pide que no se subestime la brecha digital de género y que se tomen medidas para corregirla; se congratula de la futura actualización de la Agenda de Capacidades que tiene como objeto que todo el mundo pueda beneficiarse de la transformación digital de la Unión; hace hincapié en la importancia de formar a profesores y educadores en el uso de la IA, especialmente a los responsables de alumnos menores de edad; observa que siguen existiendo importantes carencias de capacidades en los sectores digital y tecnológico; subraya la importancia de diversificar este sector y de animar a los estudiantes, en particular a las mujeres y las niñas, a matricularse en los cursos de ciencia, tecnología, ingeniería y matemáticas, especialmente en relación con la robótica y la IA, además de en los que estén relacionados con sus aspiraciones profesionales; pide más recursos financieros y científicos para motivar a las personas cualificadas a permanecer en la Unión y para atraer a este tipo de personas del extranjero; observa, asimismo, que hay un número considerable de empresas emergentes que trabajan con IA y desarrollan tecnologías de IA; hace hincapié en que las pequeñas y medianas empresas (pymes) necesitarán apoyo adicional y formación relacionada con la IA para cumplir con la normativa digital y en materia de IA;

11. Recuerda que la protección de datos y la privacidad pueden verse especialmente afectadas por la IA; subraya los principios establecidos en el Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo (Reglamento general de protección de datos - RGPD)[18] como principios vinculantes para la implementación de la IA; recuerda que todas las aplicaciones de la IA deben respetar plenamente la legislación de la Unión en materia de protección de datos, en particular el RGPD y la Directiva 2002/58/CE del Parlamento Europeo y del Consejo (Directiva sobre la privacidad y las comunicaciones electrónicas)[19] (actualmente en fase de revisión);

12. Recuerda que los niños constituyen un grupo vulnerable que merece una atención y una protección especiales; recuerda que las decisiones automatizadas sobre personas físicas basadas en la elaboración de perfiles que tengan repercusiones jurídicas o similares deben estar estrictamente limitadas y siempre han de acompañarse del derecho a obtener intervención humana y una explicación de conformidad con el RGPD; subraya que este extremo debe cumplirse estrictamente, en particular en el sector educativo, cuando se toman decisiones relacionadas con las oportunidades y posibilidades futuras; observa que unas pocas empresas privadas dominan el sector de la tecnología educativa en algunos Estados miembros, y considera que esta situación debe examinarse atendiendo a las normativa de la Unión en materia de competencia; recuerda con firmeza que los datos de menores están estrictamente protegidos por el RGPD, y que solo pueden tratarse si son completamente anónimos o cuando el titular de la responsabilidad parental haya dado su consentimiento; pide, por lo tanto, que se refuercen la protección y las garantías en el sector educativo por lo que respecta a los datos de niños; pide que se facilite información clara a los niños y a sus padres, también a través de campañas de sensibilización e información, sobre el posible uso y tratamiento de los datos de los niños;

13. Destaca los riesgos específicos que plantea el uso de las aplicaciones de reconocimiento automatizado basadas en la IA, que se están desarrollando rápidamente en la actualidad; recuerda que los niños constituyen un grupo especialmente sensible; recomienda a la Comisión y a los Estados miembros que prohíban la identificación biométrica automatizada, como el reconocimiento facial con fines educativos y culturales, en los centros educativos y culturales, a menos que su uso esté autorizado por la ley;

14. Pide a la Comisión y a los Estados miembros que impongan una obligación de transparencia y de explicabilidad a las decisiones individuales automatizadas basadas en la IA que se hayan adoptado en el marco de las prerrogativas de los poderes públicos, y que apliquen sanciones para hacer cumplir dichas obligaciones; pide la aplicación de sistemas que utilicen la verificación y la intervención humanas por defecto, así como el respeto de las garantías procesales, incluidos el derecho de recurso y el acceso a vías de reparación; recuerda que las decisiones automatizadas sobre personas físicas basadas en la elaboración de perfiles que tengan repercusiones jurídicas o similares deben estar estrictamente limitadas y siempre han de acompañarse del derecho a obtener intervención humana y una explicación de conformidad con el RGPD;

15. Pide que se lleven a cabo auditorías independientes con regularidad para determinar si las aplicaciones de IA utilizadas y los sistemas de controles y equilibrios correspondientes se ajustan a criterios definidos, y que dichas auditorías sean examinadas por autoridades de supervisión independientes y suficientes; pide que se realicen pruebas de resistencia específicas para facilitar y garantizar el cumplimiento de las normas;

16. Señala que la IA puede desempeñar un papel muy importante en la difusión rápida de desinformación; pide, por consiguiente, a la Comisión que evalúe en qué medida la IA puede contribuir a difundir desinformación en el entorno digital, y que proponga, entre otras medidas, recomendaciones para actuar contra cualquier amenaza basada en la IA a la democracia y las elecciones libres y justas; recuerda que los ultrafalsos (deep fakes) pueden utilizarse para manipular elecciones, difundir desinformación o realizar otras acciones reprobables; señala asimismo que de las experiencias inmersivas facilitadas por la IA también pueden sacar partido agentes malintencionados; pide a la Comisión que proponga recomendaciones, incluidas posibles restricciones, con vistas a prevenir eficazmente el uso de estas tecnologías para fines ilegales; pide asimismo que se estudie cómo podría utilizarse la IA en la lucha contra la desinformación; pide a la Comisión que vele por que cualquier futuro marco regulador no conduzca a la censura de contenidos individuales legales cargados por los usuarios; recuerda que el pensamiento crítico y la capacidad de interactuar con conocimientos y confianza en internet son más necesarios que nunca;

17. Observa que la IA se usa a menudo para permitir que algoritmos de toma de decisiones automatizada divulguen y ordenen el contenido que se muestra a los usuarios; destaca que estos algoritmos resultan opacos para los usuarios; pide a la Comisión que aborde las formas en que los algoritmos de moderación de contenidos se optimizan para favorecer la participación de los usuarios; pide asimismo a la Comisión que proponga recomendaciones para aumentar el control de los usuarios sobre los contenidos que visualizan, y que solicite a las aplicaciones de IA y a las plataformas de internet que ofrezcan a los usuarios la posibilidad de elegir que el contenido se muestre en un orden neutro, con el fin de darles un mayor control sobre el modo en que se clasifica el contenido que visualizan, incluidas opciones que les permitan ver una clasificación ajena a sus hábitos de consumo de contenidos, así como renunciar completamente a cualquier forma de curación de contenidos;

18. Señala el potencial impacto negativo de la publicidad personalizada, en particular de la publicidad microsegmentada y comportamental, y del análisis de individuos, especialmente menores, sin su consentimiento, pues se inmiscuyen en la vida privada de las personas e interrogan sobre la recopilación y el uso de datos para personalizar la publicidad y ofrecer productos o servicios o fijar precios; pide, por tanto, a la Comisión que introduzca estrictas limitaciones en materia de publicidad dirigida basada en la recopilación de datos personales, empezando por prohibir la publicidad comportamental entre plataformas, sin perjudicar a las pymes; recuerda que, en la actualidad, la Directiva sobre la privacidad y las comunicaciones electrónicas solo permite la publicidad dirigida si el usuario la ha autorizado de forma expresa, pues de lo contrario la considera ilegal; pide a la Comisión que prohíba el uso de prácticas discriminatorias en relación con la prestación de servicios o productos;

19. Subraya que lo que es ilegal fuera de línea también debe serlo en línea; señala que las herramientas de IA tienen el potencial de combatir los contenidos ilegales en línea, y ya están siendo usadas para ello, pero recuerda firmemente que, en el marco de la Ley de servicios digitales prevista para finales de este año, dichas herramientas deben respetar siempre los derechos fundamentales, especialmente la libertad de expresión e información, y no deben conducir a una obligación de control general de internet, ni a la eliminación de material legal difundido con fines educativos, periodísticos, artísticos o de investigación; destaca que los algoritmos solo deben utilizarse como mecanismo de alerta en la moderación de contenidos, sujeto a la intervención humana, ya que la IA no es capaz de distinguir de manera fiable entre contenidos legales, ilegales y dañinos; señala que los términos y condiciones siempre deben incluir las directrices de la Unión, así como un procedimiento de recurso;

20. Toma nota de los beneficios y los riesgos de la IA en el ámbito de la ciberseguridad y de su potencial de lucha contra la ciberdelincuencia, y hace hincapié en que las soluciones de IA tienen que ser resistentes a los ciberataques dentro del respeto de los derechos fundamentales de la Unión Europea, especialmente la protección de los datos personales y la privacidad; destaca la importancia de supervisar el uso seguro de la IA y la necesidad de una estrecha colaboración entre los sectores público y privado para contrarrestar las vulnerabilidades de los usuarios y los riesgos resultantes; pide a la Comisión que evalúe la necesidad de una mejor prevención en lo que respecta a la ciberseguridad y las medidas de mitigación de riesgos asociados;

21. Destaca que la cobertura de internet y la infraestructura digital de nueva generación revisten una importancia estratégica para ofrecer una educación basada en la IA a los ciudadanos europeos; pide a la Comisión, a la luz de la crisis de la COVID-19, que elabore una estrategia para una 5G europea que garantice la resiliencia estratégica de Europa y que no dependa de la tecnología procedente de Estados que no comparten nuestros valores;

22. Pide a la Comisión y a los Estados miembros que apoyen el uso de la IA en el ámbito del patrimonio cultural digitalizado.


INFORMACIÓN SOBRE LA APROBACIÓN
EN LA COMISIÓN COMPETENTE PARA EMITIR OPINIÓN

Fecha de aprobación

16.7.2020

 

 

 

Resultado de la votación final

+:

–:

0:

59

7

1

Miembros presentes en la votación final

Magdalena Adamowicz, Konstantinos Arvanitis, Katarina Barley, Pietro Bartolo, Nicolas Bay, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Saskia Bricmont, Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Damien Carême, Caterina Chinnici, Clare Daly, Marcel de Graaff, Lena Düpont, Laura Ferrara, Nicolaus Fest, Jean-Paul Garraud, Sylvie Guillaume, Andrzej Halicki, Balázs Hidvéghi, Evin Incir, Sophia in ‘t Veld, Patryk Jaki, Lívia Járóka, Fabienne Keller, Peter Kofod, Moritz Körner, Juan Fernando López Aguilar, Nuno Melo, Roberta Metsola, Nadine Morano, Javier Moreno Sánchez, Maite Pagazaurtundúa, Nicola Procaccini, Emil Radev, Paulo Rangel, Terry Reintke, Diana Riba i Giner, Ralf Seekatz, Michal Šimečka, Martin Sonneborn, Sylwia Spurek, Tineke Strik, Ramona Strugariu, Annalisa Tardino, Tomas Tobé, Milan Uhrík, Tom Vandendriessche, Bettina Vollath, Jadwiga Wiśniewska, Elena Yoncheva, Javier Zarzalejos

Suplentes presentes en la votación final

Abir Al-Sahlani, Bartosz Arłukowicz, Malin Björk, Delara Burkhardt, Gwendoline Delbos-Corfield, Nathalie Loiseau, Erik Marquardt, Sira Rego, Domènec Ruiz Devesa, Paul Tang, Hilde Vautmans, Tomáš Zdechovský

Suplentes (art. 209, apdo. 7) presentes en la votación final

Sven Mikser

 


VOTACIÓN FINAL NOMINAL
EN LA COMISIÓN COMPETENTE PARA EMITIR OPINIÓN

59

+

PPE

Magdalena Adamowicz, Bartosz Arłukowicz, Vladimír Bilčík, Vasile Blaga, Ioan‑Rareş Bogdan, Lena Düpont, Andrzej Halicki, Balázs Hidvéghi, Lívia Járóka, Nuno Melo, Roberta Metsola, Nadine Morano, Emil Radev, Paulo Rangel, Ralf Seekatz, Tomas Tobé, Tomáš Zdechovský

S&D

Katarina Barley, Pietro Bartolo, Delara Burkhardt, Caterina Chinnici, Sylvie Guillaume, Evin Incir, Juan Fernando López Aguilar, Sven Mikser, Javier Moreno Sánchez, Domènec Ruiz Devesa, Sylwia Spurek, Paul Tang, Bettina Vollath, Elena Yoncheva

Renew

Abir Al‑Sahlani, Sophia in 't Veld Fabienne Keller, Moritz Körner, Nathalie Loiseau, Maite Pagazaurtundúa, Michal Šimečka, Ramona Strugariu, Hilde Vautmans

Verts/ALE

Saskia Bricmont, Damien Carême, Gwendoline Delbos‑Corfield, Erik Marquardt, Terry Reintke, Diana Riba i Giner, Tineke Strik

ECR

Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Patryk Jaki, Nicola Procaccini, Jadwiga Wiśniewska

GUE/NGL

Konstantinos Arvanitis, Malin Björk, Clare Daly, Sira Rego

NI

Laura Ferrara, Martin Sonneborn, Milan Uhrík

 

7

-

PPE

Javier Zarzalejos

ID

Nicolas Bay, Nicolaus Fest, Jean‑Paul Garraud, Marcel de Graaff, Peter Kofod, Tom Vandendriessche

 

1

0

ID

Annalisa Tardino

 

Explicación de los signos utilizados

+ : a favor

- : en contra

0 : abstenciones

 

 


 

OPINIÓN DE LA COMISIÓN DE MERCADO INTERIOR Y PROTECCIÓN DEL CONSUMIDOR (6.7.2020)

para la Comisión de Cultura y Educación

sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual

(2020/2017(INI))

Ponente de opinión: Kim Van Sparrentak

 

SUGERENCIAS

La Comisión de Mercado Interior y Protección del Consumidor pide a la Comisión de Cultura y Educación, competente para el fondo, que incorpore las siguientes sugerencias en la propuesta de Resolución que apruebe:

A. Considerando que la inteligencia artificial (IA) puede ofrecer soluciones a desafíos cotidianos del sector educativo, como la individualización del aprendizaje, la supervisión de las dificultades de aprendizaje y la automatización de los contenidos o los conocimientos sobre un tema específico, lo que permite ofrecer una mejor formación profesional y apoyar la transición hacia una sociedad digital;

B. Considerando que la IA podría tener aplicaciones prácticas en términos de reducción del trabajo administrativo de los educadores y las instituciones educativas y dejarles más tiempo para sus actividades principales de enseñanza y aprendizaje;

C. Considerando que la implantación de la IA en la educación suscita cierta preocupación en cuanto al uso ético de los datos, los derechos de los alumnos, el acceso a los datos y la protección de los datos personales y, por tanto, conlleva riesgos para los derechos fundamentales, como la creación de modelos estereotipados de perfiles y comportamientos de los alumnos que podrían dar lugar a discriminación o a un riesgo de provocar daños al extender malas prácticas pedagógicas;

D. Considerando que las aplicaciones de IA están omnipresentes en el sector audiovisual, en particular en las plataformas de contenidos audiovisuales;

1. Toma nota de que la Comisión ha propuesto apoyar la contratación pública en los servicios digitales inteligentes, a fin de instar a las autoridades públicas a introducir rápidamente productos y servicios basados en la IA en ámbitos de interés público y en el sector público; destaca la importancia de la inversión pública en esos servicios y el valor añadido complementario proporcionado por la asociaciones público-privadas para garantizar este objetivo y desplegar todo el potencial de la IA en los sectores educativo, cultural y audiovisual; hace hincapié en que, en el sector educativo, el desarrollo y la implementación de la IA deben contar con todos aquellos que participan en el proceso educativo y con la sociedad en su conjunto y tener en cuenta sus necesidades y los beneficios esperados, especialmente para los más vulnerables y desfavorecidos, a fin de asegurar que la IA se utilice de forma consciente y ética y proporcione mejoras reales a los interesados; considera que los productos y servicios desarrollados con financiación pública deben publicarse bajo licencias de código abierto, respetando plenamente la legislación aplicable, incluida la Directiva (UE) 2019/790 del Parlamento Europeo y del Consejo, de 17 de abril de 2019, relativa a los derechos de autor y derechos afines en el mercado único digital; destaca la importancia de esta implementación para el reciclaje y el perfeccionamiento profesionales en el mercado laboral europeo, en particular en los sectores cultural y audiovisual, que se verán gravemente afectados por la crisis de la COVID-19;

2. Reconoce que los niños son un grupo especialmente vulnerable en términos de influencia sobre su comportamiento; pone de relieve que, si bien la IA puede ser una herramienta beneficiosa para su educación, es necesario tener en cuenta los aspectos tecnológicos, reglamentarios y sociales de la introducción de la IA en la educación, con unas garantías adecuadas y un enfoque centrado en el ser humano que garantice que los seres humanos, en última instancia, siempre puedan controlar y corregir las decisiones del sistema; señala la necesidad de revisar y actualizar las normas sectoriales pertinentes; subraya, en este sentido, que el marco jurídico por el que se rige la IA en el sector de la educación debe prever, en particular, medidas y normas jurídicamente vinculantes para evitar prácticas que puedan socavar los derechos y las libertades fundamentales, y asegurar el desarrollo de aplicaciones de IA fiables, éticas y técnicamente sólidas, incluidas herramientas, servicios y productos digitales integrados, como la robótica y el aprendizaje automático;

3. Toma nota del potencial de los productos basados en la IA en el ámbito de la educación, especialmente la puesta a disposición de todos los alumnos de la Unión Europea de una educación de alta calidad; destaca la necesidad de que los gobiernos y las instituciones educativas se replanteen y reformulen los programas educativos poniendo un mayor énfasis en la ciencia, la tecnología, la ingeniería, las artes y las matemáticas, a fin de preparar a los alumnos y los consumidores de cara a una mayor presencia de la IA y facilitar la adquisición de capacidades cognitivas; hace hincapié en la necesidad de mejorar las competencias digitales de quienes participan en el proceso educativo y de la sociedad en general, al tiempo que se respetan los objetivos de «Una Europa adaptada a la era digital»;

4. Subraya que los sistemas algorítmicos pueden permitir una rápida reducción de la brecha digital, pero es posible que su implementación desigual amenace con crear nuevas brechas o con acelerar el agravamiento de las ya existentes; manifiesta su preocupación por que los conocimientos y las infraestructuras no se desarrollen de forma coherente en toda la Unión, lo cual limita la accesibilidad a los productos y servicios que se basan en la IA, en particular en zonas escasamente pobladas y socioeconómicamente vulnerables; pide a la Comisión que garantice la cohesión en el reparto de beneficios de la IA y de las tecnologías conexas;

5. Solicita a la Comisión que considere la educación como un sector en el que cabe esperar que se produzcan riesgos significativos derivados de determinados usos de las aplicaciones de IA, lo que podría socavar los derechos fundamentales y generar costes elevados tanto en términos humanos como sociales, y que tenga en cuenta esta consideración a la hora de evaluar qué tipos o usos de las aplicaciones de IA estarían cubiertos por un marco regulador para las aplicaciones de IA de alto riesgo, dada la importancia de garantizar que la educación sigue contribuyendo al bien público y dada la alta sensibilidad de los datos sobre los alumnos, los estudiantes y otros educandos; pide a la Comisión que incluya determinadas aplicaciones de IA en el sector de la educación —como las que están sujetas a regímenes de certificación o incluyen datos personales sensibles— en el marco regulador para las aplicaciones de IA de alto riesgo; subraya que es preciso revisar los conjuntos de datos utilizados para entrenar la IA y sus resultados, a fin de evitar todo tipo de estereotipos, discriminaciones y sesgos y, en su caso, utilizar la IA para detectar y corregir los sesgos humanos que pudieran existir; estima necesarias, por consiguiente, unas evaluaciones de conformidad adecuadas al objeto de comprobar y asegurar el respeto de todas las disposiciones relativas a las aplicaciones de alto riesgo, incluidos los requisitos en materia de pruebas, inspecciones y certificaciones; destaca la importancia de garantizar la integridad y la calidad de los datos;

6. Acoge con agrado los esfuerzos de la Comisión para incluir las competencias digitales como parte de los requisitos de cualificación de determinadas profesiones armonizadas a nivel de la Unión en virtud de la Directiva sobre las cualificaciones profesionales; subraya la necesidad de garantizar el reconocimiento mutuo de las cualificaciones profesionales sobre capacidades de IA en toda la Unión, dado que varios Estados miembros están modernizando su oferta educativa con capacidades relativas a la IA y poniendo en práctica planes de estudios específicos para desarrolladores de IA; pone de relieve la necesidad de que estos planes estén en consonancia con la lista de evaluación de las Directrices éticas para una IA fiable y se felicita por la propuesta de la Comisión de transformar esta lista en un plan de estudios indicativo para los desarrolladores de IA; destaca la importancia de formar a profesionales altamente cualificados en este ámbito, incluyendo aspectos éticos en sus planes de estudios, y de apoyar a los grupos insuficientemente representados en este campo, así como de crear incentivos para aquellos profesionales que busquen empleo en la Unión;

7. Toma nota de que las escuelas y otros proveedores de servicios de educación públicos usan cada vez más los servicios de tecnologías educativas, incluidas las aplicaciones de IA; expresa su preocupación por que solo algunas empresas tecnológicas ofrezcan actualmente estas tecnologías; hace hincapié en que esta situación puede dar lugar a un acceso desigual a los datos y limitar la competencia mediante una posición dominante en el mercado y la restricción de las posibilidades de elección de los consumidores; anima a las autoridades públicas a que adopten un enfoque innovador en la contratación pública, a fin de ampliar la gama de ofertas presentadas a los proveedores de servicios de educación públicos en toda Europa; destaca, en este sentido, la importancia de apoyar la incorporación de la IA por parte de las pymes en los sectores educativo, cultural y audiovisual a través de unos incentivos adecuados que creen unas condiciones de competencia equitativas; pide, en este contexto, que se invierta en las empresas informáticas europeas con miras a desarrollar las tecnologías necesarias en la Unión; considera que las tecnologías utilizadas por los proveedores de servicios de educación públicos deben basarse en tecnologías de código abierto cuando sea posible, respetando plenamente la legislación aplicable, incluida la Directiva (UE) 2019/790 del Parlamento Europeo y del Consejo, de 17 de abril de 2019, relativa a los derechos de autor y derechos afines en el mercado único digital;

8. Pide que los datos utilizados por las aplicaciones de IA en el sector educativo sean accesibles, interoperables y de alta calidad, y que se compartan con las autoridades públicas competentes, de forma normalizada y respetando la legislación sobre derechos de autor y secretos comerciales, para que puedan utilizarse, de conformidad con las normas europeas en materia de protección de datos y privacidad, así como con las normas éticas, democráticas y de transparencia, en el desarrollo de planes de estudios y prácticas pedagógicas (en particular, cuando estos servicios se adquieran con dinero público o se ofrezcan a los proveedores de servicios de educación públicos de forma gratuita, teniendo en cuenta que la educación es un bien común); pide a la Comisión que garantice un acceso justo a los datos a todas las empresas, y en particular a las pymes y a las empresas culturales y creativas, que desempeñan un papel esencial a la hora de mantener la cohesión social y la diversidad cultural en Europa, así como los valores democráticos;

9. Destaca la importancia de elaborar directrices sobre la contratación pública de dichos servicios y aplicaciones para el sector público, incluidos los proveedores de servicios de educación, a fin de garantizar los objetivos educativos pertinentes, la posibilidad de elección de los consumidores, unas condiciones de competencia justas entre los proveedores de soluciones de IA y el respeto de los derechos fundamentales; pone de relieve la necesidad de que los compradores públicos tengan en cuenta criterios específicos vinculados a los objetivos educativos pertinentes, como la no discriminación, los derechos fundamentales, la diversidad, los niveles más elevados de protección de los datos y de la privacidad, la accesibilidad de los alumnos con necesidades especiales, la sostenibilidad medioambiental y, en particular cuando se adquieran servicios para los proveedores de servicios de educación públicos, la intervención de todos los participantes en el proceso educativo; resalta la necesidad de reforzar el mercado ofreciendo a las pymes la oportunidad de participar en la contratación pública de aplicaciones de IA, con el fin de garantizar la participación de empresas tecnológicas de todos los tamaños en el sector y asegurar así la resiliencia y la competencia;

10. Destaca la falta de fiabilidad de los actuales medios automatizados para eliminar contenidos ilícitos de plataformas en línea en las que se comparten contenidos audiovisuales, los cuales pueden llevar a la eliminación involuntaria de contenidos legítimos; señala que ni la Directiva sobre el comercio electrónico, ni la Directiva revisada de servicios de comunicación audiovisual sobre plataformas de intercambio de vídeos imponen una obligación general de supervisión; recuerda, a tal efecto, que no debe existir una supervisión general, como se establece en el artículo 15 de la Directiva sobre el comercio electrónico, y que la supervisión de contenidos específicos para servicios audiovisuales debe ajustarse a las excepciones previstas en la legislación europea; recuerda los requisitos clave de las aplicaciones de IA, como la rendición de cuentas, incluidas la estructuras de revisión en los procesos de negocio, y la notificación de los efectos negativos; hace hincapié en que la transparencia también debe incluir la trazabilidad y la explicabilidad de los sistemas pertinentes; recuerda que las aplicaciones de IA deben respetar los protocolos internos y externos de seguridad, cuya naturaleza debe ser técnicamente precisa y sólida; considera que esto debe extenderse a su funcionamiento tanto en condiciones normales como en situaciones desconocidas e imprevisibles;

11. Pide que los algoritmos de recomendaciones y la publicidad personalizada en las plataformas audiovisuales, incluidas las plataformas de emisión de vídeos y de noticias y las que difunden contenidos culturales y creativos, sean explicables en la mayor medida posible, con el objeto de ofrecer a los consumidores una información precisa y exhaustiva sobre estos procesos y contenidos y asegurar que los servicios personalizados no sean discriminatorios y se ajusten al Reglamento sobre las relaciones entre plataformas y empresas recientemente adoptado y la Directiva de ámbito general sobre el nuevo marco para los consumidores; destaca la necesidad de garantizar y aplicar correctamente el derecho de los usuarios a renunciar a los servicios recomendados y personalizados; señala, a este respecto, que debe facilitarse a los usuarios una descripción que permita una comprensión general y adecuada de las funciones de que se trate, en particular sobre los datos utilizados, la finalidad del algoritmo y la personalización y sus resultados, siguiendo los principios de explicabilidad y equidad; pide que se desarrollen mecanismos que prevean la supervisión de los derechos de los consumidores al consentimiento informado y a la libertad de elección cuando transmitan datos;

12. Señala que la implementación de la IA en los procedimientos de inspección de aduanas puede apoyar las actuaciones encaminadas a evitar el tráfico ilícito de patrimonio cultural, en particular complementando los sistemas que permiten a las autoridades aduaneras centrar sus esfuerzos y recursos en aquellos elementos que presentan un mayor riesgo;

13. Subraya que los consumidores, cuando interactúen con un proceso automatizado de toma de decisiones, deben ser informados y que sus opciones y actividades no deben estar limitadas; destaca que ha de contrarrestarse el uso de mecanismos de IA para la vigilancia comercial de los consumidores, incluso si esta atañe a «servicios gratuitos», garantizando que se ajusta estrictamente a los derechos fundamentales y al RGPD; hace hincapié en que todas las modificaciones normativas deben tener en cuenta el efecto sobre los consumidores vulnerables;

14. Observa que la implementación, el desarrollo y la puesta en marcha de la IA deben facilitar el uso de herramientas para el acceso a los contenidos audiovisuales a los consumidores y alumnos que presenten alguna forma de discapacidad;

15. Resalta la necesidad de mejorar las capacidades de la futura mano de obra; reconoce los beneficios que ofrece predecir qué empleos se verán alterados por tecnologías digitales como la automatización, la digitalización y la IA;

16. Señala que los sistemas de IA desarrollados, implementados y utilizados en la Unión Europea, en cualquiera de estos tres sectores a los que hace referencia este informe, deben reflejar su diversidad cultural y su multilingüismo.


INFORMACIÓN SOBRE LA APROBACIÓN EN LA COMISIÓN COMPETENTE PARA EMITIR OPINIÓN

Fecha de aprobación

29.6.2020

 

 

 

Resultado de la votación final

+:

–:

0:

34

3

3

Miembros presentes en la votación final

Andrus Ansip, Pablo Arias Echeverría, Alessandra Basso, Brando Benifei, Adam Bielan, Biljana Borzan, Dita Charanzová, Deirdre Clune, David Cormand, Petra De Sutter, Carlo Fidanza, Alexandra Geese, Sandro Gozi, Maria Grapini, Svenja Hahn, Eugen Jurzyca, Arba Kokalari, Marcel Kolaja, Andrey Kovatchev, Maria-Manuel Leitão-Marques, Morten Løkkegaard, Adriana Maldonado López, Antonius Manders, Beata Mazurek, Leszek Miller, Dan-Ștefan Motreanu, Anne-Sophie Pelletier, Christel Schaldemose, Andreas Schwab, Ivan Štefanec, Kim Van Sparrentak, Marion Walsmann

Suplentes presentes en la votación final

Marc Angel, Pascal Arimont, Marco Campomenosi, Maria da Graça Carvalho, Salvatore De Meo, Karen Melchior, Tsvetelina Penkova, Antonio Maria Rinaldi

 


 

VOTACIÓN FINAL NOMINAL EN LA COMISIÓN COMPETENTE PARA EMITIR OPINIÓN

34

+

PPE

S&D

Renew

ID

Verts/ALE

ECR

GUE/NGL

Pascal Arimont, Deirdre Clune, Arba Kokalari, Antonius Manders, Dan‑Ștefan Motreanu, Marion Walsmann

Marc Angel, Brando Benifei, Biljana Borzan, Maria Grapini, Maria‑Manuel Leitão‑Marques, Adriana Maldonado López, Leszek Miller, Tsvetelina Penkova, Christel Schaldemose

Andrus Ansip, Dita Charanzová, Sandro Gozi, Svenja Hahn, Morten Løkkegaard, Karen Melchior

Alessandra Basso, Marco Campomenosi, Antonio Maria Rinaldi

David Cormand, Petra De Sutter, Alexandra Geese, Marcel Kolaja, Kim Van Sparrentak

Adam Bielan, Carlo Fidanza, Eugen Jurzyca, Beata Mazurek

Anne‑Sophie Pelletier

 

3

-

PPE

Pablo Arias Echeverría, Salvatore De Meo, Andreas Schwab

 

3

0

PPE

Maria da Graça Carvalho, Andrey Kovatchev, Ivan Štefanec

 

Explicación de los signos utilizados

+ : a favor

- : en contra

0 : abstenciones

 


 

OPINIÓN DE LA COMISIÓN DE ASUNTOS JURÍDICOS (22.9.2020)

para la Comisión de Cultura y Educación

sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual

(2020/2017(INI))

Ponente de opinión: Angel Dzhambazki

 

SUGERENCIAS

La Comisión de Asuntos Jurídicos pide a la Comisión de Cultura y Educación, competente para el fondo, que incorpore las siguientes sugerencias en la propuesta de Resolución que apruebe:

1. Subraya la importancia estratégica de la utilización de la inteligencia artificial (IA) y las tecnologías conexas, y destaca que el enfoque europeo en este ámbito debe centrarse en el ser humano, de modo que la IA sea realmente un instrumento al servicio de las personas y del bien común, que contribuya al interés general de los ciudadanos, también en los sectores audiovisual, cultural y educativo; señala que, en estos sectores, la IA puede servir de apoyo a la creación de contenidos; destaca que la IA puede apoyar la creación de contenidos en los sectores educativo, cultural y audiovisual, junto con plataformas educativas y de información, incluidas listas de diferentes tipos de bienes culturales y múltiples fuentes de datos; advierte del riesgo de vulneración de los derechos de propiedad intelectual al combinar la IA y diferentes tecnologías con múltiples fuentes (documentos, fotos, películas) con objeto de mejorar el modo en que se muestran, buscan y visualizan los datos; pide que se utilice la IA para garantizar un elevado nivel de protección de los derechos de propiedad intelectual en el actual marco legislativo, por ejemplo alertando a las personas y a las empresas cuando corran el riesgo de infringir involuntariamente las normas o asistiendo a los titulares de estos derechos cuando las normas sean realmente vulneradas; subraya, por lo tanto, la importancia de disponer de un marco jurídico europeo adecuado para la protección de los derechos de propiedad intelectual en relación con el uso de la IA;

2. Destaca el potencial de una integración coherente de la IA en el sector educativo para responder a algunos de los retos más importantes de la educación, desarrollar prácticas de enseñanza y aprendizaje innovadoras y, por último, acelerar el progreso hacia la consecución de los Objetivos de Desarrollo Sostenible con vistas a alcanzar las metas fijadas en la Agenda Educación 2030;

3. Reitera la importancia del acceso a la cultura para todos los ciudadanos en toda la Unión; destaca, a este respecto, la importancia del intercambio de buenas prácticas entre los Estados miembros, los centros educativos, las instituciones culturales y otras partes interesadas; considera, además, de vital importancia que se saque el máximo provecho de los recursos disponibles a escala nacional y de la Unión para seguir mejorando el acceso a la cultura; subraya que son muchas las opciones que existen para acceder a la cultura y que han de explorarse todas ellas para determinar cuál es la más apropiada; destaca la importancia de garantizar la coherencia con el Tratado de Marrakech;

4. Pide a la Comisión que aproveche al máximo las posibilidades de la IA para mejorar su comunicación con los ciudadanos mediante plataformas culturales y audiovisuales en línea, por ejemplo informándoles de las decisiones que se toman, reduciendo la brecha entre la Unión y la ciudadanía y fomentando la cohesión social entre los ciudadanos de la Unión;

5. Destaca que los sectores educativo, cultural y audiovisual son ámbitos sensibles por lo que respecta al uso de la IA y las tecnologías conexas, ya que pueden influir en nuestras sociedades y en los derechos fundamentales que estas defienden; sostiene, por lo tanto, que han de respetarse principios éticos jurídicamente vinculantes en su implementación, desarrollo y utilización;

6. Observa que la inteligencia artificial y las tecnologías conexas pueden utilizarse en la elaboración o aplicación de nuevos métodos educativos en ámbitos que incluyen el aprendizaje de idiomas, el mundo académico en general, el aprendizaje especializado, etc.; destaca la importancia de la utilización de dichas tecnologías para fines educativos, pero también para la alfabetización digital y la sensibilización del público al respecto; subraya la importancia de poner a disposición de educadores y formadores, entre otros, los instrumentos y conocimientos especializados adecuados por lo que respecta a la IA y las tecnologías conexas para que sepan en qué consisten, cómo se usan y cómo servirse de ellas correctamente y con arreglo a Derecho, a fin de evitar infracciones de los derechos de propiedad intelectual; pone de relieve, en particular, la importancia de la alfabetización digital para el personal que trabaja en el ámbito de la educación, así como de la mejora de la formación digital para las personas de edad avanzada, habida cuenta de que las nuevas generaciones ya tienen nociones básicas de estas tecnologías, puesto que han crecido con ellas;

7. Hace hincapié en que la inteligencia artificial europea debe salvaguardar y promover los valores fundamentales de nuestra Unión, como la democracia, la independencia y la libertad de los medios de comunicación y las fuentes de información, una educación de calidad, la sostenibilidad medioambiental, el equilibrio de género y la diversidad cultural y lingüística;

8. Pide a la Comisión, a los Estados miembros y a las empresas que aprovechen activamente y al máximo las posibilidades de la IA para aportar datos fehacientes y luchar contra las noticias falsas, la desinformación, la xenofobia y el racismo en las plataformas culturales y audiovisuales en línea, evitando al mismo tiempo la censura;

9. Señala que la independencia del proceso creativo suscita interrogantes con respecto a la propiedad de los derechos de propiedad intelectual; considera, en este sentido, que no sería adecuado tratar de dotar a las tecnologías de IA de personalidad jurídica;

10. Señala que la IA puede desempeñar un importante papel en la promoción y la protección de nuestra diversidad cultural nacional y europea, especialmente cuando la utilicen plataformas audiovisuales en línea para recomendar contenidos a los clientes;

11. Señala que la IA podría beneficiar al sector de la investigación, entre otras cosas, gracias al papel que la analítica predictiva puede desempeñar a la hora de afinar el análisis de datos, por ejemplo en relación con la adquisición y circulación de bienes culturales; subraya la necesidad de que la Unión Europea aumente las inversiones y favorezca las asociaciones entre la industria y el mundo académico para reforzar la excelencia de la investigación a nivel europeo;

12. Constata el importante papel que desempeñan unos medios de comunicación independientes en la cultura y la vida diaria de los ciudadanos; subraya que los medios de comunicación que publican noticias falsas constituyen un grave problema, dado que por lo general infringen constantemente los derechos de autor y los derechos de propiedad intelectual; insta a la Comisión a que, en cooperación con los Estados miembros, prosiga su labor de concienciación sobre este problema y contrarreste los efectos de la publicación de noticias falsas por parte de los medios de comunicación, así como los problemas relacionados con las fuentes; considera, además, importante elaborar estrategias educativas para mejorar la alfabetización digital específicamente a este respecto;

13. Observa que el software basado en la IA, por ejemplo los programas de reconocimiento de imágenes, podría aumentar de forma muy significativa la capacidad de los centros educativos y el personal docente para proporcionar y desarrollar métodos de enseñanza modernos, innovadores y de calidad, mejorar la alfabetización y capacidades digitales del conjunto de la población y mejorar el acceso a la educación; considera, no obstante, que han de evaluarse la fiabilidad y la exactitud de dichos métodos educativos y que han de garantizarse la equidad en la educación, la no discriminación y la seguridad de los niños y los menores, tanto dentro de los centros docentes como cuando estén conectados a distancia para fines educativos; destaca la importancia de la legislación en materia de privacidad y protección de datos para garantizar una protección adecuada de los datos personales, en particular los datos de los niños, a través de fuentes de datos transparentes y fiables que respeten los derechos de propiedad intelectual; considera vital que estas tecnologías solo se integren en los sistemas existentes si se tiene la absoluta seguridad de que está garantizada la protección de los derechos fundamentales y de la privacidad; destaca que el software de reconocimiento no debe servir para otros fines que no sean los pedagógicos y en ningún caso debe ser usado para controlar el acceso a los establecimientos; resalta, a este respecto, la dependencia de los datos externos y de unos pocos proveedores de software que dominan el mercado; recuerda que las tecnologías adquiridas con dinero público deben desarrollarse como software de código abierto para permitir la puesta en común y la reutilización de los recursos, poniéndose a disposición en toda la Unión y aumentando, de este modo, los beneficios y reduciendo el gasto público, al tiempo que se garantiza el pleno respeto de la legislación aplicable, en particular la Directiva (UE) 2019/790 del Parlamento Europeo y del Consejo, de 17 de abril de 2019, sobre los derechos de autor y derechos afines en el mercado único digital[20];

14. Señala que, para que la utilización de la IA sea beneficiosa para el sector de la educación y de la investigación, la Unión debe favorecer la formación en las competencias del mañana y, en particular, un enfoque ético y responsable de las tecnologías de IA; señala asimismo, en esta perspectiva, que esta formación no debe estar reservada únicamente a las ramas científicas y técnicas, ya más familiarizadas con estas herramientas, sino que, por el contrario, debe dirigirse al mayor número posible de personas, en particular a las jóvenes generaciones;

15. Destaca que la necesidad de inversiones en investigación e innovación en relación con el uso y el desarrollo de la IA y sus aplicaciones educativas, culturales y audiovisuales es un factor esencial a este respecto; pide a la Comisión que encuentre financiación adicional para fomentar la investigación y la innovación en relación con las aplicaciones de IA en estos sectores;

16. Expresa una viva preocupación ante el hecho de que las escuelas y otros proveedores de servicios de educación sean cada vez más dependientes de los servicios de tecnología educativa, incluidas aplicaciones de IA, que ofrecen empresas dominantes, establecidas en su mayoría fuera de la Unión;

17. Subraya la necesidad de velar por una alfabetización digital y en materia de IA en toda la Unión, especialmente mediante la creación de oportunidades de formación para los profesores; insiste en que la utilización de las tecnologías de IA en las escuelas debe contribuir a reducir la brecha digital social y regional;

18. Destaca que la crisis de la pandemia de COVID-19 puede ser considerada como un periodo de prueba para el desarrollo y la utilización de tecnologías digitales y tecnologías relacionadas con la IA en los sectores educativo y cultural, como han demostrado las numerosas plataformas de enseñanza a distancia y herramientas en línea destinadas a la promoción cultural utilizadas en todos los Estados miembros; pide, por lo tanto, a la Comisión que haga balance de estas experiencias a la hora de considerar un enfoque común de la Unión con respecto al creciente uso de dichas soluciones tecnológicas;

19. Recuerda que la protección de datos y la privacidad pueden verse especialmente afectadas por la IA; defiende el respeto de los principios establecidos en el Reglamento General de Protección de Datos (RGPD);

20. Pide a la Comisión una protección más firme de los datos personales de los alumnos y los docentes en el ámbito de la educación;

21. Hace hincapié en que la interacción entre la IA y las industrias creativas es compleja y requiere una evaluación en profundidad; acoge con satisfacción el estudio en curso titulado «Trends and Developments in Artificial Intelligence - Challenges to the IPR Framework» (Tendencias y avances en inteligencia artificial: retos para el marco de los derechos de propiedad intelectual) y el «Estudio sobre derechos de autor y nuevas tecnologías: Gestión de datos de derechos de autor e inteligencia artificial»; subraya la importancia de aclarar las condiciones de uso de los contenidos protegidos por derechos de autor como datos de entrada (imágenes, música, películas, bases de datos, etc.) y en la elaboración de productos culturales y audiovisuales, creados por el hombre con la ayuda de la IA o generados de forma autónoma por tecnologías de IA; pide a la Comisión que estudie el impacto de la IA en los sectores creativos europeos; reitera la importancia de los datos europeos y acoge con satisfacción las declaraciones realizadas por la Comisión a este respecto, así como el lugar prominente que ocupan la inteligencia artificial y las tecnologías conexas en su programa de trabajo;

22. Hace hincapié en el papel que desempeña la personalidad de los autores en la expresión de las decisiones libres y creativas que constituyen la originalidad de las obras[21]; subraya la importancia de las limitaciones y excepciones a los derechos de autor al utilizar contenidos como datos de entrada, en particular en la educación, el ámbito universitario y la investigación, así como en la elaboración de productos culturales y audiovisuales, incluidos los contenidos generados por los usuarios;

23. Hace hincapié en que la interacción entre la IA y las industrias creativas es compleja y requiere una evaluación en profundidad; considera que debe contemplarse la protección de las creaciones técnicas y artísticas generadas por la IA, con el fin de fomentar esta forma de creación;

24. Destaca que, en el contexto de la economía de los datos, es posible conseguir una mejor gestión de los datos sobre derechos de autor, con el fin de remunerar mejor a los autores y artistas intérpretes o ejecutantes, en particular para permitir la rápida identificación de la autoría y la titularidad de los derechos sobre contenidos, con lo que se contribuye a reducir el número de obras huérfanas; subraya asimismo que las soluciones tecnológicas de IA deben utilizarse para mejorar la infraestructura de datos sobre derechos de autor y la interconexión de metadatos en las obras, así como para facilitar la obligación de transparencia establecida en el artículo 19 de la Directiva sobre los derechos de autor y derechos afines en el mercado único digital, de cara a la producción de una información actualizada, pertinente y exhaustiva sobre la explotación de las obras e interpretaciones o ejecuciones de autores y artistas intérpretes o ejecutantes, en particular cuando sean varios los titulares de derechos o en caso de complejidad de los sistemas de licencias;

25. Subraya la necesidad de buscar la forma más eficaz de reducir los sesgos en los sistemas de IA, con arreglo a normas éticas y no discriminatorias; subraya que los conjuntos de datos utilizados para entrenar la IA deben ser lo más amplios posible con objeto de representar a la sociedad de la mejor manera, que es preciso revisar los resultados para evitar todo tipo de estereotipos, discriminaciones y sesgos y que, cuando proceda, debe utilizarse la IA para detectar y corregir los sesgos humanos que puedan existir; insta a la Comisión a que promueva y facilite la puesta en común de estrategias en materia de eliminación de sesgos para los datos;

26. Pide a la Comisión que evalúe el impacto de la IA y las tecnologías conexas en los sectores audiovisual y creativo, en particular en lo que respecta a la autoría y las cuestiones relacionadas con esta;

27. Pide que el plan de acción sobre la propiedad intelectual anunciado por la Comisión aborde la cuestión de la IA y su impacto en los sectores creativos, teniendo en cuenta la necesidad de encontrar un equilibrio entre la protección de los derechos de propiedad intelectual y el estímulo creativo en los ámbitos de la educación, la cultura y la investigación; considera que la Unión puede ser pionera en la creación de tecnologías de IA si adopta un marco normativo operativo y políticas públicas proactivas, en particular en materia de programas de formación y de apoyo financiero a la investigación; pide a la Comisión que evalúe el impacto de los derechos de propiedad intelectual en la investigación y el desarrollo de la IA y las tecnologías conexas, así como en los sectores audiovisual y creativo, en particular en lo que respecta a la autoría, la remuneración justa de los autores y las cuestiones afines;

28. Destaca el papel que deberá tener en el futuro la inclusión de herramientas tecnológicas basadas en la IA en la conservación, la divulgación y el control del patrimonio, al igual que en los proyectos de investigación asociados;

29. Destaca la necesidad de alcanzar un equilibrio entre el desarrollo de sistemas de IA y su utilización en los sectores educativo, cultural y audiovisual, por una parte, y la medidas de protección de la competencia y de la competitividad del mercado para todas las empresas de IA en estos sectores, por otra; destaca, a este respecto, la necesidad de alentar a las empresas a invertir en la innovación de los sistemas de IA empleados en esos sectores, evitando al mismo tiempo que las empresas que suministran estas aplicaciones obtengan un monopolio de mercado;

30. Subraya que en ningún supuesto la utilización de la IA y las tecnologías conexas puede convertirse en realidad sin control humano; reitera la importancia de los derechos fundamentales y de la supremacía global de la legislación en materia de protección de datos y de la privacidad, imprescindible a la hora de usar dichas tecnologías;

31. Pide a la Comisión que evalué el impacto de la IA y las tecnologías conexas en la creación de nuevas obras audiovisuales tales como los ultrafalsos (deep fakes) y que determine consecuencias jurídicas adecuadas en caso de creación, producción o distribución de dichas obras con fines malintencionados;

32. Señala que la automatización y el desarrollo de la IA podrían constituir una amenaza para el empleo y reafirma la prioridad de mantener los puestos de trabajo, en particular en los sectores educativo, cultural y creativo;

33. Insta a la Comisión a que, en coordinación con los Estados miembros, ponga en marcha un plan educativo a escala de la Unión sobre la alfabetización digital y en materia de IA, prestando particular atención a los estudiantes de las escuelas y a los jóvenes;

34. Pide a la Comisión que examine los aspectos jurídicos de los productos obtenidos con tecnologías de IA, así como de los contenidos culturales creados utilizando la IA y las tecnologías conexas; considera importante apoyar la producción de contenidos culturales; reitera, no obstante, la importancia de salvaguardar el marco único de la Unión en materia de derechos de propiedad intelectual y de que todo cambio se realice con el debido y necesario cuidado, para que no se rompa el frágil equilibrio existente; insta a la Comisión a que proceda a una evaluación en profundidad sobre la posible personalidad jurídica de los contenidos elaborados con IA, así como a la aplicación de derechos de propiedad intelectual a los contenidos generados con IA y a los contenidos creados usando herramientas de IA;

35. Pide a la Comisión que establezca requisitos aplicables a la adquisición y la implementación de la inteligencia artificial y las tecnologías conexas por parte de organismos del sector público de la Unión, a fin de asegurar el respeto de la legislación de la Unión y de los derechos fundamentales; destaca el valor añadido de instrumentos como las consultas públicas y las evaluaciones de impacto, que deben realizarse antes de la adquisición o la implementación de sistemas de inteligencia artificial, tal como se recomienda en el informe del relator especial a la Asamblea General de las Naciones Unidas sobre la IA y su impacto en la libertad de opinión y expresión[22];

36. Pide a la Comisión que establezca normas que garanticen una verdadera interoperabilidad de los datos, de manera que el contenido adquirido en una plataforma sea accesible desde cualquier herramienta digital, independientemente de la marca;

37. Subraya que los retos que plantea la utilización de la inteligencia artificial y las tecnologías conexas solo pueden superarse estableciendo obligaciones en materia de calidad de los datos y requisitos de control y transparencia, con objeto de que el público y las autoridades puedan evaluar el respeto de la legislación de la Unión y de los derechos fundamentales; espera las propuestas de la Comisión a raíz de su Comunicación titulada «Una Estrategia Europea de Datos»[23] por lo que respecta al intercambio y la puesta en común de conjuntos de datos;

38. Insta, además, a la Comisión a que, en estrecha cooperación con los Estados miembros y las partes interesadas pertinentes, considere la posibilidad de elaborar mecanismos o sistemas de verificación para los editores, autores, creadores, etc., a fin de ayudarles a verificar qué contenidos pueden utilizar y a determinar más fácilmente qué está protegido por la legislación relativa a los derechos de propiedad intelectual.


INFORMACIÓN SOBRE LA APROBACIÓN EN LA COMISIÓN COMPETENTE PARA EMITIR OPINIÓN

Fecha de aprobación

10.9.2020

 

 

 

Resultado de la votación final

+:

–:

0:

22

2

1

Miembros presentes en la votación final

Manon Aubry, Gunnar Beck, Geoffroy Didier, Angel Dzhambazki, Ibán García Del Blanco, Jean-Paul Garraud, Esteban González Pons, Mislav Kolakušić, Gilles Lebreton, Karen Melchior, Jiří Pospíšil, Franco Roberti, Marcos Ros Sempere, Liesje Schreinemacher, Stéphane Séjourné, Raffaele Stancanelli, Marie Toussaint, Adrián Vázquez Lázara, Axel Voss, Marion Walsmann, Tiemo Wölken, Lara Wolters, Javier Zarzalejos

Suplentes presentes en la votación final

Heidi Hautala, Emil Radev

 


VOTACIÓN FINAL NOMINAL EN LA COMISIÓN COMPETENTE PARA EMITIR OPINIÓN

22

+

PPE

Geoffroy Didier, Esteban González Pons, Jiří Pospíšil, Emil Radev, Axel Voss, Marion Walsmann, Javier Zarzalejos

S&D

Ibán García Del Blanco, Franco Roberti, Marcos Ros Sempere, Tiemo Wölken, Lara Wolters

Renew

Karen Melchior, Liesje Schreinemacher, Stéphane Séjourné, Adrián Vázquez Lázara

ID

Gunnar Beck, Jean‑Paul Garraud, Gilles Lebreton

ECR

Angel Dzhambazki, Raffaele Stancanelli

NI

Mislav Kolakušić

 

2

-

Verts/ALE

Heidi Hautala, Marie Toussaint

 

1

0

GUE/NGL

Manon Aubry

 

Explicación de los signos utilizados

+ : a favor

- : en contra

0 : abstenciones

 

 


 

OPINIÓN DE LA COMISIÓN DE DERECHOS DE LAS MUJERES E IGUALDAD DE GÉNERO (14.9.2020)

para la Comisión de Cultura y Educación

sobre la inteligencia artificial en los sectores educativo, cultural y audiovisual

(2020/2017(INI))

Ponente de opinión: Maria da Graça Carvalho

 

SUGERENCIAS

La Comisión de Derechos de las Mujeres e Igualdad de Género pide a la Comisión de Cultura y Educación, competente para el fondo, que incorpore las siguientes sugerencias en la propuesta de Resolución que apruebe:

A. Considerando que la igualdad de género es un principio fundamental de la Unión, consagrado en los Tratados, que debe reflejarse en todas sus políticas, incluidos los sectores educativo, cultural y audiovisual, así como en el desarrollo de tecnologías tales como la inteligencia artificial (IA), puesto que estos son canales fundamentales para promover cambios de actitudes y romper con los estereotipos y los sesgos de género en las normas sociales existentes; considerando que el desarrollo de la digitalización y tecnologías como la IA están transformando fundamentalmente nuestra realidad y que su regulación en la actualidad influirá en gran medida en nuestras sociedades futuras; que en todo lo relativo al desarrollo y al uso de la IA debe abogarse por un enfoque de orientación humana y fundamentado en los derechos humanos y la ética;

B. Considerando que el artículo 21 de la Carta de los Derechos Fundamentales de la Unión Europea prohíbe la discriminación por una amplia gama de motivos y debe ser un principio rector; que no deben reproducirse múltiples formas de discriminación en el diseño, la introducción, el desarrollo y el uso de sistemas de IA basados en algoritmos sesgados de género, ni en los contextos sociales en los que se utilizan dichos algoritmos;

C. Considerando que las experiencias pasadas, especialmente en los ámbitos técnicos, nos han demostrado que los avances y las innovaciones a menudo se basan principalmente en datos masculinos y que las necesidades de las mujeres no se reflejan plenamente; que hacer frente a esos sesgos exige una mayor vigilancia, soluciones técnicas y el desarrollo de unos requisitos claros de equidad, rendición de cuentas y transparencia;

D. Considerando que unos conjuntos de datos incompletos e inexactos, la falta de datos desglosados por sexo y unos algoritmos incorrectos pueden distorsionar el procesamiento de un sistema de IA, y poner en peligro la consecución de la igualdad de género en la sociedad; que los datos sobre colectivos desfavorecidos y formas de discriminación intersectoriales suelen ser incompletos o incluso inexistentes;

E. Considerando que las desigualdades de género, los estereotipos y la discriminación también se pueden crear y reproducir a través del lenguaje y las imágenes difundidas a través de los medios de comunicación y las aplicaciones basadas en la IA; que la educación, los programas culturales y los contenidos audiovisuales tienen una influencia considerable en la formación de las creencias y los valores de las personas y son una herramienta fundamental para luchar contra los estereotipos de género, reducir la brecha digital de género y establecer modelos de referencia sólidos; que debe establecerse un marco ético y reglamentario antes de aplicar soluciones automatizadas para estos ámbitos clave de la sociedad;

F. Considerando que la ciencia y la innovación pueden aportar beneficios transformadores para la vida, especialmente para las personas más rezagadas, como por ejemplo las mujeres y las niñas residentes en regiones remotas; que la educación científica es importante para adquirir competencias, un trabajo digno y empleos del futuro, así como para romper con los estereotipos de género que la consideran un ámbito típicamente masculino; que la ciencia y el pensamiento científico son esenciales para la cultura democrática, lo que a su vez es clave para avanzar en la igualdad de género;

G. Considerando que las mujeres están significativamente infrarrepresentadas en el sector de la IA, ya sea como creadoras, desarrolladoras o consumidoras; que el pleno potencial de las capacidades, los conocimientos y las cualificaciones de las mujeres en los ámbitos de la tecnología digital y de la IA, así como en el ámbito de las tecnologías de la información y la comunicación (TIC), junto con su reciclaje profesional, puede contribuir a impulsar la economía europea; considerando que, a escala mundial, solo el 22 % de los profesionales de la IA son mujeres; considerando que la falta de mujeres en el desarrollo de la IA no solo aumenta el riesgo de parcialidad, sino que también priva a la Unión de talento, visión y recursos, y constituye, por tanto, un obstáculo para la innovación; que la diversidad de género potencia las actitudes femeninas en los equipos, así como el rendimiento de estos, y favorece el potencial innovador tanto en los sectores privados como en los públicos;

H. Considerando que en la Unión una mujer de cada diez ya ha sufrido alguna forma de ciberviolencia desde los 15 años y que el ciberacoso sigue siendo motivo de preocupación en el desarrollo de la inteligencia artificial, también en el ámbito de la educación; que la ciberviolencia se dirige con frecuencia a las mujeres en la vida pública, como por ejemplo las activistas, las políticas y otras figuras públicas; que la IA y otras tecnologías emergentes pueden desempeñar un importante papel en la prevención de la ciberviolencia contra las mujeres y las niñas y en la educación de las personas;

I. Considerando que la Unión se enfrenta a una escasez sin precedentes de mujeres en las carreras y profesiones de ciencia, tecnología, ingeniería y matemáticas (CTIM) en la medida en que solo uno de cada tres licenciados en estos estudios es mujer pese a suponer las mujeres el 52 % de la población europea;

J. Considerando que, pese a la tendencia positiva en la participación y el interés de las mujeres en los estudios CTIM, los porcentajes siguen siendo insuficientes, máxime teniendo en cuenta la importancia de estas profesiones en un mundo cada vez más digitalizado;

1. Considera que la IA tiene un gran potencial de promoción de la igualdad de género siempre que se eliminen los sesgos conscientes e inconscientes ya existentes; subraya la necesidad de mayores esfuerzos normativos para garantizar que la IA respete los principios y valores de igualdad de género y no discriminación consagrados en el artículo 21 de la Carta de los Derechos Fundamentales; destaca, además, la importancia que revisten la rendición de cuentas, un enfoque diferenciado y transparente basado en el riesgo y un seguimiento continuo de los algoritmos existentes y nuevos, así como sus resultados;

2. Destaca la necesidad de que las organizaciones de medios de comunicación estén informadas de los principales parámetros de los sistemas de IA basados en algoritmos que determinan los resultados de la clasificación y las búsquedas en plataformas de terceros, y de que los usuarios estén informados del uso de la IA en los servicios de toma de decisiones y estén facultados para establecer sus parámetros de privacidad a través de medidas transparentes y comprensibles;

3. Recuerda que los algoritmos y la IA deben integrar los principios éticos desde el proceso de diseño, sin sesgos incorporados, de forma que garantice un máximo nivel de protección de los derechos fundamentales;

4. Pide unas políticas dirigidas a aumentar la participación de las mujeres en los ámbitos relacionados con los estudios CTIM, la IA y el sector de la investigación y la innovación, así como la adopción de un enfoque multinivel para abordar la brecha de género en todos los niveles de la educación, prestando una atención especial a la educación primaria, así como al empleo en el sector digital, destacando al mismo tiempo la importancia del perfeccionamiento y el reciclaje profesional;

5. Es consciente de que los estereotipos de género, el desaliento cultural y la falta de concienciación y de promoción de modelos de referencia femeninos suponen una traba y afectan negativamente a las oportunidades de las mujeres y de las jóvenes en las TIC, los ámbitos CTIM y la IA, y se traducen en situaciones de discriminación y menos oportunidades para las mujeres en el mercado laboral; considera fundamental aumentar el número de mujeres formadas y empleadas en estos sectores, lo que contribuirá a la participación y el empoderamiento económico de las mujeres y reducirá los riesgos asociados a la creación de los denominados algoritmos sesgados;

6. Anima a la Comisión y a los Estados miembros a que adquieran servicios educativos, culturales y audiovisuales de proveedores que apliquen el equilibrio de género en su lugar de trabajo, promuevan políticas y directrices de contratación pública que animen a las empresas a contratar a más mujeres para empleos en los ámbitos CTIM y faciliten la distribución de fondos a las empresas de los sectores educativo, cultural y audiovisual que tengan en cuenta criterios de equilibrio de género;

7. Destaca la naturaleza transversal de la discriminación de género, basada en sesgos de género conscientes o inconscientes, y que se manifiesta en el sector educativo, el retrato que se hace de las mujeres en los medios de comunicación y en la publicidad en pantalla y fuera de pantalla, y la responsabilidad de los sectores público y privado a la hora de contratar, desarrollar y retener talentos femeninos de forma proactiva y de inspirar una cultura empresarial integradora;

8. Pide a la Comisión y a los Estados miembros que tengan en cuenta los aspectos éticos, inclusive desde una perspectiva de género, al elaborar las políticas y la legislación en materia de IA, y que, en su caso, adapten la legislación vigente, incluidos los programas de la Unión y las directrices éticas para el uso de la IA;

9. Anima a los Estados miembros a promulgar una estrategia para promover la participación de las mujeres en estudios y actividades profesionales relacionados con los ámbitos de las CTIM, las TIC y la IA en las estrategias nacionales existentes en aras de la igualdad de género, definiendo un objetivo para la participación de las mujeres investigadoras en proyectos relativos a los ámbitos de las CTIM y la IA; insta a la Comisión a que aborde la cuestión de la brecha de género en los estudios y actividades profesionales relacionados con los ámbitos de las CTIM, las TIC y la IA, y que le dé carácter prioritario en el paquete de medidas sobre las competencias digitales, con vistas a favorecer la presencia de las mujeres en todos los niveles educativos, así como por lo que respecta a la mejora de las capacidades y el reciclaje profesional de los trabajadores;

10. Reconoce que los creadores de las soluciones de IA deben hacer mayores esfuerzos para probar sus productos a conciencia y, de este modo, anticipar los posibles errores con incidencia sobre colectivos vulnerables; pide que se redoblen los esfuerzos para lograr una herramienta que enseñe a los algoritmos a reconocer conductas humanas inquietantes, que identifique los elementos que con mayor frecuencia contribuyen a la aparición de mecanismos discriminatorios en los procesos decisorios de los algoritmos;

11. Subraya la importancia de velar por que los intereses de las mujeres que sufren múltiples formas de discriminación y de las personas pertenecientes a grupos marginados y vulnerables sean tenidos debidamente en cuenta y estén incluidos en todo marco regulador futuro; señala con preocupación que, con el desarrollo de la IA, los grupos marginados corren el riesgo de sufrir nuevas brechas tecnológicas, económicas y sociales;

12. Pide medidas y legislación específicas para combatir la ciberviolencia; hace hincapié en que la Comisión y los Estados miembros deben asignar fondos adecuados para el desarrollo de soluciones de IA que prevengan y combatan la ciberviolencia, el acoso sexual y la explotación directa en línea de las mujeres y las niñas y ayuden a educar a los jóvenes; pide el desarrollo y la aplicación de medidas eficaces para hacer frente a las antiguas y nuevas formas de acoso en línea para las víctimas en el lugar de trabajo;

13. Señala que, a fin de estudiar las repercusiones de los sistemas algorítmicos sobre los ciudadanos, el acceso a los datos ha de hacerse extensible a terceros apropiados, en particular a investigadores independientes, medios de comunicación y organizaciones de la sociedad civil, respetando plenamente en todo momento la legislación de la Unión en materia de protección de datos y privacidad; señala que debe informarse a los usuarios siempre que se haya utilizado un algoritmo para tomar decisiones que les afectan, en particular cuando las decisiones tienen que ver con el acceso a prestaciones o productos;

14. Pide a la Comisión y a los Estados miembros que elaboren medidas que incorporen plenamente la dimensión de género, como campañas de sensibilización, formación y planes de estudios, que proporcionen información a los ciudadanos sobre el funcionamiento de los algoritmos y su impacto en su vida cotidiana; pide, además, a los Estados miembros que fomenten la igualdad de género en las mentalidades y las condiciones de trabajo que conduzcan al desarrollo de productos tecnológicos y entornos de trabajo más inclusivos; insta a la Comisión y a los Estados miembros a que velen por que se incluya la formación en competencias digitales e IA en los planes de estudio escolares de manera accesible para todos, como una forma de cerrar la brecha digital de género; 

15. Subraya que es necesario formar a los trabajadores y educadores que se ocupan de cuestiones relativas a la IA con el fin de promover la capacidad de detectar y corregir prácticas discriminatorias por razón de género en el lugar de trabajo y en el ámbito docente, así como a los trabajadores encargados de desarrollar los sistemas y aplicaciones de IA para que puedan detectar y corregir problemas de discriminación basada en el género en los sistemas y aplicaciones de IA que desarrollen; pide que se establezcan responsabilidades claras en las empresas y en los centros docentes para velar por que no se den situaciones de discriminación por motivos de género en los lugares de trabajo y en los centros docentes; subraya que, para fines educativos y culturales, han de usarse imágenes de robots y relacionadas con la IA sin género, a menos que sea importante especificar el género por alguna razón;

16. Destaca la importancia del desarrollo y el despliegue de aplicaciones de IA en los sectores educativo, cultural y audiovisual a la hora de recopilar datos desglosados por género y otros datos relacionados con la igualdad, y de aplicar técnicas modernas de aprendizaje automático para la eliminación de sesgos, en caso necesario, a fin de corregir los estereotipos de género y los sesgos de género susceptibles de tener efectos negativos; 

17. Insta a la Comisión y a los Estados miembros a que recopilen datos desglosados por género para alimentar los conjuntos de datos de manera que se promueva la igualdad; les pide igualmente que midan el impacto de las políticas públicas aplicadas para incorporar la dimensión de género mediante el análisis de los datos recopilados; subraya la importancia de usar datos completos, fiables, oportunos, no sesgados, no discriminatorios y que tengan en cuenta la perspectiva de género en el desarrollo de la IA;

18. Pide a la Comisión que incluya la educación en el marco regulador de las aplicaciones de IA de alto riesgo, habida cuenta de la importancia de garantizar que la educación siga contribuyendo al interés público y del carácter extremadamente delicado de los datos de los alumnos de centros escolares, los estudiantes universitarios u otras personas en formación; hace hincapié en que esta introducción en el ámbito de la educación debe contar con la participación de educadores, de alumnos y de la sociedad en su conjunto, y ha de tener en cuenta las necesidades de todos y los beneficios esperados, a fin de garantizar que la IA se utilice de forma consciente y ética;

19. Pide a la Comisión que fomente el uso de programas de la Unión tales como Horizonte Europa, Europa Digital y Erasmus+, de cara a la promoción de la investigación multidisciplinar, de proyectos piloto y de experimentos, así como del desarrollo de herramientas, también de formación, para la determinación de los sesgos de género en la IA, y de campañas de sensibilización destinadas al público en general;

20. Hace hincapié en la necesidad de crear diversos equipos de desarrolladores e ingenieros que trabajen conjuntamente con los principales agentes de los sectores educativo, cultural y audiovisual, a fin de evitar que se incluyan involuntariamente sesgos culturales o de género en los algoritmos, los sistemas y las aplicaciones de la IA; destaca la necesidad de considerar la variedad de diferentes teorías a través de las cuales se ha desarrollado la IA hasta la fecha y que podrían seguir avanzando en el futuro;

21. Señala que el hecho de actuar con la debida diligencia encaminada a eliminar los sesgos y la discriminación contra determinados colectivos, incluidos los estereotipos de género, no debe poner freno al progreso tecnológico.

 


INFORMACIÓN SOBRE LA APROBACIÓN EN LA COMISIÓN COMPETENTE PARA EMITIR OPINIÓN

Fecha de aprobación

10.9.2020

 

 

 

Resultado de la votación final

+:

–:

0:

28

3

4

Miembros presentes en la votación final

Christine Anderson, Simona Baldassarre, Robert Biedroń, Vilija Blinkevičiūtė, Annika Bruna, Margarita de la Pisa Carrión, Gwendoline Delbos-Corfield, Rosa Estaràs Ferragut, Frances Fitzgerald, Cindy Franssen, Heléne Fritzon, Lina Gálvez Muñoz, Arba Kokalari, Alice Kuhnke, Elżbieta Katarzyna Łukacijewska, Maria Noichl, Pina Picierno, Sirpa Pietikäinen, Samira Rafaela, Evelyn Regner, Diana Riba i Giner, Eugenia Rodríguez Palop, Christine Schneider, Jessica Stegrud, Isabella Tovaglieri, Ernest Urtasun, Hilde Vautmans, Elissavet Vozemberg-Vrionidi, Chrysoula Zacharopoulou, Marco Zullo

Suplentes presentes en la votación final

Maria da Graça Carvalho, Derk Jan Eppink, Elena Kountoura, Radka Maxová, Susana Solís Pérez

 


 

VOTACIÓN FINAL NOMINAL EN LA COMISIÓN COMPETENTE PARA EMITIR OPINIÓN

28

+

PPE

Maria da Graça Carvalho, Rosa Estaràs Ferragut, Frances Fitzgerald, Cindy Franssen, Arba Kokalari, Elżbieta Katarzyna Łukacijewska, Sirpa Pietikäinen, Christine Schneider, Elissavet Vozemberg‑Vrionidi

S&D

Robert Biedroń, Vilija Blinkevičiūtė, Heléne Fritzon, Lina Gálvez Muñoz, Maria Noichl, Pina Picierno, Evelyn Regner

Renew

Radka Maxová, Samira Rafaela, Susana Solís Pérez, Hilde Vautmans, Chrysoula Zacharopoulou

Verts/ALE

Gwendoline Delbos‑Corfield, Alice Kuhnke, Diana Riba i Giner, Ernest Urtasun

GUE/NGL

Elena Kountoura, Eugenia Rodríguez Palop

NI

Marco Zullo

 

3

-

ID

Annika Bruna

ECR

Derk Jan Eppink, Jessica Stegrud

 

4

0

ID

Christine Anderson, Simona Baldassarre, Isabella Tovaglieri

ECR

Margarita de la Pisa Carrión

 

Explicación de los signos utilizados

+ : a favor

- : en contra

0 : abstenciones

 

 

 


INFORMACIÓN SOBRE LA APROBACIÓN EN LA COMISIÓN COMPETENTE PARA EL FONDO

Fecha de aprobación

16.3.2021

 

 

 

Resultado de la votación final

+:

–:

0:

25

0

4

Miembros presentes en la votación final

Asim Ademov, Isabella Adinolfi, Christine Anderson, Ilana Cicurel, Gilbert Collard, Gianantonio Da Re, Laurence Farreng, Tomasz Frankowski, Hannes Heide, Irena Joveva, Petra Kammerevert, Niyazi Kizilyürek, Ryszard Antoni Legutko, Predrag Fred Matić, Dace Melbārde, Victor Negrescu, Niklas Nienaß, Peter Pollák, Marcos Ros Sempere, Domènec Ruiz Devesa, Monica Semedo, Andrey Slabakov, Massimiliano Smeriglio, Michaela Šojdrová, Sabine Verheyen, Theodoros Zagorakis, Milan Zver

Suplentes presentes en la votación final

Christian Ehler, Marcel Kolaja

 


VOTACIÓN FINAL NOMINAL EN LA COMISIÓN COMPETENTE PARA EL FONDO

25

+

ECR

Dace Melbārde

ID

Gilbert Collard

NI

Isabella Adinolfi

PPE

Asim Ademov, Christian Ehler, Tomasz Frankowski, Peter Pollák, Michaela Šojdrová, Sabine Verheyen, Theodoros Zagorakis, Milan Zver

Renew

Ilana Cicurel, Laurence Farreng, Irena Joveva, Monica Semedo

S&D

Hannes Heide, Petra Kammerevert, Predrag Fred Matić, Victor Negrescu, Marcos Ros Sempere, Domènec Ruiz Devesa, Massimiliano Smeriglio

The Left

Niyazi Kizilyürek

Verts/ALE

Marcel Kolaja, Niklas Nienaß

 

0

-

.

.

 

4

0

ECR

Ryszard Antoni Legutko, Andrey Slabakov

ID

Christine Anderson, Gianantonio Da Re

 

Explicación de los signos utilizados

+ : a favor

- : en contra

0 : abstenciones

 

Última actualización: 7 de mayo de 2021
Aviso jurídico - Política de privacidad