Das Europäische Parlament,

–  unter Hinweis auf die Charta der Grundrechte der Europäischen Union (im Folgenden „Charta“),

–  gestützt auf die Artikel 165, 166 und 167 des Vertrags über die Arbeitsweise der Europäischen Union,

–  unter Hinweis auf die Schlussfolgerungen des Rates vom 9. Juni 2020 zur Gestaltung der digitalen Zukunft Europas(1),

–  unter Hinweis auf die Stellungnahme des Europäischen Wirtschafts- und Sozialausschusses vom 19. September 2018 zum digitalen Geschlechtergefälle(2),

–   unter Hinweis auf den Vorschlag der Kommission vom 6. Juni 2018 für eine Verordnung des Europäischen Parlaments und des Rates zur Aufstellung des Programms „Digitales Europa“ für den Zeitraum 2021–2027 (COM(2018)0434),

–   unter Hinweis auf die Mitteilung der Kommission vom 30. September 2020 über den Aktionsplan für digitale Bildung 2021-2027 – Neuaufstellung des Bildungswesens für das digitale Zeitalter (COM(2020)0624),

–  unter Hinweis auf die Mitteilung der Kommission vom 30. September 2020 zur Vollendung des europäischen Bildungsraums bis 2025 (COM(2020)0625),

–  unter Hinweis auf den Bericht der Kommission vom 19. Februar 2020 über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung (COM(2020)0064),

–  unter Hinweis auf das Weißbuch der Kommission vom 19. Februar 2020 mit dem Titel „Künstliche Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen“ (COM(2020)0065),

–  unter Hinweis auf die Mitteilung der Kommission vom 19. Februar 2020 mit dem Titel „Eine europäische Datenstrategie“ (COM(2020)0066),

–  unter Hinweis auf die Mitteilung der Kommission vom 25. April 2018 zu „Künstliche Intelligenz für Europa“ (COM(2018)0237),

–  unter Hinweis auf die Mitteilung der Kommission vom 17. Januar 2018 zum Aktionsplan für digitale Bildung (COM(2018)0022),

–  unter Hinweis auf den von der hochrangigen Expertengruppe der Kommission für künstliche Intelligenz am 8. April 2019 veröffentlichten Bericht „Ethikleitlinien für vertrauenswürdige künstliche Intelligenz“,

–  unter Hinweis auf seine Entschließung vom 12. Februar 2019 zu einer umfassenden europäischen Industriepolitik in Bezug auf künstliche Intelligenz und Robotik(3),

–  unter Hinweis auf seine Entschließung vom 11. September 2018 zur Gleichstellung von Sprachen im digitalen Zeitalter(4),

–  unter Hinweis auf seine Entschließung vom 12. Juni 2018 zur Modernisierung des Bildungswesens in der EU(5),

–  unter Hinweis auf seine Entschließung vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik(6),

–  unter Hinweis auf seine Entschließung vom 1. Juni 2017 zur Digitalisierung der europäischen Industrie(7),

–  unter Hinweis auf das Briefing seiner Fachabteilung Struktur- und Kohäsionspolitik vom Mai 2020 zum Einsatz von künstlicher Intelligenz in der Kultur- und Kreativbranche,

–  unter Hinweis auf die gründliche Analyse seiner Fachabteilung Struktur- und Kohäsionspolitik vom Mai 2020 zum Einsatz von künstlicher Intelligenz im audiovisuellen Sektor,

–  unter Hinweis auf die Studie seiner Fachabteilung Bürgerrechte und konstitutionelle Angelegenheiten „Education and employment of women in science, technology and the digital economy, including AI and its influence on gender equality“ (Bildung und Beschäftigung von Frauen in Wissenschaft, Technologie und digitaler Wirtschaft, einschließlich KI, und der Einfluss auf die Geschlechtergleichstellung) vom April 2020,

–  gestützt auf Artikel 54 seiner Geschäftsordnung,

–  unter Hinweis auf die Stellungnahmen des Ausschusses für bürgerliche Freiheiten, Justiz und Inneres, des Ausschusses für Binnenmarkt und Verbraucherschutz, des Rechtsausschusses und des Ausschusses für die Rechte der Frauen und die Gleichstellung der Geschlechter,

–  unter Hinweis auf den Bericht des Ausschusses für Kultur und Bildung (A9-0127/2021),

A.  in der Erwägung, dass die Technologien der künstlichen Intelligenz (KI), die unter Umständen direkte Auswirkungen auf unsere Gesellschaften haben, sich in rasantem Tempo entwickeln und zunehmend in beinahe all unseren Lebensbereichen, einschließlich der Bildung, der Kultur und des audiovisuellen Bereichs, eingesetzt werden; in der Erwägung, dass ethische KI wohl zur Verbesserung der Arbeitsproduktivität und zur Beschleunigung des Wirtschaftswachstums beitragen wird;

B.  in der Erwägung, dass sich die Entwicklung, Einführung und Nutzung von KI, einschließlich der von ihr verwendeten und generierten Software, Algorithmen und Daten, an den ethischen Grundsätzen der Transparenz, Erklärbarkeit, Fairness, Rechenschaftspflicht und Verantwortung orientieren sollte;

C.  in der Erwägung, dass öffentliche Investitionen in KI in der Union weit hinter denen anderer großer Volkswirtschaften zurückbleibt; in der Erwägung, dass zu geringe Investitionen in KI wahrscheinlich Auswirkungen auf die Wettbewerbsfähigkeit der Union in allen Sektoren haben werden;

D.  in der Erwägung, dass ein integrierter Ansatz für KI und die Verfügbarkeit, Sammlung und Interpretation von hochwertigen, vertrauenswürdigen, fairen, transparenten, zuverlässigen, sicheren und kompatiblen Daten für die Entwicklung von ethischer KI von wesentlicher Bedeutung sind;

E.  in der Erwägung, dass Artikel 21 der Charta Diskriminierung aus einer Vielzahl von Gründen verbietet; in der Erwägung, dass vielfältige Formen von Diskriminierung bei der Entwicklung, Einführung und Nutzung von KI-Systemen nicht reproduziert werden sollten;

F.  in der Erwägung, dass die Gleichstellung der Geschlechter als wesentlicher Grundsatz der Union in den Verträgen verankert ist und in allen Politikbereichen der Union Niederschlag finden sollte, auch in den Bereichen Bildung, Kultur und Audiovisuelles sowie bei der Entwicklung von Technologien wie KI;

G.  in der Erwägung, dass die Erfahrungen der Vergangenheit, insbesondere in technischen Bereichen, gezeigt haben, dass Entwicklungen und Innovationen häufig vor allem auf Daten beruhen, die sich auf Männer beziehen, und dass den Bedürfnissen von Frauen nicht umfassend Rechnung getragen wird; in der Erwägung, dass der Umgang mit solchen Vorurteilen größere Wachsamkeit, technische Lösungen und die Entwicklung klarer Anforderungen an Fairness, Rechenschaftspflicht und Transparenz erfordert;

H.  in der Erwägung, dass unvollständige und ungenaue Datensätze, das Fehlen von nach Geschlecht aufgeschlüsselten Daten und fehlerhafte Algorithmen die Verarbeitungsprozesse eines KI-Systems verzerren und die Verwirklichung der Gleichstellung der Geschlechter in der Gesellschaft gefährden können; in der Erwägung, dass Daten über benachteiligte Gruppen und sich überschneidende Formen der Diskriminierung in der Regel unvollständig sind oder sogar vollständig fehlen;

I.  in der Erwägung, dass geschlechtsspezifische Ungleichheiten, Stereotype und Diskriminierung zudem durch die Sprache und die Bilder, die durch die Medien und KI-gestützte Anwendungen verbreitet werden, entstehen und reproduziert werden können; in der Erwägung, dass Bildung, Kulturprogramme und audiovisuelle Inhalte erheblichen Einfluss auf die Prägung der menschlichen Überzeugungen und Werte haben und ein grundlegendes Instrument für die Bekämpfung von Geschlechterstereotypen, die Verringerung der digitalen Kluft zwischen den Geschlechtern und die Begründung einer starken Vorbildfunktion sind; in der Erwägung, dass ein Ethik- und ein Regelungsrahmen vorhanden sein müssen, bevor automatisierte Lösungen für diese gesellschaftlichen Schlüsselbereiche umgesetzt werden;

J.  in der Erwägung, dass Wissenschaft und Innovation lebensverändernde Vorteile bringen können, insbesondere für diejenigen, die am stärksten benachteiligt sind, beispielsweise Frauen und Mädchen, die in abgelegenen Gebieten leben; in der Erwägung, dass wissenschaftliche Bildung wichtig ist, um Kompetenzen zu erwerben sowie eine menschenwürdige Arbeit und Arbeitsplätze der Zukunft zu erhalten und um mit den Geschlechterstereotypen zu brechen, denen zufolge diese Bereiche stereotyp als Männerdomänen angesehen werden; in der Erwägung, dass Wissenschaft und wissenschaftliches Denken der Schlüssel zu einer demokratischen Kultur sind, die wiederum grundlegend für die Förderung der Gleichstellung der Geschlechter ist;

K.  in der Erwägung, dass jede zehnte Frau in der Union seit ihrem 15. Lebensjahr bereits irgendeine Form von Cyber-Gewalt erlitten hat, und in der Erwägung, dass Cyber-Belästigung nach wie vor ein Problem bei der Entwicklung von KI ist, auch im Bildungsbereich; in der Erwägung, dass sich Cyber-Gewalt oft gegen Frauen im öffentlichen Leben richtet, etwa gegen Aktivistinnen, Politikerinnen und andere Persönlichkeiten des öffentlichen Lebens; in der Erwägung, dass die KI und andere neue Technologien eine wichtige Rolle bei der Verhinderung von Cyber-Gewalt gegen Mädchen und Frauen spielen und einen wichtigen Beitrag zur Aufklärung der Menschen leisten können;

L.  in der Erwägung, dass die Union und ihre Mitgliedstaaten eine besondere Verantwortung dafür tragen, den Mehrwert der KI-Technologien nutzbar zu machen, zu fördern und zu erhöhen und sicherzustellen, dass diese Technologien sicher sind und dem Wohl und dem allgemeinen Interesse der Europäer dienen; in der Erwägung, dass diese Technologien einen enormen Beitrag zur Erreichung unseres gemeinsamen Ziels leisten können, das Leben unserer Bürger zu verbessern und den Wohlstand in der Union zu fördern, indem sie dazu beitragen, bessere Strategien und Innovationen in einer Reihe von Bereichen zu entwickeln, insbesondere in den Bereichen Bildung und Kultur sowie im audiovisuellen Bereich;

M.  in der Erwägung, dass KI meistens auf Open-Source-Software basiert, was bedeutet, dass der Quellcode überprüft, geändert und verbessert werden kann;

N.  in der Erwägung, dass bestimmte Anpassungen an spezifische bestehende EU-Rechtsinstrumente notwendig sein könnten, um dem digitalen Wandel Rechnung zu tragen und neue Herausforderungen zu bewältigen, die sich aus dem Einsatz von KI-Technologien in den Bereichen Bildung und Kultur sowie im audiovisueller Sektor ergeben, wie etwa der Schutz personenbezogener Daten und der Privatsphäre, die Bekämpfung von Diskriminierung, die Förderung der Gleichstellung der Geschlechter und die Achtung der Rechte des geistigen Eigentums (IPR), des Umweltschutzes und der Verbraucherrechte;

O.  in der Erwägung, dass es wichtig ist, dem audiovisuellen Sektor Zugang zu den Daten der globalen Plattformen und der wichtigsten Akteure zu verschaffen, um gleiche Wettbewerbsbedingungen zu gewährleisten;

P.  in der Erwägung, dass KI und künftige Anwendungen oder Erfindungen, die mithilfe von KI hergestellt werden, einen doppelten Charakter haben können, wie dies bei jeder anderen Technologie auch der Fall ist; in der Erwägung, dass KI und verwandte Technologien viele Bedenken hinsichtlich der Ethik und Transparenz ihrer Entwicklung, Einführung und Nutzung aufwerfen, insbesondere in Bezug auf die Erhebung, Nutzung und Verbreitung von Daten; in der Erwägung, dass die Vorteile und Risiken von KI-Technologien in der Bildung und der Kultur sowie im audiovisueller Bereich sorgfältig bewertet und ihre Auswirkungen auf alle Aspekte der Gesellschaft gründlich und kontinuierlich analysiert werden müssen, ohne ihr Potenzial zu untergraben;

Q.  in der Erwägung, dass Bildung darauf abzielt, menschliches Potenzial, Kreativität und einen authentischen sozialen Wandel zu erreichen, während der falsche Einsatz von datengesteuerten KI-Systemen die menschliche und soziale Entwicklung behindern kann;

R.  in der Erwägung, dass Bildung und Bildungschancen ein Grundrecht sind; in der Erwägung, dass die Entwicklung, Einführung und Nutzung von KI-Technologien im Bildungsbereich als Anwendungen mit hohem Risiko eingestuft und strengeren Anforderungen an Sicherheit, Transparenz, Fairness und Rechenschaftspflicht unterworfen werden sollten;

S.  in der Erwägung, dass eine hochwertige, schnelle und sichere flächendeckende Konnektivität, Breitbandnetze, Netze mit hoher Kapazität, IT-Fachwissen, digitale Fähigkeiten, digitale Geräte und Infrastrukturen sowie gesellschaftliche Akzeptanz und ein zielgerichteter und sachgerechter politischer Rahmen einige der Voraussetzungen für den breiten und erfolgreichen Einsatz von KI in der Union sind; in der Erwägung, dass es von wesentlicher Bedeutung ist, dass solche Infrastrukturen und Geräte in der gesamten Union gleichmäßig eingesetzt werden, um die digitale Kluft zwischen ihren Regionen und Bürgern, die es immer noch gibt, zu überwinden;

T.  in der Erwägung, dass die Beseitigung der geschlechtsspezifischen Unterschiede in den Fächern Naturwissenschaften, Technologie, Ingenieurwesen, Kunst und Mathematik (STEAM) eine absolute Notwendigkeit ist um sicherzustellen, dass die gesamte Gesellschaft bei der Entwicklung, dem Einsatz und der Nutzung von KI-Technologien, einschließlich der von ihnen verwendeten und erzeugten Software, Algorithmen und Daten, gleichberechtigt und fair vertreten ist;

U.  in der Erwägung, dass es von entscheidender Bedeutung ist, dafür zu sorgen, dass alle Menschen in der Union von klein auf die notwendigen Fähigkeiten erwerben, um die Möglichkeiten und Grenzen der KI besser zu verstehen, sich auf die zunehmende Präsenz von KI und verwandten Technologien in allen Aspekten menschlicher Tätigkeit vorzubereiten und die damit verbundenen Chancen in vollem Umfang nutzen zu können; in der Erwägung, dass der weit verbreitete Erwerb digitaler Fähigkeiten in allen Teilen der Gesellschaft in der Union eine Voraussetzung für die Verwirklichung eines fairen digitalen Wandels ist, der allen zugutekommt;

V.  in der Erwägung, dass die Mitgliedstaaten hierfür in digitale Bildung und Medienerziehung investieren, Schulen mit einer adäquaten Infrastruktur und den notwendigen Endgeräten ausstatten und der Vermittlung digitaler Fähigkeiten und Kompetenzen in den Lehrplänen mehr Beachtung schenken müssen;

W.  in der Erwägung, dass KI und verwandte Technologien genutzt werden können, um Lern- und Lehrmethoden zu verbessern, insbesondere indem sie den Bildungssystemen helfen, faire Daten zu nutzen, um die Bildungsgerechtigkeit und -qualität zu verbessern, und gleichzeitig maßgeschneiderte Lehrpläne und einen besseren Zugang zur Bildung fördern sowie bestimmte Verwaltungsaufgaben verbessern und automatisieren; in der Erwägung, dass ein gleichberechtigter und fairer Zugang zu digitalen Technologien und Hochgeschwindigkeitsverbindungen erforderlich ist, damit der Einsatz von KI der gesamten Gesellschaft zugutekommt; in der Erwägung, dass es von ausschlaggebender Bedeutung ist, dafür zu sorgen, dass die digitale Bildung für alle zugänglich ist, auch für Menschen aus benachteiligten Verhältnissen und für Menschen mit Behinderungen; in der Erwägung, dass die Lernergebnisse nicht von der Technologie an sich abhängen, sondern davon, wie die Lehrkräfte die Technologie auf pädagogisch sinnvolle Weise nutzen können;

X.  in der Erwägung, dass KI das besondere Potenzial hat, Lösungen für die tagtäglichen Herausforderungen des Bildungssektors zu bieten, wie beispielsweise personalisiertes Lernen, Überwachen von Lernschwierigkeiten, Automatisierung von fachspezifischen Inhalten bzw. fachspezifischem Wissen, Bereitstellung einer besseren beruflichen Ausbildung und Unterstützung des Übergangs zu einer digitalen Gesellschaft;

Y.  in der Erwägung, dass KI praktische Auswirkungen auf die Verringerung des Verwaltungsaufwands von Lehrkräften und Bildungseinrichtungen haben könnte und diese dann mehr Zeit für ihre Hauptaufgaben – Lehr- und Lerntätigkeiten – hätten;

Z.  in der Erwägung, dass neue KI-basierte Anwendungen in der Bildung Fortschritte in verschiedenartigen Disziplinen wie Sprachenlernen und Mathematik ermöglichen;

AA.  in der Erwägung, dass KI-gestützte individuelle Lernerfahrungen nicht nur dazu beitragen können, die Motivation der Lernenden zu steigern und sie in die Lage zu versetzen, ihr volles Potenzial auszuschöpfen, sondern auch die Schulabbrecherquoten senken können;

AB.  in der Erwägung, dass KI zunehmend dazu beitragen kann, Lehrkräfte effektiver zu machen, indem sie ihnen ein besseres Verständnis für die Lernmethoden und -stile der Schüler vermittelt und ihnen hilft, Lernschwierigkeiten zu erkennen und individuelle Fortschritte besser zu bewerten;

AC.  in der Erwägung, dass auf dem digitalen Arbeitsmarkt der Union fast eine halbe Million Experten für Big-Data-Wissenschaften und Datenanalyse fehlen, die für die Entwicklung und den Einsatz hochwertiger und vertrauenswürdiger KI unabdingbar sind;

AD.  in der Erwägung, dass die Anwendung von KI im Bildungswesen Anlass zur Sorge gibt, was die ethisch einwandfreie Nutzung von Daten, die Rechte der Lernenden, den Zugriff auf Daten und den Schutz personenbezogener Daten anbelangt, und die Anwendung von KI damit Gefahren für die Grundrechte mit sich bringt, wie etwa die Erstellung von Rastermodellen von Profilen und dem Nutzerverhalten von Lernenden, was zu Diskriminierung führen oder die Gefahr bergen könnte, dass durch die Ausbreitung ungeeigneter pädagogischer Verfahren Schaden entsteht;

AE.  in der Erwägung, dass die Kultur eine zentrale Rolle bei der Nutzung von KI-Technologien in großem Maßstab spielt, die sich dank der Entwicklung innovativer Technologien und Instrumente und ihrer effektiven Anwendung, um den Bedürfnissen des Sektors gerecht zu werden, zu einer Schlüsseldisziplin für das Kulturerbe entwickelt;

AF.  in der Erwägung, dass KI-Technologien genutzt werden können, um kulturelles Erbe, unter anderem durch den Einsatz digitaler Instrumente zur Erhaltung historischer Stätten, zu fördern und zu schützen und um innovative Wege zu finden, um Datensätze kultureller Artefakte, die sich im Besitz von Kultureinrichtungen in der gesamten Union befinden, einem breiteren Publikum leichter zugänglich zu machen und gleichzeitig den Nutzern die Möglichkeit zu geben, sich in der riesigen Menge kultureller und kreativer Inhalte zurechtzufinden; in der Erwägung, dass die Förderung von Normen und Rahmen in Bezug auf die Interoperabilität in dieser Hinsicht von zentraler Bedeutung ist;

AG.  in der Erwägung, dass der Einsatz von KI-Technologien für kulturelle und kreative Inhalte, insbesondere für Medieninhalte und maßgeschneiderte Inhaltsempfehlungen, Fragen des Datenschutzes, der Diskriminierung und der kulturellen und sprachlichen Vielfalt aufwirft, das Risiko birgt, dass diskriminierende Ergebnisse auf der Grundlage voreingenommener Eingangsdaten erzeugt werden, und dass er die Meinungsvielfalt und den Medienpluralismus einschränken könnte;

AH.  in der Erwägung, dass KI-gestützte personalisierte Inhaltsempfehlungen häufig besser auf die spezifischen Bedürfnisse des Einzelnen, einschließlich kultureller und sprachlicher Präferenzen, eingehen können; in der Erwägung, dass KI einen Beitrag zur Förderung der sprachlichen Vielfalt in der Union sowie zur besseren Verbreitung europäischer audiovisueller Werke leisten kann, insbesondere durch automatisierte Untertitelung sowie Synchronisation audiovisueller Inhalte in andere Sprachen; in der Erwägung, dass die sprachübergreifende Bereitstellung von Medieninhalten daher von grundlegender Bedeutung für die Unterstützung der kulturellen und sprachlichen Vielfalt ist;

AI.  in der Erwägung, dass KI Innovationen in Nachrichtenredaktionen vorantreibt, indem sie verschiedenartige alltägliche Aufgaben automatisiert, Daten interpretiert und sogar Nachrichten wie Wettervorhersagen und Sportergebnisse generiert;

AJ.  weist darauf hin, dass die Förderung der Computerlinguistik für eine rechtebasierte KI durch die Vielsprachigkeit Europas ein spezifisches Innovationspotenzial darstellt, um den globalen Kultur- und Informationsaustausch im digitalen Zeitalter demokratisch und diskriminierungsfrei zu gestalten;

AK.  in der Erwägung, dass KI-Technologien das Potenzial haben, der Sonderpädagogik sowie der Zugänglichkeit kultureller und kreativer Inhalte für Menschen mit Behinderungen zugutezukommen; in der Erwägung, dass KI Lösungen ermöglicht, wie Spracherkennung, virtuelle Assistenten und digitale Darstellungen physischer Objekte; in der Erwägung, dass digitale Kreationen bereits ihren Teil dazu beitragen, solche Inhalte für Menschen mit Behinderungen zugänglich zu machen;

AL.  in der Erwägung, dass KI-Anwendungen im audiovisuellen Bereich allgegenwärtig sind, insbesondere auf audiovisuellen Inhalts-Plattformen;

AM.  in der Erwägung, dass KI-Technologien deshalb zur Erstellung, Planung, Verwaltung, Produktion, Verteilung, Lokalisierung und zum Konsum audiovisueller Medienprodukte beitragen;

AN.  in der Erwägung, dass KI zwar zur Erzeugung gefälschter Inhalte, wie etwa „Deepfakes“, eingesetzt werden kann, die exponentiell zunehmen und eine unmittelbare Bedrohung für die Demokratie darstellen, dass sie aber auch als unschätzbares Instrument zur Erkennung und sofortigen Bekämpfung solcher böswilligen Aktivitäten eingesetzt werden kann, beispielsweise durch Echtzeit-Faktenüberprüfung oder Kennzeichnung von Inhalten; in der Erwägung, dass das meiste Deepfake-Material leicht zu erkennen ist; in der Erwägung, dass gleichzeitig KI-gestützte Erkennungswerkzeuge im Allgemeinen erfolgreich sind, wenn es darum geht, solche Inhalte zu kennzeichnen und herauszufiltern; in der Erwägung, dass es an einem Rechtsrahmen für diesen Bereich mangelt;

Allgemeine Bemerkungen

1.  unterstreicht die strategische Bedeutung von KI und verwandten Technologien für die Union; betont, dass der Ansatz für KI und ihre verwandten Technologien auf den Menschen ausgerichtet und in den Menschenrechten und der Ethik verankert sein muss, damit KI wirklich zu einem Instrument wird, das den Menschen, dem Gemeinwohl und dem allgemeinen Interesse der Bürger dient;

2.  betont, dass bei Entwicklung, Einführung und Nutzung von KI in der Bildung, der Kultur und dem audiovisuellen Bereich die Grundrechte, -freiheiten und -werte, einschließlich der Menschenwürde, der Privatsphäre, des Schutzes personenbezogener Daten, der Nichtdiskriminierung und der Meinungs- und Informationsfreiheit sowie der kulturellen Vielfalt und der Rechte des geistigen Eigentums, wie sie in den Unionsverträgen und der Charta verankert sind, uneingeschränkt geachtet werden müssen;

3.  bekräftigt, dass Bildung, Kultur und der audiovisuelle Sektor sensible Bereiche sind, was den Einsatz von KI und verwandten Technologien betrifft, da sie das Potenzial haben, sich auf die Eckpfeiler der Grundrechte und -werte unserer Gesellschaft auszuwirken; betont daher, dass bei Entwicklung, Einführung und Nutzung von KI und verwandten Technologien in diesen Bereichen, einschließlich der von ihnen verwendeten und erzeugten Software, Algorithmen und Daten, ethische Grundsätze beachtet werden sollten;

4.  weist darauf hin, dass Algorithmen und KI ethisch konzipiert sein sollten, ohne Vorurteile zu integrieren, sodass ein größtmöglicher Schutz der Grundrechte gewährleistet ist;

5.  betont erneut, wie wichtig es ist, hochwertige, kompatible und integrative KI und verwandte Technologien für den Einsatz von Deep Learning zu entwickeln, die die Werte der Union, insbesondere die Gleichstellung der Geschlechter, die Mehrsprachigkeit und die für den interkulturellen Dialog erforderlichen Bedingungen, achten und verteidigen, da die Verwendung minderwertiger, veralteter, unvollständiger oder falscher Daten zu schlechten Vorhersagen und damit zu Diskriminierung und Voreingenommenheit führen kann; hebt die Tatsache hervor, dass es von wesentlicher Bedeutung ist, sowohl auf nationaler als auch auf Unionsebene Fähigkeiten zu entwickeln, um die Erhebung, Sicherheit, Systematisierung und Übertragbarkeit von Daten zu verbessern, ohne die Privatsphäre zu beeinträchtigen; nimmt den Vorschlag der Kommission zur Schaffung eines einheitlichen europäischen Datenraums zur Kenntnis;

6.  weist darauf hin, dass KI zu Vorurteilen und folglich zu verschiedenen Formen der Diskriminierung aufgrund des Geschlechts, der Rasse, der Hautfarbe, der ethnischen oder sozialen Herkunft, der genetischen Merkmale, der Sprache, der Religion oder der Weltanschauung, der politischen oder sonstigen Anschauung, der Zugehörigkeit zu einer nationalen Minderheit, des Vermögens, der Geburt, einer Behinderung, des Alters oder der sexuellen Ausrichtung führen kann; erinnert in diesem Zusammenhang daran, dass die Rechte aller Menschen gewährleistet werden müssen und dass KI und verwandte Technologien in keiner Form diskriminierend sein dürfen;

7.  betont, dass solche Vorurteile und Diskriminierungen aus bereits voreingenommenen Datensätzen entstehen können, die bestehende Diskriminierungen in der Gesellschaft widerspiegeln; erinnert in diesem Zusammenhang daran, dass es von wesentlicher Bedeutung ist, die einschlägigen Akteure, einschließlich der Zivilgesellschaft, einzubeziehen um zu verhindern, dass geschlechtsspezifische, soziale und kulturelle Vorurteile unbeabsichtigt in KI-Algorithmen, -Systeme und -Anwendungen einfließen; erachtet es als dringend notwendig, im Einklang mit ethischen Normen und Vorschriften über das Diskriminierungsverbot an dem effizientesten Weg zur Verringerung von Vorurteilen in KI-Systemen zu arbeiten; unterstreicht die Tatsache, dass die Datensätze, die zum Trainieren von KI verwendet werden, möglichst breit gefächert sein sollten, um die Gesellschaft auf die beste und relevanteste Weise zu repräsentieren, dass die Ergebnisse überprüft werden sollten, um alle Formen von Stereotypen, Diskriminierung und Voreingenommenheit zu vermeiden, und dass KI gegebenenfalls verwendet werden sollte, um menschliche Voreingenommenheit zu erkennen und zu korrigieren, wo immer sie vorhanden ist; fordert die Kommission auf, den Austausch über Strategien zur Beseitigung von Vorurteilen in den Datensätzen zu fördern und zu erleichtern;

8.  fordert die Kommission und die Mitgliedstaaten auf, bei der Ausarbeitung von Strategien und Rechtsvorschriften im Bereich KI ethische Fragen, auch aus geschlechtsspezifischer Perspektive, zu berücksichtigen und die geltenden Rechtsvorschriften, darunter Programme der Union und ethische Leitlinien für die Nutzung von KI, erforderlichenfalls anzupassen;

9.  fordert die Kommission und die Mitgliedstaaten auf, Maßnahmen zu erarbeiten, die die geschlechtsspezifische Dimension umfassend berücksichtigen, beispielsweise Sensibilisierungskampagnen, Schulungen und Lehrpläne, die Bürgerinnen und Bürger über die Funktionsweise von Algorithmen und deren Auswirkungen auf ihren Alltag informieren sollten; fordert sie ferner auf, für Frauen und Männer gleichwertige Denkweisen und Arbeitsbedingungen zu fördern, die zur Entwicklung von Technologien und Arbeitsumgebungen mit einem verstärkten integrativen Ansatz führen; fordert die Kommission und die Mitgliedstaaten nachdrücklich auf, digitale Kompetenzen und Schulungen im Bereich KI in die Lehrpläne der Schulen aufzunehmen und sie allen zugänglich zu machen, um die digitale Kluft zwischen den Geschlechtern zu schließen;

10.  hebt hervor, wie wichtig es ist, Arbeitnehmer und Lehrkräfte, die sich mit KI befassen, zu schulen, um sie zu befähigen, geschlechterdiskriminierende Praktiken am Arbeitsplatz und im Bildungswesen zu ermitteln und zu korrigieren, und auch Arbeitnehmer, die KI-Systeme und KI-gestützte Anwendungen entwickeln, zu schulen, damit sie Diskriminierungen aufgrund des Geschlechts in den von ihnen entwickelten KI-Systemen und Anwendungen erkennen und beheben; fordert, dass in Unternehmen und Bildungseinrichtungen klare Verantwortlichkeiten festgelegt werden um sicherzustellen, dass es am Arbeitsplatz und im bildungspolitischen Kontext nicht zu Diskriminierung aufgrund des Geschlechts kommt; betont, dass für pädagogische und kulturelle Zwecke geschlechtslose Bilder von KI und Robotern verwendet werden sollten, es sei denn, das Geschlecht spielt aus einem bestimmten Grund eine wesentliche Rolle;

11.  betont, wie wichtig die Entwicklung und der Einsatz von KI-Anwendungen in der Bildung und der Kultur sowie im audiovisuellen Bereich sind, um nach Geschlecht aufgeschlüsselte Daten sowie weitere Gleichstellungsdaten zu erfassen und moderne Techniken maschinellen Lernens für die Beseitigung von Vorurteilen anzuwenden, um Geschlechterstereotype und geschlechtsspezifische Vorurteile, die sich negativ auswirken können, bei Bedarf zu korrigieren;

12.  fordert die Kommission auf, die Bildung in den Regelungsrahmen für KI-Anwendungen mit hohem Risiko einzubeziehen, da sichergestellt werden muss, dass die Bildung weiterhin zum öffentlichen Wohl beiträgt, sowie angesichts der hohen Sensibilität der Daten über Schüler, Studierende und andere Lernende; betont, dass dieser Einsatz im Bildungsbereich Lehrkräfte, Lernende und die Gesellschaft insgesamt einbeziehen und deren Bedürfnisse und den erwarteten Nutzen berücksichtigen sollte, um sicherzustellen, dass KI gezielt und ethisch verantwortungsvoll eingesetzt wird;

13.  fordert die Kommission auf, die Nutzung von Programmen der Union wie Horizont Europa, Digitales Europa und Erasmus+ zu fördern, um multidisziplinäre Forschung, Pilotprojekte, Experimente und die Entwicklung von Instrumenten, einschließlich Schulungen, zur Ermittlung geschlechtsspezifischer Vorurteile im Bereich KI sowie Sensibilisierungskampagnen für die breite Öffentlichkeit zu fördern;

14.  hebt hervor, dass gemischte Teams aus Entwicklern und Ingenieuren gebildet werden müssen, die mit den Hauptakteuren in der Bildung, der Kultur und dem audiovisuellen Bereich zusammenarbeiten um zu vermeiden, dass geschlechtsspezifische Vorurteile oder gesellschaftliche Voreingenommenheit unbeabsichtigt in KI-gestützte Algorithmen, Systeme und Anwendungen aufgenommen werden; hält es für geboten, die unterschiedlichen Theorien zu berücksichtigen, anhand deren die KI bis dato entwickelt wurde und in Zukunft weiterentwickelt werden könnte;

15.  betont, dass der technologische Fortschritt nicht durch die angemessene Sorge für den Abbau von Vorurteilen, zum Beispiel von Geschlechterstereotypen, gegenüber bestimmten Gruppen und die Beseitigung von Diskriminierung ihnen gegenüber behindert werden sollte;

16.  betont erneut die Bedeutung der Grundrechte und den übergeordneten Vorrang der Rechtsvorschriften zum Schutz von Daten und der Privatsphäre, der beim Umgang mit solchen Technologien zwingend erforderlich ist; erinnert daran, dass der Datenschutz und die Privatsphäre durch KI besonders betroffen sein können, insbesondere die Daten von Kindern; hebt die in der Datenschutz-Grundverordnung (DSGVO)(8) festgelegten Grundsätze als verbindliche Prinzipien für den Einsatz von KI hervor; erinnert daran, dass im Zusammenhang mit allen KI-Anwendungen das Datenschutzrecht der Union, namentlich die DSGVO und die Datenschutzrichtlinie für elektronische Kommunikation(9), uneingeschränkt geachtet werden müssen; betont den Anspruch auf direktes Eingreifen einer Person, wenn KI und verwandte Technologien eingesetzt werden;

17.  fordert die Kommission und die Mitgliedstaaten auf, eine Verpflichtung zur Transparenz und Erklärbarkeit von KI-gestützten automatisierten Einzelentscheidungen, die im Rahmen der Vorrechte der öffentlichen Gewalt getroffen werden, umzusetzen und Sanktionen zu verhängen, um dies durchzusetzen; fordert die Umsetzung von Systemen, bei denen standardmäßig eine menschliche Überprüfung und ein menschliches Eingreifen erfolgt, sowie ein ordnungsgemäßes Verfahren, einschließlich Rechtsmittel und des Rechts auf Abhilfe sowie des Zugangs zu Rechtsbehelfen;

18.  stellt fest, dass personalisierte Werbung, insbesondere äußerst zielgruppenspezifische Werbung und verhaltensbasierte Werbung, und die Bewertung von Personen, insbesondere von Minderjährigen, ohne deren Zustimmung negative Auswirkungen haben können, da sie in das Privatleben von Einzelpersonen eingreifen und Fragen hinsichtlich der Erhebung und Nutzung der Daten aufwerfen, die für die Personalisierung der Werbung, das Anbieten von Produkten oder Dienstleistungen oder die Festsetzung von Preisen verwendet werden; fordert die Kommission daher auf, strenge Beschränkungen für gezielte Werbung auf der Grundlage der Erhebung personenbezogener Daten einzuführen, beginnend mit einem Verbot plattformübergreifender verhaltensbezogener Werbung, ohne kleinen und mittleren Unternehmen (KMU) zu schaden; erinnert daran, dass laut der Datenschutzrichtlinie für elektronische Kommunikation personalisierte Werbung derzeit nur zulässig ist, sofern die Zustimmung durch den Nutzer erteilt wurde, und eine solche andernfalls unzulässig ist; fordert die Kommission auf, den Rückgriff auf diskriminierende Praktiken bei der Bereitstellung von Diensten oder Produkten zu verbieten;

19.  hebt hervor, dass Medienorganisationen über die wesentlichen Parameter von auf Algorithmen beruhenden KI-Systemen, die das Ranking und die Suchergebnisse auf Plattformen von Dritten bestimmen, informiert sein müssen und dass Nutzer über den Einsatz von KI bei Diensten zur Entscheidungsfindung informiert und in die Lage versetzt werden müssen, die Parameter in Bezug auf ihre Privatsphäre mithilfe eines transparenten und verständlichen Verfahrens festzulegen;

20.  betont, dass durch KI Inhalte in der Bildung, der Kultur und dem audiovisuellen Bereich geschaffen werden können, zusammen mit Informations- und Bildungsplattformen, wozu die Auflistung verschiedener Arten von Kulturgütern und einer Vielzahl von Datenquellen gehört; nimmt die Risiken der Verletzung der Rechte des geistigen Eigentums zur Kenntnis, wenn KI und unterschiedliche Technologien mit einer Vielzahl von Quellen (Dokumente, Fotos, Filme) verknüpft werden, um die Art und Weise zu verbessern, wie Daten dargeboten, durchforscht und veranschaulicht werden; fordert, dass KI eingesetzt wird, um ein hohes Niveau des Schutzes der Rechte des geistigen Eigentums innerhalb des derzeitigen Rechtsrahmens zu gewährleisten, indem beispielsweise Einzelpersonen und Unternehmen gewarnt werden, wenn die Gefahr besteht, dass sie versehentlich gegen die Vorschriften verstoßen, oder indem die Inhaber von Rechten des geistigen Eigentums unterstützt werden, wenn die Vorschriften tatsächlich verletzt werden; betont daher die Bedeutung der Einführung eines geeigneten Rechtsrahmens auf Unionsebene für den Schutz der Rechte des geistigen Eigentums im Zusammenhang mit der Verwendung von KI;

21.  betont, dass ein Gleichgewicht zwischen der Entwicklung von KI-Systemen und deren Einsatz in der Bildung, der Kultur und dem audiovisuellen Bereich einerseits und der Sicherung von Wettbewerb und Wettbewerbsfähigkeit von KI-Unternehmen in diesen Bereichen auf dem Markt andererseits erzielt werden muss; betont in diesem Zusammenhang, dass Unternehmen bei Investitionen in die Innovation von in den genannten Bereichen eingesetzten KI-Systemen gefördert werden müssen und dass auch verhindert werden muss, dass einzelne Unternehmen, die technologische Anwendungen für in diesen Bereichen eingesetzte KI bereitstellen, ein Marktmonopol herausbilden; betont, dass KI der Kultur- und Kreativwirtschaft in ganz Europa auf breiter Basis zugänglich gemacht werden muss, um gleiche Wettbewerbsbedingungen und einen fairen Wettbewerb für alle Interessenträger und Akteure in Europa aufrechtzuerhalten; fordert die Kommission und die Mitgliedstaaten auf, bei wettbewerbspolitischen Entscheidungen, einschließlich Fusionen, der Rolle von Daten und Algorithmen bei der Konzentration von Marktmacht stärker Rechnung zu tragen;

22.  betont, dass man sich systematisch mit den sozialen, ethischen und rechtlichen Fragen befassen muss, die durch Entwicklung, Einführung und Nutzung von KI aufgeworfen werden, wie z. B. Transparenz von Algorithmen, algorithmische Rechenschaftspflicht, Nichtdiskriminierung, Chancengleichheit, Meinungsfreiheit und -vielfalt, Medienpluralismus, Eigentumsrechte an Daten und Inhalten sowie Erhebung, Nutzung und Verbreitung von Daten; empfiehlt, gemeinsame europäische Leitlinien und Standards zum Schutz der Privatsphäre bei gleichzeitiger effektiver Nutzung der verfügbaren Daten zu erarbeiten; fordert Transparenz bei der Entwicklung und Rechenschaftspflicht bei der Nutzung von Algorithmen;

23.  fordert die Kommission auf, ein umfassendes Paket von Bestimmungen zur Regelung von KI-Anwendungen auf horizontaler Basis vorzulegen und diese durch sektorspezifische Vorschriften, z. B. für audiovisuelle Mediendienste, zu ergänzen;

24.  betont die Notwendigkeit von Investitionen in Forschung und Innovation im Hinblick auf Entwicklung, Einführung und Nutzung von KI und ihrer Anwendungen in der Bildung, der Kultur und dem audiovisuellen Bereich; unterstreicht die Bedeutung öffentlicher Investitionen in diese Dienste und den ergänzenden Mehrwert, den öffentlich-private Partnerschaften bieten, um dieses Ziel zu erreichen und das volle Potenzial von KI in diesen Sektoren, insbesondere im Bildungsbereich, angesichts der beträchtlichen privaten Investitionen der letzten Jahre auszuschöpfen; fordert die Kommission auf, zusätzliche Finanzierungsmittel zu mobilisieren, um Forschung und Innovationen im Bereich der KI-Anwendungen in den genannten Bereichen zu fördern;

25.  hebt hervor, dass algorithmische Systeme dazu beitragen können, die digitale Spaltung der Gesellschaft schneller zu überwinden, andererseits eine ungleiche Nutzbarmachung jedoch droht, neue Gräben aufzuwerfen oder die Vertiefung bestehender Gräben zu beschleunigen; bringt seine Besorgnis darüber zum Ausdruck, dass Wissen und Infrastruktur in der Union nicht einheitlich entwickelt werden, wodurch die Zugänglichkeit von Produkten und Dienstleistungen, die auf KI angewiesen sind, eingeschränkt wird, insbesondere in dünn besiedelten und sozioökonomisch schwachen Gebieten; fordert die Kommission auf, die Kohärenz bei der gemeinsamen Nutzung der Vorteile der KI und verwandter Technologien zu gewährleisten;

26.  fordert die Kommission auf, Anforderungen für die Beschaffung und die Einführung von KI und verwandter Technologien durch öffentliche Stellen in der Union festzulegen, damit die Einhaltung des EU-Rechts und der Grundrechte sichergestellt wird; hebt den Mehrwert der Nutzung von Instrumenten wie öffentlichen Konsultationen und Folgenabschätzungen vor der Beschaffung oder der Einführung von KI-Systemen hervor, wie dies im Bericht des Sonderberichterstatters an die Generalversammlung der Vereinten Nationen über künstliche Intelligenz und ihre Auswirkungen auf die Meinungsfreiheit und die freie Meinungsäußerung empfohlen wird(10); empfiehlt den Behörden, Anreize für die Entwicklung und die Einführung von KI durch öffentliche Finanzierungen und das öffentliche Beschaffungswesen zu schaffen; betont, dass der Markt gestärkt werden muss, indem KMU die Möglichkeit gegeben wird, sich an der Beschaffung von KI-Anwendungen zu beteiligen, um die Teilnahme von Technologieunternehmen aller Größen sicherzustellen und so die Widerstandsfähigkeit und den Wettbewerb zu gewährleisten;

27.  fordert, dass unabhängige Prüfungen regelmäßig durchgeführt werden um zu überprüfen, ob die verwendeten KI-Anwendungen und die damit einhergehenden Kontrollen und Gegenkontrollen den spezifizierten Kriterien entsprechen, und dass diese Prüfungen der Überwachung durch unabhängige Aufsichtsbehörden, die über hinreichende Aufsichtskompetenz verfügen, unterliegen; fordert, spezifische Stresstests vorzusehen, so dass die Einhaltung der Vorschriften unterstützt und durchgesetzt wird;

28.  verweist auf die Vorteile und Risiken von KI hinsichtlich der Cybersicherheit sowie ihr Potenzial für die Bekämpfung der Cyberkriminalität und hebt hervor, dass sämtliche KI-Lösungen widerstandsfähig gegen Cyberangriffe sein müssen, wobei die Grundrechte der Union, insbesondere der Schutz personenbezogener Daten und der Privatsphäre, zu achten sind; betont, wie wichtig es ist, die sichere Nutzung von KI zu überwachen, und dass eine enge Zusammenarbeit zwischen der öffentlichen Hand und der Privatwirtschaft bestehen muss, damit gegen die Schwächen und Risiken im Zusammenhang mit dem Einsatz von KI vorgegangen werden kann; fordert die Kommission auf zu prüfen, ob eine bessere Prävention im Bereich der Cybersicherheit und der Maßnahmen zur Risikominderung in diesem Zusammenhang erforderlich ist;

29.  betont, dass die COVID-19-Pandemiekrise als eine Probezeit für die Entwicklung und Einführung digitaler und mit KI zusammenhängender Technologien in Bildung und Kultur betrachtet werden kann, wie die vielen online zur Verfügung gestellten Unterrichtsplattformen und Instrumente zur Kulturförderung in den Mitgliedstaaten zeigen; fordert die Kommission daher auf, eine Bestandsaufnahme dieser Beispiele vorzunehmen, wenn sie einen gemeinsamen Ansatz der Union für den verstärkten Einsatz solcher technologischen Lösungen in Erwägung zieht;

Bildung

30.  erinnert daran, wie wichtig es ist, die digitalen Fähigkeiten zu stärken und ein hohes Niveau an Medien-, Digital- und Informationskompetenz auf Unionsebene als Voraussetzung für die Nutzung von KI in der Bildung zu erreichen; betont, dass für unionsweite digitale und KI-Kompetenz insbesondere durch die Entwicklung von Ausbildungsmöglichkeiten für Lehrkräfte gesorgt werden muss; bekräftigt, dass die Nutzung von KI-Technologien in Schulen dabei behilflich sein sollte, die soziale und regionale digitale Kluft zu verringern; begrüßt den aktualisierten Aktionsplan der Kommission für digitale Bildung, in dem die Nutzung von KI in der Bildung behandelt wird; fordert die Kommission in diesem Zusammenhang auf, digitale Fähigkeiten, Medienkompetenz und -schulung sowie KI-bezogene Fähigkeiten zu den Prioritäten dieses Plans zu machen und gleichzeitig das Bewusstsein für den potenziellen Missbrauch und die Fehlfunktionen von KI zu schärfen; fordert die Kommission in diesem Zusammenhang auf, besonderes Augenmerk auf Kinder und Jugendliche in prekären Situationen zu legen, da sie im Bereich der digitalen Bildung besondere Unterstützung benötigen; fordert die Kommission nachdrücklich auf, KI- und Robotik-Initiativen im Bildungsbereich in ihren bevorstehenden Gesetzgebungsvorschlägen zu KI gebührend zu berücksichtigen; fordert die Mitgliedstaaten nachdrücklich auf, in die digitale Ausstattung von Schulen zu investieren und zu diesem Zweck Unionsmittel einzusetzen;

31.  betont, dass die Nutzung von KI in den Bildungssystemen eine Vielzahl von Möglichkeiten, Chancen und Werkzeugen mit sich bringt, um diese innovativer, inklusiver, effizienter und zunehmend effektiver zu gestalten, indem neue hochwertige Lernmethoden eingeführt werden, die schnell, personalisiert und schülerzentriert sind; betont jedoch, dass, da dies Auswirkungen auf die Bildung und die soziale Inklusion haben wird, die Verfügbarkeit solcher Werkzeuge für alle gesellschaftlichen Gruppen sichergestellt werden muss, indem ein gleichberechtigter Zugang zu Bildung und Lernen geschaffen wird und niemand zurückgelassen wird, insbesondere nicht Menschen mit Behinderungen;

32.  unterstreicht die Tatsache, dass die Bürgerinnen und Bürger, um sich sowohl kritisch als auch effektiv mit KI auseinandersetzen zu können, zumindest ein grundlegendes Verständnis dieser Technologie benötigen; fordert die Mitgliedstaaten auf, Sensibilisierungskampagnen über KI in ihre Maßnahmen zur digitalen Kompetenz zu integrieren; fordert die Kommission und die Mitgliedstaaten auf, Pläne für digitale Kompetenz und Diskussionsforen zu fördern, um Bürger, Eltern und Schüler in einen demokratischen Dialog mit Behörden und Interessenträgern über die Entwicklung, Einführung und Nutzung von KI-Technologien in den Bildungssystemen einzubeziehen; betont, wie wichtig es ist, dem Lehr- und Schulungspersonal und anderen Personen die richtigen Instrumente und das richtige Know-how in Bezug auf KI und verwandte Technologien zur Verfügung zu stellen, und zwar in Bezug darauf, worum es sich bei diesen Technologien handelt und wie sie verwendet und als Werkzeug richtig und gesetzeskonform eingesetzt werden, sodass die Verletzung von Rechten des geistigen Eigentums verhindert wird; hebt insbesondere hervor, wie wichtig es ist, dass Personen, die in der allgemeinen und beruflichen Bildung tätig sind, über digitale Kompetenzen verfügen und dass die digitale Ausbildung für ältere Menschen verbessert wird, wobei zu berücksichtigen ist, dass die jüngeren Generationen bereits eine grundlegende Vorstellung von diesen Technologien haben, da sie mit ihnen aufgewachsen sind;

33.  betont, dass das eigentliche Ziel der KI in den Bildungssystemen darin bestehen sollte, die Bildung so individuell wie möglich zu gestalten, indem den Schülern personalisierte Bildungswege entsprechend ihren Stärken und Schwächen und auf ihre Merkmale zugeschnittenes didaktisches Material angeboten werden, wobei die Bildungsqualität und das integrierende Prinzip unserer Bildungssysteme erhalten bleiben müssen;

34.  erinnert an die grundlegende und vielschichtige Rolle, die Lehrkräfte in der Bildung und bei deren inklusiver Gestaltung spielen, insbesondere in der frühen Kindheit, in der Fähigkeiten erworben werden, die es den Schülern ermöglichen, ihr ganzes Leben lang voranzukommen, z. B. in Bezug auf persönliche Beziehungen, Lernfähigkeiten, Empathie und kooperatives Arbeiten; betont daher, dass KI-Technologien nicht zum Nachteil oder auf Kosten des Unterrichts mit physischer Anwesenheit eingesetzt werden dürfen, da Lehrkräfte nicht durch KI oder KI-bezogene Technologien ersetzt werden können;

35.  betont, dass der Lernnutzen des Einsatzes von KI in der Bildung nicht nur von der KI selbst abhängen wird, sondern auch davon, wie die Lehrkräfte KI in der digitalen Lernumgebung einsetzen, um den Bedürfnissen der Schüler, Studierenden und Lehrkräfte gerecht zu werden; weist daher auf die Notwendigkeit hin, dass KI-Programmierer den Bildungsbereich in die Entwicklung, Einführung und Nutzung von KI-Technologien einbeziehen, wo immer dies möglich ist, und eine vernetzte Umgebung schaffen, um Verbindungen und Kooperationen zwischen KI-Programmierern und -Entwicklern sowie Firmen, Schulen, Lehrkräften und anderen öffentlichen und privaten Interessenträgern herzustellen, um KI-Technologien zu schaffen, die für reale Bildungsumgebungen geeignet sind, das Alter und die Entwicklungsreife der einzelnen Lernenden widerspiegeln und den höchsten ethischen Standards entsprechen; hebt hervor, dass Bildungseinrichtungen nur vertrauenswürdige, ethische und auf den Menschen ausgerichtete Technologien einsetzen sollten, die in jeder Phase ihres Lebenszyklus von Behörden und der Zivilgesellschaft überprüft werden können; betont in diesem Zusammenhang die Vorteile von freien und quelloffenen Lösungen; fordert, dass Schulen und andere Bildungseinrichtungen die finanzielle und logistische Unterstützung sowie das erforderliche Fachwissen erhalten, um Lösungen für das Lernen der Zukunft einzuführen;

36.  unterstreicht darüber hinaus die Notwendigkeit, Lehrkräfte kontinuierlich zu schulen, damit sie sich an die Realitäten der KI-gestützten Bildung anpassen und die notwendigen Kenntnisse und Fähigkeiten erwerben können, um KI-Technologien auf pädagogisch sinnvolle Weise zu nutzen, so dass sie die Möglichkeiten der KI in vollem Umfang nutzen und ihre Grenzen verstehen können; fordert, dass der digitale Unterricht künftig Teil der Ausbildung aller Lehrkräfte sein muss, und fordert, dass Lehrkräfte und Menschen, die in der allgemeinen und beruflichen Bildung tätig sind, die Möglichkeit erhalten, sich ein Leben lang im digitalen Unterricht weiterzubilden; fordert daher die Entwicklung von Ausbildungsprogrammen im Bereich der KI für Lehrkräfte in allen Bereichen und in ganz Europa; unterstreicht darüber hinaus die Bedeutung einer Reform der Lehrprogramme für neue Generationen von Lehrkräften, die es ihnen ermöglichen, sich an die Realitäten der KI-gestützten Bildung anzupassen, sowie die Bedeutung der Ausarbeitung und Aktualisierung von Handbüchern und Leitlinien über KI für Lehrkräfte;

37.  ist besorgt über das Fehlen spezifischer Hochschulprogramme für KI und den Mangel an öffentlichen Mitteln für KI in den Mitgliedstaaten; ist der Ansicht, dass dies die künftigen digitalen Ambitionen Europas gefährdet;

38.  ist besorgt über die Tatsache, dass nur wenige KI-Forscher eine akademische Karriere anstreben, da Tech-Firmen bessere Bezahlung und weniger Bürokratie für die Forschung bieten können; glaubt, dass ein Teil der Lösung darin bestehen würde, mehr öffentliche Gelder in die KI-Forschung an Universitäten zu leiten;

39.  betont, wie wichtig es ist, die Menschen von Kindheit an mit allgemeinen digitalen Kompetenzen auszustatten, um die Qualifikationslücke zu schließen und bestimmte Bevölkerungsgruppen besser in den digitalen Arbeitsmarkt und die digitale Gesellschaft zu integrieren; weist darauf hin, dass es immer wichtiger werden wird, hochqualifizierte Fachkräfte, unabhängig von ihrem Hintergrund, im Bereich der KI auszubilden, die gegenseitige Anerkennung dieser Qualifikationen in der gesamten Union zu gewährleisten und die vorhandenen und künftigen Arbeitskräfte weiterzubilden, damit sie den künftigen Gegebenheiten des Arbeitsmarktes gewachsen sind; empfiehlt daher den Mitgliedstaaten, ihr Bildungsangebot zu bewerten und es erforderlichenfalls um KI-bezogene Fähigkeiten zu erweitern und spezielle Ausbildungsgänge für KI-Entwickler einzuführen, wobei KI auch in die herkömmlichen Lehrpläne aufgenommen werden sollte; unterstreicht vor dem Hintergrund, dass mehrere Mitgliedstaaten ihre KI-bezogenen Bildungsangebote ausbauen und spezielle Ausbildungsgänge für KI-Entwickler einrichten, die Notwendigkeit der gegenseitigen Anerkennung von Berufsqualifikationen für KI-Kompetenzen in der Union; begrüßt die Bemühungen der Kommission, digitale Kompetenzen als eine der Qualifikationsanforderungen für bestimmte Berufe aufzunehmen, die auf Unionsebene im Rahmen der Richtlinie über die Anerkennung von Berufsqualifikationen(11) harmonisiert sind; betont, dass diese mit der Bewertungsliste der Ethikleitlinien für vertrauenswürdige künstliche Intelligenz in Einklang stehen müssen, und begrüßt den Vorschlag der Kommission, diese Liste in einen indikativen Lehrplan für KI-Entwickler umzuwandeln; erinnert an die besonderen Bedürfnisse, die im Bereich der beruflichen Aus- und Weiterbildung hinsichtlich KI bestehen, und fordert, dass in ganz Europa ein auf Zusammenarbeit beruhender Ansatz verfolgt wird, der zum Ziel hat, das Potenzial von KI im Bereich der beruflichen Aus- und Weiterbildung zu verbessern; unterstreicht die Bedeutung der Ausbildung hoch qualifizierter Fachkräfte in diesem Bereich, einschließlich der Aufnahme ethischer Aspekte in ihre Lehrpläne, sowie der Unterstützung von in diesem Fachgebiet unterrepräsentierten Gruppen und der Schaffung von Anreizen für diese Fachkräfte, ihre Arbeitskraft in der Union anzubieten; weist darauf hin, dass Frauen im Bereich der KI unterrepräsentiert sind und dass dies zu erheblichen geschlechtsspezifischen Verwerfungen auf dem künftigen Arbeitsmarkt führen kann;

40.  betont, dass Regierungen und Bildungseinrichtungen ihre Lehrpläne überdenken, überarbeiten und an die Bedürfnisse des 21. Jahrhunderts anpassen müssen, indem sie Bildungsprogramme konzipieren, die den Schwerpunkt stärker auf STEAM-Fächer legen, um Lernende und Verbraucher auf die zunehmende Verbreitung von KI vorzubereiten und den Erwerb kognitiver Fähigkeiten zu erleichtern; betont in diesem Zusammenhang, wie wichtig es ist, diesen Sektor zu diversifizieren und Studierende, insbesondere Frauen und Mädchen, zu ermutigen, sich für STEAM-Kurse einzuschreiben, insbesondere für Robotik und KI-bezogene Fächer; fordert mehr finanzielle und wissenschaftliche Ressourcen, um qualifizierte Menschen zu motivieren, in der Union zu bleiben, und gleichzeitig diejenigen mit Qualifikationen aus Drittländern anzuziehen; verweist ferner auf die beträchtliche Zahl von Start-ups, die mit KI arbeiten und KI-Technologien entwickeln; betont, dass KMU zusätzliche Unterstützung und Schulungen im Zusammenhang mit KI benötigen werden, um die Rechtsvorschriften in den Bereichen Digitales und KI einzuhalten;

41.  stellt fest, dass die Automatisierung und die Entwicklung der KI die Beschäftigung drastisch und unumkehrbar verändern könnten; betont, dass der Anpassung der Qualifikationen an die Bedürfnisse des künftigen Arbeitsmarktes, insbesondere im Bildungswesen und in der Kultur- und Kreativwirtschaft (Cultural and Creative Sectors and Industries – CCSI), Vorrang eingeräumt werden sollte; unterstreicht in diesem Zusammenhang die Notwendigkeit, die künftigen Arbeitskräfte weiterzubilden; betont ferner, wie wichtig es ist, die KI einzusetzen, um den europäischen Arbeitsmarkt in der CCSI – insbesondere im audiovisuellen Sektor, der bereits stark von der COVID-19-Krise betroffen ist – umzuschulen und weiterzubilden;

42.  fordert die Kommission auf, den Risikograd der Einführung von KI im Bildungssektor zu bewerten um festzustellen, ob KI-Anwendungen im Bildungsbereich in den Regelungsrahmen für Anwendungen mit hohem Risiko aufgenommen und strengeren Anforderungen an Sicherheit, Transparenz, Fairness und Rechenschaftspflicht unterworfen werden sollten, da es wichtig ist sicherzustellen, dass die Bildung weiterhin zum öffentlichen Wohl beiträgt, und da die Daten über Schüler, Studierende und andere Lernende äußerst sensibel sind; betont, dass Datensätze, die für das Trainieren von KI verwendet werden, überprüft werden sollten, um eine Verstärkung bestimmter Stereotype und anderer Vorurteile zu vermeiden;

43.  fordert die Kommission auf, einen zukunftstauglichen Rechtsrahmen für KI vorzuschlagen, um rechtsverbindliche ethische Maßnahmen und Standards vorzusehen, die die Grundrechte und -freiheiten und die Entwicklung vertrauenswürdiger, ethischer und technisch robuster KI-Anwendungen, einschließlich integrierter digitaler Werkzeuge, Dienste und Produkte wie Robotik und maschinelles Lernen, unter besonderer Berücksichtigung des Bildungsbereichs gewährleisten; fordert, dass die von KI-Anwendungen im Bildungsbereich genutzten und erzeugten Daten zugänglich, interoperabel und von hoher Qualität sind und an die zuständigen Behörden auf zugängliche Weise und unter Beachtung der Rechtsvorschriften zum Urheberrecht und zu Geschäftsgeheimnissen weitergegeben werden; erinnert daran, dass Kinder eine gefährdete Gruppe darstellen, die besondere Aufmerksamkeit und besonderen Schutz verdient; betont, dass KI zwar für die Bildung von Nutzen sein kann, dass es aber notwendig ist, ihre technologischen, regulatorischen und sozialen Aspekte zu berücksichtigen, und zwar mit angemessenen Sicherheitsvorkehrungen und einem auf den Menschen ausgerichteten Ansatz, der letztlich sicherstellt, dass der Mensch immer in der Lage ist, die Entscheidungen des Systems zu kontrollieren und zu korrigieren; weist in diesem Zusammenhang darauf hin, dass Lehrkräfte jeden Einsatz und jede Nutzung von KI-Technologien in Schulen und Universitäten kontrollieren und überwachen müssen, wenn sie mit Schülern und Studierenden interagieren; erinnert daran, dass KI-Systeme keine endgültigen Entscheidungen, die sich auf Bildungschancen auswirken könnten, wie etwa die abschließende Bewertung von Schülern, ohne umfassende menschliche Aufsicht treffen dürfen; weist darauf hin, dass automatische Entscheidungen über natürliche Personen auf der Grundlage einer Profilerstellung, sofern sie rechtliche oder ähnliche Auswirkungen haben, strikt begrenzt werden müssen und stets den Anspruch auf das Eingreifen einer Person und das Recht auf eine Erklärung gemäß der DSGVO erfordern müssen; betont, dass dies insbesondere im Bildungssystem, in dem Entscheidungen über künftige Chancen und Möglichkeiten getroffen werden, genau eingehalten werden muss;

44.  äußert seine ernste Besorgnis darüber, dass Schulen und andere Bildungsanbieter zunehmend von Bildungstechnologiediensten, einschließlich KI-Anwendungen, abhängig werden, die von einigen wenigen Privatunternehmen angeboten werden, die eine marktbeherrschende Stellung haben; ist der Auffassung, dass dies anhand der Wettbewerbsvorschriften der Union überprüft werden sollte; betont, dass es in diesem Zusammenhang wichtig ist, das Aufgreifen von KI durch in der Bildung, der Kultur und im audiovisuellen Bereich tätige KMU mittels geeigneter Anreize, die faire Wettbewerbsbedingungen schaffen, zu fördern; fordert in diesem Zusammenhang Investitionen in europäische IT-Unternehmen, um die erforderlichen Technologien innerhalb der Union zu entwickeln, da die wichtigsten Unternehmen, die derzeit KI anbieten, ihren Sitz außerhalb der Union haben; erinnert eindringlich daran, dass die Daten von Minderjährigen durch die DSGVO streng geschützt sind und nur dann verarbeitet werden dürfen, wenn sie vollständig anonymisiert sind oder die Einwilligung des Trägers der elterlichen Verantwortung vorliegt oder von diesem genehmigt wurde, wobei die Grundsätze der Datenminimierung und der Zweckbindung strikt einzuhalten sind; fordert einen robusteren Schutz und bessere Sicherheitsvorkehrungen im Bildungssektor, wenn es um die Daten von Kindern geht, und fordert die Kommission auf, in dieser Hinsicht wirksamere Maßnahmen zu ergreifen; fordert, dass Kinder und ihre Eltern klar über die mögliche Verwendung und Verarbeitung von Daten von Kindern informiert werden, auch durch Sensibilisierungs- und Informationskampagnen;

45.  unterstreicht die spezifischen Risiken im Zusammenhang mit der Nutzung von Anwendungen zur automatisierten Erkennung mittels KI, die sich rasch entwickeln; erinnert daran, dass Kinder eine besonders anfällige Gruppe darstellen; empfiehlt, dass die Kommission und die Mitgliedstaaten die automatisierte biometrische Identifizierung, etwa die Gesichtserkennung für pädagogische und kulturelle Zwecke, in Bildungs- und Kultureinrichtungen verbieten, es sei denn, ihre Nutzung ist gesetzlich zulässig;

46.  betont die Notwendigkeit, die die Wahlmöglichkeiten der Kunden zu erhöhen, um den Wettbewerb zu fördern und das Angebot an Diensten, die von KI-Technologien für Bildungszwecke angeboten werden, zu erweitern; empfiehlt den Behörden insofern, Anreize für die Entwicklung und die Einführung von KI-Technologien durch öffentliche Finanzierungen und das öffentliche Beschaffungswesen zu schaffen; ist der Ansicht, dass Technologien, die von öffentlichen Bildungsanbietern genutzt oder mit öffentlichen Mitteln erworben werden, auf Open-Source-Technologien basieren sollten;

47.  stellt fest, dass Innovationen im Bildungsbereich überfällig sind, wie die COVID-19-Pandemie und die darauf folgende Umstellung auf Online- und Fernunterricht gezeigt haben; betont, dass KI-gesteuerte Bildungswerkzeuge wie solche zur Bewertung und Erkennung von Lernschwierigkeiten die Qualität und Wirksamkeit des Online-Lernens verbessern können;

48.  betont, dass die digitale Infrastruktur und die Internetversorgung der nächsten Generation von strategischer Bedeutung sind, um den Unionsbürgern KI-gestützte Bildung bereitzustellen; fordert die Kommission angesichts der COVID-19-Krise auf, eine europäische 5G-Strategie auszuarbeiten, mit der die strategische Widerstandsfähigkeit Europas sichergestellt und dafür gesorgt wird, dass Europa nicht von den Technologien solcher Staaten abhängig ist, die unsere Werte nicht teilen;

49.  fordert die Schaffung eines europaweiten Hochschul- und Forschungsnetzwerks mit Schwerpunkt auf KI in der Bildung, das Institutionen und Experten aus allen Bereichen zusammenbringen sollte, um die Auswirkungen von KI auf das Lernen zu untersuchen und Lösungen zur Steigerung ihres Potenzials zu ermitteln;

Kulturerbe

50.  bekräftigt die Bedeutung des Zugangs zur Kultur für alle Bürger in der gesamten Europäischen Union; hebt in diesem Zusammenhang die Bedeutung des Austauschs bewährter Verfahren zwischen Mitgliedsstaaten, Bildungs- und Kultureinrichtungen und ähnlich gearteten Akteuren hervor; hält es ferner für äußerst wichtig, dass die sowohl auf Unions- als auch auf nationaler Ebene verfügbaren Ressourcen so weit wie möglich genutzt werden, um den Zugang zur Kultur weiter zu verbessern; betont, dass es eine Vielzahl von Optionen für den Zugang zur Kultur gibt und dass alle untersucht werden sollten, um die geeignetste Option zu bestimmen; betont die Bedeutung der Übereinstimmung mit dem Vertrag von Marrakesch;

51.  betont, dass KI-Technologien eine wichtige Rolle bei der Erhaltung, Restaurierung, Dokumentation, Analyse, Förderung und Verwaltung des materiellem und immateriellem Kulturerbes spielen können, auch durch die Überwachung und Analyse von Veränderungen an Stätten des Kulturerbes, die durch Bedrohungen wie Klimawandel, Naturkatastrophen und bewaffnete Konflikte verursacht werden;

52.  betont, dass KI-Technologien die kulturelle Vielfalt Europas sichtbarer machen können; weist darauf hin, dass diese Technologien neue Möglichkeiten für Kultureinrichtungen wie Museen bieten, innovative Instrumente für die Katalogisierung von Artefakten sowie für die Dokumentation und bessere Zugänglichkeit von Stätten des Kulturerbes herzustellen, u. a. durch 3D-Modellierung und erweiterte virtuelle Realität; betont, dass KI auch Museen und Kunstgalerien in die Lage versetzen wird, interaktive und personalisierte Dienste für Besucher einzuführen, indem sie ihnen eine Liste mit Vorschlägen für Objekte auf der Grundlage ihrer persönlich und online geäußerten Interessen vorlegen;

53.  betont, dass die Nutzung von KI neue innovative Ansätze, Werkzeuge und Methoden mit sich bringen wird, die es Kulturschaffenden und Forschern ermöglichen, einheitliche Datenbanken mit geeigneten Klassifizierungsschemata sowie multimediale Metadaten zu erstellen, die es ihnen ermöglichen, Verbindungen zwischen verschiedenen Objekten des kulturellen Erbes herzustellen und so das Wissen zu erweitern und ein besseres Verständnis des kulturellen Erbes zu ermöglichen;

54.  betont, dass bewährte Verfahren im Bereich der KI-Technologien für den Schutz und die Zugänglichkeit des kulturellen Erbes, insbesondere für Menschen mit Behinderungen, ermittelt und zwischen kulturellen Netzwerken in der gesamten Union ausgetauscht werden sollten, wobei gleichzeitig die Forschung über die verschiedenen Einsatzmöglichkeiten von KI zur Förderung des Wertes, der Zugänglichkeit und der Erhaltung des kulturellen Erbes gefördert werden sollte; fordert die Kommission und die Mitgliedstaaten auf, die Möglichkeiten des Einsatzes von KI im Rahmen der CCSI zu fördern;

55.  betont, dass KI-Technologien auch zur Überwachung des illegalen Handels mit Kulturgütern und der Zerstörung von Kulturgütern eingesetzt werden kann und dass sie gleichzeitig die Datenerhebung für Wiederherstellungs- und Rekonstruktionsarbeiten sowohl für das materielle als auch für das immaterielle Kulturerbe unterstützen kann; stellt insbesondere fest, dass die Entwicklung, Einführung und Nutzung von KI in Zollkontrollverfahren die Bemühungen zur Verhinderung des illegalen Handels mit Kulturgütern unterstützen kann, insbesondere zur Ergänzung von Systemen, die es den Zollbehörden ermöglichen, ihre Bemühungen und Ressourcen auf die Gegenstände zu konzentrieren, die das größte Risiko darstellen;

56.  stellt fest, dass die Forschung von KI profitieren könnte, zum Beispiel durch die prädiktive Analytik bei der Feinabstimmung der Datenanalyse, zum Beispiel beim Erwerb und der Verbringung von Kulturgütern; betont, dass die Union die Investitionen erhöhen und Partnerschaften zwischen Industrie und Hochschulen fördern muss, damit Spitzenleistungen der Forschung auf europäischer Ebene vorangetrieben werden;

57.  weist darauf hin, dass die KI ein revolutionäres Instrument zur Förderung des Kulturtourismus sein kann, und hebt ihr beträchtliches Potenzial für die Vorhersage von Tourismusströmen hervor, was Städten, die mit Übertourismus zu kämpfen haben, helfen könnte;

Kultur- und Kreativwirtschaft (Cultural and creative sectors and industries – CCSI)

58.  bedauert die Tatsache, dass die Kultur nicht zu den Prioritäten gehört, die in den politischen Optionen und Empfehlungen zu KI auf Unionsebene, insbesondere im Weißbuch der Kommission vom 19. Februar 2020 zur künstlichen Intelligenz, genannt werden; fordert, dass diese Empfehlungen überarbeitet werden, um die Kultur zu einer Priorität der KI-Strategie auf Unionsebene zu machen; fordert die Kommission und die Mitgliedstaaten auf, sich mit den potenziellen Auswirkungen der Entwicklung, Einführung und Nutzung von KI-Technologien auf die CCSI zu befassen und den Aufbauplan NextGenerationEU optimal zu nutzen, um diese Sektoren zu digitalisieren, damit sie für die neuen Formen des Konsums im 21. Jahrhundert gewappnet sind;

59.  weist darauf hin, dass KI inzwischen in der CCSI angekommen ist, wie die automatische Produktion von Texten, Videos und Musikstücken zeigt; betont, dass Kreative und Kulturschaffende über die digitalen Fähigkeiten und die Ausbildung verfügen müssen, die für den Einsatz von KI und anderen digitalen Technologien erforderlich sind; fordert die Kommission und die Mitgliedstaaten auf, die Möglichkeiten, die die Nutzung von KI in der CCSI bietet, zu fördern, indem sie mehr Mittel aus den Wissenschafts- und Forschungsetats zur Verfügung stellen, und digitale Kreativitätszentren einzurichten, in denen Kreative und Kulturschaffende KI-Anwendungen entwickeln, den Umgang mit diesen und anderen Technologien erlernen und sie testen können;

60.  erkennt an, dass KI-Technologien das Potenzial haben, eine wachsende Zahl von Arbeitsplätzen in der CCSI zu fördern, was durch einen besseren Zugang zu diesen Technologien erleichtert wird; betont daher, wie wichtig es ist, die digitale Kompetenz in der CCSI zu fördern, um diese Technologien für diese Sektoren inklusiver, nutzbarer, erlernbarer und interaktiver zu machen;

61.  betont, dass die Interaktion zwischen KI und der CCSI komplex ist und eine eingehende Betrachtung erfordert; begrüßt den Bericht der Kommission vom November 2020 mit dem Titel „Trends and Developments in Artificial Intelligence - Challenges to the IPR Framework“ (Trends und Entwicklungen der künstlichen Intelligenz - Herausforderungen für den IPR-Rahmen) und die „Study on Copyright and New technologies: copyright data management and Artificial Intelligence“ (Studie über Urheberrecht und neue Technologien: Verwaltung von Urheberrechtsdaten und künstliche Intelligenz); betont, wie wichtig es ist, sich Klarheit über die Bedingungen der Verwendung urheberrechtlich geschützter Inhalte bei der Dateneingabe (Bilder, Musik, Filme, Datenbanken usw.) und beim kulturellen und audiovisuellen Schaffen zu verschaffen, unabhängig davon, ob diese Inhalte von Menschen, mithilfe von KI oder eigenständig durch KI-Technologien erschaffen wurden; fordert die Kommission auf, die Auswirkungen von KI auf die europäische Kreativwirtschaft zu untersuchen; weist erneut auf die Bedeutung europäischer Daten hin und begrüßt die diesbezüglichen Erklärungen der Kommission und auch die Tatsache, dass künstliche Intelligenz und verwandte Technologien ganz oben auf ihrer Tagesordnung stehen;

62.  betont, dass eine kohärente Vision der KI-Technologien in der CCSI auf Unionsebene entwickelt werden muss; fordert die Mitgliedstaaten auf, in ihren nationalen KI-Strategien den Schwerpunkt stärker auf die Kultur zu legen um sicherzustellen, dass die CCSI Innovationen annimmt und wettbewerbsfähig bleibt und dass die kulturelle Vielfalt auf Unionsebene im neuen digitalen Kontext gewahrt und gefördert wird;

63.  betont, wie wichtig es ist, ein unionsweites heterogenes Umfeld für KI-Technologien zu schaffen, um die kulturelle Vielfalt zu fördern, Minderheiten und sprachliche Vielfalt zu unterstützen und gleichzeitig die CCSI durch Online-Plattformen zu stärken, die es den Unionsbürgern ermöglichen, einbezogen zu werden und sich einzubringen;

64.  fordert die Kommission und die Mitgliedstaaten auf, eine demokratische Debatte über KI-Technologien zu unterstützen und ein regelmäßiges Forum für Diskussionen mit der Zivilgesellschaft, Forschern, der Wissenschaft und Interessenträgern bereitzustellen, um das Bewusstsein für die Vorteile und die Herausforderungen ihres Einsatzes in der CCSI zu schärfen; betont in diesem Zusammenhang die Rolle, die Kunst und Kultur dabei spielen können, die Menschen mit KI vertraut zu machen und die öffentliche Debatte darüber zu fördern, da sie anschauliche, greifbare Beispiele für maschinelles Lernen liefern können, etwa im Bereich der Musik;

65.  fordert die Kommission und die Mitgliedstaaten auf, sich mit der Frage der KI-generierten Inhalte und den damit verbundenen Problemen für die Urheberschaft und die Verletzung von Urheberrechten zu befassen; ersucht die Kommission in diesem Zusammenhang darum, die Auswirkungen von KI und verwandten Technologien auf den audiovisuellen Sektor und die CCSI zu bewerten, um die kulturelle und sprachliche Vielfalt zu fördern und gleichzeitig die Rechte der Urheber und der ausübenden Künstler zu achten;

66.  betont, dass das Europäische Innovations- und Technologieinstitut (EIT), insbesondere seine künftige Wissens- und Innovationsgemeinschaft (KIC), die sich der Kultur- und Kreativwirtschaft widmet, eine führende Rolle bei der Entwicklung einer europäischen Strategie für KI in der Bildung, der Kultur und dem audiovisuellen Bereich spielen sollte und dazu beitragen kann, KI-Anwendungen in diesen Sektoren zu beschleunigen und zu nutzen;

67.  stellt fest, dass KI bereits in die kreative Wertschöpfungskette auf der Ebene der Kreation, der Produktion, der Verbreitung und des Konsums Eingang gefunden hat und daher durch neue Werkzeuge, Software und KI-gestützte Produktion für eine einfachere Produktion einen immensen Einfluss auf die CCSI, einschließlich Musik, Filmindustrie, Kunst und Literatur, hat, während sie gleichzeitig Inspiration bietet und der breiteren Öffentlichkeit ermöglicht, Inhalte selbst zu schaffen;

68.  fordert die Kommission auf, Studien durchzuführen und politische Optionen zu erwägen, um die nachteiligen Auswirkungen der KI-gestützten Kontrolle von Online-Streaming-Diensten zu bekämpfen, die darauf abzielen, die Vielfalt einzuschränken und/oder die Gewinne zu maximieren, indem bestimmte Inhalte in das Verbraucherangebot aufgenommen oder priorisiert werden, sowie darüber, welche Auswirkungen dies auf die kulturelle Vielfalt und die Einkünfte der Urheber hat;

69.  ist der Ansicht, dass die KI für die CCSI bei der Schaffung und Produktion von Aktivitäten immer nützlicher wird;

70.  betont die Rolle der Persönlichkeit eines Urhebers für den Ausdruck freier und kreativer Entscheidungen, die die Originalität der Werke ausmachen(12); unterstreicht die Bedeutung von Beschränkungen und Ausnahmen vom Urheberrecht bei der Nutzung von Inhalten als Dateninput, insbesondere im Bildungswesen, in der Wissenschaft und in der Forschung sowie bei der Produktion von kulturellen und kreativen Leistungen, wie z. B. audiovisuellen Leistungen und nutzergenerierten Inhalten;

71.  ist der Auffassung, dass der Schutz der durch KI geschaffenen technischen und künstlerischen Schöpfungen in Erwägung gezogen werden muss, um diese Form des Schaffens zu fördern;

72.  betont, dass im Kontext der datengesteuerten Wirtschaft eine bessere Verwaltung von Urheberrechtsdaten zum Zwecke einer besseren Vergütung der Urheber und ausübenden Künstler möglich ist, insbesondere durch die Ermöglichung einer raschen Ermittlung der Urheberschaft und der Eigentumsrechte an Inhalten, was dazu beitragen würde, die Zahl der verwaisten Werke zu verringern; betont ferner, dass technologische KI-Lösungen genutzt werden sollten, um die Urheberdateninfrastruktur und die Vernetzung von Metadaten in Werken zu verbessern, aber auch, um die Transparenzpflicht gemäß Artikel 19 der Richtlinie (EU) 2019/790 über das Urheberrecht und die verwandten Schutzrechte im digitalen Binnenmarkt(13) mit Blick auf aktuelle, relevante und umfassende Informationen über die Verwertung von Werken und Darbietungen von Urhebern und ausübenden Künstlern zu erleichtern, insbesondere im Hinblick darauf, dass es eine Vielzahl von Rechteinhabern und komplexen Lizenzsystemen gibt;

73.  fordert, dass der von der Kommission angekündigte Aktionsplan für geistiges Eigentum sich mit der KI und ihren Auswirkungen auf die Kreativbranche befasst und dabei der Notwendigkeit Rechnung trägt, ein Gleichgewicht zwischen dem Schutz der Rechte des geistigen Eigentums und der Förderung des Schaffens in den Bereichen Bildung, Kultur und Forschung herzustellen; ist der Ansicht, dass die Union bei der Entwicklung von KI-Technologien eine Vorreiterrolle übernehmen kann, wenn sie einen funktionierenden Regelungsrahmen schafft sowie proaktive öffentliche Maßnahmen umsetzt, insbesondere in Bezug auf Ausbildungsprogramme und die finanzielle Unterstützung der Forschung; ersucht die Kommission darum, die Auswirkungen der Rechte des geistigen Eigentums auf die Forschung und Entwicklung von KI und verwandten Technologien sowie auf die CCSI, einschließlich des audiovisuellen Sektors, zu bewerten, insbesondere im Hinblick auf die Urheberschaft, die gerechte Vergütung der Urheber und damit zusammenhängende Fragen;

74.  fordert die Kommission auf, die rechtlichen Aspekte der unter Einsatz von KI-Technologien gelieferten Ergebnisse sowie der kulturellen Inhalte, die mit Hilfe von KI und verwandten Technologien erschaffen werden, zu berücksichtigen; hält es für wichtig, die Erzeugung kultureller Inhalte zu unterstützen; weist jedoch erneut darauf hin, wie wichtig es ist, den einzigartigen EU-Rahmen in Bezug auf die Rechte des geistigen Eigentums zu schützen, und dass alle Änderungen mit der gebotenen Sorgfalt vorgenommen werden sollten, damit das empfindliche Gleichgewicht nicht gestört wird; fordert die Kommission auf, eine eingehende Bewertung im Hinblick auf die mögliche Rechtspersönlichkeit von KI-produzierten Inhalten sowie die Anwendung von Rechten des geistigen Eigentums auf KI-generierte Inhalte sowie auf Inhalte, die mit Hilfe von KI-Instrumenten erstellt wurden, vorzunehmen;

75.  fordert die Kommission darüber hinaus auf, in sehr enger Zusammenarbeit mit den Mitgliedstaaten und den einschlägigen Interessenträgern die Entwicklung von Überprüfungsmechanismen oder -systemen für Herausgeber, Urheber und Schöpfer in Betracht zu ziehen, um sie bei der Prüfung der Frage zu unterstützen, welche Inhalte sie verwenden dürfen, und um leichter feststellen zu können, was nach den Rechtsvorschriften zum Schutz der Rechte des geistigen Eigentums geschützt ist;

76.  fordert die Kommission auf, Vorschriften zu erlassen, mit denen für eine echte Interoperabilität der Daten gesorgt werden kann, damit Inhalte, die auf einer Plattform erworben wurden, unabhängig von der Marke über jedes digitale Gerät genutzt werden können;

Audiovisueller Bereich

77.  stellt fest, dass KI häufig eingesetzt wird, damit automatische Entscheidungsalgorithmen die kulturellen und kreativen Inhalte, die den Nutzern angezeigt werden, verbreiten und ordnen können; hebt hervor, dass diese Algorithmen für die Nutzer völlig undurchsichtig sind; betont, dass Algorithmen, die von Mediendienstanbietern, Video-Sharing-Plattformen sowie Musik-Streaming-Diensten verwendet werden, so konzipiert sein sollten, dass sie nicht bestimmten Werken Vorrang einräumen, indem sie ihre „personalisierten“ Vorschläge für gezielte Werbung, kommerzielle Zwecke oder Gewinnmaximierung auf die beliebtesten Werke beschränken; fordert, dass Empfehlungsalgorithmen und personalisiertes Marketing nach Möglichkeit erklärbar und transparent sind, um den Verbrauchern einen genauen und umfassenden Einblick in diese Prozesse und Inhalte zu geben und um sicherzustellen, dass personalisierte Dienste nicht diskriminierend sind und dass sie im Einklang mit der kürzlich verabschiedeten Verordnung über die Beziehungen zwischen Online-Plattformen(14) und Unternehmen und der Sammelrichtlinie über die Neugestaltung der Rahmenbedingungen für die Verbraucher(15) stehen; fordert die Kommission auf, sich mit der Art und Weise zu befassen, in der Algorithmen zur Moderierung von Inhalten so optimiert werden, dass sie die Nutzer einbeziehen, und Empfehlungen für eine stärkere Kontrolle der Nutzer über die Inhalte, die sie sehen, abzugeben, indem das Recht der Nutzer, sich von empfohlenen und personalisierten Diensten abzumelden, gewährleistet und ordnungsgemäß durchgesetzt wird; betont ferner, dass die Verbraucher darauf aufmerksam gemacht werden müssen, wenn sie es mit einem automatisierten Entscheidungsprozess zu tun haben, und dass sie dadurch in ihren Entscheidungen und Leistungsansprüchen nicht eingeschränkt werden dürfen; betont, dass dem Einsatz von KI-Mechanismen für die kommerzielle Überwachung von Verbrauchern entgegengewirkt werden muss, auch wenn es sich um „kostenlose Dienste“ handelt, indem sichergestellt wird, dass dies streng im Einklang mit den Grundrechten und der DSGVO steht; betont, dass sämtliche regulatorischen Änderungen auch die Belange schutzbedürftiger Verbraucher berücksichtigen müssen;

78.  betont, dass das, was offline illegal ist, auch online illegal ist; stellt fest, dass KI-Werkzeuge das Potenzial haben und bereits dazu eingesetzt werden, illegale Inhalte im Internet zu bekämpfen; erinnert jedoch im Hinblick auf das bevorstehende Gesetz über digitale Dienste nachdrücklich daran, dass solche Werkzeuge stets die Grundrechte, insbesondere die Meinungs- und Informationsfreiheit, achten müssen und nicht zu einer allgemeinen Überwachungspflicht für das Internet oder zur Entfernung von legalem Material führen sollten, das zu pädagogischen, journalistischen, künstlerischen oder wissenschaftlichen Zwecken verbreitet wird; hebt hervor, dass Algorithmen ausschließlich als Meldemechanismus bei der Moderierung von Inhalten genutzt werden sollten, vorbehaltlich eines Eingreifens durch den Menschen, da KI nicht in der Lage ist, zuverlässig zwischen legalen, illegalen und schädlichen Inhalten zu unterscheiden; stellt fest, dass die Modalitäten und Bedingungen stets die gemeinschaftlichen Leitlinien sowie Beschwerdeverfahren umfassen sollten;

79.  erinnert außerdem daran, dass es gemäß Artikel 15 der Richtlinie über den elektronischen Geschäftsverkehr(16) keine allgemeine Überwachung von Kommunikation geben darf und dass die Überwachung spezifischer Inhalte von audiovisuellen Diensten im Einklang mit den nach dem Unionsrecht zulässigen Ausnahmen stehen muss; erinnert daran, dass KI-Anwendungen interne und externe Sicherheitsprotokolle einhalten müssen, die technisch präzise und von robuster Art sein müssen; vertritt die Auffassung, dass diese Maßgabe sich auf die Anwendung in normalen, unbekannten und unvorhersehbaren Situationen gleichermaßen erstrecken muss;

80.  betont darüber hinaus, dass die Verwendung von KI in algorithmusbasierten Inhaltsempfehlungen bei Mediendienstanbietern, Videodiensten auf Abruf und Video-Sharing-Plattformen schwerwiegende Auswirkungen auf die kulturelle Vielfalt haben kann, insbesondere im Hinblick auf die Verpflichtung gemäß Artikel 13 der Richtlinie über audiovisuelle Mediendienste (Richtlinie (EU) 2018/1808(17)), europäische Werke herauszustellen; stellt fest, dass dieselben Bedenken auch für Musik-Streaming-Dienste relevant sind, und fordert die Entwicklung von Indikatoren zur Bewertung der kulturellen Vielfalt und der Förderung europäischer Werke bei solchen Diensten;

81.  fordert die Kommission und die Mitgliedstaaten auf, die Entwicklung, Einführung und Nutzung von KI im Bereich der automatisierten Untertitelung sowie Synchronisation europäischer audiovisueller Werke finanziell stärker voranzutreiben, um die kulturelle und sprachliche Vielfalt in der Union zu fördern sowie die Verbreitung von und den Zugang zu europäischen audiovisuellen Inhalten zu verbessern;

82.  fordert die Kommission auf, einen klaren ethischen Rahmen für den Einsatz von KI-Technologien in den Medien zu schaffen, um alle Formen der Diskriminierung zu verhindern und den Zugang zu kulturell und sprachlich vielfältigen Inhalten auf Unionsebene auf der Grundlage algorithmischer Rechenschaftspflicht sowie transparenter und integrativer Algorithmen zu gewährleisten und gleichzeitig die Entscheidungen und Vorlieben des Einzelnen zu respektieren;

83.  weist darauf hin, dass die KI maßgeblich an der raschen Verbreitung von Desinformation mitwirken kann; betont in diesem Zusammenhang, dass der Rahmen den Missbrauch von KI zur Verbreitung von Fake News und Online-Falschmeldungen und Desinformationen regeln und gleichzeitig Zensur vermeiden sollte; fordert die Kommission daher auf, die Risiken von KI, die die Verbreitung von Desinformationen im digitalen Umfeld unterstützt, sowie Lösungen dafür zu bewerten, wie KI zur Bekämpfung von Desinformationen eingesetzt werden könnte;

84.  fordert die Kommission auf, regulatorische Maßnahmen zu ergreifen um sicherzustellen, dass Mediendiensteanbieter Zugang zu den Daten haben, die durch die Bereitstellung und Verbreitung ihrer Inhalte auf den Plattformen anderer Anbieter generiert werden; betont, dass eine vollständige Datenübermittlung von den Plattformbetreibern an die Mediendiensteanbieter unerlässlich ist, damit letztere ihr Publikum besser verstehen und so ihr Angebot entsprechend den Wünschen der Menschen verbessern können;

85.  betont, wie wichtig es ist, die Mittel für Digitales Europa, Kreatives Europa und Horizont Europa aufzustocken, um die Unterstützung für den europäischen audiovisuellen Sektor zu verstärken, insbesondere durch gemeinsame Forschungsprojekte und experimentelle Pilotinitiativen zur Entwicklung, Einführung und Nutzung von ethischen KI-Technologien;

86.  fordert eine enge Zusammenarbeit zwischen den Mitgliedstaaten bei der Entwicklung von Fortbildungsprogrammen, die auf die Umschulung oder Weiterbildung von Arbeitnehmern abzielen, um sie besser auf den sozialen Wandel vorzubereiten, den der Einsatz von KI-Technologien im audiovisuellen Bereich mit sich bringen wird;

87.  ist der Ansicht, dass KI ein enormes Potenzial hat, um die Innovation im Sektor der Nachrichtenmedien voranzutreiben; meint, dass die weitreichende Integration von KI, z. B. für die Erstellung und Verbreitung von Inhalten, die Überwachung von Kommentarbereichen, die Nutzung von Datenanalysen und die Identifizierung von manipulierten Fotos und Videos, der Schlüssel ist, um angesichts sinkender Werbeeinnahmen Kosten in den Nachrichtenredaktionen zu sparen und mehr Ressourcen für die Berichterstattung vor Ort einzusetzen und damit die Qualität und Vielfalt der Inhalte zu erhöhen;

Desinformation im Internet: Deepfakes

88.  betont, dass der Pluralismus der Medien sowohl online als auch offline sichergestellt werden muss, damit die Qualität, Vielfalt und Verlässlichkeit der verfügbaren Informationen sichergestellt sind;

89.  erinnert daran, dass Genauigkeit, Unabhängigkeit, Fairness, Vertraulichkeit, Menschlichkeit, Rechenschaftspflicht und Transparenz als treibende Kräfte hinter den Grundsätzen der Meinungsfreiheit und des Zugangs zu Informationen in Online- und Offline-Medien im Kampf gegen Desinformation und Fehlinformation entscheidend sind;

90.  weist auf die wichtige Rolle hin, die unabhängige Medien in der Kultur und im täglichen Leben der Bürger spielen; betont, dass Desinformation ein grundlegendes Problem darstellt, da durch sie Urheberrechte und Rechte des geistigen Eigentum im Allgemeinen dauernd verletzt werden; fordert die Kommission auf, in Zusammenarbeit mit den Mitgliedstaaten ihre Tätigkeit zur Sensibilisierung für dieses Problem fortzusetzen und sowohl den Konsequenzen der Desinformation als auch den Ursachen dieses Problems entgegenzuwirken; hält es darüber hinaus für wichtig, Bildungsstrategien zu entwickeln, um speziell die digitale Kompetenz in dieser Hinsicht zu verbessern;

91.  weist darauf hin, dass die Aufdeckung falscher und manipulierter Inhalte wie Deepfakes angesichts der raschen Entwicklung neuer Techniken immer schwieriger werden kann, da böswillige Hersteller in der Lage sind, ausgeklügelte Algorithmen zu entwickeln, die erfolgreich darauf trainiert werden können, sich der Erkennung zu entziehen, und damit unsere demokratischen Grundwerte ernsthaft untergraben; ersucht die Kommission darum, die Auswirkungen von KI bei der Schaffung von Deepfakes zu bewerten, geeignete rechtliche Rahmenbedingungen für ihre Schaffung, Produktion oder Verbreitung zu böswilligen Zwecken zu schaffen und Empfehlungen für Maßnahmen gegen jegliche KI-gestützte Bedrohung freier und fairer Wahlen und der Demokratie abzugeben;

92.  begrüßt die jüngsten Initiativen und Projekte zur Schaffung von effizienteren Instrumenten zur Aufdeckung von Deepfakes und von Transparenzanforderungen; betont in diesem Zusammenhang die Notwendigkeit, Methoden zur Bekämpfung von Deepfakes zu erforschen und in diese zu investieren, als einem entscheidenden Schritt zur Bekämpfung von Fehlinformationen und schädlichen Inhalten; ist der Ansicht, dass KI-gestützte Lösungen in dieser Hinsicht hilfreich sein können; ersucht die Kommission daher darum, für sämtliches Deepfake-Material und andere realistisch wirkende künstliche Videos eine Verpflichtung aufzuerlegen, wonach anzugeben ist, dass es nicht echt ist, und bei der Nutzung für Wahlen eine strikte Beschränkung vorzuschreiben;

93.  ist besorgt darüber, dass KI einen immer größeren Einfluss auf die Art und Weise hat, wie Informationen im Internet gefunden und konsumiert werden; weist darauf hin, dass sogenannte Filterblasen und Echokammern die Meinungsvielfalt einschränken und eine offene Debatte in der Gesellschaft untergraben; fordert daher, dass die Art und Weise, wie Plattformbetreiber Algorithmen zur Verarbeitung von Informationen einsetzen, transparent sein muss und dass den Nutzern mehr Freiheit gegeben werden muss zu entscheiden, ob und welche Informationen sie erhalten möchten;

94.  weist darauf hin, dass KI-Technologien bereits im Journalismus eingesetzt werden, um beispielsweise Texte zu produzieren oder im Rahmen investigativer Recherchen große Datensätze zu analysieren; betont, dass es im Rahmen der Produktion von gesamtgesellschaftlich bedeutsamen Informationen wichtig ist, dass der automatisierte Journalismus auf korrekte und umfassende Daten zurückgreift, um die Verbreitung von Fake News zu verhindern; betont, dass die Grundprinzipien des Qualitätsjournalismus, wie z. B. die redaktionelle Kontrolle, auch für journalistische Inhalte gelten müssen, die mit KI-Technologien produziert werden; fordert, dass KI-generierte Texte klar als solche gekennzeichnet werden, um das Vertrauen in den Journalismus zu schützen;

95.  hebt das Potenzial der KI zur Erleichterung und Förderung der Mehrsprachigkeit hervor, indem sprachenbezogene Technologien entwickelt und europäische Online-Inhalte entdeckt werden können;

o
o   o

96.  beauftragt seinen Präsidenten, diese Entschließung dem Rat und der Kommission zu übermitteln.

(1) ABl. C 202 I vom 16.6.2020, S. 1. (2) ABl. C 440 vom 6.12.2018, S. 37. (3) ABl. C 449 vom 23.12.2020, S. 37. (4) ABl. C 433 vom 23.12.2019, S. 42. (5) ABl. C 28 vom 27.1.2020, S. 8. (6) ABl. C 252 vom 18.7.2018, S. 239. (7) ABl. C 307 vom 30.8.2018, S. 163. (8) Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung) (ABl. L 119 vom 4.5.2016, S. 1). (9) Richtlinie 2002/58/EG des Europäischen Parlaments und des Rates vom 12. Juli 2002 über die Verarbeitung personenbezogener Daten und den Schutz der Privatsphäre in der elektronischen Kommunikation (Datenschutzrichtlinie für elektronische Kommunikation) (ABl. L 201 vom 31.7.2002, S. 37). (10) Bericht des Sonderberichterstatters der Vereinten Nationen über die Förderung und den Schutz des Rechts auf Meinungsfreiheit und freie Meinungsäußerung vom 29. August 2018. (11) Richtlinie 2005/36/EG des Europäischen Parlaments und des Rates vom 7. September 2005 über die Anerkennung von Berufsqualifikationen (ABl. L 255 vom 30.9.2005, S. 22). (12) Gerichtshof der Europäischen Union, Rechtssache C-833/18 SI und Brompton Bicycle Ltd. gegen Chedech / Get2Get. (13) Richtlinie (EU) 2019/790 des Europäischen Parlaments und des Rates vom 17. April 2019 über das Urheberrecht und die verwandten Schutzrechte im digitalen Binnenmarkt und zur Änderung der Richtlinien 96/9/EG und 2001/29/EG (ABl. L 130 vom 17.5.2019, S. 92). (14) Verordnung (EU) 2019/1150 des Europäischen Parlaments und des Rates vom 20. Juni 2019 zur Förderung von Fairness und Transparenz für gewerbliche Nutzer von Online-Vermittlungsdiensten (ABl. L 186 vom 11.7.2019, S. 57). (15) Richtlinie (EU) 2019/2161 des Europäischen Parlaments und des Rates vom 27. November 2019 zur Änderung der Richtlinie 93/13/EWG des Rates und der Richtlinien 98/6/EG, 2005/29/EG und 2011/83/EU des Europäischen Parlaments und des Rates zur besseren Durchsetzung und Modernisierung der Verbraucherschutzvorschriften der Union (ABl. L 328 vom 18.12.2019, S. 7). (16) Richtlinie 2000/31/EG des Europäischen Parlaments und des Rates vom 8. Juni 2000 über bestimmte rechtliche Aspekte der Dienste der Informationsgesellschaft, insbesondere des elektronischen Geschäftsverkehrs, im Binnenmarkt (ABl. L 178 vom 17.7.2000, S. 1). (17) Richtlinie (EU) 2018/1808 des Europäischen Parlaments und des Rates vom 14. November 2018 zur Änderung der Richtlinie 2010/13/EU zur Koordinierung bestimmter Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Bereitstellung audiovisueller Mediendienste (Richtlinie über audiovisuelle Mediendienste) im Hinblick auf sich verändernde Marktgegebenheiten (ABl. L 303 vom 28.11.2018, S. 69).