BERICHT über künstliche Intelligenz im digitalen Zeitalter

5.4.2022 - (2020/2266(INI))

Sonderausschuss zu künstlicher Intelligenz im digitalen Zeitalter
Berichterstatter: Axel Voss

ENTWURF EINER ENTSCHLIESSUNG DES EUROPÄISCHEN PARLAMENTS

über künstliche Intelligenz im digitalen Zeitalter

(2020/2266(INI))

Das Europäische Parlament,

– gestützt auf die Artikel 4, 16, 26, 114, 169, 173, 179, 180, 181 und 187 des Vertrags über die Arbeitsweise der Europäischen Union,

– unter Hinweis auf die Charta der Grundrechte der Europäischen Union,

– unter Hinweis auf das Übereinkommen der Vereinten Nationen über die Rechte des Kindes und die Allgemeine Bemerkung Nr. 25 des Ausschusses der Vereinten Nationen für die Rechte des Kindes vom 2. März 2021 zu den Rechten des Kindes in Bezug auf das digitale Umfeld,

– unter Hinweis auf die Empfehlung der Organisation der Vereinten Nationen für Erziehung, Wissenschaft und Kultur (UNESCO) zu ethischen Fragen der künstlichen Intelligenz, die durch die Generalkonferenz der UNESCO bei ihrer 41. Tagung am 24. November 2021 angenommen wurde,

– unter Hinweis auf die Interinstitutionelle Vereinbarung vom 13. April 2016 über bessere Rechtsetzung[1] und die Leitlinien der Kommission für eine bessere Rechtsetzung,

– unter Hinweis auf die Mitteilung der Kommission vom 24. März 2021 mit dem Titel „EU-Kinderrechtsstrategie“(COM(2021)0142),

– unter Hinweis auf seine Entschließung vom 7. Oktober 2021 zum Stand der Fähigkeiten der EU im Bereich der Cyberabwehr[2],

– unter Hinweis auf seine Entschließung vom 15. Dezember 2021 zu den Herausforderungen und Chancen für multilaterale Systeme der Rüstungskontrolle und Abrüstung in Bezug auf Massenvernichtungswaffen[3],

– unter Hinweis auf die Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG („Datenschutz-Grundverordnung“ (DSGVO))[4],

– unter Hinweis auf die Verordnung (EU) 2021/694 des Europäischen Parlaments und des Rates vom 29. April 2021 zur Aufstellung des Programms „Digitales Europa“ und zur Aufhebung des Beschlusses (EU) 2015/2240[5],

– unter Hinweis auf die Verordnung (EU) 2021/695 des Europäischen Parlaments und des Rates vom 28. April 2021 zur Einrichtung von „Horizont Europa“, dem Rahmenprogramm für Forschung und Innovation, sowie über dessen Regeln für die Beteiligung und die Verbreitung der Ergebnisse und zur Aufhebung der Verordnungen (EU) Nr. 1290/2013 und (EU) Nr. 1291/2013[6],

– unter Hinweis auf den Vorschlag der Kommission für eine Verordnung des Europäischen Parlaments und des Rates vom 21. April 2021 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM(2021)0206),

– unter Hinweis auf den Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates vom 25. November 2020 über europäische Daten-Governance (Daten-Governance-Gesetz) (COM(2020)0767),

– unter Hinweis auf die Verordnung (EU) 2018/1807 des Europäischen Parlaments und des Rates vom 14. November 2018 über einen Rahmen für den freien Verkehr nicht-personenbezogener Daten in der Europäischen Union[7],

– unter Hinweis auf die Verordnung (EU) Nr. 2021/697 des Europäischen Parlaments und des Rates vom 29. April 2021 zur Einrichtung des Europäischen Verteidigungsfonds und zur Aufhebung der Verordnung (EU) Nr. 2018/1092[8],

– unter Hinweis auf die Richtlinie (EU) 2019/770 des Europäischen Parlaments und des Rates vom 20. Mai 2019 über bestimmte vertragsrechtliche Aspekte der Bereitstellung digitaler Inhalte und digitaler Dienstleistungen[9],

– unter Hinweis auf die Verordnung (EU) 2021/1173 des Rates vom 13. Juli 2021 zur Gründung des Gemeinsamen Unternehmens für europäisches Hochleistungsrechnen und zur Aufhebung der Verordnung (EU) 2018/1488[10],

– unter Hinweis auf die Mitteilung der Kommission vom 25. April 2018 mit dem Titel „Künstliche Intelligenz für Europa“ (COM(2018)0237),

– unter Hinweis auf die Mitteilung der Kommission vom 7. Dezember 2018 zu einem koordinierten Plan für künstliche Intelligenz (COM(2018)0795),

– unter Hinweis auf die Mitteilung der Kommission vom 8. April 2019 mit dem Titel „Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz“ (COM(2019)0168),

– unter Hinweis auf das Weißbuch der Kommission vom 19. Februar 2020 mit dem Titel „Künstliche Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen“ (COM(2020)0065),

– unter Hinweis auf das Grünbuch der Kommission vom 27. Januar 2021 zum Thema „Altern – Förderung von Solidarität und Verantwortung zwischen den Generationen“ (COM(2021)0050),

– unter Hinweis auf die Mitteilung der Kommission vom 19. Februar 2020 mit dem Titel „Eine europäische Datenstrategie“ (COM(2020)0066),

– unter Hinweis auf die Mitteilung der Kommission vom 19. Februar 2020 über die Gestaltung der digitalen Zukunft Europas (COM(2020)0067),

– unter Hinweis auf die Mitteilungen der Kommission vom 10. März 2020 mit dem Titel „Eine neue Industriestrategie für Europa“ (COM(2020)0102) und vom 5. Mai 2021 mit dem Titel „Aktualisierung der neuen Industriestrategie von 2020: einen stärkeren Binnenmarkt für die Erholung Europas aufbauen“ (COM(2021)0350),

– unter Hinweis auf die Mitteilung der Kommission vom 30. September 2020 mit dem Titel „Aktionsplan für digitale Bildung 2021–2027 – Neuaufstellung des Bildungswesens für das digitale Zeitalter“ (COM(2020)0624),

– unter Hinweis auf die Mitteilung der Kommission vom 9. März 2021 mit dem Titel „Digitaler Kompass 2030: der europäische Weg in die digitale Dekade“ (COM(2021)0118),

– unter Hinweis auf den Vorschlag für einen Beschluss des Europäischen Parlaments und des Rates vom 15. September 2021 über das Politikprogramm für 2030 „Weg in die digitale Dekade“ (COM(2021)0574),

– unter Hinweis auf die Studie der Kommission vom 28. Juli 2020 mit dem Titel „European enterprise survey on the use of technologies based on artificial intelligence“ (Umfrage unter europäischen Unternehmen zum Einsatz von KI-gestützten Technologien),

– unter Hinweis auf die Studie der Kommission vom 26. November 2020 mit dem Titel „Energy-efficient Cloud Computing Technologies and Policies for an Eco-friendly Cloud Market“ (Energieeffiziente Cloud-Computing-Technologien und Strategien für einen umweltfreundlichen Cloud-Markt),

– unter Hinweis auf den Bericht der Kommission vom 19. Februar 2020 an das Europäische Parlament, den Rat und den Europäischen Wirtschafts- und Sozialausschuss über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung (COM(2020)0064),

– unter Hinweis auf die Schlussfolgerungen des Rates vom 22. März 2021 zur Cybersicherheitsstrategie der EU für die digitale Dekade,

– unter Hinweis auf den von der hochrangigen Expertengruppe für künstliche Intelligenz am 8. April 2019 veröffentlichten Bericht „Ethikleitlinien für vertrauenswürdige künstliche Intelligenz“,

– unter Hinweis auf den von der hochrangigen Expertengruppe für künstliche Intelligenz am 8. April 2019 veröffentlichten Bericht „A definition of Artificial Intelligence: Main capabilities and disciplines“ (Definition der künstlichen Intelligenz: wichtigste Fähigkeiten und Wissenschaftsgebiete),

– unter Hinweis auf den von der hochrangigen Expertengruppe für künstliche Intelligenz am 26. Juni 2019 veröffentlichten Bericht „Policy and investment recommendations for trustworthy AI“ (Empfehlungen zur Politik für und zu Investitionen in vertrauenswürdige künstliche Intelligenz),

– unter Hinweis auf die Veröffentlichung der UNESCO von März 2019 mit dem Titel „I’d blush if I could: Closing gender divides in digital skills through education“ (Ich würde rot werden, wenn ich könnte: Schließen der digitalen Kluft zwischen den Geschlechtern durch Bildung),

– unter Hinweis auf den Bericht der Agentur der Europäischen Union für Grundrechte vom 14. Dezember 2020 mit dem Titel „Getting the future right – Artificial intelligence and fundamental rights“ (Der richtige Weg für die Zukunft – Künstliche Intelligenz und Grundrechte),

– unter Hinweis auf die Empfehlung des Rates der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) vom 22. Mai 2019 zu künstlicher Intelligenz,

– unter Hinweis auf die Plattform der Vereinten Nationen zum Dialog über künstliche Intelligenz: „AI for Good Global Summit“,

– unter Hinweis auf die KI-Grundsätze der G20 vom 9. Juni 2019,

– unter Hinweis auf den Bericht der Weltgesundheitsorganisation vom 28. Juni 2021 über künstliche Intelligenz im Gesundheitswesen und sechs Leitprinzipien für ihre Gestaltung und Verwendung,

– unter Hinweis auf die Initiativstellungnahme des Europäischen Wirtschafts- und Sozialausschusses vom 31. Mai 2017 zum Thema „Künstliche Intelligenz – die Auswirkungen der künstlichen Intelligenz für den (digitalen) Binnenmarkt und Produktion, Verbrauch, Beschäftigung und Gesellschaft“[11],

– unter Hinweis auf den Bericht der Untergruppe für neue Technologien der Expertengruppe für Haftung und neue Technologien vom 21. November 2019 mit dem Titel „Liability for Artificial Intelligence and other emerging digital technologies“ (Haftung für künstliche Intelligenz und andere neue digitale Technologien),

– unter Hinweis auf die Veröffentlichung des Ad-hoc-Ausschusses für künstliche Intelligenz (CAHAI) des Europarats vom Dezember 2020 mit dem Titel „Towards Regulation of AI systems – Global perspectives on the development of a legal framework on Artificial Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law“ (Auf dem Weg zur Regulierung von KI-Systemen – Globale Perspektiven auf die Entwicklung eines Rechtsrahmens für Systeme der künstlichen Intelligenz auf der Grundlage der Normen des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit),

– unter Hinweis auf das Arbeitsdokument des Europäischen Hochschulinstituts vom Oktober 2020 mit dem Titel „Models of Law and Regulation for AI“ (Modelle für Rechtsvorschriften für und die Regulierung von KI),

– unter Hinweis auf den gemeinsamen Bericht von Trend Micro Research, dem Internationalen Forschungsinstitut der Vereinten Nationen für Kriminalität und Rechtspflege und Europol vom 19. November 2020 mit dem Titel „Malicious Uses and Abuses of Artificial Intelligence“ (Böswillige Verwendungen und Missbrauch von künstlicher Intelligenz),

– unter Hinweis auf die politischen Leitlinien der Kommission für den Zeitraum 2019–2024 mit dem Titel „Eine Union, die mehr erreichen will – Meine Agenda für Europa“,

– unter Hinweis auf das Urteil des Gerichtshofs der Europäischen Union vom 16. Juli 2020 in der Rechtssache C‑311/18 (Schrems II),

– unter Hinweis auf seine Entschließung vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik[12],

– unter Hinweis auf seine Entschließung vom 1. Juni 2017 zur Digitalisierung der europäischen Industrie[13],

– unter Hinweis auf seine Entschließung vom 6. Oktober 2021 zu dem EU-Politikrahmen für die Straßenverkehrssicherheit im Zeitraum 2021 bis 2030 – Empfehlungen für die nächsten Schritte auf dem Weg zur „Vision Null Straßenverkehrstote“[14],

– unter Hinweis auf seine Entschließung vom 12. September 2018 zu autonomen Waffensystemen[15],

– unter Hinweis auf seine Entschließung vom 12. Februar 2019 zu einer umfassenden europäischen Industriepolitik in Bezug auf künstliche Intelligenz (KI) und Robotik[16],

– unter Hinweis auf seine Entschließung vom 12. Februar 2020 mit dem Titel „Automatisierte Entscheidungsfindungsprozesse: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“[17],

– unter Hinweis auf seine Entschließung vom 20. Oktober 2020 mit Empfehlungen an die Kommission für eine Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz[18],

– unter Hinweis auf seine Entschließung vom 20. Oktober 2020 zu den Rechten des geistigen Eigentums bei der Entwicklung von KI-Technologien[19],

– unter Hinweis auf seine Entschließung vom 20. Oktober 2020 mit Empfehlungen an die Kommission zu dem Rahmen für die ethischen Aspekte von künstlicher Intelligenz, Robotik und damit zusammenhängenden Technologien[20],

– unter Hinweis auf seine Entschließung vom 20. Januar 2021 zur künstlichen Intelligenz: Fragen der Auslegung und Anwendung von für die EU geltenden internationalen Rechtsvorschriften in Bezug auf die zivile und militärische Nutzung und der Zuständigkeit des Staates außerhalb des Anwendungsbereichs der Strafgerichtsbarkeit[21],

– unter Hinweis auf seine Entschließung vom 20. Mai 2021 zu der Gestaltung der digitalen Zukunft Europas: Beseitigung von Hindernissen für einen funktionierenden digitalen Binnenmarkt und Verbesserung des Einsatzes von KI für europäische Verbraucher[22],

– unter Hinweis auf seine Entschließung vom 25. März 2021 zum Thema „Eine europäische Datenstrategie“[23],

– unter Hinweis auf seine Entschließung vom 19. Mai 2021 zu künstlicher Intelligenz in der Bildung, der Kultur und dem audiovisuellen Bereich[24],

– unter Hinweis auf seine Entschließung vom 6. Oktober 2021 zu künstlicher Intelligenz im Strafrecht und ihrer Verwendung durch die Polizei und Justizbehörden in Strafsachen[25],

– unter Hinweis auf die Studie seiner Generaldirektion Interne Politikbereiche (GD IPOL) vom Juni 2021 mit dem Titel „Artificial Intelligence diplomacy – Artificial Intelligence governance as a new European Union external policy tool“ (KI-Diplomatie – Governance der künstlichen Intelligenz als neues außenpolitischen Instrument der Europäischen Union),

– unter Hinweis auf die Studie der GD IPOL vom Mai 2021 mit dem Titel „Challenges and limits of an open source approach to Artificial Intelligence“ (Herausforderungen und Grenzen eines quelloffenen Ansatzes für künstliche Intelligenz),

– unter Hinweis auf die Studie der GD IPOL vom Mai 2021 mit dem Titel „Artificial Intelligence market and capital flows – AI and the financial sector at crossroads“ (Der Markt für künstliche Intelligenz und Kapitalströme – KI und der Finanzsektor an einem Scheidepunkt),

– unter Hinweis auf die Studie der GD IPOL vom Juni 2021 mit dem Titel „Improving working conditions using Artificial Intelligence“ (Verbesserung der Arbeitsbedingungen mithilfe künstlicher Intelligenz),

– unter Hinweis auf die Studie der GD IPOL vom Mai 2021 mit dem Titel „The role of Artificial Intelligence in the European Green Deal“ (Die Rolle der künstlichen Intelligenz im europäischen Grünen Deal),

– unter Hinweis auf die Studie der GD IPOL vom Juli 2021 mit dem Titel „Artificial Intelligence in smart cities and urban mobility“ (Künstliche Intelligenz in intelligenten Städte und in der städtischen Mobilität),

– unter Hinweis auf die Studie der GD IPOL vom Juli 2021 mit dem Titel „Artificial Intelligence and public services“ (Künstliche Intelligenz und öffentlicher Dienst),

– unter Hinweis auf die Studie der GD IPOL vom Juli 2021 mit dem Titel „European Union data challenge“ (Herausforderungen im Zusammenhang mit Daten für die Europäische Union),

– unter Hinweis auf die Studie der GD IPOL vom Juni 2020 mit dem Titel „Opportunities of Artificial Intelligence“ (Chancen der künstlichen Intelligenz),

– unter Hinweis auf die Studie der GD IPOL von Oktober 2021 mit dem Titel „Europe's Digital Decade and Autonomy“ (Digitale Dekade und Autonomie Europas),

– unter Hinweis auf die Studie der GD IPOL von Januar 2022 mit dem Titel „Identification and assessment of existing and draft legislation in the digital field“ (Ermittlung und Bewertung bestehender und in Ausarbeitung befindlicher EU-Rechtsvorschriften im digitalen Bereich),

– unter Hinweis auf die Studie des Wissenschaftlichen Dienstes des Europäischen Parlaments (EPRS) vom September 2020 mit dem Titel „Civil liability regime for artificial intelligence – European added value assessment“ (Vorschriften über die zivilrechtliche Haftung für künstliche Intelligenz – Bewertung des europäischen Mehrwerts),

– unter Hinweis auf die Studie des EPRS vom Dezember 2020 mit dem Titel „Data subjects, digital surveillance, AI and the future of work“ (Datensubjekte, digitale Überwachung, KI und die Zukunft der Arbeit),

– unter Hinweis auf die Studie des EPRS vom September 2020 mit dem Titel „European framework on ethical aspects of artificial intelligence, robotics and related technologies“ (Europäischer Rahmen für die ethischen Aspekte von künstlicher Intelligenz, Robotik und damit zusammenhängenden Technologien),

– unter Hinweis auf die Studie des EPRS vom März 2020 mit dem Titel „The ethics of artificial intelligence: Issues and initiatives“ (Ethische Aspekte der künstlichen Intelligenz: Fragen und Initiativen),

– unter Hinweis auf die Studie des EPRS vom Juni 2020 mit dem Titel „Artificial Intelligence: How does it work, why does it matter, and what can we do about it?“ (Künstliche Intelligenz: Wie funktioniert sie, warum ist sie wichtig und was können wir dagegen tun?),

– unter Hinweis auf die Studie des EPRS vom Juli 2020 mit dem Titel „Artificial Intelligence and Law enforcement – Impact on Fundamental Rights“ (Künstliche Intelligenz und Strafverfolgung – Auswirkungen auf die Grundrechte),

– unter Hinweis auf die Studie des EPRS vom Juni 2020 mit dem Titel „The impact of the General Data Protection Regulation (GDPR) on artificial intelligence“ (Auswirkungen der Datenschutz-Grundverordnung (DSGVO) auf künstliche Intelligenz),

– unter Hinweis auf die Studie des EPRS vom April 2020 mit dem Titel „The White Paper on Artificial Intelligence“ (Weißbuch zur künstlichen Intelligenz),

– unter Hinweis auf die Studie des EPRS vom September 2021 mit dem Titel „Regulating facial recognition in the EU“ (Regulierung der Gesichtserkennung in der EU),

– unter Hinweis auf die Studie des EPRS vom Februar 2021 mit dem Titel „The future of work: Trends, challenges and potential initiatives“ (Die Zukunft der Arbeit: Trends, Herausforderungen und mögliche Initiativen),

– unter Hinweis auf die Studie des EPRS vom Juni 2021 mit dem Titel „Robo-advisors: How do they fit in the existing EU regulatory framework, in particular with regard to investor protection?“ (Roboter-Berater: Wie passen sie in den Rechtsrahmen, besonders mit Blick auf den Investitionsschutz?),

– unter Hinweis auf die Studie des EPRS vom September 2021 mit dem Titel „China’s ambitions in artificial intelligence“ (Chinas Ambitionen im Bereich der künstlichen Intelligenz),

– unter Hinweis auf die Studie des EPRS vom Juni 2021 mit dem Titel „What if we chose new metaphors for artificial intelligence?“ (Was passiert, wenn neue Metaphern für künstliche Intelligenz festgelegt werden?),

– unter Hinweis auf die Studie des EPRS vom Januar 2018 mit dem Titel „Understanding artificial intelligence“ (Künstliche Intelligenz verstehen),

– unter Hinweis auf die Studie des EPRS von Juli 2021 mit dem Titel „Tackling deepfakes in European Policy“ (Bekämpfung von Deepfakes in der europäischen Politik),

– unter Hinweis auf das Arbeitsdokument des Sonderausschusses zu künstlicher Intelligenz im digitalen Zeitalter (AIDA) vom Februar 2021 mit dem Titel „Artificial Intelligence and Health“ (Künstliche Intelligenz und Gesundheit),

– unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom März 2021 mit dem Titel „Artificial Intelligence and the Green Deal“ (Künstliche Intelligenz und der Grüne Deal),

– unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom März 2021 mit dem Titel „The External Policy Dimensions of AI“ (Außenpolitische Aspekte der KI),

– unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom Mai 2021 mit dem Titel „AI and Competitiveness“ (Künstliche Intelligenz und Wettbewerbsfähigkeit),

– unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom Juni 2021 mit dem Titel „AI and the Future of Democracy“ (KI und die Zukunft der Demokratie),

– unter Hinweis auf das Arbeitsdokument des AIDA-Ausschusses vom Juni 2021 mit dem Titel „AI and the Labour Market“ (KI und der Arbeitsmarkt),

– gestützt auf Artikel 54 seiner Geschäftsordnung,

– unter Hinweis auf den Bericht des Sonderausschusses zu künstlicher Intelligenz im digitalen Zeitalter (A9-0088/2022),

(1) Einleitung

1. stellt fest, dass die Welt kurz vor der vierten industriellen Revolution steht; weist darauf hin, dass im Vergleich zu den drei vorangegangenen großen Umbrüchen, die durch die Einführung von Dampf, Elektrizität und Computern ausgelöst wurden, der vierte große Umbruch seine Energie aus einer Fülle von Daten in Verbindung mit leistungsstarken Algorithmen und Rechenkapazitäten bezieht; betont, dass die aktuelle digitale Revolution durch ihren globalen Umfang, ihre rasche Konvergenz und die enormen Auswirkungen neuer technologischer Durchbrüche auf Staaten, Volkswirtschaften, Gesellschaften, internationale Beziehungen und die Umwelt geprägt ist; stellt fest, dass ein radikaler Wandel dieser Größenordnung verschiedene Teile der Gesellschaft unterschiedlich beeinflusst, abhängig von ihren Zielen, ihrer geographischen Position oder ihrem sozioökonomischen Kontext; hebt hervor, dass der digitale Wandel unter umfassender Achtung der Grundrechte gestaltet werden muss, und derart, dass digitale Technologien der Menschheit dienen;

2. stellt fest, dass die digitale Revolution gleichzeitig einen weltweiten Wettbewerb ausgelöst hat, der auf dem enormen wirtschaftlichen Wert und den technologischen Möglichkeiten beruht, die sich in den Volkswirtschaften sammeln, die der Forschung, Entwicklung und Vermarktung von KI-Anwendungen die meisten Ressourcen widmen; stellt fest, dass digitale Wettbewerbsfähigkeit und eine offene strategische Autonomie in mehreren Ländern zu zentralen Zielen der Politik erkoren wurden; betont, dass die Entscheidungsträger zunehmend zu der Einsicht kommen, dass sich die neuen Technologien auf den geopolitischen Machtstatus ganzer Länder auswirken könnten;

3. weist darauf hin, dass Europa, das jahrhundertelang internationale Standards setzte, den technologischen Fortschritt dominierte und bei der Herstellung und dem Einsatz von Spitzentechnologie führend war, daher zurückgefallen ist, sich viel weniger an der Entwicklung des digitalen Marktes beteiligt und weniger investiert als führende Volkswirtschaften wie die USA oder China, dabei aber in Bezug auf Forschungsergebnisse zum Thema KI wettbewerbsfähig bleibt; nimmt zur Kenntnis, dass europäische Akteure Gefahr laufen, bei der Entwicklung globaler Standards und der Weiterentwicklung der Technologie an den Rand gedrängt zu werden, und dass europäische Werte in Frage gestellt werden;

4. betont erstens, dass digitale Instrumente in den Händen einiger Unternehmen sowie in den Händen autokratischer Regierungen zunehmend zu einem Instrument der Manipulation und des Missbrauchs und von ihnen genutzt werden, demokratische Systeme zu untergraben, was zu Konflikten zwischen politischen Systemen führen kann; erklärt, dass digitale Spionage, Sabotage, Kriegsführung im kleinen Maßstab und Desinformationskampagnen die demokratischen Gesellschaften herausfordern;

5. betont, dass der Charakter digitaler Geschäftsmodelle ein hohes Maß an Skalierbarkeit und Netzwerkeffekte ermöglicht; weist darauf hin, dass sich viele digitale Märkte durch eine hohe Marktkonzentration gekennzeichnet sind, sodass eine kleine Anzahl von derzeit größtenteils in den USA ansässigen Technologieplattformen die führende Rolle bei der Vermarktung bahnbrechender technologischer Innovationen spielen, die besten Ideen, Talente und Unternehmen anziehen und eine außergewöhnliche Rentabilität erreichen kann; warnt, dass marktbeherrschende Stellungen in der Datenwirtschaft vermutlich in die entstehende KI-Wirtschaft hineinreichen werden; weist darauf hin, dass nur acht der heute wichtigsten 200 digitalen Unternehmen ihren Sitz in der EU haben; betont, dass die Vollendung eines echten digitalen Binnenmarkts in diesem Zusammenhang von höchster Bedeutung ist;

6. betont, dass der weltweite Wettbewerb um die führende Rolle im Technologiebereich für die EU zu einer Priorität geworden ist; betont, dass die EU, wenn sie nicht umgehend und mutig handelt, letztlich Regeln und Standards anderer einzuhalten haben und Gefahr laufen wird, dass die politische Stabilität, die soziale Sicherheit, die Grundrechte, die individuellen Freiheiten und die wirtschaftliche Wettbewerbsfähigkeit beeinträchtigt werden;

7. vertritt die Auffassung, dass die KI in der vierten industriellen Revolution eine der wichtigsten neuen Technologien darstellt; stellt fest, dass die KI die digitale Wirtschaft antreibt, da sie die Einführung innovativer Produkte und Dienste ermöglicht sowie Verbrauchern eine größere Auswahl bieten und Produktionsverfahren effizienter gestalten kann; stellt fest, dass die KI bis 2030 voraussichtlich mehr als 11 Bio. EUR zur Weltwirtschaft beitragen wird; betont, dass die KI-Technologien gleichzeitig das Risiko mit sich bringen, die menschliche Handlungsmacht zu schwächen; betont, dass die KI eine auf den Menschen ausgerichtete vertrauenswürdige Technologie bleiben und weder die menschliche Autonomie ersetzen noch den Verlust der individuellen Freiheit voraussetzen sollte; betont, dass sichergestellt werden muss, dass diese vierte industrielle Revolution inklusiv ist und dass bei ihr niemand zurückgelassen wird;

8. legt nahe, dass ein globaler Wettbewerb um die Führungsrolle im KI-Bereich im Gange ist; hebt hervor, dass die Einführung von KI-Technologien denjenigen Volkswirtschaften, die solche Technologien gewinnbringend entwickeln, produzieren oder erfolgreich anwenden, sowie den Ländern, in denen eine solche Wertschöpfung erfolgt, einen enormen wirtschaftlichen Wert verspricht; betont, dass KI keine allmächtige Technologie ist, sondern vielmehr eine Reihe effizienter Instrumente und Techniken, die zum Wohle der Gesellschaft sinnvoll eingesetzt werden können; erklärt, dass die Funktionsweise von Technologien allgemein davon abhängt, wie wir sie gestalten; weist darauf hin, dass die EU ihre Absicht erklärt hat, den ersten KI-Rechtsrahmen überhaupt zu schaffen; betont gleichwohl, dass es für die EU ganz entscheidend ist, den Regulierungsansatz definieren zu können, einschließlich der Wahrung der Grundrechte und Grundfreiheiten, und bei der Festlegung der globalen Standards eine Führungsrolle zu übernehmen; betont daher erneut die Bedeutung der Wettbewerbsfähigkeit Europas im Bereich der KI und der Fähigkeit der EU, die Regulierungslandschaft auf internationaler Ebene zu gestalten; betont, dass bestimmte Anwendungen von KI womöglich mit Risiken für Einzelpersonen oder die Gesellschaft verbunden sind und mit einer Gefährdung von Grundrechten einhergehen, die daher von politischen Entscheidungsträgern angegangen werden sollten, sodass die KI tatsächlich zu einem Instrument werden kann, das den Menschen und der Gesellschaft dient;

9. weist darauf hin, dass ein klarer Rechtsrahmen, politisches Engagement und eine fortschrittlichere Denkweise, an denen es derzeit oft mangelt, erforderlich sind, damit die europäischen Akteure im Digitalzeitalter erfolgreich sein und eine führende Rolle in der KI-Technologie übernehmen können; kommt zu dem Schluss, dass auf der Basis eines solchen Ansatzes die Bürgerinnen und Bürger wie auch die Unternehmen der EU von KI und den damit verbundenen großen Chancen für eine gestärkte Wettbewerbsfähigkeit, auch mit Blick auf Wohlstand und Wohlergehen, profitieren können; hebt hervor, dass der Rechtsrahmen derart gestaltet werden muss, dass er keine ungerechtfertigten Hindernisse schafft, die den Erfolg europäischer Akteure im Digitalzeitalter verhindern, was insbesondere für Start-up-Unternehmen und kleine und mittlere Unternehmen (KMU) gilt; betont, dass die privaten und öffentlichen Investitionen erheblich gesteigert werden sollten, um ein Klima zu schaffen, aus dem mehr europäische Erfolgsgeschichten hervorgehen und das der Entwicklung unseres Kontinents förderlich ist;

10. hebt hervor, dass der schnelle technologische Fortschritt durch die KI aus den meisten menschlichen Tätigkeitsbereichen kaum mehr wegzudenken ist und sich auf die Existenzgrundlage all derer auswirken wird, die nicht über die Fähigkeiten verfügen, sich ausreichend schnell diesen neuen Technologien anzupassen; weist darauf hin, dass mit dem Erwerb digitaler Kompetenzen durch Weiterbildung und Umschulung zwar dazu beigetragen werden kann, viele der aufkommenden sozioökonomischen Schwierigkeiten zu bewältigen, dass den betreffenden Auswirkungen jedoch auch im Zusammenhang mit den Sozialsystemen, der städtischen und ländlichen Infrastruktur und den demokratischen Prozessen begegnet werden muss;

11. unterstreicht, dass die Ziele und Interessen von Frauen und schutzbedürftigen Gruppen beim digitalen Wandel zum Ausdruck kommen müssen; hebt in diesem Zusammenhang hervor, dass 2018 Frauen nur 22 % der KI-Fachkräfte weltweit ausmachten, ein Problem, durch das Stereotypen und Vorurteile weiter aufrechterhalten und verfestigt werden; räumt ein, dass bei der Nutzung von KI die Rechte auf Gleichheit vor dem Gesetz, Privatsphäre, Meinungsfreiheit und Teilnahme am kulturellen und politischen Leben, besonders für Minderheitengemeinschaften, gewahrt werden müssen;

(2) Potenzielle Chancen, Risiken und Hindernisse beim Einsatz von KI: Sechs vom AIDA-Ausschuss untersuchte Fallstudien

12. weist erneut darauf hin, dass KI auf Software basiert, die Wahrscheinlichkeitsmodelle und algorithmische Prognosen für eine Reihe von spezifischen Zielen verwendet; weist darauf hin, dass es sich bei KI um einen Oberbegriff handelt, der ein breites Spektrum alter und neuer Technologien abdeckt, die besser als „KI-Systeme“ zu verstehen sind, und der auf maschinelle Systeme jeder Art verweist, die oft wenig mehr gemeinsam haben als sich von einer Reihe von vom Menschen festgelegten Zielen leiten zu lassen, wobei sie über ein gewisses Maß an Autonomie in ihrem Handeln verfügen, und Prognosen und Empfehlungen abgeben oder Entscheidungen treffen können; stellt fest, dass einige dieser Technologien bereits weit verbreitet sind, andere jedoch noch in der Entwicklung sind oder sogar nur spekulative Konzepte sind, die es in Zukunft möglicherweise geben oder nicht geben wird;

13. weist darauf hin, dass es einen erheblichen Unterschied zwischen symbolischer KI, dem wichtigsten Ansatz für KI von den 1950er bis 1990er Jahren, und der seit den 2000er Jahren vorherrschenden maschinellen, datengesteuerten KI gibt; stellt klar, dass während der ersten Welle KI entwickelt wurde, indem das Wissen und die Erfahrung von Experten in eine Reihe von Regeln eingegeben wurden, die dann von einer Maschine ausgeführt wurden;

14. stellt fest, dass in der zweiten Welle die automatisierten Lernprozesse von Algorithmen, die auf der Verarbeitung großer Datenmengen beruhen, die Fähigkeit, Eingaben aus mehreren verschiedenen Quellen zusammenzubringen, um komplexe Abbildungen einer bestimmten Umwelt zu bilden, und die Identifizierung von Mustern dazu geführt haben, dass KI-Systeme komplexer, autonomer und undurchsichtiger wurden, was zu weniger erklärbaren Ergebnissen führen kann; betont, dass die derzeitige KI daher in viele verschiedene Teilbereiche und Techniken unterteilt werden kann, wobei Deep Learning beispielsweise ein Unterbereich des maschinellen Lernens ist, das selbst ein Unterbereich der KI ist;

15. stellt fest, dass die KI von heute dank der erheblichen Steigerung von Rechenkapazitäten zwar viel wirksamer und leistungsstärker geworden ist als die symbolische KI, aber immer noch nur klar definierte Aufgaben in bereichsspezifischen Nischen wie Schach oder Bilderkennung lösen kann und ihre Programmierung nicht darauf ausgelegt ist, die vom KI-System durchgeführten Maßnahmen vollständig zu erkennen; betont, dass KI-Systeme – anders als die Bezeichnung nahelegt – nicht über „Intelligenz“ im menschlichen Sinne verfügen; weist darauf hin, dass sie daher als „eng“ oder „schwach“ bezeichnet wird und immer noch nur ein Instrument darstellt, das Empfehlungen und Vorhersagen enthält; stellt fest, dass beispielsweise selbstfahrende Fahrzeuge durch eine Kombination verschiedener KI-Systeme mit je einer Aufgabe betrieben werden, die zusammen in der Lage sind, eine dreidimensionale Karte der Umgebung des Fahrzeugs zu erstellen, damit sein Betriebssystem Entscheidungen treffen kann;

16. weist darauf hin, dass viele Ängste im Zusammenhang mit KI auf hypothetischen Konzepten wie der allgemeinen KI, der künstlichen Superintelligenz und der Singularität beruhen, die theoretisch zu einer maschinellen Intelligenz führen könnten, die der menschlichen Intelligenz in vielen Bereichen überlegen ist; betont, dass Zweifel bestehen, ob diese spekulative KI mit unseren Technologien und den Gesetzen der Wissenschaft überhaupt erreicht werden kann; ist dennoch der Auffassung, dass sich die Gesetzgeber mit den derzeit von KI-gestützten Entscheidungen ausgehenden Risiken befassen müssen, da klar erwiesen ist, dass schädliche Auswirkungen wie Diskriminierung aufgrund der Rasse und des Geschlechts konkreten KI-Anwendungen ohne Schutzvorkehrungen zugeordnet werden können;

17. betont, dass die überwiegende Mehrheit der derzeit verwendeten KI-Systeme risikoarm ist; bezieht sich beispielsweise auf maschinelle Übersetzungen, „Eureka-Geräte“, Spielautomaten und Roboter, die repetitive Produktionsprozesse ausführen; kommt zu dem Schluss, dass einige Anwendungsfälle als riskant eingestuft werden können und dass solche Fälle regulatorische Maßnahmen und wirksame Schutzmaßnahmen erfordern, sofern diese nicht bereits ergriffen wurden;

18. regt eine öffentliche Debatte darüber an, wie das enorme Potenzial von KI auf der Basis der grundlegenden europäischen Werte, der Grundsätze der Transparenz, Erklärbarkeit, Fairness, Rechenschaftspflicht, Verantwortung und Vertrauenswürdigkeit sowie des Grundsatzes erkundet werden kann, dass bei der KI und der Robotik der Mensch im Mittelpunkt stehen sollte und dass ihre Entwicklung darauf gerichtet sein sollte, die menschlichen Fähigkeiten zu ergänzen; betont, dass in zahlreichen Bereichen menschlichen Lebens, von Nachhaltigkeit bis hin zur Gesundheitsversorgung, die KI Nutzern und Fachleuten als wertvolles Hilfswerkzeug dienen kann, das die Fähigkeiten von Menschen erhöht, ohne ihre Möglichkeit, frei zu handeln und zu entscheiden, zu behindern; betont, dass die vereinbarten ethischen Grundsätze und Anforderungen für KI in allen Bereichen der KI-Anwendung operationalisiert werden sollten, wobei durch die Einrichtung der notwendigen Schutzvorkehrungen das Vertrauen der Bürger gestärkt wird, sodass sie die Vorteile der KI befürworten;

19. unterstreicht, dass der Risikograd einer bestimmten KI-Anwendung entsprechend der Wahrscheinlichkeit und Schwere eines Schadens erheblich schwankt; hebt deshalb hervor, dass rechtliche Anforderungen in Übereinstimmung mit einem risikobasierten Ansatz daran angepasst werden sollten und dass dabei, wenn dies gerechtfertigt ist, dem Vorsorgeprinzip gebührend Rechnung zu tragen ist; unterstreicht, dass in derartigen aktuellen oder künftigen Fällen, in denen KI-Systeme in einem konkreten Anwendungsfall hohe Risiken für Grund- und Menschenrechte bergen, eine vollständige menschliche Aufsicht und regulatorische Eingriffe vonnöten sind, und dass die Regulierung von KI-Systemen mit hohem Risiko, vor dem Hintergrund der schnellen technologischen Entwicklung, flexibel und zukunftssicher sein muss;

20. erläutert, dass sich der vorliegende Bericht ausführlich mit sechs KI-Fallstudien befasst, in denen die Chancen, die die KI in der jeweiligen Branche bietet, die zu bewältigenden Risiken und die Hindernisse dargelegt werden, die Europa daran hindern, die Vorteile der KI in vollem Umfang zu nutzen; betont, dass die Fallstudien einige der derzeit wichtigsten KI-Anwendungsfälle darstellen und gleichzeitig einige der Hauptthemen der vom AIDA-Ausschuss während seiner Amtszeit durchgeführten öffentlichen Anhörungen widerspiegeln, nämlich Gesundheit, Grüner Deal, Außenpolitik und Sicherheit, Wettbewerbsfähigkeit, Zukunft der Demokratie und des Arbeitsmarkts;

a) KI und Gesundheit

21. stellt fest, dass die methodische Analyse großer Datenmengen, auch unter Verwendung von KI, neue Lösungen ermöglichen bzw. bestehende Techniken im Gesundheitswesen verbessern kann, wodurch die wissenschaftliche Forschung enorm beschleunigt, Menschenleben gerettet und die Patientenversorgung durch das Angebot innovativer Behandlungen und besserer Diagnosen sowie die Förderung eines unterstützenden Umfelds für eine gesunde Lebensführung verbessert werden könnten; hebt hervor, dass KI-Systeme auch einen Beitrag zur Zugänglichkeit, Widerstandsfähigkeit und Nachhaltigkeit der Gesundheitssysteme leisten und gleichzeitig dem europäischen IKT- und Gesundheitssektor Wettbewerbsvorteile verschaffen können, wenn die inhärenten Risiken angemessen gehandhabt werden;

22. hebt hervor, dass strenge ethische Anforderungen, wie gleichberechtigter Zugang zur Gesundheitsversorgung, Privatsphäre, Haftung, Transparenz, Erklärbarkeit, Verlässlichkeit, Inklusion und Repräsentanz der Datensätze sowie eine dauerhafte menschliche Aufsicht, in der Verwendung von KI im Gesundheitswesen verankert sein sollten; betont, dass dem Risiko der fehlerhaften Zuweisung von Ressourcen zu Personen basierend auf fehlerhaften oder verfälschten Kategorisierungen oder Priorisierungen oder durch die Fehlfunktion von Technologie, die zu Fehldiagnosen oder -behandlungen führt oder zu der Entscheidung, keine Behandlung durchzuführen, bei der Konstruktion von KI-Systemen Rechnung getragen werden muss; ist der Ansicht, dass die höchsten ethischen Standards für alle Gesundheitsanwendungen gelten und dass ethische Regeln in einer sehr frühen Phase ihrer Entwicklung und Konzeption, d. h. nach dem Grundsatz der integrierten Ethik („ethics by design“), eingebunden werden sollten; betont, dass die automatisierte Entscheidungsfindung bei Anwendungen im Gesundheitswesen ein Risiko für das Wohlbefinden und die Grundrechte der Patienten darstellen kann und unterstreicht, dass KI im Gesundheitswesen nur in unterstützender Funktion angewendet werden darf und stets professioneller menschlicher Aufsicht unterliegen sollte; fordert, dass KI bei medizinischen Diagnosen im Bereich der öffentlichen Gesundheitssysteme das Verhältnis zwischen Patient und Arzt wahrt und zu jeder Zeit mit dem hippokratischen Eid im Einklang steht; stellt jedoch fest, dass KI die Genauigkeit von Screenings verbessert und KI-basierte Diagnosen in manchen Fällen die von Ärzten erstellten Diagnosen bereits übertreffen; ist der Ansicht, dass die bestehenden Haftungsregelungen keine ausreichende Rechtssicherheit bieten und im Fall von KI-basierten Fehldiagnosen oder falschen Behandlungen das Rechtsschutzgebot von Patienten nicht wahren; begrüßt in dieser Hinsicht den bevorstehenden Gesetzgebungsvorschlag zur KI-Haftung; stellt fest, dass es wichtig ist, Gesundheitspersonal als Nutzer von KI-Systemen sowie Patienten als Endempfänger zu schützen und ihnen ausreichende und transparente Information zur Verfügung zu stellen;

23. betont, dass KI-gestützte Lösungen in klinischen Umgebungen bereits zur Unterstützung der Diagnose, Prognose, Behandlung und Patientenmitwirkung zum Einsatz kommen oder erprobt werden, wodurch Behandlungen beschleunigt und verbessert und unnötige Eingriffe verringert werden; stellt ferner fest, dass KI die personalisierte Medizin und Patientenversorgung optimieren kann; stellt fest, dass KI derzeit ein breites Spektrum von Gesundheitsbereichen abdeckt, darunter öffentliche Gesundheit, Pflegeleistungen, Selbstversorgung und die Gesundheitssysteme; merkt an, dass Daten von großer Bedeutung sind; stellt fest, dass es einige vielversprechende KI-Anwendungen zur Gewinnung phänotypischer Informationen aus Bildern und andere medizinische Geräte zur Weitergabe von Daten an nachgeordnete Analysen gibt und weist darauf hin, dass überdies erwartet wird, dass die Bandbreite klinischer Aufgaben durch Deep Learning-Algorithmen einen quantitativen Schub erfahren wird;

24. betont, dass KI-Technologien für die Forschung, Entwicklung und Massenproduktion von Arzneimitteln eingesetzt werden können und das Potenzial haben, die Entwicklung neuer Arzneimittel, Behandlungen und Impfstoffe zu geringeren Kosten zu beschleunigen; ist der Ansicht, dass KI dazu beitragen kann, die Ergebnisse von Reaktionen auf Behandlungen vorherzusagen, und dass sie es Ärzten ermöglichen kann, therapeutische Strategien auf der Basis individueller genetischer, physiologischer und sozialer Merkmale mit zunehmender Genauigkeit anzupassen, wenn sie sich auf hochwertige Daten und fundierte Annahmen stützt, wodurch die Wirksamkeit von präventiven Behandlungsformen erhöht wird, vorausgesetzt, dass alle ethischen Anforderungen mit Blick auf die professionelle Aufsicht über die klinische Validierung mithilfe von KI, die Privatsphäre, den Datenschutz und die Zustimmung nach vorheriger Aufklärung eingehalten werden; stellt fest, dass gesundheitsbezogene Massendaten mithilfe von KI analysiert werden können, um die Verarbeitung zu beschleunigen; hebt hervor, dass die Interoperabilität von Hochleistungsrecheninfrastrukturen mit KI-Systemen sichergestellt werden muss, da zentrale Wirtschaftssektoren, darunter die verarbeitende Industrie, das Gesundheitswesen und die Arzneimittelbranche, auf Hochleistungsrechner angewiesen sind;

25. betont, dass KI-gestützte Lösungen das Potenzial haben, Behandlungen und die Arzneimittelentwicklung auf die spezifischen Bedürfnisse der Patienten abzustimmen und die Zusammenarbeit mit interessierten Akteuren und Beteiligten aus dem Gesundheitswesen zu verstärken; ist der Ansicht, dass KI und der Zugang zu relevanten, aktualisierten und hochwertigen anonymisierten und repräsentativen Datensätzen im Einklang mit den EU-Vorschriften zum Schutz personenbezogener Daten Angehörige der Gesundheitsberufe dabei unterstützen, ihre Patienten besser zu versorgen und daher ein Feedback, eine Anleitung und Unterstützung mit stärkerer Ausrichtung auf die Patienten zu bieten, sodass die Sicherheit der Patienten und die Wirksamkeit von Therapien gefördert werden; hebt hervor, dass dies besonders hilfreich bei der Auswahl und Überprüfung der zunehmenden Mengen an wissenschaftlichem Wissen sein kann, um relevante Erkenntnisse für Angehörige der Gesundheitsberufe zu extrahieren; hebt hervor, dass Bürgerinnen und Bürger aus allen Mitgliedstaaten ihre Gesundheitsdaten an Gesundheitsdienstleister und Behörden ihrer Wahl weitergeben können sollten; unterstreicht in diesem Zusammenhang, dass Anreize für die Weiterqualifizierung, Umschulung und berufsbegleitende Fortbildung von Angehörigen der Gesundheitsberufe geschaffen werden müssen;

26. ist der Ansicht, dass die Bekämpfung von COVID-19 sowohl die Erforschung und Einführung neuer Technologien, insbesondere KI-Anwendungen, beschleunigt hat, um eine bessere Fallerkennung, klinische Versorgung und therapeutische Forschung zu erreichen, als auch die Zweckmäßigkeit der KI und die Bedeutung finanzieller Mittel und hochwertiger Daten deutlich gemacht hat, die dem Zweck dienen, die Ausbreitung von Ausbrüchen von Infektionskrankheiten unter Einhaltung der Datenschutzvorschriften effizient zu überwachen und zu modellieren; stellt jedoch fest, dass während der COVID-19-Pandemie gemachte Erfahrungen mit KI-Anwendungen einige der Grenzen des Einsatzes von KI in der medizinischen Diagnostik aufgezeigt haben[26];

27. hebt hervor, dass KI-Systeme das Potenzial haben, die Gesundheitssysteme und insbesondere das medizinische Personal zu entlasten und zu Lösungen beizutragen, um die rasch alternde Bevölkerung in Europa und der Welt zu versorgen;

28. betont, dass Beschäftigte in der Gesundheitsversorgung durch den Einsatz sicherer und effizienter KI-Anwendungen für Verwaltungsaufgaben, die kein menschliches Handeln erfordern, viel Zeit einsparen können, die sie stattdessen für die Patienten aufwenden können;

29. betont, dass KI-gestützte Anwendungen für die Gesundheit der Verbraucher dazu beitragen können, den Gesundheitszustand einer Person mit Alltagsgeräten wie Smartphones zu verfolgen, sodass Nutzer freiwillig Daten bereitstellen können, die eine Basis für frühe Warnungen und Alarme im Hinblick auf lebensbedrohliche Krankheiten, wie Schlaganfälle oder Herzinfarkte, darstellen können; betont, dass KI-gestützte Anwendungen für die Gesundheit auch ein gesundes Verhalten fördern und eine verantwortungsvolle persönliche Selbstversorgung ermöglichen können, indem sie Patienten mit zusätzlichen Mitteln zur Überwachung ihrer eigenen Gesundheit und Lebensführung ausstatten und die Genauigkeit von Screenings durch Angehörige der Gesundheitsberufe verbessern; hebt jedoch die besondere Sensibilität von personenbezogenen Gesundheitsdaten und das Risiko von Datenschutzverletzungen und missbräuchlicher Verwendung von Daten in diesem Zusammenhang hervor und unterstreicht, dass für gesundheitliche Anwendungen grundsätzlich starke Cybersicherheitsstandards gelten müssen;

30. betont, dass KI im Gesundheitswesen in besonderem Maße auf große Mengen personenbezogener Daten sowie auf die gemeinsame Nutzung, hohe Qualität, Zugänglichkeit und Interoperabilität von Daten angewiesen ist, damit das Potenzial der KI im Gesundheitswesen voll ausgeschöpft werden kann; betont, dass die Verbindung von elektronischen Gesundheitsakten mit eRezept-Systemen erleichtert werden muss, um dem mit der Patientenversorgung beschäftigten Gesundheitspersonal den Zugang zu den nötigen Patienteninformationen unter Zustimmung des Patienten bzw. der Patientin zu ermöglichen;

31. begrüßt die Einrichtung eines europäischen Raums für Gesundheitsdaten für das Erstellen hochwertiger Daten für die Verwendung im Gesundheitswesen; ist der Ansicht, dass die Verbindung und Interoperabilität von Hochleistungsrecheninfrastrukturen mit dem Europäischen Gesundheitsdatenraum für die Verfügbarkeit großer, qualitativ hochwertiger Gesundheitsdatensätze sorgen würde, die für die Erforschung und Behandlung von Krankheiten, insbesondere von seltenen Erkrankungen und Erkrankungen bei Kindern, von Bedeutung sind;

32. betont, dass das Vertrauen durch die Förderung von Interoperabilität und mehr Zusammenarbeit von Gesundheitspersonal verschiedener Bereiche, das sich um denselben Patient bzw. dieselbe Patientin kümmert, aufgebaut werden muss; betont, dass dem Gesundheitspersonal eine Ausbildung zu KI-Techniken und -Ansätzen angeboten werden muss; betont, dass das Misstrauen bekämpft werden muss, indem das volle Potenzial der Datenanonymisierung und -pseudonymisierung ausgeschöpft wird, und dass Bürgerinnen und Bürger, Gesundheitspersonal und Entscheidungsträger über die Einsatzmöglichkeiten, Vorteile und Risiken von KI im Bereich der Gesundheit sowie KI-Entwickler über die Herausforderungen und Risiken der Verarbeitung sensibler Daten in diesem Bereich besser informiert werden müssen;

33. ist darüber hinaus der Ansicht, dass bindende und solide ethische und rechtliche Standards und durchsetzbare Rechtsbehelfe notwendig sind, um bei Bürgerinnen und Bürgern ein Ökosystem des Vertrauens zu fördern und die Gesundheitsdaten vor möglichem Missbrauch und unrechtmäßigem Zugriff angemessen zu schützen; stimmt mit der Kommission darin überein, dass die Bürgerinnen und Bürger über einen gesicherten Zugang zu einem umfassenden elektronischen Datensatz bezüglich ihrer Gesundheit verfügen, die Kontrolle über ihre personenbezogenen Gesundheitsdaten behalten und die Möglichkeit haben sollten, diese unter dem effektiven Schutz personenbezogener Daten und einer starken Cybersicherheit auf sicherem Wege an zugelassene Dritte weiterzugeben; betont, dass unbefugter Zugang zu und Verbreitung von Daten verboten werden sollten und dass der Schutz der personenbezogenen Daten von Patienten im Einklang mit den Datenschutzbestimmungen gewährleistet werden muss;

34. weist in diesem Zusammenhang auf das Risiko verzerrter Entscheidungen hin, die zu Diskriminierung und Menschenrechtsverletzungen führen; betont daher, dass Algorithmen und Datensätze unparteiischen Überprüfungen unterzogen werden müssen und eine weitere Erforschung der Methoden und Voreingenommenheit, die in trainierten KI-Systemen eingebettet sind, gefördert werden muss, um unethische und diskriminierende Schlussfolgerungen im Bereich von Daten zur menschlichen Gesundheit zu vermeiden;

35. betont, dass eine effiziente und einheitliche Anwendung der Datenschutz-Grundverordnung in der EU nötig ist, um Herausforderungen wie die Rechtsunsicherheit und die mangelnde Zusammenarbeit im Gesundheitssektor zu bewältigen; betont, dass solche Herausforderungen in manchen Fällen zu Verzögerungen bei wissenschaftlichen Entdeckungen und zu bürokratischem Aufwand in der Gesundheitsforschung führen; betont, dass die Einrichtung eines europäischen Raums für Gesundheitsdaten, in dem die Patientenrechte und die Datenübertragbarkeit sichergestellt werden, die Zusammenarbeit in Forschung und Innovation im europäischen Gesundheitssektor intensivieren und den Datenaustausch fördern könnte;

36. stellt fest, dass KI zu einem raschen Fortschritt bei neuen Technologien wie Verfahren zur bildlichen Darstellung des Gehirns beitragen kann, die in der Medizin bereits wichtige Anwendungen haben, jedoch auch mit erheblichen Risiken für die menschliche Handlungsmacht und die Ausübung von Grundrechten ohne Erfordernis einer Zustimmung verbunden sind; ist besorgt über die fehlenden Rechtsvorschriften in Bezug auf neurologische Daten und ist der Ansicht, dass die Europäisch Union eine weltweite Führungsposition in der Entwicklung sicherer neurologischer Technologien anstreben sollte;

b) KI und der Grüne Deal

37. betont, dass die beiden wichtigsten Prioritäten der Kommission für die kommenden Jahre „Ein Europa für das digitale Zeitalter“ und der Grüne Deal sind; unterstreicht, dass sichergestellt werden muss, dass der digitale Wandel zur Verwirklichung einer nachhaltigen Entwicklung beiträgt und den grünen Wandel fördert; stellt fest, dass dies eine Beschleunigung der mit den Klimazielen und Umweltstandards der EU vereinbaren Innovation erfordert; betont, dass KI-Anwendungen ökologische und wirtschaftliche Vorteile mit sich bringen und Prognosekapazitäten stärken können, die zur Bekämpfung des Klimawandels und zur Verwirklichung des Ziels des europäischen Grünen Deals, bis 2050 der erste klimaneutrale Kontinent zu werden, beitragen können; ist der Ansicht, dass der Einsatz von KI das Potenzial hat, die weltweiten Treibhausgasemissionen bis 2030 um bis zu 4 % zu senken[27]; stellt fest, dass die IKT-Technologien die Treibhausgasemissionen Schätzungen zufolge um das 10fache ihres eigenen Fußabdrucks senken könnten[28], erkennt aber an, dass es hierfür bewusster Gestaltungsentscheidungen und regulierender Maßnahmen bedarf; warnt gleichzeitig davor, dass der zunehmende Energieverbrauch, der auf die Speicherung der für das Training von KI-Systemen benötigten großen Datensatzmengen zurückzuführen ist, auch negative Folge haben kann; hebt hervor, dass der Datenverkehr und die IKT-Infrastruktur inzwischen etwa 7 % des weltweiten Stromverbrauchs ausmachen und dass dieser Wert ohne geeignete Schutzvorkehrungen bis 2030 voraussichtlich auf 13 % ansteigen wird; fügt hinzu, dass der intensive Einsatz von Rohstoffen für den Bau von Mikroprozessoren und Hightech-Geräten, die KI nutzen, zu diesen negativen Auswirkungen beitragen kann; betont, dass diese direkten und indirekten negativen Umweltauswirkungen ihrerseits berücksichtigt und KI-Systeme entsprechend konzipiert werden müssen, dass ein nachhaltiger Verbrauch gefördert, der Ressourcen- und Energieverbrauch begrenzt, unnötige Verarbeitungsverfahren vermieden und Umweltschäden verhindert werden, um den „zwar großen Handabdruck, jedoch kleinen Fußabdruck“ der KI auf die Umwelt und das Klima sicherzustellen; betont, dass einschlägige Informationen und Daten erforderlich sind, um den Umweltauswirkungen des IKT-Sektors zu begegnen;

38. ist besorgt darüber, dass nur sechs Mitgliedstaaten bei ihren Bemühungen, die Ziele des Grünen Deals zu erreichen, einen besonderen Schwerpunkt auf KI-Anwendungen gelegt haben; ist der Ansicht, dass KI genutzt werden kann, um Informationen zu sammeln und zu organisieren, die für die Umweltplanung, die Entscheidungsfindung und das Management und die Überwachung der Fortschritte der Umweltpolitik, beispielsweise für sauberere Luft, wo KI-Anwendungen die Umweltverschmutzung überwachen und vor Gefahren warnen können, maßgeblich sind; betont, dass solche KI- und digitalen Lösungen in mehreren Sektoren zum Einsatz kommen könnten, um ressourceneffiziente Lösungen auszuweiten;

39. betont, wie wichtig KI-gestützte Systeme für die Entwicklung intelligenter Städte und Dörfer durch die Optimierung der Ressourcennutzung und die Verbesserung der Widerstandsfähigkeit der Infrastruktur ist, auch durch Verkehrsprognosen und -reduzierung, intelligentes Energiemanagement, Soforthilfe und Abfallbewirtschaftung, wie es in mehreren Städten und Gemeinden in der EU bereits Realität ist; betont, dass KI-gestützte Lösungen weiter zu Stadtplanungs-, Architektur-, Bau- und Ingenieurprozessen beitragen können, um Emissionen, Bauzeiten, Kosten und Abfall zu reduzieren;

40. betont, dass die Energiewende nicht ohne Digitalisierung verwirklicht werden kann; betont, dass KI den Energieverbrauch und die Energieerzeugung überwachen, optimieren und verringern und die Integration erneuerbarer Energien in bestehende Stromnetze unterstützen kann; unterstreicht, dass intelligente Zähler, effiziente Beleuchtung, Cloud-Computing und dezentrale Software zusammen mit einer KI-Komponente das Potenzial haben, einen verantwortungsvollen Umgang mit Energie zu fördern und Nutzungsmuster zu verändern;

41. hebt hervor, dass die zunehmende Komplexität eines Systems der Energiewende mit einer zunehmenden Volatilität der Erzeugung von Energie aus erneuerbaren Quellen und Änderungen im Lastmanagement eine zunehmende automatisierte Kontrolle für die Energieversorgungssicherheit erforderlich macht; betont, dass KI von potenziellem Nutzen für die Versorgungssicherheit ist, insbesondere beim Betrieb, der Überwachung, der Wartung und der Kontrolle von Wasser-, Gas- und Stromnetzen; weist jedoch darauf hin, dass durch KI-gestützte Netztechnologien Millionen von intelligenten Komponenten eingeführt werden, die über gemeinsame Schwachstellen verfügen, wodurch die Anzahl potenzieller Angriffspunkte in den Energienetzen und die Anfälligkeit kritischer Infrastrukturen erheblich vergrößert werden, falls keine angemessenen Cybersicherheitsmaßnahmen getroffen werden; ist der Auffassung, dass intelligente Netze weitere Investitionen und zusätzliche Forschung erfordern;

42. ist der Ansicht, dass KI und andere digitale Lösungen für Mobilität und Verkehr das Potenzial haben, Verkehrsströme zu optimieren und die Straßenverkehrssicherheit zu erhöhen, auch durch eine gesteigerte Effizienz beim Zugang zu Verkehrssystemen; weist darauf hin, dass KI bei der Konstruktion und dem Energiemanagement energieeffizienter Fahrzeuge unterstützend eingesetzt werden kann; hebt hervor, dass die Möglichkeiten für App-basierte Fahrdienste, Fahrgemeinschaften und Carsharing erheblich zugenommen haben und KI häufig in solchen Mobilitätsdiensten zur effizienten Routenplanung und Auswahl von Abholstellen eingesetzt wird;

43. ist der Ansicht, dass KI eine transformative Rolle in der Landwirtschaft spielen und das Entstehen neuer Erntemethoden, einschließlich Ernteprognosen und Bewirtschaftung landwirtschaftlicher Ressourcen, fördern kann; betont, dass die Landwirtschaft ein Schlüsselsektor ist, in dem KI zur Verringerung der Emissionen und des Einsatzes von Pestiziden, Düngemitteln, Chemikalien und Wasser beitragen kann, indem ihr Einsatz auf präzise Mengen konzentriert und auf einen engeren Anwendungsbereich beschränkt wird; betont ferner, dass KI zur Wiederherstellung der biologischen Vielfalt beitragen kann, indem gefährdete Arten überwacht oder Abholzungen verfolgt werden; hebt die Notwendigkeit hervor, Leitlinien für die Einführung und standardisierte Bewertungsmethoden zu entwickeln, um „grüne KI“ in Bereichen wie intelligente Netze, Präzisionslandwirtschaft, intelligente und nachhaltige Städte und Gemeinschaften zu unterstützen; ist der Auffassung, dass KI in Gestalt von Präzisionslandwirtschaft das Potenzial besitzt, die Erzeugung von Lebensmitteln in landwirtschaftlichen Betrieben und die umfassendere Bodenbewirtschaftung zu optimieren, indem sie die Flächennutzungsplanung verbessert, Landnutzungsänderungen voraussagt und die Pflanzengesundheit überwacht, und überdies das Potenzial besitzt, die Vorhersage extremer Wetterereignisse zu verändern;

44. betont, dass KI zur Kreislaufwirtschaft beitragen kann, indem sie Produktions-, Verbrauchs- und Recyclingprozesse und -muster ressourceneffizienter macht und die Transparenz der Materialverwendung verbessert, z. B. im Hinblick auf die ethische Herkunft von Rohstoffen und die Reduzierung von Abfällen; betont, dass KI das Potenzial hat, die Nachvollziehbarkeit von Emissionen für Unternehmen zu verbessern, einschließlich von Wertschöpfungsketten, und somit zur Anpassung und Verwirklichung der einzelnen Emissionsziele beizutragen; betont, dass digitale Instrumente Unternehmen dabei helfen können, die notwendigen Schritte hin zu nachhaltigerem Verhalten umzusetzen, insbesondere KMU, die ansonsten womöglich nicht über die dafür erforderlichen Mittel verfügen;

45. hebt hervor, dass es derzeit nicht möglich ist, Umweltauswirkungen mithilfe von KI vollständig zu messen; ist der Ansicht, dass weitere Studien über die Rolle von KI mit Blick auf die Verringerung von Umweltauswirkungen vonnöten sind; betont, dass mehr Umweltdaten benötigt werden, um besseren Einblick zu gewinnen und durch KI-Lösungen mehr Fortschritte zu erzielen; betont, dass durch den Einsatz von KI, um Daten über CO2-Emissionen systematisch mit Daten über Produktions- und Verbrauchsmuster, Lieferketten und Logistikrouten zu verknüpfen, sichergestellt werden könnte, dass Tätigkeiten mit positiven oder negativen Auswirkungen aufgedeckt werden;

c) Außen- und sicherheitspolitische Dimension der KI

46. bekräftigt, dass die EU auf eine globale Einigung über gemeinsame Standards für den verantwortungsvollen Einsatz von KI drängt, da dies von größter Bedeutung ist; ist jedoch grundsätzlich der Ansicht, dass gleichgesinnte Demokratien das Potenzial haben, gemeinsam die internationale Debatte über einen KI-Rahmen, der die Menschenrechte und die Rechtsstaatlichkeit respektiert, zu gestalten, auf bestimmte gemeinsame Normen und Grundsätze, technische und ethische Standards und Leitlinien für verantwortungsvolles staatliches Verhalten hinzuarbeiten, insbesondere unter dem Dach zwischenstaatlicher Organisationen wie der UN und der OECD, und dadurch Multilateralismus, nachhaltige Entwicklung, Interoperabilität und Datenaustausch auf internationaler Ebene zu fördern; unterstützt die Arbeit der Offenen Arbeitsgruppe der Vereinten Nationen zu Fragen der IKT und internationalen Sicherheit; unterstreicht, dass vertrauensbildende Maßnahmen von wesentlicher Bedeutung sind, um das Niveau des Dialogs zu erhöhen und mehr Vertrauen zu schaffen; fordert daher mehr Transparenz beim Einsatz von KI, um eine bessere Rechenschaftspflicht zu gewährleisten;

47. begrüßt die jüngsten multilateralen Initiativen zur Entwicklung von Leitlinien und Standards für den ethisch verantwortungsvollen Einsatz von KI, wie die Grundsätze für KI der OECD, die Globale Partnerschaft für KI, die UNESCO-Empfehlungen zur Ethik von KI, die Plattform „AI for Good Global Summit“, die Empfehlungen des Europarates für einen möglichen Rechtsrahmen zur künstlichen Intelligenz und die politischen Leitlinien von UNICEF zu KI für Kinder; begrüßt die auf internationaler Ebene laufende Arbeit zu KI-Normen und die Fortschritte, die mit den Normen der Internationalen Organisation für Normung (ISO) zu den Auswirkungen der KI auf die Verwaltung erzielt wurden;

48. begrüßt darüber hinaus die Einrichtung und Arbeitsaufnahme des Handels- und Technologierates EU-USA (TTC); begrüßt das Ergebnis der ersten Sitzung des TTC in Pittsburgh; sieht den TTC als potenzielles Forum für eine internationale Koordinierung zwischen der Europäischen Union und den Vereinigten Staaten zur Festlegung globaler Regelungen für künstliche Intelligenz und weltweit gültiger technologischer Standards, die unsere gemeinsamen Werte schützen, zur Förderung gemeinsamer Investitionen, Forschung und Entwicklung und für eine engmaschigere politische Koordinierung in internationalen Institutionen zu Fragen im Zusammenhang mit Technologie und künstlicher Intelligenz;

49. hebt die Schlüsselrolle hervor, die die EU bei der Festlegung globaler Standards spielen kann, da sie als weltweit erster Staatenblock Rechtsvorschriften zur KI eingeführt hat; betont, dass der Rechtsrahmen der Union für KI Europa zu einem weltweit führenden Akteur in diesem Sektor machen könnte und daher weltweit gefördert werden sollte, indem mit allen internationalen Partnern zusammengearbeitet wird und der kritische und auf Ethik basierende Dialog mit Drittländern fortgesetzt wird, die alternative Governance-Modelle und Standards für künstliche Intelligenz nutzen;

50. stellt fest, dass die chinesische Regierung im Rahmen ihrer Initiative „Neue Seidenstraße“ Normen- und Kooperationsabkommen mit 52 Ländern unterzeichnet hat; weist warnend darauf hin, dass der Aktivismus Chinas mit Blick auf Normen eine Herausforderung für die EU darstellt, da mehrere dieser Normen, auch in Bezug auf KI-Technologien und insbesondere in Bezug auf die Überwachung durch die Regierung und die individuellen Freiheiten, nicht mit den Menschenrechten und den Werten der EU im Einklang stehen;

51. betont, dass KI-Technologien, insbesondere solche, die nicht mit den eingerichteten expliziten Kontrollmethoden gestaltet und entwickelt wurden und missbräuchlich und ohne Aufsicht in militärischen Kommandozentren oder in Trägerraketen eingesetzt werden, besonders signifikante Risiken darstellen und zu einer Eskalation eines automatisierten gegenseitigen Konflikts führen könnten;

52. stellt fest, dass der Einsatz von KI-Systemen in verteidigungsbezogenen Entwicklungen aufgrund der Analyse von Daten, der Möglichkeit, eine größere Komplexität von Situationen abzubilden, des Potenzials, die Zielgenauigkeit zu verbessern, die Logistik zu optimieren und sich an bewaffneten Konflikten mit einem geringeren Risiko physischer Schäden für die Zivilbevölkerung und das eigene Militär zu beteiligen, sowie aufgrund der Verwendung von Daten für die Entwicklung von Handlungsmodi, wie z. B. für Konfliktsimulationen, als Wegbereiter für militärische Operationen angesehen wird; warnt jedoch davor, dass dies zu einer niedrigeren Schwelle für den Einsatz von Gewalt führen könnte, und damit zu mehr Konflikten; bekräftigt, dass Maschinen nicht in der Lage sind, menschenähnlichen Entscheidungen zu treffen, die die Rechtsgrundsätze Unterscheidungen, Verhältnismäßigkeit und Vorsorge miteinschließen; bekräftigt, dass der Mensch die Kontrolle über die Entscheidung, Waffen einzusetzen und zu verwenden, behalten und für die Anwendung tödlicher Gewalt sowie für Entscheidungen über Leben und Tod verantwortlich bleiben sollte; ist der Auffassung, dass für KI-basierte Waffensysteme globale Standards und ein internationaler ethischer Verhaltenskodex gelten sollten, um den Einsatz von KI-Technologien bei militärischen Operationen unter umfassender Achtung des humanitären Völkerrechts und der Menschenrechte sowie im Einklang mit dem Recht und den Werten der Union zu untermauern;

53. ist besorgt über die militärische Forschung und technologische Entwicklungen, die in manchen Ländern im Hinblick auf tödliche autonome Waffensysteme ohne maßgebliche menschliche Kontrollen durchgeführt werden; stellt fest, dass tödliche autonome Waffensysteme bereits in militärischen Konflikten eingesetzt werden; weist erneut darauf hin, dass das Parlament sich wiederholt für ein internationales Verbot der Entwicklung, der Herstellung und des Einsatzes von tödlichen autonomen Waffensystemen und für die Aufnahme wirksamer Verhandlungen über deren Verbot ausgesprochen hat; betont, dass KI-gestützte Systeme unter keinen Umständen menschliche Entscheidungsfindungsprozesse ersetzen dürfen, was die Rechtsgrundsätze Unterscheidungen, Verhältnismäßigkeit und Vorsorge miteinschließt;

54. stellt insbesondere fest, dass die KI-Technologie potenzielle Risiken als Mittel für die Verfolgung verschiedener Formen hybrider Kriegsführung und ausländischer Einflussnahme bergen kann; weist darauf hin, dass sie beispielsweise mobilisiert werden könnte, um durch die Nutzung von Bots oder gefälschten Social-Media-Konten Desinformationen zu verbreiten, die Interdependenz als Waffe einzusetzen, wertvolle Informationen zu sammeln oder Wettbewerbern den Zugang zum Netz zu verwehren, Störungen in den Wirtschafts- und Finanzsystemen anderer Länder zu verursachen, die politische Debatte zu vergiften und extremistische Gruppen zu begünstigen oder Wahlen zu manipulieren, um Demokratien zu destabilisieren;

55. hebt hervor, dass KI-Technologien auch KI-gestützte Schadprogramme, Identitätsdiebstahl, Datenvergiftung oder anderen Formen des kontradiktorischen maschinellen Lernens umfassen können, was dazu führt, dass andere KI-Systeme Eingaben falsch interpretieren; weist insbesondere auf die Zunahme von Deepfakes hin, bei denen es sich nicht unbedingt um Cyberangriffe handelt, die aber Zweifel an der Authentizität aller digitalen Inhalte, einschließlich Videos, aufkommen lassen und daher im Hinblick auf die Transparenzanforderungen besondere Aufmerksamkeit verdienen; warnt davor, dass Deepfakes zu einem breiten Klima des Misstrauens in der Öffentlichkeit gegenüber KI sowie zu einer tieferen soziopolitischen Polarisierung in unseren Gesellschaften beitragen könnten;

56. weist darauf hin, dass die Verwendung von KI-Systemen in einer beträchtlichen Menge kritischer Infrastrukturen wie Energie- und Verkehrsnetze, Raumfahrt, die Lebensmittelversorgungskette, die Banken- und Finanzinfrastruktur und Krankenhauseinrichtungen zu neuen Anfälligkeiten geführt hat, die solide Cybersicherheitsmaßnahmen zur Gefahrenabwehr erfordern; weist in diesem Zusammenhang darauf hin, dass die Zusammenarbeit und der Informationsaustausch sowie Maßnahmen auf Ebene sowohl der EU als auch der Mitgliedstaaten wichtig sind; betont, dass der Förderung der Resilienz kritischer Einrichtungen gegenüber hybriden Bedrohungen eine große Bedeutung zukommt;

57. warnt davor, dass die Fähigkeiten der KI auch Sicherheitsrisiken darstellen können, da sie Menschen dazu veranlassen können, ein solches Maß an Vertrauen in KI zu entwickeln, das das Vertrauen in ihr eigenes Urteil übertrifft; stellt fest, dass der Ansatz der interaktiven Einbindung eines Menschen („Human-in-the-Loop“) als Korrekturmechanismus nicht in allen Fällen praktikabel ist; stellt fest, dass Experimente gezeigt haben, dass dadurch das Maß an Autonomie der KI über die unterstützende Rolle hinaus erhöht werden kann, für die sie ursprünglich konzipiert wurde, und dass Menschen Gelegenheiten verpassen, Erfahrungen zu sammeln und ihre Fähigkeiten und Kenntnisse über KI-Systeme zu verfeinern; betont daher, dass Auslegungssicherheit und sinnvolle menschliche Aufsicht auf der Grundlage einer geeigneten Ausbildung sowie angemessener Sicherheits- und Datenschutzvorkehrungen bei KI-Systemen mit hohem Risiko vonnöten sind, um diesen Automatisierungsbias zu überwinden;

58. betont jedoch, dass KI zur Vorhersage von Stromausfällen und zur sehr genauen Ermittlung von Wartungsbedarf verwendet werden kann; weist ferner darauf hin, dass sie verwendet werden kann, um große Datenmengen durch automatische Informationsextraktion oder automatische Informationsklassifizierung zusammenzufassen und um spezifische Muster zu erkennen; betont, dass diese Elemente eine bessere Vorhersage und Bewertung der Bedrohungslage und von Systemanfälligkeiten, schnellere Entscheidungsprozesse, eine verbesserte Reaktivität und eine wirksamere Sicherung von Endpunktgeräten ermöglichen würden;

59. hebt insbesondere das inhärente Potenzial dafür hervor, Strafverfolgungsbehörden in die Lage zu versetzen, kriminelle Aktivitäten zu erkennen und dagegen vorzugehen, wobei KI-Technologien hilfreich sind; betont, dass solche KI-gestützten Strafverfolgungsmaßnahmen jedoch die uneingeschränkte Achtung der Grundrechte, die strenge demokratische Aufsicht, klare Transparenzregeln, eine leistungsfähige IT-Infrastruktur, menschliche Aufsicht, hochqualifizierte Mitarbeiter und den Zugang zu relevanten und hochwertigen Daten erfordern;

d) KI und Wettbewerbsfähigkeit

60. stellt fest, dass in der nahen Zukunft mehr und mehr Produkte und Dienstleistungen entlang der Wertschöpfungskette miteinander verbunden sein werden, wobei KI und Automation eine wichtige Rolle in vielen Herstellungsprozessen, Tätigkeiten und Geschäftsmodellen spielen werden; betont, dass die Grundlagenforschung für die Entwicklung von KI-Ökosystemen in der Industrie sowie substantielle Investitionen zur Förderung der digitalen öffentlichen Verwaltung und zur Modernisierung der digitalen Infrastruktur von größter Bedeutung sind;

61. betont, dass trotz der signifikanten Zunahme an Risikokapital und anderen Finanzierungen von Unternehmen in der Frühphase in den letzten zwei Jahren viele europäische Wirtschaftszweige zurückbleiben und dass die aktuellen Finanzierungsniveaus in der EU weiterhin unzureichend sind und maßgeblich aufgestockt werden sollten, um der Dynamik führender KI-Ökosysteme, wie unter anderem dem Silicon Valley, zu entsprechen; hebt die besondere Clusternetzwerk-Struktur des Innovationsökosystems der EU hervor, im Gegensatz zu zentralisierten (und staatlich geförderten) Innovationsökosystemen;

62. betont, dass KI ein Wegbereiter für die Wettbewerbsfähigkeit der Industrie der EU sein kann und das Potenzial hat, die Produktivität zu erhöhen, Innovationen zu beschleunigen, Herstellungsverfahren zu verbessern und die Überwachung der Widerstandsfähigkeit europäischer Lieferketten zu unterstützen;

63. weist auf das Risiko der Unterbrechung von Lieferketten infolge der wirtschaftlichen Entkoppelung oder Katastrophen wie Pandemien oder Phänomene im Zusammenhang mit dem Klimawandel hin; betont, dass die Verwendung von KI die Aufdeckung von Mustern in der Unterbrechung von Lieferketten unterstützen kann und Informationen für die vorausschauende Instandhaltung bereitstellen kann, wodurch die Diversifizierung von Lieferanten unterstützt werden könnte;

64. stellt fest, dass Unternehmen, die digitale Störungen ausgelöst haben, oft mit erheblichen Marktanteilgewinnen belohnt wurden; stellt fest, dass aktuelle Studien darauf hindeuten, dass sich dieses Muster wahrscheinlich noch verstärken wird, da Unternehmen, die KI einsetzen, häufig große Datenmengen erfassen, wodurch ihre Wettbewerbsposition meist verbessert wird; ist besorgt über die daraus folgenden Risiken einer Marktkonzentration zum Nachteil von KMU und Start-up-Unternehmen;

65. betont, dass diese Aussichten besonders besorgniserregend sind, da die größten etablierten Technologieunternehmen, die wahrscheinlich auch im Bereich der KI-Technologien dominierend sein werden, Gatekeeper für Märkte sind, wobei sie gleichzeitig den größten Teil des generierten Werts vereinnahmen; betont, dass die Daten, die den KI-Sektor vorantreiben, mit überwältigender Mehrheit bei denselben großen Technologieunternehmen erhoben werden, die den Nutzern im Austausch für Daten und die Akzeptanz von gezielter Werbung Zugang zu Dienstleistungen bieten, weshalb ihre bestehende Marktdominanz mit großer Wahrscheinlichkeit zu einem Treiber einer weiteren Marktbeherrschung wird; weist darauf hin, dass der Hauptsitz von vielen dieser Technologieunternehmen sich außerhalb der EU befindet, dass sie aber dennoch den von europäischen Kunden generierten Wert vereinnahmen und damit einen Wettbewerbsvorteil erlangen;

66. begrüßt, dass in der jüngsten Mitteilung der Kommission die Aktualisierung der Wettbewerbsregeln gefordert wurde, um sie für das digitale Zeitalter zu rüsten[29], und betont die Schlüsselrolle der Ex-ante-Maßnahmen, einschließlich des zukünftigen Gesetzes über digitale Märkte, für den Ausgleich der Konzentration, bevor sie auftritt; hebt darüber hinaus die Rolle hervor, die die Normung und die Zusammenarbeit bei der Regulierung bei der Lösung dieses Problems spielen können, indem sie die globale Entwicklung von Produkten und Dienstleistungen unabhängig von ihrem physischen Ort erleichtern;

67. betont, dass KMU und Start-up-Unternehmen eine zentrale Rolle bei der Einführung von KI-Technologien in der EU spielen, da sie den Großteil aller Unternehmen ausmachen und eine entscheidende Innovationsquelle darstellen; stellt jedoch fest, dass vielversprechende KI-Start-up-Unternehmen mit signifikanten Hindernissen für eine Expandierung in Europa konfrontiert sind, aufgrund des unvollständigen digitalen Binnenmarkts und der regulatorischen Unterschiede in vielen Mitgliedstaaten, oder dass sie, wenn sie expandieren, von großen Technologieunternehmen übernommen werden; bedauert, dass KMU häufig mit fehlenden Mitteln, komplexen Verwaltungsverfahren und dem Mangel an geeigneten Kompetenzen und dem fehlenden Zugang zu Informationen konfrontiert sind; stellt fest, dass die Wettbewerbsbehörden der EU in der Vergangenheit viele ausländische Übernahmen von europäischen KI- und Robotik-Unternehmen zugelassen haben;

68. betont, dass die intensive Nutzung von Algorithmen, z. B. für die Preisfestlegung, auch zu völlig neuen KI-spezifischen Problemen im Binnenmarkt führen könnte; stellt fest, dass es beispielsweise für Kartellbehörden schwierig sein könnte, Preisabsprachen zwischen KI-gestützten Preissetzungssystemen nachzuweisen; fügt ferner an, dass die wenigen KI-Anbieter, die bereits am Börsenhandel beteiligt sind, ein systemisches Risiko für die Finanzmärkte darstellen könnten, unter anderem durch Absprachen; betont, dass algorithmische Absprachen sehr schwer zu ermitteln sind, da KI-basierte Systeme nicht miteinander kommunizieren, wie es Menschen im Falle von kollusiven Praktiken tun, wodurch es unmöglich sein kann, kollusive Absichten nachzuweisen; betont, dass hierdurch die Marktstabilität gefährdet wird und dass die Wettbewerbsbehörden der EU und der Mitgliedstaaten geeignete Strategien und Instrumente ausarbeiten müssen; hebt darüber hinaus das systemische Risiko für Finanzmärkte aufgrund der weitverbreiteten Nutzung von algorithmischen Handelsmodellen und -systemen ohne jede menschliche Interaktion hervor, die die Marktbewegungen in der Vergangenheit außerordentlich verstärkt haben und dies wahrscheinlich in Zukunft wieder tun werden;

69. stellt fest, dass viele KI-Unternehmen in der EU derzeit mit Rechtsunsicherheit konfrontiert sind, und zwar in Bezug darauf, wie sie ihre Produkte und Dienstleistungen auf sichere Weise entwickeln können, aufgrund von bürokratischen Hürden und da sich die geltenden branchenspezifischen Rechtsvorschriften überschneiden und es keine etablierten KI-Standards und -Normen gibt;

70. hebt die Herausforderung für KI-Unternehmen im Hinblick auf Qualitätskontrolle und Verbraucherschutz hervor; kommt zu dem Schluss, dass Transparenz und Vertrauenswürdigkeit von wesentlicher Bedeutung sind, um sicherzustellen, dass Unternehmen der EU einen Wettbewerbsvorteil haben, da durch solche Überlegungen in Zukunft darüber entschieden wird, ob ein Produkt oder eine Dienstleistung letztendlich vom Markt akzeptiert wird;

71. stellt fest, dass zwar 26 % der Publikationen im Bereich der Spitzenforschung zum Thema KI aus Europa stammen, aber nur vier der 30 wichtigsten Antragsteller (13 %) und nur 7 % der Unternehmen, die weltweit KI-Patente anmelden, in Europa ansässig sind;

72. ist der Ansicht, dass die Rechtsvorschriften der EU über geistiges Eigentum harmonisiert und klar und transparent durchgesetzt werden müssen und einen ausgewogenen, durchsetzbaren und berechenbaren Rahmen erfordern, um es europäischen Unternehmen und insbesondere KMU und Start-up-Unternehmen zu ermöglichen, den Schutz des geistigen Eigentums zu gewährleisten;

73. ist besorgt darüber, dass KMU ihr geistiges Eigentum weiterhin selten schützen, was oftmals daran liegt, dass sie sich weder vollständig über ihre Rechte bewusst sind noch über ausreichende Ressourcen verfügen, um diese Rechte zu wahren; hebt hervor, wie wichtig Informationen und Statistiken über den Schutz des geistigen Eigentums bei in wissensintensiven Branchen tätigen KMU sind, und begrüßt Bemühungen, darunter vereinfachte Registrierungsverfahren und niedrigere Verwaltungsgebühren, um KMU und Start-up-Unternehmen bessere Kenntnisse zu vermitteln und ihren Zugang zum Schutz des geistigen Eigentums zu erleichtern; stellt fest, dass die Position der EU als Organisation, die globale Standards setzt. gestärkt werden sollte, um Unternehmen aus der EU dabei zu helfen, ihre KI-bezogenen Rechte des geistigen Eigentums zu schützen; betont, dass die internationale Wettbewerbsfähigkeit und Attraktivität in einem starken und widerstandsfähigen Binnenmarkt und u. a. im Schutz und in der Durchsetzung der Rechte des geistigen Eigentums verwurzelt ist;

74. stellt fest, dass die Datenanalyse sowie der Zugang zu sowie der Austausch und die Weiterverwendung von nicht personenbezogenen Daten bereits heute für viele datengesteuerte Produkte und Dienstleistungen von wesentlicher Bedeutung sind, aber für die Entwicklung und den Einsatz künftiger KI-Systeme wichtig sein werden; betont jedoch, dass die meisten nicht personenbezogenen Daten, die bisher in der EU generiert wurden, nicht genutzt werden, während ein Binnenmarkt für Daten noch in Arbeit ist;

75. weist darauf hin, wie wichtig es ist, den Datenzugang und Datenaustausch zu erleichtern sowie offene Standards und quelloffene Technologien zu ermöglichen, um hierdurch die Investitionen zu verstärken und Innovationen im Bereich der KI-Technologien in der EU zu fördern; stellt fest, dass eine bessere Harmonisierung der Auslegungen durch die nationalen Datenschutzbehörden und der Leitlinien zu gemischten Daten und zu Techniken der Depersonalisierung für KI-Entwickler von Nutzen wäre;

76. betont die Rolle, die KI bei der Unterstützung von Durchsetzungsmaßnahmen europäischer und nationaler Behörden, insbesondere in den Bereichen Zoll und Marktüberwachung, spielen kann; ist der Ansicht, dass Handels- und Zollverfahren durch KI effizienter und kostengünstiger gestaltet werden können, indem die Einhaltung der Vorschriften verbessert und sichergestellt wird, dass nur sichere Produkte auf den Binnenmarkt gelangen; weist beispielhaft auf das System für Bewertung und Einnahmeverwaltung der Canada Border Services Agency (das CARM-System) hin, das Import- und Exportverfahren erheblich vereinfacht, indem es eine qualifizierte KI-Risikobewertung und ein optimiertes digitalisiertes Informationsmanagement nutzt, um den Bedarf an langwierigen Kontrollen zu verringern;

e) KI und der Arbeitsmarkt

77. stellt fest, dass die KI den Arbeitsmarkt, den Arbeitsplatz und den sozialen Bereich zunehmend beeinflusst und dass die Auswirkungen des technologischen Wandels auf Arbeit und Beschäftigung vielschichtig sind; betont, dass der Einsatz von KI in diesem Bereich eine Reihe von ethischen, rechtlichen und beschäftigungsbezogenen Herausforderungen mit sich bringt; ist besorgt darüber, dass die Digitalisierung auf dem Arbeitsmarkt zu einer Umstrukturierung der Belegschaft und zum möglichen Verschwinden bestimmter Beschäftigungssektoren führen könnte; ist der Auffassung, dass die Einführung von KI in Verbindung mit der erforderlichen unterstützenden Infrastruktur, Bildung und Schulung die Kapital- und Arbeitsproduktivität, die Innovation und das nachhaltige Wachstum steigern und Arbeitsplätze schaffen könnte;

78. betont, dass KI zwar möglicherweise einige Aufgaben ersetzt, darunter repetitive, schwere, arbeitsintensive oder gefährliche, aber auch dazu beitragen könnte, Fähigkeiten zu verbessern, die Qualität der Arbeit zu steigern und neue Beschäftigung mit höherem Mehrwert zu schaffen, sodass mehr Zeit für anregende Aufgaben und die berufliche Weiterentwicklung bleibt; betont, dass KI derzeit bei einer Teilmenge von Aufgaben Menschen bereits ersetzt oder ergänzt, aber bislang noch keine erkennbaren signifikanten Auswirkungen auf den Gesamtarbeitsmarkt hat[30]; betont jedoch, dass die Möglichkeit einer Zunahme der Einkommensungleichheit besteht, wenn durch KI mehr hohe Qualifikationen erfordernde Tätigkeiten entstehen und geringe Qualifikationen erfordernde Tätigkeiten ersetzt werden; fügt hinzu, dass es notwendig ist, die sich daraus ergebenden wirtschaftlichen und sozialen Auswirkungen durch geeignete Maßnahmen, Forschung und Voraussicht abzumildern und sich auf sie vorzubereiten, indem man in die Umschulung und Weiterbildung der Arbeitskräfte investiert, wobei der Schwerpunkt auf unterrepräsentierten Gruppen wie Frauen und Minderheiten liegen sollte, die von diesem Wandel wahrscheinlich am stärksten betroffen sind, und indem man Vielfalt in allen Phasen der KI-Systementwicklung fördert; befürchtet, dass die KI Prozesse der Dequalifizierung hervorrufen und niedrig bezahlte, wenig autonome Arbeit schaffen und verankern sowie atypische, flexible (oder „Gig“-)Arbeit ausweiten könnte; unterstreicht, dass algorithmisches Management zu Machtungleichgewichten zwischen Führungskräften und Arbeitnehmern und zu Unklarheit über die Entscheidungsfindung führen könnte;

79. betont, dass die Einführung von KI eine Gelegenheit zur Förderung eines erheblichen Kulturwandels in Unternehmen bietet, etwa durch verbesserte Arbeitsplatzsicherheit, eine bessere Vereinbarkeit von Beruf und Privatleben, das Recht, von der Arbeit abzuschalten, sowie wirksamere Schulungsmöglichkeiten und Anleitung für Arbeitnehmer; verweist in diesem Zusammenhang auf die Empfehlungen der OECD, in denen hervorgehoben wird, dass die Automatisierung auch eine Arbeitszeitverkürzung nach sich ziehen und damit die Lebensbedingungen und die Gesundheit der Arbeitnehmer verbessern könnte; ist der Ansicht, dass durch KI-Anwendungen, die den Menschen stärken, auch neue Beschäftigungsmöglichkeiten geschaffen werden könnten, insbesondere für diejenigen, die aufgrund von Einschränkungen wie Behinderungen oder Lebensumständen bisher an geringere Qualifikationen erfordernde Arbeitsplätze gebunden waren; betont, dass die KI-Unterstützung am Arbeitsplatz genutzt werden muss, um den Menschen Zeit zu geben, die Qualität ihrer Arbeit zu verbessern, anstatt nur die Arbeitsbelastung zu erhöhen;

80. verurteilt den zunehmenden Einsatz von KI-betriebener Überwachung am Arbeitsplatz, die häufig ohne das Wissen der Arbeitnehmer, geschweige denn ohne ihre Zustimmung erfolgt, insbesondere auch im Zusammenhang mit Telearbeit; ist der Auffassung, dass diese Praxis nicht zulässig sein sollte, da sie das Grundrecht auf Privatsphäre, Datenschutz und Menschenwürde der Arbeitnehmer sowie Sozial- und Arbeitsrechte in hohem Maße verletzt und aufgrund der Tragweite des Eingriffs, der pauschalen oder wahllosen Wirkung und des fehlenden Schutzes für die betroffenen Personen auch negative Auswirkungen auf die psychische Gesundheit der Arbeitnehmer hat;

81. ist besorgt darüber, dass eine ähnliche Gefahr der Überwachung auch im schulischen Umfeld besteht, da die zunehmende Einführung von KI-Systemen in Schulen die Grundrechte der Kinder untergräbt; stellt fest, dass die Auswirkungen der KI auf die Privatsphäre, die Sicherheit und den Schutz der Kinder ein breites Spektrum abdecken, das von Vorteilen im Zusammenhang mit der Fähigkeit, Bedrohungen für Kinder genauer und präziser zu verstehen, bis hin zu Risiken im Zusammenhang mit unbeabsichtigten Verletzungen der Privatsphäre reicht; unterstreicht, dass sowohl die positiven als auch die negativen Auswirkungen auf die Privatsphäre, die Sicherheit und den Schutz der Kinder einer genauen Prüfung und entsprechender Schutzmaßnahmen bedürfen; hebt ferner hervor, dass Kinder bei der Entwicklung von KI-Systemen besonders berücksichtigt und geschützt werden müssen, da sie besonders anfällig und gefährdet sind;

82. betont, dass es von größter Bedeutung ist, den Einzelnen in allen Lebensphasen mit umfassenden Qualifizierungsprogrammen auszustatten, um ihn in die Lage zu versetzen, in einer sich ständig weiterentwickelnden Arbeitswelt produktiv zu bleiben, und seine Ausgrenzung vom Arbeitsmarkt zu vermeiden; ist der Ansicht, dass die Anpassung der Arbeitnehmer im Hinblick auf KI-Bildung, lebenslanges Lernen und Umschulungen von entscheidender Bedeutung ist; betont, dass die derzeitigen Konzepte des Lernens und Arbeitens noch immer zu stark durch die prädigitale Welt bestimmt sind, was zu einer zunehmenden Qualifikationslücke und einer neuen digitalen Kluft für Bürger, die keinen Zugang zu einem sicheren digitalen Raum haben, beiträgt; betont, dass durch die Verbesserung der digitalen Kompetenz zur Verwirklichung der Ziele der Vereinten Nationen für nachhaltige Entwicklung, insbesondere derjenigen in den Bereichen Bildung, Humankapital und Infrastruktur, beigetragen wird; hebt den Wissenszuwachs über neue Arbeits- und Lernformen hervor, der durch die COVID-19-Krise entstanden ist und auf dem weiter aufgebaut werden könnte;

83. hebt hervor, dass die Union die Vorteile der Digitalisierung nur voll ausschöpfen kann, wenn sie digitale Kompetenz und Fähigkeiten für alle fördert; ist der Ansicht, dass digitale Kompetenz eine Voraussetzung für das Vertrauen der Bürger in die KI und das öffentliche Bewusstsein für ihre Auswirkungen ist; hebt hervor, wie wichtig es ist, eine Grundausbildung in digitalen Fähigkeiten und KI in die nationalen Bildungssysteme aufzunehmen; ist der Ansicht, dass der Einsatz und die Entwicklung der KI-Technologie im Bereich der Minderheitensprachen zur Förderung ihrer Kenntnis und Verwendung führen könnten; betont, dass mehr als 70 % der Unternehmen einen Mangel an Personal mit angemessenen digitalen Kompetenzen und KI-Kompetenzen als Investitionshindernis angeben; ist besorgt darüber, dass es im Jahr 2019 in der EU 7,8 Mio. IKT-Fachkräfte gab, was einer Steigerung um 4,2 % gegenüber dem Vorjahr entspricht, womit die Zahl deutlich unter dem Bedarf in Schlüsselbereichen wie der Datenanalyse liegt, der sich Prognosen der Kommission zufolge auf 20 Mio. Sachverständige beläuft;

84. ist besorgt über das ausgeprägte Geschlechtergefälle in diesem Bereich, da Frauen unter den IKT-Fachkräften nur ein Sechstel und unter den Absolventen in Studiengängen der Bereiche Mathematik, Informatik, Naturwissenschaften und Technik (MINT) nur ein Drittel ausmachen[31]; stellt mit Besorgnis fest, dass die Kluft zwischen den Geschlechtern insbesondere im Bereich der Start-up-Unternehmen fortbesteht, wo 2019 92 USD von 100 USD, die in europäische Technologieunternehmen investiert wurden, an Gründerteams gingen, die ausschließlich aus Männern bestanden; empfiehlt gezielte Initiativen zur Unterstützung von Frauen im MINT-Bereich, um die allumfassende Qualifikationslücke in diesem Wirtschaftszweig zu schließen; betont, dass diese Lücke unweigerlich zu verzerrten Algorithmen führt; betont, wie wichtig es ist, Mädchen zu befähigen und zu motivieren, MINT-Berufe zu ergreifen, und die geschlechtsspezifischen Unterschiede in diesem Bereich zu beseitigen;

f) KI und die Zukunft der Demokratie

85. stellt fest, dass die KI einerseits das Potenzial hat, zum Aufbau eines transparenteren und effizienten öffentlichen Sektors beizutragen, dass andererseits jedoch die – oft von einer Wachstums- und Profitlogik getriebenen – technischen Entwicklungen im Bereich der KI sehr schnell und dynamisch sind, was es den politischen Entscheidungsträgern erschwert, ausreichend zu verstehen, wie neue KI-Anwendungen funktionieren und welche Ergebnisse diese Anwendungen hervorbringen können, obwohl sie die Pflicht haben, einen Rahmen festzulegen, um sicherzustellen, dass die KI mit den Grundrechten im Einklang steht und zum Wohle der Gesellschaft verwendet werden kann; hebt hervor, dass die Prognosen von Experten zu den zukünftigen Auswirkungen der KI auch voneinander abweichen, was darauf hindeutet, dass es selbst für sie schwierig sein könnte, die Ergebnisse der Einführung neuer KI-Technologien vorherzusagen; vertritt daher die Auffassung, dass es aufgrund dieser Unsicherheit notwendig ist, dass die Gesetzgeber bei der Regulierung der KI dem Vorsorgeprinzip gebührend Rechnung tragen; hält die Konsultation von Experten mit unterschiedlichem Fachwissen und unterschiedlichem Hintergrund für wesentlich, um solide, praktikable und zukunftssichere Rechtsvorschriften zu schaffen; gibt zu bedenken, dass Rechtsunsicherheit eines der größten Innovationshemmnisse sein kann; weist in diesem Zusammenhang darauf hin, wie wichtig es ist, die KI-Kompetenz der Bevölkerung zu fördern, einschließlich der gewählten Vertreter und nationalen Behörden;

86. warnt davor, dass legislative Zyklen daher häufig nicht mit dem Tempo des technologischen Fortschritts Schritt halten, sodass die politischen Entscheidungsträger gezwungen sind, den Rückstand aufzuholen, weshalb sie es bevorzugen, bereits auf dem Markt befindliche Anwendungsfälle zu regulieren; weist darauf hin, dass einem vernünftigen Regulierungsansatz in Bezug auf KI eine umfassende Analyse der Verhältnismäßigkeit und Notwendigkeit vorausgehen muss, um zu verhindern, dass die Innovation und die Wettbewerbsfähigkeit der Unternehmen in der EU behindert werden;

87. betont, dass der Einsatz von KI für den Erwerb biometrischer Daten für den Einzelnen sowie für die breite Öffentlichkeit sowohl übergriffig und belastend als auch vorteilhaft sein könnte;

88. stellt mit Besorgnis fest, dass solche KI-Technologien wichtige ethische und rechtliche Fragen aufwerfen; stellt fest, dass bestimmte KI-Technologien die Automatisierung der Informationsverarbeitung in einem noch nie dagewesenen Ausmaß ermöglichen, was den Weg für Massenüberwachung und andere unrechtmäßige Eingriffe ebnet und eine Bedrohung der Grundrechte darstellt, insbesondere der Rechte auf Privatsphäre und Datenschutz;

89. betont, dass viele autoritäre Regime KI-Systeme einsetzen, um ihre Bürger zu kontrollieren, massenhaft zu beobachten, auszuspionieren, zu überwachen und ihnen ein Ranking zuzuweisen oder ihre Freizügigkeit zu beschneiden; betont, dass jede Form einer normativen Bewertung der Bürger, die von Behörden, insbesondere im Bereich der Strafverfolgung, der Grenzkontrolle und der Justiz, bzw. von privaten Unternehmen oder Einzelpersonen vorgenommen wird, zum Verlust von Autonomie und Privatsphäre führt, Diskriminierungsrisiken mit sich bringt und nicht mit den europäischen Werten in Einklang steht; erinnert daran, dass Technologien wie Cyberüberwachung und biometrische Erkennung, die zu diesen Zwecken eingesetzt werden können, der Ausfuhrkontrollverordnung der EU unterliegen; ist äußerst besorgt über und verurteilt Fälle, in denen EU-Unternehmen biometrische Systeme, deren Verwendung in der EU untersagt ist, an autoritäre Regime in Nicht-EU-Ländern verkaufen;

90. stellt fest, dass marktbeherrschende Technologieplattformen heutzutage nicht nur ein erhebliches Maß an Kontrolle über den Zugang zu Informationen und deren Verbreitung ausüben, sondern auch KI-Technologien nutzen, um mehr Informationen über die Identität und das Verhalten und Kenntnisse über das zurückliegende Entscheidungsverhalten einer Person zu erhalten; ist der Ansicht, dass ein solches Profiling eine Bedrohung für die demokratischen Systeme sowie für die Wahrung der Grundrechte und der Autonomie der Bürger darstellt; betont, dass dies ein Ungleichgewicht der Macht schafft und systemische Risiken birgt, die die Demokratie beeinträchtigen könnten;

91. weist darauf hin, dass digitale Plattformen, auch durch KI-gesteuerte Marketinganwendungen, genutzt werden können, um Einfluss aus dem Ausland zu nehmen und Desinformation und Deepfakes zu verbreiten, indem sie als Netzwerke für Propaganda, den Einsatz von Trolls und Schikanen dienen, um Wahlprozesse zu untergraben; betont, dass maschinelles Lernen insbesondere die gezielte Nutzung personenbezogener Daten ermöglicht, um ahnungslose Wähler zu manipulieren, indem individuell zugeschnittene und überzeugende Botschaften kreiert werden; unterstreicht die Bedeutung strenger Transparenzpflichten, die wirksam durchgesetzt werden;

92. betont jedoch, dass KI auch genutzt werden könnte, um antidemokratische und unethische Aktivitäten auf Plattformen zu verringern und die Verbreitung von Falschmeldungen und Hetze zu begrenzen, auch wenn Tests ihrer Fähigkeiten, kontextspezifische Inhalte zu verstehen, bisher nur schwache Ergebnisse gezeigt haben; ist besorgt darüber, dass eine spalterische Sprache zu einem stärkeren Engagement der Nutzer führen könnte, weshalb ein Unterbinden solcher Äußerungen in direktem Widerspruch zum Geschäftsmodell solcher Plattformen stünde, das auf einem größtmöglichen Engagement der Nutzer beruht; ist der Auffassung, dass KI-gestützte Lösungen vor ihrer letztendlichen Anwendung auf einer uneingeschränkten Achtung der freien Meinungsäußerung und Meinungsfreiheit und auf stichhaltigen Beweisen zu ihren Gunsten beruhen müssen;

93. betont, dass Voreingenommenheit von KI-Systemen, insbesondere bei Deep-Learning-Systemen, häufig auf einen Mangel an vielfältigen und hochwertigen Schulungs- und Testdaten zurückzuführen ist, beispielsweise wenn Datensätze verwendet werden, die gefährdete Gruppen nicht hinreichend repräsentieren, oder wenn die Festlegung von Aufgaben oder Anforderungen selbst von Voreingenommenheit geprägt ist; stellt fest, dass Voreingenommenheit auch aufgrund eines möglichen Mangels an Vielfalt in den Entwicklerteams entstehen kann, was intrinsische Voreingenommenheit bekräftigt, oder aufgrund eines begrenzten Umfangs an Schulungs- und Testdaten oder wenn der Algorithmus von einem voreingenommenen KI-Entwickler beeinträchtigt wurde; weist darauf hin, dass eine begründete Differenzierung auch absichtlich geschaffen wird, um die Lernleistung der KI unter bestimmten Umständen zu verbessern;

94. betont, dass strukturelle Voreingenommenheit in unserer Gesellschaft nicht durch minderwertige Datensätze wiederholt oder gar verstärkt werden sollte; weist in diesem Zusammenhang darauf hin, dass Algorithmen so diskriminierend sind wie die Daten, mit denen sie arbeiten, und dass sie aufgrund von minderwertigen Trainingsdaten oder von in der Gesellschaft beobachteter Voreingenommenheit und Diskriminierung Entscheidungen vorschlagen könnten, die ihrem Wesen nach diskriminierend sind, was die Diskriminierung innerhalb der Gesellschaft verschärft; stellt jedoch fest, dass KI-Voreingenommenheiten manchmal korrigiert werden können; kommt daher zu dem Schluss, dass es notwendig ist, für KI-Systeme, einschließlich der Software, der Algorithmen und der von ihnen verwendeten und erzeugten Daten, technische Mittel einzusetzen und verschiedene Kontrollschichten einzurichten, um dieses Risiko zu minimieren; vertritt die Auffassung, dass KI genutzt werden kann und sollte, um in unserer Gesellschaft Vorurteile und Diskriminierung abzubauen sowie Gleichberechtigung und positiven sozialen Wandel zu fördern, auch durch normative Anforderungen an Datensätze, die zum Training von KI-Systemen verwendet werden; betont, dass eine der effizientesten Möglichkeiten zur Verringerung von Verzerrungen in KI-Systemen darin besteht, im Rahmen der unionsrechtlichen Möglichkeiten sicherzustellen, dass eine größtmögliche Menge nicht personenbezogener Daten für Trainingszwecke und maschinelles Lernen zur Verfügung steht;

g) Wiederkehrende Ergebnisse in allen sechs Fallstudien

95. stellt fest, dass sich im Zusammenhang mit der Einführung von KI-Technologien klare gesellschaftliche Vorteile und Chancen bieten, die nur genutzt werden können, wenn bereichsübergreifende Hindernisse in der EU im Einklang mit den Grundrechten und -werten und den Rechtsvorschriften beseitigt werden; stellt fest, dass insbesondere Überschneidung von Rechtsvorschriften, Marktzersplitterung, bürokratische Hürden, ein Mangel an zugänglicher digitaler Infrastruktur und an digitalen Kompetenzen in der breiteren Gesellschaft sowie unzureichende Investitionen in Forschung und Entwicklung in allen untersuchten Bereichen als Hindernisse für die erfolgreiche Anwendung von vertrauenswürdiger KI betrachtet werden können;

96. zieht aus den untersuchten Fallstudien ferner den Schluss, dass es bestimmte Anwendungsfälle gibt, die riskant oder schädlich sind, dass dies jedoch nicht unbedingt an bestimmten KI-Technologien an sich liegt, sondern an ihren Anwendungsbereichen; erkannt an, dass künftige Vorschriften berechtigten Bedenken im Zusammenhang mit diesen Risiken Rechnung tragen müssen, damit die KI-Technologien in der EU breite Anwendung finden können;

97. stellt fest, dass es zwar wichtig ist, die von KI ausgehenden potenziellen Risiken zu untersuchen und zu kategorisieren, die Fallstudien jedoch gezeigt haben, dass KI-Technologien uns wirksame Gegenmaßnahmen bieten können, mit denen diese Risiken gemindert oder beseitigt werden können; betont, dass sich die KI noch in einem sehr frühen Entwicklungsstadium im breiteren Kontext neuer Technologien befindet, weshalb ihr wahres Potenzial sowie ihre Risiken nur erahnt werden können; weist darauf hin, dass nicht nur die Risiken für den Einzelnen betrachtet werden müssen, sondern auch die umfassenderen gesellschaftlichen und nicht-materiellen individuellen Schäden; verdeutlicht die erheblichen Ungleichgewichte der Marktmacht auf den Datenmärkten und in der angrenzenden KI-Wirtschaft; betont, dass ein fairer Wettbewerb und die Beseitigung von Wettbewerbshindernissen für Start-up-Unternehmen und KMU wesentlich sind, um den potenziellen Nutzen von KI, der sowohl in der EU als auch weltweit erheblich zu sein scheint, in wirtschaftlicher und gesellschaftlicher Hinsicht gerecht zu verteilen;

3. Stellung der EU im globalen KI-Wettbewerb

98. stellt fest, dass im Bereich KI ein harter globaler Wettbewerb besteht, in dem die EU ihre Erwartungen noch nicht erfüllt hat; untersucht in den folgenden Abschnitten die globale Wettbewerbsfähigkeit der EU in Bezug auf KI, indem es sie mit der Chinas und der der Vereinigten Staaten vergleicht, wobei der Schwerpunkt auf drei zentralen Aspekten liegt, nämlich dem Regulierungsansatz, der Marktlage und den Investitionen; erkennt jedoch an, dass transnationale Märkte und Unternehmen nicht ohne Weiteres über nationale Grenzen hinweg abgegrenzt werden können, da die meisten Technologieunternehmen Kunden, Anteilseigner, Beschäftigte und Lieferanten in vielen verschiedenen Ländern haben;

a) Regulierungsansatz

99. stellt fest, dass die Vereinigten Staaten noch keine horizontalen Rechtsvorschriften im Digitalbereich eingeführt haben und sich bisher auf branchenspezifische Rechtsvorschriften und die Erleichterung von Investitionen, einschließlich durch steuerliche Maßnahmen für Innovationen in der Privatwirtschaft, konzentrieren, insbesondere für ihre Technologiegiganten und führenden Universitäten; stellt fest, dass der Schwerpunkt des Ansatzes der Vereinigten Staaten trotz der jüngsten Entwicklungen, die eine aktivere Rolle der Politik erkennen lassen, bisher hauptsächlich darauf lag, Unternehmen rechtliche Orientierungshilfen zu bieten, in Forschungsprojekte zu investieren und wahrgenommene Hindernisse für die Innovation zu beseitigen;

100. betont, dass der US-amerikanische AI Initiative Act von 2019 zu einer leichten Neuausrichtung geführt hat, da die US-Regierung neben der Neuausrichtung der Finanzierung, der Umschulung von Arbeitnehmern und der Stärkung der digitalen Infrastruktur die Entwicklung gemeinsamer Normen für vertrauenswürdige KI angekündigt hat; stellt jedoch fest, dass die zehn Grundsätze, die sich daraus ergaben, sehr weit gefasst waren, damit jede Regierungsbehörde branchenspezifische Vorschriften ausarbeiten kann; erwartet, dass der Ansatz der Vereinigten Staaten weiter marktorientiert sein wird, auch wenn die derzeitige US-Regierung beabsichtigt, im Jahr 2022 einen neuen Rechtekatalog vorzulegen, um durch KI verursachte Schäden zu begrenzen;

101. hebt hervor, dass der chinesische Präsident Xi Jinping bereits 2013 die Bedeutung von Technologien in der Geopolitik, die Rolle öffentlicher Strategien bei der Festlegung langfristiger Ziele und den Umstand, dass KI-Technologien eine Gelegenheit bieten, die eigene Militärmacht neu aufzubauen, betont hat; betont ferner, dass die chinesische Regierung anschließend im Jahr 2015 den Plan „Made in China 2025“ und im Jahr 2017 den „Entwicklungsplan für Künstliche Intelligenz der nächsten Generation“ vorgelegt hat, die beide eindeutig darauf ausgerichtet waren, China bis 2030 zum weltweiten Vorreiter im Bereich KI zu machen; stellt fest, dass im Weißbuch zur Normung im chinesischen KI-Bereich von 2018 näher dargelegt wurde, wie die sozialistische Marktwirtschaft internationale Normen entwickeln und sich strategisch an internationalen Normungsorganisationen beteiligen kann; nimmt zur Kenntnis, dass in China Regeln für Empfehlungssysteme sowie ein Ethikkodex für KI eingeführt wurden;

102. stellt fest, dass China auf globaler Ebene aktiv internationale KI-Partnerschaften fördert, um seine eigenen KI-gestützten Überwachungspraktiken, Systeme zur Bewertung des Sozialverhaltens und Zensurstrategien zu verbreiten; betont, dass umfangreiche Investitionen im Ausland im Rahmen der Initiative „Digitale Seidenstraße“ auch als Mittel genutzt werden, um den chinesischen Einfluss und chinesische KI-Technologie weltweit zu verbreiten, was weitreichende Auswirkungen haben könnte, die über die Durchsetzung technologischer Standards oder die Aufrechterhaltung der technologischen Wettbewerbsfähigkeit hinausgehen; kommt zu dem Schluss, dass der Ansatz der Regierung Chinas daher auf der Einführung von KI im Inland sowie auf der Ausfuhr von KI-Technologien auf der Grundlage von im Voraus festgelegten Normen beruht, die mit der Ideologie der Regierung Chinas im Einklang stehen;

103. stellt fest, dass die Kommission im Jahr 2018 mit der Veröffentlichung der europäischen KI-Strategie, der Einsetzung einer hochrangigen Expertengruppe und der Vorlage eines koordinierten Plans[32] zur Förderung künstlicher Intelligenz „Made in Europe“ ihre Arbeit zur Regulierung von KI aufgenommen hat; stellt fest, dass im Weißbuch zur KI von 2020 zahlreiche Maßnahmen und politische Möglichkeiten für künftige Regelungen im Bereich KI vorgeschlagen wurden und dass dieses schließlich zu dem horizontalen Gesetz über künstliche Intelligenz[33] geführt hat, das im Mai 2021 zusammen mit einem überarbeiteten koordinierten Plan für künstliche Intelligenz[34] vorgelegt wurde; weist darauf hin, dass bis Juni 2021 20 Mitgliedstaaten nationale KI-Strategien veröffentlicht haben, während sich sieben weitere in der abschließenden Vorbereitungsphase zur Annahme ihrer Strategien befinden;

104. betont, dass es bei dem Regulierungsansatz der EU von entscheidender Bedeutung ist, im Einklang mit den zentralen Menschenrechtswerten und demokratischen Grundsätzen besonderes Augenmerk auf die Entwicklung eines europäischen digitalen Binnenmarkts sowie ethische Erwägungen zu richten; erkennt an, dass die Schaffung des weltweit ersten Regelungsrahmens für KI der EU Einfluss und einen Vorreitervorteil bei der Festlegung internationaler KI-Normen auf der Grundlage der Grundrechte sowie beim erfolgreichen Export von auf den Menschen ausgerichteter, „vertrauenswürdiger KI“ in die ganze Welt verschaffen könnte; unterstreicht, dass dieser Ansatz durch eine Koordinierung und Konvergenz der Rechtsvorschriften mit internationalen Partnern unterstützt werden muss;

b) Marktlage

105. nimmt zur Kenntnis, dass viele der 100 führenden KI-Unternehmen weltweit ihren Hauptsitz in den Vereinigten Staaten haben, während es in der EU nur wenige gibt; stellt fest, dass die Vereinigten Staaten auch bei der Gesamtzahl der Start-up-Unternehmen im KI-Bereich führend sind;

106. weist darauf hin, dass in den letzten Jahren einige europäische Unternehmen im Digitalbereich von US-amerikanischen Technologiegiganten übernommen wurden; begrüßt das Bestreben der Kommission, gegen Übernahmen vorzugehen, die erhebliche Auswirkungen auf den wirksamen Wettbewerb auf dem digitalen Markt haben können, und „Killer-Übernahmen“ zu begrenzen; weist jedoch darauf hin, dass die Akquisition in manchen Fällen ein Hauptziel von Start-up-Gründern und ihren Geldgebern sein kann, da sie eine legitime Methode darstellt, um aus ihren Ideen Nutzen zu ziehen;

107. betont, dass die Vereinigten Staaten und China versuchen, den Einsatz von KI-Technologien im öffentlichen und privaten Bereich zu beschleunigen, während die EU bei der Einführung von KI zurückliegt; stellt fest, dass 2020 nur 7 % der EU-Unternehmen mit mindestens zehn Beschäftigten KI-Technologien verwendeten, wobei zwischen den Mitgliedstaaten sowie zwischen den verschiedenen Wirtschaftszweigen erhebliche Unterschiede bestanden;

108. ist besorgt darüber, dass die Vereinigten Staaten und China jeweils über einen einheitlichen digitalen Markt mit kohärenten Vorschriften verfügen, während der digitale Binnenmarkt in der EU noch immer nicht vollständig ist und weiterhin unbegründete Hindernisse aufweist; betont, dass die Entwicklung von KI-Produkten und ‑Dienstleistungen zusätzlich durch die laufende Arbeit an 27 unterschiedlichen nationalen KI-Strategien verlangsamt werden könnte;

109. weist ferner darauf hin, dass aufgrund von Inkohärenzen im EU-Recht, Überschneidungen zwischen verschiedenen Gesetzesinitiativen, Widersprüchen zwischen den Rechtsvorschriften der EU und den nationalen Rechtsvorschriften, unterschiedlichen Auslegungen und mangelnder Durchsetzung unter den Mitgliedstaaten gleiche Wettbewerbsbedingungen verhindert werden und die Gefahr besteht, dass Unternehmen in der EU verunsichert werden, da diese Schwierigkeiten haben könnten, festzustellen, ob ihre KI-Innovationen mit dem EU-Recht vereinbar sind;

110. stellt fest, dass die Fragmentierung des Marktes für KI-Unternehmen durch den Mangel an gemeinsamen Standards und Normen in einigen Branchen, unter anderem im Hinblick auf die Dateninteroperabilität, weiter verschärft wird; bedauert das regulatorische Risiko, das durch die Verzögerungen bei der Verabschiedung von Rechtsvorschriften wie der e-Datenschutz-Verordnung entsteht; hebt beispielsweise hervor, dass KI-Entwickler in der EU einer Herausforderung in Bezug auf Daten gegenüberstehen, von der aufgrund des unvollständigen digitalen Binnenmarkts weder ihre US-amerikanischen noch ihre chinesischen Kollegen betroffen sind; stellt fest, dass sie häufig nicht über genügend hochwertige Daten verfügen, um ihre Algorithmen zu trainieren und zu testen und mit einem Mangel an sektorspezifischen Datenräumen und bereichsübergreifender Interoperabilität sowie Beschränkungen in Bezug auf grenzüberschreitende Datenströme zu kämpfen haben;

c) Investitionen

111. stellt fest, dass europäische Unternehmen und Regierungen viel weniger in KI-Technologien investieren als die Vereinigten Staaten und China; weist darauf hin, dass die privaten Investitionen in die KI-Branche der EU zwar erheblich zunehmen, die EU jedoch im Vergleich zu anderen führenden Regionen noch immer weit weniger in KI investieren – mehr als 80 % der jährlichen Kapitalbeteiligungen im Bereich der KI- und Blockchain-Technologien in Höhe von 25 Mrd. EUR entfallen auf die USA und China, während der Anteil der EU nur 7 % oder etwa 1,75 Mrd. EUR beträgt; betont, dass die Liquidität der EU-Finanzierungsmärkte für Technologieunternehmen noch immer nicht die Größenordnung vergleichbarer Märkte in den USA hat; stellt fest, dass die Vereinigten Staaten auch im Bereich der Finanzierung mit Risikokapital und privatem Beteiligungskapital mit 12,6 Mrd. EUR im Jahr 2019 führend sind gegenüber China mit 4,9 Mrd. EUR und der EU mit 2,8 Mrd. EUR, was insbesondere für Start-up-Unternehmen im Bereich KI wichtig ist; stellt fest, dass infolgedessen europäische KI-Unternehmer den Atlantik überqueren, um ihre Geschäftstätigkeit in den Vereinigten Staaten auszubauen;

112. stellt fest, dass sich die öffentlichen Investitionen der EU in KI zusammen mit nationalen Initiativen jährlich auf schätzungsweise 1 Mrd. EUR belaufen[35] und damit deutlich unter den jährlichen Investitionen in Höhe von 5,1 Mrd. EUR in den Vereinigten Staaten und bis zu 6,8 Mrd. EUR in China[36]; liegen; stellt jedoch fest, dass die öffentlichen Mittel der EU für die Forschung und Innovation im Bereich KI von 2017 bis 2020 im Vergleich zum vorherigen Zeitraum um 70 % gestiegen sind und dass die EU im Jahr 2019 zwischen 7,9 und 9 Mrd. EUR in KI investiert hat, was 39 % mehr als im Vorjahr ist; würdigt und begrüßt die Pläne der Kommission, die Investitionen durch das Programm „Digitales Europa“, „Horizont Europa“, „InvestEU“, die Europäischen Struktur- und Investitionsfonds, den Europäischen Investitionsfonds, die Fazilität „Connecting Europe“ im Bereich Telekommunikation und verschiedene kohäsionspolitische Programme weiter zu erhöhen, was durch das von der Kommission und den Mitgliedstaaten im Rahmen der Fazilität für Konjunkturbelebung und Widerstandsfähigkeit vereinbarte Mindestausgabenziel von 20 % für den digitalen Wandel in den nationalen Aufbau- und Resilienzplan weiter ergänzt und verstärkt wird; hebt jedoch den jüngsten Bericht der Europäischen Investitionsbank hervor, laut dem sich die Investitionslücke in KI- und Blockchain-Technologien in der Europäischen Union auf 5–10 Mrd. EUR pro Jahr beläuft;

113. betont, dass sich KI-Unternehmen in der EU in einem starken Wettbewerb um qualifizierte Arbeitnehmer befinden, was noch dadurch verschlimmert wird, dass 42 % der Bevölkerung der EU nicht über grundlegende digitale Kompetenzen verfügen; betont, dass es notwendig ist, eine wesentlich höhere Zahl gut qualifizierter Hochschulabsolventen – einschließlich Frauen – auszubilden und für die Arbeit im digitalen Sektor zu gewinnen;

114. stellt fest, dass die EU zwar über eine herausragende Gemeinschaft von Forschenden im Bereich KI verfügt, die Abwanderung von Forschenden aus der EU jedoch nach wie vor ein Problem darstellt; betont, dass Maßnahmen ergriffen werden müssen, um attraktiver für führende Forschende zu werden; stellt fest, dass die EU 2020 nur 2,32 % ihres BIP für Forschung und Entwicklung ausgegeben hat, während es in den Vereinigten Staaten 3,08 % waren; erinnert daran, dass die Mitgliedstaaten zu ihrer Verpflichtung stehen müssen, 3 % ihres BIP in Forschung und Entwicklung zu investieren, um die strategische Autonomie der Union im digitalen Bereich sicherzustellen;

115. stellt fest, dass die digitale Infrastruktur der EU grundlegend aktualisiert werden muss, da sich nur 25 % der Menschen in der EU mit einem 5G-Netz verbinden können, während es in den Vereinigten Staaten 76 % sind; stellt fest, dass es der EU an ausreichender leistungsstarker digitaler Infrastruktur mit interoperablen Datenräumen, hohen Übertragungsraten und -mengen, Zuverlässigkeit und geringen Verzögerungen mangelt; betont, dass europäische KI-Ökosysteme mit Exzellenz-Clustern gefördert werden müssen;

d) Fazit

116. kommt zu dem Schluss, dass die Vereinigten Staaten im Bereich KI in vielen Kategorien insgesamt weltweit führend sind, da Unternehmen mit Sitz in den Vereinigten Staaten bei technologischen Entwicklungen wie Cloud Computing und Hochleistungscomputern sowie im Hinblick auf Investitionen, Attraktivität für KI-Talente, Forschung und Infrastruktur vorne liegen; hebt jedoch hervor, dass China, das vor wenigen Jahren noch bei allen Indikatoren deutlich hinter den Vereinigten Staaten zurücklag, rasch aufholt; erkennt an, dass beide Länder den Vorteil eines einheitlichen Binnenmarkts besitzen und sich stärker dafür einsetzen, im Bereich KI führend zu bleiben;

117. betont, dass die Akteure der Union trotz der starken Haltung der EU zu industrieller Software und Robotik in vielen Kategorien noch immer hinter den amerikanischen und chinesischen Akteuren zurückliegen; betont, dass die EU einen ehrgeizigen Plan für eine europäische auf den Menschen ausgerichtete KI erarbeiten sollte; stellt jedoch fest, dass die EU bei den Regulierungsansätzen vorne liegt; weist darauf hin, dass sich eine tragfähige EU-Strategie, um im Bereich KI wettbewerbsfähiger zu werden, auf die Bereiche KI-Forschung und ‑Innovation, Kompetenzen, Infrastruktur und Investitionen konzentrieren und gleichzeitig versuchen muss, einen zukunftsorientierten, horizontalen und innovationsfreundlichen Regelungsrahmen für die Entwicklung und Nutzung von KI zu schaffen und dabei sicherzustellen, dass die Grundrechte der Unionsbürgerinnen und ‑bürger und die Rechtsstaatlichkeit gewahrt bleiben;

118. hebt hervor, dass der Brexit negative Auswirkungen auf die Bemühungen der Union hatte, ihren globalen KI-Fußabdruck zu stärken, da das Vereinigte Königreich eines der führenden EU-Länder im Bereich KI war; betont jedoch, dass das Vereinigte Königreich ein geschätzter Partner der EU bleiben sollte, der die Wettbewerbsfähigkeit beider Partner und die Förderung gemeinsamer Regulierungsperspektiven bei der Festlegung globaler Standards stärkt;

119. kommt zu dem Schluss, dass die EU derzeit weit davon entfernt ist, ihr Bestreben, im Bereich der KI weltweit eine Führungsrolle zu übernehmen, zu verwirklichen, und in einigen Kategorien sogar noch weiter zurückfallen können; hält daran fest, dass diese Situation durch rasches Handeln in Bezug auf den unten beschriebenen EU-Fahrplan für KI verändert werden kann;

120. weist darauf hin, dass die EU nicht über die Gesetzgebungsbefugnis verfügt, um alle in dem EU-Fahrplan für KI aufgeführten Punkte anzugehen, weshalb der Sonderausschuss empfiehlt, weitere Gespräche auf hoher Ebene zu führen und politische Prozesse in den EU-Institutionen und Mitgliedstaaten voranzutreiben, um einen harmonisierteren Ansatz zur KI zu erreichen und den Mitgliedstaaten dabei zu helfen, ihre Anstrengungen zu koordinieren; verweist in diesem Zusammenhang auf die Lissabon-Agenda der EU von 2000, die trotz der Kritik einen wichtigen Beitrag dazu geleistet hat, die politische Ausrichtung der EU über einen Zeitraum von 20 Jahren zu steuern und den Druck auf die Mitgliedstaaten im Hinblick auf Reformen aufrechtzuerhalten;

4. „Europa für das digitale Zeitalter“ – Fahrplan zur Übernahme einer weltweiten Führungsrolle

a) Günstiges Regelungsumfeld

i. Rechtsetzung

121. fordert die Kommission auf, für neue digitale Gesetze in Bereichen wie KI nur Rechtsakte in Form von Verordnungen vorzuschlagen, da der digitale Binnenmarkt einem Prozess der echten Harmonisierung unterzogen werden muss; ist davon überzeugt, dass Rechtsvorschriften zum digitalen Bereich aufgrund der raschen technologischen Entwicklung stets flexibel, prinzipienbasiert, technologieneutral, zukunftssicher und verhältnismäßig sein sollten, wobei gegebenenfalls ein risikobasierter Ansatz verfolgt werden sollte, und sich außerdem auf die Achtung der Grundrechte stützen und unnötige neue Verwaltungslasten für KMU, Start-up-Unternehmen, Hochschulen und Forschung vermeiden sollten; betont darüber hinaus die Bedeutung eines hohen Maßes an Rechtssicherheit und folglich die Notwendigkeit robuster, praktischer und eindeutiger Anwendbarkeitskriterien, Definitionen und Verpflichtungen in allen Rechtstexten, die den Verkauf, die Nutzung oder die Entwicklung von KI-Technologien betreffen;

122. ist der Ansicht, dass die Agenda für bessere Rechtsetzung ein Schlüsselelement für den Erfolg der KI-Strategie der EU ist; betont, dass man sich auf die Mechanismen zur Überprüfung, Anpassung, Umsetzung und Durchsetzung bestehender Gesetze konzentrieren sollte, bevor neue Rechtsakte vorgeschlagen werden;

123. fordert die Kommission nachdrücklich auf vor der Veröffentlichung neuer digitaler Vorschläge in Bereichen wie der KI gründliche Ex-ante Folgenabschätzungen mit angemessener Voraussicht und Risikoanalyse durchzuführen; betont, dass bei Folgenabschätzungen alle einschlägigen bestehenden Rechtsvorschriften systematisch erfasst und bewertet werden sollten, um Überschneidungen oder Konflikte zu vermeiden;

124. schlägt vor, dass neue Gesetze in Bereichen wie KI durch die Förderung von durch die Interessengruppen entwickelten europäischen Normen ergänzt werden sollten; ist der Auffassung, dass die Union bestrebt sein sollte, Fragmentierung zu vermeiden, und dass internationale Normen als nützliche Referenz dienen können, dass die Union jedoch der Entwicklung eigener Normen Vorrang einräumen sollte; betont dass solche Normen das Ergebnis eines fairen Wettbewerbs um die besten Normen in der EU sein sollten, auf den die EU- und Normungsorganisationen reagieren sollten; stellt fest, dass technische Normen und Gestaltungsvorgaben dann mit Kennzeichnungssystemen kombiniert werden könnten, um das Vertrauen der Verbraucher durch die Bereitstellung vertrauenswürdiger Dienstleistungen und Produkte zu stärken; hebt die Rolle der EU-Normungsorganisationen bei der Entwicklung dem Stand der Technik entsprechender technische Normen hervor; fordert die Kommission auf, die Erteilung von Normungsaufträgen an die europäischen Normungsorganisationen gemäß der Verordnung (EU) Nr. 1025/2012 des Europäischen Parlaments und des Rates vom 25. Oktober 2012 zur europäischen Normung[37] zu beschleunigen;

125. erklärt, dass eine offene Zertifizierungsplattform ein Ökosystem des Vertrauens schaffen könnte, das Regierungen, die Zivilgesellschaft, Unternehmen und andere Akteure einbezieht;

126. fordert das Parlament, die Kommission und den Rat auf, ihre Fähigkeit, mit internen Kompetenzkonflikten bei übergreifenden Themen wie der KI umzugehen, zu verbessern, da solche Konflikte das Gesetzgebungsverfahren zu verzögern drohen, was sich auf das Inkrafttreten der Rechtsvorschriften auswirkt;

ii. Verwaltungspraxis und Rechtsdurchsetzung

127. fordert eine einheitliche EU-weite Koordinierung, Umsetzung und Durchsetzung der KI-Gesetzgebung;

128. erklärt, dass auf Interessengruppen basierende Konsultationsforen wie das Data Innovation Board, das durch das Daten-Governance-Gesetz eingerichtet werden soll, oder die Europäische KI-Allianz, die öffentlich-private Partnerschaften wie die Europäische Allianz für Industriedaten, Edge und Cloud umfasst, ein vielversprechender Governance-Ansatz sind; führt aus, dass dieser Ansatz das KI-Ökosystem der EU in die Lage versetzt, seine Grundsätze, Werte und Ziele zu operationalisieren und gesellschaftliche Interessen auf der Ebene des Software-Codes widerzuspiegeln;

129. betont, dass das „Tempo-Problem“ ein besonderes Augenmerk auf der wirksamen Ex-post-Durchsetzung durch Gerichte und Regulierungsbehörden sowie auf Ex-ante-Ansätzen zum Umgang mit rechtlichen Herausforderungen, die durch das Aufkommen neuer Technologien entstehen, erfordert; unterstützt deshalb die Verwendung regulatorischer Sandkästen, die den KI-Entwicklern die einzigartige Möglichkeit bieten würden, unter der Aufsicht der zuständigen Behörden schnell, flexibel und kontrolliert zu experimentieren; stellt fest, dass es sich bei diesen regulatorischen Sandkästen um Experimentierräume handeln würde, in denen KI-Systeme und neue Geschäftsmodelle unter realen Bedingungen und in einer kontrollierten Umgebung getestet werden können, bevor sie auf dem Markt in Verkehr gebracht werden;

iii. Rechtsrahmen für künstliche Intelligenz

130. betont, dass ein grundlegendes Ziel der digitalen Strategie der EU und dasjenige der KI-Strategie darin besteht, einen „europäischen Weg“ in einer digitalisierten Welt zu schaffen; stellt klar, dass dieser Ansatz auf den Menschen ausgerichtet und vertrauenswürdig sein sollte und sich an ethischen Grundsätzen orientieren sowie auf dem Konzept der sozialen Marktwirtschaft beruhen sollte; betont, dass im Mittelpunkt aller politischen und legislativen Erwägungen stets die Menschen mit ihren Grundrechten und Freiheiten stehen sollten;

131. stimmt der Schlussfolgerung der Kommission in ihrem Weißbuch zur künstlichen Intelligenz von 2020 zu, dass ein risikobasierter Rechtsrahmen für KI geschaffen werden muss, der insbesondere hohe ethische Standards auf der Grundlage von Transparenz, Überprüfbarkeit und Rechenschaftspflicht in Verbindung mit Produktsicherheitsvorschriften, angemessenen Haftungsregeln und sektorspezifischen Bestimmungen umfasst und gleichzeitig Unternehmen und Nutzern genügend Flexibilität, Rechtssicherheit und gleiche Wettbewerbsbedingungen bietet, um die Einführung von KI und Innovationen zu fördern;

132. weist auf den Mehrwert hin, den die Übernahme der Konzepte, Terminologien und Standards, die von der OECD entwickelt wurden, um als Inspiration für die Definition von KI in Rechtsvorschriften zu dienen, bietet; betont, dass das der EU einen Vorteil bei der Gestaltung eines künftigen internationalen KI-Governance-Systems verschaffen würde;

133. ist überzeugt, dass nicht immer KI als Technologie reguliert werden sollte, sondern dass das Niveau regulatorischer Eingriffe in einem angemessenen Verhältnis zur Art des jeweiligen individuellen und/oder sozialen Risikos stehen sollte, das mit der Nutzung eines KI-Systems verbunden ist; betont in diesem Zusammenhang, dass zwischen Fällen von KI-Anwendungen mit hohem Risiko und KI-Anwendungen mit geringem Risiko unterschieden werden muss; kommt zu dem Schluss, dass die erste Kategorie zusätzliche strenge rechtliche Garantien benötigt, während in Fällen mit geringem Risiko häufig Transparenzanforderungen für Endnutzer und Verbraucher erforderlich sind;

134. weist darauf hin, dass die Einstufung eines KI-Systems als hochriskant auf seiner konkreten Nutzung und auf dem Kontext, der Art, der Wahrscheinlichkeit, der Schwere und der potenziellen Unumkehrbarkeit des bei Verstößen gegen die Grundrechte und die im Unionsrecht festgelegten Gesundheits- und Sicherheitsvorschriften zu erwartenden Schadens beruhen sollte; betont, dass diese Einstufung mit Leitlinien und der Förderung des Austauschs bewährter Verfahren für KI-Entwickler einhergehen sollte; betont, dass das Recht auf Privatsphäre stets geachtet werden muss und dass KI-Entwickler die vollständige Einhaltung der Datenschutzvorschriften sicherstellen sollten;

135. unterstreicht, dass KI-Systeme, die voraussichtlich mit Kindern interagieren oder sie anderweitig beeinträchtigen können, deren Rechte und Schwachstellen berücksichtigen müssen und den höchsten verfügbaren Standards für Sicherheit und Schutz der Privatsphäre entsprechen müssen;

136. weist darauf hin, dass das Umfeld, in dem die KI-Systeme eingesetzt werden, je nachdem, ob es sich um ein Business-to-Business-Umfeld (B2B) oder ein Business-to-Consumer-Umfeld (B2C) handelt, Unterschiede aufweisen kann; weist darauf hin, dass die Verbraucherrechte durch Verbraucherschutzvorschriften rechtlich geschützt werden müssen; betont, dass Unternehmen zwar die Haftung und andere rechtliche Herausforderungen durch vertragliche Mittel mit Geschäftspartnern schneller und kostengünstiger direkt lösen können, dass jedoch Rechtsvorschriften erforderlich sein können, um kleinere Unternehmen vor dem Missbrauch ihrer Marktmacht seitens marktbeherrschender Akteure durch kommerzielle oder technologische Beschränkungen, Hindernisse für den Marktzugang oder asymmetrische Informationsprobleme zu schützen; hebt hervor, dass auch die Bedürfnisse von KMU und Start-up-Unternehmen im Zusammenhang mit den komplexen rechtlichen Anforderungen berücksichtigt werden müssen, um sie gegenüber größeren Unternehmen, die über die Ressourcen verfügen, um umfangreiche Rechts- und Compliance-Abteilungen zu unterhalten, nicht zu benachteiligen;

137. betont, dass ein prinzipienbasierter Ansatz auf offene ethische Fragen angewendet werden muss, die sich durch neue technologische Möglichkeiten durch den Verkauf und die Nutzung von KI-Anwendungen ergeben, u. a. durch die Anwendung grundlegender, verbindlicher Prinzipien wie dem Grundsatz der Schadensvermeidung, dem Grundsatz der Achtung der Menschenwürde und der Grundrechte und dem Schutz des demokratischen Prozesses; stellt fest, dass bewährte Praktiken in der KI-Entwicklung, wie z. B. eine auf den Menschen ausgerichtete KI, eine verantwortungsvolle Unternehmensführung und die Prinzipien der Transparenz und Erklärbarkeit sowie die Grundsätze einer nachhaltigen KI, die vollständig mit der VN-Agenda 2030 für nachhaltige Entwicklung in Einklang stehen, weitere wichtige Komponenten für die Gestaltung der KI-Wirtschaft sind;

138. erkennt an, dass es nicht immer möglich ist, KI-Algorithmen vollständig von jeglicher Voreingenommenheit zu befreien, da das Idealziel fehlerfreier Daten sehr schwer oder beinahe unmöglich zu erreichen ist; weist darauf hin, dass selbst ein getestetes KI-System unweigerlich mit realen Szenarien konfrontiert wird, die zu verzerrten Ergebnissen führen können, wenn es in einer Umgebung eingesetzt wird, die sich von der Zusammensetzung seiner Trainings- und Testdaten unterscheidet; betont, dass die Union bestrebt sein sollte, die Transparenz der Datensätze und Algorithmen zu verbessern, sehr eng mit KI-Entwicklern zusammenzuarbeiten, um strukturelle Verzerrungen in der Gesellschaft auszugleichen und zu verringern, und bereits in einem frühen Stadium der Entwicklung verbindliche Sorgfaltsregeln für Menschenrechte in Betracht zu ziehen;

139. weist darauf hin, dass sinnvolle Transparenz- oder Erklärbarkeitspflichten für KI-Systeme zwar in vielen Fällen hilfreich sind, aber nicht in jedem Fall umgesetzt werden können; weist darauf hin, dass Rechte des geistigen Eigentums und Geschäftsgeheimnisse vor illegalen Praktiken wie Industriespionage geschützt werden müssen;

140. erklärt, dass der Rechtsrahmen für geistiges Eigentum weiterhin Anreize und Schutz für KI-Innovatoren bieten muss, indem ihnen als Belohnung für die Entwicklung und Veröffentlichung ihrer Werke Patente verliehen werden; ist der Ansicht, dass die bestehenden Rechtsvorschriften größtenteils zukunftssicher sind, schlägt jedoch einige Anpassungen, einschließlich der Integration quelloffener Elemente, sowie gegebenenfalls die Nutzung des öffentlichen Beschaffungswesens zur Förderung von Open-Source-Software für KI-Lösungen vor; schlägt neue Formen der Patentlizenzvergabe vor, um sicherzustellen, dass die betreffenden Instrumente auch denjenigen Regionen und Initiativen zur Verfügung stehen, die sie sich andernfalls nicht leisten könnten;

141. ist der Ansicht, dass verbindliche Ex-ante-Risiko-Selbstbewertungen auf der Grundlage klarer Regeln und Standards sowie Datenschutz-Folgenabschätzungen in Verbindung mit Konformitätsbewertungen durch Dritte mit der relevanten und geeigneten CE-Kennzeichnung und in Kombination mit der Ex-post-Durchsetzung durch die Marktüberwachungsbehörden nützlich sein könnten, um sicherzustellen, dass die auf dem Markt in Verkehr gebrachten KI-Systeme sicher und vertrauenswürdig sind; ist der Ansicht, dass die Normen und Leitlinien zur Einhaltung der KI-Rechtsvorschriften unter enger Einbeziehung der kleinen Unternehmen entwickelt, soweit wie möglich international angeglichen und kostenlos zur Verfügung gestellt werden sollten, um zu verhindern, dass die KMU aus dem Markt gedrängt werden;

142. weist darauf hin, dass die Entwickler hochriskanter KI sicherstellen sollten, dass zugängliche Protokolle algorithmischer Tätigkeiten sicher aufbewahrt werden, um die Produktsicherheit zu erhöhen und die Erkennung von Fehlern zu verbessern; ist der Ansicht, dass Entwickler Hochrisiko-KI-Systeme gegebenenfalls mit eingebetteten Mechanismen („Stopptaste“) für menschliches Eingreifen konzipieren sollten, um automatisierte Tätigkeiten jederzeit sicher und effizient abbrechen zu können und einen „Human-in-the-Loop“-Ansatz sicherzustellen; ist der Ansicht, dass die Ausgaben und die Denkprozesse eines KI-Systems stets für den Menschen nachvollziehbar sein sollten;

143. erkennt die rechtlichen Herausforderungen an, die sich aus KI-Systemen ergeben, und dass es erforderlich, eine Überarbeitung bestimmter Teile der bestehenden Haftungsregeln zu erwägen; sieht in diesem Zusammenhang der Vorlage des Gesetzgebungsvorschlags der Kommission zur KI-Haftung erwartungsvoll entgegen; betont, dass die Produkthaftungsrichtlinie[38] und die nationalen Verschuldenshaftungsregelungen grundsätzlich das Kernstück der Gesetzgebung zur Bekämpfung der meisten durch KI verursachten Schäden bleiben können; betont, dass es in einigen Fällen zu unangemessenen Ergebnisse kommen könnte, warnt jedoch davor, dass jede Überarbeitung die bestehenden Produktsicherheitsvorschriften berücksichtigen und auf eindeutig festgestellten Lücken beruhen und gleichzeitig zukunftssicher und in der Lage sein sollte, wirksam umgesetzt zu werden und den Schutz des Einzelnen in der EU sicherzustellen;

144. unterstreicht, dass der Rechtsrahmen Kindern nicht dasselbe Maß an persönlicher Verantwortung für das Verständnis von Risiken auferlegen sollte wie Erwachsenen;

145. weist darauf hin, dass bestimmte Änderungen der rechtlichen Definitionen des Begriffs „Produkt“, der unter anderem integrierte Softwareanwendungen, digitale Dienste und produktübergreifende Abhängigkeit, sowie „Hersteller“, einschließlich Backend-Betreiber, Diensteanbieter und Datenlieferanten umfasst, in Betracht gezogen werden können, um sicherzustellen, dass für Schäden, die durch diese Technologien verursacht werden, ein Ausgleich möglich ist; betont jedoch, dass ein zu weit oder zu eng gefasster Ansatz bei der Definition des Begriffs „Produkt“ vermieden werden sollte;

146. weist darauf hin, dass aufgrund der Merkmale von KI-Systemen wie ihrer Komplexität, Konnektivität, Opazität, Anfälligkeit, der Fähigkeit, durch Aktualisierungen modifiziert zu werden, der Fähigkeit zum eigenständigen Lernen und der potenziellen Autonomie sowie aufgrund der Vielzahl der Akteure, die an ihrer Entwicklung, ihrem Einsatz und ihrer Nutzung beteiligt sind, erhebliche Herausforderungen in Bezug auf die Wirksamkeit der Rechtsrahmen auf Unions- und nationaler Ebene im Bereich der Haftung bestehen; vertritt daher die Auffassung, dass zwar keine vollständige Überarbeitung der gut funktionierenden Haftungsvorschriften erforderlich ist, aber konkrete und abgestimmte Anpassungen der europäischen und einzelstaatlichen Haftungsvorschriften notwendig sind, um zu vermeiden, dass Umstände eintreten, in denen erlittene Personen- oder Sachschaden letztendlich nicht entschädigt werden; weist darauf hin, dass KI-Systeme mit hohem Risiko zwar strengen Haftungsgesetzen in Verbindung mit einem obligatorischen Versicherungsschutz unterliegen sollten, alle anderen von KI-Systemen angetriebenen Aktivitäten, Vorrichtungen oder Prozesse, die einen Personen- oder Sachschaden verursachen, aber weiterhin unter die verschuldensabhängige Haftung fallen sollten; vertritt die Ansicht, dass der betroffenen Person trotzdem die Annahme eines Verschuldens seitens des Betreibers zugutekommen sollte, es sei denn, dieser kann nachweisen, dass er seiner Sorgfaltspflicht nachgekommen ist;

iv. Die Herausforderungen für die EU im Zusammenhang mit Daten

147. nimmt die Schlussfolgerung, die die Kommission in ihrer Mitteilung aus dem Jahr 2020 mit dem Titel „Eine europäische Datenstrategie“ und das Europäische Parlament in seiner Entschließung vom 25. März 2021 zum gleichen Thema gezogen haben, zur Kenntnis, worin es heißt, dass die Schaffung eines einheitlichen europäischen Datenraums in Verbindung mit der Entwicklung sektorspezifischer Datenräume und der Konzentration auf gemeinsame Normen von entscheidender Bedeutung sind, um eine schnelle Skalierbarkeit von KI-Lösungen in der EU und darüber hinaus sowie die offene strategische Autonomie und den wirtschaftlichen Wohlstand der EU sicherzustellen; macht erneut auf den wesentlichen Zusammenhang zwischen der Verfügbarkeit hochwertiger Daten und der Entwicklung von KI-Anwendungen aufmerksam; betont in diesem Zusammenhang die Notwendigkeit, robuste, zuverlässige und interoperable Cloud-Dienste sowie Lösungen, die eine dezentrale Datenanalyse und Edge-Architekturen nutzen, in der EU einzusetzen; fordert die Kommission auf, die Rechte auf Zugang, Nutzung und gemeinsame Nutzung von Daten durch Inhaber von gemeinsam erstellten nicht personenbezogenen Daten zu klären; betont, dass der Datenzugang technisch ermöglicht werden muss, auch durch interoperable, standardisierte Schnittstellen und interoperable Software; betont, dass Hindernisse für die gemeinsame Nutzung von Daten zu weniger Innovation, verringertem Wettbewerb und der Förderung oligopolistischer Marktstrukturen führen, bei denen die Gefahr groß ist, dass sie sich auf dem benachbarten Markt für KI-Anwendungen fortsetzen;

148. betont, dass der Öffnung von Datensilos und der Förderung des Zugangs zu Daten für Forschende und Unternehmen im KI-Bereich, wie in der Datenstrategie des Europäischen Parlaments dargelegt eine große Bedeutung zukommt; betont, dass Marktungleichgewichte, die sich aus verstärkten Dateneinschränkungen durch private Unternehmen ergeben, die Marktzutrittsschranken erhöhen und den breiteren Datenzugang und die Datennutzung einschränken, was es insbesondere für Start-ups und Forscher schwierig macht, die Daten zu erwerben oder zu lizenzieren, die sie für das Training ihrer Algorithmen benötigen; betont, dass für die erforderliche Rechtssicherheit und interoperable technische Infrastruktur gesorgt werden muss und gleichzeitig die Dateninhaber in Europa motiviert werden müssen, ihre großen Mengen ungenutzter Daten zur Verfügung zu stellen; ist der Ansicht, dass eine freiwillige gemeinsame Nutzung von Daten zwischen Unternehmen auf der Grundlage fairer vertraglicher Vereinbarungen dazu beiträgt, dieses Ziel zu erreichen; erkennt jedoch an, dass für KMU bei vertraglichen Vereinbarungen zwischen Unternehmen (B2B) aufgrund von Ungleichheiten in Bezug auf die Verhandlungsposition oder das Fachwissen nicht unbedingt ein angemessener Zugang zu Daten sichergestellt ist; hebt hervor, dass offene Datenmarktplätze die gemeinsame Nutzung von Daten erleichtern, indem sie KI-Unternehmen und Forschern dabei helfen, Daten von denjenigen zu erwerben oder zu lizenzieren, die Daten auf solchen Marktplätzen zur Verfügung stellen wollen, die Datenkataloge enthalten und es Dateninhabern und ‑nutzern ermöglichen, Transaktionen zur gemeinsamen Nutzung von Daten auszuhandeln; begrüßt in diesem Zusammenhang die Vorschriften über Datenvermittlungsdienste im Data Governance Act;

149. begrüßt die Initiativen des europäischen Cloud-Zusammenschlusses wie die Europäische Allianz für Industriedaten, Edge und Cloud sowie das Projekt Gaia-X, die das Ziel haben, einen Zusammenschluss der Dateninfrastruktur zu entwickeln und ein Ökosystem zu schaffen, das die Skalierbarkeit, Interoperabilität und Selbstbestimmung von Datenanbietern ermöglicht; stellt fest, dass ein EU-Regelwerk für die Cloud, in dem die bestehenden Rechtsvorschriften und Selbstregulierungsinitiativen zusammengestellt werden, auch dazu beitragen würde, gemeinsame EU-Grundsätze und ‑Werte in umsetzbare Prozesse und Kontrollen für technische Praktiker zu übersetzen;

150. empfiehlt, die Interoperabilität von Daten weiter zu stärken und gemeinsame Standards zu schaffen, um den Datenfluss zwischen verschiedenen Maschinen und Einrichtungen zu erleichtern, die gemeinsame Nutzung von Daten über Länder und Sektoren hinweg zu verbessern und die Erstellung hochwertiger Datensätze in großem Maßstab zu ermöglichen; stellt fest, dass die Förderung von offenen Standards, Open-Source-Software, Creative-Commons-Lizenzen und offenen Anwendungsprogrammierschnittstellen (APIs) eine Schlüsselrolle bei der Beschleunigung der gemeinsamen Datennutzung spielen könnte; unterstreicht die Rolle gemeinsamer europäischer Datenräume bei der Erleichterung des freien Datenverkehrs in der europäischen Datenwirtschaft;

151. fordert die die Kommission und die Mitgliedstaaten auf, dafür zu sorgen, dass faire Vertragsbedingungen im Rahmen der Wettbewerbsregeln stärker durchgesetzt werden, um Ungleichgewichte bei der Marktmacht auszugleichen, ohne ungerechtfertigt in die Vertragsfreiheit einzugreifen, und dass die Kartellbehörden über die notwendigen Mittel und Ressourcen verfügen, um Tendenzen zur Datenkonzentration entgegenzuwirken; betont, dass es europäische Datenräume den Unternehmen ermöglichen würden, eng zusammenzuarbeiten, und ist daher der Ansicht, dass mehr Orientierungshilfen und Rechtssicherheit für Unternehmen in wettbewerbsrechtlichen Fragen und Zusammenarbeit bei der gemeinsamen Nutzung und Bündelung von Daten erforderlich sind; betont, dass die Datenzusammenarbeit, auch für die Ausbildung von KI-Anwendungen oder in der Industrie des Internets der Dinge (IoT), unter keinen Umständen die Bildung von Kartellen erleichtern oder Hindernisse für neue Marktteilnehmer schaffen darf; betont, wie wichtig es ist, die vertraglichen Rechte von KI-Entwicklern und Unternehmen zu klären, die durch den Einsatz von Algorithmen oder Maschinen des Internets der Dinge (IoT) zur Schaffung von Daten beitragen, und insbesondere die Rechte auf Zugang zu Daten, auf Datenübertragbarkeit, auf die Aufforderung an eine andere Partei, die Verwendung von Daten einzustellen, und auf die Berichtigung oder Löschung von Daten;

152. fordert die Mitgliedstaaten auf, die Richtlinie über offene Daten[39] zügig umzusetzen und den Data Governance Act ordnungsgemäß anzuwenden, indem sie hochwertige Datensätze im Idealfall kostenlos zur Verfügung stellen und sie in maschinenlesbaren Formaten und interoperablen APIs bereitstellen; betont, dass diese Initiative die Kosten für öffentliche Einrichtungen für die Verbreitung und Wiederverwendung ihrer Daten senken und Forschern und Unternehmen in der EU bei der Verbesserung ihrer digitalen Technologien in Bereichen wie der KI enorm helfen würde;

153. fordert eine einheitliche Umsetzung der Datenschutz-Grundverordnung in der gesamten EU durch eine wirksame und zügige Anwendung des Kohärenzverfahrens und durch eine Angleichung der unterschiedlichen nationalen Auslegungen des Gesetzes; stellt fest, dass die Datenschutzbehörden besser ausgestattet werden müssen, auch mit technischem Fachwissen;

154. nimmt den praktischen Leitfaden der Kommission von 2019 zur Verarbeitung gemischter Datensätze zur Kenntnis; weist darauf hin, dass die Nichtweitergabe von Datensätzen für KI-Forscher und Unternehmen aufgrund der Unsicherheit in Bezug auf die Frage, ob die Daten ausreichend anonymisiert sind, nach wie vor häufig die beste Option darstellt;

155. ist der Ansicht, dass die Stellungnahme der Artikel-29-Datenschutzgruppe von 2014 zu Anonymisierungstechniken einen nützlichen Überblick bietet, der weiter ausgearbeitet werden könnte; fordert den Europäischen Datenschutzausschuss (EDSA) auf, Leitlinien auf der Grundlage spezifischer Anwendungsfälle und relevanter Situationen für verschiedene Arten von für die Verarbeitung Verantwortlichen und Auftragsverarbeitern und verschiedene Verarbeitungssituationen anzunehmen, einschließlich einer Checkliste mit allen Anforderungen, die erfüllt werden müssen, um Daten ausreichend zu anonymisieren; stellt jedoch fest, dass Anonymisierungstechniken derzeit nicht in der Lage sind, einen umfassenden und vollständigen Schutz der Privatsphäre zu gewährleisten, da Experimente gezeigt haben, dass es modernen KI-Systemen dennoch gelingt, eine Person zu reidentifizieren;

156. fordert den EDSA auf, mehr Leitlinien für Forschende und Unternehmen in Bereichen wie der KI herauszugeben, wie personenbezogene Daten außerhalb der EU in einer der DSGVO entsprechenden Weise verarbeitet werden können;

157. schlägt die Finanzierung weiterer Forschungsarbeiten zur Standardisierung von „Privacy by Design“-Ansätzen sowie die Förderung von kryptografischen Lösungen und datenschutzfreundlichem maschinellem Lernen vor, da es von entscheidender Bedeutung ist, sicherzustellen, dass qualitativ hochwertige Daten zum Trainieren von Algorithmen und zur Durchführung von KI-Aufgaben verwendet werden können, ohne dass die Privatsphäre verletzt wird; weist darauf hin, dass Datenvertrauen, Zertifizierungen für Hochrisiko-KI-Anwendungen, persönliche Informationsmanagementsysteme und die Verwendung synthetischer Daten ebenfalls vielversprechend sind;

158. hält die EU und ihre Mitgliedstaaten dazu an, das kürzlich ins Leben gerufene OECD-Projekt über den vertrauenswürdigen Zugang von Regierungen zu personenbezogenen Daten im Besitz des privaten Sektors als Bezugspunkt für politische Entscheidungsträger weltweit zu nutzen, um auf eine internationale Lösung und eine regulatorische Konvergenz der besten Praktiken in diesem Bereich hinzuarbeiten; betont in diesem Zusammenhang, dass der freie Fluss von Daten und Metadaten über internationale Grenzen hinweg unter vollständiger Einhaltung des Besitzstands der EU zum Datenschutz eine entscheidende Voraussetzung für die digitale Innovation in Europa ist; fordert die Kommission daher auf, von der Auferlegung von Anforderungen an die Datenlokalisierung abzusehen, außer in Fällen, in denen sie zum Schutz der Grundrechte einschließlich des Datenschutzes erforderlich sind, oder in begrenzten, verhältnismäßigen und gut begründeten Fällen, in denen eine solche Politik im Interesse der EU liegt oder zur Wahrung der europäischen Standards erforderlich ist;

159. fordert die Kommission auf, auf das Urteil des Gerichtshofs der Europäischen Union (EuGH) zu reagieren, wonach der EU-US-Datenschutzschild ungültig ist, indem sie alle erforderlichen Maßnahmen ergreift, um sicherzustellen, dass eine erneute Angemessenheitsentscheidung in Bezug auf die Vereinigten Staaten vollständig im Einklang mit der DSGVO, der Charta der Grundrechte der Europäischen Union und jedem Aspekt des EuGH-Urteils steht und dass gleichzeitig die transatlantische Datenübermittlung vereinfacht wird; fordert die Kommission auf, die Gespräche über die Angemessenheit der Datenübermittlung mit anderen Nicht-EU-Ländern fortzusetzen, da dies der beste Weg ist, um die Datenschutzpolitik der EU zu fördern und den internationalen Datenaustausch zu ermöglichen;

b) Vollendung des digitalen Binnenmarkts

i. Nationale KI-Strategien

160. fordert die Mitgliedstaaten auf, ihre nationalen KI-Strategien zu überprüfen, da einige von ihnen nach wie vor vage sind und keine klaren Ziele beinhalten, u. a. in Bezug auf die digitale Bildung für die gesamte Gesellschaft sowie die Höherqualifizierung für Spezialisten; empfiehlt, dass die Mitgliedstaaten konkrete, quantifizierbare und spezifische Maßnahmen formulieren und gleichzeitig versuchen, Synergien zwischen ihnen zu schaffen;

161. fordert die Kommission auf, die Mitgliedstaaten dabei zu unterstützen, Prioritäten zu setzen und ihre nationalen KI-Strategien und rechtlichen Rahmenbedingungen so weit wie möglich anzugleichen, um Kohärenz und Konsistenz in der gesamten EU zu gewährleisten; weist darauf hin, dass eine Vielfalt nationaler Ansätze zwar ein guter Weg ist, um bewährte Verfahren zu entwickeln, dass aber KI-Entwickler und Forschende auf große Hindernisse stoßen würden, wenn sie in jedem der 27 Mitgliedstaaten unterschiedlichen Betriebsparametern und rechtlichen Verpflichtungen unterworfen wären;

ii. Markthindernisse

162. fordert die Kommission nachdrücklich auf, ihre Arbeit zur Beseitigung der ungerechtfertigten Hindernisse fortzusetzen, die die vollständige Vollendung des digitalen Binnenmarkts verhindern, zu denen unter anderem länderspezifische Diskriminierung, unzureichende gegenseitige Anerkennung von Berufsqualifikationen, unnötig aufwendige Marktzugangsverfahren, unnötig hohe Befolgungskosten und abweichende Verfahren für Konformitätsbewertungen gehören, und gegen die häufige Anwendung von Ausnahmeregelungen vorzugehen, die zu unterschiedlichen Vorschriften in den verschiedenen Hoheitsgebieten der Mitgliedstaaten führt; hebt hervor, dass für Unternehmen, die in einem grenzüberschreitenden Umfeld tätig sind, EU-weite Vorschriften für KI im Gegensatz zu einem fragmentierten länderspezifischen Ansatz eine begrüßenswerte Entwicklung sind, die dazu beitragen wird, die europäische Führungsrolle bei der Entwicklung und Einführung von KI zu fördern;

163. fordert die Kommission auf, die Verwirklichung einer echten Kapitalmarktunion zu beschleunigen; betont, dass der Zugang zu Finanzmitteln, insbesondere für KMU, Start-ups und Scale-ups, verbessert werden muss;

164. unterstreicht, dass es wichtig ist, die Verhandlungen über anhängige Legislativvorhaben zur Vollendung des digitalen Binnenmarktes zügig abzuschließen;

165. fordert die Kommission auf, die kohärente Durchsetzung der Binnenmarktvorschriften sicherzustellen;

166. stellt fest, dass der neue Rechtsrahmen sorgfältig aktualisiert und an digitale Produkte und Dienstleistungen angepasst werden sollte; schlägt vor, den Schwerpunkt auf die Modernisierung und Vereinfachung der Verfahren zur Einhaltung der Vorschriften zu legen, indem digitale Alternativen zu den bestehenden analogen und papiergestützten Mitteln eingeführt werden, die es den Unternehmen ermöglichen, beispielsweise die digitale CE-Kennzeichnung, die elektronische Etikettierung oder digitalisierte Sicherheitsanweisungen zu verwenden;

167. legt der Kommission nahe, Offline-Unternehmen zu unterstützen, die online gehen wollen; fordert zu weiteren auf KMU und Start-ups ausgerichteten Informationskampagnen im Hinblick auf neue und zukünftige EU-Rechtsvorschriften in diesem Bereich sowie zu einer verstärkten Durchsetzung der Marktüberwachungsvorschriften auf, um das Vertrauen der europäischen Verbraucher zu vergrößern;

iii. Gleiche Ausgangsbedingungen

168. ist davon überzeugt, dass die derzeitigen nationalen und europäischen Wettbewerbs- und Kartellrahmen reformiert werden müssen, um den Missbrauch von Marktmacht und durch Algorithmen gestützte Kollusion in der digitalen Wirtschaft, z. B. im Zusammenhang mit der Datenakkumulation, besser zu bekämpfen und den Risiken neuer Monopole besser zu begegnen, ohne die Innovation zu gefährden; begrüßt die bevorstehende Verabschiedung des Gesetzes über digitale Märkte; fordert die besondere Berücksichtigung möglicher Wettbewerbsprobleme im Bereich der KI;

169. stellt fest, dass eine solche Reform einen evidenzbasierten Ansatz stärken und den Wert von Daten und die Auswirkungen von Netzwerkeffekten stärker berücksichtigen sollte, indem klare Regeln für marktbeherrschende Plattformen eingeführt und die Rechtssicherheit für die Zusammenarbeit in der digitalen Wirtschaft erhöht werden;

170. stellt in diesem Zusammenhang fest, dass die Kommission ihre Marktdefinitionspraktiken anpassen sollte, um die Märkte genauer und im Einklang mit den modernen Marktgegebenheiten im digitalen Sektor zu definieren, wobei sie dynamische Analysen durchführen und eine langfristige Perspektive einnehmen sollte, um das Vorhandensein von Wettbewerbsdruck zu bewerten;

171. fordert die Kommission und die nationalen Wettbewerbsbehörden auf, ihre Bemühungen um eine kontinuierliche Überwachung der digitalen Märkte zu verstärken, um so Wettbewerbsbeschränkungen und ‑engpässe zu ermitteln und anschließend häufiger Korrekturmaßnahmen gegen Unternehmen zu verhängen, die ihre marktbeherrschende Stellung missbrauchen oder wettbewerbswidriges Verhalten an den Tag legen;

172. fordert die Mitgliedstaaten auf, die Finanzierung und die technischen Kapazitäten der Wettbewerbsbehörden erheblich aufzustocken, um eine wirksame und rasche Durchsetzung der Wettbewerbsregeln in der schnelllebigen und komplexen digitalen Wirtschaft zu gewährleisten; unterstreicht, dass die Wettbewerbsbehörden die Missbrauchsverfahren beschleunigen und erforderlichenfalls einstweilige Maßnahmen ergreifen sollten, um den fairen Wettbewerb zu erhalten und zu fördern, wobei gleichzeitig die Verfahrensrechte der Unternehmen zu gewährleisten sind;

c) Digitale grüne Infrastruktur

i. Konnektivität und Rechenleistung

173. fordert die Kommission auf, ihr Bestreben weiterzuverfolgen, bis 2030 für 75 % der Unternehmen in der Union Anreize dafür zu schaffen, dass sie Cloud-Computing-Dienste, Big Data und KI in Anspruch nehmen, um weltweit wettbewerbsfähig zu bleiben und ihre Ziele für die Klimaneutralität zu beschleunigen, damit diese bis 2050 erreicht werden; weist darauf hin, dass die Zuweisung von 2,07 Mrd. EUR an Finanzmitteln für digitale Infrastruktur im Rahmen der Fazilität „Connecting Europe“ unzureichend ist;

174. betont, dass die Verlagerung des Volumens und der Verarbeitung von Daten für KI auch die Entwicklung und Einführung neuer Edge-Datenverarbeitungstechnologien erfordert, wodurch von zentralisierten Cloud-basierten Infrastrukturmodellen hin zu einer zunehmenden Dezentralisierung der Datenverarbeitungskapazitäten übergegangen wird; fordert nachdrücklich, Investitionen und Forschung in Bezug auf verteilte Rechen-Cluster, Randknoten und Initiativen für digitale Mikrocontroller zu stärken; stellt fest, dass der Übergang zu einer breiteren Nutzung von Edge-Lösungen ressourcenintensiv sein könnte, da Vorteile des Pooling-Optimierungseffekts verloren gehen, und betont, dass die ökologischen Kosten/Nutzen einer Edge-Infrastruktur im Rahmen einer europäischen Cloud-Strategie auf einer systemischen Ebene untersucht werden sollten;

175. betont, dass KI leistungsfähige Hardware benötigt, um hochentwickelte Algorithmen nutzbar zu machen, einschließlich der Hochleistungsrechen‑ und Quanteninformatik und des Internets der Dinge; fordert eine weitere Aufstockung gezielter öffentlicher und privater Mittel für innovative Lösungen zur Senkung des Energieverbrauchs, einschließlich Software-Ökodesign; fordert die Entwicklung von Standards zur Messung des Ressourcenverbrauchs digitaler Infrastrukturen auf EU-Ebene auf der Grundlage bewährter Verfahren; ist besorgt über die weltweite Krise bei Mikroprozessoren und begrüßt in diesem Zusammenhang den Vorschlag der Kommission für ein Chip-Gesetz zur Verringerung der derzeitigen Abhängigkeit der EU von externen Lieferanten; warnt jedoch vor den zukünftigen Risiken von Überkapazitäten auf dem Markt und mahnt zur sorgfältigen Beachtung des Investitionszyklus;

176. betont, dass eine funktionierende und schnelle Infrastruktur für KI auf einer fairen und sicheren digitalen Hochgeschwindigkeitsanbindung beruhen muss, was den 5G-Ausbau in allen städtischen Gebieten bis 2030 sowie einen breiten Zugang zu ultraschnellen Breitbandnetzen und eine Frequenzpolitik mit Lizenzbedingungen erfordert, die für Berechenbarkeit sorgen, langfristige Investitionen fördern und den Wettbewerb nicht verzerren; fordert die Mitgliedstaaten nachdrücklich auf, das 5G-Instrumentarium weiter umzusetzen; fordert, dass die Richtlinie zur Kostenreduzierung beim Breitbandausbau[40] in die Praxis umgesetzt wird, um den Netzausbau zu erleichtern; fordert die Kommission auf, eine Umweltverträglichkeitsprüfung in Bezug auf 5G durchzuführen; betont, wie wichtig es ist, der Verbreitung von Desinformationen im Zusammenhang mit 5G-Netzen mit einer EU-Kommunikationsstrategie entgegenzuwirken; weist in diesem Zusammenhang darauf hin, dass eine umfassende Debatte letztendlich dazu beitragen wird, dass Bürger Vertrauen in die Maßnahmen zur kontinuierlichen Entwicklung der Mobilfunknetze entwickeln;

177. fordert die Kommission auf, Zeitpläne für die Mitgliedstaaten, Städte, Regionen und die Industrie festzulegen und die administrativen Genehmigungsverfahren für 5G zu verbessern; fordert, dass in Regionen, in denen die Einführung durch den öffentlichen Sektor erfolgt, mehr Mittel zur Verfügung gestellt werden, um Hochgeschwindigkeitsanschlüsse in abgelegene Gemeinden zu bringen und zur Überwindung der digitalen Kluft beizutragen; fordert, dass im Rahmen des mehrjährigen Finanzrahmens Unterstützung für Breitband‑ und Konnektivitätsprojekte bereitgestellt werden, wobei der Zugang für die lokalen Gebietskörperschaften erleichtert wird, um eine unzureichende Nutzung öffentlicher Mittel zu vermeiden;

178. fordert die Kommission auf, das Zusammenspiel zwischen KI und der nächsten Generation digitaler Infrastruktur zu bewerten und die EU in die Lage zu versetzen, die Führung bei den Netzwerken der nächsten Generation, einschließlich 6G, zu übernehmen;

179. fordert eine klare Strategie für den Ausbau von Glasfasernetzen und den Breitbandausbau in ländlichen Gebieten, die auch für datenintensive Technologien wie KI von entscheidender Bedeutung sind; fordert in diesem Zusammenhang eine verstärkte Unterstützung der Europäischen Investitionsbank für Konnektivitätsprojekte in ländlichen Gebieten;

180. betont, dass die erheblichen Investitionen, die für den Netzausbau erforderlich sind und der rasche Ausbau, der erforderlich wäre, um die Ziele des Digitalkompasses zu erreichen, Vereinbarungen über die gemeinsame Nutzung von Infrastrukturen erfordern, die auch für die Förderung der Nachhaltigkeit und die Senkung des Energieverbrauchs von entscheidender Bedeutung sind; unterstreicht, dass diese Bemühungen noch am Anfang stehen und weiter ausgebaut werden müssen;

ii. Nachhaltigkeit

181. fordert die EU nachdrücklich auf, eine führende Rolle dabei zu übernehmen, wenn es gilt, die umweltfreundliche digitale Infrastruktur bis 2030 in Übereinstimmung mit den Zielen des Übereinkommens von Paris und integriert in das politische Programm des europäischen Grünen Deals klimaneutral und energieeffizient zu gestalten; unter anderem durch die Bewertung der Umweltauswirkungen der großmaßstäblichen Einführung von KI-basierten Systemen, wobei der erhöhte Energiebedarf der KI-Entwicklung und ‑Nutzung berücksichtigt werden muss; fordert koordinierte globale multilaterale Maßnahmen zum Einsatz von KI bei der Bekämpfung des Klimawandels, der Umweltzerstörung und des Verlusts der biologischen Vielfalt zu nutzen;

182. fordert nachdrücklich den Einsatz von KI zur Überwachung des Energieverbrauchs in Kommunen und zur Entwicklung von Energieeffizienzmaßnahmen;

183. erkennt den daten‑ und ressourcenintensiven Charakter einiger groß angelegter KI-Anwendungen und ihre jeweiligen Auswirkungen auf die Umwelt an; erinnert daran, dass KI-Systeme im Sinne einer nachhaltigen und umweltverträglichen europäischen KI mit Hinblick auf die Erreichung des grünen Übergangs und der EU-Umweltziele der Klimaneutralität und Kreislaufwirtschaft konzipiert, entwickelt und eingesetzt werden sollten;

184. fordert die Kommission auf, Anreize für die Nutzung energieeffizienter Rechenzentren zu schaffen, die die Erreichung des Ziels der Klimaneutralität fördern können;

185. betont, dass der derzeitige Mangel an Informationsaustausch über Rechenzentren die Möglichkeit behindert, angemessene öffentliche Maßnahmen zu ergreifen und einen vergleichenden Überblick über die Umweltleistung von Rechenzentren zu erhalten; fordert, dass die Zahl der Umweltverträglichkeitsprüfungen in Bezug auf die Entwicklung von KI deutlich erhöht wird; fordert, dass Anforderungen entwickelt werden, um sicherzustellen, dass geeignete Nachweise zur Messung des ökologischen Fußabdrucks von groß angelegten KI-Anwendungen verfügbar sind; verweist darauf, dass es klarer Regeln und Leitlinien für Umweltverträglichkeitsprüfungen für KI, einschließlich auf mehreren Kriterien basierender Lebenszyklusanalysen, bedarf; fordert einen offenen Zugang zu den Umweltkennzahlen von Rechenzentren, die Entwicklung von EU-Normen und die Schaffung von EU-Labels für umweltfreundliches Cloud Computing;

186. fordert einen Plan für die Kreislaufwirtschaft für digitale Technologien und KI und betont, dass die EU eine starke Recyclingkette für IKT sicherstellen sollte;

187. empfiehlt, den Einsatz von KI-gestützten Lösungen im Einklang mit dem grünen und digitalen Wandel in allen Sektoren zu fördern, um nachhaltige Standards für Unternehmen zu koordinieren und die Überwachung der Energieeffizienz sowie die Sammlung von Informationen über Emissionen und Produktlebenszyklen zu ermöglichen;

188. fordert die Kommission auf, Wettbewerbe und Aufträge für KI-Lösungen zur Bewältigung spezifischer Umweltprobleme auszuschreiben und diese Komponente im Rahmen von „Horizont Europa“ und des Programms „Digitales Europa“ zu stärken; weist erneut darauf hin, dass Projekte, die sich mit dem Potenzial der KI für die Lösung von Umweltproblemen befassen, auf der Grundlage einer verantwortbaren und ethischen Forschung und Innovation durchgeführt werden sollten;

189. fordert die Kommission auf, Umweltkriterien zu entwickeln und die Zuteilung von EU-Haushaltsmitteln, Finanzmitteln und öffentlichen Aufträgen für KI an deren Umweltleistung zu knüpfen;

190. fordert die Kommission auf, intelligente Städte zu fördern, die intelligente Gebäude, intelligente Netze, vernetzte Fahrzeuge, Mobilitätsdienste, öffentliche Dienstleistungen und Logistik umfassen; unterstützt die Entwicklung einer gemeinsamen Sammlung bewährter Verfahren für Projekte und Anwendungen; betont, dass intelligente Städte eine gute Zusammenarbeit zwischen staatlichen und lokalen Regierungen sowie zwischen ihren Behörden und privaten Akteuren erfordern;

191. betont, dass es erforderlich ist, Grundsätze festzulegen, um sicherzustellen, dass relevante Klima‑ und Nachhaltigkeitsdaten beim Aufbau neuer Nachhaltigkeitsdatenräume integriert werden können;

192. fordert die Kommission auf, mit den Mitgliedstaaten und dem Privatsektor bei der Einrichtung und Unterstützung von Testeinrichtungen zusammenzuarbeiten, in denen KI-Anwendungen auf ihre Nachhaltigkeitsleistung getestet werden können, und Leitlinien zur Verbesserung des ökologischen Fußabdrucks dieser Anwendungen anzubieten; regt dazu an, die bestehenden Testeinrichtungen entsprechend anzupassen, um sich auf Anwendungsfälle in der Kreislaufwirtschaft zu konzentrieren;

193. fordert die Kommission auf, eine nachhaltige Verkehrsinfrastruktur zu fördern, die KI einsetzt, um die Effizienz zu steigern, die Umweltverschmutzung zu verringern und die Anpassungsfähigkeit an die Bedürfnisse der Nutzer zu fördern;

d) Ökosystem für Exzellenz

i. Talente

194. fordert die Kommission auf, einen Rahmen für KI-Kompetenzen für Einzelpersonen zu schaffen, der auf dem Referenzrahmen für digitale Kompetenzen aufbaut, um Bürgern, Arbeitnehmern und Unternehmen einschlägige Schulungs‑ und Lernmöglichkeiten im Bereich KI zu bieten und den Austausch von Wissen, bewährten Verfahren sowie Medien‑ und Datenkompetenz zwischen Organisationen und Unternehmen auf EU‑ und nationaler Ebene zu verbessern; fordert die Kommission auf, die Schaffung eines solchen Kompetenzrahmens zügig voranzutreiben und dabei auf bestehenden Bildungsprogrammen im Bereich KI aufzubauen; empfiehlt die Einrichtung eines europäischen Kompetenzdatenraums in Bezug auf KI zur Unterstützung des europäischen Schulungsangebots zum Erwerb von Kompetenzen auf sektoraler und regionaler Ebene in allen Mitgliedstaaten; betont, dass der Erwerb und die Vermittlung von digitalen Kompetenzen und KI-Kompetenzen für alle – insbesondere für Frauen und benachteiligte Gruppen – zugänglich sein muss; fordert die Kommission und die Mitgliedstaaten nachdrücklich auf, kostenlose Online-Kurse zu unterstützen, mit denen grundlegende Schulungen im Bereich KI verbessert werden;

195. fordert Investitionen in die Forschung, um die strukturellen Entwicklungen auf dem Arbeitsmarkt in Bezug auf KI besser zu verstehen, einschließlich der Frage, welche Qualifikationen in Zukunft stärker nachgefragt werden oder von Defiziten bedroht sind, damit die Übergangsregelungen für Arbeitnehmer entsprechend ausgearbeitet werden können;

196. weist mit Besorgnis auf den Mangel an gezielten und systematischen Maßnahmen in der beruflichen Weiterbildung für Erwachsene hin; fordert die Kommission und die Mitgliedstaaten auf, Maßnahmen zu ergreifen, die angemessene Investitionen in die Umschulung und Weiterqualifizierung der Arbeitskräfte vorsehen und die Bürger darüber informieren, wie Algorithmen funktionieren und welche Auswirkungen sie auf das tägliche Leben haben; fordert, dass denjenigen, die ihren Arbeitsplatz verloren haben oder deren Arbeitsplatz durch den digitalen Wandel gefährdet ist, besondere Aufmerksamkeit geschenkt wird, um sie auf die Arbeit mit KI‑ und IKT-bezogenen Technologien vorzubereiten; fordert die Kommission auf, Anreize für Qualifizierungspartnerschaften zu schaffen und in diese zu investieren, um bewährte Verfahren zu erproben; empfiehlt, die Schaffung von hochwertigen Arbeitsplätzen im Zusammenhang mit KI in der EU zu überwachen;

197. betont, dass die bestehenden digitalen Lücken nur mit gezielten und integrativen Maßnahmen sowohl für Frauen als auch für ältere Menschen geschlossen werden können, und fordert daher erhebliche Investitionen in gezielte Weiterbildungs‑ und Bildungsmaßnahmen, um diese digitalen Lücken zu schließen; fordert die Kommission und die Mitgliedstaaten auf, eine geschlechtergerechte Kultur und geschlechtergerechte Arbeitsbedingungen in dieser Hinsicht zu fördern;

198. fordert die Kommission auf, die Gleichstellung der Geschlechter in Unternehmen zu fördern, die sich mit KI‑ und IKT-bezogenen Tätigkeiten befassen, unter anderem durch die Finanzierung von Projekten im digitalen Sektor, die von Frauen geleitet werden, und die Förderung einer Mindestzahl von Forscherinnen, die an Aufrufen zur Vergabe von Forschungsmitteln für KI‑ und IKT-bezogene Forschung teilnehmen;

199. unterstreicht, dass es wichtig ist, den Mangel an Talenten zu beheben, indem das Wachstum, die Anziehung und die Bindung von Spitzentalenten gsichergestellt wird; fordert die Kommission auf, ihr Ziel, 20 Millionen IKT-Spezialisten in der EU zu beschäftigen, weiterzuverfolgen; betont, dass die EU wettbewerbsfähige Gehälter, bessere Arbeitsbedingungen, grenzüberschreitende Zusammenarbeit und eine wettbewerbsfähige Innovationsinfrastruktur ermöglichen muss, um Spitzenkräfte im Bereich der KI zu halten und eine Abwanderung zu verhindern;

200. betont den Mehrwert eines vereinfachten und gestrafften Unionsrahmens für die Anwerbung internationaler Talente im Technologiesektor, um den Talentfluss und die Mobilität innerhalb der EU und aus dem Ausland zu ermöglichen, den Zugang internationaler Talente zum Arbeitsmarkt der Union zu verbessern und Arbeitskräfte und Studenten auf Nachfrage anzuziehen; hebt hervor, dass neue innovative Instrumente und Rechtsvorschriften erforderlich sind, um Arbeitgeber mit potenziellen IKT-Fachkräften zusammenzubringen, Engpässe auf dem Arbeitsmarkt zu beseitigen und die Anerkennung internationaler Qualifikationen und Kompetenzen zu erleichtern; empfiehlt die Einrichtung eines EU-Talentpools und einer Matching-Plattform, die als zentrale Anlaufstelle für internationale Talente, die sich in der EU bewerben möchten, sowie für Arbeitgeber, die im Ausland nach potenziellen Mitarbeitern suchen, dienen soll; fordert die Kommission auf, den Anwendungsbereich der Blauen Karte EU zu erweitern, um sicherzustellen, dass Europa nach wie vor Talenten aus aller Welt offen steht;

201. fordert die Kommission auf, sich mit der zunehmenden Nachfrage nach Fernarbeit über die Grenzen der EU-Mitgliedstaaten hinweg zu befassen, um Arbeitnehmern aus der EU und aus dem Ausland die Möglichkeit zu geben, in einem anderen Mitgliedstaat als dem, in dem sie ihren Wohnsitz haben, aus der Ferne zu arbeiten; empfiehlt in diesem Zusammenhang eine umfassende Überprüfung der rechtlichen und sonstigen Hürden für die Fernarbeit und die Berücksichtigung dieser Hürden in späteren Legislativvorschlägen;

202. betont, dass dem Innovationsgefälle zwischen den EU-Regionen und zwischen den Mitgliedstaaten verstärkt entgegengewirkt werden muss, da Talente gegebenenfalls ungleich verteilt sind;

203. fordert die Kommission und die Mitgliedstaaten auf, einen angemessenen Schutz der Rechte und des Wohlergehens der Arbeitnehmer, etwa der Nichtdiskriminierung, Privatsphäre, Autonomie und Menschenwürde beim Einsatz von KI und algorithmischen Management-Verfahren sicherzustellen, auch im Hinblick auf unzulässige Überwachungspraktiken; betont, dass die Arbeitgeber beim Einsatz von KI am Arbeitsplatz die Art und Weise ihres Einsatzes und ihren Einfluss auf die Arbeitsbedingungen transparent machen müssen, und betont, dass die Arbeitnehmer vor dem Einsatz von KI-gestützten Geräten und Verfahren immer informiert und konsultiert werden sollten; unterstreicht, dass Algorithmen immer von Menschen überwacht werden müssen und dass ihre Entscheidungen rechenschaftspflichtig, anfechtbar und gegebenenfalls umkehrbar sein müssen; ist der Auffassung, dass die Schulung der Entwickler von Algorithmen in den Bereichen Ethik, Transparenz und Antidiskriminierung gefördert werden sollte;

204. fordert eine europäische Strategie für die sichere Nutzung von KI durch Kinder, die darauf abzielt, Kinder über den Umgang mit KI zu informieren, um sie vor Risiken und potenziellen Schäden zu schützen;

205. fordert die Mitgliedstaaten auf, digitale Fähigkeiten und Kompetenzen zu einem Bestandteil der Grundbildung und des lebenslangen Lernens zu machen; fordert ein leistungsfähiges KI-Bildungssystem, das digitale Kompetenzen, Fähigkeiten und digitale Resilienz von Anfang an fördert, beginnend mit der Grundschulbildung; betont, dass die Entwicklung wirksamer Lehrpläne für die digitale Bildung politischen Willen, ausreichende Ressourcen und wissenschaftliche Forschung erfordert; fordert die Kommission auf, die Einführung von KI‑ und Computerkompetenzkursen in allen europäischen Schulen, Universitäten und Bildungseinrichtungen zu fördern; hebt hervor, dass eine solche Kompetenzentwicklung in der Erwachsenenbildung ebenso notwendig ist wie in der Grund‑ oder Sekundarschulbildung; fordert eine umfassende und kohärente politische Initiative der Kommission und der Mitgliedstaaten zu KI-Kompetenzen und Bildung auf EU-Ebene sowie Legislativvorschläge zu KI am Arbeitsplatz;

206. weist darauf hin, dass multidisziplinäre Universitätslehrpläne mit Schwerpunkt auf digitalen Kompetenzen und KI-Kompetenzen, auch im Gesundheitsbereich, und interdisziplinäre Forschungszentren erforderlich sind; ist der Ansicht, dass Wege zur Weiterbildung mit dem Ziel der Spezialisierung auf KI (z. B. Master‑ und Promotionsstudiengänge sowie Teilzeitstudiengänge) ebenfalls hervorgehoben werden sollten;

207. fordert die Mitgliedstaaten auf, der Entwicklung innovativer Lehrmethoden und Lehrpläne in MINT-Fächern und der Programmierung Vorrang einzuräumen, um insbesondere die Qualität der Mathematik und der statistischen Analyse zum Verständnis von KI-Algorithmen zu erhöhen; fordert die Kommission und die Mitgliedstaaten auf, akademische MINT-Disziplinen zu fördern, um die Zahl der Studierenden in diesen Bereichen zu erhöhen; betont, dass auch andere Disziplinen, die mit den MINT-Disziplinen interagieren, für die Förderung digitaler Kompetenzen von entscheidender Bedeutung sein werden;

208. ermutigt die Mitgliedstaaten, zur Verwirklichung der Geschlechtergleichstellung die Beteiligung von Frauen an MINT‑, IKT‑ und KI-bezogenen Studien und Laufbahnen zu fördern, auch durch die Festlegung einer Zielvorgabe im Hinblick auf die Beteiligung von Forscherinnen an MINT‑ und KI-Projekten;

209. betont, dass die digitale Bildung auch das Bewusstsein für Aspekte des täglichen Lebens schärfen sollte, die potenziell vom maschinellen Lernen betroffen sind, darunter Empfehlungsdienste, zielgerichtete Werbung, Algorithmen in den sozialen Medien und Deep Fakes; betont, dass die digitale Resilienz zusätzliche Medienkompetenz erfordert, um die neuen digitalen Kompetenzen und KI-Kompetenzen in den richtigen Kontext zu setzen, und fordert daher die Unterstützung und Förderung neuer und bereits bestehender zugänglicher KI-Kurse für alle Bürger;

210. fordert, dass Maßnahmen ergriffen werden, um sicherzustellen, dass jede Bildungseinrichtung über einen Breitbandzugang und eine solide digitale Lerninfrastruktur verfügt; betont, dass die europäischen Universitäten und ihre Netzwerke mit den angemessenen Rechenressourcen ausgestattet werden müssen, die für das Training von KI-Modellen – die immer teurer werden – benötigt werden; betont, dass sichergestellt werden muss, dass Lehrkräfte über die erforderlichen KI-Fähigkeiten und ‑Instrumente verfügen; fordert einen stärkeren Fokus auf die technische Ausbildung von Lehrkräften und die Entwicklung innovativer Lehr‑ und Lernmittel;

211. fordert Investitionen in Initiativen im Bereich der Programmierfähigkeiten junger Menschen zur Förderung von KI-Kenntnissen und hochrangigen Qualifikationen bei Jugendlichen, einschließlich Programmier-Akademien, Sommerschulprogrammen und KI-spezifischer Stipendien; ist der Ansicht, dass das EU-Programm „Digital Opportunity Traineeships“ auf die berufliche Bildung ausgeweitet werden sollte;

ii. Forschung

212. fordert die EU auf, mehr in die Erforschung von KI und anderen Schlüsseltechnologien wie Robotik, Quantencomputertechnologien, Mikroelektronik, das Internet der Dinge, Nanotechnologie und 3D-Druck zu investieren; fordert die Kommission auf, einen strategischen EU-Forschungsplan für KI zu entwickeln und danach fortlaufend zu aktualisieren, der sich mit den wichtigen interdisziplinären Herausforderungen befasst, bei denen KI ein Teil der Lösung sein kann; unterstreicht, dass Investitionen in Anwendungsfälle fließen sollten, die geeignet sind, nachhaltige Lösungen zu fördern und das Wohlergehen und die Integration der Gesellschaft zu verbessern;

213. fordert alle Mitgliedstaaten auf, einen höheren Teil ihres BIP für die Forschung im Bereich der digitalen Technologien auszugeben; fordert nachdrücklich, das Programm „Horizont Europa“, insbesondere seine Partnerschaft in den Bereichen KI, Daten und Robotik sowie den Europäischen Innovationsrat weiter zu stärken; fordert die Ausweitung des Programms „Digitales Europa“ und vertritt die Auffassung, dass die dafür bereitgestellten Mittel in Höhe von 7,6 Mrd. Euro aufgestockt werden sollten;

214. betont, dass der Forschung auf EU-Ebene im Bereich der KI Priorität eingeräumt werden muss; fordert die Kommission auf, die Struktur der Forschungsfinanzierung zu vereinfachen, einschließlich der Voraussetzungen und Verfahren für die Beantragung von Finanzhilfen; betont, dass die Qualität und Kohärenz der Überprüfungen von Vorschlägen und die Berechenbarkeit der Finanzierungsinstrumente und ihre zeitliche Planung verbessert werden müssen, um die langfristige Planung im Rahmen des EU-Forschungsplans für KI zu unterstützen; fordert die Kommission auf, mehr Anwendungen im Bereich der KI zu finanzieren, indem verschiedene Instrumente wie der Europäische Forschungsrat, die Marie-Curie-Maßnahmen, der Europäische Innovationsrat und das Europäische Technologie‑ und Innovationsinstitut kombiniert werden;

215. fordert die Kommission und die Mitgliedstaaten auf, vorrangig KI-Forschung zu finanzieren, die sich auf nachhaltige und sozial verantwortungsvolle KI konzentriert und dazu beiträgt, Lösungen zu finden, die die Grundrechte schützen und fördern, und die Finanzierung von Programmen zu vermeiden, die ein inakzeptables Risiko für diese Rechte darstellen, einschließlich der Finanzierung von Systemen zur Massenüberwachung, des Social Scoring und anderer Systeme, die das Potenzial haben, negative soziale Auswirkungen zu haben, sowie von Technologien, die zu Umweltschäden beitragen;

216. fordert die Schaffung von mehr Lehrstühlen für KI an europäischen Universitäten, angemessene Gehälter in der KI-Forschung und die Bereitstellung von mehr öffentlichen Finanzmitteln, um die jetzige und nächste Generation von Forschern und Talenten auszubilden und zu halten und die Abwanderung von Fachkräften zu verhindern; betont, dass die bürokratischen Hürden für Hochschulforschende abgebaut werden müssen, damit diese einfach Zugang zu Finanzmitteln haben, und fordert die Kommission auf, Instrumente bereitzustellen, um die digitale Vernetzung zwischen den Universitäten in und zwischen den Mitgliedstaaten zu verbessern; fordert nachdrücklich, dass in allen Universitäten, Forschungseinrichtungen und dem Privatsektor der EU bereichsübergreifende Netze für KI sowie spezielle multidisziplinäre KI-Forschungszentren aufgebaut werden;

217. empfiehlt den Hochschulen, die Finanzierung von Vorhaben der angewandten Forschung zu verstärken, bei denen die KI-Dimensionen berücksichtigt werden;

218. fordert die Kommission auf, den Wissenstransfer zwischen der KI-Forschung und der Öffentlichkeit zu verbessern, indem sie Unternehmensnetzwerke und Kontaktstellen zu Juristen und Unternehmensberatern an den Universitäten einrichtet sowie Bürgergremien und Plattformen für Wissenschaft und Gesellschaft einrichtet und die Öffentlichkeit in die Gestaltung der Forschungsagenden in Bezug auf KI einbezieht; hebt hervor, wie wichtig ein reibungsloser Übergang von der akademischen Welt zur Industrie und der Mehrwert der Nähe zwischen diesen beiden für erfolgreiche und dynamische KI-Ökosysteme und Industrieunternehmen im Bereich der KI sind;

219. betont, dass der Wissenstransfer in der EU von Forschung und Wissenschaft hin zu KI-Anwendungen in der Industrie und im öffentlichen Sektor beschleunigt werden muss; begrüßt die Schaffung einer eigenen öffentlich-privaten Partnerschaft für KI; fordert die Kommission auf, europäische KI-Datenzentren einzurichten, die gemeinsam mit der Industrie und der Zivilgesellschaft entwickelt werden; unterstreicht, wie wichtig Testeinrichtungen im Bereich der KI sind; verweist insbesondere auf das gemeinsame Unternehmen für Hochleistungsrechnen, das gemeinsame Unternehmen für digitale Schlüsseltechnologien und das gemeinsame Unternehmen für intelligente Netze und Systeme;

220. fordert die Einrichtung von KI-Leuchtturmprojekten im Rahmen von Horizont Europa, die auf den bestehenden und künftigen Netzwerken regionaler KI-Exzellenzzentren aufbauen, mit dem Ziel, eine Allianz starker europäischer Forschungsorganisationen aufzubauen, die einen gemeinsamen Fahrplan zur Förderung von Exzellenz bei der Grundlagenforschung und der angewandten Forschung verfolgen, die nationalen KI-Bemühungen aufeinander abzustimmen, Innovationen und Investitionen zu fördern, KI-Talente in Europa anzuziehen und zu halten sowie Synergien und Skaleneffekte zu schaffen; glaubt, dass das Leuchtturmkonzept das Potenzial hat, die besten und klügsten Köpfe aus dem Ausland anzuziehen und erhebliche private Investitionen nach Europa zu bringen;

221. fügt hinzu, dass die KI-Leuchtturmprojekte in Zusammenarbeit mit anderen Forschungseinrichtungen und der Industrie ausreichend finanziert werden sollten; unterstreicht die Vorteile gut abgegrenzter Reallabore für das Testen von KI-Produkten, ‑Dienstleistungen und ‑Ansätzen in einer kontrollierten realen Umgebung, bevor sie auf den Markt kommen;

222. weist darauf hin, dass die Benennung europäischer digitaler Innovationszentren im Rahmen des Programms „Digitales Europa“ einen weiteren wichtigen Schritt zum Aufbau eines herausragenden KI-Ökosystems auf der Grundlage von Clustern zwischen Hochschulen und Industrie darstellt; kritisiert jedoch, dass die Kriterien für die europäischen digitalen Innovationszentren im Rahmen des Programms „Digitales Europa“ (EDIHs) vage sind, sie sich somit bezogen auf ihre Kapazität und ihre Entwicklung unterscheiden, und dass das Zusammenspiel mit anderen digitalen Drehscheiben, die vom Europäischen Innovations‑ und Technologieinstitut und im Rahmen von Horizont Europa benannt wurden, nach wie vor unklar ist; ist deshalb der Ansicht, dass eine verstärkte Koordinierung und ein Aufwand erforderlich sind und dass ein Gesamtcluster für die Kooperation dezentraler KI-Knotenpunkte, der auf einem EU-weiten Rahmen für juristisches Fachwissen, Daten, Finanzierung und Anreize beruht, geschaffen werden muss; begrüßt die Initiativen der Kommission, Start-up-Netzwerke – wie etwa Start-up Europe und Start-up Europe Mediterranean – in der gesamten EU und darüber hinaus auszubauen, um den Austausch von Ideen, Geschäftsmöglichkeiten und Vernetzungsmöglichkeiten zu fördern;

223. schlägt vor, bestehende Initiativen wie das Europäische Laboratorium für Lernende und Intelligente Systeme und die Konföderation der Laboratorien für künstliche Intelligenz in Europa sowie Vorzeigeprojekte wie das HumanE AI Network und AI4EU auszubauen und aufeinander abzustimmen, um ehrgeizige, gemeinschaftliche und EU-weite Forschungs‑ und Entwicklungsziele und ‑projekte zu fördern;

e) Ökosystem für Vertrauen

i. Gesellschaft und KI

224. schlägt vor, dass die EU und ihre Mitgliedstaaten zusätzlich zu den vorgeschlagenen KI-Schulungen Sensibilisierungskampagnen, einschließlich öffentlicher Diskussionen auf lokaler Ebene, durchführen sollten, um die Bürger zu erreichen, zu informieren und in die Lage zu versetzen, die Chancen und Risiken sowie die gesellschaftlichen, rechtlichen und ethischen Auswirkungen von KI besser zu verstehen und einen weiteren Beitrag zur Vertrauenswürdigkeit und Demokratisierung von KI zu leisten; ist davon überzeugt, dass dies zusammen mit der Schaffung eines klaren und soliden Rechtsrahmens zu einer auf den Menschen ausgerichteten und vertrauenswürdigen KI dazu beitragen würde, die Bedenken der Bürger, die mit dem weit verbreiteten Einsatz von KI in Europa verbunden sein könnten, abzubauen;

225. fordert die EU auf, dafür zu sorgen, dass bei der Entwicklung, dem Einsatz und der Nutzung von KI die demokratischen Grundsätze und die Grundrechte in vollem Umfang respektiert werden und die Rechtsvorschriften so eingehalten werden, dass Überwachungsmechanismen entgegengewirkt werden kann, nicht in Wahlen eingegriffen oder zur Verbreitung von Desinformation beigetragen wird;

226. betont, dass Regierungen und Unternehmen nur vertrauenswürdige KI-Systeme einsetzen und beschaffen sollten, die gegebenenfalls so konzipiert sind, dass die Arbeitnehmerrechte geachtet, eine hochwertige Bildung und digitale Kompetenzen gefördert werden, und das Geschlechtergefälle nicht durch die Verhinderung von Chancengleichheit für alle verstärkt wird;

227. unterstützt Anpassungen der Verbraucherschutzgesetze als weitere Möglichkeit, Vertrauen in KI aufzubauen, indem beispielsweise Verbrauchern das Recht eingeräumt wird, zu erfahren, ob sie mit einem KI-Agenten interagieren, sodass sie auf eine menschliche Überprüfung von KI-Entscheidungen bestehen können und indem ihnen Mittel zur Verfügung gestellt werden, um kommerzieller Überwachung oder personalisierter Preisgestaltung entgegenzuwirken;

228. betont, dass die Einführung bestimmter KI-Technologien am Arbeitsplatz, beispielsweise solcher, die Arbeitnehmerdaten verwenden, in Absprache mit den Arbeitnehmervertretern und Sozialpartnern erfolgen sollte; weist darauf hin, dass Arbeitnehmer und Arbeitnehmervertreter von Arbeitgebern Auskunft darüber verlangen können sollten, welche Daten erhoben werden, wo diese Daten gespeichert werden, wie diese Daten verarbeitet werden und welche Vorkehrungen zu ihrem Schutz getroffen wurden;

229. fordert die EU auf, dafür zu sorgen, dass die KI-Systeme ihre kulturelle Vielfalt und Mehrsprachigkeit widerspiegeln, um Voreingenommenheit und Diskriminierung zu vermeiden; betont, dass die Vielfalt in den Teams gefördert werden muss, die die Risiken bestimmter KI-Anwendungen entwickeln, implementieren und bewerten, um der Voreingenommenheit von KI zu begegnen; betont, dass die Nutzung nach Geschlecht aufgeschlüsselter Daten erforderlich ist, um KI-Algorithmen zu bewerten und dass bei allen Risikobewertungen in Bezug auf KI eine geschlechtsspezifische Analyse einbezogen werden muss;

230. unterstreicht, wie wichtig die kontinuierliche Forschung und Überwachung der Auswirkungen von KI auf verschiedene Aspekte der Gesellschaft, sowohl auf nationaler als auch auf EU-Ebene, ist; schlägt vor, dass Eurostat und andere EU-Agenturen in diese Arbeit einbezogen werden;

231. hebt hervor, dass auf der Grundlage der Ergebnisse des Überwachungssystems ein europäischer Fonds für den Übergang in Betracht gezogen werden könnte, um z. B. den Verlust von Arbeitsplätzen in gefährdeten Sektoren oder in verschiedenen Regionen aufzufangen;

ii) E-Governance

232. fordert die Mitgliedstaaten auf, die Erklärung von Tallinn zu elektronischen Behördendiensten umzusetzen, die Bürger in den Mittelpunkt der Dienste zu stellen und Mechanismen einzurichten, um für alle Bürger auf sämtlichen Ebenen der öffentlichen Verwaltung grenzenlose, interoperable, personalisierte, nutzerfreundliche und durchgängig digitale öffentliche Dienste auf der Grundlage von KI bereitzustellen; ist der Auffassung, dass das Ziel darin bestehen sollte, in den nächsten fünf Jahren digitalisierte und KI-gestützte elektronische Behördendienste für die Bürger bereitzustellen, ohne dabei auf menschliche Interaktion zu verzichten; weist darauf hin, dass die Mittel der Aufbau‑ und Resilienzfazilität sowie die nationalen Aufbau‑ und Resilienzpläne in diesem Zusammenhang eine wichtige Rolle spielen werden; fordert die öffentlichen Stellen auf, KI im öffentlichen Sektor zu unterstützen und zu entwickeln; begrüßt die Überarbeitung der eIDAS-Verordnung[41] und ihre Rolle bei der Förderung der Bereitstellung digitaler öffentlicher Dienste; betont, dass niemand zurückgelassen werden sollte und dass Offline-Alternativen immer verfügbar sein sollten;

233. fordert die Kommission auf, den eGovernment-Aktionsplan zu erneuern und Synergien mit dem Programm „Digitales Europa“ zu schaffen, um öffentliche Verwaltungen bei der Einführung von KI im Einklang mit der europäischen Open-Source-Software-Strategie zu unterstützen;

234. betont, dass elektronische Behördendienste bei der Entwicklung der Datenwirtschaft und der digitalen Innovation im digitalen Binnenmarkt eine bedeutende Rolle spielen; stellt fest, dass die Zusammenarbeit und der Austausch bewährter Verfahren in allen öffentlichen Verwaltungen und über Grenzen hinweg wesentliche Bestandteile der Einführung elektronischer Behördendienste in der gesamten EU sind; fordert standardisierte, vereinfachte Verfahren der öffentlichen Verwaltung für einen effizienteren Austausch zwischen den EU-Mitgliedstaaten und allen Verwaltungsebenen;

235. stellt fest, dass für die Entwicklung hochwertiger Online-Dienste qualifizierte Experten benötigt werden; betont, dass die staatlichen Einstellungsstrategien und die staatliche Berufsbildungspolitik für Menschen mit digitalen Kompetenzen und KI-Kenntnissen verstärkt werden müssen;

236. fordert, dass die Einrichtung des einheitlichen digitalen Zugangstors beschleunigt und die Entwicklung interoperabler Plattformen, die grenzüberschreitende Dienste in der EU anbieten und gleichzeitig gemeinsame Sicherheitsstandards in allen Mitgliedstaaten erfüllen, gefördert werden müssen; betont, dass ein möglicher Ausbau über das begrenzte Angebot an Diensten hinaus, das derzeit in der Verordnung (EU) 2018/1724[42] über die Einrichtung eines einheitlichen digitalen Zugangstors vorgesehen ist, in Betracht gezogen werden sollte;

237. betont, dass die öffentlichen Konsultationsplattformen der Institutionen der EU und der Mitgliedstaaten das Beteiligung und den Zugang zu digitalen Informationen verbessern; empfiehlt, in Verbesserungen der Benutzerfreundlichkeit und Zugänglichkeit zu investieren, beispielsweise in die Bereitstellung von Zusammenfassungen und Informationen in mehreren Sprachen, sowie in spezielles Marketing und gezielte Öffentlichkeitsarbeit auf öffentlichen digitalen Plattformen;

238. empfiehlt, den interaktiven und persönlichen Dialog mit den EU-Bürgern über Online-Bürgerkonsultationen, Dialogformate mit Interessenträgern oder digitale Funktionen zur Kommentierung von EU-Rechtsvorschriften und ‑Initiativen zu verstärken;

iii. Elektronische Gesundheitsdienste-Health

239. fordert einen evidenzbasierten Ansatz für KI im Gesundheitswesen, bei dem der Mensch im Mittelpunkt steht und der sich auf eine personalisierte, patientenorientierte, kosteneffiziente und qualitativ hochwertige Gesundheitsversorgung konzentriert, die in enger Zusammenarbeit mit Angehörigen der Gesundheitsberufe und Patienten entwickelt wird, wobei die menschliche Aufsicht und Entscheidungsfindung gewahrt bleibt; fordert nachdrücklich die Priorisierung der Finanzierung, die Festlegung strategischer Ziele, die Förderung der Zusammenarbeit und die Einführung von KI-Anwendungen im Gesundheitswesen, da es sich dabei um eine kritische Branche handelt, in der die Chancen der KI enorme Vorteile für die Gesundheit und das Wohlergehen der Bürger bringen können, insofern die inhärenten Risiken angemessen gehandhabt werden;

240. betont, dass die Einführung von KI im Gesundheitswesen als Instrument zur Unterstützung und Verringerung der Belastung der Angehörigen der Gesundheitsberufe gefördert werden sollte, damit sie sich auf klinische Aufgaben konzentrieren können, und dass die KI die Angehörigen der Gesundheitsberufe nicht ersetzen bzw. nicht als unabhängiger Akteur innerhalb der Gesundheitssysteme fungieren sollte; betont, dass ein Qualitäts‑ und Sicherheitsniveau sichergestellt werden muss, das dem behördlichen Zulassungsverfahren für Arzneimittel, Impfstoffe und Medizinprodukte entspricht; fordert eine Methode, die einer klinischen Prüfung ähnelt, um die Angemessenheit zu prüfen und den Einsatz von KI in klinischen Umgebungen zu überwachen; ist der Auffassung, dass es von Vorteil wäre, zu prüfen, welche Gesundheitsdienste ethisch vertretbar und verantwortungsvoll automatisiert werden können;

241. ist der Auffassung, dass der gleichberechtigte Zugang zur Gesundheitsversorgung als Grundsatz auf gesundheitsbezogene KI-Anwendungen ausgeweitet werden sollte, einschließlich Systeme zur Erkennung von Krankheiten, zur Behandlung chronischer Erkrankungen, zur Bereitstellung von Gesundheitsdiensten und zur Arzneimittelforschung; betont, dass geeignete Maßnahmen ergriffen werden müssen, um gesundheitsbezogene Risiken im Zusammenhang mit der digitalen Kluft, der algorithmischen Voreingenommenheit und Diskriminierung sowie der Marginalisierung schutzbedürftiger Personen oder kulturellen Minderheiten, die nur begrenzten Zugang zur Gesundheitsversorgung haben, entgegenzuwirken;

242. erinnert an den Standpunkt des Parlaments, dass es Versicherungsunternehmen oder sonstigen Dienstleistungsunternehmen, die befugt sind, auf Daten zuzugreifen, die in elektronischen Gesundheitsanwendungen gespeichert werden, nicht gestattet sein sollte, solche Daten zum Zwecke der Diskriminierung bei der Festlegung von Preisen zu verwenden;

243. ist davon überzeugt, dass aktuelle EU-Projekte und ‑Initiativen wie EU4 Health, der europäische Raum für Gesundheitsdaten und die Europäische Plattform für die Registrierung seltener Erkrankungen Schritte in die richtige Richtung sind, da sie es den Mitgliedstaaten ermöglichen, Ressourcen zu bündeln und die nutzbringende Zusammenarbeit zwischen den Gesundheitsbehörden zu verstärken und einen sicheren und datenschutzfreundlichen Austausch hochwertiger Daten für Forschung und Innovation ermöglichen;

244. fordert eine angemessene rechtliche Verankerung und Positionierung eines Rahmens für „KI im Gesundheitswesen“ auf Unionsebene; hebt hervor, dass durch den Fortschritt der KI-Technologien im Laufe der Zeit viele Risikoniveaus entstehen;

245. betont, dass mehr Leitlinien für die Verarbeitung von Gesundheitsdaten im Rahmen der DSGVO erforderlich sind, um das volle Potenzial der KI zum Nutzen des Einzelnen auszuschöpfen und die Grundrechte zu wahren; fordert die Kommission auf, die Normen für die Verarbeitung von Gesundheitsdaten, einschließlich der gemeinsamen Nutzung, Anonymisierung und Interoperabilität, in den Mitgliedstaaten zügiger und besser zu harmonisieren;

246. fordert die Kommission auf, die Integration ethischer Regeln bei jedem Schritt der Entwicklung, Gestaltung und Nutzung von KI-Anwendungen zu fördern; betont, dass eine weitere Forschung zu den Methoden und Verzerrungen im Rahmen eines trainierten KI-Systems gefördert werden muss, um unethische und diskriminierende Schlussfolgerungen bei der Anwendung auf Daten zur menschlichen Gesundheit zu vermeiden; empfiehlt die Schaffung eines EU-Verhaltenskodexes für die Verarbeitung von Gesundheitsdaten in voller Übereinstimmung mit der DSGVO;

247. fordert die Kommission auf, eine Initiative zu Neurorechten zu erwägen, um das menschliche Gehirn vor Störungen, Manipulationen und Kontrolle durch KI-gestützte Neurotechnologie zu schützen; legt der Kommission nahe, sich auf UN-Ebene für eine Neurorechte-Agenda einzusetzen, um Neurorechte in die Allgemeine Erklärung der Menschenrechte aufzunehmen, konkret das Recht auf Identität, freien Willen, geistige Privatsphäre, gleichberechtigten Zugang zu Fortschritten bei der Augmentation bezogen auf das Gehirn und Schutz vor algorithmischen Voreingenommenheit;

248. fordert die Kommission auf, einen rechtlichen Rahmen für Online-Konsultationen zu prüfen;

249. hebt hervor, dass Maßnahmen erforderlich sind, die den gleichberechtigten Zugang zur Gesundheitsversorgung fördern und die Akzeptanz von KI-Lösungen bei Gesundheitsdienstleistern verbessern;

250. fordert die Kommission auf, die Einrichtung eines Mechanismus der Zusammenarbeit im Rahmen eines europäischen Raums für Gesundheitsdaten und dessen Betriebs zu unterstützen, um den Austausch von Gesundheitsdaten zu fördern und die Entwicklung elektronischer Patientenakten im Einklang mit den geltenden Gesetzen und Vorschriften zu unterstützen; drängt auf eine Verbesserung der Qualität der für jeden EU-Bürger verfügbaren Daten, indem gewährleistet wird, dass digitale Werkzeuge richtig funktionieren (z. B. auf der Grundlage von Selbstlernalgorithmen oder Big-Data-Analysen); empfiehlt, dass die im Einklang mit der DSGVO gespeicherten Daten für die weitere Forschung sowie für die Entwicklung neuer Medikamente und personalisierter Behandlungsmöglichkeiten zur Verfügung stehen;

251. betont, dass digitale Kenntnisse und KI-Kenntnisse in die Ausbildung von Angehörigen der Gesundheitsberufe sowie Kenntnisse über die EU-Datenschutzvorschriften und zum Umgang mit sensiblen Daten, einschließlich der Förderung der Datenanonymisierung, einbezogen werden müssen;

252. fordert Leitlinien zur Anwendbarkeit von Haftungsrahmen und harmonisierten Zulassungssystemen für KI-basierte medizinische Anwendungen und Arzneimittel, die mittels KI und maschinellen Lernens entwickelt oder getestet wurden; betont, dass Schäden, die sich aus einer unzureichenden Ressourcenzuweisung oder einer unzureichenden Versorgung durch KI-Empfehlungssysteme im Gesundheitswesen ergeben, bei jeder künftigen Reform der Rechtsvorschriften berücksichtigt werden sollten; hebt hervor, dass geeignete bewährte Verfahren, Standards und Kriterien erforderlich sind, um Anwendungen im Gesundheitswesen im Einklang mit Haftungsrisiken zu zertifizieren und zu genehmigen;

253. fordert die Kommission auf, auf den Menschen ausgerichtete Vorhersagemodelle für Pandemien bereitzustellen und zu nutzen, bei denen verschiedene Datensätze in Echtzeit zusammengeführt werden, um die Entscheidungsfindung zu unterstützen;

f) Industriestrategie

i. Strategische Planung und Investitionen

254. ist davon überzeugt, dass die EU KI und die Datenwirtschaft in den Mittelpunkt einer ehrgeizigen digitalen Industriestrategie stellen sollte, um innovative Unternehmen und Unternehmer dazu zu befähigen, mit den besten technologischen Innovationen und neuen Geschäftsmodellen in Europa und der Welt zu konkurrieren, und um die offene strategische Autonomie der EU zu stärken sowie solide rechtliche, ethische, technologische Standards und Sicherheitsstandards für alle KI-Systeme und ‑Komponenten festzulegen, die im EU-Binnenmarkt eingesetzt werden sollen;

255. ermutigt die Kommission, Big-Data-KI-Analysen zur Unterstützung bei der Durchführung von Stresstests zu nutzen, um die Widerstandsfähigkeit von Wertschöpfungsketten zu bewerten und Abhängigkeiten aufzuzeigen;

256. fordert die Kommission nachdrücklich auf, eine umfassende Analyse der Stärken und Schwächen durchzuführen, um die Anfälligkeiten der EU, kritische Bereiche und risikoreiche Abhängigkeiten zu ermitteln, realistische technische und wirtschaftliche Erwartungen in Bezug auf KI festzulegen und die Auswirkungen auf alle Sektoren der europäischen Industrie zu bewerten; unterstreicht, dass die Kommission zu diesem Zweck mit den relevanten Interessengruppen zusammenarbeiten sollte;

257. schlägt vor, dass die EU auf der Grundlage dieser Analyse eine langfristige Strategie für die KI-Industrie mit einer klaren Vision für die nächsten 10 Jahre als Erweiterung des Digitalkompasses formulieren und verabschieden sollte; erklärt, dass diese Strategie durch ein Überwachungssystem mit zentralen Leistungsindikatoren und jährlichen Aktualisierungen ergänzt werden sollte; betont jedoch, dass die zahlreichen Einzelinitiativen der Kommission zur Unterstützung der KI-Branche in der EU konsolidiert und gestrafft werden müssen, bevor sie in die neue Strategie für die KI-Industrie aufgenommen werden;

258. fordert die Kommission auf, zu prüfen, wie die allgemeine Industriestrategie durch gezielte öffentliche Investitionen ergänzt werden kann; weist jedoch darauf hin, dass übermäßige, nicht zielgerichtete Investitionsprogramme für komplexe Technologien in einigen Fällen die Gefahr bergen, die effiziente Kapitalallokation zu verzerren und zu nicht amortisierbaren Investitionen führen können; betont in diesem Zusammenhang, dass die Befähigung von Unternehmen, Unternehmern und Forschern, KI-Technologielösungen auf privatwirtschaftlicher Basis zu entwickeln und zu vermarkten, ein zentraler Bestandteil der EU-Industriestrategie ist, unter anderem durch die Durchsetzung gleicher Wettbewerbsbedingungen und die Vollendung des digitalen Binnenmarkts und der Kapitalmarktunion; schlägt vor, den Zugang zu Finanzmitteln, insbesondere zu Risikofinanzierungsinstrumenten, vor allem in der Anlaufphase, zu erleichtern; vertritt die Auffassung, dass der Anteil der Mittel, die im Rahmen von InvestEU und dem Programm „Digitales Europa“ für KI bereitgestellt werden, überprüft und gegebenenfalls deutlich erhöht werden sollte;

259. betont, dass der kürzlich verabschiedete EU-Rahmen für die Überprüfung ausländischer Direktinvestitionen[43] und die kürzlich überarbeitete Verordnung über die EU-Regelung zur Ausfuhrkontrolle von Gütern mit doppeltem Verwendungszweck[44] zügig umgesetzt werden müssen; stellt fest, dass KI sowie Robotik und andere digitale Infrastrukturen als kritische Sektoren betrachtet werden sollten; stellt fest, dass der Schutz der Rechte an geistigem Eigentum und der Schutz vor einem Abfluss kritischer Technologien stärker durchgesetzt werden sollten;

260. betont, dass es für Europa von entscheidender Bedeutung ist, sich mit einer angemessenen digitalen Infrastruktur auszustatten; begrüßt Initiativen wie die Initiative für europäische Prozessoren, das neu vorgeschlagene Chip-Gesetz und das Gemeinsame Unternehmen für europäisches Hochleistungsrechnen;

ii. KMU und Start-up-Unternehmen

261. schlägt vor, dass Start-up-Unternehmen im Bereich der KI auf EU- und staatlicher Ebene unterstützt werden, indem sie Zugang zu privatem Kapital und qualifizierten Mitarbeitern, die Fähigkeit zur Beschaffung hochwertiger Datensätze zum Trainieren von Algorithmen sowie die Fähigkeit zur Skalierung über die Grenzen der Mitgliedstaaten hinweg erhalten; betont ferner, dass die wirksame Durchsetzung des Wettbewerbsrechts ein sehr wirksames Instrument der öffentlichen Politik zur Unterstützung einer neu gegründeten Wirtschaft ist, um den Missbrauch marktbeherrschender Macht zu verhindern und Markteintrittsbarrieren entgegenzuwirken; unterstreicht in diesem Zusammenhang, dass die EU ihre Anstrengungen verstärken sollte, um KMU und Start-up-Unternehmen Entwicklungsstrategien und Dienstleistungen anzubieten; stellt fest, dass dies auch die Einführung eines „Buddy“-Systems beinhalten könnte, das erfahrene KI-orientierte Unternehmen mit kleineren Unternehmen verbindet, die die Technologie implementieren möchten; betont, dass die Unfähigkeit, sich umfangreiche Rechtsteams leisten zu können, für Start-up-Unternehmen und Unternehmer oft eine Eintrittsbarriere in ein komplexes Regulierungsumfeld darstellt; betont, dass KMU Zugang zu spezifischer rechtlicher und technischer Unterstützung haben müssen; hebt außerdem hervor, dass Partnerschaften gefördert werden müssen, in denen KI-gesteuerte Unternehmen und Markteinsteiger zusammenarbeiten können; fordert die Kommission und die Mitgliedstaaten nachdrücklich auf, bessere Beratung und konkretere Unterstützung durch Netzwerke, digitale Innovationszentren, Experten für KI-Training, Betriebsberatung, Besuche vor Ort und Rechtsberatungsstellen anzubieten; betont, wie wichtig persönliche Austauschprogrammen wie Erasmus für junge Unternehmer sind, und dass diese weiterentwickelt und gefördert werden sollten;

262. schlägt vor, den Verwaltungsaufwand für KMU und Start-up-Unternehmen im Bereich KI zu verringern, beispielsweise durch die Vereinfachung der Melde‑, Informations‑ und Dokumentationspflichten und durch die Bereitstellung von Leitlinien für gemeinsame zivilverfahrensrechtliche Standards, die auf nationaler Ebene angenommen werden sollten; fordert die rasche Umsetzung des zentralen digitalen Zugangstors, um ein zentrales EU-Online-Portal in verschiedenen Sprachen einzurichten, das alle notwendigen Verfahren und Formalitäten enthält, um in einem anderen EU-Land tätig zu werden; betont, dass alle auf nationaler Ebene eingerichteten zentralen Anlaufstellen über das zentrale digitale Zugangstor unter Verwendung einer zugänglichen Terminologie und in umfassender Verfügbarkeit leicht zugänglich sein und Informationen und Verwaltungsdienstleistungen in den Mitgliedstaaten anbieten sollten, auch in Bezug auf die Vorschriften zur Mehrwertsteuer und Informationen über die Anforderungen für die Erbringung von Dienstleistungen, wobei geschulte Helpdesk-Mitarbeiter zur Verfügung stehen sollten, die eine wirksame benutzerfreundliche Unterstützung leisten;

263. stellt fest, dass die EU-Mitgliedstaaten KMU und Start-up-Unternehmen unter anderem auf folgende Weise unterstützen können: Steuererleichterungen für tiefgreifende Forschung, besserer Zugang zu Rechnerkapazitäten und hochwertigen Datensätzen sowie Unterstützung für Technologie-Scouting und Weiterbildungs‑, Schulungs‑ und Umschulungsmaßnahmen für Beschäftigte im Bereich KI;

264. betont, dass KMU und Start-up-Unternehmen im Bereich KI einen besseren Zugang zum öffentlichen Beschaffungswesen benötigen; fordert die Kommission nachdrücklich auf, die Bewerbungsverfahren für öffentliche Ausschreibungen und die Finanzierung von EU-Programmen neu zu gestalten, damit Start-up-Unternehmen und KMU eine faire Chance haben, öffentliche Auftragsvergabeprojekte und Forschungs‑ und Entwicklungszuschüsse zu erhalten; erinnert in diesem Zusammenhang an die erfolgreichen GovTech-Programme, die das Engagement kleiner Unternehmen bei der elektronischen öffentlichen Auftragsvergabe unterstützt haben; betont, dass auch Aktienoptionsprogramme für Start-up-Unternehmen im Bereich KI in ganz Europa gefördert werden sollten;

iii. Internationale Ebene

265. weist darauf hin, dass die EU ein starkes internationales, auf den Grundwerten basierendes Technologiebündnis schmieden und beispielhaft führen sollte sowie hierfür mit gleichgesinnten Partnern zusammenarbeiten sollte, um gemeinsame Regulierungsstandards festzulegen, von bewährten Verfahren in den Bereichen KI, Datenschutzrechte, Datenströme und Wettbewerbsregeln zu profitieren und strategische Schwachstellen zu beheben, indem sie die gegenseitigen Vorzüge nutzt und Ressourcen in Bereichen bündelt, in denen sich dies für beide Seiten als vorteilhaft erweist; unterstreicht, dass die EU auch eine verstärkte internationale Zusammenarbeit im Bereich der ethischen, vertrauenswürdigen und auf den Menschen ausgerichteten KI in den einschlägigen multilateralen und bilateralen Foren aktiv unterstützen sollte, z. B. innerhalb der Vereinten Nationen, der OECD, des Europarats, der Welthandelsorganisation, des Weltwirtschaftsforums und der G20; begrüßt insbesondere die Einrichtung des EU-US-TTC, in dem die Zusammenarbeit bei KI-Standards als eine der wichtigsten Prioritäten genannt wird, und stellt fest, dass der TTC angesichts seines strategischen Potenzials durch eine interparlamentarische Dimension unter Einbeziehung des Europäischen Parlaments und des US-Kongresses verstärkt werden muss;

266. schlägt vor, auch eine spezielle transatlantische Arbeitsgruppe zu KI einzurichten, der Vertreter von Regierungen, Normungsorganisationen, dem Privatsektor und der Zivilgesellschaft angehören, um an gemeinsamen Standards und ethischen Leitlinien für KI zu arbeiten; schlägt vor, gemeinsam mit anderen gleichgesinnten Partnern eine langfristige Plattform für den Austausch über KI und andere wichtige digitale und handelspolitische Themen auf der Grundlage des aktuellen TTC einzurichten;

267. betont, dass die EU den sozial verantwortlichen und ethischen Einsatz von KI fördern und mit internationalen Normungsgremien zusammenarbeiten sollte, um die Standards für Ethik, Sicherheit, Zuverlässigkeit, Interoperabilität und Schutz weiter zu verbessern; begrüßt die jüngsten Normungsinitiativen von Akteuren wie dem gemeinsamen technischen Ausschuss der Internationalen Organisation für Normung und der Internationalen Elektrotechnischen Kommission, die darauf abzielen, unterschiedliche KI-Kodizes weltweit zu harmonisieren; betont darüber hinaus, dass Europa Standards fördern und entwickeln sollte, auch in den Bereichen intelligente Fertigung, Internet der Dinge, Robotik und Datenanalyse; schlägt vor, Wissenschaftler, die Zivilgesellschaft und KMU bei der Teilnahme an Normungsforen besser zu unterstützen;

268. unterstützt die E-Commerce-Initiative der Welthandelsorganisation zur Entwicklung einer integrativen, wirtschaftlich sinnvollen, evidenzbasierten und zielgerichteten Politik auf hohem Niveau, um Hindernisse für den digitalen Handel besser anzugehen; betont, dass das Abkommen auch die Grundsätze einer verantwortungsvollen Staatsführung widerspiegeln und Regierungen die Möglichkeit geben sollte, dem digitalen Protektionismus entgegenzuwirken und gleichzeitig das Vertrauen der Verbraucher zu schützen und zu fördern und einen echten Mehrwert für die Weltwirtschaft zu schaffen;

269. schlägt vor, dass die Kommission weiterhin gegen ungerechtfertigte Handelshemmnisse, insbesondere nichttarifäre Handelshemmnisse oder Marktzugangsbeschränkungen für europäische KI-Unternehmen in Drittländern, vorgeht; betont, dass die Handels‑, Nachbarschafts‑ und Entwicklungspolitik auch aktiv genutzt werden sollte, um die internationale Debatte über KI zu gestalten und europäische ethische KI-Grundsätze zu fördern;

g) Sicherheit

i. KI und Strafverfolgung

270. betont, wie wichtig es ist, dass die Strafverfolgungsbehörden in der Lage sind, kriminelle Aktivitäten mit Hilfe von KI-Technologie zu erkennen und dagegen vorzugehen;

271. betont, dass durch den Missbrauch von KI bei der Strafverfolgung Schaden angerichtet werden kann, einschließlich automatischer Diskriminierung und unrechtmäßiger Behandlung von Bürgern, während gleichzeitig nur wenige Rechtsmittel bereitgestellt werden; fordert die Mitgliedstaaten nachdrücklich auf, sinnvolle Anforderungen an die menschliche Aufsicht umzusetzen und für diejenigen, die von KI-Entscheidungen betroffen sind, Rechtsmittel bereitzustellen;

272. schlägt vor, dass sich die EU an den Soft-Law-Ansätzen des Interregionalen Forschungsinstituts der Vereinten Nationen für Kriminalität und Justiz beteiligen sollte, das operative KI-Toolkits entwickelt und eine Partnerschaft mit Interpol eingegangen ist, und als einzigartiges Forum für den Dialog und die Zusammenarbeit im Bereich KI zwischen Strafverfolgungsbehörden, Industrie, Wissenschaft und Zivilgesellschaft dient und in vollem Einklang mit dem Besitzstand der EU im Bereich Datenschutz und Privatsphäre steht;

273. nimmt die Rolle von Europol bei der Entwicklung, Schulung und Validierung von KI-Instrumenten zur Bekämpfung von organisierter Kriminalität, Terrorismus und Cyberkriminalität in Zusammenarbeit mit dem Europäischen Datenschutzbeauftragten und unter voller Achtung der Grundwerte der EU, insbesondere dem Grundprinzip der Nichtdiskriminierung und dem Grundsatz der Unschuldsvermutung, zur Kenntnis;

274. fordert die Kommission auf, die finanziellen und personellen Ressourcen des EU-Innovationszentrums für innere Sicherheit zu stärken; begrüßt die Bemühungen von Eurojust, der EU-Agentur für Grundrechte und Europol, ein Toolkit mit universellen Grundsätzen der Rechenschaftspflicht für den Einsatz von KI durch Justiz‑ und innere Sicherheitskräfte (das „AP4AI Framework“) zu entwickeln; fordert die Kommission auf, diese Initiative gezielt finanziell zu unterstützen, um die Rechenschaftsstandards und ‑werte der EU im Bereich der KI zu fördern;

ii. Cybersicherheit

275. fordert die Mitgliedstaaten auf, die Zusammenarbeit im Bereich der Cybersicherheit auf europäischer Ebene zu verstärken, um es der EU und den Mitgliedstaaten zu ermöglichen, Ressourcen besser zu bündeln, nationale Cybersicherheitsstrategien effizienter zu koordinieren und zu straffen, den Kapazitätsaufbau und die Sensibilisierung im Bereich der Cybersicherheit weiter auszubauen und rasch Wissen und technische Unterstützung im BEreich der Cybersicherheit für KMU sowie für andere eher traditionell ausgerichtete Wirtschaftszweige bereitzustellen;

276. ermutigt die EU, eine führende Position bei der Entwicklung starker Kryptografie‑ und anderer Sicherheitsstandards zu übernehmen, die Vertrauen und Interoperabilität in KI-Systemen ermöglichen; betont, dass zur Schaffung einer internationalen Konvergenz im Bereich der IKT-Risikokontrolle auf bestehenden internationalen Standards aufgebaut und diese so weit wie möglich berücksichtigt werden sollten;

277. schlägt die Einführung horizontaler Anforderungen für die Cybersicherheit auf der Grundlage bestehender Rechtsvorschriften und gegebenenfalls neuer horizontaler Rechtsakte vor, um eine Fragmentierung zu verhindern und ein einheitliches Konzept für die Cybersicherheit für alle Produktgruppen zu gewährleisten; stellt fest, dass KI-Produkte auf dem digitalen Binnenmarkt, die die CE-Kennzeichnung tragen, in Zukunft sowohl für ein hohes Maß an physischer Sicherheit als auch für eine risikoadäquate Cyber-Resilienz stehen und so die Einhaltung der einschlägigen EU-Rechtsvorschriften signalisieren könnte;

278. schlägt den Mitgliedstaaten vor, Anreize für Cybersicherheitsanforderungen für KI-Systeme durch die Politik der öffentlichen Auftragsvergabe zu schaffen, unter anderem indem bestimmte ethische Grundsätze und Sicherheitsgrundsätze für die Beschaffung von KI-Anwendungen, insbesondere in kritischen Sektoren, verbindlich vorgeschrieben werden;

279. fordert, dass die EU-Agentur für Cybersicherheit (ENISA) sektorspezifische Bewertungen des Sicherheitsrisikos durchführt, beginnend mit Branchen des öffentlichen und privaten Sektors, die sich mit den risikoreichsten und sensibelsten Anwendungen von KI beschäftigen und die das größte Potenzial für negative Auswirkungen auf die menschliche Gesundheit, die Sicherheit und die Grundrechte haben; betont, dass die ENISA gemeinsam mit dem Europäischen Kompetenzzentrum für Cybersicherheit und dem Netzwerk der nationalen Koordinierungszentren Cybersicherheitsvorfälle bewerten sollte, um Lücken und neue Schwachstellen zu ermitteln und die EU-Institutionen rechtzeitig über angemessene Korrekturmaßnahmen zu beraten;

280. legt Unternehmen nahe, die KI-gestützte Systeme nutzen, entwickeln oder einsetzen und im digitalen Binnenmarkt tätig sind, auf der Grundlage ihrer individuellen Risikolage eine klare und unabhängig bewertete Cybersicherheitsstrategie zu entwickeln; fordert die Einbeziehung von KI-Systemen in die Modellierung von Bedrohungen und das Sicherheitsrisikomanagement; schlägt vor, dass die Kommission, ENISA und die nationalen Behörden diesen Prozess unterstützen sollten;

281. stellt fest, dass die Cybersicherheitsanforderungen für KI-Produkte deren gesamten Lebenszyklus abdecken sollten; betont, dass auch klar sein muss, dass jedes Unternehmen in der Lieferkette seinen Beitrag zur Entwicklung widerstandsfähiger KI-Produkte leisten muss; weist darauf hin, dass die neuen Anforderungen auf dem mit der jeweiligen Produktgruppe verbundenen Risiko und dem Grad des Einflusses auf das Risikoniveau basieren sollten, um eine unverhältnismäßige Belastung für KMU und Start-Up-Unternehmen zu vermeiden;

282. schlägt vor, dass bei der Entwicklung eines EU-weiten Zertifizierungssystems für vertrauenswürdige KI bestehende Initiativen in bestimmten Mitgliedstaaten berücksichtigt werden sollten, wie z. B. der deutsche KI-Cloud-Service-Compliance-Kriterienkatalog oder das maltesische KI-Zertifizierungsprogramm;

iii. Cyberabwehr

283. fordert die Mitgliedstaaten nachdrücklich auf, eine aktive Politik der europäischen Cyberdiplomatie zu verfolgen, indem sie vom Ausland unterstützte Cyberangriffe, einschließlich KI-gesteuerter Cyberangriffe, anzeigen und einordnen und gleichzeitig das gesamte Instrumentarium der EU-Diplomatie ausschöpfen; begrüßt, dass das Instrumentarium für Cyberabwehr der EU, das Auslaufen von Finanzhilfen und Sanktionen gegen Länder oder deren Handlanger umfasst, die an böswilligen Cyberaktivitäten, hybriden Angriffen, einschließlich Desinformationskampagnen, beteiligt sind oder Cyberkriminalität fördern; stellt fest, dass die KI-gestützte Cyberabwehr bis zu einem gewissen Grad wirksamer ist, wenn sie auch einige offensive Mittel und Maßnahmen umfasst, sofern deren Einsatz mit dem Völkerrecht vereinbar ist;

284. regt ferner an, die Cybersicherheitskapazitäten innerhalb der Europäischen Verteidigungsagentur zu stärken, u. a. durch den Einsatz von KI-basierten Systemen zur Unterstützung einer koordinierten und raschen Reaktion auf Cyberangriffe; ist der Ansicht, dass die Umsetzung der Cyberabwehrpolitik in jedem Mitgliedstaat überwacht und die Zuweisung der entsprechenden Ressourcen innerhalb der Union bewertet werden sollte;

285. betont, dass die Auswirkungen von KI auf die europäische Sicherheit analysiert und Empfehlungen dazu ausgearbeitet werden müssen, wie die neuen Sicherheitsherausforderungen auf EU-Ebene in Zusammenarbeit mit den Mitgliedstaaten, dem Privatsektor, Forschern, Wissenschaftlern und der Zivilgesellschaft angegangen werden können;

286. bestärkt die Mitgliedstaaten darin, Maßnahmen zu ergreifen, um die Aufdeckung von Schwachstellen zu belohnen und Prüfungen von KI-basierten Produkten, Systemen und Prozessen zu unterstützen;

iv. Militärische Nutzung von KI

287. stellt fest, dass jeder Einsatz von militärischer KI strengen menschlichen Kontroll- und Überwachungsmechanismen, ethischen Grundsätzen und der uneingeschränkten Achtung der internationalen Menschenrechte und des internationalen humanitären Rechts unterliegen muss; stellt ferner fest, dass die EU mit ihren gleichgesinnten Partnern an einem internationalen Rahmen für die sichere Erforschung, Entwicklung und Nutzung von KI-gestützten Waffen arbeiten sollte, mit dem das humanitäre Völkerrecht gestärkt wird, auch im Zusammenhang mit den für bewaffnete Konflikte geltenden Regeln; weist erneut auf die internationalen Normen und Grundsätze hin, z. B. die Verhältnismäßigkeit der Gewalt, die bei der Entwicklung und dem Einsatz neuer Militärtechnologien zu beachten sind;

288. stellt fest, dass KI-basierte Technologien ein immer wichtigerer Bestandteil der militärischen Ausrüstung und Strategie sind; betont, dass KI-Anwendungen, die ausschließlich für die militärische und nationale Sicherheit genutzt werden, streng von der zivilen Nutzung abgegrenzt werden sollten; weist erneut darauf hin, dass Fragen im Zusammenhang mit neu entstehenden Technologien im militärischen Bereich in der Gruppe der Regierungssachverständigen für neu entstehende Technologien im Bereich tödliche autonome Waffensysteme, einschließlich Fragen im Zusammenhang mit KI, behandelt werden, in der die EU-Mitgliedstaaten vertreten sind;

289. begrüßt den künftigen EU-Strategiekompass, der einen Rahmen und ein gewisses Maß an Ehrgeiz bei der Behandlung von Sicherheits- und Verteidigungsaspekten der KI bieten soll; weist erneut darauf hin, dass die Ständige Strukturierte Zusammenarbeit in der Gemeinsamen Sicherheits- und Verteidigungspolitik und der Europäische Verteidigungsfonds es den Mitgliedstaaten und der Union ermöglichen werden, Investitionen, Fähigkeiten und Interoperabilität im Bereich der neuen Technologien, einschließlich KI, zu verbessern;

290. stellt fest, dass die EU KI als entscheidenden Bestandteil der europäischen technologischen Souveränität betrachten sollte;

291. kommt zu dem Schluss, dass die Mitgliedstaaten ihr Militärpersonal nach wie vor ausbilden sollten, um sicherzustellen, dass es über die erforderlichen digitalen Fähigkeiten für den Einsatz von KI in Kontroll-, Betriebs- und Kommunikationssystemen verfügt; begrüßt den Ansatz des Europäischen Verteidigungsfonds für tödliche autonome Waffensysteme und dessen Artikel 10 Absatz 6; weist darauf hin, wie wichtig der Europäische Verteidigungsfonds für die Unterstützung der grenzüberschreitenden Zusammenarbeit zwischen den EU-Ländern in der militärischen KI-Forschung, der Entwicklung modernster Verteidigungstechnologien und des Baus der erforderlichen Infrastruktur, und zwar der Rechenzentren mit starken Cyberfähigkeiten, ist;

292. fordert den Rat auf, einen gemeinsamen Standpunkt zu autonomen Waffensystemen festzulegen, der eine maßgebliche menschliche Kontrolle über ihre kritische Funktion gewährleistet; besteht auf der Aufnahme internationaler Verhandlungen über rechtsverbindliche Instrumente für ein Verbot vollständig autonomer Waffen; stellt fest, dass in solch einem internationalen Abkommen festgelegt werden sollte, dass alle tödlichen KI-Waffen einer maßgeblichen menschlichen Aufsicht und Kontrolle unterliegen müssen, was bedeutet, dass der Mensch in der Schleife („in the loop“) bleibt und somit letztendlich für die Entscheidung, ein Ziel auszuwählen und eine tödliche Handlung vorzunehmen, verantwortlich ist;

293. fordert eine engere Zusammenarbeit mit der NATO im Bereich der Cyberabwehr und fordert die NATO-Verbündeten auf, die multilateralen Bemühungen zur Regulierung der militärischen Nutzung von KI voranzutreiben;

5. Fazit: Dringender Handlungsaufruf!

294. ist davon überzeugt, dass der laufende digitale Wandel, bei dem KI die entscheidende Rolle spielt, einen weltweiten Wettbewerb um die führende Rolle im Bereich der Technologie ausgelöst hat; betont, dass die EU bisher ins Hintertreffen geraten ist, sodass die Gefahr besteht, dass künftige technologische Standards ohne ausreichende EU-Beiträge entwickelt werden, und zwar allzu oft von nicht-demokratischen Akteuren, was wiederum eine Herausforderung für die politische Stabilität und die wirtschaftliche Wettbewerbsfähigkeit darstellt; kommt zu dem Schluss, dass die EU im Bereich der KI-Standards weltweit eine Führungsrolle einnehmen muss;

295. betont, dass KI zwar häufig als unvorhersehbare Bedrohung dargestellt wird, dass es sich dabei jedoch um ein leistungsfähiges digitales Instrument handelt, das bereits in vielen wichtigen Bereichen einen Paradigmenwechsel mit sich bringt, u. a. indem sie das Angebot innovativer Produkte und Dienstleistungen ermöglicht, den Verbrauchern eine größere Auswahl bietet und Produktionsverfahren effizienter gestaltet; stellt fest, dass die Übernahme von KI-Technologien für die gesamte Gesellschaft klare Vorteile und Chancen bietet, unter anderem in den Bereichen Gesundheit, Nachhaltigkeit, Sicherheit und Wettbewerbsfähigkeit; weist darauf hin, dass KI-Technologien gleichzeitig das Risiko mit sich bringen, die menschliche Handlungsfähigkeit einzuschränken und die menschliche Autonomie zu ersetzen; unterstreicht, dass sowohl diese Vorteile als auch die Risiken als Richtschnur für die Regulierung von und die öffentliche Kommunikation über KI dienen und diese bestimmen sollten;

296. betont, dass die EU das Potenzial hat, die internationale Debatte über KI zu gestalten und weltweit führende gemeinsame Regeln und Standards zu entwickeln, die einen menschenzentrierten, vertrauenswürdigen und nachhaltigen Ansatz für KI fördern, der mit den Grundrechten vollumfänglich im Einklang steht; betont jedoch, dass die Möglichkeit, einen solchen ausgeprägten europäischen Ansatz für KI auf der internationalen Bühne zu konsolidieren, ein rasches Handeln erfordert, weshalb sich die EU umgehend auf eine gemeinsame KI-Strategie und einen Regelungsrahmen einigen muss; betont, dass die Gestaltung internationaler Technologienormen und -standards eine engere Koordinierung und Zusammenarbeit mit gleichgesinnten demokratischen Partnern erfordert;

297. betont, dass die EU derzeit noch weit davon entfernt ist, ihr Bestreben, im Bereich der KI weltweit wettbewerbsfähig zu werden, zu verwirklichen; betont in diesem Zusammenhang, dass harmonisierte Regeln und Standards, Rechtssicherheit und gleiche Wettbewerbsbedingungen unerlässlich sind, um die Einführung von KI und Innovationen zu fördern, auch durch die Beseitigung unnötiger Verwaltungshindernisse für Start-up-Unternehmen, KMU und die Zivilgesellschaft; erkennt an, dass ein radikaler Wandel dieser Größenordnung verschiedene Teile der Gesellschaft unterschiedlich beeinflusst, und betont, dass der digitale Wandel unter umfassender Achtung der Grundrechte erfolgen muss; fordert die Kommission, die Mitgliedstaaten und das Parlament, einschließlich seiner zuständigen Ausschüsse, auf, den im Rahmen des EU-Fahrplans für KI abgegebenen Empfehlungen nachzukommen;

298. fordert ein Regelungsumfeld für KI, das eine wirksame Governance und den Schutz der Grundrechte vorsieht und gleichzeitig den wettbewerbsfähigen Zugang zu digitalen Märkten für Akteure jeder Größe erleichtert, um Innovationen und Wirtschaftswachstum zum Nutzen aller zu fördern; hebt hervor, dass eine wettbewerbsfähige, zugängliche und faire Datenwirtschaft, die auf gemeinsamen Standards beruht, eine Voraussetzung für die angemessene Entwicklung und Schulung von KI ist; weist in diesem Zusammenhang auf die Gefahr hin, dass sich die Marktkonzentration in der Datenwirtschaft auf die Wirtschaft für KI-Anwendungen ausweiten könnte;

299. kommt zu dem Schluss, dass die Fortschritte bei den digitalen Bestrebungen der EU in Bereichen wie der KI ein viel höheres Maß an Integration und Harmonisierung im digitalen Binnenmarkt erfordern, um den grenzüberschreitenden Austausch zu fördern und sicherzustellen, dass EU-weit dieselben Regeln und Standards gelten; betont in diesem Zusammenhang, dass die Organe, Einrichtungen und sonstigen Stellen der EU den Missbrauch von Marktmacht bekämpfen müssen, um gleiche Wettbewerbsbedingungen zu schaffen;

300. ist schließlich der Auffassung, dass die notwendigen Schritte unternommen werden müssen, um sicherzustellen, dass der digitale Wandel den ökologischen Wandel fördert und nicht behindert; kommt zu dem Schluss, dass für KI-Systeme eine solide Infrastruktur und Kapazitäten im Hinblick auf die Konnektivität erforderlich sind; betont, dass alle Bereiche und Wertschöpfungsketten von der digitalen Infrastruktur, die mit dem Grünen Deal im Einklang steht, erfasst werden und dass dabei die Grundsätze der Kreislaufwirtschaft beachtet werden sollten; betont jedoch, dass KI nicht funktionsfähig sein wird, wenn die digitale Infrastruktur, einschließlich Breitband- und Glasfasernetzen, Randknoten und 5G, nicht angemessen eingesetzt wird; betont, dass der Anstieg des Energie- und Ressourcenverbrauchs gebremst werden muss, um eine klimaneutrale digitale Infrastruktur bis 2030 zu erreichen;

301. hebt hervor, dass der schnelle technologische Fortschritt durch KI auch den Lebensunterhalt all derer beeinträchtigen wird, die nicht über die Fähigkeiten verfügen, um sich schnell genug diesen neuen Technologien anzupassen; merkt an, dass durch Weiterbildung und Umschulung zwar dazu beigetragen werden kann, viele der aufkommen sozioökonomischen Schwierigkeiten zu bewältigen, weist jedoch darauf hin, dass den betreffenden Auswirkungen jedoch auch im Zusammenhang mit den Sozialsystemen, der städtischen und ländlichen Infrastruktur und den demokratischen Prozessen begegnet werden muss; gelangt zu dem Schluss, dass es zur Förderung der Einführung von Innovationen im Bereich der KI, zur Erhöhung der Akzeptanz von KI-basierten Anwendungen und zur Sicherstellung, dass niemand zurückgelassen wird, notwendig ist, den Menschen die Mittel zum Erwerb digitaler Kompetenzen an die Hand zu geben; betont, dass die Bildung in den IKT- und MINT-Bereichen frühzeitig beginnen und in allen Lebensabschnitten verfügbar bleiben muss, um die digitale Kompetenz und Resilienz zu erhöhen; ist der Ansicht, dass Initiativen zum Aufbau von KI-Ökosystemen für Exzellenz, zur Gewinnung von KI-Talenten in der EU und zur Bekämpfung der Abwanderung hochqualifizierter Arbeitskräfte von entscheidender Bedeutung sind;

302. betont, dass Herausforderungen für die Grundrechte im Bereich KI angegangen werden müssen, damit KI tatsächlich zu einem Instrument wird, das den Menschen und der Gesellschaft dient und das Gemeinwohl sowie allgemeine Interessen verfolgt; kommt zu dem Schluss, dass die Grundrechte der Bürgerinnen und Bürger in allen Lebensbereichen geschützt werden müssen, auch im Zusammenhang mit dem Einsatz von KI im öffentlichen Umfeld und am Arbeitsplatz, um das Vertrauen in KI zu stärken; unterstreicht, dass insbesondere die Rechte, Ziele und Interessen von Frauen und Minderheitengemeinschaften beim digitalen Wandel berücksichtigt werden müssen; betont, dass die öffentlichen Dienste und ihre Verwaltungsstrukturen mit gutem Beispiel vorangehen müssen; unterstreicht, dass die EU die Einführung von KI-basierten Systemen und der E-Governance beschleunigen muss, um den sicheren Einsatz von KI in öffentlichen Verwaltungen zu erleichtern; betont darüber hinaus, dass durch KI neue Lösungen im Gesundheitswesen erschlossen werden können, wenn angemessen mit den Risiken umgegangen wird und der Grundsatz des gleichberechtigten Zugangs zur Gesundheitsversorgung vollständig auf gesundheitsbezogene KI-Anwendungen ausgeweitet wird;

303. ist schließlich der Auffassung, dass bei der KI-Strategie der EU über militärische und sicherheitspolitische Erwägungen und Bedenken, die sich aus dem weltweiten Einsatz von KI-Technologien ergeben, nicht hinweggesehen werden darf; betont, dass die internationale Zusammenarbeit mit gleichgesinnten Partnern intensiviert werden muss, um die Grundrechte zu schützen und gleichzeitig zusammenzuarbeiten, um neuartige technologische Bedrohungen auf ein Mindestmaß zu beschränken;

°

° °

304. beauftragt seinen Präsidenten, diese Entschließung dem Rat und der Kommission zu übermitteln.

 

BEGRÜNDUNG

Der derzeitige digitale Wandel ist von der Künstlichen Intelligenz (KI) als Schlüsseltechnologie geprägt. Als Begriff, der ein breites Spektrum von Technologien umfasst, die von einer Reihe von vom Menschen festgelegten Zielen geleitet werden und über ein gewisses Maß an Autonomie in ihrem Handeln verfügen, verarbeitet und reagiert KI auf die von ihr erhaltenen Daten, wodurch sie in die Lage versetzt wird, zu lernen, logisch zu denken, zu planen, Entscheidungen zu fällen und kreativ zu sein. Daher umfasst KI Technologien, die bereits weit verbreitet sind, Technologien, die derzeit entwickelt werden, sowie spekulative Erfindungen, die es in Zukunft geben könnte. Im Zuge des derzeitigen digitalen Wandels dürfen die Auswirkungen von KI nicht unterschätzt werden. Sie wird die Art und Weise, wie die Menschen arbeiten, sich fortbewegen und kommunizieren, weiter verändern und verbessern. Sie wird die Gesellschaft, die Verwaltung, die Industrie, die Wirtschaft, die Gesundheitsversorgung und das Sicherheitssystem der EU auch künftig einem Wandel unterziehen und verbessern. KI wirkt sich somit auf jeden Bereich und jeden Aspekt unseres Alltags aus.

 

Der Sonderausschuss für künstliche Intelligenz im digitalen Zeitalter (AIDA) wurde eingesetzt, um einen EU-Fahrplan für KI vorzulegen, der die Schritte umfasst, die die Europäische Union unternehmen muss, um in den nächsten Jahren auf diese wirtschaftlichen und gesellschaftlichen Herausforderungen reagieren zu können. Im weltweiten Wettbewerb ist die EU bereits zurückgefallen. Ein erheblicher Anteil an KI-Innovationen und mehr noch die Kommerzialisierung von KI-Technologien finden außerhalb Europas statt. Die EU hat weder eine führende Rolle bei der Entwicklung oder Erforschung noch bei Investitionen in KI übernommen. Wenn keine klaren Standards für den auf den Menschen ausgerichteten Ansatz für KI festgelegt werden, der auf den grundlegenden europäischen ethischen Standards und demokratischen Werten beruht, werden sie anderswo festgelegt werden. Durch die Folgen eines weiteren Rückfalls gerät nicht nur der wirtschaftliche Wohlstand der EU in Gefahr, sondern wird KI auf eine Art und Weise eingesetzt werden, die die Sicherheit der EU bedroht, was auch mit Überwachung, Desinformation und einem Sozialkreditsystem einhergeht. Eine Weltmacht zu sein, kommt de facto einer führenden Rolle im Bereich der KI gleich.

 

Der AIDA-Ausschuss und der vorliegende Bericht sollen daher als dringender Handlungsaufruf verstanden werden. Im Bericht wird ein ganzheitlicher Ansatz für einen gemeinsamen, langfristigen Standpunkt vorgestellt, der die zentralen Werte und Ziele der EU in Bezug auf KI im digitalen Zeitalter herausstellt, sodass sichergestellt wird, dass der digitale Wandel auf den Menschen ausgerichtet ist und mit der Charta der Grundrechte der Europäischen Union im Einklang steht.

Seiner Aufgabe entsprechend wird im Bericht zunächst der europäische Ansatz für KI festgelegt und seine Bedeutung für den digitalen Wandel bekräftigt. Anstatt sich auf die Bedrohungen zu konzentrieren, wird ein auf den Menschen ausgerichteter Ansatz für KI, der auf den Werten der EU basiert, die Vorteile von KI nutzen und der EU einen Wettbewerbsvorteil verschaffen, um die KI-Regulierung auf globaler Ebene zu gestalten. Die KI ist kein unvorhersehbares und vollständig autonomes System, sondern mit den richtigen Regeln, Vorkehrungen und Vorschriften vielmehr lediglich ein Instrument für die Datenverarbeitung, das die Systeme zum Wohl der Gesellschaft von Grund auf neu gestalten kann.

Daher werden im Bericht in der Folge die künftigen Auswirkungen von KI im digitalen Zeitalter untersucht und ihre Vorteile sowie bestimmte Risiken für die EU-Wirtschaft abgewogen, insbesondere in den Bereichen Gesundheit, Infrastruktur, Nachhaltigkeit, Verkehr, Landwirtschaft, Energie, Verteidigung, Industrie, Demokratie, E-Government, Beschäftigung, Kompetenzen und Bildung. Darüber hinaus zeigt der Bericht auf der Grundlage dieser Analyse die derzeitige Stellung der EU im weltweiten digitalen Wettbewerb, wobei mehrere Schwachstellen aufgedeckt werden. Es wird veranschaulicht, dass die EU derzeit keine der Voraussetzungen dafür erfüllt, dass Innovationen das Potenzial von KI und anderen aufkommenden Technologien vollständig ausschöpfen können. Ein mangelnder Zugang zu und ein ausbleibender Austausch von hochwertigen Daten, das Fehlen von harmonisierten Vorschriften und Standards, hoher Regelungsaufwand und ein Mangel an Finanzierung, Forschung, Kompetenzen und Infrastruktur im KI-Bereich führen dazu, dass die Wettbewerbsfähigkeit der EU stagniert.

 

Um diese Schwachstellen zu beheben und damit die EU weltweit eine führende Rolle im Bereich der KI übernehmen kann, enthält der Bericht seinen EU-Fahrplan für KI, der mit klaren politischen Empfehlungen für die kommenden Jahre versehen ist. Im Rahmen eines ganzheitlichen Ansatzes und auf der Grundlage der wichtigsten Erkenntnisse aus den vorangegangenen Kapiteln werden in dem Fahrplan mehrere horizontale Ziele mit klaren Empfehlungen für die Kommission, die EU-Mitgliedstaaten und das Europäische Parlament hervorgehoben.

 

Zum einen besteht ein eindeutiger Bedarf an einem günstigen Regelungsumfeld, das durch eine dynamische Rechtsetzung und eine moderne Governance geschaffen wird. Die derzeitigen Regelungsrahmen, sowohl auf der Ebene der EU als auch der Mitgliedstaaten, sind zu fragmentiert und zu schwerfällig und bieten keine Rechtssicherheit. Daher ist es notwendig, die Gesetzgebungs- und Steuerungsprozesse im Bereich der digitalen Politik zu beschleunigen und zu straffen. Lediglich KI-Anwendungen mit hohem Risiko müssen streng reguliert werden, um einen Spielraum für Innovationen zu schaffen und Regelungsaufwand zu vermeiden. Darüber hinaus hängt KI vollständig von hochwertigen Daten ab. In den derzeitigen Rahmenbedingungen sind kein zeitnaher Zugang und kein ausreichender Datenaustausch vorgesehen, was überarbeitet und ausgeweitet werden muss.

 

Unsere Ziele im Bereich der KI können nur durch einen vollständig integrierten und uneingeschränkt harmonisierten digitalen Binnenmarkt erreicht werden, in dessen Rahmen Austausch und Innovationen grenzübergreifend gefördert werden. KI erfordert den Ausbau von robuster Infrastruktur und Konnektivität, die für alle Bürger zugänglich sind. Die digitale Infrastruktur muss auf den Nachhaltigkeitsprinzipien im Einklang mit dem Grünen Deal beruhen, von der alle Bereiche, darunter Landwirtschaft, Stromversorgung, Wohnungsbau, Verkehr, Unternehmen, Wertschöpfungsketten und Kreislaufwirtschaft, erfasst werden. Darüber hinaus wird KI nicht funktionsfähig sein, wenn Breitband- und Glasfasernetze, Randknoten und 5G nicht entschlossen eingesetzt und aufkommende Schlüsseltechnologien wie Quanteninformatik nicht zu einer Priorität erklärt werden.

 

Darüber hinaus ist es von entscheidender Bedeutung, ein KI-Ökosystem für Exzellenz zu schaffen, in dem jedem EU-Bürger die Mittel an die Hand gegeben werden, um digitale Kompetenzen und KI-Kompetenzen in allen Phasen der Bildung und Beschäftigung zu erwerben. Auf diese Weise können auch KI-Exzellenzzentren eingerichtet und KI-Talente gefördert und zum Verbleib bewegt werden, um gegen die Abwanderung hochqualifizierter Fachkräfte vorzugehen und weltweit wettbewerbsfähig zu bleiben. Öffentliche Dienste und ihre Verwaltungsstrukturen müssen mit gutem Beispiel vorangehen und KI in die E-Governance und elektronischen Gesundheitsdienste integrieren, wenn die Bürgerinnen und Bürger Vertrauen in KI fassen sollen.

 

Schließlich darf bei der KI-Strategie der EU nicht über militärische und sicherheitspolitische Aspekte hinweggesehen werden, die sich aus dem Einsatz von KI ergeben. Die EU muss international mit gleichgesinnten Partnern zusammenarbeiten, um ihre auf den Menschen ausgerichtete Vision von KI zu fördern und ihre ethischen Grundsätze im globalen Wettbewerb zu sichern.

 

AIDA-Ausschuss – Bericht – Gliederung

 

1. Einleitung

 

2. Potenzielle Chancen, Risiken und Hindernisse beim Einsatz von KI: Sechs vom AIDA-Ausschuss untersuchte Fallstudien

a. KI und Gesundheit

b. KI und der Grüne Deal

c. Außen- und sicherheitspolitische Dimension der KI

d. KI und Wettbewerbsfähigkeit

e. KI und der Arbeitsmarkt

f. KI und die Zukunft der Demokratie

g. Wiederkehrende Ergebnisse in allen sechs Fallstudien

 

3. Stellung der EU im globalen KI-Wettbewerb

a. Regulierungsansatz

b. Marktlage

c. Investitionen

d. Fazit

 

4. „Europa für das digitale Zeitalter“ – Fahrplan zur Übernahme einer weltweiten Führungsrolle

a. Günstiger Regelungsrahmen

b. Vollendung des digitalen Binnenmarkts

c. Digitale grüne Infrastruktur

d. Ökosystem für Exzellenz

e. Ökosystem für Vertrauen

f. Industriestrategie

g. Sicherheit

 

5. Fazit: Dringender Handlungsaufruf!

ANGABEN ZUR ANNAHME IM FEDERFÜHRENDEN AUSSCHUSS

Datum der Annahme	22.3.2022
Ergebnis der Schlussabstimmung	+: –: 0:	25 2 6
Zum Zeitpunkt der Schlussabstimmung anwesende Mitglieder	Christine Anderson, Andrus Ansip, Anna-Michelle Asimakopoulou, Jordan Bardella, Alessandra Basso, Brando Benifei, Adam Bielan, Geert Bourgeois, Maria da Graça Carvalho, Pilar del Castillo Vera, Geoffroy Didier, Ibán García Del Blanco, Alexandra Geese, Svenja Hahn, Miapetra Kumpula-Natri, Eva Maydell, Sven Mikser, Dan Nica, Miroslav Radačovský, Karlo Ressler, Christel Schaldemose, Ernő Schaller-Baross, Stéphane Séjourné, Radosław Sikorski, Susana Solís Pérez, Riho Terras, Dragoş Tudorache, Kim Van Sparrentak, Axel Voss, Kosma Złotowski
Zum Zeitpunkt der Schlussabstimmung anwesende Stellvertreter	Pernando Barrena Arza, Damian Boeselager, Sandra Pereira

 

 

NAMENTLICHE SCHLUSSABSTIMMUNG IM FEDERFÜHRENDEN AUSSCHUSS

25	+
NI	Miroslav Radačovský, Ernő Schaller-Baross
PPE	Geoffroy Didier, Eva Maydell, Riho Terras, Maria da Graça Carvalho, Pilar del Castillo Vera, Anna-Michelle Asimakopoulou, Karlo Ressler, Axel Voss, Radosław Sikorski
Renew	Svenja Hahn, Stéphane Séjourné, Andrus Ansip, Dragoş Tudorache, Susana Solís Pérez
S&D	Miapetra Kumpula-Natri, Dan Nica, Brando Benifei, Ibán García Del Blanco, Christel Schaldemose, Sven Mikser
Verts/ALE	Kim Van Sparrentak, Alexandra Geese, Damian Boeselager

 

2	-
GUE/NGL	Sandra Pereira, Pernando Barrena Arza

 

6	0
ECR	Kosma Złotowski, Geert Bourgeois, Adam Bielan
ID	Jordan Bardella, Alessandra Basso, Christine Anderson

 

Erläuterungen:

+ : dafür

- : dagegen

0 : Enthaltung

 

 

• [1] ABl. L 123 vom 12.5.2016, S. 1.
• [2] ABl. C 132 vom 24.3.2022, S. 102.
• [3] Angenommene Texte, P9_TA(2021)0504.
• [4] ABl. L 119 vom 4.5.2016, S. 1.
• [5] ABl. L 166 vom 11.5.2021, S. 1.
• [6] ABl. L 170 vom 12.5.2021, S. 1.
• [7] ABl. L 303 vom 28.11.2018, S. 59.
• [8] ABl. L 170 vom 12.5.2021, S. 149.
• [9] ABl. L 136 vom 22.5.2019, S. 1.
• [10] ABl. L 256 vom 19.7.2021, S. 3.
• [11] ABl. C 288 vom 31.8.2017, S. 1.
• [12] ABl. C 252 vom 18.7.2018, S. 239.
• [13] ABl. C 307 vom 30.8.2018, S. 163.
• [14] ABl. C 132 vom 24.3.2022, S. 45.
• [15] ABl. C 433 vom 23.12.2019, S. 86.
• [16] ABl. C 449 vom 23.12.2020, S. 37.
• [17] ABl. C 294 vom 23.7.2021, S. 14.
• [18] ABl. C 404 vom 6.10.2021, S. 107.
• [19] ABl. C 404 vom 6.10.2021, S. 129.
• [20] ABl. C 404 vom 6.10.2021, S. 63.
• [21] ABl. C 456 vom 10.11.2021, S. 34.
• [22] ABl. C 15 vom 12.1.2022, S. 204.
• [23] ABl. C 494 vom 8.12.2021, S. 37.
• [24] ABl. C 15 vom 12.1.2022, S. 28.
• [25] ABl. C 132 vom 24.3.2022, S. 17.
• [26] Roberts, M., Driggs, D., Thorpe, M. et al., „Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans“ (Typische Gefahren und Empfehlungen für den Einsatz von maschinellem Lernen zur Erkennung und Prognostizierung von COVID-19 mithilfe von Röntgenaufnahmen des Brustkorbs und CT-Scans), Nature Machine Intelligence, 3, S. 199–217, 15. März 2021.
• [27] Studie der GD IPOL, Opportunities of Artificial Intelligence (Chancen der künstlichen Intelligenz), Juni 2020.
• [28] Arbeitsdokument des AIDA-Ausschusses, Artificial Intelligence and the Green Deal (Künstliche Intelligenz und der grüne Deal), März 2021.
• [29] Mitteilung der Kommission vom 18. November 2021 über eine für neue Herausforderungen gerüstete Wettbewerbspolitik („communication on a competition policy fit for new challenges“) (COM(2021)0713).
• [30] Acemoglu, D. et al.: AI and Jobs: Evidence from Online Vacancies. National Bureau of Economic Research, Dezember 2020.
• [31] Mitteilung der Kommission vom 9. März 2021 mit dem Titel „Digitaler Kompass 2030: der europäische Weg in die digitale Dekade“ (COM(2021)0118).
• [32] Kommission, Koordinierter Plan für Künstliche Intelligenz (COM(2018)0795).
• [33] Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM(2021)0206).
• [34] Mitteilung der Kommission an das Europäische Parlament, den Europäischen Rat, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen mit dem Titel „Förderung eines europäischen Konzepts für künstliche Intelligenz“ (COM(2021)0205).
• [35] Daten aus dem Jahr 2018.
• [36] Koerner, K., (How) will the EU become an AI superstar?, Deutsche Bank, März 2020.
• [37] ABl. L 316 vom 14.11.2012, S. 12.
• [38] Richtlinie 85/374/EWG des Rates vom 25. Juli 1985 zur Angleichung der Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Haftung für fehlerhafte Produkte (ABl. L 210 vom 7.8.1985, S. 29).
• [39] Richtlinie (EU) 2019/1024 des Europäischen Parlaments und des Rates vom 20. Juni 2019 über offene Daten und die Wiederverwendung von Informationen des öffentlichen Sektors (ABl. L 172 vom 26.6.2019, S. 56).
• [40] ABl. L 155 vom 23.5.2014, S. 1.
• [41] ABl. L 257 vom 28.8.2014, S. 73.
• [42] ABl. L 295 vom 21.11.2018, S. 1.
• [43] ABl. L 79 I vom 21.3.2019, S. 1.
• [44] ABl. L 206 vom 11.6.2021, S. 1.