Index 
 Zurück 
 Vor 
 Vollständiger Text 
Verfahren : 2018/2088(INI)
Werdegang im Plenum
Entwicklungsstadium in Bezug auf das Dokument : A8-0019/2019

Eingereichte Texte :

A8-0019/2019

Aussprachen :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Abstimmungen :

PV 12/02/2019 - 9.20
Erklärungen zur Abstimmung

Angenommene Texte :

P8_TA(2019)0081

Angenommene Texte
PDF 252kWORD 85k
Dienstag, 12. Februar 2019 - Straßburg Vorläufige Ausgabe
Eine umfassende europäische Industriepolitik in Bezug auf künstliche Intelligenz und Robotik
P8_TA-PROV(2019)0081A8-0019/2019

Entschließung des Europäischen Parlaments vom 12. Februar 2019 zur umfassenden europäischen Industriepolitik in Bezug auf künstliche Intelligenz und Robotik (2018/2088(INI))

Das Europäische Parlament,

–  unter Hinweis auf seine Entschließung vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik(1),

–  unter Hinweis auf seine Entschließung vom 1. Juni 2017 zur Digitalisierung der europäischen Industrie(2),

–  unter Hinweis auf seine Entschließung vom 12. September 2018 zu autonomen Waffensystemen(3),

–  unter Hinweis auf seine Entschließung vom 11. September 2018 zu der Gleichstellung von Sprachen im digitalen Zeitalter(4),

–  unter Hinweis auf den Vorschlag der Kommission vom 6. Juni 2018 zur Aufstellung des Programms „Digitales Europa“ für den Zeitraum 2021–2027 (COM(2018)0434),

–  unter Hinweis auf die Verordnung (EU) 2018/1488 des Rates vom 28. September 2018 zur Gründung des Gemeinsamen Unternehmens für europäisches Hochleistungsrechnen(5),

–  gestützt auf Artikel 52 seiner Geschäftsordnung,

–  unter Hinweis auf den Bericht des Ausschusses für Industrie, Forschung und Energie sowie die Stellungnahmen des Ausschusses für Binnenmarkt und Verbraucherschutz, des Rechtsausschusses, des Ausschusses für bürgerliche Freiheiten, Justiz und Inneres und des Ausschusses für Umweltfragen, öffentliche Gesundheit und Lebensmittelsicherheit (A8‑0019/2019),

A.  in der Erwägung, dass transparente künstliche Intelligenz (KI) und Robotik, die in Ethik verankert sind, das Potenzial haben, unser Leben zu bereichern und unsere Fähigkeiten zu erweitern, und zwar in Bezug auf den Einzelnen und das Gemeinwohl;

B.  in der Erwägung, dass sich die Entwicklungen im Bereich der KI in rasantem Tempo vollziehen, und in der Erwägung, dass KI bereits seit einigen Jahren Einzug in unseren Alltags gehalten hat; in der Erwägung, dass KI und Robotik die Innovation vorantreiben, zu neuen Geschäftsmodellen führen und eine Schlüsselrolle bei der Umgestaltung unserer Gesellschaften und beim digitalen Wandel in vielen Bereichen unserer Volkswirtschaften, etwa der Industrie, dem Gesundheitswesen, dem Bauwesen und dem Verkehr, spielen;

C.  in der Erwägung, dass die zunehmende Integration der Robotik in menschliche Systeme robuste politische Leitlinien dazu erfordert, wie der Nutzen maximiert werden kann und die Risiken für die Gesellschaft minimiert werden können und wie eine sichere und ausgewogene Entwicklung der künstlichen Intelligenz sichergestellt werden kann;

D.  in der Erwägung, dass die künstliche Intelligenz sowohl global als auch innerhalb Europas eine der strategischen Technologien des 21. Jahrhunderts ist, die sich positiv auf die europäische Wirtschaft auswirkt und durch die Innovation, Produktivität, Wettbewerbsfähigkeit und Wohlstand gefördert werden;

E.  in der Erwägung, dass etwa ein Viertel aller Industrieroboter und die Hälfte aller professionellen Serviceroboter weltweit von europäischen Unternehmen hergestellt werden und die EU daher bereits über wichtige Aktivposten verfügt, auf die sie ihre europäische Industriepolitik stützen sollte;

F.  in der Erwägung, dass KI und Robotik das Potenzial haben, zur Neugestaltung mehrerer Wirtschaftszweige und zur Erzielung von Effizienzgewinnen in der Produktion zu führen und die europäische Industrie und KMU weltweit wettbewerbsfähiger zu machen; in der Erwägung, dass große Datensätze sowie Erprobungs- und Versuchseinrichtungen für die Entwicklung künstlicher Intelligenz von großer Bedeutung sind;

G.  in der Erwägung, dass ein gemeinsames Konzept die Entwicklung von KI-Technologien zum Nutzen der Gesellschaft erleichtern und zugleich zur Bewältigung der mit diesen verbundenen Technologien Probleme beitragen wird, damit Innovationen gefördert werden, die Qualität von KI-fähigen Produkten und Dienstleistungen gesteigert wird, die Erfahrungen der Verbraucher und ihr Vertrauen in KI-Technologien und in die Robotik verbessert werden und eine Fragmentierung des Binnenmarktes vermieden wird;

H.  in der Erwägung, dass die in der EU verfügbare Rechenleistung auf einem führenden Niveau gehalten werden muss, wodurch Möglichkeiten für die Zulieferindustrie in der EU geschaffen werden sollten sowie ihre Wirksamkeit gesteigert werden sollte, wenn es gilt, technologische Entwicklungen in nachfrage- und anwendungsorientierte Produkte und Dienstleistungen umzusetzen, sodass eine breite Markteinführung und neue Anwendungen auf der Grundlage künstlicher Intelligenz möglich werden;

I.  in der Erwägung, dass für die EU auf europäischer Ebene dringend ein koordinierter Ansatz vonnöten ist, damit Europa mit den massiven Drittstaatsinvestitionen, insbesondere der USA und Chinas, konkurrieren kann;

J.  in der Erwägung, dass sich die Kommission am 25. April 2018(6) verpflichtet hat, einen europäischen Ansatz im Bereich künstliche Intelligenz vorzuschlagen, indem sie in Zusammenarbeit mit Interessenträgern im Rahmen der KI-Allianz, d. h. einer Gruppe von Experten im Bereich künstliche Intelligenz, Vorschläge für Leitlinien zu künstlicher Intelligenz mit dem Ziel ausarbeitet, in Europa Anwendungen und Unternehmen, die auf künstlicher Intelligenz basieren, zu fördern;

K.  in der Erwägung, dass die geltenden Vorschriften und Verfahren überprüft und gegebenenfalls so geändert werden sollten, dass künstlicher Intelligenz und Robotik Rechnung getragen wird;

L.  in der Erwägung, dass bei der Entwicklung des europäischen Rahmens für künstliche Intelligenz die in der Charta der Grundrechte verankerten Rechte und insbesondere die Grundsätze des Datenschutzes, der Privatsphäre und der Sicherheit uneingeschränkt geachtet werden müssen;

M.  in der Erwägung, dass die Entwicklungen im Bereich KI so gestaltet werden können und sollten, dass die Würde, die Unabhängigkeit und die Selbstbestimmung der Einzelperson gewahrt bleiben;

N.  in der Erwägung, dass das Parlament die Kommission in seiner Entschließung vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik aufforderte, einen kohärenten Rechtsrahmen für die Entwicklung der Robotik, einschließlich autonomer Systeme und intelligenter autonomer Roboter, auszuarbeiten;

O.  in der Erwägung, dass die Entwicklung der künstlichen Intelligenz und der Robotik die Gesellschaft als Ganzes einbeziehen muss; in der Erwägung, dass aber auch im Jahr 2017 ländliche Gebiete nach wie vor die Vorteile der künstlichen Intelligenz weitgehend nicht nutzen konnten, da 8 % der Haushalte über keinen Festnetzanschluss verfügten und 53 % der Haushalte auch nicht von der Zugangstechnologie der nächsten Generation (VDSL, DOCSIS 3.0 oder FTTP) erfasst waren;

P.  in der Erwägung, dass die Entwicklung von KI-gestützten Dienstleistungen und Produkten eine Internetanbindung, freien Datenverkehr und die Zugänglichkeit von Daten in der EU erfordert; in der Erwägung, dass der Einsatz fortschrittlicher Verfahren zur Datenauswertung bei Produkten und Dienstleistungen dazu beitragen kann, die Entscheidungsfindung zu verbessern und damit auch die sich den Verbrauchern bietende Auswahl sowie die Leistung der Unternehmen;

Q.  in der Erwägung, dass technische Entwicklungen bei intelligenten Produkten und Dienstleistungen der Wissenswirtschaft, die sich auf die Quantität, Qualität und Zugänglichkeit der verfügbaren Informationen stützt, zugutekommen und zu einer besseren Abstimmung auf die Verbraucherbedürfnisse führen können;

R.  in der Erwägung, dass die Cybersicherheit von entscheidender Bedeutung ist, wenn verhindert werden soll, dass Daten vorsätzlich beschädigt oder missbräuchlich verwendet werden, um künstliche Intelligenz so einzusetzen, dass sie den Bürgern oder Unternehmen schadet, was das Vertrauen der Wirtschaft und der Verbraucher in die künstliche Intelligenz untergraben würde; in der Erwägung, dass aufgrund der Entwicklungen im Bereich der künstlichen Intelligenz verstärkt auf diese Systeme zurückgegriffen wird, wenn es um Maßnahmen und Entscheidungen geht, was wiederum hohe Standards für die Abwehrfähigkeit gegenüber Cyberangriffen in der EU erforderlich macht, um Verletzungen und Störfällen im Bereich der Cybersicherheit vorzubeugen;

S.  in der Erwägung, dass es aufgrund des Trends zur Automatisierung erforderlich ist, dass diejenigen, die an der Entwicklung und der Vermarktung von KI-Anwendungen beteiligt sind, von Anfang an für eingebaute Sicherheitsvorkehrungen und Ethik sorgen, und in der Erwägung, dass sie sich darauf einstellen müssen, die Haftung für die Qualität der von ihnen hergestellten Technologie zu übernehmen;

T.  in der Erwägung, dass für den Aufbau vertrauenswürdiger Ökosysteme für KI-Technologien Standards für die Datenarchitektur gelten sollten, was die Entwicklung reibungslos funktionierender Programme für eine vereinfachte Datenerhebung und -verwaltung zum Zwecke der akademischen Forschung impliziert, damit in vielen Bereichen – etwa in der Medizin, im Finanzwesen sowie in den Bereichen Biologie, Energie, Industrie, Chemie oder auch im öffentlichen Dienst – künstliche Intelligenz entwickelt werden kann; in der Erwägung, dass ein datenbasiertes KI-Ökosystem in paneuropäischen Initiativen bestehen könnte, die auf offenen Standards, der gegenseitigen Anerkennung von Zertifikaten und transparenten Bestimmungen für die Interoperabilität beruhen;

U.  in der Erwägung, dass mit der Nutzung von KI nicht automatisch für Ordnungsmäßigkeit und Billigkeit gesorgt ist, da durch die Erhebung der Daten und die Formulierung des Algorithmus möglicherweise verzerrende systematische Fehler entstehen, die auf kognitive Verzerrungen in der Gesellschaft zurückzuführen sind; in der Erwägung, dass durch Datenqualität, den Aufbau der Algorithmen und kontinuierliche Bewertungsprozesse dafür gesorgt werden sollte, dass es nicht zu verzerrenden systematischen Fehlern kommt;

V.  in der Erwägung, dass der Mensch den Mittelpunkt der Entwicklung und Einführung von KI ausmachen und das Ziel darin bestehen sollte, den Menschen in seinen Tätigkeiten am Arbeitsplatz und im Privatleben zu unterstützen; in der Erwägung, dass KI auch dafür sorgen könnte, dass Menschen keine gefährlichen Arbeiten ausführen müssen;

W.  in der Erwägung, dass sich die weitere Entwicklung und der vermehrte Einsatz einer automatisierten und auf Algorithmen basierenden Entscheidungsfindung zweifellos auf die bevorzugten Auswahlmöglichkeiten von Einzelpersonen (wie beispielsweise Unternehmern oder Internetnutzern) und Verwaltungs-, Justiz- oder sonstigen Behörden bei ihren endgültigen Entscheidungen im Hinblick auf Verbraucher-, Unternehmens- oder Regelungsfragen auswirkt; in der Erwägung, dass im Rahmen der Prozesse der automatisierten und auf Algorithmen basierenden Entscheidungsfindung Schutzvorkehrungen und die Möglichkeit der Kontrolle und Überprüfung durch den Menschen vorgesehen werden sollten;

X.  in der Erwägung, dass das maschinelle Lernen auch mit Herausforderungen einhergeht, wenn es gilt, für Diskriminierungsfreiheit, ordnungsgemäße Verfahren, Transparenz und nachvollziehbare Entscheidungsfindungsprozesse zu sorgen;

Y.  in der Erwägung, dass künstliche Intelligenz ein wesentliches Instrument darstellt, was die Bewältigung der globalen gesellschaftlichen Herausforderungen angeht, und dass die Mitgliedstaaten im Rahmen ihrer Politik Investitionen fördern, Mittel für F&E bereitstellen und gegen die Hemmnisse vorgehen sollten, die der Entwicklung und Nutzung der künstlichen Intelligenz entgegenstehen;

Z.  in der Erwägung, dass kommerzielle Plattformen für künstliche Intelligenz inzwischen von der Erprobung zur echten Anwendung in den Bereichen Gesundheit, Umwelt, Energie und Verkehr übergegangen sind; in der Erwägung, dass der Kern der wichtigsten Internet-Plattformen und auf Massendaten beruhenden Anwendungen in verschiedenen Formen des maschinellen Lernens besteht;

AA.  in der Erwägung, dass sich europäische Wissenschaftler und Unternehmen mit einem breiten Spektrum von Fragestellungen in Bezug auf die Blockchain-Technologie befassen, die so unterschiedliche Bereiche wie Versorgungskette, Behördendienste, Finanzdienstleistungen, Internet der Dinge, Gesundheitsdienstleistungen, Medien, intelligente Städte, Energie und Verkehr betreffen; in der Erwägung, dass Europa ein wichtiger Akteur in den Bereichen mit einem Bezug zu der Blockchain-Technologie ist, etwa KI; in der Erwägung, dass die Blockchain-Technologie für die Stärkung der Innovationskraft in Europa eine wichtige Rolle spielen kann.

AB.  in der Erwägung, dass Cybersicherheitstechnologien, wie digitale Identitäten, Kryptografie oder Intrusionserkennung, und deren Anwendung in Bereichen wie Finanzen, Industrie 4.0, Energie, Verkehr, Gesundheitsversorgung und elektronische Behördendienste für die Gewährleistung der Sicherheit von Online-Aktivitäten und Transaktionen und des Vertrauens, das sowohl Bürger als auch öffentliche Verwaltungen und Unternehmen darin setzen, von wesentlicher Bedeutung sind;

AC.  in der Erwägung, dass das Text- und Data-Mining eine Grundlage von KI-Anwendungen und des maschinellen Lernens darstellt und für KMU und Start-ups von entscheidender Bedeutung ist, da diese so Zugang zu großen Datenmengen erhalten, mit denen KI-Algorithmen trainiert werden können;

AD.  in der Erwägung, dass sich KI als sehr energieintensiv erweisen könnte; in der Erwägung, dass daher parallel zur Förderung der Verwendung von KI unbedingt dafür gesorgt werden muss, dass die Ziele in den Bereichen Energieeffizienz und Kreislaufwirtschaft auch weiterhin verfolgt und erreicht werden;

AE.  in der Erwägung, dass KI alle europäischen Sprachen unterstützen sollte und für alle Europäer Chancengleichheit herrschen sollte, was die Nutzung moderner KI-Anwendungen im Rahmen der mehrsprachigen europäischen Informationsgesellschaft angeht;

AF.  in der Erwägung, dass künstliche Intelligenz in mit Hochtechnologie verbundenen Branchen und Dienstleistungen maßgeblich dafür ist, dass Europa ein „Start-up-Kontinent“ wird, indem insbesondere in den Bereichen Gesundheitstechnologie, Gesundheitsdienstleistungen und ‑programme, Arzneimittelforschung, robotergesteuerte und roboterunterstützte Operationen, Behandlung chronischer Krankheiten, bildgebende Diagnoseverfahren und Patientenakten sowie Sicherstellung einer nachhaltigen Umwelt und einer sicheren Lebensmittelproduktion die neuesten Technologien zur Schaffung von Wachstum in Europa genutzt werden; in der Erwägung, dass Europa derzeit in Bezug auf Forschung und Patente im Bereich der künstlichen Intelligenz Nordamerika und Asien hinterherhinkt;

AG.  in der Erwägung, dass die Entwicklung von Technologien der künstlichen Intelligenz einen Beitrag zu einem besseren Leben für Menschen mit chronischen Krankheiten und Behinderungen leisten und soziale Herausforderungen wie etwa die Alterung der Bevölkerung bewältigen kann, indem die Gesundheitstechnologien präziser und für die Bereitstellung von medizinischer Versorgung wirksamer gemacht werden;

AH.  in der Erwägung, dass es eine breite Palette an möglichen Anwendungen der künstlichen Intelligenz und der Robotik in der Medizin gibt, wie etwa Verwaltung von Patientenakten und medizinischen Daten, Ausführung von wiederkehrenden Arbeitsabläufen (Analyse von Tests, Röntgenuntersuchungen, Computertomografien, Dateneingabe), Therapiegestaltung, digitale ärztliche Beratung (etwa medizinische Beratung auf der Grundlage der persönlichen Krankengeschichte und allgemeiner medizinischer Kenntnisse), virtuelle Pflegekräfte, Medikationsmanagement, Herstellung von Arzneimitteln, Präzisionsmedizin (da in der Genetik und Genomik in den Informationen der DNA nach Mutationen und Verbindungen zu Erkrankungen gesucht wird), Gesundheitschecks, Überprüfung von Gesundheitssystemen usw.;

AI.  in der Erwägung, dass „Zugänglichkeit“ nicht bedeutet, dass alle Menschen Zugang zu denselben Dienstleistungen und Hilfsmitteln haben; in der Erwägung, dass die Zugänglichkeit der künstlichen Intelligenz und der Robotik auf inklusiver Planung und Gestaltung beruht; in der Erwägung, dass die Bedürfnisse, Wünsche und Erfahrungen der Nutzer der Gestaltung zugrunde liegen müssen;

AJ.  in der Erwägung, dass die Autonomie von Robotern, die offensichtliche Tatsache, dass sie im Gegensatz zum Menschen keine Empathie empfinden, und die Folgen für die Beziehung zwischen Arzt und Patient insbesondere mit Blick auf den Schutz der personenbezogenen Daten der Patienten, die Haftungsfrage und die neu entstehenden Wirtschafts- und Arbeitsbeziehungen massive ethische, psychologische und juristische Fragen aufwerfen, denen auf der Ebene der EU noch nicht hinreichend Rechnung getragen wird; in der Erwägung, dass nur beim Menschen von vollständiger „Autonomie“ an und für sich gesprochen werden kann; in der Erwägung, dass es eines robusten rechtlichen und ethischen Rahmens für künstliche Intelligenz bedarf;

AK.  in der Erwägung, dass gerade im Gesundheitswesen der Einführung künstlicher Intelligenz immer das Verantwortungsprinzip „Mensch bedient Maschine“ zugrunde liegen muss;

1.Eine von künstlicher Intelligenz und Robotik unterstützte Gesellschaft

1.1.Arbeit im Zeitalter der künstlichen Intelligenz und der Robotik

1.  betont, dass mit der Automatisierung in Verbindung mit künstlicher Intelligenz die Produktivität und damit die Produktion steigen wird; stellt fest, dass wie bei früheren technologischen Revolutionen einige Arbeitsplätze ersetzt werden, aber auch neue Arbeitsplätze geschaffen werden, womit sich die Lebenswelt und die Arbeitsverfahren ändern werden; betont, dass die Exposition von Menschen gegenüber schädlichen und gefährlichen Bedingungen mit dem zunehmenden Einsatz von Robotik und KI abnehmen wird, und dass dies auch dazu beitragen dürfte, mehr hochwertige Arbeitsplätze zu schaffen und die Produktivität zu steigern;

2.  fordert die Mitgliedstaaten mit Nachdruck auf, sich auf die Umschulung der Arbeitnehmer zu konzentrieren, die am stärksten von der Automatisierung von Tätigkeiten betroffen sind; betont, dass die Entwicklung der Kompetenzen von Arbeitnehmern im Mittelpunkt neuer Bildungsprogramme stehen sollte, damit sie Beschäftigungsmöglichkeiten im Rahmen der neuen Arbeitsplätze, die durch KI geschaffen werden, nutzen können; regt an, dass in Schulen Programme für digitale Kompetenzen aufgelegt werden und dass in Bezug auf die berufliche Aus- und Weiterbildung Prioritäten festgelegt werden, um Arbeitnehmer bei der Anpassung an den technologischen Wandel zu unterstützen;

3.  empfiehlt, dass die Mitgliedstaaten gemeinsam mit den Akteuren der Privatwirtschaft die Risiken ermitteln und Strategien entwickeln, um sicherzustellen, dass einschlägige Fortbildungs- und Umschulungsprogramme aufgelegt werden; betont, dass die Unternehmen selbst in die Fortbildung und Umschulung ihrer vorhandenen Arbeitskräfte investieren müssen, um ihren Bedarf zu decken;

4.  betont, dass sich die Entwicklung der Robotik in der EU in hohem Maße auf die Beziehungen zwischen den Sozialpartnern auswirken wird; ist der Auffassung, dass diese Auswirkungen ausgewogen angegangen werden sollten, um die Reindustrialisierung zu fördern und es auch den Arbeitnehmern zu ermöglichen, von Produktivitätsgewinnen zu profitieren;

5.  stellt fest, dass in der derzeitigen Industrielandschaft zwischen den Eigentümern und den Arbeitnehmern ein fragiles Gleichgewicht besteht; ist der Auffassung, dass die Fortschritte bei der Anwendung von KI in der Industrie unter umfassender Konsultation der Sozialpartner durchgeführt werden sollten, da mögliche Änderungen bei der Anzahl Menschen, die in der Industrie arbeiten, proaktive Maßnahmen erfordert, um den Arbeitnehmern zu helfen, sich den neuen Anforderungen anzupassen, und sicherzustellen, dass die Gewinne breit verteilt werden; ist der Ansicht, dass dies ein Umdenken und eine Neukonzipierung der Arbeitsmarktpolitik, der Sozialversicherungssysteme und der Besteuerung erfordert;

6.  fordert die Mitgliedstaaten auf, sich mit Hindernissen, die der Aufnahme einer Beschäftigung entgegenstehen, wie etwa Überqualifikation zu befassen;

7.  ist der Ansicht, dass digitale Kompetenzen zu den wichtigsten Faktoren der künftigen Entwicklung der KI zählen, und fordert die Kommission und die Mitgliedstaaten nachdrücklich auf, Strategien für die Weiterbildung und Umschulung in Bezug auf digitale Kompetenzen zu entwickeln und umzusetzen; stellt fest, dass digitale Kompetenzen einer breiten und inklusiven Beteiligung an der Ausarbeitung von Lösungen im Rahmen der Datenwirtschaft zuträglich sein können und die Kommunikation und Zusammenarbeit zwischen allen Interessenträgern erleichtern können;

8.  ist der Auffassung, dass die Lehrpläne von Bildungseinrichtungen angepasst werden müssen, auch durch die Schaffung neuer Bildungswege und den Einsatz neuer Übermittlungstechnologien, da Bürger aller Altersgruppen betroffen sein werden; betont, dass Bildungsaspekte angemessen behandelt werden sollten; betont insbesondere, dass digitale Kompetenzen einschließlich der Kodierung in Lehre und Ausbildung von den ersten Schuljahren bis hin zum lebensbegleitenden Lernen einfließen müssen;

1.2.Böswillige Nutzung künstlicher Intelligenz und Grundrechte

9.  betont, dass die böswillige oder fahrlässige Nutzung künstlicher Intelligenz die digitale, physische und öffentliche Sicherheit bedrohen könnte, da die künstliche Intelligenz zur Verübung von weitläufigen, gut gezielten und hochwirksamen Angriffen auf Dienste der Informationsgesellschaft und damit zusammenhängende Geräte sowie für Desinformationskampagnen und allgemein zur Einschränkung des Rechts der Menschen auf Selbstbestimmung eingesetzt werden könnte; betont, dass die böswillige oder fahrlässige Nutzung künstlicher Intelligenz auch eine Gefahr für die Demokratie und die Grundrechte darstellen könnte;

10.  fordert die Kommission auf, einen Rahmen vorzuschlagen, mit dem Praktiken der Wahrnehmungsmanipulation bestraft werden können, wenn personalisierte Inhalte oder Nachrichten-Feeds zu negativen Gefühlen und Verzerrungen der Wahrnehmung der Realität führen, die zu negativen Folgen führen könnten (beispielsweise in Bezug auf Wahlergebnisse oder eine verzerrte Wahrnehmung in gesellschaftlichen Fragen, etwa Migration);

11.  betont, wie wichtig es ist, problematische Tendenzen rund um die Entwicklung künstlicher Intelligenz zu erkennen, zu ermitteln und zu überwachen; fordert, dass bei der Forschung im Bereich der künstlichen Intelligenz auch ein Schwerpunkt auf die Aufdeckung versehentlich oder böswillig korrumpierter künstlicher Intelligenz und Robotik gelegt wird;

12.  fordert die Kommission nachdrücklich auf, die sozialen Herausforderungen zur Kenntnis zu nehmen, die sich aus Praktiken der Einstufung der Bürger mithilfe einer Rangliste ergeben; betont, dass die Bürger nicht aufgrund ihrer Position in einer Rangliste diskriminiert werden sollten und sie Anspruch auf eine „zweite Chance haben“ sollten;

13.  ist äußerst besorgt über den Einsatz von KI-Anwendungen, einschließlich der Gesichts- und der Stimmerkennung, im Rahmen von Programmen der „emotionalen Überwachung“, d. h. der Überwachung des psychischen Zustands von Arbeitnehmern und Bürgern, um die Produktivität zu steigern und die soziale Stabilität zu erhalten, in manchen Fällen in Verbindung mit „Sozialpunktesystemen“, wie beispielsweise denen, die in China bereits eingeführt worden sind; betont, dass solche Programme an sich im Widerspruch zu den europäischen Werten und Normen für den Schutz der Rechte und Freiheiten des Einzelnen stehen;

2.Die technologische Entwicklung hin zu künstlicher Intelligenz und Robotik

2.1.Forschung und Entwicklung

14.  weist darauf hin, dass Europa eine in Sachen künstliche Intelligenz weltweit führende Forschungsgemeinschaft vorweisen kann, die 32 % aller KI-Forschungseinrichtungen weltweit stellt;

15.  begrüßt den Vorschlag der Kommission zum Programm „Digitales Europa“ und die für künstliche Intelligenz versprochenen Haushaltsmittel von 2,5 Mrd. EUR sowie die aufgestockte Finanzierung im Rahmen des Programms Horizont 2020; ist sich dessen bewusst, dass eine Finanzierung durch die EU als Ergänzung der Forschungsmittel der Mitgliedstaaten und der Industrie für KI wichtig ist und dass es einer Zusammenarbeit zwischen öffentlichen, privaten und EU-Forschungsprogrammen bedarf;

16.  unterstützt die operativen Ziele des Programms „Digitales Europa“, Kernkapazitäten im Bereich der künstlichen Intelligenz in der Union aufzubauen und zu stärken, um sie für alle Unternehmen und öffentlichen Verwaltungen zugänglich zu machen und bestehende Erprobungs- und Versuchseinrichtungen für künstliche Intelligenz zu verstärken und zu vernetzen;

17.  legt den Mitgliedstaaten nahe, mehrere Interessengruppen umfassende Partnerschaften in der Industrie und unter den Forschungsinstituten sowie gemeinsame KI-Kompetenzzentren zu entwickeln;

18.  betont, dass in der KI-Forschung nicht nur in die technologische Forschungs- und Innovationskomponente künstlicher Intelligenz investiert werden sollte, sondern auch in die damit zusammenhängenden Aspekte der Bereiche Soziales, Ethik und Haftungsfragen; ist der Überzeugung, dass jedes eingesetzte KI-Modell über „integrierte Ethik“ verfügen sollte;

19.  betont, dass durch die KI-Forschung und andere damit zusammenhängende Tätigkeiten zwar Fortschritte zum Nutzen der Gesellschaft und der Umwelt gefördert werden, sie jedoch stets im Einklang mit dem Vorsorgeprinzip und den Grundrechten durchgeführt werden sollten; betont, dass sämtliche Personen, die an der Entwicklung, Anwendung, Verbreitung und Nutzung von künstlicher Intelligenz beteiligt sind, die Würde des Menschen berücksichtigen und achten sollten, ebenso wie die Selbstbestimmung und das – körperliche und geistige – Wohlergehen des Einzelnen und der Gesellschaft insgesamt, sowie potenzielle Auswirkungen auf die Sicherheit im Voraus berücksichtigen und entsprechend dem Schutzniveau angemessene Vorkehrungen treffen sollten, einschließlich der unverzüglichen Offenlegung von Faktoren, die die Öffentlichkeit oder die Umwelt gefährden könnten;

20.  betont, dass ein wettbewerbsfähiges Forschungsumfeld auch der Schlüssel zur Entwicklung der künstlichen Intelligenz ist; betont, dass es wichtig ist, exzellente Forschung, einschließlich Grundlagenforschung und hochriskante Projekte mit hohem Nutzen, zu unterstützen und einen europäischen Forschungsraum mit attraktiven Bedingungen für Finanzierung, Mobilität und Zugang zu Infrastrukturen und Technologie in der gesamten Union zu fördern, der auf einem Grundsatz der Offenheit gegenüber Drittländern und Fachwissen von außerhalb der Union beruht, sofern dadurch nicht die Cybersicherheit der EU untergraben wird;

21.  betont, dass Forscher in der EU nach wie vor deutlich weniger verdienen als ihre Kollegen in den USA und China, was bekanntermaßen der Hauptgrund dafür ist, dass sie Europa verlassen; fordert die Kommission und die Mitgliedstaaten auf, sich darauf zu konzentrieren, Spitzenkräfte für europäische Unternehmen zu gewinnen, und fordert die Mitgliedstaaten auf, attraktive Bedingungen zu schaffen;

22.  betont, dass Europa die neue FET(7)-Leitinitiative der künstlichen Intelligenz widmen und dabei einen besonderen Schwerpunkt auf einen menschenzentrierten Ansatz und Sprachtechnologien legen muss;

23.  ist überzeugt, dass künstliche Intelligenz, maschinelles Lernen und exponentielle Fortschritte bei der Verfügbarkeit von Daten und beim Cloud-Computing Forschungsinitiativen zum Verständnis der Biologie auf molekularer und zellulärer Ebene fördern, die Entwicklung medizinischer Behandlungen lenken und Datenströme analysieren, um Gefahren für die Gesundheit zu erkennen, Krankheitsausbrüche vorherzusagen und Patienten zu beraten; stellt fest, dass Data-Mining und Datennavigationstechniken genutzt werden können, um Versorgungslücken, Risiken, Tendenzen und Muster zu erkennen;

24.  betont, dass, wenn Risiken ein unvermeidbarer Bestandteil der KI-Forschung sind, eine belastbare Risikobewertung und ein Risikomanagement ausgearbeitet und befolgt werden müssen, wobei zu berücksichtigen ist, dass das Risiko eines Schadens nicht größer sein darf als im normalen Leben (d. h. die Menschen dürfen keinen Risiken ausgesetzt sein, die größer sind als die, denen sie in ihrem normalen Lebensstil ausgesetzt sind, oder die zu diesen hinzutreten);

2.2.Investitionen

25.  weist darauf hin, dass es höherer Investitionen in diesem Bereich bedarf, um wettbewerbsfähig zu bleiben; weist darauf hin, dass die Investitionen und Innovationen in diesem Bereich zwar größtenteils von privatwirtschaftlichen Unternehmen getätigt werden, die Mitgliedstaaten und die Kommission aber auch darin bestärkt werden sollten, weiterhin in die Forschung in diesem Bereich zu investieren und ihre Entwicklungsprioritäten zu skizzieren; begrüßt den Vorschlag zu InvestEU und andere öffentlich-private Partnerschaften, die die private Finanzierung fördern werden; ist der Auffassung, dass die Koordinierung der privaten und öffentlichen Investitionen gefördert werden sollte, um eine gezielte Entwicklung sicherzustellen;

26.  betont, dass Investitionen in KI, die erhebliche Unsicherheitswerte aufweisen können, durch Finanzmittel der EU, zum Beispiel von der Europäischen Investitionsbank (EIB), dem Europäischen Investitionsfonds (EIF) oder über InvestEU und den Europäischen Fonds für strategische Investitionen (EFSI), Systeme, die bei der Risikoteilung helfen können, ergänzt werden sollten;

27.  fordert die Kommission auf, eine EU-Finanzierung für als Waffe eingesetzte KI nicht zuzulassen; fordert die Kommission auf, Unternehmen, die künstliches Bewusstsein erforschen und entwickeln, von der Finanzierung durch die EU auszuschließen;

28.  empfiehlt der Kommission, dafür zu sorgen, dass das geistige Eigentum an Forschung, die mit EU-Finanzmitteln durchgeführt worden ist, in der EU und bei europäischen Universitäten verbleibt;

2.3.Innovationen, gesellschaftliche Akzeptanz und Verantwortung

29.  weist darauf hin, dass bislang alle großen technischen Fortschritte einen Übergangszeitraum durchlaufen haben, in dem eine Mehrheit der Gesellschaft die Technologie besser kennenlernen musste, um sie in ihren Lebensalltag integrieren zu können;

30.  stellt fest, dass die Zukunft dieser Technologie von der gesellschaftlichen Akzeptanz abhängt und dass der angemessenen Vermittlung ihrer Vorteile größeres Gewicht beigemessen werden muss, um ein besseres Verständnis der Technologie und ihrer Anwendungen sicherzustellen; stellt ferner fest, dass es weniger Innovationsimpulse in dieser Branche geben wird, wenn die Gesellschaft nicht über KI-Technologien informiert wird;

31.  ist der Auffassung, dass die öffentliche Akzeptanz davon abhängt, wie die Öffentlichkeit über die Chancen, Herausforderungen und Entwicklungen der künstlichen Intelligenz informiert wird; empfiehlt den Mitgliedstaaten und der Kommission, den Zugang zu glaubwürdigen Informationen zu erleichtern, in denen die wichtigsten die KI und die Robotik betreffenden Anliegen, z. B. Privatsphäre, Sicherheit und Transparenz bei der Entscheidungsfindung, angesprochen werden;

32.  begrüßt den Einsatz regulatorischer „Sandkästen“, um in Zusammenarbeit mit den Regulierungsbehörden innovative neue Ideen einzuführen, die es ermöglichen, von Anfang an Sicherheitsvorkehrungen in die Technologie zu integrieren und so ihren Markteintritt zu erleichtern und zu fördern; betont, dass KI-spezifische regulatorische „Sandkästen“ eingeführt werden müssen, um den sicheren und wirksamen Einsatz von KI-Technologien in einer realen Umgebung zu erproben;

33.  stellt fest, dass es für eine stärkere gesellschaftliche Akzeptanz künstlicher Intelligenz Zusicherungen geben muss, dass die eingesetzten Systeme unbedenklich und sicher sind;

34.  stellt fest, dass künstliche Intelligenz und Sprachtechnologie wichtige Anwendungen beisteuern können, um Europas Einheit in Vielfalt zu fördern, z. B. automatisierte Übersetzung, Dialogsysteme und persönliche Assistenten, Schnittstellen für gesprochene Sprache für Roboter und das Internet der Dinge, Smart Analytics, automatische Erkennung von Onlinepropaganda, gezielten Falschmeldungen, Hetze;

2.4.Unterstützende Voraussetzungen: Konnektivität, Datenzugang und Hochleistungsrechnen und Cloud-Infrastruktur

35.  betont, dass die Integration von Robotik und KI-Technologie in Wirtschaft und Gesellschaft eine digitale Infrastruktur erfordert, die allgegenwärtige Konnektivität ermöglicht;

36.  betont, dass Konnektivität eine Voraussetzung dafür ist, dass Europa Teil der Gigabitgesellschaft wird, und dass KI ein deutliches Beispiel dafür ist, dass die Nachfrage nach hochwertiger, schneller, sicherer und allgegenwärtiger Konnektivität exponentiell wächst; ist davon überzeugt, dass die Europäische Union und die Mitgliedstaaten weiterhin Maßnahmen fördern sollten, um Anreize für Investitionen in Netze mit sehr hoher Kapazität und deren Inanspruchnahme in der EU zu schaffen;

37.  betont, dass eine rasche, sichere und gesicherte Entwicklung des 5G-Standards von wesentlicher Bedeutung ist, um sicherzustellen, dass die EU die Vorteile der KI voll ausschöpfen und vor Bedrohungen der Cybersicherheit schützen kann, indem sie die Erneuerung und Entwicklung von Industrien und Dienstleistungen, die das Rückgrat der europäischen Wirtschaft bilden, ermöglicht und das Entstehen neuer Dienstleistungen, Produktionsmuster und Märkte fördert, was für die Sicherung neuer Arbeitsplätze und eines hohen Beschäftigungsniveaus von wesentlicher Bedeutung ist;

38.  erinnert daran, dass die Verfügbarkeit von hochwertigen und aussagekräftigen Daten für echte Wettbewerbsfähigkeit in der KI-Branche von wesentlicher Bedeutung ist, und fordert die Behörden auf, Mittel und Wege zu finden, Daten zu erzeugen, zu teilen und zu steuern, indem öffentliche Daten zu einem gemeinsamen Gut gemacht, gleichzeitig jedoch die Privatsphäre und sensible Daten geschützt werden;

39.  betont, dass beim Deep-Learning hochwertige Daten verwendet werden müssen; stellt fest, dass die Verwendung von Daten geringer Qualität oder Daten, die nicht mehr aktuell, unvollständig oder falsch sind, zu schlechten Vorhersagen und dadurch zu Diskriminierung und Voreingenommenheit führen kann;

40.  ist davon überzeugt, dass dank des neuen Regelwerks für den freien Verkehr nicht personenbezogener Daten in der Union immer mehr Daten für datengesteuerte Innovationen zur Verfügung stehen, wodurch es für KMU und Start-up-Unternehmen leichter wird, innovative, KI-fähige Dienstleistungen zu entwickeln und neue Märkte zu erschließen, während es Bürgern und Unternehmen ermöglicht wird, in den Genuss besserer Produkte und Dienstleistungen zu kommen;

41.  stellt fest, dass KI das Potenzial besitzt, Effizienz, Komfort und Gemeinwohl in vielen Bereichen zu steigern, wenn die etablierten industriellen Interessenträger mit KI-Entwicklern zusammenarbeiten; stellt darüber hinaus fest, dass sich eine große Menge an Daten, die nicht von vornherein personenbezogen sind, derzeit im Besitz von Interessenträgern befindet und durch Partnerschaften genutzt werden könnte, um ihre Effizienz zu erhöhen; ist der Ansicht, dass eine Voraussetzung dafür, dass dies verwirklicht wird, ist, dass die Nutzer und die Entwickler von KI zusammenarbeiten;

42.  betont, wie wichtig Interoperabilität und Richtigkeit der Daten sind, damit für ein hohes Maß an Zuverlässigkeit und für Sicherheitsstandards bei neuen Technologien gesorgt wird;

43.  ist überzeugt, dass der Erfolg von KI-Anwendungen, die auf Nutzer in der ganzen EU zugeschnitten sind, oft ein umfangreiches Wissen über die lokalen Märkte sowie den Zugang zu geeigneten lokalen Daten und deren Einsatz für die Datensatzschulung, Systemerprobung und -validierung, insbesondere in Bereichen, die mit der Verarbeitung natürlicher Sprache zusammenhängen, erfordert; fordert die Mitgliedstaaten auf, die Verfügbarkeit hochwertiger, interoperabler und offener Daten der öffentlichen Hand sowie in privatem Besitz zu fördern;

44.  betont, dass für eine größtmögliche Übereinstimmung mit der Politik der Europäischen Union im Bereich der Massendaten gesorgt werden muss;

45.  begrüßt die Maßnahmen zur Erleichterung und Unterstützung des grenzüberschreitenden Datenaustauschs und der gemeinsamen Datennutzung;

46.  stellt fest, dass das Potenzial des Datenaustauschs bislang nicht ausgeschöpft wurde und große Datenmengen nicht in vollem Maße genutzt werden;

47.  stellt eine Zurückhaltung beim Datenaustausch fest und fordert nachdrücklich Maßnahmen zur Förderung dieses Datenaustauschs; stellt fest, dass das Fehlen einheitlicher Standards auch eine große Rolle bei der Fähigkeit zum Datenaustausch spielt;

48.  begrüßt Regelungen wie die Verordnung über den freien Datenverkehr und weist auf die Bedeutung hin, die sie in Bereichen wie der KI für effektivere und effizientere Prozesse hat;

49.  erkennt an, dass stärkere marktgestützte Anreize geschaffen werden müssen, damit der Zugang zu und die gemeinsame Nutzung von Daten gefördert werden; stellt fest, dass offene Daten ein Risiko darstellen, wenn es darum geht, überhaupt in Daten zu investieren;

50.  fordert mehr Klarheit bei den Regeln für den Besitz von Daten und den bestehenden rechtlichen Rahmenbedingungen; stellt fest, dass die Unsicherheit im Hinblick auf die Regulierung zu übervorsichtigen Reaktionen der Industrie geführt hat;

51.  hebt die Bedeutung der europäischen Initiativen für Cloud Computing und High-Performance-Computing hervor, mit denen sich die Entwicklung von Deep-Learning-Algorithmen und die Verarbeitung großer Datenmengen weiter verbessern wird; ist der festen Überzeugung, dass die Infrastruktur sowohl für öffentliche als auch für private Einrichtungen mit Sitz in der Union und anderswo offen sein und möglichst wenig einschränkenden Zugangskriterien unterliegen muss, damit diese Initiativen erfolgreich und für die Entwicklung der KI relevant sein können;

52.  begrüßt die Gründung des Gemeinsamen Unternehmens für europäisches Hochleistungsrechnen; betont, dass Hochleistungsrechnen und Dateninfrastruktur wesentliche Voraussetzungen sind, um für die Entwicklung von KI-Technologien und -Anwendungen ein Ökosystem für wettbewerbsfähige Innovation zu gewährleisten;

53.  betont, dass dem Cloud-Computing eine Schlüsselrolle als Triebkraft für die Nutzung von KI zukommt; betont, dass der Zugang zu Cloud-Diensten es privatwirtschaftlichen Unternehmen, öffentlichen Stellen, Forschungs- und akademischen Einrichtungen und den Nutzern ermöglicht, KI auf effiziente und wirtschaftlich tragfähige Weise zu entwickeln und zu nutzen;

3.Industriepolitik

54.  weist erneut darauf hin, dass im Bereich der künstlichen Intelligenz und der Robotik bereits seit langem industrielle Anwendungen existieren und es immer mehr Fortschritte auf diesem Gebiet gibt, die breite und vielfältige Anwendungen für alle menschlichen Tätigkeiten mit sich bringen; ist der Auffassung, dass jeder Rechtsrahmen Flexibilität beinhalten muss, die Innovationen und eine ungehinderte Entwicklung neuer Technologien und Anwendungen von KI möglich macht;

55.  betont, dass der Anwendungsbereich und Anwendungen für KI als Ergebnis eines am Bedarf und an Grundsätzen orientierten Gestaltungsprozesses ermittelt werden sollten, bei dem das beabsichtigte Ergebnis und der aus wirtschaftlicher und sozialer Sicht beste Weg, es zu erreichen, berücksichtigt werden; ist der Auffassung, dass es zu einer tauglichen Umsetzung führen wird und auch die Risiken und Schattenseiten behandelt werden, wenn es in allen Stadien der Entwicklung eindeutige politische Vorgaben gibt;

56.  empfiehlt, öffentlich-private Partnerschaften zu nutzen und zu fördern, um Lösungen für wichtige Herausforderungen zu erkunden, beispielsweise den Aufbau eines Datenökosystems, die Förderung des Zugangs zu Daten, des gemeinsamen Nutzens von Daten und des Datenflusses, während gleichzeitig die Rechte der Menschen auf Privatsphäre geschützt werden;

57.  betont, dass eine erhebliche Herausforderung für die Zukunft von KI-Systemen in der inkonsistenten Qualität der Technologie der Softwareerstellung liegt und dass daher ein großer Bedarf besteht, die Konstruktion und Nutzung von KI-Systemen zu normen;

58.  nimmt die weltweit unternommenen Bemühungen zur Kenntnis und erkennt an, dass eine proaktive Zusammenarbeit mit den Partnern (insbesondere im Rahmen der OECD und von G20) erforderlich ist, um die Richtung, in die sich diese Industrie entwickelt, so zu gestalten, dass die EU wettbewerbsfähig bleibt und ein gleichberechtigter Zugang der Nationen sowie eine möglichst breite gemeinsame Nutzung der Vorteile der KI-Entwicklung sichergestellt werden;

59.  stellt mit Besorgnis fest, dass eine Reihe nichteuropäischer Unternehmen und Einrichtungen aus Drittländern zunehmend KI-basierte Prognosemodelle einsetzen, um Dienstleistungen zu erbringen und eine Wertschöpfung auf den EU-Märkten, insbesondere auf lokaler Ebene, zu erzielen sowie politische Stimmungslagen zu registrieren und möglicherweise zu beeinflussen, was eine potenzielle Bedrohung für die technologische Souveränität der Unionsbürger darstellt;

60.  betont, dass sich die öffentliche Unterstützung für KI auf die strategischen Wirtschaftszweige konzentrieren sollte, in denen die Industrien der EU die größten Chancen haben, weltweit eine führende Rolle zu spielen, und die einen Mehrwert für die Allgemeinheit bieten;

3.1.Vorrangige Wirtschaftszweige

3.1.1.Öffentlicher Sektor

61.  betont, dass KI und Robotik im öffentlichen Sektor eine Reihe von Vorteilen bieten, und begrüßt es, dass mehr Investitionen in Forschung und Entwicklung getätigt werden, damit dieser Bereich floriert;

62.  betont, dass die Mitgliedstaaten auch in Bildungs- und KI-Schulungsprogramme investieren sollten, mit denen die Beschäftigten im öffentlichen Sektor bei der Einführung und Nutzung von KI und Robotik unterstützt werden; fordert außerdem Informationskampagnen für die Bürger, die die Dienste der KI-Systeme und Robotik für den öffentlichen Sektor nutzen werden, damit man ihre Befürchtungen über den Verlust der Kontrolle über ihre personenbezogenen Daten zerstreut und Vertrauen aufbaut;

63.  betont, dass Informationen des öffentlichen Sektors eine außergewöhnliche Datenquelle darstellen, die zu einem raschen Fortschritt beitragen und zur Entwicklung einer neuen Strategie der Nutzung neuer digitaler Technologien, insbesondere der künstlichen Intelligenz, führen können;

64.  ist der Auffassung, dass die Reform der öffentlichen Verwaltung bei der Entscheidungsfindung und die Verbesserung der öffentlichen Dienste, nachdrücklich unterstützt werden kann, indem der öffentliche Sektor vertrauenswürdige künstliche Intelligenz einsetzt, was auch eine breitere Akzeptanz von KI in anderen Branchen befördern kann;

65.  nimmt den Einsatz von Robotik-Prozessautomatisierung und die Auswirkungen zur Kenntnis, die sie auf die Verbesserung der Prozesse im öffentlichen Sektor hat; stellt fest, dass sie mit bestehenden Systemen kompatibel ist;

66.  fordert die Mitgliedstaaten auf, diesen digitalen Wandel zu leiten, indem sie sich als hauptverantwortliche Nutzer und Käufer von KI-Technologie positionieren; betont in diesem Zusammenhang, dass die Mitgliedstaaten ihre Datenpolitik unter anderem in Bezug auf die Erhebung, Verwendung, Speicherung oder Ergänzung öffentlicher Daten anpassen müssen, damit der Einsatz von KI in allen Bereichen des öffentlichen Sektors möglich wird;

67.  betont, dass die Öffentlichkeit in die Entwicklung künstlicher Intelligenz einbezogen werden muss; fordert die Kommission daher auf, sämtliche Algorithmen, Instrumente und Technologien, die aus öffentlichen Mitteln finanziert oder kofinanziert werden, frei zugänglich zu machen;

68.  ist der Ansicht, dass künstliche Intelligenz von außerordentlichem Vorteil sein wird, wenn es um die Umsetzung des Grundsatzes der einmaligen Erfassung geht, indem die Kombination von Datenbanken und Informationen aus unterschiedlichen Quellen ermöglicht wird, wodurch die Interaktion der Bürger mit öffentlichen Verwaltungen erleichtert wird;

69.  fordert die Kommission auf, die Bürger vor allen KI-Systemen zur Festlegung von Ranglisten in öffentlichen Verwaltungen zu schützen, wie sie in ähnlicher Form in China eingesetzt werden sollen;

3.1.2.Gesundheit

70.  betont, dass der menschliche Kontakt ein wesentlicher Aspekt der Pflege von Menschen ist;

71.  stellt fest, dass KI und Robotik in der Pflege von Nutzen sein können, da die Lebenserwartung zunimmt, zum Beispiel indem sie Ärzten und Pflegenden dabei helfen, mehr Zeit für hochwertige Tätigkeiten zu haben (z. B. Interaktion mit den Patienten);

72.  weist auf die Auswirkungen hin, die KI bereits auf das Wohlbefinden von Menschen und die Bereiche Prävention, Diagnose und Forschung hat, und auf ihr großes Potenzial für die Entwicklung einer personalisierten Versorgung; ist der Ansicht, dass dies letztendlich zu einem tragfähigeren, effizienteren und stärker ergebnisorientierten Gesundheitssystem führen wird;

73.  stellt fest, dass die Fehlerquote bei der Kombination von KI und menschlicher Diagnose in der Regel deutlich niedriger ist als bei der Diagnose allein durch Ärzte(8);

74.  betont, dass die Nutzung von Daten im Gesundheitswesen sorgfältig und unter ethischen Gesichtspunkten überwacht werden muss und keineswegs den Zugang zu Sozialschutz oder Sozialversicherungen behindern darf;

75.  vertritt die Ansicht, dass die Träger von implantierten medizinischen Geräten, in denen KI zum Einsatz kommt, das Recht haben sollten, den in dem Gerät eingesetzten Quellcode einzusehen und zu verändern;

76.  weist darauf hin, dass den Massendaten im Gesundheitsbereich besondere Aufmerksamkeit gewidmet werden sollte, um die Chancen, die diese eröffnen – etwa die Verbesserung der Gesundheit einzelner Patienten sowie der Leistung der öffentlichen Gesundheitssysteme der Mitgliedstaaten –, zu maximieren, ohne die ethischen Standards zu senken und ohne den Datenschutz oder die Sicherheit der Bürger zu gefährden;

77.  hebt jedoch hervor, dass das derzeitige System für die Zulassung von medizinischen Geräten für Technologien der künstlichen Intelligenz möglicherweise nicht geeignet ist; fordert die Kommission auf, die Fortschritte bei diesen Technologien genau zu beobachten und erforderlichenfalls Änderungen am Regulierungsrahmen vorzuschlagen, damit der Rahmen für die Aufteilung der Haftung zwischen Nutzer (Arzt/Angehöriger der Gesundheitsberufe), Hersteller der technischen Lösung und der die Behandlung durchführenden medizinischen Einrichtung geklärt wird; weist darauf hin, dass der Frage der gesetzlichen Haftung für Schäden beim Einsatz der künstlichen Intelligenz im Gesundheitswesen grundlegende Bedeutung zukommt; betont deshalb, dass sichergestellt werden muss, dass der Nutzer nicht dazu verleitet wird, immer der von dem technischen Gerät vorgeschlagenen Diagnose oder Behandlung zu folgen, weil er befürchtet, dass eine Haftungsklage gegen ihn erhoben wird, wenn er aufgrund seines fundierten professionellen Urteils zu auch nur teilweise anderen Schlussfolgerungen kommt;

78.  fordert die Mitgliedstaaten und die Kommission auf, die Finanzmittel von Technologien der künstlichen Intelligenz im öffentlichen und im privaten Gesundheitswesen aufzustocken; begrüßt in diesem Zusammenhang die von 24 Mitgliedstaaten der EU sowie Norwegen unterzeichnete Erklärung über Zusammenarbeit, mit der die Auswirkungen von Investitionen in künstliche Intelligenz europaweit gestärkt werden sollen; fordert die Mitgliedstaaten und die Kommission auf, der Frage nachzugehen, ob die Programme zur Ausbildung des ärztlichen und pflegerischen Personals aktualisiert und auf europäischer Ebene harmonisiert werden sollten, damit in den einzelnen Mitgliedstaaten für ein hohes Kompetenzniveau und für gleichwertige Ausgangsbedingungen gesorgt ist, wenn es um die Kenntnisse über die und die Verwendung der modernsten technischen Instrumente im Bereich der roboterunterstützten Chirurgie und Biomedizin und der künstlichen Intelligenz für biomedizinische Bildgebung geht;

79.  fordert die Kommission auf, an Strategien und politischen Maßnahmen zu arbeiten, mit denen die EU auf dem immer größer werdenden Gebiet der Gesundheitstechnologie weltweit eine führende Rolle einnehmen und gleichzeitig dafür gesorgt werden kann, dass die Patienten Zugang zu einer nahtlosen und wirksamen medizinischen Versorgung haben;

80.  erkennt an, dass eine bessere Diagnostik Millionen Leben retten könnte, da nach Angaben der Weltgesundheitsorganisation 89 % der vorzeitigen Todesfälle in ganz Europa durch nicht übertragbare Krankheiten verursacht werden;

81.  hebt den Beitrag hervor, den künstliche Intelligenz und Robotertechnik zu innovativen präventiven, klinischen und rehabilitativen Praktiken und Techniken im Gesundheitswesen leisten, insbesondere im Hinblick auf den Nutzen für Patienten mit Behinderungen;

82.  erkennt an, dass durch den verstärkten Einsatz von Sensoren im Bereich Robotik der Umfang der Pflege erweitert wurde und die Patienten stärker persönlich zugeschnittene Behandlungen und Dienstleistungen erhalten, mehr aussagekräftige Daten erzeugen sowie von zu Hause aus Pflegedienste aus der Ferne erhalten können;

83.  stellt fest, dass die Unionsbürger laut einer Eurobarometer-Umfrage vom Mai 2017(9) bei dem Gedanken, dass Roboter in der täglichen medizinischen Pflege eingesetzt werden, derzeit immer noch Unbehagen empfinden; fordert die Kommission und die Mitgliedstaaten auf, Strategien und Kommunikationskampagnen zu entwickeln, um die Vorteile des Einsatzes von Robotern im Alltag ins Bewusstsein zu rücken; verweist dabei insbesondere auf die ehrgeizigen Ziele der japanischen Roboterstrategie;

3.1.3.Energie

84.  stellt fest, dass KI Energielieferanten die Möglichkeit bietet, von der präventiven zur vorausschauenden Anlageninstandhaltung überzugehen und eine effizientere Energieerzeugung zu erzielen, und zwar indem, insbesondere im Bereich der Energie aus erneuerbaren Quellen, die Zuverlässigkeit verbessert und die effizientesten Standorte für neue Anlagen gefunden werden können, was wiederum ein besseres Nachfragemanagement zur Folge hätte;

85.  stellt fest, dass genauere Daten, die mithilfe von KI über das Potenzial der Energieerzeugung aus erneuerbaren Quellen erstellt werden, eine höhere Investitionssicherheit für Unternehmen und Personen schaffen werden, wodurch der Übergang zu erneuerbaren Energiequellen beschleunigt und ein Beitrag zur langfristigen Strategie der Europäischen Union für eine klimaneutrale Wirtschaft geleistet wird;

86.  stellt fest, dass Lösungen mit Sensoren bereits genutzt werden, um den Energieverbrauch in Häusern zu steuern, und dass dies zu erheblichen Energie- und Kosteneinsparungen geführt hat;

87.  begrüßt die Möglichkeiten von KI, die Auswirkungen menschlicher Tätigkeit auf das Klima zu simulieren, zu identifizieren und abzuschwächen; stellt fest, dass die stärkere Digitalisierung zwar auch neuen Energiebedarf mit sich bringt, aber auch zuvor energieintensive Bereiche effizient machen und für ein besseres Verständnis von Abläufen sorgen kann, was diese verbessert;

88.  betont, dass die Energienetze mit zunehmender Digitalisierung des Energiesektors immer größer und stärker der Gefahr von Cyberangriffen ausgesetzt sind; fordert die Mitgliedstaaten und die Kommission auf, den digitalen Wandel im Energiebereich mit Maßnahmen zur Verbesserung der Cybersicherheit zu begleiten, etwa im Bereich künstliche Intelligenz;

3.1.4.Verkehr

89.  begrüßt, dass KI und Robotik in der Lage sind, unsere Verkehrssysteme durch die Einführung von fahrerlosen Zügen und Kraftfahrzeugen erheblich zu verbessern; fordert, dass in diesem Bereich mehr geforscht wird und mehr Investitionen getätigt werden, um eine sichere und wirksame Entwicklung sicherzustellen; hebt die hervorragenden Chancen hervor, die sich sowohl größeren Technologieunternehmen als auch KMU bieten;

90.  stellt fest, dass die Verringerung menschlichen Versagens im Verkehr das System potenziell effizienter machen kann – mit weniger Unfällen dank mehr Klarheit bei der Bewertung und der vorausschauenden Technologie, weniger Verspätungen, da Verkehrsmuster erfasst und Verbindungen pünktlich angeboten werden können, sowie größeren Einsparungen durch weniger fahrerbedingte Fehler und gestraffte interne Verfahren;

91.  stellt fest, dass durch die künftige stärkere Verbreitung autonomer Fahrzeuge Gefahren für die Datensicherheit und in Form von technischem Versagen entstehen sowie die Verantwortung vom Fahrer auf den Hersteller verlagert wird, wodurch Versicherungsunternehmen gezwungen werden, die Art und Weise zu verändern, wie sie Risiken in ihren Versicherungen berücksichtigen;

92.  stellt fest, dass die Sprachübermittlung zunehmend bei Fahrzeugen und Verkehrssystemen eingesetzt wird, wobei diese Funktionen aber nur für eine Handvoll europäischer Sprachen verfügbar sind, weshalb dafür gesorgt werden sollte, dass alle EU-Bürger diese technischen Möglichkeiten in ihrer Muttersprache nutzen können;

3.1.5.Landwirtschaft und Lebensmittelkette

93.  stellt fest, dass KI das Potenzial hat, einen bahnbrechenden Wandel des derzeitigen Lebensmittelsystems hin zu einem vielfältigeren, widerstandsfähigeren, stärker regional angepassten und gesünderen Modell für die Zukunft herbeizuführen;

94.  stellt fest, dass KI bei Bemühungen, Fragen der Ernährungssicherheit in Angriff zu nehmen, Ausbrüche von Hungersnot und lebensmittelbedingen Krankheiten vorauszusagen, Lebensmittelverluste und Abfall zu verringern und dazu beizutragen, die nachhaltige Bewirtschaftung von Boden, Wasser und sonstigen Umweltressourcen, die für die Gesundheit des Ökosystems entscheidend sind, zu verbessern, eine wichtige Rolle spielen kann;

95.  weist darauf hin, dass KI an kritischen Punkten entlang der Wertschöpfungskette des Lebensmittelsystems von der Erzeugung bis zum Verzehr eingreifen und unsere Fähigkeit verbessern kann, die Art und Weise, wie wir Lebensmittel erzeugen, verarbeiten und kaufen, grundlegend zu verändern, und zwar durch fundiertere Verfahren zur Raumplanung;

96.  stellt fest, dass KI die Ressourcenverwaltung und die Effizienz des Produktionsmitteleinsatzes verbessern, zu einer Verringerung des nach der Ernte anfallenden Abfalls beitragen und Verbrauchsentscheidungen beeinflussen kann;

97.  stellt fest, dass KI in Gestalt von Präzisionslandwirtschaft das Potenzial für einen tiefgreifenden Wandel der landwirtschaftlichen Produktion sowie eine umfassendere Raumplanung besitzt, indem sie die Flächennutzungsplanung verbessert, Änderungen in der Landnutzung voraussagt und die Pflanzengesundheit überwacht, wobei sie gleichzeitig das Potenzial besitzt, die Vorhersage extremer Wetterereignisse zu verändern;

98.  stellt fest, dass sich durch KI die Lieferung von Betriebsmitteln, die Schädlingsbekämpfung und die Verwaltung landwirtschaftlicher Betriebe radikal verändern könnten, die landwirtschaftlichen Methoden beeinflussen, die Art und Weise, wie Versicherungsprodukte vermittelt werden, verändern oder dazu beitragen lässt, künftige Ausbrüche von Hungersnöten und schwerer akuter Unterernährung vorauszusagen und zu vermeiden;

99.  stellt fest, dass mithilfe von KI bessere Entscheidungen getroffen werden können, wie landwirtschaftliche Bewirtschaftungssysteme gesteuert und Anreize für die Entwicklung von Entscheidungshilfen und Empfehlungssysteme geschaffen werden, wobei die Effizienz und Gesundheit landwirtschaftlicher Betriebe verbessert werden;

3.1.6.Cybersicherheit

100.  stellt fest, dass Cybersicherheit ein wichtiger Aspekt der KI ist, insbesondere angesichts der Herausforderungen an die Transparenz in KI auf hohem Niveau; ist der Auffassung, dass die technologische Perspektive einschließlich der Prüfung des Quellcodes und der Anforderungen in Bezug auf Transparenz und Rechenschaftspflicht durch einen institutionellen Ansatz ergänzt werden sollte, der sich mit den Herausforderungen der Einführung von in anderen Ländern entwickelter KI in den EU-Binnenmarkt befasst;

101.  fordert die umgehende Umsetzung des Rechtsakts zur Cybersicherheit; weist darauf hin, dass mit der Entwicklung von EU-Zertifizierungssystemen eine widerstandsfähigere Entwicklung und Einführung sicherer KI- und Robotersysteme sichergestellt werden sollte;

102.  ist der Auffassung, dass die KI gleichzeitig eine Bedrohung der Cybersicherheit und das Instrument zur Bekämpfung von Cyberangriffen sein kann; ist der Auffassung, dass die Agentur der Europäischen Union für Netz- und Informationssicherheit (ENISA) einen Aktionsplan zur Cybersicherheit im Bereich der künstlichen Intelligenz erstellen sollte, mit dem man die für KI spezifischen Bedrohungen und Schwachstellen bewerten und beheben sollte;

103.  betont, dass es wichtig ist, die industrielle Basis als strategische Komponente der Entwicklung einer sicheren künstlichen Intelligenz zu stärken; betont, dass Europa in seine technologische Unabhängigkeit investieren muss, damit ein ehrgeiziges Niveau an Cybersicherheit, Datenschutz und vertrauenswürdigen IKT-Diensten sichergestellt ist, betont, dass die EU dringend ihre eigene Infrastruktur und ihre eigenen Rechenzentren, Clouds und Komponenten entwickeln muss, etwa Grafikprozessoren und Chips;

104.  stellt fest, dass mit der Entwicklung der künstlichen Intelligenz und wegen der immer ausgefeilteren Methoden von Hackern effiziente Cybersicherheitslösungen unerlässlich sein werden;

105.  erkennt an, dass mit der Nutzung von KI-Lösungen im Bereich der Cybersicherheit die Vorhersage, Verhütung und Eindämmung möglicher Bedrohungen möglich sein werden;

106.  betont, dass die KI zwar in der Lage sein wird, für eine bessere Erkennung von Bedrohungen zu sorgen, dass es aber unbedingt notwendig ist, dass diese Bedrohungen von Menschen eingeschätzt werden, um festzustellen, ob sie echt sind oder nicht;

107.  fordert die Kommission auf, den Einsatz von Cybersicherheitsanwendungen auf Grundlage der Blockchain-Technologie zu prüfen, mit denen die Widerstandsfähigkeit, Vertrauenswürdigkeit und Robustheit von KI-Infrastrukturen durch Modelle der Datenverschlüsselung ohne Zwischenstellen verbessert werden kann; fordert die Kommission auf, die Möglichkeit zu prüfen, die Bürger für ihre Daten mit der Vergabe von Gutscheinen zu belohnen;

108.  fordert die Kommission auf, die Kapazitäten im Bereich der Cybersicherheit der EU zu verstärken, indem die Anstrengungen in ganz Europa stärker kombiniert und koordiniert werden;

3.1.7.KMU

109.  erkennt die Bedeutung von KMU für den Erfolg der künstlichen Intelligenz an; begrüßt die Initiative der Kommission zur Schaffung einer Plattform für KI auf Anforderung, mit der der Technologietransfer vorangetrieben und das Wachstum von Jungunternehmen und KMU gefördert wird; fordert die Kommission auf, Zentren für digitale Innovation im Bereich KI zu fördern, die nicht zur Schaffung zusätzlicher Verwaltungsebenen führen, sondern sich auf die Beschleunigung von Investitionen in Projekte konzentrieren, die sich als effizient erwiesen haben;

110.  stellt fest, dass die Kosten für Investitionen in KI zu hohen Eintrittsbarrieren für KMU führen; stellt fest, dass eine weit verbreitete Nutzung von KI durch die Verbraucher das Risiko dieser Investitionen für KMU verringern würde;

111.  betont, dass sowohl die Nutzung von KI durch KMU als auch ihre Nutzung durch die Verbraucher gefördert werden müssen;

112.  betont, dass gezielte Maßnahmen getroffen werden müssen, damit KMU und Startups in der Lage sind, KI-Technologien einzusetzen und gewinnbringend zu nutzen; ist davon überzeugt, dass die Abschätzungen der Auswirkungen neuer EU-Rechtsvorschriften auf die technologische Entwicklung von KI verpflichtend sein sollten und dass solche Folgenabschätzungen auch auf nationaler Ebene in Betracht gezogen werden sollten;

113.  betont, dass KI ein Motor für KMU sein kann, aber auch den Durchbruch bei großen Erstanwendern und Entwicklern verstärkt; gelangt aus wettbewerblicher Sicht zu der Auffassung, dass sichergestellt werden muss, dass neue Verzerrungen angemessen ausgewertet und angegangen werden;

4.Rechtsrahmen für künstliche Intelligenz und Robotik

114.  fordert die Kommission auf, die geltenden Vorschriften mit Blick auf die Förderung eines rechtlichen Umfelds, das für die Entwicklung der künstlichen Intelligenz vorteilhaft und mit dem Grundsatz der besseren Rechtsetzung zu vereinbaren ist, regelmäßig neu zu bewerten, um sicherzustellen, dass sie in Bezug auf die künstliche Intelligenz ihren Zweck erfüllt, wobei auch die Grundwerte der EU zu achten sind, und fordert die Kommission ferner auf, neue Vorschläge möglichst zu ändern oder zu ersetzen, wenn dies nachweislich nicht der Fall ist;

115.  begrüßt die Einrichtung von partizipativen Plattformen auf KI-Basis, die es den Bürgern ermöglichen, wirklich gehört zu werden und mit den Regierungen zu interagieren, indem sie Vorschläge unterbreiten, und zwar auch im Rahmen partizipativer Haushaltspläne und anderer Instrumente der direkten Demokratie; betont, dass Bottom-up-Projekte die Bürgerbeteiligung fördern und den Menschen helfen können, auf wirkungsvollere und demokratischere Weise fundierte Entscheidungen zu treffen;

116.  stellt fest, dass künstliche Intelligenz ein Begriff ist, der ein breites Spektrum an Produkten und Anwendungen umfasst, angefangen von der Automatisierung über Algorithmen bis hin zu enger künstliche Intelligenz und allgemeiner künstlichen Intelligenz; ist der Auffassung, dass an ein umfassendes Gesetz oder eine umfassende Regelung zu künstlicher Intelligenz mit Vorsicht herangegangen werden sollte, da eine branchenbezogene Regulierung womöglich zu Maßnahmen führt, die allgemein genug sind, aber so weit verfeinert sind, dass sie für die Industrie bedeutsam sind;

117.  betont, dass der politische Rahmen so gestaltet sein muss, dass die Entwicklung aller Arten von KI – und nicht nur von Deep-Learning-Systemen, die sehr große Datenmengen benötigen – gefördert wird;

4.1.Ein Binnenmarkt für künstliche Intelligenz

118.  hebt hervor, wie wichtig der Grundsatz der gegenseitigen Anerkennung bei der grenzüberschreitenden Nutzung intelligenter Waren, darunter Roboter und Robotersysteme, ist; weist erneut darauf hin, dass gegebenenfalls mithilfe von Tests, Zertifizierungen und der Produktsicherheit sichergestellt werden sollte, dass bestimmte Güter aufgrund der Technikgestaltung und der Voreinstellungen sicher sind; weist in diesem Zusammenhang darauf hin, wie wichtig es ist, auch die mit künstlicher Intelligenz verbundenen ethischen Aspekte zu berücksichtigen;

119.  betont, dass mit den EU-Rechtsvorschriften in Bezug auf die Umsetzung der Strategie für einen digitalen Binnenmarkt Barrieren für den Einsatz von KI beseitigt werden sollten; fordert die Kommission auf, auszuwerten, wo der politische Rahmen und der Regelungsrahmen aktualisiert werden müssen, um einen europäischen Binnenmarkt für KI aufzubauen;

120.  stellt fest, dass in autonomen Fahrzeugen, wie zum Beispiel in autonomen Autos und zivilen Drohnen, zunehmend Robotik und künstliche Intelligenz zum Einsatz kommen; weist darauf hin, dass einzelne Mitgliedstaaten bereits eigene Gesetze für diesen Bereich erlassen haben bzw. dies in Erwägung ziehen, was zu einem Flickwerk einzelstaatlicher Rechtsvorschriften führen und so die Entwicklung autonomer Fahrzeuge behindern könnte; fordert daher ein einheitliches Regelwerk der EU, mit dem das richtige Gleichgewicht zwischen den Interessen und potenziellen Gefahren für Nutzer, Unternehmen und andere betroffene Parteien hergestellt und gleichzeitig eine Überregulierung der Robotik- und der KI-Systeme vermieden wird;

121.  fordert die Mitgliedstaaten nachdrücklich auf, ihre Systeme der beruflichen Aus- und Weiterbildung zu modernisieren, um dem wissenschaftlichen Fortschritt und den Entwicklungen im Bereich der künstlichen Intelligenz Rechnung zu tragen, wobei die Richtlinie über eine Verhältnismäßigkeitsprüfung(10) und die Richtlinie über die Anerkennung von Berufsqualifikationen(11) zu berücksichtigen sind, und gewerbliche Dienstleistungen aus der EU in den kommenden Jahrzehnten weltweit wettbewerbsfähig zu machen;

122.  betont, dass künstliche Intelligenz in vielen Branchen Anwendung findet, in denen eine Normung große Bedeutung zukommt, etwa in der intelligenten Fertigung, bei Robotern, fahrerlosen Fahrzeugen, im Bereich der virtuellen Realität, bei der Gesundheitsversorgung und Datenanalyse, und ist der Ansicht, dass eine EU-weite Normung im Bereich der künstlichen Intelligenz Innovationen begünstigen und einen hohen Verbraucherschutz sicherstellen wird; stellt fest, dass zwar zahlreiche Normen für Sicherheit, Zuverlässigkeit, Interoperabilität und Schutz bestehen, jedoch die weitere Förderung und Entwicklung gemeinsamer Normen für Robotik und künstliche Intelligenz erforderlich ist und Teil der Prioritäten der EU sein sollte; fordert die Kommission auf, in Zusammenarbeit mit den EU-Normungsgremien weiterhin aktiv mit internationalen Normungsgremien zusammenzuarbeiten, was die Verbesserung der Normen in diesem Bereich betrifft;

123.  weist erneut darauf hin, dass viele politische Aspekte, die für KI-fähige Dienstleistungen von Bedeutung sind, etwa Vorschriften über Verbraucherschutz und die Politik in den Bereichen ethische Fragen und Haftung, unter den bestehenden Rechtsrahmen für Dienstleistungen fallen, d. h. die Dienstleistungsrichtlinie(12), die Richtlinie über die Anerkennung von Berufsqualifikationen und die Richtlinie über den elektronischen Geschäftsverkehr(13); betont in diesem Zusammenhang, dass stets der Mensch für die letztendliche Entscheidung verantwortlich sein muss, was insbesondere für gewerbliche Dienstleistungen, etwa Berufe in den Bereichen Medizin, Justiz und Buchhaltung, gilt; ist der Auffassung, dass Überlegungen darüber angestellt werden müssen, ob die Aufsicht durch eine qualifizierte Fachkraft notwendig ist, damit legitime Interessen der Allgemeinheit geschützt und hochwertige Dienstleistungen erbracht werden;

124.  stellt fest, wie wichtig verbesserte digitale Dienstleistungen etwa virtuelle Assistenten, Chatbots und virtuelle Akteure sind, die beispiellose operative Effizienzgewinne mit sich bringen, wenngleich eingeräumt wird, dass eine auf den Menschen ausgerichtete und marktorientierte künstliche Intelligenz entwickelt werden muss, damit im Hinblick auf die Grenzen für die Eigenständigkeit der künstlichen Intelligenz und der Robotik bessere und zuverlässigere Entscheidungen getroffen werden können;

4.2.Personenbezogene Daten und Datenschutz

125.  betont, dass ein hohes Maß an Unbedenklichkeit, Sicherheit und Schutz der für die Kommunikation von Menschen mit Robotern und Systemen der künstlichen Intelligenz verwendeten Daten sichergestellt werden muss; fordert die Kommission und die Mitgliedstaaten daher auf, die Grundsätze der integrierten Sicherheit und des integrierten Datenschutzes in ihre Maßnahmen zu Robotik und künstlicher Intelligenz aufzunehmen;

126.  weist erneut darauf hin, dass das Recht auf Schutz des Privatlebens und das Recht auf Schutz personenbezogener Daten, die in Artikel 7 und 8 der Charta der Grundrechte und Artikel 16 des Vertrags über die Arbeitsweise der Europäischen Union verankert sind, für alle Bereiche der Robotik und der künstlichen Intelligenz gelten und dass der Rechtsrahmen der EU für den Datenschutz in vollem Umfang eingehalten werden muss; hebt die Verantwortung der Entwickler von Robotersystemen und künstlicher Intelligenz hervor, die Produkte so gestalten müssen, dass sie sicher sind und ihren Zweck erfüllen, und nach Verfahren für die Datenverarbeitung vorgehen müssen, die den geltenden Rechtsvorschriften und den Grundsätzen der Vertraulichkeit, der Anonymität, der gerechten Behandlung und des ordnungsgemäßen Verfahrens entsprechen;

127.  fordert die Kommission auf, dafür zu sorgen, dass sämtliche Rechtsvorschriften der Union für den Bereich der künstlichen Intelligenz Maßnahmen und Vorschriften enthalten, die der raschen technologischen Entwicklung in diesem Bereich Rechnung tragen, damit sichergestellt ist, dass die Rechtsvorschriften der Union nicht hinter der technologischen Entwicklung und der Einführung neuer Technologien zurückbleiben; betont, dass diese Rechtsvorschriften den Vorschriften über den Schutz der Privatsphäre und den Datenschutz entsprechen müssen; fordert eine Überarbeitung der Vorschriften, Grundsätze und Kriterien für die Nutzung von Kameras und Sensoren in Robotersystemen und Systemen künstlicher Intelligenz gemäß dem Rechtsrahmen der EU für den Datenschutz;

128.  fordert die Kommission auf, dafür zu sorgen, dass bei einem künftigen EU-Regulierungsrahmen für künstliche Intelligenz die Privatsphäre, die Vertraulichkeit der Kommunikation und der Schutz personenbezogener Daten, einschließlich der Grundsätze der Rechtmäßigkeit, der Fairness und Transparenz, des Datenschutzes durch Technik und datenschutzfreundliche Voreinstellungen, der Zweckbindung, der Speicherbegrenzung, der Richtigkeit und der Datenminimierung, in vollem Einklang mit dem Datenschutzrecht der Union sowie mit der Sicherheit, einschließlich der persönlichen Sicherheit, und anderen Grundrechten, etwa des Rechts auf Meinungs- und Informationsfreiheit, sichergestellt werden;

129.  betont, dass das Recht auf Privatsphäre stets respektiert werden muss und Einzelpersonen nicht als solche identifizierbar sein dürfen; betont, dass KI-Entwickler stets mit klarer, eindeutiger Zustimmung der betroffenen Personen handeln sollten, und ist der Ansicht, dass die KI-Entwickler deshalb die Verantwortung tragen, Verfahren für eine gültige Einwilligung, Vertraulichkeit, Anonymität, faire Behandlung und ordnungsgemäße Bearbeitung zu entwickeln und zu befolgen; betont, dass die Entwickler auf Ersuchen sämtliche betreffenden Daten zerstören und aus Datensätzen jeglicher Art vernichten müssen;

130.  weist darauf hin, dass der Verordnung (EU) 2018/1807 des Europäischen Parlaments und des Rates über einen Rahmen für den freien Verkehr nicht-personenbezogener Daten in der Europäischen Union(14) zufolge in dem Fall, dass es durch technologische Neuentwicklungen möglich ist, anonymisierten Daten wieder in personenbezogene Daten umzuwandeln, diese Daten als personenbezogene Daten behandelt werden müssen, und die Datenschutz-Grundverordnung (DSGV)(15) entsprechend gelten muss;

4.3.Haftungsfragen

131.  begrüßt die Initiative der Kommission, die Sachverständigengruppe für Haftung und neue Technologien mit dem Ziel einzusetzen, der EU Fachwissen über die Anwendbarkeit der Produkthaftungsrichtlinie(16) auf herkömmliche Produkte, neue Technologien und neue gesellschaftliche Herausforderungen bereitzustellen (Schulung zur Produkthaftungsrichtlinie) und die EU bei der Ausarbeitung von Grundsätzen zu unterstützen, die als Leitlinien für mögliche Anpassungen der geltenden Rechtsvorschriften auf EU-Ebene und nationaler Ebene im Hinblick auf neue Technologien dienen können (Schulung zum Thema neue Technologien);

132.  bedauert jedoch, dass in dieser Wahlperiode kein Legislativvorschlag vorgelegt wurde, wodurch die Aktualisierung der Haftungsregelungen auf EU-Ebene verzögert und die Rechtssicherheit in der EU auf diesem Gebiet sowohl für Händler als auch für die Verbraucher bedroht wird;

133.  weist darauf hin, dass KI-Entwickler bzw. die Unternehmen, die sie beschäftigen, weiterhin für die möglichen sozialen, ökologischen und gesundheitlichen Auswirkungen der KI-Systeme oder der Robotik auf die heutige Generation und auf künftige Generationen rechenschaftspflichtig bleiben sollten;

4.4.Verbraucherschutz und Stärkung der Verbraucher

134.  betont, dass das Vertrauen der Verbraucher von wesentlicher Bedeutung für die Entwicklung der künstlichen Intelligenz ist und KI-basierte Systeme immer mehr Verbraucherdaten verarbeiten, was sie zum vorrangigen Ziel von Cyberangriffen macht; hebt ferner hervor, dass künstliche Intelligenz in einer Weise funktionieren muss, die Bürgern und Verbrauchern nicht schadet, und ist der Auffassung, dass daher die Integrität der Daten und Algorithmen, auf die sie sich stützt, sicherzustellen ist;

135.  ist der Auffassung, dass KI-Technologien, die sowohl für die Fertigung als auch für den Individualgebrauch entwickelt werden, Gegenstand von Produktsicherheitskontrollen durch die Marktüberwachungsbehörden sein und Verbraucherschutzvorschriften unterliegen sollten, mit denen erforderlichenfalls Mindestsicherheitsstandards gewährleistet werden und das bei der Interaktion mit Menschen oder der Arbeit im Umfeld von Menschen entstehende Unfallrisiko eingedämmt wird; ist der Ansicht, dass bei politischen Strategien im Bereich der künstlichen Intelligenz Probleme, die ethische Fragen, den Schutz von Daten, darunter die Daten Dritter und personenbezogene Daten, die zivilrechtliche Haftung und die Cybersicherheit betreffen, berücksichtigt werden sollten;

4.5.Rechte des geistigen Eigentums

136.  weist erneut auf seine oben angeführte Entschließung vom 16. Februar 2017 hin, in der es feststellte, dass es keine Rechtsvorschriften gibt, die speziell für die Robotik gelten, dass bestehende rechtliche Regelungen und Lehrmeinungen aber ohne Weiteres auf die Robotik angewandt werden können, wohingegen einige Aspekte anscheinend besonders berücksichtigt werden müssen; wiederholt seine in dieser Entschließung geäußerte Forderung an die Kommission, einen horizontalen und technologisch neutralen Ansatz in Bezug auf die Rechte des geistigen Eigentums zu unterstützen, die auf die verschiedenen Branchen anwendbar sind, in denen die Robotik zum Einsatz kommen könnte;

137.  begrüßt in dieser Hinsicht die Mitteilung der Kommission an die Organe über den Leitfaden zu bestimmten Aspekten der Richtlinie 2004/48/EG des Europäischen Parlaments und des Rates zur Durchsetzung der Rechte des geistigen Eigentums (COM(2017)0708), betont jedoch die Notwendigkeit, die Relevanz und Effizienz der Vorschriften über die Rechte des geistigen Eigentums zu überwachen, um die Entwicklung der KI zu steuern; betont in diesem Zusammenhang, dass Eignungsprüfungen durchgeführt werden müssen;

5.Ethische Aspekte

138.  ist der Auffassung, dass Handlungen und Anwendungen mithilfe künstlicher Intelligenz den Ethik-Grundsätzen und den einschlägigen Rechtsvorschriften der Mitgliedstaaten, der EU und des Völkerrechts entsprechen sollten;

139.  fordert die Einführung einer Ethik-Charta mit bewährten Verfahren für KI und Robotik, die Unternehmen und Sachverständige befolgen sollten;

140.  fordert die Kommission und die Mitgliedstaaten auf, eine intensive und transparente Zusammenarbeit zwischen dem öffentlichen und dem privaten Sektor und der Wissenschaft zu fördern, in deren Zuge der Wissensaustausch vertieft würde, und sich dafür einzusetzen, dass Entwickler über die ethischen Konsequenzen, die Sicherheit und die Achtung der Grundrechte sowie Verbraucher über den Einsatz von Robotik und künstlicher Intelligenz (vor allem im Hinblick auf Sicherheits- und Datenschutzfragen) aufgeklärt und geschult werden;

141.  fordert die Kommission auf, dafür Sorge zu tragen, dass in KI-basierten Anwendungen keine Daten verwendet werden, die aus verschiedenen Quellen erhoben wurden, ohne dass zuvor die ausdrückliche Einwilligung der betroffenen Personen eingeholt wurde; fordert die Kommission auf, einen Rahmen zu schaffen, mit dem sichergestellt wird, dass die ausdrückliche Einwilligung der betroffenen Personen nur zur Generierung von Daten zu den vorgesehenen Zwecken führt;

142.  fordert die Kommission auf, das Recht der Bürger auf ein Leben außerhalb des Internets zu respektieren und dafür zu sorgen, dass Bürger, über die keine Daten verfügbar sind, nicht diskriminiert werden;

5.1.Menschenzentrierte Technologie

143.  betont, dass zu diesem Zweck Ethikvorschriften eingeführt werden müssen, um für eine Entwicklung der KI, bei der der Mensch im Mittelpunkt steht, die Rechenschaftspflicht und Transparenz von algorithmischen Entscheidungssystemen, klare Haftungsregeln und Billigkeit zu sorgen;

144.  begrüßt die Initiative der Kommission, eine Gruppe hochrangiger Sachverständiger für künstliche Intelligenz sowie das Netzwerk einer europäischen KI-Allianz einzurichten, die Ethik-Leitlinien für KI erarbeiten sollen; fordert die Kommission auf, dafür zu sorgen, dass diese Ethik-Leitlinien von der Industrie, der Wissenschaft und den Behörden so weit wie möglich übernommen werden; empfiehlt den Mitgliedstaaten, die Leitlinien in ihre nationalen KI-Strategien zu übernehmen und Strukturen für eine echte Rechenschaftspflicht von Unternehmen und Regierungen bei der Konzeption und Einführung von KI zu entwickeln;

145.  ist der Auffassung, dass eine kontinuierliche Weiterverfolgung der Umsetzung der Ethik-Leitlinien für KI und der Auswirkungen auf die Entwicklung einer menschzentrierten KI von wesentlicher Bedeutung ist; fordert die Kommission auf, zu prüfen, ob die freiwilligen Ethik-Leitlinien ausreichen, damit die inklusive, ethisch verankerte Einführung von KI nicht zu einer wirtschaftlichen und sozialen Kluft in den Gesellschaften der EU führt, und bei Bedarf regulatorische und politische Maßnahmen vorzuschlagen;

146.  weist auf die neuesten Entwicklungen in Bezug auf die Verhaltensüberwachung und die Anpassung an die Verhaltensanalyse hin; fordert die Kommission auf, einen Ethikrahmen zur Beschränkung der Anwendung dieser Technik auszuarbeiten; fordert die Kommission nachdrücklich auf, das Bewusstsein für KI und ihre Verwendung zur Verhaltensanalyse zu schärfen und eine entsprechende Informationskampagne in die Wege zu leiten;

5.2.Einbettung von Werten in die Technologie – integrierte Ethik

147.  weist darauf hin, dass der Ethik-Leitrahmen auf den Grundsätzen der Benefizienz, der Schadensverhütung, der Autonomie und der Gerechtigkeit, auf den in Artikel 2 des Vertrags über die Europäische Union und in der Charta der Grundrechte verankerten Grundsätzen und Werten wie Menschenwürde, Gleichheit, Gerechtigkeit und Fairness, Nichtdiskriminierung, Einwilligung nach Aufklärung, Privat- und Familienleben und Datenschutz sowie auf anderen grundlegenden Prinzipien und Werten des EU-Rechts wie Nicht-Stigmatisierung, Transparenz, Eigenständigkeit, individuelle Verantwortung und soziale Verantwortung sowie auf bestehenden ethischen Praktiken und Ethik-Kodizes beruhen sollte;

148.  ist der Auffassung, dass Europa weltweit die führende Rolle einnehmen sollte, wenn es darum geht, ausschließlich ethisch verankerte KI einzusetzen; betont, dass zur Erreichung dieses Ziels für eine ethische Steuerung von KI auf unterschiedlichen Ebenen gesorgt werden muss; empfiehlt den Mitgliedstaaten, Ethiküberwachungs- und -aufsichtsbehörden für KI einzurichten und Unternehmen, die KI entwickeln, nahezulegen, jeweils einen Ethikrat einzurichten und Ethik-Leitlinien für ihre KI-Entwickler auszuarbeiten;

149.  betont, dass die Grundsätze der digitalen Ethik, der Menschenwürde, der Achtung der Grundrechte sowie der Sicherheit und des Schutzes von Daten die Grundlage für die Standards der EU im Bereich künstliche Intelligenz bilden müssen, damit zum Aufbau von Vertrauen unter den Nutzern beigetragen werden kann; betont, wie wichtig es ist, das Potenzial der EU für die Schaffung einer starken Infrastruktur für KI-Systeme, die auf hohen Datenschutzstandards und der Achtung des Menschen basiert, auszuschöpfen; stellt fest, dass bei der Entwicklung von KI die Grundsätze der Transparenz und Erklärbarkeit berücksichtigt werden müssen;

150.  stellt fest, dass bei automatisierten Waffensystemen weiterhin ein KI-Ansatz gelten sollte, bei dem die Steuerung durch einen Menschen erfolgt;

5.3.Entscheidungsfindung – Grenzen der Autonomie von künstlicher Intelligenz und Robotik

151.  betont die Schwierigkeit und Komplexität der Vorhersage des zukünftigen Verhaltens vieler komplexer KI-Systeme und des sich daraus ergebenden Verhaltens interagierender KI-Systeme; fordert die Kommission auf, zu prüfen, ob besondere Vorschriften für die Entscheidungsfindung mit KI-Unterstützung erforderlich sind;

152.  stellt fest, dass künstliche Intelligenz ein nützliches Hilfsinstrument der menschlichen Tätigkeit bleiben wird, mit dem man diese verbessert und Fehler reduziert;

153.  fordert, dass Menschen ein Recht auf Auskunft, ein Beschwerderecht und ein Recht auf Entschädigung haben, wenn KI bei Entscheidungen eingesetzt wird, die Menschen betreffen und ein erhebliches Risiko für die Rechte und Freiheiten des Einzelnen darstellen oder ihnen Schaden zufügen können;

154.  betont, dass der Einsatz von Algorithmen in Entscheidungssystemen nur dann erfolgen sollte, wenn zuvor eine Abschätzung der Auswirkungen der Algorithmen durchgeführt wurde, es sei denn, es liegt auf der Hand, dass sie keine wesentlichen Auswirkungen auf das Leben individueller Personen haben;

155.  ist der Ansicht, dass künstliche Intelligenz, insbesondere Systeme mit integrierter Autonomie, einschließlich der Fähigkeit, sensible Informationen zu erfassen, zu sammeln und mit verschiedenen Interessenträgern zu teilen, sowie der Möglichkeit, selbst zu lernen, oder sich sogar tendenziell selbst zu verändern, soliden Grundsätzen unterliegen sollte; betont, dass KI-Systeme personenbezogene vertrauliche Informationen nicht ohne ausdrückliche Einwilligung der Quelle dieser Informationen aufbewahren oder weitergeben dürfen;

5.4.Transparenz, Verzerrungen und Erklärbarkeit von Algorithmen

156.  weist darauf hin, dass KI zwar große Vorteile bei der Automatisierung und Entscheidungsfindung bringt, aber auch ein inhärentes Risiko birgt, wenn die Algorithmen statisch und undurchschaubar sind; betont in diesem Zusammenhang, dass die Transparenz bei Algorithmen verbessert werden muss;

157.  fordert die Kommission, die Mitgliedstaaten und die Datenschutzbehörden auf, Diskriminierung und Voreingenommenheit durch Algorithmen zu ermitteln und alle verfügbaren Maßnahmen zu deren Verhinderung oder Minimierung zu ergreifen sowie einen soliden gemeinsamen ethischen Rahmen für die transparente Verarbeitung personenbezogener Daten und die automatisierte Entscheidungsfindung zu entwickeln, an dem sich die Nutzung von Daten und die Durchsetzung des EU-Rechts orientieren können;

158.  betont, dass bei der Entwicklung von KI-Systemen die Grundsätze der Transparenz und der Rechenschaftspflicht in Bezug auf die verwendeten Algorithmen geachtet werden müssen, sodass deren Tätigkeiten für den Menschen zu verstehen sind; weist darauf hin, dass es für den Aufbau von Vertrauen in künstliche Intelligenz und für Fortschritte in diesem Bereich notwendig ist, dass die Nutzer wissen, wie ihre Daten sowie andere Daten und aus ihren Daten abgeleitete Daten verwendet werden, wenn sie mit einem KI-System oder mit Menschen, die von einen KI-System unterstützt werden, kommunizieren oder interagieren; ist der Auffassung, dass dadurch dazu beigetragen werden kann, das Verständnis zu verbessern und bei den Nutzern Vertrauen aufzubauen; betont, dass die Verständlichkeit von Entscheidungen im Einklang mit den Artikeln 13, 14 und 15 der DSGV EU-weit zum EU‑Standard werden muss; weist darauf hin, dass das Recht auf Informationen darüber, nach welcher Logik die Datenverarbeitung erfolgt, bereits in der DSGV verankert ist; betont, dass Personen gemäß Artikel 22 der DSGV Anspruch auf das Eingreifen eines Menschen haben, wenn sie durch eine Entscheidung, die auf einer automatischen Verarbeitung beruht, erheblich beeinträchtigt werden;

159.  betont, dass die Kommission, der Europäische Datenschutzausschuss, nationale Datenschutzbehörden und andere unabhängige Aufsichtsbehörden fortan eine grundlegende Rolle bei der Förderung von Transparenz und ordnungsgemäßen Verfahren, der Rechtssicherheit im Allgemeinen und insbesondere in Bezug auf konkrete Standards zum Schutz grundlegender Rechte und Garantien im Zusammenhang mit der Nutzung von Datenverarbeitung und -analyse spielen sollten; fordert eine engere Zusammenarbeit unter den Behörden, die für die Überwachung oder Aufstellung der Verhaltensregeln im digitalen Umfeld zuständig sind; fordert, dass solche Behörden mit angemessenen finanziellen und personellen Mitteln ausgestattet werden;

160.  erkennt an, dass Algorithmen für maschinelle Lernprozesse so gestaltet sind, dass sie selbstständig lernen, was der Automatisierung und Entscheidungsfindung zugutekommt; fordert Ethik-Leitlinien für künstliche Intelligenz, in denen Fragen der algorithmischen Transparenz, Erklärbarkeit, Rechenschaftspflicht und Billigkeit behandelt werden;

161.  weist auf die Bedeutung der Erklärbarkeit der Ergebnisse, Verfahren und Werte von KI-Systemen hin, damit sie für Laien verständlich gemacht werden und diese aussagekräftige Informationen darüber erhalten, was notwendig ist, um die Billigkeit bewerten und Vertrauen aufbauen zu können;

162.  weist darauf hin, dass die mangelnde Transparenz bei diesen Technologien und ihrer Anwendung eine Reihe ethischer Fragen aufwirft;

163.  weist darauf hin, dass die KI-Systeme für Menschen erklärbar sein und aussagekräftige Informationen liefern sollten, damit Rückmeldungen möglich sind; erkennt an, dass die Stärke von KI-Modellen von Rückmeldungen und Neubewertungen abhängt, und unterstützt diesen Prozess;

164.  stellt fest, dass sich die Bürger darüber Sorgen machen, nicht zu wissen, wenn KI eingesetzt wird und welche Informationen verarbeitet werden; empfiehlt, dass eindeutig offengelegt wird, wann KI von Verbrauchern eingesetzt wird; betont, wie wichtig es ist, weiterhin für die Sicherheit der übermittelten Daten zu sorgen, damit das Vertrauen der Verbraucher erhalten bleibt;

165.  ist der Ansicht, dass die Rechenschaftspflicht für Algorithmen von politischen Entscheidungsträgern durch Folgenabschätzungen auf der Grundlage etablierter Parameter reguliert werden sollte;

166.  weist darauf hin, dass die Offenlegung des Maschinencodes das Transparenzproblem bei der KI nicht lösen wird, da die vorhandenen Verzerrungen dadurch nicht erkennbar würden und der Prozess des maschinellen Lernens nicht erklärt würde; betont, dass Transparenz nicht nur die Transparenz des Codes, sondern auch der Daten und der automatisierten Entscheidungsfindung bedeutet;

167.  weist darauf hin, dass die Offenlegung des Quellcodes zu Missbrauch und zum willkürlichen Umgang mit Algorithmen führen könnte;

168.  betont, dass gegen Voreingenommenheit von Entwicklern vorgegangen und daher bei den Beschäftigten in sämtlichen IT-Bereichen für Vielfalt gesorgt werden muss und Schutzmechanismen benötigt werden, durch die verhindert wird, dass geschlechts- und altersbezogene Verzerrungen in KI-Systeme eingebaut werden;

169.  erkennt an, dass die Offenlegung von Codes oder Geschäftsgeheimnissen zudem Unternehmen von Forschung und Entwicklung in Bezug auf neue Codes abhalten würde, da ihr geistiges Eigentum gefährdet wäre; weist darauf hin, dass bei der Entwicklung der KI stattdessen die Interpretierbarkeit von Modellen und ihre Interaktion mit den Input- und Trainingsdaten angeregt werden sollte;

170.  erkennt an, dass durch Transparenz und Erklärbarkeit zwar Mängel aufgedeckt werden können, jedoch Zuverlässigkeit, Sicherheit und Billigkeit nicht gewährleistet sind; ist der Ansicht, dass deshalb die Rechenschaftspflicht die wichtigste Anforderung für eine vertrauenswürdige künstliche Intelligenz ist, die mit unterschiedlichen Mitteln erreicht werden kann, z. B. durch Abschätzungen der Auswirkungen der Algorithmen, Prüfungen oder eine Zertifizierung;

171.  betont, dass Protokolle für die laufende Überwachung und Aufdeckung von algorithmischen Verzerrungen entwickelt werden müssen;

172.  weist darauf hin, dass die Entwickler von Algorithmen sicherstellen sollten, dass grundlegende Anforderungen wie Billigkeit und Erklärbarkeit vom Beginn der Entwurfsphase an und während des gesamten Entwicklungszyklus erfüllt werden;

173.  weist darauf hin, dass Leitlinien vonnöten sind, in denen bewährte Entwicklungsverfahren beschrieben werden;

174.  betont, dass es wichtig ist, die Entwicklungslinie offenzulegen, damit die Entstehungsgeschichte des KI-Modells zurückverfolgt werden kann; ist der Ansicht, dass man dadurch die Modelle besser verstehen und man Vertrauen auf der Grundlage ihrer Entstehungsgeschichte aufbauen kann;

175.  betont, dass bei der Interaktion mit Nutzern eindeutig auf die Verwendung von KI-Systemen hingewiesen werden muss;

176.  betont, dass die Verbreitung von künstlicher Intelligenz und der Robotik unter uneingeschränkter Achtung der Menschenrechte erfolgen muss und in Maschinen und Robotern unter keinen Umständen Stereotypen in Bezug auf Frauen oder andere Formen der Diskriminierung reproduziert werden dürfen;

177.  weist darauf hin, dass Diskriminierung und Ungerechtigkeit auch bei hochwertigen Trainingsdaten weiterbestehen können, wenn diese nicht mit Vorsicht und bewusst verwendet werden; weist darauf hin, dass die Verwendung von Daten geringer Qualität oder Daten, die nicht mehr aktuell oder falsch sind, in verschiedenen Phasen der Datenverarbeitung zu schlechten Vorhersagen und Bewertungen und dadurch zu Verzerrungen führen kann, was schließlich eine Verletzung der Grundrechte von Personen oder gänzlich falsche Schlussfolgerungen oder Ergebnisse zur Folge haben kann; ist daher der Ansicht, dass es im Zeitalter der Massendaten wichtig ist, dass Algorithmen mit repräsentativen Beispielen hochwertiger Daten trainiert werden, sodass statistische Parität erreicht werden kann; betont, dass eine prädiktive Analyse auf der Grundlage von künstlicher Intelligenz auch bei der Verwendung genauer, hochwertiger Daten lediglich eine statistische Wahrscheinlichkeit bietet; weist darauf hin, dass gemäß der DSGV aus der Weiterverarbeitung personenbezogener Daten zu statistischen Zwecken, einschließlich des Training von KI-Systemen, nur aggregierte Daten entstehen dürfen, die nicht erneut auf einzelne Personen angewendet werden können;

178.  fordert die Kommission auf, dafür zu sorgen, dass jeder, der Deep-Fake-Material (täuschend echt wirkende Bilder oder Videos), künstliche Videos oder andere realistisch wirkende Montagen herstellt, ausdrücklich darauf hinweisen muss, dass es sich nicht um Originalaufnahmen handelt;

179.  stellt fest, dass die KI zwangsläufig auf die Erfassung großer Datenmengen und oftmals auch auf die Einrichtung neuer Datenbanken angewiesen ist, die verwendet werden, um Annahmen über Menschen zu treffen; ist der Auffassung, dass der Schwerpunkt auf der Ermittlung und dem Aufbau von Reaktionsmechanismen für potenzielle Bedrohungen liegen sollte, damit negative Auswirkungen eingedämmt werden;

180.  bekräftigt, dass KI-Systeme keine Verzerrungen schaffen oder verstärken sollten; betont, dass bei der Entwicklung und Verwendung von Algorithmen Überlegungen zu Verzerrungen und Billigkeit in allen Phasen vom Entwurf bis zur Umsetzung einbezogen werden müssen; betont, dass die Datensätze bewertet und regelmäßig getestet werden müssen, damit für eine korrekte Entscheidungsfindung gesorgt wird;

6.Steuerung

6.1.Koordinierung auf EU-Ebene

181.  fordert die Kommission auf, auf die Entwicklung einer starken Führungsrolle der EU hinzuarbeiten, damit Doppelarbeit bei den Bemühungen bzw. deren Fragmentierung verhindert und für kohärente Strategien auf nationaler Ebene sowie den Austausch bewährter Verfahren für eine breitere Nutzung von KI gesorgt wird;

182.  begrüßt die verschiedenen von den Mitgliedstaaten entwickelten nationalen Strategien; begrüßt den koordinierten Plan der Kommission für künstliche Intelligenz, der am 7. Dezember 2018 veröffentlicht wurde; fordert diesbezüglich eine bessere Zusammenarbeit zwischen den Mitgliedstaaten und der Kommission;

183.  stellt fest, dass mehrere Mitgliedstaaten bereits über eigene nationale KI-Strategien verfügen, und begrüßt, dass alle Mitgliedstaaten im April 2018 die Kooperationserklärung zur künstlichen Intelligenz unterzeichnet haben; begrüßt ferner den anstehenden koordinierten KI-Plan der Kommission und der Mitgliedstaaten, und fordert dessen ungeachtet alle beteiligten Parteien auf, eine möglichst intensive Zusammenarbeit anzustreben;

184.  vertritt die Auffassung, dass eine verstärkte Zusammenarbeit zwischen den Mitgliedstaaten und der Kommission erforderlich ist, um kohärente grenzübergreifende Vorschriften in der EU sicherzustellen, die das Zusammenwirken der Branchen in der EU fördern und in der gesamten EU den Einsatz von KI ermöglichen, die die erforderlichen Sicherheitsstandards erfüllt und mit den im EU-Recht verankerten Ethik-Grundsätzen vereinbar ist;

185.  betont, dass durch einen harmonisierten, risikobasierten und progressiven Rahmen für die EU-Datenpolitik das Vertrauen gestärkt und die Entwicklung der KI in der EU unterstützt und dadurch für die Vollendung des digitalen Binnenmarkts und die Steigerung der Produktivität der in der EU ansässigen Unternehmen gesorgt würde;

186.  empfiehlt, bestehende und künftige Initiativen und Pilotprojekte der Kommission im Bereich der KI eng zu koordinieren, nach Möglichkeit unter der Leitung des vorgeschlagenen Aufsichtsmechanismus, um Synergieeffekte zu verwirklichen, einen echten Mehrwert zu schaffen und dabei keine kostspieligen Doppelstrukturen entstehen zu lassen;

187.  fordert die Kommission und die Mitgliedstaaten auf, die Einrichtung einer EU-Regulierungsagentur für KI und algorithmische Entscheidungsfindung zu prüfen, die mit folgenden Aufgaben betraut wäre:

   Einrichtung einer Risikobewertungsmatrix für die Klassifizierung von Algorithmentypen und Anwendungsgebieten nach ihrem Potenzial für beträchtliche negative Auswirkungen auf die Bürger,
   Untersuchung des Einsatzes algorithmischer Systeme, bei denen der Verdacht auf der Verletzung von Menschenrechten besteht (z. B. auf Grundlage der von einem Hinweisgeber vorgelegten Beweise),
   Beratung anderer Regulierungsagenturen in Bezug auf algorithmische Systeme, die in deren Aufgabenbereich fallen,
   Erhöhung der Wirksamkeit des Schadenshaftungssystems als Mittel zur Regulierung der Rechenschaftspflicht algorithmischer Systeme, indem eine Kontaktstelle für die Bürger bereitgestellt wird, die nicht mit rechtlichen Verfahren vertraut sind,
   Prüfung von Abschätzungen der Auswirkungen der Algorithmen bei Systemen mit großen Auswirkungen, um die vorgeschlagenen Arten des Einsatzes der algorithmischen Entscheidungsfindung in hochsensiblen und/oder sicherheitskritischen Anwendungsbereichen (z. B. private Gesundheitsversorgung) zu genehmigen oder abzulehnen, die Abschätzung der Auswirkungen der Algorithmen könnte bei Anwendungen im privaten Sektor nach einem Verfahren erfolgen, das dem für den öffentlichen Sektor vorgeschlagenen sehr ähnlich ist, mit dem möglichen Unterschied, dass die verschiedenen Phasen der Offenlegung als vertrauliche Mitteilung an die Regulierungsagentur (unter Geheimhaltungsvereinbarung) gehandhabt werden könnten, um wichtige Geschäftsgeheimnisse zu wahren,
   Untersuchung mutmaßlicher Fälle von Rechtsverletzungen durch algorithmische Entscheidungssysteme, sowohl für einzelne Entscheidungsinstanzen (z. B. einzelne abnorme Ergebnisse) als auch statistische Entscheidungsmuster (z. B. diskriminierende Verzerrung); die Untersuchungen könnten nach der Einreichung von Beschwerden oder auf der Grundlage von Beweismitteln eingeleitet werden, die von internen Hinweisgebern, investigativen Journalisten oder unabhängigen Forschern (einschließlich nichtstaatlichen Organisationen und Wissenschaftlern) vorgelegt werden;

188.  weist auf die laufende Arbeit der Internationalen Normungsorganisation (ISO) im Bereich KI hin und fordert die Mitgliedstaaten nachdrücklich auf, für die Abstimmung zwischen ihren jeweiligen Mitgliedern in der ISO zu sorgen, damit die europäischen Werte und Interessen bei der Ausarbeitung von Normen in diesem Bereich entsprechend vertreten werden;

6.2.Internationale Steuerung

189.  begrüßt die Einrichtung einer Beobachtungsstelle der OECD für die KI-Politik und fordert mehr Ehrgeiz bei der Ausarbeitung eines Fahrplans für eine verstärkte Zusammenarbeit;

190.  hebt hervor, dass in Drittländern – insbesondere in den USA, China, Russland und Israel – unterschiedliche Modelle entwickelt werden, und betont, dass in Europa ein wertebasierter Ansatz verfolgt wird und dass eine Zusammenarbeit mit internationalen Partnern in einem bi- oder multilateralen Rahmen erforderlich ist, damit man ethische Fortschritte bei der KI erzielt und ihre Akzeptanz vorantreibt; stellt fest, dass diese Technologie keine Grenzen kennt und eine Zusammenarbeit erfordert, die über die EU-Mitgliedstaaten hinausgeht;

191.  fordert die Kommission auf, auf internationaler Ebene darauf hinzuarbeiten, größtmögliche Kohärenz zwischen den internationalen Akteuren sicherzustellen und für die Ethik-Grundsätze der EU weltweit einzutreten;

192.  betont, dass KI eine Technologie mit weltweiten Auswirkungen ist, die Vorteile für alle bietet und ähnliche Herausforderungen mit sich bringt; ist der Ansicht, dass hierfür, so wie in der Frage des Wirtschaftssystems und insbesondere bei Technologien mit erheblichen Auswirkungen auf die Märkte, ein globaler Ansatz erforderlich ist; vertritt die Auffassung, dass die KI auf die Agenda der bestehenden Institutionen und Organisationen gesetzt werden muss und der Bedarf an zusätzlichen Foren, die gegebenenfalls einzurichten sind, geprüft werden muss;

o
o   o

193.  beauftragt seinen Präsidenten, diese Entschließung dem Rat und der Kommission zu übermitteln.

(1) ABl. C 252 vom 18.7.2018, S. 239.
(2) ABl. C 307 vom 30.8.2018, S. 163.
(3) Angenommene Texte, P8_TA(2018)0341.
(4) Angenommene Texte, P8_TA(2018)0332.
(5) ABl. L 252 vom 8.10.2018, S. 1.
(6) COM(2018)0237.
(7) Future and Emerging Technologies (künftige und neu entstehende Technologien).
(8) OECD Digital Economy Outlook 2017.
(9) Eurobarometer Spezial 460.
(10) Richtlinie (EU) 2018/958 des Europäischen Parlaments und des Rates vom 28. Juni 2018 über eine Verhältnismäßigkeitsprüfung vor Erlass neuer Berufsreglementierungen (ABl. L 173 vom 9.7.2018, S. 25).
(11) Richtlinie 2013/55/EU des Europäischen Parlaments und des Rates vom 20. November 2013 zur Änderung der Richtlinie 2005/36/EG über die Anerkennung von Berufsqualifikationen und der Verordnung (EU) Nr. 1024/2012 über die Verwaltungszusammenarbeit mit Hilfe des Binnenmarkt-Informationssystems („IMI-Verordnung“) (ABl. L 354 vom 28.12.2013, S. 132).
(12) Richtlinie 2006/123/EG des Europäischen Parlaments und des Rates vom 12. Dezember 2006 über Dienstleistungen im Binnenmarkt (ABl. L 376 vom 27.12.2006, S. 36).
(13) Richtlinie 2000/31/EG des Europäischen Parlaments und des Rates vom 8. Juni 2000 über bestimmte rechtliche Aspekte der Dienste der Informationsgesellschaft, insbesondere des elektronischen Geschäftsverkehrs, im Binnenmarkt („Richtlinie über den elektronischen Geschäftsverkehr“) (ABl. L 178 vom 17.7.2000, S. 1).
(14) ABl. L 303 vom 28.11.2018, S. 59
(15) Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (ABl. L 119 vom 4.5.2016, S. 1).
(16) Richtlinie 85/374/EWG des Rates vom 25. Juli 1985 zur Angleichung der Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Haftung für fehlerhafte Produkte (ABl. L 210 vom 7.8.1985, S. 29).

Letzte Aktualisierung: 13. Februar 2019Rechtlicher Hinweis