Richtlinien für zivile und militärische Nutzung von künstlicher Intelligenz 

Pressemitteilung 
Plenartagung 
 
 

Diese Seite teilen: 

  • Künstliche Intelligenz kann weder menschliche Entscheidungsfindung noch menschlichen Kontakt ersetzen
  • EU-Strategie zum Verbot tödlicher autonomer Waffensysteme erforderlich
  • Forderung nach Verbot von „hochgradig intrusiven Anwendungen zur Bewertung des sozialen Verhaltens" durch Behörden
  • Bedenken gegen „Deepfakes"

Künstliche Intelligenz muss menschlicher Kontrolle unterliegen, so dass Menschen sie im bei unvorhergesehenem Verhalten korrigieren oder abschalten können, so die Abgeordneten.

Der am Mittwoch mit 364 Stimmen bei 274 Gegenstimmen und 52 Enthaltungen angenommene Initiativbericht fordert einen EU-Rechtsrahmen für Künstliche Intelligenz (KI) mit Begriffsbestimmungen und ethischen Grundsätzen, anwendbar auch auf die militärische Nutzung. Der Bericht fordert die EU und ihre Mitgliedsstaaten auf, sicherzustellen, dass KI und verwandte Technologien menschenzentriert sind (d.h. im Dienste der Menschheit und des Gemeinwohls stehen).

Militärische Nutzung und menschliche Aufsicht


Die Abgeordneten betonen, dass die Menschenwürde und die Menschenrechte bei allen verteidigungsbezogenen Aktivitäten der EU respektiert werden müssen. KI-gestützte Systeme müssen dem Menschen eine sinnvolle Kontrolle ermöglichen, damit er die Verantwortung und Rechenschaftspflicht für ihren Einsatz wahrnehmen kann.


Der Einsatz von tödlichen autonomen Waffensystemen („Lethal autonomous weapon systems“, LAWS) werfe grundlegende ethische und rechtliche Fragen zur menschlichen Kontrolle auf, sagen die Abgeordneten und bekräftigen ihre Forderung nach einer EU-Strategie zu deren Verbot sowie nach einem Verbot von sogenannten "Killer-Robotern". Die Entscheidung, ein Ziel auszuwählen und eine tödliche Maßnahme mit einem autonomen Waffensystem zu ergreifen, muss immer von einem Menschen getroffen werden, der eine angemessene Kontrolle und Aufsicht ausübt und das erforderliche Maß an Urteilsvermögen im Einklang mit den Grundsätzen der Verhältnismäßigkeit und der Notwendigkeit zeigt.


Der Text fordert die EU auf, eine führende Rolle bei der Schaffung und Förderung eines globalen Rahmens zur Regelung des militärischen Einsatzes von KI an der Seite der UNO und der internationalen Gemeinschaft zu übernehmen.


KI im öffentlichen Sektor


Der verstärkte Einsatz von KI-Systemen im öffentlichen Dienst, insbesondere im Gesundheits- und Justizwesen, dürfe nicht den menschlichen Kontakt ersetzen oder zu Diskriminierung führen, so die Abgeordneten. Menschen sollten immer informiert werden, wenn sie von einer Entscheidung betroffen sind, die auf KI basiert, und die Möglichkeit haben, diese anzufechten.


Beim Einsatz von KI im Gesundheitswesen (z.B. robotergestützte Chirurgie, intelligente Prothesen, prädiktive Medizin) müssen die persönlichen Daten der Patienten geschützt und der Grundsatz der Gleichbehandlung gewahrt werden. Während der Einsatz von KI-Technologien im Justizbereich helfen kann, Verfahren zu beschleunigen und rationellere Entscheidungen zu treffen, müssen endgültige Gerichtsentscheidungen von Menschen getroffen werden, streng von einer Person überprüft werden und einem ordentlichen Verfahren unterliegen.


Massenüberwachung und „Deepfakes“


Die Abgeordneten warnen auch vor Gefahren für die grundlegenden Menschenrechte und die staatliche Souveränität durch den Einsatz von KI-Technologien bei der zivilen und militärischen Massenüberwachung. Sie fordern ein Verbot für Behörden, „hochgradig intrusive Anwendungen zur Bewertung des sozialen Verhaltens" („Social Scoring“, zur Überwachung und Bewertung von Bürgern) zu verwenden. Der Bericht äußert auch Bedenken gegen „Deepfake-Technologien", weil mit derartigen Praktiken „potenziell Länder destabilisiert, Desinformationen verbreitet und Wahlen beeinflusst werden können“.


Kunst- und Kulturschaffende sollten verpflichtet werden, solches Material als „nicht original" zu kennzeichnen, und es sollte mehr Forschung zu Technologien betrieben werden, um diesem Phänomen entgegenzuwirken.


Zitat


Berichterstatter Gilles Lebreton (ID, FR): „Angesichts der vielfältigen Herausforderungen, die die Entwicklung der künstlichen Intelligenz mit sich bringt, sind rechtliche Antworten notwendig. Im Hinblick auf die Vorbereitung des Gesetzesvorschlags der Kommission zu diesem Thema zielt dieser Bericht daher darauf ab, einen allgemeinen Rahmen festzulegen, der im Wesentlichen unterstreicht, dass KI in jedem Bereich, insbesondere im militärischen Bereich und in den Bereichen, die in die Zuständigkeit des Staates fallen, wie z. B. Justiz und Gesundheit, immer nur ein Hilfsmittel zur Unterstützung der Entscheidungsfindung oder des Handelns bleiben darf und dass sie niemals den Menschen ersetzen oder ihn von seiner Verantwortung entbinden darf.“