Einsatz von KI durch die Polizei: Abgeordnete lehnen Massenüberwachung ab 

Pressemitteilung 
Plenartagung 
 
 

Diese Seite teilen: 

  • Menschen sollten Systeme mit künstlicher Intelligenz (KI) überwachen, Algorithmen offen sein  
  • Verbot von privaten Gesichtserkennungsdatenbanken, KI-basierter vorausschauender Polizeiarbeit und Bewertung der Bürger („Scoring“)  
  • Automatisierte Erkennung sollte nicht für Grenzkontrollen oder im öffentlichen Raum eingesetzt werden  
Die Abgeordneten sind besorgt über die Auswirkungen von KI-Technologien auf die Privatsphäre. ©AdobeStock/DedMityay  

Strenge Sicherheitsvorkehrungen beim Einsatz von künstlicher Intelligenz in der Strafverfolgung sollen Diskriminierung vermeiden und das Recht auf Privatsphäre schützen.

In einer Entschließung, die mit 377 gegen 248 Stimmen bei 62 Enthaltungen angenommen wurde, weisen die Abgeordneten auf das Risiko algorithmischer Voreingenommenheit bei KI-Anwendungen hin und betonen die Notwendigkeit menschlicher Aufsicht und starker rechtlicher Kontrollen, um Diskriminierung durch KI zu verhindern, insbesondere bei Strafverfolgung oder Grenzübertritten. Die Abgeordneten betonen, dass die endgültigen Entscheidungen immer von Menschen getroffen werden sollten. Personen, die von KI-gestützten Systemen überwacht werden, müssten die Möglichkeit haben, Rechtsmittel einzulegen.

Bedenken wegen Diskriminierung

Die Abgeordneten weisen darauf hin, dass viele der derzeit verwendeten algorithmusgesteuerten Identifizierungstechnologien unverhältnismäßig viele Personen falsch identifizieren und daher Menschen, die aufgrund von Rassismus benachteiligt sind, Personen, die bestimmten ethnischen Gemeinschaften angehören, LGBTI-Personen, Kindern und älteren Menschen sowie Frauen Schaden zufügen, was besonders bedenklich ist, wenn KI-Systeme in einem Kontext der Strafverfolgung oder Justiz eingesetzt werden.

Um sicherzustellen, dass die Grundrechte beim Einsatz dieser Technologien gewahrt bleiben, sollten die Algorithmen transparent, nachvollziehbar und ausreichend dokumentiert sein, fordern die Abgeordneten. Wenn möglich, sollten die Behörden Open-Source-Software verwenden, um mehr Transparenz zu gewährleisten.

Umstrittene Technologien

Um die Privatsphäre und die Menschenwürde zu wahren, fordern die Abgeordneten das dauerhafte Verbot der Verwendung einer automatisierten Erkennung von Personen in öffentlich zugänglichen Räumen, da Bürger nur dann überwacht werden sollten, wenn sie einer Straftat verdächtigt werden. Das Parlament fordert ein Verbot der Nutzung privater Gesichtserkennungsdatenbanken (wie das bereits im Einsatz befindliche KI-System Clearview) und der vorausschauenden Polizeiarbeit auf der Grundlage von Verhaltensdaten.

Die Abgeordneten fordern auch ein Verbot von Social-Scoring-Systemen, die versuchen, die Vertrauenswürdigkeit von Bürgern auf der Grundlage ihres Verhaltens oder ihrer Persönlichkeit zu bewerten.

Schließlich ist das Parlament besorgt über die Verwendung biometrischer Daten für Zwecke der Fernidentifizierung von Personen. Die Abgeordneten fordern die Kommission auf, Vertragsverletzungsverfahren gegen Mitgliedstaaten einzuleiten, wenn dies notwendig ist.

Zitat

Berichterstatter Petar Vitanov (S&D, BG) sagte: „Grundrechte sind brauchen keine Rechtfertigung. Zum ersten Mal überhaupt fordern wir ein Moratorium für den Einsatz von Gesichtserkennungssystemen zu Strafverfolgungszwecken, da sich die Technologie als unwirksam erwiesen hat und oft zu diskriminierenden Ergebnissen führt. Wir sprechen uns klar gegen eine vorausschauende Polizeiarbeit auf der Grundlage von KI sowie gegen jede Verarbeitung biometrischer Daten aus, die zu einer Massenüberwachung führt. Dies ist ein großer Gewinn für alle europäischen Bürger."