Künstliche Intelligenz: Verbraucher vor Risiken schützen 

Aktualisiert am: 
 
Erstellt am:   
 

Diese Seite teilen: 

Künstliche Intelligenz und automatisierte Entscheidungsfindungsprozesse können Verbraucher bestimmten Risiken aussetzen. Das Parlament setzt sich für den Verbraucherschutz ein.

Die Herausforderungen Künstlicher Intelligenz sind Thema im Parlament ©Vchalup/Adobe Stock  

Was versteht man unter Künstlicher Intelligenz und mit welchen Risiken ist sie verbunden?

Da selbstlernende Algorithmen Daten mit einer Präzision und Geschwindigkeit jenseits des Menschenmöglichen verarbeiten können, werden Anwendungen, die mit Künstlicher Intelligenz (KI) arbeiten, zunehmend im Finanz-, Gesundheits- und Bildungswesen, in der Justiz und vielen anderen Bereichen eingesetzt. Sich gänzlich auf KI zu verlassen, birgt jedoch auch Risiken, insbesondere dann, wenn Entscheidungen getroffen werden, ohne dass die Ergebnisse von Menschen überprüft werden. Maschinelles Lernen beruht auf der Erkennung von Mustern innerhalb von Datensätzen. Probleme entstehen dann, wenn die Datenbasis keinen repräsentativen Querschnitt der Bevölkerung bildet und die Algorithmen verzerrt.


Künstliche Intelligenz in Entscheidungsfindungsprozessen

KI findet zunehmend in algorithmischen Entscheidungssystemen (ADM-Systeme) Anwendung. In vielen Fällen kann eine mit Hilfe solcher Systeme getroffene Entscheidung signifikanten Einfluss auf das Leben der Menschen haben, beispielsweise beim Zugang zu Krediten, Beschäftigung, medizinischer Versorgung oder bei gerichtlichen Entscheidungen. Automatisierte Entscheidungsfindung kann auf sozialen Ungleichheiten beruhen. So wurde bei manchen Algorithmen zur Auswahl von Bewerbern beispielsweise festgestellt, dass Frauen benachteiligt werden.


Verbraucherschutz im Zeitalter von KI

Die Entwicklung von KI und automatisierten Entscheidungsfindungsprozessen führt zu Herausforderungen hinsichtlich des Vertrauens und Wohlergehens der Verbraucher. Wenn Verbraucher mit derartigen Systemen interagieren, dann müssen sie zuvor auch über deren Funktionsweise aufgeklärt werden.


Welchen Standpunkt vertritt das Parlament?

Eine Entschließung, die am 12. Februar vom Europäischen Parlament angenommen wurde, fordert die Kommission dazu auf, zu untersuchen, ob zusätzliche Maßnahmen erforderlich sind, um in einer zunehmend von KI und automatisierter Entscheidungsfindung beeinflussten Welt Rechtssicherheit für die Verbraucher zu gewährleisten.

Die Kommission soll klarstellen, wie sie 
  • Verbraucher vor ungerechten und/oder diskriminierenden Geschäftspraktiken oder vor Risiken, die von KI-getriebenen professionellen Dienstleistungen ausgehen, schützen will;  
  • gewährleistet, dass diese Prozesse transparenter werden;  
  • sicherstellen will, dass nur qualitativ hochwertige und neutrale Datensätze in ADM-Systemen Verwendung finden. 

Nächste Schritte

Die Entschließung wird an den Rat und die Kommission übermittelt. Die Kommission wird ihre Pläne zu einem europaweiten Ansatz zu KI voraussichtlich am 19. Februar 2020 vorstellen.