Künstliche Intelligenz: Verbraucher vor Risiken schützen
Künstliche Intelligenz und automatisierte Entscheidungsfindungsprozesse können Verbraucher bestimmten Risiken aussetzen. Das Parlament setzt sich für den Verbraucherschutz ein.
Was versteht man unter Künstlicher Intelligenz und mit welchen Risiken ist sie verbunden?
Da selbstlernende Algorithmen Daten mit einer Präzision und Geschwindigkeit jenseits des Menschenmöglichen verarbeiten können, werden Anwendungen, die mit Künstlicher Intelligenz (KI) arbeiten, zunehmend im Finanz-, Gesundheits- und Bildungswesen, in der Justiz und vielen anderen Bereichen eingesetzt. Sich gänzlich auf KI zu verlassen, birgt jedoch auch Risiken, insbesondere dann, wenn Entscheidungen getroffen werden, ohne dass die Ergebnisse von Menschen überprüft werden. Maschinelles Lernen beruht auf der Erkennung von Mustern innerhalb von Datensätzen. Probleme entstehen dann, wenn die Datenbasis keinen repräsentativen Querschnitt der Bevölkerung bildet und die Algorithmen verzerrt.
Künstliche Intelligenz in Entscheidungsfindungsprozessen
KI findet zunehmend in algorithmischen Entscheidungssystemen (ADM-Systeme) Anwendung. In vielen Fällen kann eine mit Hilfe solcher Systeme getroffene Entscheidung signifikanten Einfluss auf das Leben der Menschen haben, beispielsweise beim Zugang zu Krediten, Beschäftigung, medizinischer Versorgung oder bei gerichtlichen Entscheidungen. Automatisierte Entscheidungsfindung kann auf sozialen Ungleichheiten beruhen. So wurde bei manchen Algorithmen zur Auswahl von Bewerbern beispielsweise festgestellt, dass Frauen benachteiligt werden.
Verbraucherschutz im Zeitalter von KI
Die Entwicklung von KI und automatisierten Entscheidungsfindungsprozessen führt zu Herausforderungen hinsichtlich des Vertrauens und Wohlergehens der Verbraucher. Wenn Verbraucher mit derartigen Systemen interagieren, dann müssen sie zuvor auch über deren Funktionsweise aufgeklärt werden.
Welchen Standpunkt vertritt das Parlament?
Eine Entschließung, die am 12. Februar vom Europäischen Parlament angenommen wurde, fordert die Kommission dazu auf, zu untersuchen, ob zusätzliche Maßnahmen erforderlich sind, um in einer zunehmend von KI und automatisierter Entscheidungsfindung beeinflussten Welt Rechtssicherheit für die Verbraucher zu gewährleisten.
Die Kommission soll klarstellen, wie sie
- Verbraucher vor ungerechten und/oder diskriminierenden Geschäftspraktiken oder vor Risiken, die von KI-getriebenen professionellen Dienstleistungen ausgehen, schützen will;
- gewährleistet, dass diese Prozesse transparenter werden;
- sicherstellen will, dass nur qualitativ hochwertige und neutrale Datensätze in ADM-Systemen Verwendung finden.
Wir müssen dafür Sorge tragen, dass der Schutz und das Vertrauen der Verbraucher sichergestellt sind und die EU-Sicherheits- und Haftungsvorschriften für Produkte und Dienstleistungen dem digitalen Zeitalter gerecht werden.
Nächste Schritte
Die Entschließung wird an den Rat und die Kommission übermittelt. Die Kommission wird ihre Pläne zu einem europaweiten Ansatz zu KI voraussichtlich am 19. Februar 2020 vorstellen.
