Entschließungsantrag - B9-0094/2020Entschließungsantrag
B9-0094/2020
Europäisches Parlament

ENTSCHLIESSUNGSANTRAG zu „Automatisierte Entscheidungsfindungsprozesse: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“

6.2.2020 - (2019/2915(RSP))

eingereicht im Anschluss an die Anfrage zur mündlichen Beantwortung B9-XXXX/2020
gemäß Artikel 136 Absatz 5 der Geschäftsordnung

Petra De Sutter
im Namen des Ausschusses für Binnenmarkt und Verbraucherschutz


Verfahren : 2019/2915(RSP)
Werdegang im Plenum
Entwicklungsstadium in Bezug auf das Dokument :  
B9-0094/2020
Eingereichte Texte :
B9-0094/2020
Aussprachen :
Abstimmungen :
Angenommene Texte :

B9-0094/2020

Entschließung des Europäischen Parlaments zu „Automatisierte Entscheidungsfindungsprozesse: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“

(2019/2915(RSP))

Das Europäische Parlament,

– unter Hinweis auf seine Entschließung vom 12. Februar 2019 zu einer umfassenden europäischen Industriepolitik in Bezug auf künstliche Intelligenz und Robotik[1],

– unter Hinweis auf seine Entschließung vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik[2],

– unter Hinweis auf den von der Expertengruppe der Kommission für Haftung und neue Technologien am 21. November 2019 veröffentlichten Bericht mit dem Titel „Haftung für Technologien der künstlichen Intelligenz und andere neu entstehende digitale Technologien“,

– unter Hinweis auf den von der hochrangigen Expertengruppe der Kommission für künstliche Intelligenz am 26. Juni 2019 veröffentlichten Bericht mit dem Titel „Politische Maßnahmen und Anlageempfehlungen betreffend vertrauenswürdige künstliche Intelligenz“,

– unter Hinweis auf das von der hochrangigen Expertengruppe der Kommission für künstliche Intelligenz am 8. April 2019 veröffentlichte Dokument mit dem Titel „Ethikleitlinien für vertrauenswürdige künstliche Intelligenz“ sowie die Bewertungsliste für vertrauenswürdige künstliche Intelligenz,

– unter Hinweis auf die Mitteilung der Kommission vom 8. April 2019 zu „Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz“ (COM(2019)0168),

– unter Hinweis auf die Mitteilung der Kommission vom 7. Dezember 2018 zu einem koordinierten Plan für künstliche Intelligenz (COM(2018)0795),

– unter Hinweis auf die Mitteilung der Kommission vom 25. April 2018 zu „Künstliche Intelligenz für Europa“ (COM(2018)0237),

– unter Hinweis auf den Entschließungsantrag des Ausschusses für Binnenmarkt und Verbraucherschutz,

– unter Hinweis auf die Anfrage an die Kommission zu „Automatisierte Entscheidungsfindungsprozesse: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“ (O-000008/2020 – B9-XXXX/2020),

– gestützt auf Artikel 136 Absatz 5 und Artikel 132 Absatz 2 seiner Geschäftsordnung,

A. in der Erwägung, dass in den Bereichen künstliche Intelligenz (KI), maschinelles Lernen, komplexe Algorithmensysteme und automatisierte Entscheidungsfindungsprozesse rasch technologische Fortschritte erzielt werden, sowie in der Erwägung, dass diese Technologien zahlreiche Anwendungen, Chancen und Herausforderungen bieten und praktisch alle Bereiche des Binnenmarkts betreffen;

B. in der Erwägung, dass die Entwicklung automatisierter Entscheidungsfindungsprozesse voraussichtlich einen wesentlichen Beitrag zur wissensbasierten Wirtschaft leisten wird und Vorteile bietet, und zwar für die Gesellschaft unter anderem durch verbesserte öffentliche Dienstleistungen, für die Verbraucher durch innovative Produkte und Dienstleistungen und für die Unternehmen durch optimierte Leistungen;

C. in der Erwägung, dass die Nutzung und Entwicklung von KI und automatisierten Entscheidungsfindungsprozessen auch Herausforderungen im Hinblick auf das Vertrauen und das Wohl der Verbraucher mit sich bringt, insbesondere wenn es darum geht, die Verbraucher in die Lage zu versetzen, solche Prozesse zu erkennen, zu verstehen, wie sie funktionieren, fundierte Entscheidungen über ihre Nutzung zu treffen oder sich dagegen zu entscheiden;

D. in der Erwägung, dass ethische Leitlinien wie die von der hochrangigen Expertengruppe der Kommission für künstliche Intelligenz angenommenen Grundsätze einen Ausgangspunkt darstellen; in der Erwägung, dass jedoch der derzeitige Rechtsrahmen der EU, einschließlich des Besitzstands im Bereich des Verbraucherrechts, der Datenschutzvorschriften, der Produktsicherheit und der Rechtsvorschriften zur Marktüberwachung, überprüft werden muss, um zu sehen, ob damit auf das Entstehen von KI und automatisierter Entscheidungsfindung reagiert und ein hohes Verbraucherschutzniveau gewährleistet werden kann, wie es in Artikel 38 der Charta der Grundrechte der EU gefordert wird;

E. in der Erwägung, dass ein gemeinsamer Ansatz der EU für die Entwicklung automatisierter Entscheidungsfindungsprozesse dazu beitragen wird, die Vorteile dieser Prozesse zu sichern und die Risiken in der gesamten EU zu mindern, eine Fragmentierung des Binnenmarkts zu vermeiden und es der Union zu ermöglichen, ihren Ansatz und ihre Werte weltweit besser zu fördern;

Wahlmöglichkeiten, Vertrauen und Wohl der Verbraucher

1. begrüßt das Potenzial automatisierter Entscheidungsfindung für die Bereitstellung innovativer und verbesserter Dienstleistungen für die Verbraucher, einschließlich neuer digitaler Dienste wie virtueller Assistenten und Chatbots; vertritt jedoch die Ansicht, dass die Verbraucher bei der Interaktion mit einem System zur automatisierten Entscheidungsfindung angemessen darüber informiert werden sollten, wie es funktioniert, wie entscheidungsbefugte Personen erreicht werden können und wie sich die Entscheidungen des Systems überprüfen und korrigieren lassen;

2. fordert die Kommission auf, die Umsetzung der neuen Vorschriften im Rahmen der Richtlinie zur besseren Durchsetzung[3] genau zu überwachen‚ nach denen Händler die Verbraucher informieren müssen, wenn die Preise von Waren oder Dienstleistungen auf der Grundlage automatisierter Entscheidungsfindung und der Erstellung von Profilen des Verbraucherverhaltens personalisiert wurden, damit die Händler die Kaufkraft der Verbraucher bewerten können;

3. fordert die Kommission auf, die Umsetzung der Geoblocking-Verordnung[4] genau zu überwachen‚ um sicherzustellen, dass die automatische Entscheidungsfindung nicht dazu genutzt wird, Verbraucher aufgrund ihrer Staatsangehörigkeit, ihres Wohnsitzes oder ihres vorübergehenden Aufenthaltsorts zu diskriminieren;

4. fordert die Kommission auf, zu überwachen, ob die Verpflichtungen der Händler wirksame Wahlmöglichkeiten für die Verbraucher ermöglichen und einen ausreichenden Verbraucherschutz bieten; fordert die Kommission auf, zu prüfen, ob Regelungslücken bestehen, und zu überprüfen, ob zusätzliche Maßnahmen erforderlich sind, um ein starkes Bündel von Rechten zum Schutz der Verbraucher im Zusammenhang mit KI und automatisierter Entscheidungsfindung zu gewährleisten;

5. stellt fest, dass bei alternativen Streitbeilegungsverfahren auf verschiedenen digitalen Plattformen automatisierte Entscheidungsfindungssysteme zur Beilegung von Streitigkeiten zwischen Verbrauchern und Händlern eingesetzt werden; fordert die Kommission auf, dafür zu sorgen, dass bei jeder anstehenden Überarbeitung der Richtlinie 2013/11/EU über die alternative Beilegung verbraucherrechtlicher Streitigkeiten[5] und der Verordnung (EU) Nr. 524/2013 über die Online-Beilegung verbraucherrechtlicher Streitigkeiten[6] der Rückgriff auf die automatisierte Entscheidungsfindung berücksichtigt und sichergestellt wird, dass der Mensch die Kontrolle behält;

Sicherheits- und Haftungsrahmen für Produkte

6. betont, dass der EU-Rahmen für Produktsicherheit die Unternehmen verpflichtet, dafür zu sorgen, dass nur sichere und konforme Produkte in Verkehr gebracht werden; erkennt an, dass das Aufkommen von Produkten, die über Möglichkeiten der automatisierten Entscheidungsfindung verfügen, neue Herausforderungen mit sich bringt, da sich solche Produkte weiterentwickeln und in einer Art und Weise handeln können, die beim ersten Inverkehrbringen nicht vorgesehen ist; fordert die Kommission auf, Vorschläge zur Anpassung der Sicherheitsvorschriften der EU für Produkte vorzulegen, die unter spezifische EU-Rechtsvorschriften fallen, in denen harmonisierte Anforderungen festgelegt sind‚ einschließlich der Maschinenrichtlinie[7], der Spielzeug-Richtlinie[8]‚ der Funkanlagenrichtlinie[9] und der Niederspannungsrichtlinie[10]‚ sowie für „nicht harmonisierte Produkte“, die unter die Richtlinie über die allgemeine Produktsicherheit[11] fallen‚ um sicherzustellen, dass die neuen Vorschriften ihren Zweck erfüllen, dass die Nutzer und Verbraucher vor Schäden geschützt sind, dass die Hersteller Klarheit über ihre Pflichten haben, und dass den Nutzern klar ist, wie Produkte mit automatisierten Verfahren zu verwenden sind;

7. betont, dass angesichts der unterschiedlichen Art und Komplexität der Herausforderungen, die durch die verschiedenen Arten und Anwendungen von KI und automatisierten Entscheidungsfindungssystemen entstehen, ein risikobasierter Regulierungsansatz erforderlich ist; fordert die Kommission auf, ein Risikobewertungssystem für KI und automatisierte Entscheidungsfindung zu entwickeln, um für einen kohärenten Ansatz bei der Durchsetzung der Produktsicherheitsvorschriften im Binnenmarkt zu sorgen; betont, dass die Mitgliedstaaten im Rahmen ihrer nationalen Marktüberwachungsstrategien harmonisierte Risikomanagementstrategien für KI entwickeln müssen;

8. stellt fest, dass die Produkthaftungsrichtlinie[12] seit über 30 Jahren ein wichtiges Sicherheitsnetz zum Schutz der Verbraucher vor Schäden durch fehlerhafte Produkte bietet; räumt ein, dass es problematisch ist, die Haftung in Fällen zu bestimmen, in denen die Schädigung der Verbraucher auf autonome Entscheidungsfindungsprozesse zurückzuführen ist; fordert die Kommission auf, diese Richtlinie zu überprüfen und eine Anpassung der Begriffe „Produkt“, „Schaden“ und „Fehler“ sowie eine Anpassung der Beweislastregeln in Betracht zu ziehen; fordert die Kommission auf, gegebenenfalls Vorschläge zur Aktualisierung dieser Begriffe und Regeln vorzulegen;

Rechtsrahmen für Dienstleistungen

9. weist darauf hin, dass der bestehende Rechtsrahmen für Dienstleistungen, der aus der Dienstleistungsrichtlinie[13], der Richtlinie über Berufsqualifikationen[14], der Richtlinie über eine Verhältnismäßigkeitsprüfung[15], der Richtlinie über den elektronischen Geschäftsverkehr[16] und der Datenschutz-Grundverordnung (DSGVO)[17] besteht, bereits viele politische Aspekte abdeckt, die für Dienstleistungen relevant sind, die automatisierte Entscheidungsfindungsprozesse umfassen, einschließlich Vorschriften über Verbraucherschutz, Ethik und Haftung; stellt fest, dass solche Vorschriften sowohl für herkömmliche Dienste als auch für Dienste gelten sollten, die automatisierte Entscheidungsfindungsprozesse beinhalten;

10. betont, dass automatisierte Entscheidungsfindungsprozesse zwar die Effizienz und Genauigkeit von Dienstleistungen verbessern können, dass jedoch der Mensch letztlich für Entscheidungen verantwortlich und in der Lage sein muss, sich über Entscheidungen hinwegzusetzen, die im Zusammenhang mit freiberuflichen Dienstleistungen wie den medizinischen, juristischen und Buchhaltungsberufen sowie für den Bankensektor getroffen werden; weist erneut darauf hin, wie wichtig die Beaufsichtigung oder unabhängige Aufsicht durch qualifizierte Fachkräfte in Fällen automatisierter Entscheidungsfindung ist, in denen berechtigte öffentliche Interessen auf dem Spiel stehen;

11. betont, dass es im Einklang mit der Richtlinie über die Verhältnismäßigkeitsprüfung wichtig ist, die Risiken vor der Automatisierung professioneller Dienstleistungen ordnungsgemäß zu bewerten; fordert die zuständigen Behörden der Mitgliedstaaten nachdrücklich auf, dafür zu sorgen, dass die berufliche Bildung den wissenschaftlichen Fortschritten auf dem Gebiet der automatisierten Entscheidungsfindung Rechnung trägt;

Qualität und Transparenz des Datenmanagements

12. stellt fest, dass automatisierte Entscheidungsfindungssysteme auf der Erhebung großer Datenmengen beruhen, und ist der Ansicht, dass die Verordnung über den freien Verkehr nicht-personenbezogener Daten[18] dazu beitragen wird, mehr Daten in der gesamten EU verfügbar zu machen und so die Schaffung innovativer datengesteuerter Dienste zu ermöglichen; erkennt das diesbezügliche Potenzial des Datenaustauschs nicht nur aus öffentlichen, sondern auch aus privaten Quellen an, unterstreicht jedoch, dass personenbezogene Daten unbedingt im Rahmen der Datenschutz-Grundverordnung geschützt werden müssen; betont, wie wichtig es ist, nur hochwertige und tendenzfreie Datensätze zu verwenden, um die Leistung algorithmischer Systeme zu verbessern und das Vertrauen und die Akzeptanz der Verbraucher zu stärken;

13. betont, dass es angesichts der erheblichen Auswirkungen, die automatisierte Entscheidungsfindungssysteme auf die Verbraucher, insbesondere auf diejenigen, die sich in einer prekären Situation befinden, haben können, wichtig ist, dass diese Systeme nicht nur hochwertige und tendenzfreie Datensätze, sondern auch verständliche und tendenzfreie Algorithmen verwenden; ist der Auffassung, dass im Rahmen von Geschäftsprozessen Überprüfungsstrukturen erforderlich sind, um mögliche Fehler bei automatisierten Entscheidungen zu beheben, und dass es den Verbrauchern möglich sein sollte, eine Überprüfung endgültiger und dauerhafter automatisierter Entscheidungen durch Menschen sowie gegebenenfalls eine Entschädigung zu verlangen;

14. betont, dass es für die Bewertung der Frage, ob Produkte mit Fähigkeiten zur automatisierten Entscheidungsfindung mit den einschlägigen Sicherheitsvorschriften in Einklang stehen, von wesentlicher Bedeutung ist, dass die Algorithmen hinter diesen Fähigkeiten angemessen transparent und für die Marktüberwachungsbehörden erklärbar sind; fordert die Kommission auf, zu prüfen, ob den Marktüberwachungsbehörden diesbezüglich zusätzliche Befugnisse eingeräumt werden sollten;

15. fordert die Kommission auf, die Umsetzung der Verordnung über die Beziehungen zwischen Plattformen und Unternehmen[19] genau zu überwachen‚ insbesondere die Vorschriften über die Transparenz von Rankings, bei denen automatisierte Entscheidungsfindungsprozesse zum Einsatz kommen;

16. beauftragt seinen Präsidenten, diese Entschließung dem Rat und der Kommission sowie den Sozialpartnern zu übermitteln.

Letzte Aktualisierung: 7. Februar 2020
Rechtlicher Hinweis - Datenschutzbestimmungen