Verfahren : 2019/2915(RSP)
Werdegang im Plenum
Entwicklungsstadium in Bezug auf das Dokument : B9-0094/2020

Eingereichte Texte :

B9-0094/2020

Aussprachen :

PV 10/02/2020 - 12
CRE 10/02/2020 - 12

Abstimmungen :

PV 12/02/2020 - 11.8
Erklärungen zur Abstimmung

Angenommene Texte :

P9_TA(2020)0032

<Date>{06/02/2020}6.2.2020</Date>
<NoDocSe>B9-0094/2020</NoDocSe>
PDF 180kWORD 49k

<TitreType>ENTSCHLIESSUNGSANTRAG</TitreType>

<TitreSuite>eingereicht im Anschluss an die Anfrage zur mündlichen Beantwortung B9-XXXX/2020</TitreSuite>

<TitreRecueil>gemäß Artikel 136 Absatz 5 der Geschäftsordnung</TitreRecueil>


<Titre>zu „Automatisierte Entscheidungsfindungsprozesse: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“</Titre>

<DocRef>(2019/2915(RSP))</DocRef>


<RepeatBlock-By><Depute>Petra De Sutter</Depute>

<Commission>{IMCO}im Namen des Ausschusses für Binnenmarkt und Verbraucherschutz</Commission>

</RepeatBlock-By>

ÄND.

B9-0094/2020

Entschließung des Europäischen Parlaments zu „Automatisierte Entscheidungsfindungsprozesse: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“

(2019/2915(RSP))

Das Europäische Parlament,

 unter Hinweis auf seine Entschließung vom 12. Februar 2019 zu einer umfassenden europäischen Industriepolitik in Bezug auf künstliche Intelligenz und Robotik[1],

 unter Hinweis auf seine Entschließung vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik[2],

 unter Hinweis auf den von der Expertengruppe der Kommission für Haftung und neue Technologien am 21. November 2019 veröffentlichten Bericht mit dem Titel „Haftung für Technologien der künstlichen Intelligenz und andere neu entstehende digitale Technologien“,

 unter Hinweis auf den von der hochrangigen Expertengruppe der Kommission für künstliche Intelligenz am 26. Juni 2019 veröffentlichten Bericht mit dem Titel „Politische Maßnahmen und Anlageempfehlungen betreffend vertrauenswürdige künstliche Intelligenz“,

 unter Hinweis auf das von der hochrangigen Expertengruppe der Kommission für künstliche Intelligenz am 8. April 2019 veröffentlichte Dokument mit dem Titel „Ethikleitlinien für vertrauenswürdige künstliche Intelligenz“ sowie die Bewertungsliste für vertrauenswürdige künstliche Intelligenz,

 unter Hinweis auf die Mitteilung der Kommission vom 8. April 2019 zu „Schaffung von Vertrauen in eine auf den Menschen ausgerichtete künstliche Intelligenz“ (COM(2019)0168),

 unter Hinweis auf die Mitteilung der Kommission vom 7. Dezember 2018 zu einem koordinierten Plan für künstliche Intelligenz (COM(2018)0795),

 unter Hinweis auf die Mitteilung der Kommission vom 25. April 2018 zu „Künstliche Intelligenz für Europa“ (COM(2018)0237),

 unter Hinweis auf den Entschließungsantrag des Ausschusses für Binnenmarkt und Verbraucherschutz,

 unter Hinweis auf die Anfrage an die Kommission zu „Automatisierte Entscheidungsfindungsprozesse: Gewährleistung des Verbraucherschutzes und des freien Verkehrs von Waren und Dienstleistungen“ (O-000008/2020 – B9-XXXX/2020),

 gestützt auf Artikel 136 Absatz 5 und Artikel 132 Absatz 2 seiner Geschäftsordnung,

A. in der Erwägung, dass in den Bereichen künstliche Intelligenz (KI), maschinelles Lernen, komplexe Algorithmensysteme und automatisierte Entscheidungsfindungsprozesse rasch technologische Fortschritte erzielt werden, sowie in der Erwägung, dass diese Technologien zahlreiche Anwendungen, Chancen und Herausforderungen bieten und praktisch alle Bereiche des Binnenmarkts betreffen;

B. in der Erwägung, dass die Entwicklung automatisierter Entscheidungsfindungsprozesse voraussichtlich einen wesentlichen Beitrag zur wissensbasierten Wirtschaft leisten wird und Vorteile bietet, und zwar für die Gesellschaft unter anderem durch verbesserte öffentliche Dienstleistungen, für die Verbraucher durch innovative Produkte und Dienstleistungen und für die Unternehmen durch optimierte Leistungen;

C. in der Erwägung, dass die Nutzung und Entwicklung von KI und automatisierten Entscheidungsfindungsprozessen auch Herausforderungen im Hinblick auf das Vertrauen und das Wohl der Verbraucher mit sich bringt, insbesondere wenn es darum geht, die Verbraucher in die Lage zu versetzen, solche Prozesse zu erkennen, zu verstehen, wie sie funktionieren, fundierte Entscheidungen über ihre Nutzung zu treffen oder sich dagegen zu entscheiden;

D. in der Erwägung, dass ethische Leitlinien wie die von der hochrangigen Expertengruppe der Kommission für künstliche Intelligenz angenommenen Grundsätze einen Ausgangspunkt darstellen; in der Erwägung, dass jedoch der derzeitige Rechtsrahmen der EU, einschließlich des Besitzstands im Bereich des Verbraucherrechts, der Datenschutzvorschriften, der Produktsicherheit und der Rechtsvorschriften zur Marktüberwachung, überprüft werden muss, um zu sehen, ob damit auf das Entstehen von KI und automatisierter Entscheidungsfindung reagiert und ein hohes Verbraucherschutzniveau gewährleistet werden kann, wie es in Artikel 38 der Charta der Grundrechte der EU gefordert wird;

E. in der Erwägung, dass ein gemeinsamer Ansatz der EU für die Entwicklung automatisierter Entscheidungsfindungsprozesse dazu beitragen wird, die Vorteile dieser Prozesse zu sichern und die Risiken in der gesamten EU zu mindern, eine Fragmentierung des Binnenmarkts zu vermeiden und es der Union zu ermöglichen, ihren Ansatz und ihre Werte weltweit besser zu fördern;

Wahlmöglichkeiten, Vertrauen und Wohl der Verbraucher

1. begrüßt das Potenzial automatisierter Entscheidungsfindung für die Bereitstellung innovativer und verbesserter Dienstleistungen für die Verbraucher, einschließlich neuer digitaler Dienste wie virtueller Assistenten und Chatbots; vertritt jedoch die Ansicht, dass die Verbraucher bei der Interaktion mit einem System zur automatisierten Entscheidungsfindung angemessen darüber informiert werden sollten, wie es funktioniert, wie entscheidungsbefugte Personen erreicht werden können und wie sich die Entscheidungen des Systems überprüfen und korrigieren lassen;

2. fordert die Kommission auf, die Umsetzung der neuen Vorschriften im Rahmen der Richtlinie zur besseren Durchsetzung[3] genau zu überwachen‚ nach denen Händler die Verbraucher informieren müssen, wenn die Preise von Waren oder Dienstleistungen auf der Grundlage automatisierter Entscheidungsfindung und der Erstellung von Profilen des Verbraucherverhaltens personalisiert wurden, damit die Händler die Kaufkraft der Verbraucher bewerten können;

3. fordert die Kommission auf, die Umsetzung der Geoblocking-Verordnung[4] genau zu überwachen‚ um sicherzustellen, dass die automatische Entscheidungsfindung nicht dazu genutzt wird, Verbraucher aufgrund ihrer Staatsangehörigkeit, ihres Wohnsitzes oder ihres vorübergehenden Aufenthaltsorts zu diskriminieren;

4. fordert die Kommission auf, zu überwachen, ob die Verpflichtungen der Händler wirksame Wahlmöglichkeiten für die Verbraucher ermöglichen und einen ausreichenden Verbraucherschutz bieten; fordert die Kommission auf, zu prüfen, ob Regelungslücken bestehen, und zu überprüfen, ob zusätzliche Maßnahmen erforderlich sind, um ein starkes Bündel von Rechten zum Schutz der Verbraucher im Zusammenhang mit KI und automatisierter Entscheidungsfindung zu gewährleisten;

5. stellt fest, dass bei alternativen Streitbeilegungsverfahren auf verschiedenen digitalen Plattformen automatisierte Entscheidungsfindungssysteme zur Beilegung von Streitigkeiten zwischen Verbrauchern und Händlern eingesetzt werden; fordert die Kommission auf, dafür zu sorgen, dass bei jeder anstehenden Überarbeitung der Richtlinie 2013/11/EU über die alternative Beilegung verbraucherrechtlicher Streitigkeiten[5] und der Verordnung (EU) Nr. 524/2013 über die Online-Beilegung verbraucherrechtlicher Streitigkeiten[6] der Rückgriff auf die automatisierte Entscheidungsfindung berücksichtigt und sichergestellt wird, dass der Mensch die Kontrolle behält;

Sicherheits- und Haftungsrahmen für Produkte

6. betont, dass der EU-Rahmen für Produktsicherheit die Unternehmen verpflichtet, dafür zu sorgen, dass nur sichere und konforme Produkte in Verkehr gebracht werden; erkennt an, dass das Aufkommen von Produkten, die über Möglichkeiten der automatisierten Entscheidungsfindung verfügen, neue Herausforderungen mit sich bringt, da sich solche Produkte weiterentwickeln und in einer Art und Weise handeln können, die beim ersten Inverkehrbringen nicht vorgesehen ist; fordert die Kommission auf, Vorschläge zur Anpassung der Sicherheitsvorschriften der EU für Produkte vorzulegen, die unter spezifische EU-Rechtsvorschriften fallen, in denen harmonisierte Anforderungen festgelegt sind‚ einschließlich der Maschinenrichtlinie[7], der Spielzeug-Richtlinie[8]‚ der Funkanlagenrichtlinie[9] und der Niederspannungsrichtlinie[10]‚ sowie für „nicht harmonisierte Produkte“, die unter die Richtlinie über die allgemeine Produktsicherheit[11] fallen‚ um sicherzustellen, dass die neuen Vorschriften ihren Zweck erfüllen, dass die Nutzer und Verbraucher vor Schäden geschützt sind, dass die Hersteller Klarheit über ihre Pflichten haben, und dass den Nutzern klar ist, wie Produkte mit automatisierten Verfahren zu verwenden sind;

7. betont, dass angesichts der unterschiedlichen Art und Komplexität der Herausforderungen, die durch die verschiedenen Arten und Anwendungen von KI und automatisierten Entscheidungsfindungssystemen entstehen, ein risikobasierter Regulierungsansatz erforderlich ist; fordert die Kommission auf, ein Risikobewertungssystem für KI und automatisierte Entscheidungsfindung zu entwickeln, um für einen kohärenten Ansatz bei der Durchsetzung der Produktsicherheitsvorschriften im Binnenmarkt zu sorgen; betont, dass die Mitgliedstaaten im Rahmen ihrer nationalen Marktüberwachungsstrategien harmonisierte Risikomanagementstrategien für KI entwickeln müssen;

8. stellt fest, dass die Produkthaftungsrichtlinie[12] seit über 30 Jahren ein wichtiges Sicherheitsnetz zum Schutz der Verbraucher vor Schäden durch fehlerhafte Produkte bietet; räumt ein, dass es problematisch ist, die Haftung in Fällen zu bestimmen, in denen die Schädigung der Verbraucher auf autonome Entscheidungsfindungsprozesse zurückzuführen ist; fordert die Kommission auf, diese Richtlinie zu überprüfen und eine Anpassung der Begriffe „Produkt“, „Schaden“ und „Fehler“ sowie eine Anpassung der Beweislastregeln in Betracht zu ziehen; fordert die Kommission auf, gegebenenfalls Vorschläge zur Aktualisierung dieser Begriffe und Regeln vorzulegen;

Rechtsrahmen für Dienstleistungen

9. weist darauf hin, dass der bestehende Rechtsrahmen für Dienstleistungen, der aus der Dienstleistungsrichtlinie[13], der Richtlinie über Berufsqualifikationen[14], der Richtlinie über eine Verhältnismäßigkeitsprüfung[15], der Richtlinie über den elektronischen Geschäftsverkehr[16] und der Datenschutz-Grundverordnung (DSGVO)[17] besteht, bereits viele politische Aspekte abdeckt, die für Dienstleistungen relevant sind, die automatisierte Entscheidungsfindungsprozesse umfassen, einschließlich Vorschriften über Verbraucherschutz, Ethik und Haftung; stellt fest, dass solche Vorschriften sowohl für herkömmliche Dienste als auch für Dienste gelten sollten, die automatisierte Entscheidungsfindungsprozesse beinhalten;

10. betont, dass automatisierte Entscheidungsfindungsprozesse zwar die Effizienz und Genauigkeit von Dienstleistungen verbessern können, dass jedoch der Mensch letztlich für Entscheidungen verantwortlich und in der Lage sein muss, sich über Entscheidungen hinwegzusetzen, die im Zusammenhang mit freiberuflichen Dienstleistungen wie den medizinischen, juristischen und Buchhaltungsberufen sowie für den Bankensektor getroffen werden; weist erneut darauf hin, wie wichtig die Beaufsichtigung oder unabhängige Aufsicht durch qualifizierte Fachkräfte in Fällen automatisierter Entscheidungsfindung ist, in denen berechtigte öffentliche Interessen auf dem Spiel stehen;

11. betont, dass es im Einklang mit der Richtlinie über die Verhältnismäßigkeitsprüfung wichtig ist, die Risiken vor der Automatisierung professioneller Dienstleistungen ordnungsgemäß zu bewerten; fordert die zuständigen Behörden der Mitgliedstaaten nachdrücklich auf, dafür zu sorgen, dass die berufliche Bildung den wissenschaftlichen Fortschritten auf dem Gebiet der automatisierten Entscheidungsfindung Rechnung trägt;

Qualität und Transparenz des Datenmanagements

12. stellt fest, dass automatisierte Entscheidungsfindungssysteme auf der Erhebung großer Datenmengen beruhen, und ist der Ansicht, dass die Verordnung über den freien Verkehr nicht-personenbezogener Daten[18] dazu beitragen wird, mehr Daten in der gesamten EU verfügbar zu machen und so die Schaffung innovativer datengesteuerter Dienste zu ermöglichen; erkennt das diesbezügliche Potenzial des Datenaustauschs nicht nur aus öffentlichen, sondern auch aus privaten Quellen an, unterstreicht jedoch, dass personenbezogene Daten unbedingt im Rahmen der Datenschutz-Grundverordnung geschützt werden müssen; betont, wie wichtig es ist, nur hochwertige und tendenzfreie Datensätze zu verwenden, um die Leistung algorithmischer Systeme zu verbessern und das Vertrauen und die Akzeptanz der Verbraucher zu stärken;

13. betont, dass es angesichts der erheblichen Auswirkungen, die automatisierte Entscheidungsfindungssysteme auf die Verbraucher, insbesondere auf diejenigen, die sich in einer prekären Situation befinden, haben können, wichtig ist, dass diese Systeme nicht nur hochwertige und tendenzfreie Datensätze, sondern auch verständliche und tendenzfreie Algorithmen verwenden; ist der Auffassung, dass im Rahmen von Geschäftsprozessen Überprüfungsstrukturen erforderlich sind, um mögliche Fehler bei automatisierten Entscheidungen zu beheben, und dass es den Verbrauchern möglich sein sollte, eine Überprüfung endgültiger und dauerhafter automatisierter Entscheidungen durch Menschen sowie gegebenenfalls eine Entschädigung zu verlangen;

14. betont, dass es für die Bewertung der Frage, ob Produkte mit Fähigkeiten zur automatisierten Entscheidungsfindung mit den einschlägigen Sicherheitsvorschriften in Einklang stehen, von wesentlicher Bedeutung ist, dass die Algorithmen hinter diesen Fähigkeiten angemessen transparent und für die Marktüberwachungsbehörden erklärbar sind; fordert die Kommission auf, zu prüfen, ob den Marktüberwachungsbehörden diesbezüglich zusätzliche Befugnisse eingeräumt werden sollten;

15. fordert die Kommission auf, die Umsetzung der Verordnung über die Beziehungen zwischen Plattformen und Unternehmen[19] genau zu überwachen‚ insbesondere die Vorschriften über die Transparenz von Rankings, bei denen automatisierte Entscheidungsfindungsprozesse zum Einsatz kommen;

16. beauftragt seinen Präsidenten, diese Entschließung dem Rat und der Kommission sowie den Sozialpartnern zu übermitteln.

[1] Angenommene Texte, P8_TA(2019)0081.

[2] ABl. C 252 vom 18.7.2018, S. 239.

[3] Richtlinie (EU) 2019/2161 des Europäischen Parlaments und des Rates vom 27. November 2019 zur Änderung der Richtlinie 93/13/EWG des Rates und der Richtlinien 98/6/EG, 2005/29/EG und 2011/83/EU des Europäischen Parlaments und des Rates zur besseren Durchsetzung und Modernisierung der Verbraucherschutzvorschriften der Union (ABl. L 328 vom 18.12.2019, S. 7).

[4] Verordnung (EU) 2018/302 des Europäischen Parlaments und des Rates vom 28. Februar 2018 über Maßnahmen gegen ungerechtfertigtes Geoblocking und andere Formen der Diskriminierung aufgrund der Staatsangehörigkeit, des Wohnsitzes oder des Ortes der Niederlassung des Kunden innerhalb des Binnenmarkts und zur Änderung der Verordnungen (EG) Nr. 2006/2004 und (EU) 2017/2394 sowie der Richtlinie 2009/22/EG (ABl. L 60 I vom 2.3.2018, S. 1).

[5] ABl. L 165 vom 18.6.2013, S. 63.

[6] ABl. L 165 vom 18.6.2013, S. 1.

[7] Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates vom 17. Mai 2006 über Maschinen und zur Änderung der Richtlinie 95/16/EG (Neufassung) (ABl. L 157 vom 9.6.2006, S. 24).

[8] Richtlinie 2009/48/EG des Europäischen Parlaments und des Rates vom 18. Juni 2009 über die Sicherheit von Spielzeug (ABl. L 170 vom 30.6.2009, S. 1).

[9] Richtlinie 2014/53/EU des Europäischen Parlaments und des Rates vom 16. April 2014 über die Harmonisierung der Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung von Funkanlagen auf dem Markt und zur Aufhebung der Richtlinie 1999/5/EG (ABl. L 153 vom 22.5.2014, S. 62).

[10] Richtlinie 2014/35/EU des Europäischen Parlaments und des Rates vom 26. Februar 2014 zur Harmonisierung der Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung elektrischer Betriebsmittel zur Verwendung innerhalb bestimmter Spannungsgrenzen auf dem Markt (ABl. L 96 vom 29.3.2014, S. 357).

[11] Richtlinie 2001/95/EG des Europäischen Parlaments und des Rates vom 3. Dezember 2001 über die allgemeine Produktsicherheit (ABl. L 11 vom 15.1.2002, S. 4).

[12] Richtlinie 85/374/EWG des Rates vom 25. Juli 1985 zur Angleichung der Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Haftung für fehlerhafte Produkte (ABl. L 210 vom 7.8.1985, S. 29).

[13] Richtlinie 2006/123/EG des Europäischen Parlaments und des Rates vom 12. Dezember 2006 über Dienstleistungen im Binnenmarkt (ABl. L 376 vom 27.12.2006, S. 36).

[14] Richtlinie 2013/55/EU des Europäischen Parlaments und des Rates vom 20. November 2013 zur Änderung der Richtlinie 2005/36/EG über die Anerkennung von Berufsqualifikationen und der Verordnung (EU) Nr. 1024/2012 über die Verwaltungszusammenarbeit mit Hilfe des Binnenmarkt-Informationssystems („IMI-Verordnung“) (ABl. L 354 vom 28.12.2013, S. 132).

[15] Richtlinie (EU) 2018/958 des Europäischen Parlaments und des Rates vom 28. Juni 2018 über eine Verhältnismäßigkeitsprüfung vor Erlass neuer Berufsreglementierungen (ABl. L 173 vom 9.7.2018, S. 25).

[16] Richtlinie 2000/31/EG des Europäischen Parlaments und des Rates vom 8. Juni 2000 über bestimmte rechtliche Aspekte der Dienste der Informationsgesellschaft, insbesondere des elektronischen Geschäftsverkehrs, im Binnenmarkt („Richtlinie über den elektronischen Geschäftsverkehr“) (ABl. L 178 vom 17.7.2000, S. 1).

[17] Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung) (ABl. L 119 vom 4.5.2016, S. 1).

[18] Verordnung (EU) 2018/1807 des Europäischen Parlaments und des Rates vom 14. November 2018 über einen Rahmen für den freien Verkehr nicht-personenbezogener Daten in der Europäischen Union (ABl. L 303 vom 28.11.2018, S. 59).

[19] Verordnung (EU) 2019/1150 des Europäischen Parlaments und des Rates vom 20. Juni 2019 zur Förderung von Fairness und Transparenz für gewerbliche Nutzer von Online-Vermittlungsdiensten (ABl. L 186 vom 11.7.2019, S. 57).

Letzte Aktualisierung: 7. Februar 2020Rechtlicher Hinweis - Datenschutzbestimmungen