Index 
 Zurück 
 Vor 
 Vollständiger Text 
Verfahren : 2015/2103(INL)
Werdegang im Plenum
Entwicklungsstadium in Bezug auf das Dokument : A8-0005/2017

Eingereichte Texte :

A8-0005/2017

Aussprachen :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Abstimmungen :

PV 16/02/2017 - 6.9

Angenommene Texte :

P8_TA(2017)0051

Angenommene Texte
PDF 374kWORD 75k
Donnerstag, 16. Februar 2017 - Straßburg Endgültige Ausgabe
Zivilrechtliche Regelungen im Bereich Robotik
P8_TA(2017)0051A8-0005/2017
Entschließung
 Anlage

Entschließung des Europäischen Parlaments vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103(INL))

Das Europäische Parlament,

–  gestützt auf Artikel 225 des Vertrags über die Arbeitsweise der Europäischen Union,

–  unter Hinweis auf die Richtlinie 85/374/EWG des Rates(1) ,

–  unter Hinweis auf das Gutachten über die ethischen Aspekte cyber-physischer Systeme, das im Auftrag der STOA-Lenkungsgruppe des Parlaments und unter der Leitung des Referats Wissenschaftliche Vorausschau der Generaldirektion Wissenschaftlicher Dienst erstellt wurde;

–  gestützt auf die Artikel 46 und 52 seiner Geschäftsordnung,

–  unter Hinweis auf den Bericht des Rechtsausschusses sowie die Stellungnahmen des Ausschusses für Verkehr und Fremdenverkehr, des Ausschusses für bürgerliche Freiheiten, Justiz und Inneres, des Ausschusses für Beschäftigung und soziale Angelegenheiten, des Ausschusses für Umweltfragen, öffentliche Gesundheit und Lebensmittelsicherheit, des Ausschusses für Industrie, Forschung und Energie und des Ausschusses für Binnenmarkt und Verbraucherschutz (A8-0005/2017),

Einleitung

A.  in der Erwägung, dass vom klassischen Pygmalion-Mythos der Antike über Frankensteins Monster von Mary Shelley und der Prager Golem-Legende bis zum „Roboter“ von Karel Čapek, der dieses Wort geprägt hat, Menschen über die Möglichkeit phantasiert haben, intelligente Maschinen zu bauen – in den meisten Fällen Androiden mit menschlichen Zügen;

B.  in der Erwägung, dass die Menschheit mittlerweile an der Schwelle einer Ära steht, in der immer ausgeklügeltere Roboter, Bots, Androiden und sonstige Manifestationen Künstlicher Intelligenz („KI“) anscheinend nur darauf warten, eine neue industrielle Revolution zu entfesseln, die wahrscheinlich keine Gesellschaftsschicht unberührt lassen wird, und es daher für Gesetzgeber von entscheidender Bedeutung ist, sich mit den rechtlichen und ethischen Implikationen und Folgen dieser Entwicklung zu befassen, ohne Innovationen abzuwürgen;

C.  in der Erwägung, dass es notwendig ist, eine allgemein anerkannte Begriffsbestimmung für den Begriff des Roboters und der KI zu finden, die flexibel ist und Innovationen nicht behindert;

D.  in der Erwägung, dass sich das durchschnittliche Wachstum beim Verkauf von Robotern zwischen 2010 und 2014 auf 17 % pro Jahr belief und sich der Umsatz im Jahr 2014 um 29 % steigerte, was im Jahresvergleich der höchsten Umsatzsteigerung entspricht, die je beobachtet wurde, und die wichtigsten Triebkräfte für dieses Umsatzwachstum die Automobilteilzulieferer und die Elektro-/Elektronikbranche waren, und in der Erwägung, dass sich die Patentanmeldungen für Robotiktechnologie in den letzten zehn Jahren verdreifacht haben;

E.  in der Erwägung, dass die Beschäftigungszahlen in den letzten 200 Jahren aufgrund der technologischen Entwicklung unentwegt zugenommen haben; in der Erwägung, dass die Entwicklung der Robotik und der KI möglicherweise das Potenzial hat, Leben und Arbeitsmethoden zu verändern, das Maß an Effizienz und Sicherheit zu erhöhen und das Dienstleistungsangebot zu verbessern, in der ErwÄgung, dass die Robotik und KI mittel- und langfristig nicht nur in den Bereichen Produktion und Handel, sondern auch in solchen Bereichen wie Verkehr, Gesundheits- und Rettungswesen, Bildung und Landwirtschaft, Effizienzvorteile und Kosteneinsparungen bringen werden, und es gleichzeitig möglich machen, dass Menschen keinen gefährlichen Bedingungen mehr ausgesetzt werden müssen, wie zum Beispiel bei der Reinigung von mit Giftstoffen kontaminierten Standorten;

F.  in der Erwägung, dass die Alterung der Bevölkerung die Folge einer gestiegenen Lebenserwartung ist, die den verbesserten Lebensbedingungen und dem Fortschritt in der modernen medizinischen Versorgung zu verdanken ist und zu den größten politischen, sozialen und wirtschaftlichen Herausforderungen für die europäischen Gesellschaften im 21. Jahrhundert gehört; in der Erwägung, dass bis 2025 über 20 % der Europäer 65 Jahre oder älter sein werden und die Zahl der Personen über 80 Jahren besonders deutlich zunehmen wird, was zu einer grundlegenden Änderung des Gleichgewichts zwischen den Generationen innerhalb unserer Gesesllschaft führen wird, und es im Interesse der Gesellschaft liegt, dass ältere Menschen möglichst lange gesund und aktiv bleiben;

G.  in der Erwägung, dass sich gegenwärtig eine langfristige Tendenz der Entwicklung von intelligenten und autonomen Maschinen mit der Fähigkeit zum unabhängigen Erlernen und zur unabhängigen Entscheidungsfindung abzeichnet, die nicht nur mit wirtschaftlichen Vorteilen, sondern auch mit einer Vielzahl von Bedenken hinsichtlich der unmittelbaren und mittelbaren Folgen für die Gesellschaft in ihrer Gesamtheit verbunden ist;

H.  in der Erwägung, dass maschinelles Lernen der Gesellschaft durch eine deutliche Verbesserung der Datenanalysefähigkeit enorme wirtschaftliche und innovationsbezogene Vorteile bietet, aber auch Herausforderungen im Zusammenhang mit der Durchsetzung von Nichtdiskriminierung, ordnungsgemäßen Verfahren, Transparenz und der Verständlichkeit der Entscheidungsfindung mit sich bringt;

I.  in der Erwägung, dass ebenso auch Bewertungen des wirtschaftlichen Wandels und der Folgen für die Beschäftigung aufgrund von Robotik und maschinellem Lernen vorgenommen werden müssen; in der Erwägung, dass die Umsetzung der Robotik trotz der unleugbaren Vorteile, die diese mit sich bringt, einen Wandel des Arbeitsmarkts bewirken und es dementsprechend erforderlich werden könnte, über die Zukunft der Bildung, Beschäftigung und Sozialpolitik nachzudenken;

J.  in der Erwägung, dass der verbreitete Einsatz von Robotern möglicherweise nicht automatisch zu einem Ersatz von Arbeitskräften führt, sondern dazu, dass geringer qualifizierte Arbeitsplätze in arbeitsintensiven Branchen eher durch die Automatisierung gefährdet sind; in der Erwägung, dass Herstellungsprozesse durch diesen Trend in die EU zurückverlagert werden könnten; in der Erwägung, dass die Forschung ergeben hat, dass die Beschäftigung in Berufen deutlich stärker zunimmt, in denen Computer häufiger zum Einsatz kommen; in der Erwägung, dass die Automatisierung von Arbeitsplätzen die Möglichkeit bietet, Menschen von manueller monotoner Arbeit zu befreien, und es ihnen gestattet, sich kreativeren und sinnvolleren Aufgaben zuzuwenden; in der Erwägung, dass die Regierungen im Hinblick auf die Automatisierung in Bildung und weitere Reformen investieren müssen, um den Neuerwerb der Arten von Qualifikationen zu verbessern, die die Arbeitnehmer von morgen benötigen werden;

K.  in der Erwägung, dass es angesichts der zunehmenden Spaltung der Gesellschaft bei einer zugleich schrumpfenden Mittelschicht im Zuge der Weiterentwicklung der Robotik zu einer starken Konzentration von Reichtum und Einfluss in den Händen einer Minderheit kommen kann;

L.  in der Erwägung, dass die Entwicklung der Robotik und KI definitiv einen Einfluss auf die Gestaltung von Arbeitsplätzen ausüben wird, wodurch möglicherweise neue haftungsrechtliche Bedenken entstehen und andere beseitigt werden; in der Erwägung, dass – für den Fall, dass Notfälle oder Probleme auftreten – die rechtliche Verantwortung sowohl aus Sicht der Unternehmer als auch für die Arbeitnehmerseite geklärt werden muss;

M.  in der Erwägung, dass es aufgrund des Trends zur Automatisierung erforderlich ist, dass diejenigen, die an der Entwicklung und dem Inverkehrbringen von KI-Anwendungen beteiligt sind, Sicherheit und Ethik von Anfang an darin einfließen lassen und mithin anerkennen, dass sie darauf vorbereitet sein müssen, die rechtliche Haftung für die Qualität der von ihnen hergestellten Technologie zu übernehmen;

N.  in der Erwägung, dass mit der Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates(2) (Datenschutz-Grundverordnung) ein rechtlicher Rahmen für den Schutz personenbezogener Daten festgelegt wurde; in der Erwägung, dass es nach wie vor datenschutzrechtliche Bedenken geben könnte, wenn Anwendungen und Geräte sowohl untereinander als auch mit Datenbanken ohne jegliches menschliches Eingreifen kommunizieren, und daher möglicherweise noch weitere Aspekte des Datenzugangs und des Schutzes personenbezogener Daten und der Privatsphäre geklärt werden müssen;

O.  in der Erwägung, dass die Entwicklungen in der Robotik und der KI so gestaltet sein können und müssen, dass damit die Würde, die Autonomie und die Selbstbestimmung der einzelnen Person gewahrt bleiben, insbesondere in den Bereichen der Pflege durch Menschen und der Gesellschaft des Menschen sowie im Zusammenhang mit medizinischen Geräten, der „Reparatur“ oder der „Optimierung“ von Menschen;

P.  in der Erwägung, dass letzten Endes die Möglichkeit besteht, dass die KI langfristig die intellektuellen Fähigkeiten des Menschen überflügeln könnte;

Q.  in der Erwägung, dass sich die weitere Entwicklung und der vermehrte Einsatz einer automatisierten und auf Algorithmen basierenden Entscheidungsfindung zweifellos auf die bevorzugten Auswahlmöglichkeiten von Privatpersonen (wie beispielsweise Unternehmen oder Internetnutzern) und Verwaltungs-, Justiz- oder sonstigen Behörden bei ihren endgültigen Entscheidungen im Hinblick auf Verbraucher-, Unternehmens- oder Regelungsfragen auswirkt; in der Erwägung, dass Schutzvorrichtungen und die Möglichkeit der Steuerung und Überprüfung durch den Menschen in Prozesse der automatisierten und auf Algorithmen basierenden Entscheidungsfindung integriert sein müssen;

R.  in der Erwägung, dass mehrere ausländische Gerichtsbarkeiten, darunter die Vereinigten Staaten von Amerika, Japan, China und Südkorea, derzeit regulatorische Maßnahmen im Hinblick auf Robotik und KI in Erwägung ziehen bzw. solche Maßnahmen in einem bestimmten Umfang bereits ergriffen haben, und einige Mitgliedstaaten ebenfalls damit begonnen haben, über eine mögliche Ausarbeitung gesetzlicher Normen oder über mögliche Änderungen der Gesetzgebung nachzudenken, um der aufkommenden Anwendung solcher Technologien Rechnung zu tragen;

S.  in der Erwägung, dass die europäische Industrie aus einem wirksamen, einheitlichen und transparenten Konzept zur Regulierung auf EU-Ebene Nutzen ziehen könnte, mit dem vorhersehbare und hinreichend klare Bedingungen vorgegeben werden, in deren Rahmen Unternehmen Anwendungen entwickeln und ihre Geschäftsmodelle in europäischem Maßstab planen könnten, während gleichzeitig dafür Sorge getragen wird, dass die EU und ihre Mitgliedstaaten die Kontrolle über die regulatorischen Standards behalten, die festgesetzt werden müssen, und dadurch nicht gezwungen sind, Standards anzunehmen und nach ihnen zu leben, die von anderen (nämlich Drittstaaten, die an vorderster Front der Entwicklung von Robotern und KI stehen) festgesetzt worden sind;

Allgemeine Grundsätze

T.  in der Erwägung, dass die Roboterregeln von Asimov(3) auf Entwickler, Hersteller und Betreiber von Robotern, darunter auch solche mit integrierter Autonomie und der Fähigkeit zum Selbstlernen, gerichtet angesehen werden müssen, da diese Gesetze nicht in einen Maschinencode umgewandelt werden können;

U.  in der Erwägung, dass ein Regelwerk, insbesondere für Haftungsfragen und Fragen der Transparenz und Rechenschaftspflicht, sinnvoll wäre, das den ureigenen europäischen und universellen humanistischen Werten Rechnung tragen müsste, die Europas Beitrag zur Gesellschaft charakterisieren; in der Erwägung, dass dieses Regelwerk den Forschungs-, Innovations- und Entwicklungsprozess im Bereich Robotik nicht beeinträchtigen darf;

V.  in der Erwägung, dass die EU eine wesentliche Rolle dabei spielen könnte, ethische Grundprinzipien festzulegen, die bei der Entwicklung, Programmierung und Nutzung von Robotern und KI eingehalten werden müssen, und sie solche Grundprinzipien in EU-Rechtsvorschriften und Verhaltenskodizes mit dem Ziel aufnehmen könnte, die technische Revolution so zu gestalten, dass sie in den Dienst der Menschheit gestellt wird und dass die Vorteile einer fortschrittlichen Robotik und KI möglichst vielen zugutekommen, während potenzielle Fallstricke nach Möglichkeit verhindert werden;

W.  in der Erwägung, dass diesem Bericht eine Charta über Robotik beigefügt ist, die mit Unterstützung des Referats Wissenschaftliche Vorausschau der Generaldirektion Wissenschaftlicher Dienst erstellt wurde und einen Kodex für ethisches Verhalten für Robotikingenieure, einen Kodex für Ausschüsse zu ethischen Fragen in der Forschung und Lizenzen für Konstrukteure und Nutzer umfasst;

X.  in der Erwägung, dass für die EU im Hinblick auf zukünftige Initiativen im Bereich der Robotik und KI nach einem schrittweisen, pragmatischen und umsichtigen Ansatz der Art vorgegangen werden sollte, für den Jean Monnet(4) eingetreten ist, damit Innovationen nicht behindert werden;

Y.  in der Erwägung, dass es angesichts der bei der Entwicklung von Robotik und KI erreichten Phase angezeigt ist, mit Fragen der zivilrechtlichen Haftung zu beginnen;

Haftung

Z.  in der Erwägung, dass die heutigen Roboter dank der beeindruckenden technischen Fortschritte des letzten Jahrzehnts nicht nur in der Lage sind, Tätigkeiten auszuüben, die früher einmal typische menschliche Tätigkeiten waren, welche ausschließlich den Menschen vorbehalten waren, sondern durch die Entwicklung bestimmter autonomer und kognitiver Merkmale – beispielsweise der Fähigkeit, aus Erfahrung zu lernen und quasi-unabhängige Entscheidungen zu treffen – den Akteuren, die mit ihrer Umwelt interagieren und diese ganz erheblich verändern können, immer ähnlicher geworden sind; in der Erwägung, dass vor diesem Hintergrund die rechtliche Verantwortung, die sich aus schädigenden Handlungen eines Roboters ergeben, zu einer zentralen Frage wird;

AA.  in der Erwägung, dass die Autonomie eines Roboters als die Fähigkeit definiert werden kann, Entscheidungen zu treffen und diese in der äußeren Welt unabhängig von externer Steuerung oder Einflussnahme umzusetzen, und in der Erwägung, dass diese Autonomie rein technologischer Art ist und ihr Grad davon abhängt, wie ausgeklügelt die Interaktion des Roboters mit seiner jeweiligen Umwelt konzipiert worden ist;

AB.  in der Erwägung, dass Roboter umso weniger als simple Werkzeuge in den Händen anderer Akteure (wie zum Beispiel Hersteller, Betreiber, Eigentümer, Nutzer usw.) angesehen werden können, je autonomer sie sind; in der Erwägung, dass dies wiederum die Frage aufwirft, ob die normalen Haftungsregeln ausreichend sind oder hierfür neue Grundsätze und Regeln erforderlich sind, um Klarheit zu schaffen bezüglich der Haftung verschiedener Akteure im Zusammenhang mit einer Verantwortlichkeit für Handlungen und Unterlassungen von Robotern, die nicht auf einen bestimmten menschlichen Akteur zurückgeführt werden können, und bezüglich der Frage, ob die schadensursächlichen Handlungen oder Unterlassungen von Robotern hätten verhindert werden können;

AC.  in der Erwägung, dass die Autonomie der Roboter vor dem Hintergrund der bestehenden rechtlichen Kategorien schließlich die Frage nach ihrer Rechtsnatur aufwirft bzw. die Frage, ob eine neue Kategorie mit eigenen speziellen Merkmalen und Implikationen geschaffen werden sollte;

AD.  in der Erwägung, dass im Rahmen des derzeit geltenden Rechtsrahmens Roboter per se nicht für Handlungen oder Unterlassungen haftbar gemacht werden können, die Dritten einen Schaden zufügen; und in der Erwägung, dass die bestehenden Vorschriften zur Haftung Fälle abdecken, bei denen die Ursache der Handlung oder Unterlassung eines Roboters auf einen konkreten menschlichen Akteur, wie zum Beispiel den Hersteller, den Betreiber oder den Benutzer, zurückverfolgt werden kann und bei denen dieser Akteur das schädliche Verhalten des Roboters hätte vorhersehen und verhindern können, sowie in der Erwägung, dass Hersteller, Betreiber, Eigentümer oder Nutzer für Handlungen oder Unterlassungen eines Roboters verschuldensunabhängig haften könnten;

AE.  in der Erwägung, dass nach dem gegenwärtigen Rechtsrahmen die Produkthaftung – bei der der Hersteller eines Produktes die Haftung für eine Fehlfunktion übernimmt – und die Regeln für die Haftung für schädigende Handlungen – bei denen der Nutzer eines Produktes die Haftung für ein schadensverursachendes Verhalten übernimmt – für Schäden anwendbar sind, die von Robotern oder KI verursacht werden;

AF.  in der Erwägung, dass in dem Szenario, in dem ein Roboter eigenständig Entscheidungen treffen kann, die herkömmlichen Regeln nicht mehr ausreichen werden, um eine Haftung für verursachte Schäden auszulösen, weil sie es nicht möglich machen würden, den Beteiligten zu ermitteln, der für den Ausgleich des Schadens verantwortlich ist, und diesem Beteiligten dann vorzuschreiben, den von ihm verursachten Schaden zu ersetzen;

AG.  in der Erwägung, dass Defizite des derzeit geltenden Rechtsrahmens auf dem Gebiet der Vertragshaftung insofern offensichtlich sind, als Maschinen, die dazu konzipiert sind, ihr jeweiliges Gegenüber auszuwählen, vertragliche Bedingungen auszuhandeln, Verträge abzuschließen und zu entscheiden, ob und wie sie diese Verträge umsetzen, die herkömmlichen Regeln unanwendbar machen, was die Notwendigkeit für neue, wirksame und aktuelle Regeln unterstreicht, die den kürzlich auf dem Markt erschienenen und verwendeten technologischen Entwicklungen und Innovationen entsprechen müssen;

AH.  in der Erwägung, dass im Hinblick auf die außervertragliche Haftung die Richtlinie 85/374/EWG lediglich Schäden abdecken kann, die durch Herstellungsfehler eines Roboters verursacht wurden, und unter der Voraussetzung, dass der Geschädigte den tatsächlichen Schaden, den Fehler und den ursächlichen Zusammenhang zwischen Fehler und Schaden beweisen kann (daher Gefährdungshaftung oder verschuldensunabhängige Haftung), und dass dieser Rahmen möglicherweise nicht ausreichend ist;

AI.  in der Erwägung, dass ungeachtet des Anwendungsbereichs der Richtlinie 85/374/EWG der derzeit geltende Rechtsrahmen nicht ausreichen würde, um Schäden abzudecken, die von Robotern der neuen Generation erzeugt werden, soweit diese mit adaptiven Fähigkeiten und Lernfähigkeiten ausgestattet werden können, die ein gewisses Maß an Unvorhersehbarkeit in ihrem Verhalten zur Folge haben, da diese Roboter eigenständig aus ihrer eigenen, variablen Erfahrung lernen und mit ihrer Umwelt auf einzigartige und unvorhersehbare Weise interagieren würden;

Allgemeine Grundsätze bezüglich der Entwicklung der Robotik und der Künstlichen Intelligenz zur zivilen Nutzung

1.  fordert die Kommission auf, gemeinsame unionsweite Begriffsbestimmungen für cyber-physische Systeme, autonome Systeme, intelligente autonome Roboter und deren Unterkategorien festzulegen, und dabei den folgenden Eigenschaften intelligenter Roboter Rechnung zu tragen:

   Erlangung von Autonomie über Sensoren und/oder über den Datenaustausch mit ihrer Umgebung (Interkonnektivität) und die Bereitstellung und Analyse dieser Daten
   Fähigkeit zum Selbstlernen durch Erfahrung und durch Interaktion (optionales Kriterium)
   mindestens eine minimale physische Unterstützung
   Fähigkeit, ihr Verhalten und ihre Handlungen an ihre Umgebung anzupassen
   keine Lebewesen im biologischen Sinn;

2.  vertritt die Auffassung, dass im Rahmen des EU-Binnenmarkts ein umfassendes EU-Registrierungssystem für fortschrittliche Roboter eingeführt werden sollte, wenn dies für bestimmte Kategorien von Robotern sachdienlich und notwendig ist, und fordert die Kommission auf, im Hinblick auf Roboter, die registriert werden müssten, Kriterien für die Einstufung von Robotern festzulegen; fordert die Kommission in diesem Zusammenhang auf, zu untersuchen, ob das Registrierungssystem und das zugehörige Register von einer speziellen EU-Agentur für Robotik und Künstliche Intelligenz verwaltet werden sollten;

3.  betont, dass man sich bei der Entwicklung der Robotertechnologie darauf konzentrieren sollte, menschliche Fähigkeiten zu ergänzen und nicht zu ersetzen; ist der Ansicht, dass im Rahmen der Entwicklung der Robotik und der künstlichen Intelligenz unbedingt sichergestellt werden muss, dass intelligente Maschinen jederzeit vom Menschen kontrollierbar sind; vertritt die Auffassung, dass der möglichen Entwicklung einer emotionalen Bindung zwischen Menschen und Robotern besondere Aufmerksamkeit gewidmet werden sollte – insbesondere im Fall von schutzbedürftigen Gruppen (Kinder, ältere Menschen, Menschen mit Behinderungen) – und weist darauf hin, dass solche emotionalen Bindungen schwerwiegende emotionale oder physische Auswirkungen auf die Menschen haben könnten;

4.  hebt hervor, dass durch einen Ansatz auf Unionsebene einer Fragmentierung des Binnenmarkts vorgebeugt und so die Entwicklung vorangetrieben werden kann, und verweist zugleich auf die Bedeutung des Grundsatzes der gegenseitigen Anerkennung beim länderübergreifenden Einsatz von Robotik und Robotersystemen; weist darauf hin, dass Prüfung, Zertifizierung und Marktzulassung nur in einem einzigen Mitgliedstaat erforderlich sein sollten; betont, dass dieser Ansatz mit einer wirksamen Marktüberwachung einhergehen sollte;

5.  hebt hervor, wie wichtig es ist, Maßnahmen zur Unterstützung von kleinen und mittleren Unternehmen und von Start-up-Unternehmen im Bereich Robotik zu ergreifen, die neue Marktsegmente in diesem Bereich eröffnen oder Roboter einsetzen;

Forschung und Innovation

6.  hebt hervor, dass sich viele Robotikanwendungen immer noch im Versuchsstadium befinden; begrüßt die Tatsache, dass immer mehr Forschungsprojekte von den Mitgliedstaaten und der EU finanziert werden; hält es für unabdingbar, dass die EU und die Mitgliedstaaten durch den Einsatz öffentlicher Gelder auf künftig eine führende Stellung in der Forschung im Bereich Robotik und KI einnehmen; fordert die Kommission und die Mitgliedstaaten auf, die Finanzinstrumente, einschließlich öffentlich-privater Partnerschaften, für Forschungsprojekte in den Bereichen Robotik und IKT zu stärken und in ihren Strategien für die Forschungspolitik die Prinzipien der „offenen Wissenschaft“ und der „ethisch verantwortungsvollen Innovation“ umzusetzen; unterstreicht, dass für die Suche nach Lösungen für die gesellschaftlichen, ethischen, rechtlichen und wirtschaftlichen Herausforderungen, die durch die technische Entwicklung und deren Anwendungen entstehen, ausreichend Mittel bereitgestellt werden müssen;

7.  fordert die Kommission und die Mitgliedstaaten auf, Forschungsprogramme zu fördern, Anreize zur Erforschung der möglichen langfristigen Risiken und Chancen und Robotik und der KI zu setzen und so bald wie möglich einen strukturierten öffentlichen Dialog über die Entwicklung dieser Technologien anzustoßen; fordert die Kommission auf, bei der Halbzeitüberprüfung des mehrjährigen Finanzrahmens ihre Unterstützung für das im Rahmen von Horizont 2020 finanzierte SPARC-Programm aufzustocken; fordert die Kommission und die Mitgliedstaaten auf, ihre Anstrengungen zu bündeln, um für diese Technologien einen reibungsloseren Übergang von der Forschung zum Inverkehrbringen und Verwenden auf dem Markt nach Durchführung geeigneter Sicherheitsbewertungen und unter Einhaltung des Vorsorgeprinzips zu gewährleisten und diesen Übergang sorgfältig zu überwachen;

8.  betont, dass Innovation in der Robotik und der KI und die Integration der damit verbundenen Technologien in Wirtschaft und Gesellschaft eine digitale Infrastruktur voraussetzen, die eine universelle Konnektivität bietet; fordert die Kommission auf, einen Rahmen zu errichten, der den Konnektivitätsanforderungen mit Blick auf die digitale Zukunft der Union gerecht wird, und dafür Sorge zu tragen, dass beim Zugang zu Breitband- und 5G-Netzen stets der Grundsatz der Netzneutralität zum Tragen kommt;

9.  ist der festen Überzeugung, dass die Interoperabilität von Systemen, Einrichtungen und Cloud-Diensten, die auf Sicherheit und eingebautem Datenschutz beruht, eine Grundvoraussetzung für die Übertragung von Daten in Echtzeit ist, mit der Roboter und die KI flexibler und autonomer werden können; ersucht die Kommission, ein offenes Umfeld zu fördern, das von offenen Standards und innovativen Lizenzmodellen bis hin zu offenen Plattformen und Transparenz reicht, damit keine Bindung an herstellereigene Systeme erfolgt, die die Interoperabilität einschränken;

Ethische Grundsätze

10.  stellt fest, dass das mit der Nutzung der Robotik verbundene Potenzial zur Befähigung durch eine Reihe von Spannungen oder Risiken nuanciert wird und im Hinblick auf die Unversehrtheit, Gesundheit und Sicherheit der Menschen, Freiheit, Integrität und Würde, Selbstbestimmung und Nichtdiskriminierung und den Schutz personenbezogener Daten gründlich bewertet werden sollte;

11.  vertritt die Ansicht, dass der bestehende EU-Rechtsrahmen modernisiert und gegebenenfalls um ethische Vorgaben ergänzt werden sollte, die der Komplexität der Robotik und ihren zahlreichen gesellschaftlichen, medizinischen und bioethischen Implikationen Rechnung tragen; ist der Auffassung, dass ein klarer, strenger und wirksamer ethischer Leitrahmen für die Entwicklung, Konstruktion, Herstellung, Nutzung und Änderung von Robotern erforderlich ist, um die rechtlichen Empfehlungen des Berichts und den bestehenden Besitzstand der Mitgliedstaaten und der Union zu ergänzen; schlägt im Anhang zur Entschließung einen Rahmen in Form einer Charta vor, die aus einem Verhaltenskodex für Robotikingenieure, einem Kodex für Ausschüsse für ethische Fragen in der Forschung bei der Überprüfung von Robotikprotokollen und aus Musterlizenzen für Konstrukteure und Nutzer besteht;

12.  betont den Grundsatz der Transparenz, wonach es jederzeit möglich sein muss, die Gründe für jede mithilfe der KI getroffene Entscheidung anzugeben, die sich wesentlich auf das Leben einer oder mehrerer Personen auswirken kann; ist der Auffassung, dass es jederzeit möglich sein muss, die Berechnungen von KI-Systemen zurück in eine für den Menschen verständliche Form zu überführen; ist der Auffassung, dass fortschrittliche Roboter mit einer „Blackbox“ ausgestattet sein sollten, in der die Daten über jede von der Maschine ausgeführte Aktion – einschließlich der logischen Abfolgen, die zu etwaigen Entscheidungen geführt haben – gespeichert sind;

13.  weist darauf hin, dass der ethische Leitrahmen auf den Grundsätzen der Benefizienz, der Schadensverhütung, der Autonomie und der Gerechtigkeit sowie auf den in Artikel 2 des Vertrags über die Europäische Union und in der Charta der Grundrechte verankerten Grundsätzen und Werten beruhen sollte, wie zum Beispiel Menschenwürde, Gleichheit, Gerechtigkeit und Fairness, Nichtdiskriminierung, Einwilligung nach Aufklärung, Privat- und Familienleben und Datenschutz sowie auf anderen dem Unionsrecht zu Grunde liegenden Grundsätzen und Werten, wie Nichtstigmatisierung, Transparenz, Autonomie und individuelle Verantwortung und soziale Verantwortung, und auf bestehenden ethischen Praktiken und Regelwerken;

14.  ist der Ansicht, dass besonderes Augenmerk auf Roboter gerichtet werden sollte, die eine erhebliche Gefahr für den Schutz der Vertraulichkeit darstellen, weil sie in Bereichen eingesetzt werden, die üblicherweise geschützt sind und zur Privatsphäre gehören, und weil sie personenbezogene und sensible Daten generieren und übermitteln können;

Eine Europäische Agentur

15.  vertritt die Auffassung, dass eine verstärkte Zusammenarbeit zwischen den Mitgliedstaaten und der Kommission erforderlich ist, um kohärente grenzübergreifende Vorschriften in der Union sicherzustellen, die das Zusammenwirken der europäischen Branchen fördern und in der gesamten Union den Einsatz von Robotern ermöglichen, die die erforderlichen Sicherheitsstandards erfüllen und mit den im Unionsrecht verankerten ethischen Grundsätzen vereinbar sind;

16.  fordert die Kommission auf, die Benennung einer Europäischen Agentur für Robotik und Künstliche Intelligenz in Betracht zu ziehen, damit das erforderliche technische, ethische und regulatorische Fachwissen zur Verfügung steht, um die relevanten öffentlichen Akteure auf Unionsebene und nationaler Ebene in ihren Bemühungen zu unterstützen, eine rechtzeitige, ethische und fundierte Antwort auf die neuen Chancen und Herausforderungen zu geben, und zwar insbesondere auf solche, die einen grenzübergreifenden Charakter aufweisen und sich aus technologischen Entwicklungen in der Robotik, zum Beispiel im Verkehrssektor, ergeben;

17.  ist der Auffassung, dass es angesichts des Potenzials und der Probleme im Zusammenhang mit der Robotiknutzung und der gegenwärtigen Investitionsdynamik gerechtfertigt ist, die Europäische Agentur mit einem eigenem Budget und einer Belegschaft aus Regulierungsexperten sowie externen Sachverständigen und Ethikexperten auszustatten, die sich der sektor- und disziplinübergreifenden Überwachung robotikbasierter Anwendungen widmen, Standards für beste Praktiken ermitteln und gegebenenfalls Regulierungsmaßnahmen empfehlen, neue Grundsätze festlegen und sich mit potenziellen Fragen des Verbraucherschutzes und systematischen Herausforderungen befassen; fordert die Kommission (und die Europäische Agentur, falls eine solche errichtet wird) auf, dem Europäischen Parlament jährlich über die neuesten Entwicklungen auf dem Gebiet der Robotik sowie über eventuell zu ergreifende Maßnahmen Bericht zu erstatten;

Rechte des geistigen Eigentums und Datenfluss

18.  stellt fest, dass es keine Rechtsvorschriften gibt, die speziell für die Robotik gelten, dass die bestehenden gesetzlichen Regelungen und die bestehenden Rechtslehren aber ohne Weiteres auf die Robotik angewandt werden können, wohingegen einige Aspekte anscheinend besonders berücksichtigt werden müssen; fordert die Kommission auf, einen horizontalen und technologisch neutralen Ansatz in Bezug auf die Rechte des geistigen Eigentums zu unterstützen, die auf die verschiedenen Branchen anwendbar sind, in denen die Robotik zum Einsatz kommen könnte;

19.  fordert die Kommission und die Mitgliedstaaten auf, dafür zu sorgen, dass zivilrechtliche Regelungen für den Bereich der Robotik mit der allgemeinen Datenschutzverordnung („Datenschutzgrundverordnung“) und den Grundsätzen der Erforderlichkeit und der Verhältnismäßigkeit im Einklang stehen; fordert die Kommission und die Mitgliedstaaten auf, der rasanten Entwicklung der Technik im Bereich der Robotik, einschließlich der Fortschritte bei cyber-physischen Systemen, Rechnung zu tragen und dafür zu sorgen, dass das Unionsrecht nicht hinter dem technischen Fortschritt und der technologischen Umsetzung zurückbleibt;

20.  betont, dass das Recht auf Schutz des Privatlebens und das Recht auf Schutz personenbezogener Daten, die in Artikel 7 und 8 der Charta sowie in Artikel 16 des Vertrags über die Arbeitsweise der Europäischen (AEUV) verankert sind, für alle Bereiche der Robotik gelten und dass der Rechtsrahmen der Union für den Datenschutz in vollem Umfang eingehalten werden muss; fordert in diesem Zusammenhang, dass im Rahmen des Umsetzung der Datenschutz-Grundverordnung die der Vorschriften und Kriterien für den Einsatz von Kameras und Sensoren in Robotersystemen präzisiert werden; fordert die Kommission auf, dafür zu sorgen, dass datenschutzrechtliche Grundsätze wie eingebauter Datenschutz, datenschutzfreundliche Voreinstellungen, Datenminimierung und Zweckbindung beachtet werden, dass für die Betroffenen transparente Kontrollverfahren und geeignete Rechtsbehelfe gemäß dem Datenschutzrecht der Union zur Verfügung stehen und dass zweckmäßige Empfehlungen und Standards gefördert und in die Unionspolitiken integriert werden;

21.  hebt hervor, dass der freie Datenverkehr für die digitale Wirtschaft und die Entwicklung im Bereich Robotik und KI unabdingbar ist; hebt hervor, dass ein hohes Maß an Sicherheit von Robotersystemen, auch was ihre internen Datensysteme und Datenflüsse betrifft, für eine angemessene Nutzung der Robotik und KI von entscheidender Bedeutung ist; betont, dass dafür gesorgt werden muss, dass Netze miteinander verbundener Roboter und KI-Systeme geschützt werden, um potenziellen Sicherheitsverstößen vorzubeugen; betont, dass ein hohes Niveau an Sicherheit und der Schutz personenbezogener Daten zusammen mit der gebotenen Achtung der Privatsphäre für die Kommunikation zwischen Menschen, Robotern und KI grundlegend sind; hebt die Verantwortung der Entwickler von Robotik und künstlicher Intelligenz hervor, die Produkte so gestalten müssen, dass sie sicher sind und ihren Zweck erfüllen; fordert die Kommission und die Mitgliedstaaten auf, die Entwicklung der erforderlichen Technologie, etwa eingebaute Sicherheit, zu unterstützen und entsprechende Anreize zu setzen;

Standardisierung und Sicherheit

22.  betont, dass die Frage der Festlegung von Normen und der Wahrung der Interoperabilität für den künftigen Wettbewerb auf dem Gebiet der KI- und Robotertechnologien entscheidend ist; fordert die Kommission auf, die Arbeit an der internationalen Harmonisierung von technischen Normen, insbesondere gemeinsam mit europäischen Normungsorganisationen und der Internationalen Organisation für Normung fortzusetzen, um Innovationen zu fördern, eine Fragmentierung des Binnenmarktes zu verhindern und ein hohes Maß an Produktsicherheit und Verbraucherschutz, gegebenenfalls durch geeignete Mindestsicherheitsstandards am Arbeitsplatz zu gewährleisten; betont, wie wichtig rechtmäßiges „Reverse Engineering“ und offene Standards sind, um den Wert der Innovation zu maximieren und sicherzustellen, dass Roboter miteinander kommunizieren können; begrüßt in dieser Hinsicht die Einrichtung spezieller Fachausschüsse wie ISO/TC 299 Robotik, die sich ausschließlich mit der Ausarbeitung von Normen für Robotik befassen;

23.  betont, dass die Prüfung von Robotern in lebensnahen Szenarien für die Ermittlung und Bewertung der Risiken, die mit ihnen verbunden sein können sowie für ihre technologische Entwicklung, die über eine reine Versuchsphase im Labor hinausgeht, von entscheidender Bedeutung ist; unterstreicht in dieser Hinsicht, dass die Prüfung von Robotern in lebensnahen Szenarien, insbesondere in Städten und auf Straßen, eine große Zahl von Fragen aufwirft, darunter auch Hürden, die die Entwicklung dieser Prüfphasen verlangsamen, und einen wirksamen Strategie- und Überwachungsmechanismus erfordert; fordert die Kommission auf, einheitliche Kriterien für alle Mitgliedstaaten zu entwerfen, die die einzelnen Mitgliedstaaten verwenden sollten, um Bereiche zu ermitteln, in denen Experimente mit Robotern zulässig sind, unter Einhaltung des Vorsorgeprinzips;

Autonome Verkehrsmittel

a)Autonome Fahrzeuge

24.  hebt hervor, dass autonomer Verkehr alle Formen ferngesteuerter, automatisierter, vernetzter und autonomer Straßen-, Schienen-, Wasser- und Luftverkehrsmittel wie Fahrzeuge, Züge, Wasserfahrzeuge, Fähren, Luftfahrzeuge und Drohnen sowie alle künftigen Formen der Entwicklungen und Innovationen in diesem Bereich umfasst;

25.  ist der Auffassung, dass die Automobilbranche dringend auf wirksame Regeln auf europäischer und globaler Ebene angewiesen ist, um eine grenzüberschreitende Entwicklung automatisierter und autonomer Fahrzeuge zu gewährleisten, damit ihr wirtschaftliches Potenzial und die Vorteile aus den positiven Auswirkungen technologischer Trends in vollem Umfang ausgeschöpft werden können; betont, dass fragmentierte regulatorische Konzepte die Umsetzung autonomer Verkehrssysteme behindern und die Wettbewerbsfähigkeit Europas gefährden würden;

26.  macht darauf aufmerksam, dass der Reaktionszeit des Fahrers bei einer ungeplanten Übernahme der Fahrzeugkontrolle eine entscheidende Bedeutung zukommt, und fordert deshalb von den betroffenen Akteuren, realistische Werte vorzusehen, die ausschlaggebend für Sicherheits- und Haftungsfragen sind;

27.  ist der Auffassung, dass sich der Übergang zu autonomen Fahrzeugen in folgenden Bereichen auswirken wird: zivilrechtliche Verantwortlichkeit (Haftung und Versicherung), Verkehrssicherheit, alle Themen im Zusammenhang mit der Umwelt (z. B. Energieeffizienz, Nutzung erneuerbarer Technologien und Energiequellen), datenbezogenen Themen (z. B. Zugang zu Daten, Datenschutz, Privatsphäre und Austausch von Daten), Fragen im Zusammenhang mit der IKT-Infrastruktur (z. B. hohe Dichte effizienter und verlässlicher Kommunikation) und Beschäftigung (z. B. Schaffung und Verlust von Arbeitsplätzen, Schulungen für Lkw-Fahrer im Hinblick auf automatisierte Fahrzeuge); betont, dass erhebliche Investitionen in Straßenverkehrs-, Energie und IKT-Infrastrukturen vonnöten sein werden; fordert die Kommission auf, bei ihrer Arbeit im Zusammenhang mit autonomen Fahrzeuge den oben genannten Aspekten Rechnung zu tragen;

28.  hebt hervor, dass zuverlässige Positions- und Zeitinformationen der Europäischen Satellitennavigationsprogramme Galileo und EGNOS für die Verwirklichung autonomer Fahrzeuge von grundlegender Bedeutung sind, und fordert in diesem Zusammenhang nachdrücklich, dass die Satelliten, die nötig sind, um das europäische Navigationssystem Galileo zu vervollständigen, fertiggestellt und in Betrieb genommen werden;

29.  macht auf den hohen Mehrwert von autonomen Fahrzeugen für Personen, die in ihrer Mobilität eingeschränkt sind, aufmerksam, da diese ihnen eine wirksamere Teilnahme am individuellen Straßenverkehr ermöglichen und dadurch ihren Alltag erleichtern;

b) Drohnen (RPAS)

30.  nimmt die begrüßenswerten Fortschritte bei der Drohnentechnik, insbesondere im Bereich der Suche und Rettung, zur Kenntnis; weist darauf hin, dass ein EU-Rahmen für Drohnen von Bedeutung ist, um die Sicherheit und die Privatsphäre der Unionsbürger zu schützen, und fordert die Kommission auf, die Empfehlungen in der Entschließung des Europäischen Parlaments vom 29. Oktober 2015 zum sicheren Einsatz ferngesteuerter Flugsysteme (RPAS), gemeinhin bekannt als unbemannte Luftfahrzeuge (UAV), im Bereich der zivilen Luftfahrt1 umzusetzen(5) ; fordert die Kommission mit Nachdruck auf, die Sicherheitsfragen im Zusammenhang mit der weit verbreiteten Nutzung von Drohnen zu bewerten; fordert die Kommission auf, die Notwendigkeit zu prüfen, ein verpflichtendes Verfolgungs- und Identifizierungssystem für ferngesteuerte Flugsysteme einzuführen, mit dem die Position dieser Flugsysteme während ihres Einsatzes in Echtzeit ermittelt werden kann; weist darauf hin, dass mit den in der Verordnung (EG) Nr. 216/2008 des Europäischen Parlaments und des Rates festgelegten Maßnahmen für die Einheitlichkeit und die Sicherheit unbemannter Luftfahrzeuge gesorgt werden sollte(6) ;

Pflegeroboter

31.  betont, dass die Forschung und Entwicklung im Bereich der Roboter für die Gesundheitsversorgung älterer Menschen im Laufe der Zeit in größerem Maße Einzug in den Alltag gehalten hat und günstiger geworden ist und dass stärker funktionsbezogene Produkte entwickelt werden, die von mehr Nutzern akzeptiert werden; weist auf die große Anwendungsbandbreite derartiger Technologien hin, die älteren Menschen, Menschen mit Behinderungen und an Demenz erkrankten oder an kognitiven Störungen und Gedächtnisverlust leidenden Personen Möglichkeiten für die Vorsorge, Unterstützung, Überwachung, Stimulation und Begleitung bieten;

32.  weist darauf hin, dass zwischenmenschlicher Kontakt einer der grundlegenden Aspekte der Pflege des Menschen ist; ist einerseits der Auffassung, dass ein Ersetzen des Faktors Mensch durch Roboter die Pflegepraxis entmenschlichen könnte, weist aber andererseits darauf hin, dass Roboter die Durchführung automatisierter Pflegeaufgaben unterstützen und die Arbeit der Pflegekräfte erleichtern könnten und zugleich die menschliche Pflege verbessern und gezieltere Rehabilitationsmaßnahmen ermöglichen, sodass dem medizinischen Personal und den Pflegekräften mehr Zeit für die Diagnosestellung und eine bessere Planung der Behandlungsoptionen bleibt; hebt hervor, dass die Robotik zwar das Potenzial hat, die Mobilität und Integration von Menschen mit Behinderungen und älteren Personen zu verbessern, menschliche Pflegekräfte aber immer noch gebraucht werden und für die Betroffenen weiterhin einen wichtigen und nicht vollständig ersetzbaren sozialen Bezugspunkt darstellen werden;

Medizinische Roboter

33.  unterstreicht, dass eine angemessene schulische und berufliche Ausbildung und Vorbereitung von medizinischen Fachkräften, wie etwa Ärzten und Pflegern, von Bedeutung ist, um den höchstmöglichen Grad an Fachkompetenz zu gewährleisten und die Gesundheit der Patienten zu sichern und zu schützen; betont, dass berufliche Mindestanforderungen festzulegen sind, die ein Chirurg erfüllen muss, um chirurgische Roboter zu betreiben und verwenden zu dürfen; ist der Ansicht, dass die Achtung des Grundsatzes der kontrollierten Autonomie von Robotern entscheidend ist, wonach der erste Behandlungsplan und die endgültige Festlegung seiner Durchführung immer einem menschlichen Chirurgen überlassen bleibt; betont, dass die Ausbildung von Benutzern von ganz besonderer Bedeutung ist, damit diese sich mit den technologischen Anforderungen auf diesem Gebiet vertraut machen können; weist darauf hin, dass der Trend zur Selbstdiagnose mithilfe eines mobilen Roboters zunimmt und folglich Ärzte darin geschult werden müssen, wie sie mit Selbstdiagnosen umzugehen haben; vertritt die Auffassung, dass der Einsatz solcher Technologien das Vertrauensverhältnis zwischen Arzt und Patient nicht mindern oder beeinträchtigen darf, sondern dass solche Technologien dazu dienen müssen, den Arzt bei der Diagnosestellung und/oder Behandlung des Patienten mit dem Ziel zu unterstützen, das Risiko des menschlichen Fehlers zu verringern und die Lebensqualität und Lebenserwartung zu erhöhen;

34.  vertritt die Ansicht, dass Medizinroboter auch künftig bei hochpräzisen operativen Behandlungen und bei der Ausführung von sich wiederholenden Arbeitsschritten gefragt sein werden und dass ihnen das Potenzial innewohnt, die Ergebnisse von Rehabilitationsmaßnahmen zu verbessern und in Kliniken hocheffiziente logistische Unterstützung zu leisten; weist darauf hin, dass Roboter ferner das Potenzial haben, die Kosten für die Gesundheitsversorgung zu senken, indem es dem medizinischen Fachpersonal ermöglicht wird, den Schwerpunkt von der Behandlung auf die Prävention zu verlagern, und indem mehr Haushaltsmittel für eine bessere Anpassung an die unterschiedlichen Bedürfnisse der Patienten, die kontinuierliche Weiterbildung des Gesundheitspersonals und für Forschung zur Verfügung gestellt werden können;

35.  fordert die Kommission auf, vor dem Geltungsbeginn der Verordnung (EU) 2017/745 über Medizinprodukte dafür zu sorgen, dass die Testverfahren für neue medizinische Robotikgeräte sicher sind, und zwar insbesondere im Falle von Vorrichtungen, die in den menschlichen Körper implantiert werden;

Reparatur und Optimierung des Menschen

36.  nimmt die großen Fortschritte und das weitere Potenzial der Robotik auf dem Gebiet der „Reparatur“ und der Ersetzung beschädigter Organe und menschlicher Funktionen zur Kenntnis, verweist aber auch auf die komplexen Fragen, die insbesondere durch die Möglichkeiten der „Optimierung“ des Menschen aufgeworfen werden, da medizinische Roboter und insbesondere cyber-physische Systeme (CPS) die Auffassungen über den gesunden Körper des Menschen ändern können, da sie direkt auf dem Körper des Menschen getragen oder in ihn implantiert werden können; erachtet es als wichtig, dass in Krankenhäusern und anderen Einrichtungen der Gesundheitsversorgung personell ausreichend ausgestattete Ausschüsse zu ethischen Fragen im Zusammenhang mit Robotern eingerichtet werden, die damit beauftragt werden, Antworten auf ungewöhnliche, komplizierte ethische Probleme mit Auswirkungen auf die Pflege und Behandlung von Patienten zu finden und unterstützend tätig zu werden; fordert die Kommission und die Mitgliedstaaten auf, Leitlinien auszuarbeiten, die die Einrichtung und die Funktionsweise solcher Ausschüsse unterstützen;

37.  weist darauf hin, dass auf dem Gebiet der wichtigsten medizintechnischen Anwendungen wie robotergesteuerten Prothesen der fortwährende und dauerhafte Zugang zu Wartungsdiensten, Weiterentwicklungen und insbesondere Softwareupdates zur Behebung von Fehlfunktionen und Schwachstellen sichergestellt werden muss;

38.  empfiehlt die Einrichtung unabhängiger treuhänderischer Stellen, die über die erforderlichen Mittel verfügen, um Trägern von lebenswichtigen und fortgeschrittenen medizintechnischen Geräten Dienstleistungen wie Wartung, Reparatur und Weiterentwicklung, einschließlich Softwareaktualisierungen, anzubieten, und zwar insbesondere dann, wenn solche Dienstleistungen nicht mehr vom ursprünglichen Anbieter erbracht werden; schlägt vor, dass Hersteller dazu verpflichtet werden, diesen unabhängigen treuhänderischen Stellen – ähnlich wie bei einer gesetzlich angeordneten Hinterlegung von Pflichtexemplaren einer Veröffentlichung in einer nationalen Bibliothek – umfassende Konstruktionsangaben einschließlich des Quellcodes zu übergeben;

39.  macht auf die Risiken des Hackens, der Ausschaltung oder Löschung des Speichers integrierter cyber-physischer Systeme aufmerksam, da dies die menschliche Gesundheit, im Extremfall auch das Leben, gefährden kann; betont daher den hohen Stellenwert des Schutzes solcher Systeme;

40.  unterstreicht, wie wichtig es ist, allen Menschen einen gleichberechtigten Zugang zu solchen technologischen Innovationen, Instrumenten und Eingriffen zu garantieren; fordert die Kommission und die Mitgliedstaaten auf, die Entwicklung von Unterstützungstechnologien zu fördern, um in Übereinstimmung mit Artikel 4 des von der EU unterzeichneten Übereinkommens der Vereinten Nationen über die Rechte von Menschen mit Behinderungen die Entwicklung sowie die Anwendung dieser Technologien durch Personen zu begünstigen, die sie benötigen;

Bildung und Beschäftigung

41.  weist auf die Prognose der Kommission hin, dass in Europa bis zum Jahr 2020 ein Mangel von bis zu 825 000 IKT-Fachkräften herrschen könnte und dass 90 % der Arbeitsstellen zumindest digitale Grundfertigkeiten erfordern werden; begrüßt, dass die Kommission einen Fahrplan für die mögliche Verwendung und Überarbeitung eines Rahmens für digitale Kompetenzen und Deskriptoren für digitale Kompetenzen für Lernende aller Stufen vorgeschlagen hat, und fordert die Kommission auf, als ersten Schritt hin zu einem besseren Ausgleich zwischen Angebot und Nachfrage am Arbeitsmarkt die Entwicklung digitaler Kompetenzen in allen Altersgruppen unabhängig vom Beschäftigungsverhältnis umfassend zu unterstützen; betont, dass das Wachstum in der Robotik von den Mitgliedstaaten verlangt, flexiblere Systeme der allgemeinen und beruflichen Bildung zu entwickeln, um sicherzustellen, dass die Strategien zur Förderung des Qualifikationserwerbs dem Bedarf der Robotikwirtschaft entsprechen;

42.  ist der Auffassung, dass die digitale Branche, die Frauen selbst und die europäische Nutzen daraus ziehen würden, wenn mehr junge Frauen für eine digitale Karriere gewonnen und mehr Frauen in digitalen Arbeitsplätzen untergebracht werden könnten; fordert die Kommission und die Mitgliedstaaten auf, Initiativen zu starten, um Frauen in der IKT zu unterstützen und ihre e-Fertigkeiten zu fördern;

43.  fordert die Kommission auf, damit zu beginnen, die mittel- und langfristigen Trends auf dem Arbeitsmarkt – mit besonderem Schwerpunkt auf der Schaffung, der Verlagerung und dem Verlust von Arbeitsplätzen in den verschiedenen Qualifikationsbereichen – genauer zu analysieren und zu überwachen, um herauszufinden, auf welchen Gebieten infolge des vermehrten Einsatzes von Robotern Arbeitsplätze geschaffen werden und in welchen Arbeitsplätze verloren gehen;

44.  hebt angesichts der Auswirkungen, die die Entwicklung und der Einsatz der Robotik und der KI haben könnten, hervor, wie wichtig es ist, gesellschaftliche Änderungen vorherzusehen; fordert die Kommission auf, verschiedene mögliche Szenarien und ihre Folgen für die Tragfähigkeit der sozialen Sicherungssysteme der Mitgliedstaaten zu analysieren;

45.  betont die Bedeutung flexibler Kompetenzen sowie die Bedeutung sozialer, kreativer und digitaler Kompetenzen in der Ausbildung; ist davon überzeugt, dass zusätzlich zur Vermittlung akademischen Wissens an Schulen, auch lebenslanges Lernen durch lebenslange Aktivität erreicht werden muss;

46.  weist darauf hin, dass die Robotik ein großes Potenzial im Hinblick auf die Verbesserung der Sicherheit am Arbeitsplatz bietet, wenn eine Reihe von riskanten und schädigenden Aufgaben von Menschen auf Roboter verlagert wird; ist sich aber auch dessen bewusst, dass der zunehmende Einsatz von Robotern eine Reihe neuer Risiken mit sich bringen kann, wenn es am Arbeitsplatz zu immer mehr Interaktionen zwischen Menschen und Robotern kommt; unterstreicht in diesem Zusammenhang, wie wichtig es ist, strenge und vorausschauende Regeln auf die Interaktionen zwischen Mensch und Roboter anzuwenden, um die Gesundheit, die Sicherheit und die Achtung grundlegender Rechte am Arbeitsplatz zu gewährleisten;

Umweltauswirkungen

47.  stellt fest, dass die Entwicklung der Robotik und der KI derart betrieben werden sollte, dass die Umweltauswirkungen durch effizienten Energieverbrauch, Energieeffizienz mittels Nutzung erneuerbarer Energiequellen, knappen Materialeinsatz, möglichst geringe Abfälle, wie Elektro- und Elektronikabfälle, und Reparaturfähigkeit begrenzt werden; legt der Kommission daher nahe, bei jeder politischen Maßnahme der Union im Bereich Robotik die Grundsätze der Kreislaufwirtschaft einzubeziehen; stellt auch fest, dass der Einsatz der Robotik auch positive Auswirkungen auf die Umwelt haben wird, insbesondere in den Bereichen Landwirtschaft, Nahrungsmittelversorgung und Transport, vor allem durch eine geringere Maschinengröße und einen verringerten Einsatz von Düngemitteln, Energie und Wasser sowie durch Präzisionslandwirtschaft und Streckenoptimierung;

48.  hebt hervor, dass cyber-physische Systeme zur Schaffung von Energie- und Infrastruktursystemen führen werden, die es ermöglichen, den Stromfluss vom Produzenten zum Verbraucher zu kontrollieren, sowie Energie-„Prosumenten‟ schaffen werden, die Energie gleichzeitig produzieren und konsumieren; stellt fest, dass dies deutliche Entlastungen für die Umwelt mit sich bringen wird;

Haftung

49.  ist der Auffassung, dass die zivilrechtliche Haftung für Schäden, die von Robotern verursacht wurden, eine Frage von entscheidender Bedeutung ist, die ebenfalls analysiert und auf Unionsebene angegangen werden muss, um in der gesamten Europäischen Union das gleiche Maß an Wirksamkeit, Transparenz und Kohärenz bei der Umsetzung der Rechtssicherheit zu gewährleisten, wovon die Bürger, die Verbraucher und die Unternehmen gleichermaßen profitieren würden;

50.  stellt fest, dass es bei der Entwicklung der Robotertechnologie eines besseren Verständnisses der im Zusammenhang mit dem Zusammenwirken von Menschen und Robotern erforderlichen Gemeinsamkeiten bedarf, die auf zwei der wichtigsten wechselseitigen Beziehungen, nämlich Berechenbarkeit und Steuerbarkeit, beruhen sollten; hebt hervor, dass diese beiden wechselseitigen Beziehungen von größter Bedeutung für die Entscheidung darüber sind, welche Informationen zwischen Menschen und Robotern ausgetauscht werden müssen und wie eine gemeinsame Grundlage für Menschen und Roboter erlangt werden kann, damit das Zusammenwirken von Menschen und Robotern reibungslos vonstattengeht;

51.  fordert die Kommission auf, ihm auf der Grundlage von Artikel 114 AEUV einen Vorschlag für ein Rechtsinstrument über rechtliche Fragen im Zusammenhang mit der Entwicklung und Verwendung von Robotik und KI, wie sie in den nächsten 10 bis 15 Jahren vorhersehbar ist, zu unterbreiten, und zwar kombiniert mit nicht-rechtlichen Instrumenten wie Leitlinien und Verhaltenskodizes gemäß den als Anlage beigefügten Empfehlungen;

52.  ist der Auffassung, dass das künftige legislative Rechtsinstrument – unabhängig davon, welche rechtliche Lösung für die zivilrechtliche Haftung für von Robotern verursachte Schäden in anderen Fällen als bei Sachschäden gilt – die Art oder das Ausmaß der Schäden, die abgedeckt werden können, in keiner Weise beschränken sollte, noch sollte es die Formen des Schadensersatzes, die der geschädigten Partei angeboten werden können, aus dem alleinigen Grund beschränken, dass der Schaden von einem nicht-menschlichen Akteur verursacht wird;

53.  ist der Auffassung, dass das künftige legislative Rechtsinstrument auf eine eingehende Bewertung durch die Kommission gestützt werden sollte, die festlegt, ob der Ansatz der verschuldensunabhängigen Haftung oder der Risikomanagementansatz angewendet werden sollte;

54.  weist zugleich darauf hin, dass die verschuldensunabhängige Haftung lediglich den Beweis verlangt, dass der Schaden eingetreten ist, sowie eine kausale Verknüpfung zwischen dem schädlichen Funktionieren des Roboters und dem Schaden, den die geschädigte Partei erlitten hat;

55.  stellt fest, dass mit dem Risikomanagementansatz nicht die Person, „die fahrlässig gehandelt hat“, als persönlich haftend in den Mittelpunkt gestellt wird, sondern die Person, die imstande ist, unter bestimmten Umständen die Risiken zu minimieren und die negativen Auswirkungen zu bewältigen;

56.  ist der Auffassung, dass, sobald ermittelt wurde, wer letztlich die Verantwortung trägt, die Haftung der betreffenden Parteien grundsätzlich im Verhältnis zum tatsächlichen Ausmaß der Anweisungen stehen sollte, die dem Roboter gegeben worden sind, sowie im Verhältnis zum Grad der Autonomie des Roboters; je größer also die Lernfähigkeit oder die Autonomie eines Roboters sind und je länger das Training eines Roboters dauert, desto größer sollte die Verantwortung seines „Trainers“ sein; ist insbesondere der Auffassung, dass bei dem Versuch, zu ermitteln, wem das schädigende Verhalten des Roboters tatsächlich zuzuschreiben ist, Fertigkeiten, die sich aus der „Schulung“ ergeben, die einem Roboter erteilt wird, nicht mit den Fertigkeiten verwechselt werden sollten, die voll und ganz von dessen Selbstlernfähigkeiten abhängen; weist darauf hin, dass zumindest im derzeitigen Stadium die Verantwortung bei einem Menschen und nicht bei einem Roboter liegen muss;

57.  stellt dessen ungeachtet fest, dass ein Versicherungssystem für Robotik (im Gegensatz zum Versicherungssystem für den Straßenverkehr, bei dem die Versicherung menschliche Handlungen und Unterlassungen abdeckt) auf der Verpflichtung der Hersteller oder Eigentümer oder Benutzer basieren könnte, für jeden autonomen Roboter eine Versicherung abzuschließen; stellt jedoch fest, dass ein Versicherungssystem für Robotik im Gegensatz zum Versicherungssystem für den Straßenverkehr, bei dem die Versicherung menschliche Handlungen und Unterlassungen abdeckt, allen potenziellen Verantwortlichkeiten in der Kette Rechnung tragen sollte;

58.  ist der Auffassung, dass ein solches Versicherungssystem ebenso wie das Versicherungssystem für Kraftfahrzeuge durch einen Fonds ergänzt werden könnte, um dafür Sorge zu tragen, dass auch Schäden repariert werden können, für die kein Versicherungsschutz besteht; fordert die Versicherungsbranche auf, neue Produkte und Angebotsformen zu entwickeln, die im Einklang mit den Fortschritten der Robotikindustrie stehen;

59.  fordert die Kommission auf, bei der Durchführung einer Folgenabschätzung ihres künftigen legislativen Rechtsinstruments die Folgen sämtlicher möglicher Lösungen zu untersuchen, zu analysieren und zu bewerten, und zwar:

   a) ein obligatorisches Versicherungssystem einzurichten, wenn dies für bestimmte Kategorien von Robotern sachdienlich und notwendig ist, in dessen Rahmen Herstellern oder Eigentümern von Robotern, (ähnlich wie bei der bereits in Kraft befindlichen obligatorischen Versicherungsregelung für Kraftfahrzeuge) vorgeschrieben würde, Versicherungen für Schäden abzuschließen, die von ihren Robotern möglicherweise verursacht werden können;
   b) zu gewährleisten, dass ein Entschädigungsfonds nicht nur dem Zweck dienen würde, sicherzustellen, dass ein von einem Roboter verursachter Schaden, der nicht von einer Versicherung abgedeckt ist, entschädigt wird;
   c) es Herstellern, Programmierern, Eigentümern oder Nutzern zu ermöglichen, von einer beschränkten Haftung zu profitieren, wenn sie in einen Entschädigungsfonds einzahlen, und wenn sie sich gemeinsam versichern, um im Falle eines von einem Roboter verursachten Schadens eine Entschädigung sicherzustellen;
   d) zu entscheiden, ob ein allgemeiner Fonds für alle intelligenten autonomen Roboter eingerichtet werden soll oder ob für jede einzelne Roboterkategorie ein individueller Fonds eingerichtet und der Beitrag für den Fonds als einmalige Gebühr beim Inverkehrbringen des Roboters eingezogen werden soll oder ob während der Lebensdauer des Roboters regelmäßige Beiträge gezahlt werden sollten;
   e) dafür Sorge zu tragen, dass die Verknüpfung zwischen einem Roboter und seinem Fonds durch eine individuelle Registriernummer sichtbar gemacht wird, die in einem speziellen EU-Register erscheint und die es jedermann, der mit dem Roboter interagiert, ermöglichen würde, sich über die Art des Fonds, die Haftungsbegrenzungen im Falle einer Sachbeschädigung, die Namen und die Aufgaben der Beitragszahler und über sämtliche anderen Einzelheiten zu informieren;
   f) langfristig einen speziellen rechtlichen Status für Roboter zu schaffen, damit zumindest für die ausgeklügeltsten autonomen Roboter ein Status als elektronische Person festgelegt werden könnte, die für den Ausgleich sämtlicher von ihr verursachten Schäden verantwortlich wäre, sowie möglicherweise die Anwendung einer elektronischen Persönlichkeit auf Fälle, in denen Roboter eigenständige Entscheidungen treffen oder anderweitig auf unabhängige Weise mit Dritten interagieren;

Internationale Aspekte

60.  stellt fest, dass die in der Union derzeit für Verkehrsunfälle geltenden Regeln des internationalen Privatrechts zwar keiner dringenden materiellen Änderung bedürfen, um der Entwicklung autonomer Fahrzeuge Rechnung zu tragen, dass aber eine Vereinfachung des gegenwärtigen dualen Systems für die Bestimmung des anwendbaren Rechts (auf der Grundlage der Verordnung (EG) Nr. 864/2007 des Europäischen Parlaments und des Rates(7) und des Haager Übereinkommens vom 4. Mai 1971 über das auf Verkehrsunfälle anzuwendende Recht) die Rechtssicherheit verbessern und die Möglichkeiten für das systematische Ausnutzen nebeneinander bestehender Zuständigkeiten („forum shopping“) einschränken würde;

61.  weist darauf hin, dass Änderungen an internationalen Übereinkommen in Betracht gezogen werden sollten, wie etwa am Wiener Übereinkommen über den Straßenverkehr vom 8. November 1968 und am Haager Übereinkommen über das auf Verkehrsunfälle anwendbare Recht;

62.  erwartet von der Kommission, dafür Sorge zu tragen, dass die Mitgliedstaaten völkerrechtliche Verträge, wie beispielsweise das zu ändernde Wiener Übereinkommen über den Straßenverkehr einheitlich umsetzen, um das Fahren ohne Fahrer zu ermöglichen, und fordert die Kommission, die Mitgliedstaaten und die Industrie auf, die Ziele der Erklärung von Amsterdam schnellstmöglich umzusetzen;

63.  unterstützt nachdrücklich, dass eine internationale Zusammenarbeit bei der Prüfung gesellschaftlicher, ethischer und rechtlicher Herausforderungen und der anschließenden Festsetzung regulatorischer Standards unter der Schirmherrschaft der Vereinten Nationen besteht;

64.  hebt hervor, dass die in der Verordnung (EG) Nr. 428/2009 des Rates(8) festgelegten Einschränkungen und Bedingungen für den Handel mit Gütern mit doppeltem Verwendungszweck – also Waren, Software und Technologie, die sowohl für zivile als auch für militärische Zwecke verwendet werden und/oder einen Beitrag zur Verbreitung von Massenvernichtungswaffen leisten können – auch für Robotikanwendungen gelten sollten;

Schlussaspekte

65.  fordert die Kommission auf, ihm auf der Grundlage von Artikel 225 AEUV nach Maßgabe der als Anlage beigefügten Empfehlungen einen Vorschlag für eine Richtlinie über zivilrechtliche Regelungen im Bereich Robotik zu unterbreiten;

66.  stellt fest, dass die Empfehlungen mit den Grundrechten und dem Grundsatz der Subsidiarität im Einklang stehen;

67.  vertritt die Auffassung, dass der verlangte Vorschlag nur im Falle der Errichtung einer neuen europäischen Agentur finanzielle Auswirkungen hätte;

o
o   o

68.  beauftragt seinen Präsidenten, diese Entschließung und die als Anlage beigefügten Empfehlungen der Kommission und dem Rat zu übermitteln.

(1) Richtlinie 85/374/EWG des Rates vom 25. Juli 1985 zur Angleichung der Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Haftung für fehlerhafte Produkte (ABl. L 210 vom 7.8.1985, S. 29).
(2) Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz‑Grundverordnung) (ABl. L 119 vom 4.5.2016, S. 1).
(3) 1) Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen Schaden zugefügt wird. 2) Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren. 3) Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert (Siehe die Kurzgeschichte „Runaround“ von I. Asimov aus dem Jahr 1943) und 0) Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt.
(4) Vgl. Schuman-Erklärung von 1950: „Europa lässt sich nicht mit einem Schlage herstellen und auch nicht durch eine einfache Zusammenfassung. Es wird durch konkrete Tatsachen entstehen, die zunächst eine Solidarität der Tat schaffen.“
(5) Angenommene Texte, P8_TA(2015)0390.
(6) Verordnung (EG) Nr. 216/2008 des Europäischen Parlaments und des Rates vom 20. Februar 2008 zur Festlegung gemeinsamer Vorschriften für die Zivilluftfahrt und zur Errichtung einer Europäischen Agentur für Flugsicherheit, zur Aufhebung der Richtlinie 91/670/EWG des Rates, der Verordnung (EG) Nr. 1592/2002 und der Richtlinie 2004/36/EG (ABl. L 79 vom 19.3.2008, S. 1).
(7) Verordnung (EG) Nr. 864/2007 des Europäischen Parlaments und des Rates vom 11. Juli 2007 über das auf außervertragliche Schuldverhältnisse anzuwendende Recht („Rom II“) (ABl. L 199 vom 31.7.2007, S. 40).
(8) Verordnung (EG) Nr. 428/2009 des Rates vom 5. Mai 2009 über eine Gemeinschaftsregelung für die Kontrolle der Ausfuhr, der Verbringung, der Vermittlung und der Durchfuhr von Gütern mit doppeltem Verwendungszweck (ABl. L 134 vom 29.5.2009, S. 1).


ANLAGE ZUR ENTSCHLIESSUNG:

EMPFEHLUNGEN ZUM INHALT DES VERLANGTEN VORSCHLAGS

Bestimmung des Begriffs „intelligente Roboter“ und Einstufung dieser Roboter

Es sollte eine gemeinsame europäische Bestimmung des Begriffs „intelligente“ autonome Roboter festgelegt werden, gegebenenfalls auch mit der Bestimmung seiner Unterkategorien, wobei die folgenden Eigenschaften zu berücksichtigen sind:

–  die Fähigkeit, über Sensoren und/oder über den Datenaustausch mit seiner Umgebung (Interkonnektivität) Autonomie zu erlangen und diese Daten zu analysieren

–  die Fähigkeit, durch Erfahrung und Interaktion zu lernen

–  die Form der physischen Unterstützung des Roboters

–  die Fähigkeit, sein Verhalten und seine Handlungen an seine Umgebung anzupassen

Registrierung „intelligenter Roboter“

Zur Rückverfolgbarkeit und zur Erleichterung der Umsetzung weiterer Empfehlungen sollte ein Registrierungssystem für fortschrittliche Roboter eingeführt werden, das auf den Kriterien für die Einstufung von Robotern basiert. Das Registrierungssystem und das Register sollten unionsweit gelten, den gesamten Binnenmarkt erfassen und könnten von einer speziellen EU-Agentur für Robotik und Künstliche Intelligenz verwaltet werden, falls eine solche Agentur errichtet wird.

Zivilrechtliche Haftung

Jede gewählte rechtliche Lösung für die Haftung von Robotern und Anwendungen künstlicher Intelligenz in anderen Fällen als Sachbeschädigung sollte in keiner Weise die Art oder das Ausmaß der Schäden beschränken, die abgedeckt werden können, noch sollte sie die Formen des Schadensersatzes, die der geschädigten Partei angeboten werden können, aus dem alleinigen Grund begrenzen, dass der Schaden von einem nicht-menschlichen Akteur verursacht wird.

Das künftige legislative Rechtsinstrument sollte auf eine eingehende Bewertung durch die Kommission gestützt werden, die festlegt, ob der Ansatz der verschuldensunabhängigen Haftung oder der Risikomanagementansatz angewendet werden sollte.

Es sollte ein obligatorisches Versicherungsprogramm eingerichtet werden, das sich auf die Verpflichtung des Herstellers stützen könnte, Versicherungen für die von ihm hergestellten autonomen Roboter abzuschließen.

Das Versicherungssystem sollte durch einen Fonds ergänzt werden, um dafür Sorge zu tragen, dass auch Schäden wiedergutgemacht werden können, für die kein Versicherungsschutz besteht.

Jede politische Entscheidung über die für Roboter und künstliche Intelligenz geltende zivilrechtliche Haftung sollte nach gebührender Konsultation eines europaweiten Forschungs- und Entwicklungsprojekts zu Robotik und Neurowissenschaft mit Wissenschaftlern und Fachleuten, die in der Lage sind, alle damit verbundenen Risiken und Folgen zu beurteilen, getroffen werden;

Interoperabilität, Zugang zu Coderechten und geistigen Eigentumsrechten

Die Interoperabilität von über Netzwerke verbundenen autonomen Robotern, die miteinander interagieren, sollte gewährleistet werden. Der Zugang zum Quellcode, zu den Eingabedaten und zu den Konstruktionsdetails sollte bei Bedarf verfügbar sein, um Unfälle und Schäden zu ermitteln, die von „intelligenten Robotern“ verursacht werden, und um ihren fortgesetzten Betrieb sowie ihre Verfügbarkeit, Zuverlässigkeit, Sicherheit und Sicherung sicherzustellen.

Charta über Robotik

Wenn die Kommission einen Rechtsakt im Zusammenhang mit Robotik vorschlägt, sollte sie die Grundsätze berücksichtigen, die in der nachstehenden Charta über Robotik verankert sind.

CHARTA ÜBER ROBOTIK

Der für das Gebiet der Robotik vorgeschlagene ethische Verhaltenskodex schafft die Grundlagen für die Ermittlung, Aufsicht und Einhaltung der ethischen Grundsätze bereits von der Planungs- und Entwicklungsphase an.

Der in Absprache mit einem europaweiten Forschungs- und Entwicklungsprojekt zu Robotik und Neurowissenschaft ausgearbeitete Rahmen muss umsichtig in einer Weise konzipiert werden, die es ermöglicht, dass von Fall zu Fall einzelne Anpassungen vorgenommen werden können, um zu beurteilen, ob ein bestimmtes Verhalten in einer bestimmten Situation richtig oder falsch ist und um Entscheidungen im Einklang mit einer vorher festgelegten Wertehierarchie zu treffen.

Der Verhaltenskodex sollte nicht die Notwendigkeit ersetzen, alle wichtigen juristischen Herausforderungen auf diesem Gebiet zu bewältigen, sondern sollte eine ergänzende Funktion haben. Er wird vielmehr die ethische Einstufung von Robotern erleichtern, verantwortungsvolle Innovationen auf diesem Gebiet stärken und den Bedenken der Öffentlichkeit Rechnung tragen.

Ein spezielles Augenmerk sollte auf die Forschungs- und Entwicklungsphasen des relevanten Technologiepfads gerichtet werden (Konstruktionsprozess, ethische Überprüfung, Auditkontrollen usw.). Der Kodex sollte darauf ausgerichtet sein, der notwendigen Einhaltung von ethischen Standards durch Forscher, Praktiker, Nutzer und Konstrukteure gerecht zu werden, er sollte aber auch ein Verfahren für die Ausarbeitung einer Lösung der betreffenden ethischen Dilemmata einführen und es diesen Systemen ermöglichen, in ethisch verantwortungsvoller Weise zu funktionieren.

ETHISCHER VERHALTENSKODEX FÜR ROBOTIKINGENIEURE

PRÄAMBEL

Im Verhaltenskodex werden alle Forscher und Konstrukteure aufgefordert, verantwortungsvoll und unter uneingeschränkter Berücksichtigung der Notwendigkeit, die Würde, die Privatsphäre und die Sicherheit von Menschen zu respektieren, zu handeln.

Im Verhaltenskodex wird die enge Zusammenarbeit aller Fachdisziplinen gefordert, um dafür Sorge zu tragen, dass die Forschung auf dem Gebiet der Robotik innerhalb der gesamten Europäischen Union in sicherer, ethischer und effektiver Weise durchgeführt wird.

Im Verhaltenskodex werden alle Forschungs- und Entwicklungstätigkeiten auf dem Gebiet der Robotik behandelt.

Der Verhaltenskodex ist freiwillig und bietet eine Reihe von allgemeinen Grundsätzen und Leitlinien für Maßnahmen an, die von allen Interessengruppen zu ergreifen sind.

Robotik-Forschungsförderungseinrichtungen, Forscher und Ethikausschüsse werden dazu ermutigt, künftige Auswirkungen der erforschten Technologien oder der Forschungsgegenstände zu den frühesten Phasen zu berücksichtigen und im Hinblick auf die Herausforderungen und Chancen, die sich in Zukunft ergeben können, eine Kultur der Verantwortung zu entwickeln.

Öffentliche und private Robotik-Forschungsförderungseinrichtungen sollten verlangen, dass mit jedem Antrag auf Finanzierung von Robotik-Forschung eine Risikobewertung vorgelegt wird. In einem solchen Verhaltenskodex sollten Menschen – und keine Roboter – als verantwortliche Akteure angesehen werden.

Forscher auf dem Gebiet der Robotik sollten sich selbst zu dem höchsten ethischen und professionellen Verhalten verpflichten und sich an die folgenden Grundsätze halten:

Benefizienz – Roboter sollten im besten Interesse der Menschen handeln;

Schadensvermeidung – der Grundsatz: „Erstens, richte keinen Schaden an“, dem zufolge Roboter einem Menschen keinen Schaden zufügen sollten;

Autonomie – die Fähigkeit, eine fundierte, ungezwungene Entscheidung über die Bedingungen der Interaktion mit Robotern zu treffen;

Gerechtigkeit – gerechte Verteilung der Nutzen, die mit Robotik verbunden sind, und Erschwinglichkeit insbesondere von Robotern für häusliche Pflege und Pflegerobotern.

Grundrechte

Forschungstätigkeiten auf dem Gebiet der Robotik sollten die Grundrechte respektieren und bei ihrer Konzipierung, Durchführung, Verbreitung und Nutzung das Wohlergehen und die Selbstbestimmung der Bürger und der Gesellschaft insgesamt im Auge haben. Die Menschenwürde und Autonomie – sowohl die physische als auch die psychologische – ist stets zu respektieren.

Vorsorge

Robotik-Forschung sollte nach dem Vorsorgeprinzip stattfinden, d. h. potenzielle Folgen ihrer Ergebnisse für Umwelt, Gesundheit und Sicherheit vorhersehen und Vorsorgemaßnahmen ergreifen, die dem Schutzniveau entsprechen, wobei sie gleichzeitig den Fortschritt im Interesse der Gesellschaft und der Umwelt fördern sollte.

Integration

Robotikingenieure garantieren Transparenz und Achtung des legitimen Rechts auf Zugang zu Informationen für alle Interessengruppen. Inklusion ermöglicht die Teilnahme aller Interessengruppen, die an Robotik-Forschungstätigkeiten mitwirken oder von ihnen betroffen sind.

Rechenschaftspflicht

Robotikingenieure sollten für die möglichen sozialen, ökologischen und gesundheitlichen Folgen ihrer Robotik-Forschung für die heutige und für künftige Generationen zur Rechenschaft gezogen werden können.

Sicherheit

Roboterkonstrukteure sollten das körperliche Wohl, die Sicherheit, die Gesundheit und die Rechte von Menschen berücksichtigen und respektieren. Ein Robotikingenieur muss das menschliche Wohl bewahren und gleichzeitig die Menschenrechte respektieren sowie unverzüglich Faktoren offenlegen, die die Öffentlichkeit oder die Umwelt gefährden könnten.

Umkehrbarkeit

Umkehrbarkeit ist als notwendige Bedingung der Kontrollierbarkeit ein Grundkonzept bei der Programmierung eines sicheren und zuverlässigen Roboterverhaltens. Ein Umkehrbarkeitsmodell sagt dem Roboter, welche Handlungen umkehrbar sind und wie sie umgekehrt werden können, wenn sie umkehrbar sind. Die Fähigkeit, die letzte Handlung oder Handlungssequenz umzukehren, ermöglicht es Nutzern, unerwünschte Handlungen rückgängig zu machen und in die „gute“ Phase ihrer Arbeit zurückzukehren.

Privatsphäre

Das Recht auf Privatsphäre muss immer respektiert werden. Ein Robotikingenieur sollte dafür Sorge tragen, dass private Informationen sicher aufbewahrt und ausschließlich angemessen verwendet werden. Ein Robotikingenieur sollte darüber hinaus garantieren, dass Personen nicht persönlich identifizierbar sind, abgesehen von außergewöhnlichen Umständen und dann ausschließlich mit klarer, eindeutiger Zustimmung der betroffenen Personen. Die Zustimmung von Menschen nach vorheriger Aufklärung sollte vor jeder Mensch-Maschine-Interaktion angestrebt und eingeholt werden. Robotikentwickler haben daher die Verantwortung, Verfahren für eine gültige Einwilligung, Vertraulichkeit, Anonymität, faire Behandlung und ordnungsgemäße Bearbeitung entwickeln und befolgen. Entwickler haben allen Anforderungen nachzukommen, dass sämtliche betreffenden Daten zerstört und aus Datensätzen jeglicher Art gelöscht werden.

Maximierung von Nutzen und Minimierung von Schäden

Forscher sollten in allen Phasen die Maximierung der Nutzen ihrer Arbeit anstreben, vom ersten Entwurf bis zur Verbreitung. Schäden von Forschungsteilnehmern, Menschen, Teilnehmern oder Gegenständen von Experimenten, Versuchen oder Studien müssen vermieden werden. Wenn Risiken ein unvermeidbarer Bestandteil der Forschung sind, sollten eine belastbare Risikobewertung und ein Risikomanagement ausgearbeitet und befolgt werden. Normalerweise sollte das Risiko eines Schadens nicht größer sein als im normalen Leben, d. h. Menschen keinen größeren Risiken ausgesetzt werden als den Risiken in ihrem normalen Lebensstil bzw. keinen zusätzlichen Risiken. Der Betrieb eines Robotiksystems sollte grundsätzlich auf eine umfassende Risikobeurteilung gestützt werden, die auf den Grundsätzen der Vorsorge und der Verhältnismäßigkeit beruhen sollte.

KODEX FÜR AUSSCHÜSSE FÜR ETHISCHE FRAGEN IN DER FORSCHUNG

Grundsätze

Unabhängigkeit

Das Verfahren der ethischen Überprüfung sollte unabhängig von der Forschung selbst sein. Dieser Grundsatz betont dass, Interessenskonflikte zwischen Forschern und Personen, die die ethischen Protokolle überprüfen sowie Konflikte zwischen den Prüfern und Organisations- und Leitungsstrukturen verhindert werden müssen.

Zuständigkeit

Das Verfahren der ethischen Überprüfung sollte von Prüfern mit angemessener Fachkenntnis durchgeführt werden, wobei die Notwendigkeit zu berücksichtigen ist, den Mitgliedschaftsbereich und eine ethikspezifische Ausbildung der Ausschüsse für ethische Fragen in der Forschung sorgfältig zu prüfen.

Transparenz und Rechenschaftspflicht

Die Überprüfung sollte einer Rechenschaftspflicht und Kontrolle unterliegen. Ausschüsse für ethische Fragen in der Forschung müssen zu ihrer Verantwortung stehen und müssen angemessen innerhalb von Organisationsstrukturen untergebracht werden, die für einen transparenten Betrieb und für transparente Verfahren der Ausschüsse für ethische Fragen in der Forschung sorgen, um Standards beizubehalten und zu überprüfen.

Die Rolle eines Ausschusses für ethische Fragen in der Forschung

Ein Ausschuss für ethische Fragen in der Forschung ist normalerweise dafür verantwortlich, sämtliche Forschungstätigkeiten mit menschlichen Forschungsteilnehmern zu überprüfen, die von Personen durchgeführt werden, die bei oder von der betreffenden Einrichtung angestellt sind; er sorgt dafür, dass die ethische Überprüfung unabhängig, kompetent und rechtzeitig durchgeführt wird; er schützt die Würde, die Rechte und das Wohl von Forschungsteilnehmern; er berücksichtigt die Sicherheit von Forschern; er berücksichtigt die rechtmäßigen Interessen anderer Interessengruppen; er nimmt fundierte Beurteilungen des wissenschaftlichen Verdienstes von Forschungsanträgen vor, und er unterbreitet dem Forscher fundierte Empfehlungen, wenn der Forschungsantrag im Hinblick auf bestimmte Aspekte Unzulänglichkeiten aufweist.

Die Einrichtung eines Ausschusses für ethische Fragen in der Forschung

Ein Ausschuss für ethische Fragen in der Forschung sollte normalerweise: sowohl aus Männern als auch aus Frauen bestehen, aus Mitgliedern mit umfassender Erfahrung und Fachkenntnis auf dem Gebiet der Robotikforschung bestehen. Der Mechanismus für die Besetzung der Ausschüsse sollte sicherstellen, dass unter den Ausschussmitgliedern ein ausgewogenes Gleichgewicht zwischen wissenschaftlichen Fachleuten, Personen mit philosophischem, juristischem oder ethischem Hintergrund und Laien herrscht und dass sich unter den Mitgliedern mindestens eine Person mit Fachkenntnissen in Ethik, und mindestens ein Nutzer spezieller medizinischer, pädagogischer oder sozialer Dienstleistungen befinden, wenn diese Dienstleistungen im Mittelpunkt der Forschungstätigkeiten stehen sowie Personen mit spezifischen methodischen Fachkenntnissen, die für die zu überprüfende Forschung von Belang sind; und die Ausschüsse müssen so zusammengesetzt sein, dass Interessenskonflikte vermieden werden.

Überwachung

Alle Forschungsorganisationen sollten angemessene Verfahren zur Überwachung der ethisch genehmigten Forschungsarbeit einrichten, bis die entsprechende Forschungsarbeit abgeschlossen ist. Außerdem sollten sie dafür Sorge tragen, dass die Überprüfung fortgesetzt wird, wenn das Forschungsdesign im Laufe der Zeit mögliche Änderungen voraussieht, mit denen sich befasst werden muss. Die Überwachung sollte der Art und dem Ausmaß des Risikos angemessen sein, das mit der Forschung verbunden ist. Wenn ein Ausschuss für ethische Fragen in der Forschung der Auffassung ist, dass in einem Überwachungsbericht erhebliche ethische Bedenken zur Studie aufgeworfen werden, sollte er eine detaillierte Schilderung der Forschung für eine vollständige ethische Überprüfung anfordern. Wenn die Auffassung vertreten wird, dass eine Studie auf unethische Weise durchgeführt wird, sollte die Rücknahme der Genehmigung in Betracht gezogen werden und die diesbezüglichen Forschungsarbeiten ausgesetzt oder unterbrochen werden.

LIZENZ FÜR KONSTRUKTEURE

–  Sie sollten vor, während und nach der Planung, Entwicklung und Lieferung solcher Technologien die europäischen Werte der Würde, der Autonomie und Selbstbestimmung sowie der Freiheit und Gerechtigkeit berücksichtigen, wozu auch die Notwendigkeit gehört, (gefährdete) Nutzer nicht zu schädigen, zu verletzen, zu betrügen oder auszunutzen.

–  Sie sollten im Hinblick auf sämtliche Aspekte des Roboterbetriebs vertrauenswürdige Grundsätze an das Systemdesign (sowohl für Hardware als auch für Software) sowie für jedwede Datenverarbeitung auf oder außerhalb der Plattform für Sicherheitszwecke einführen.

–  Sie sollten durch Konstruktionsmerkmale die Privatsphäre schützen und gewährleisten, dass private Daten sicher aufbewahrt und ausschließlich angemessen verwendet werden.

–  Sie sollten in das Design offensichtliche Ausklinkmechanismen (Kill-Schalter) integrieren, die mit vernünftigen Konstruktionszielen im Einklang stehen sollten.

–  Sie sollten dafür sorgen, dass ein Roboter in einer Weise betrieben wird, die mit lokalen, nationalen und internationalen ethischen und rechtlichen Grundsätzen im Einklang steht.

–  Sie sollten dafür sorgen, dass die Entscheidungsfindungsschritte des Roboters für die Rekonstruktion und Rückverfolgung zugänglich sind.

–  Sie sollten gewährleisten, dass maximale Transparenz bei der Programmierung der Robotiksysteme sowie Vorhersehbarkeit des Roboterverhaltens vorgeschrieben werden.

–  Sie sollten die Vorhersehbarkeit eines Mensch-Roboter-Systems analysieren, indem sie Ungewissheiten in der Interpretation und Handlung und mögliche Fehler des Roboters oder menschliche Fehler berücksichtigen.

–  Sie sollten in der Konstruktionsphase des Roboters Rückverfolgungstools entwickeln. Diese Tools erleichtern es später, über das Verhalten des Roboters Rechenschaft abzulegen und es zu erklären, selbst wenn dies auf die verschiedenen Ebenen beschränkt wird, die für Experten, Bediener und Nutzer bestimmt sind.

–  Sie sollten Konstruktions- und Bewertungsprotokolle ausarbeiten und die Evaluierung der Vorteile und Risiken der Robotik, darunter auch kognitive, psychologische und ökologische, gemeinsam mit potenziellen Nutzern und Interessengruppen vornehmen.

–  Sie sollten gewährleisten, dass Roboter als Roboter zu erkennen sind, wenn sie mit Menschen interagieren.

–  Angesichts der Tatsache, dass Roboter als Produkte mithilfe von Prozessen konstruiert werden sollten, mit denen ihre Sicherheit gewährleistet wird, sollten Sie die Sicherheit und die Gesundheit derjenigen schützen, die mit Robotern interagieren und mit ihnen in Berührung kommen. Ein Robotikingenieur muss das menschliche Wohl bewahren und gleichzeitig die Menschenrechte achten, und er darf einen Roboter nicht einsetzen ohne die Sicherheit, Effizienz und Umkehrbarkeit des Systembetriebs zu schützen.

–  Sie sollten eine positive Stellungnahme von einem Ausschuss für ethische Fragen in der Forschung einholen, bevor Sie einen Roboter in einer wirklichen Umgebung testen oder wenn bei den Konstruktions- und Entwicklungsverfahren des Roboters Menschen beteiligt sind.

LIZENZ FÜR NUTZER

–  Sie erhalten die Erlaubnis zur Nutzung eines Roboters ohne Risiko oder Gefahr körperlicher oder psychologischer Schäden.

–  Sie sollten zu Recht erwarten, dass ein Roboter sämtliche Aufgaben ausführt, für die er ausdrücklich entwickelt und konstruiert worden ist.

–  Sie sollten wissen, dass jeder Roboter eingeschränkte Wahrnehmungsfähigkeiten, kognitive Fähigkeiten und Betätigungsfähigkeiten haben kann.

–  Sie sollten sowohl in körperlicher als auch in psychologischer Hinsicht die menschliche Gebrechlichkeit und die emotionalen Bedürfnisse von Menschen respektieren.

–  Sie sollten das Recht auf Privatsphäre des Einzelnen berücksichtigen, wozu auch die Deaktivierung von Monitoren bei intimen Verfahren gehört.

–  Ihnen ist nicht gestattet, ohne die ausdrückliche Zustimmung des Datensubjekts personenbezogene Daten zu erfassen, zu nutzen und weiterzugeben.

–  Ihnen ist nicht gestattet, einen Roboter in einer Weise zu nutzen, die gegen ethische oder rechtliche Grundsätze und Normen verstößt.

–  Ihnen ist nicht gestattet, einen Roboter jeglicher Art so zu modifizieren, dass er als Waffe eingesetzt werden kann.

Letzte Aktualisierung: 5. April 2018Rechtlicher Hinweis