Index 
 Föregående 
 Nästa 
 All text 
Förfarande : 2015/2103(INL)
Dokumentgång i plenum
Dokumentgång : A8-0005/2017

Ingivna texter :

A8-0005/2017

Debatter :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Omröstningar :

PV 16/02/2017 - 6.9
Röstförklaringar

Antagna texter :

P8_TA(2017)0051

Antagna texter
PDF 428kWORD 66k
Torsdagen den 16 februari 2017 - Strasbourg Slutlig utgåva
Civilrättsliga bestämmelser om robotteknik
P8_TA(2017)0051A8-0005/2017
Resolution
 Bilaga

Europaparlamentets resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik (2015/2103(INL))

Europaparlamentet utfärdar denna resolution

–  med beaktande av artikel 225 i fördraget om Europeiska unionens funktionssätt,

–  med beaktande av rådets direktiv 85/374/EEG(1),

–  med beaktande av studien om etiska aspekter på cyberfysiska system (Ethical Aspects of Cyber-Physical Systems), utförd på uppdrag av parlamentets enhet för bedömning av vetenskapliga och tekniska alternativ (Stoa) och administrerad av enheten för vetenskaplig framsyn (Stoa), GD Parlamentarisk utredning och analys (EPRS), och av följande skäl:

–  med beaktande av artiklarna 46 och 52 i arbetsordningen,

–  med beaktande av betänkandet från utskottet för rättsliga frågor och yttrandena från utskottet för transport och turism, utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor, utskottet för sysselsättning och sociala frågor, utskottet för miljö, folkhälsa och livsmedelssäkerhet, utskottet för industrifrågor, forskning och energi och utskottet för den inre marknaden och konsumentskydd (A8-0005/2017),

Inledning

A.  Ända sedan Mary Shelleys Frankenstein och den klassiska myten om Pygmalion fram till Prags golem och Karel Čapeks robot, genom vilken ordet myntades, har människor fantiserat om möjligheten att bygga tänkande maskiner, ofta i form av androider med mänskliga egenskaper.

B.  Nu när mänskligheten är på väg in i en era då allt mer sofistikerade robotar, bottar, androider och andra manifestationer av artificiell intelligens (AI) tycks stå redo att släppa lös en ny industriell revolution – som sannolikt inte kommer att lämna någon del av samhället oberörd – är det mycket viktigt att lagstiftaren beaktar dess rättsliga och etiska konsekvenser och följdverkningar, utan att kväva innovationen.

C.  Det finns ett behov att skapa en allmänt accepterad definition av robot och AI som är flexibel och inte utgör ett hinder för innovation.

D.  Mellan 2010 och 2014 uppgick den genomsnittliga ökningen i försäljningen av robotar till 17 procent per år, och under 2014 ökade försäljningen med 29 procent, vilket är den största ökningen under ett år någonsin. Bildelsleverantörer och el- och elektronikindustrin utgjorde de huvudsakliga drivkrafterna för denna tillväxt. Antalet patentansökningar per år på robotteknikområdet har tredubblats under det senaste årtiondet.

E.  Under de senaste 200 åren har sysselsättningen konstant ökat till följd av den tekniska utvecklingen. Utvecklingen av robotteknik och AI kan ha potentialen att förändra liv och arbetsmetoder, öka effektivitet, besparingar och säkerhetsnivåer samt tillhandahålla högre servicenivåer. På kort och medellång sikt utlovar robottekniken och AI effektivitet och besparingar inte bara inom produktion och handel, utan också på områden som transport, sjukvård, utbildning och jordbruk. Tack vare denna tekniska utveckling behöver människor inte heller exponeras för hälsovådliga miljöer, till exempel vid sanering av toxiskt förorenade platser.

F.  Den åldrande befolkningen är ett resultat av den ökade förväntade livslängden till följd av de framsteg som gjorts i fråga om levnadsvillkor och inom den moderna medicinen, och den utgör en av de största politiska, sociala och ekonomiska utmaningarna för det tjugoförsta århundradets europeiska samhällen. Senast 2025 kommer mer än 20 procent av européerna att vara 65 år eller äldre, med ett särskilt snabbt ökande antal människor som är över 80. Balansen mellan generationerna i våra samhällen kommer då att bli helt annorlunda, och det ligger i samhällets intresse att äldre människor förblir friska och aktiva så länge som möjligt.

G.  Den nuvarande trenden, som går mot en utveckling av smarta och autonoma maskiner med kapacitet att lära sig och fatta självständiga beslut, kommer på sikt att inte bara medföra ekonomiska fördelar utan också väcka en rad frågor beträffande maskinernas direkta och indirekta effekter på samhället som helhet.

H.  Maskininlärning innebär enorma ekonomiska och innovativa fördelar för samhället genom att förmågan till analys av data ökar oerhört, samtidigt som den även ger upphov till utmaningar med att säkerställa icke-diskriminering, rättssäkerhet, insyn och begripliga beslutsprocesser.

I.  På liknande sätt behöver ekonomiska förändringar och robotteknikens och maskininlärningens inverkan på sysselsättningen bedömas. Trots de obestridliga fördelarna med robottekniken kan den medföra en omvandling av arbetsmarknaden och därmed ett behov att tänka över framtiden för utbildning, sysselsättning och socialpolitik.

J.  Den utbredda användningen av robotar kanske inte automatiskt leder till att arbetstillfällen ersätts, men lågkvalificerade arbetstillfällen i arbetskraftsintensiva sektorer är sannolikt mer sårbara för automatisering. Denna tendens skulle kunna föra tillverkningsprocesser tillbaka till EU. Forskning har visat att sysselsättningen växter betydligt fortare inom yrken där datorer används i större utsträckning. Arbetsautomatiseringen har potentialen att befria människor från manuellt, monotont arbete och låta dem inrikta sig på mer kreativa och meningsfulla uppgifter. Automatiseringen kräver att det offentliga investerar i utbildning och andra reformer för att bättre kvalificera arbetstagarna för de typer av färdigheter som de kommer att behöva i framtiden.

K.  Det är viktigt att tänka på att utvecklingen av robotteknik kan leda till en hög koncentration av rikedom och inflytande i händerna på en minoritet, mot bakgrund av växande klyftor i samhället och en krympande medelklass.

L.  Utvecklingen av robotteknik och AI kommer definitivt att påverka arbetsplatslandskapet, vilket kan skapa nya ansvarsfrågor och eliminera andra. Det rättsliga ansvaret måste klargöras både enligt affärsmodellen och arbetstagarnas designmönster om nödlägen eller problem skulle uppstå.

M.  Automatiseringstendensen kräver att de som deltar i utvecklingen och kommersialiseringen av applikationer med AI bygger in säkerhet och etik från början, och därigenom erkänner att de måste vara beredda att ta på sig det rättsliga ansvaret för kvaliteten på den teknik som de tillverkar.

N.  I Europaparlamentets och rådets förordning (EU) 2016/679(2) (den allmänna dataskyddsförordningen) fastställs de rättsliga ramarna för att skydda personuppgifter. Andra aspekter av tillgång till uppgifter och skydd av personuppgifter och personlig integritet kan också behöva tas upp, eftersom integritetsfrågor skulle kunna uppstå i samband med applikationer och anordningar som kommunicerar med varandra och med databaser utan mänsklig inblandning.

O.  Utvecklingen inom robotteknik och AI kan och bör utformas på så sätt att man bevarar individens värdighet, autonomi och självbestämmande, särskilt när det gäller omvårdnad och sällskap för människor och i samband med medicintekniska produkter och ”reparation” eller ”förbättring” av människor.

P.  I slutänden finns det en möjlighet att AI på sikt kan överträffa människans intellektuella kapacitet.

Q.  Vidareutveckling och ökad användning av automatiserat och algoritmbaserat beslutsfattande påverkar utan tvekan de val som en privatperson (såsom ett företag eller en internetanvändare) och en administrativ, rättslig eller annan offentlig myndighet gör i samband med sitt slutgiltiga beslut i konsument-, affärs- eller myndighetsfrågor. Skyddsåtgärder och möjlighet till mänsklig kontroll och verifiering måste byggas in i processen för automatiserat och algoritmbaserat beslutsfattande.

R.  Ett flertal utländska jurisdiktioner, bland annat USA, Japan, Kina och Sydkorea, överväger – och har i viss mån redan vidtagit – lagstiftningsåtgärder med avseende på robotteknik och AI, och även vissa medlemsstater har börjat fundera på att eventuellt utarbeta rättsliga normer eller genomföra lagstiftningsändringar för att ta hänsyn till kommande tillämpningar av sådana tekniker.

S.  Det europeiska näringslivet skulle kunna dra fördel av ett effektivt, samlat och transparent lagstiftningsgrepp på unionsnivå, under förutsättning att det fastställs förutsebara och tillräckligt tydliga villkor under vilka företag kan ta fram applikationer och planera sina affärsmodeller på europeisk nivå, samtidigt som man ser till att unionen och dess medlemsstater behåller kontrollen över de lagstiftningsstandarder som ska fastställas, så att man inte tvingas anta och förhålla sig till standarder som fastställts av andra, nämligen tredjeländer som också ligger långt fram i utvecklingen av robotteknik och AI.

Allmänna principer

T.  Asimovs lagar(3) måste anses vara riktade till robotarnas konstruktörer, tillverkare och operatörer, även när det gäller robotar som har inbyggd autonomi och är självlärande, eftersom dessa lagar inte kan omvandlas till maskinkod.

U.  En rad bestämmelser som i synnerhet gäller skadeståndsansvar, transparens och ansvarighet är användbara och nödvändiga, och de återspeglar de inneboende europeiska och universella humanistiska värderingar som karakteriserar Europas bidrag till samhället. Dessa bestämmelser får inte påverka forsknings-, innovations- och utvecklingsprocessen inom robottekniken.

V.  Unionen skulle kunna spela en viktig roll genom att fastställa grundläggande etiska principer som måste respekteras vid utveckling, programmering och användning av robotar och AI och införliva dessa principer i unionsregelverk och unionsuppförandekoder, i syfte att forma den tekniska revolutionen så att den tjänar mänskligheten och så att fördelarna med avancerad robotteknik och AI kommer många till godo, samtidigt som man i möjligaste mån undviker potentiella fallgropar.

W.  En stadga för robotteknik bifogas betänkandet, utarbetad med bistånd av enheten för vetenskaplig framsyn (Stoa), GD EPRS, där det föreslås en etisk uppförandekod för robotteknikingenjörer, en kodex för forskningsetiska kommittéer samt en ”licens” för konstruktörer och en ”licens” för användare.

X.  En successiv, pragmatisk och försiktig strategi av det slag som förordades av Jean Monnet(4) bör antas för unionen med avseende på framtida initiativ om robotteknik och AI, så att vi inte kväver innovationen.

Y.  Mot bakgrund av den nivå som uppnåtts i utvecklingen av robotteknik och AI är det lämpligt att börja med frågor om skadeståndsansvar.

Skadeståndsansvar

Z.  Tack vare de imponerande tekniska framstegen under det senaste årtiondet kan dagens robotar inte bara utföra uppgifter som tidigare var intimt förknippade med och uteslutande utfördes av människor, utan utvecklingen av vissa autonoma och kognitiva egenskaper – såsom förmågan att lära sig av erfarenhet och fatta delvis självständiga beslut – har även gjort robotarna alltmer lika agenter som interagerar med sin omgivning och kan förändra den i betydande utsträckning. Mot bakgrund av detta blir det rättsliga ansvaret för en robots skadliga handlingar en knäckfråga.

AA.  En robots autonomi kan definieras som förmågan att fatta beslut och verkställa dem i den omgivande miljön oberoende av yttre kontroll eller inflytande. Denna autonomi är av rent teknisk karaktär, och graden av autonomi är beroende av hur sofistikerat samspel med omgivningen som konstruktionen i fråga medger.

AB.  Ju mer autonoma robotarna är, desto mindre kan de betraktas som enkla verktyg för andra aktörer (såsom tillverkaren, operatören, ägaren, användaren osv.). Detta ifrågasätter i sin tur om de vanliga bestämmelserna om skadeståndsansvar är tillräckliga eller om det krävs nya principer och regler för att skapa klarhet angående de olika aktörernas rättsliga ansvar för robotars handlingar eller underlåtelse att handla i fall där orsaken inte kan spåras tillbaka till en specifik mänsklig aktör, och huruvida robotars handlingar eller underlåtelse att handla som har orsakat skada hade kunnat undvikas.

AC.  I sista hand ger robotarnas autonomi upphov till frågan om deras natur i ljuset av befintliga rättsliga kategorier eller huruvida en ny kategori bör skapas med sina egna specifika särdrag och implikationer.

AD.  Enligt de nu gällande rättsliga ramarna kan robotar i sig inte hållas ansvariga för handlingar eller underlåtelse att handla som skadar tredje parter. De befintliga ansvarsbestämmelserna omfattar fall där orsaken till en robots handling eller underlåtelse att handla kan spåras tillbaka till en specifik mänsklig aktör, exempelvis tillverkaren, operatören, ägaren eller användaren, och där aktören i fråga kunde ha förutsett och förhindrat robotens skadliga beteende. Därutöver skulle tillverkare, operatörer, ägare eller användare kunna hållas strikt ansvariga för en robots handlingar eller underlåtelse att handla.

AE.  Enligt de gällande rättsliga ramarna är både skadeståndsansvar för produkter – där tillverkaren av produkten är ansvarig för funktionsfel – och ansvar för skadliga handlingar – där användaren av produkten är ansvarig för hantering som vållar skada – tillämpligt på skador som orsakas av robotar eller AI.

AF.  I ett scenario där en robot kan fatta självständiga beslut är de traditionella reglerna inte tillräckliga för att skadeståndsansvar ska kunna utkrävas för skador som orsakats av en robot, eftersom det inte skulle gå att fastställa vilken part som är ansvarig för att ge ersättning eller kräva att den parten gottgör den skada som vållats.

AG.  Bristerna i de nuvarande rättsliga ramarna är uppenbara också på det avtalsrättsliga området, där maskiner som utformats för att välja sin motpart, förhandla om avtalsvillkor, ingå avtal och besluta huruvida och på vilket sätt avtalen ska fullföljas gör att de traditionella reglerna inte längre går att tillämpa, vilket visar på behovet av nya, effektiva och uppdaterade regler, som bör följa den tekniska utvecklingen och nya innovationer som används på marknaden.

AH.  När det gäller utomobligatoriskt ansvar omfattar direktiv 85/374/EEG endast skada som orsakats av en tillverkningsdefekt hos en robot och endast under förutsättning att den skadelidande kan bevisa den faktiska skadan, defekten på produkten och orsakssambandet mellan defekten och skadan. Ett regelverk som bygger på strikt ansvar kan därmed vara otillräckligt.

AI.  Trots tillämpningsområdet för direktiv 85/374/EEG skulle de gällande rättsliga ramarna inte vara tillräckliga för att omfatta skada som orsakats av den nya generationen robotar med tanke på att dessa kan vara försedda med anpassnings- och inlärningsförmåga som medför en viss grad av oförutsägbarhet i beteendet, eftersom sådana robotar autonomt skulle lära sig av sina egna skiftande erfarenheter och interagera med sin omgivning på ett unikt och oförutsebart sätt.

Allmänna principer avseende utveckling av robotteknik och artificiell intelligens för civila ändamål

1.  Europaparlamentet uppmanar kommissionen att föreslå gemensamma unionsdefinitioner av cyberfysiska system, smarta autonoma robotar och deras underkategorier, med beaktande av följande kännetecken för en smart robot:

   Förvärvande av autonomi genom sensorer och/eller informationsutbyte med sin omgivning (sammankoppling) samt utbyte och analys av denna information.
   Självlärande genom erfarenhet och interaktion (fakultativt kriterium).
   Åtminstone en minimal fysisk förankring.
   Anpassning av sitt beteende och handlande efter omgivningen.
   Frånvaro av liv i biologisk bemärkelse.

2.  Europaparlamentet anser att ett övergripande system för registrering av avancerade robotar bör införas på unionens inre marknad om det är relevant och nödvändigt för särskilda kategorier av robotar, och uppmanar kommissionen att fastställa kriterier för klassificering av robotar som skulle behöva registreras. Parlamentet uppmanar i detta sammanhang kommissionen att utreda om det skulle vara önskvärt att registreringssystemet och registret förvaltas av en EU-byrå för robotteknik och artificiell intelligens.

3.  Europaparlamentet betonar att utvecklingen av robotteknik bör inriktas på att komplettera de mänskliga förmågorna och inte på att ersätta dem. Parlamentet anser att det i utvecklingen av robotteknik och AI är väsentligt att garantera att människor alltid har kontrollen över intelligenta maskiner. Parlamentet anser att särskild uppmärksamhet bör ägnas åt den känslomässiga anknytning som kan utvecklas mellan människor och robotar ‒ särskilt i sårbara grupper (barn, äldre och personer med funktionsnedsättning) ‒ och framhåller den allvarliga känslomässiga eller fysiska inverkan som denna känslomässiga anknytning skulle kunna få för människor.

4.  Europaparlamentet betonar att en behandling av denna fråga på unionsnivå kan underlätta utvecklingen genom att man undviker fragmentering på den inre marknaden, och understryker samtidigt hur viktig principen om ömsesidigt erkännande är i samband med gränsöverskridande användning av robotar och robotsystem. Parlamentet påminner om att testning, certifiering och marknadsgodkännande bör krävas i endast en medlemsstat. Detta bör åtföljas av en ändamålsenlig marknadskontroll.

5.  Europaparlamentet betonar vikten av åtgärder för att stödja små och medelstora företag och nystartade företag i robottekniksektorn som skapar nya marknadssegment inom denna sektor eller utnyttjar robotar.

Forskning och innovation

6.  Europaparlamentet understryker att många robottekniska applikationer fortfarande befinner sig i en experimentell fas, och välkomnar att allt fler forskningsprojekt finansieras av medlemsstaterna och unionen. Det är ytterst viktigt att unionen, tillsammans med medlemsstaterna genom offentlig finansiering, behåller en ledande position inom forskning om robotteknik och AI. Kommissionen och medlemsstaterna uppmanas att stärka de finansiella instrumenten för forskningsprojekt på robotteknik- och IKT-områdena, inbegripet offentlig-privata partnerskap, och att genomföra principen om öppen vetenskap och ansvarsfull etisk innovation i sin forskningspolitik. Parlamentet betonar att tillräckliga resurser måste anslås åt arbetet med att finna lösningar på de sociala, etiska, juridiska och ekonomiska utmaningar som den tekniska utvecklingen och dess applikationer medför.

7.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att främja forskningsprogram, att stimulera forskning om eventuella långsiktiga risker och möjligheter med robotteknik och AI och att uppmuntra inledandet av en strukturerad dialog med allmänheten om konsekvenserna av utvecklingen av denna teknik så snart som möjligt. Parlamentet uppmanar kommissionen att i halvtidsöversynen av den fleråriga budgetramen öka sitt stöd till det genom Horisont 2020 finansierade Sparc‑programmet. Kommissionen och medlemsstaterna uppmanas att förena sina ansträngningar i syfte att noggrant övervaka och garantera en smidigare övergång för dessa tekniker från forskningsfasen till kommersialiseringen och användningen på marknaden efter lämpliga säkerhetsbedömningar i enlighet med försiktighetsprincipen.

8.  Europaparlamentet betonar att innovation inom robotteknik och AI samt integrering av robotteknik och AI i ekonomin och samhället kräver digital infrastruktur som tillhandahåller uppkoppling överallt. Parlamentet uppmanar kommissionen att fastställa en ram som tillgodoser uppkopplingskraven för unionens digitala framtid och att se till att tillgången till bredband och 5G-nät är helt förenlig med principen om nätneutralitet.

9.  Europaparlamentet är fast övertygat om att interoperabilitet mellan system, enheter och molntjänster, baserat på inbyggt säkerhets- och integritetsskydd, krävs för dataflöden i realtid som gör att robotar och AI kan bli mer flexibla och autonoma. Parlamentet uppmanar kommissionen att verka för en öppen miljö, från öppna standarder och innovativa licensieringsmodeller till öppna plattformar och transparens, för att undvika inlåsning i proprietära system som hämmar interoperabiliteten.

Etiska principer

10.  Europaparlamentet konstaterar att potentialen till ökad egenmakt genom användning av robotteknik nyanseras av ett antal utmaningar eller risker och bör bedömas noggrant med avseende på människors hälsa och säkerhet, frihet, privatliv, integritet och värdighet, självbestämmande och icke-diskriminering samt skydd av personuppgifter.

11.  Europaparlamentet anser att unionens befintliga rättsliga ramar bör uppdateras och vid behov kompletteras med vägledande etiska principer som speglar robotteknikens komplexitet och dess många sociala, medicinska och bioetiska konsekvenser. Det finns ett behov av en tydlig, strikt och effektiv vägledande etisk ram för utveckling, utformning, produktion, användning och modifikation av robotar som ett komplement till de rättsliga rekommendationerna i detta betänkande och de befintliga regelverken på nationell nivå och EU-nivå. Parlamentet föreslår i bilagan till resolutionen en ram i form av en stadga bestående av en uppförandekod för robotteknikingenjörer, en kodex för forskningsetiska kommittéer och deras arbete med att granska robotteknikprotokoll samt mallar för licenser för konstruktörer och användare.

12.  Europaparlamentet framhåller öppenhetsprincipen, det vill säga att det alltid bör vara möjligt att uppge den logiska motiveringen till varje beslut som fattas med stöd av AI och som kan ha en väsentlig inverkan på en eller flera personers liv. Parlamentet anser att det alltid måste vara möjligt att reducera AI-systemets beräkningar till en form som är begriplig för människor. Avancerade robotar bör utrustas med en ”svart låda” som registrerar uppgifter om varje transaktion som utförts av maskinen, inklusive den logiska operation som bidrog till dess beslut.

13.  Europaparlamentet påpekar att den vägledande etiska ramen bör bygga på principerna om gott syfte, icke-skadlighet, autonomi och rättvisa, på de principer och värden som finns förankrade i artikel 2 i fördraget om Europeiska unionen och i stadgan om de grundläggande rättigheterna, såsom människans värdighet, jämlikhet, rättvisa och likabehandling, icke-diskriminering, informerat samtycke och skydd av privat- och familjeliv och uppgiftsskydd, liksom på andra principer och värden som ligger till grund för unionsrätten, såsom icke-stigmatisering, öppenhet, oberoende, individuellt och socialt ansvar samt befintliga etiska metoder och regler.

14.  Europaparlamentet anser att särskild uppmärksamhet bör ägnas åt robotar som utgör ett stort sekretesshot på grund av sin placering i traditionellt skyddade och privata sfärer och eftersom de kan extrahera och skicka personliga och känsliga uppgifter.

En EU-byrå

15.  Europaparlamentet anser att ett utökat samarbete mellan medlemsstaterna och kommissionen är nödvändigt för att garantera enhetliga regler för gränsöverskridande handel i unionen vilka uppmuntrar till samarbete mellan europeiska industrier och tillåter idrifttagande i hela unionen av robotar som är förenliga med de erforderliga säkerhets- och skyddsnivåerna och de etiska principerna i unionsrätten.

16.  Europaparlamentet uppmanar kommissionen att överväga att utse en EU-byrå för robotteknik och artificiell intelligens i syfte att tillhandahålla de tekniska, etiska och regleringsmässiga sakkunskaper som behövs för att stödja de relevanta offentliga aktörerna, på både unions- och medlemsstatsnivå, i deras ansträngningar för att säkerställa snabba, etiska och välgrundade reaktioner på de nya möjligheterna och utmaningarna, i synnerhet gränsöverskridande sådana, till följd av den tekniska utvecklingen inom robottekniken, exempelvis i transportsektorn.

17.  Europaparlamentet anser att potentialen och problemen med robotteknikanvändningen och den nuvarande investeringsdynamiken motiverar att EU-byrån förses med en riktig budget och personal med tillsynskompetens samt externa tekniska och etiska experter, med uppgift att sektorsövergripande och interdisciplinärt övervaka robotteknikbaserade applikationer, identifiera standarder för bästa praxis samt vid behov rekommendera regleringsåtgärder, fastställa nya principer och ta itu med eventuella konsumentskyddsfrågor och systemutmaningar. Kommissionen (och EU-byrån, om den inrättas) uppmanas att årligen rapportera till parlamentet om den senaste robotteknikutvecklingen och om eventuella åtgärder som behöver vidtas.

Immateriella rättigheter och dataflödet

18.  Europaparlamentet konstaterar att det inte finns några rättsliga bestämmelser som är specifikt tillämpliga på robotteknik, men att de befintliga rättsordningarna och doktrinerna lätt kan tillämpas på robotteknik, även om vissa aspekter tycks kräva särskild hänsyn. Parlamentet uppmanar kommissionen att stödja en övergripande och teknikneutral strategi för immateriell äganderätt som är tillämplig på de olika sektorer där robotteknik skulle kunna användas.

19.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att se till att de civilrättsliga bestämmelserna om robotteknik stämmer överens med den allmänna dataskyddsförordningen och nödvändighets- och proportionalitetsprinciperna. Kommissionen och medlemsstaterna uppmanas också att beakta den snabba tekniska utvecklingen på robotteknikområdet, inklusive den ökade användningen av cyberfysiska system, och att se till att unionsrätten inte släpar efter den utveckling som de tekniska framstegen och användningsområdena uppvisar.

20.  Europaparlamentet betonar att rätten till skydd av privatlivet och personuppgifter enligt artiklarna 7 och 8 i stadgan och artikel 16 i fördraget om Europeiska unionens funktionssätt (EUF‑fördraget) är tillämpligt på alla områden som inbegriper robotteknik och att unionens rättsliga ramar för uppgiftsskydd måste respekteras till fullo. Parlamentet efterlyser i detta avseende ett klargörande, inom ramen för genomförandet av den allmänna dataskyddsförordningen, av reglerna och kriterierna för användning av kameror och sensorer i robotar. Parlamentet uppmanar kommissionen att se till att principerna för uppgiftsskydd – såsom inbyggt integritetsskydd och integritetsskydd som standard, uppgiftsminimering, ändamålsbegränsning samt insynsvänliga kontrollmekanismer för de registrerade och lämpliga rättsmedlen i överensstämmelse med unionens uppgiftsskyddslagstiftning – följs och att lämpliga rekommendationer och standarder främjas och integreras i unionens politik.

21.  Europaparlamentet betonar att det fria flödet av uppgifter är av största vikt för den digitala ekonomin och utvecklingen inom robotteknik- och AI-sektorn. En hög säkerhetsnivå för robottekniksystem, inklusive deras interna datasystem och uppgiftsflöden, är avgörande för en lämplig användning av robotar och AI. Parlamentet betonar att skyddet av nätverk av sammankopplade robotar och AI måste säkerställas för att förhindra eventuella säkerhetsöverträdelser. En hög nivå av säkerhet och skydd av personuppgifter, tillsammans med ett vederbörligt beaktande av den personliga integriteten i kommunikationen mellan människor, robotar och AI, är grundläggande. Parlamentet betonar att de som utformar robotteknik och AI ansvarar för att utveckla produkter som är säkra och ändamålsenliga. Kommissionen och medlemsstaterna uppmanas att stödja och stimulera utvecklingen av den nödvändiga tekniken, inbegripet inbyggt säkerhetsskydd.

Standardisering, trygghet och säkerhet

22.  Europaparlamentet betonar att frågan om standardisering och beviljande av driftskompatibilitet är avgörande för den framtida konkurrensen på området AI och robotteknik. Parlamentet uppmanar kommissionen att fortsatt arbeta med den internationella harmoniseringen av tekniska standarder, framför allt tillsammans med de europeiska standardiseringsorganisationerna och Internationella standardiseringsorganisationen, i syfte att främja innovation, förhindra en fragmentering av den inre marknaden och garantera en hög nivå för produktsäkerhet och konsumentskydd, bland annat genom miniminormer för säkerhet i arbetsmiljön där sådana behövs. Parlamentet betonar betydelsen av laglig bakåtkompilering och öppna standarder för att maximera innovationsvärdet och se till att robotar kan kommunicera med varandra. Parlamentet välkomnar i detta avseende inrättandet av särskilda tekniska kommittéer, såsom ”ISO/TC 299 Robotics” på robotteknikområdet, som uteslutande ska ta fram standarder för robotteknik.

23.  Europaparlamentet betonar att testning av robotar i verkliga scenarier är väsentligt för att man ska kunna identifiera och bedöma de risker som robotarna kan medföra och deras tekniska utveckling efter den rent experimentella laboratoriefasen. Parlamentet understryker i detta sammanhang att testning av robotar i verkliga scenarier, inte minst i städer och på vägar, innebär ett stort antal problem – bland annat hinder som saktar ned utvecklingen i dessa testningsfaser – och kräver en ändamålsenlig strategi och övervakningsmekanism. Kommissionen uppmanas att för samtliga medlemsstater utarbeta enhetliga kriterier som de bör använda för att ange områden där experiment med robotar ska vara tillåtna, i enlighet med försiktighetsprincipen.

Autonoma transportmedel

a)Självkörande fordon

24.  Europaparlamentet understryker att autonoma transporter omfattar alla typer av fjärrstyrda, automatiserade, uppkopplade och autonoma medel för väg-, järnvägs-, vattenvägs- och lufttransport, inklusive vägfordon, tåg, fartyg, färjor, luftfartyg och drönare samt alla framtida former av utveckling och innovation i denna sektor.

25.  Europaparlamentet anser att fordonsindustrin är i ett högst akut behov av effektiva regler på unionsnivå och globalt för att säkerställa en gränsöverskridande utveckling av automatiserade och självkörande fordon, så att man till fullo utnyttjar deras ekonomiska potential och drar nytta av de tekniska trendernas positiva följder. Parlamentet betonar att splittrade regleringsansatser skulle hindra införandet av autonoma transportsystem och äventyra Europas konkurrenskraft.

26.  Europaparlamentet påpekar att en förares reaktionstid vid ett oplanerat övertagande av kontrollen av fordonet är av vital betydelse, och kräver därför att aktörerna tillhandahåller realistiska värden som avgör frågorna om säkerhet och skadeståndsansvar.

27.  Europaparlamentet anser att övergången till självkörande fordon kommer att påverka följande frågor: civilrättsligt ansvar (skadeståndsansvar och försäkringar), trafiksäkerhet, alla frågor som hör till miljön (t.ex. energieffektivitet, användning av teknik för förnybar energi och förnybara energikällor), frågor om uppgifter (t.ex. tillgång till uppgifter, uppgiftsskydd, integritet och uppgiftsdelning), frågor om IKT-infrastruktur (t.ex. effektiv och tillförlitlig kommunikation med hög täthet) samt sysselsättning (t.ex. skapande och förluster av arbetstillfällen och utbildning av förare av tunga lastfordon i användning av automatiserade fordon). Det kommer att krävas väsentliga investeringar i vägar, energi och IKT-infrastruktur. Parlamentet uppmanar kommissionen att beakta de ovannämnda aspekterna i sitt arbete med självkörande fordon.

28.  Europaparlamentet understryker att tillförlitlig positions- och tidsinformation från de europeiska satellitnavigeringsprogrammen Galileo och Egnos är av avgörande betydelse för att införa självkörande fordon. Parlamentet kräver i detta avseende att man färdigställer och sänder upp de satelliter som behövs för att fullborda det europeiska positioneringssystemet Galileo.

29.  Europaparlamentet uppmärksammar det stora mervärde som självkörande fordon erbjuder personer med nedsatt rörlighet, eftersom sådana fordon gör att de bättre kan delta i den privata biltrafiken och därmed underlättar deras vardag.

b) Drönare (fjärrstyrda luftfartygssystem, RPAS)

30.  Europaparlamentet konstaterar de positiva framstegen inom drönarteknik, särskilt på området för sökning och räddning. Parlamentet betonar vikten av ramar på unionsnivå för drönare i syfte att skydda unionsmedborgarnas trygghet, säkerhet och integritet, och uppmanar kommissionen att följa upp rekommendationerna i Europaparlamentets resolution av den 29 oktober 2015 om säker användning av fjärrstyrda luftfartygssystem (RPAS), vanligen kallade obemannade luftfartyg (UAV), på området civil luftfart(5). Parlamentet uppmanar kraftfullt kommissionen att tillhandahålla bedömningar av säkerhetsfrågorna i samband med den omfattande användningen av drönare. Kommissionen uppmanas att undersöka behovet att införa ett obligatoriskt spårnings- och identifieringssystem för fjärrstyrda luftfartygssystem som gör det möjligt att i realtid fastställa ett luftfartygs position under användning. Parlamentet påminner om att obemannade luftfartygs enhetlighet och säkerhet bör säkerställas genom bestämmelserna i Europaparlamentets och rådets förordning (EG) nr 216/2008(6).

Robotar inom vård och omsorg

31.  Europaparlamentet understryker att forskningen om och utvecklingen av robotar inom äldrevården med tiden har vunnit större insteg och blivit billigare, vilket lett till produkter med ökad funktionalitet och bredare acceptans från konsumenternas sida. Det finns ett stort antal tillämpningsområden som bygger på sådana tekniker och ger möjlighet till förebyggande vård, stöd, tillsyn, stimulans och sällskap för äldre och personer med funktionsnedsättningar, liksom för personer som lider av demenssjukdomar, kognitiva störningar och minnesförlust.

32.  Europaparlamentet framhåller att mänsklig kontakt är en av de grundläggande aspekterna vid vård av människor. Parlamentet anser att åtgärder för att ersätta människor med robotar riskerar att medföra en avhumanisering av vården. Å andra sidan medger parlamentet att robotar skulle kunna utföra automatiserade vårduppgifter och underlätta arbetet för de vårdanställda och samtidigt förhöja den mänskliga sidan av vården och göra rehabiliteringsprocessen mer målinriktad, så att den medicinska personalen och vårdgivarna kan ägna mer tid åt diagnos och bättre planerade behandlingsalternativ. Samtidigt som robotteknik har potential att öka rörligheten och minska utanförskapet för personer med funktionsnedsättningar och äldre kommer människor fortfarande att behövas i vården och även framöver utgöra en viktig källa till social interaktion som inte är helt utbytbar.

Robotar för medicinska ändamål

33.  Europaparlamentet understryker vikten av lämplig utbildning, fortbildning och förberedelse av sjukvårdspersonal, till exempel läkare, sköterskor och vårdbiträden, för att säkerställa högsta möjliga yrkesmässiga kompetens och skydda och värna om patienternas hälsa. Parlamentet understryker behovet att fastställa de yrkesmässiga minimikrav som en kirurg måste uppfylla för att operera och få använda kirurgiska robotar. Parlamentet anser det vara av största vikt att principen om övervakad autonomi för robotar respekteras, vilket innebär att en mänsklig kirurg under alla omständigheter fortsatt kommer att stå för både den inledande planeringen av behandlingen och det slutliga behandlingsvalet. Parlamentet betonar särskilt vikten av fortbildning för användare, så att de ges möjlighet att sätta sig in i de tekniska krav som gäller på detta område. Parlamentet uppmärksammar den ökande trenden med självdiagnostisering med hjälp av mobila robotar och det därav följande behovet för läkare att utbildas i att hantera fall av självdiagnostisering. Användningen av sådan teknik får inte förminska eller skada förhållandet mellan läkare och patient utan bör bistå läkaren i diagnostiseringen och/eller behandlingen av patienten, i syfte att minska risken för mänskliga misstag och öka livskvaliteten och den förväntade livslängden.

34.  Europaparlamentet anser att medicinska robotar fortsätter att vinna insteg inom högprecisionskirurgi och repetitiva arbetsmoment och att de har potential att förbättra resultaten inom rehabilitering och tillhandahålla ett högeffektivt logistiskt stöd på sjukhus. Medicinska robotar har också potential att minska sjukvårdskostnaderna genom att göra det möjligt för den medicinska personalen att fokusera på förebyggande i stället för behandling och genom att frigöra budgetmedel till en bättre anpassning till mångfalden av behov bland patienterna, kontinuerlig fortbildning av vårdpersonal samt forskning.

35.  Europaparlamentet uppmanar kommissionen att se till att förfarandena för provning av ny medicinsk robotteknik är tillförlitliga, särskilt när det gäller produkter som implanteras i människokroppen, och det innan förordning (EU) 2017/745 om medicintekniska produkter börjar gälla.

Åtgärder för att ”reparera” och ”förbättra” människor

36.  Europaparlamentet noterar robotteknikens stora framgångar och ytterligare potential när det gäller att reparera och stödja skadade organ och kroppsfunktioner, men även de komplexa frågor som i synnerhet möjligheterna att ”förbättra” människor väcker, eftersom medicinska robotar och i synnerhet cyberfysiska system i grunden kan förändra vår syn på en frisk människokropp, med tanke på att de kan bäras direkt på eller implanteras i människokroppen. Parlamentet understryker vikten av att skyndsamt, på sjukhus och andra vårdinrättningar, tillsätta etiska kommittéer på robotteknikområdet och förse dessa med lämplig personal, med uppgiften att utreda och hjälpa till att lösa ovanliga, komplicerade etiska problem som rör frågor som påverkar vården och behandlingen av patienterna. Kommissionen och medlemsstaterna uppmanas att ta fram riktlinjer för att bistå inrättandet av sådana kommittéer och deras arbete.

37.  Europaparlamentet påpekar att man inom vitala medicinska tillämpningsområden, såsom robottekniska proteser, på ett hållbart sätt måste säkerställa kontinuerlig tillgång till underhåll, förbättringar och i synnerhet mjukvaruuppdateringar som avhjälper funktionsfel och svaga punkter.

38.  Europaparlamentet rekommenderar inrättandet av oberoende, betrodda enheter för att behålla de nödvändiga medlen för att tillhandahålla personer som bär vital och avancerad medicinsk utrustning tjänster såsom underhåll, reparationer och förbättringar, inbegripet uppdateringar av programvara, särskilt i fall där sådana tjänster inte längre utförs av den ursprungliga leverantören. Parlamentet föreslår att det införs en skyldighet för tillverkarna att tillhandahålla dessa oberoende, betrodda enheter heltäckande konstruktionsanvisningar, inklusive källkod, motsvarande pliktexemplar av publikationer till nationalbibliotek.

39.  Europaparlamentet betonar risken för att cyberfysiska system som är implanterade i människokroppen kan hackas, stängas av eller få sina minnen utraderade, eftersom detta skulle kunna äventyra människors hälsa och i extrema fall till och med liv, och betonar därför att skyddet av sådana system måste prioriteras.

40.  Europaparlamentet understryker vikten av att garantera lika tillgång för alla till sådana tekniska innovationer, redskap och ingrepp. Parlamentet uppmanar kommissionen och medlemsstaterna att främja utvecklingen av tekniska hjälpmedel i syfte att verka för att sådana hjälpmedel utvecklas och anammas av personer som har behov av dem, i enlighet med artikel 4 i FN:s konvention om rättigheter för personer med funktionsnedsättning, som unionen har undertecknat.

Utbildning och sysselsättning

41.  Europaparlamentet uppmärksammar kommissionens prognos att det senast 2020 kan råda ett underskott på upp till 825 000 personer med IKT-kompetens i Europa och att 90 procent av arbetstillfällena kommer att kräva åtminstone grundläggande digitala färdigheter. Parlamentet välkomnar kommissionens initiativ att föreslå en färdplan för en eventuell tillämpning och revidering av en ram för digital kompetens och deskriptorer för digital kompetens för inlärare på alla nivåer, och uppmanar kommissionen att ge omfattande stöd till utvecklingen av digitala färdigheter i alla åldersgrupper oberoende av anställningsstatus, som ett första steg mot en bättre matchning av brist och efterfrågan på arbetsmarknaden. Parlamentet betonar att robotteknikens tillväxt kräver att medlemsstaterna utvecklar flexiblare fortbildnings- och utbildningssystem, så att kompetensstrategierna motsvarar robotekonomins behov.

42.  Europaparlamentet anser att det skulle gagna den digitala industrin, kvinnorna själva och ekonomin i EU om man hos fler unga kvinnor kunde skapa intresse för en karriär på det digitala området och fick in fler kvinnor på denna del av arbetsmarknaden. Kommissionen och medlemsstaterna uppmanas att inleda initiativ för att stödja kvinnor på IKT-området och stärka deras e-färdigheter.

43.  Europaparlamentet uppmanar kommissionen att börja analysera och övervaka sysselsättningstrenderna på medellång och lång sikt närmare, med särskilt fokus på arbetstillfällen som skapas, flyttas respektive går förlorade på de olika kvalifikationsområdena, i syfte att få fram de områden där nya arbetstillfällen skapas respektive de områden där arbetstillfällen går förlorade till följd av den ökade användningen av robotar.

44.  Europaparlamentet framhåller vikten av att förutse samhällsförändringar, med tanke på de konsekvenser som utvecklingen och användningen av robotteknik och AI kan få. Parlamentet uppmanar kommissionen att analysera olika möjliga scenarier och deras konsekvenser för hållbarheten i medlemsstaternas system för social trygghet.

45.  Europaparlamentet betonar vikten av flexibla färdigheter och av sociala, kreativa och digitala färdigheter i utbildningen. Utöver den akademiska kunskap som lärs ut i skolorna måste det livslånga lärandet ske under hela livet.

46.  Europaparlamentet noterar robotteknikens stora potential till förbättring av säkerheten på arbetsplatsen genom att farliga och skadliga uppgifter överförs från människor till robotar, men konstaterar samtidigt att tekniken kan skapa nya risker genom den ökande interaktionen mellan människa och robot på arbetsplatsen. Parlamentet understryker i detta sammanhang vikten av att tillämpa strikta och framåtblickande regler för samspelet mellan människa och robot i syfte att garantera hälsa, säkerhet och respekt för grundläggande rättigheter på arbetsplatsen.

Miljöpåverkan

47.  Europaparlamentet konstaterar att utvecklingen av robotteknik och AI bör ske på ett sådant sätt att miljöpåverkan begränsas genom ändamålsenlig energiförbrukning, energieffektivitet genom större användning av förnybar energi och effektivt utnyttjande av knappa material, minimalt avfall, exempelvis elektriskt och elektroniskt avfall, samt reparationsmöjligheter. Kommissionen uppmuntras därför att låta principerna för den cirkulära ekonomin ingå i all unionspolitik om robotteknik. Parlamentet konstaterar att användningen av robotteknik också kommer att påverka miljön positivt, särskilt inom jordbruk, livsmedelsförsörjning och livsmedelstransporter, bland annat genom att maskinernas storlek och användningen av gödselmedel, energi och vatten kan minskas, liksom genom precisionsjordbruk och ruttoptimering.

48.  Europaparlamentet betonar att cyberfysiska system kommer att ge oss inte bara energi- och infrastruktursystem där det går att kontrollera elflödet från producent till konsument, utan även ”energiprosumenter”, som både producerar och konsumerar energi, vilket kommer att bli till stor nytta för miljön.

Skadeståndsansvar

49.  Europaparlamentet anser att det civilrättsliga ansvaret för skador orsakade av robotar är en avgörande fråga som också behöver analyseras och diskuteras på unionsnivå för att säkerställa samma grad av effektivitet, öppenhet och konsekvens i rättssäkerheten överallt i Europeiska unionen, till nytta för allmänhet, konsumenter och företag.

50.  Europaparlamentet konstaterar att utvecklingen av robotteknik kommer att kräva större förståelse för den gemensamma grund som behövs för verksamhet som bedrivs gemensamt av människa och robot, som bör bygga på förutsägbarhet och riktbarhet, två grundläggande förhållanden som kännetecknas av ömsesidigt beroende. Parlamentet påpekar att dessa två förhållanden av ömsesidigt beroende är avgörande för att fastställa vilken information som behöver delas mellan människa och robot och hur en gemensam grund mellan människa och robotar kan skapas för att möjliggöra ett smidigt samarbete mellan människa och robot.

51.  Europaparlamentet uppmanar kommissionen att, på grundval av artikel 114 i EUF‑fördraget, lägga fram ett förslag till en rättsakt om de rättsliga frågor i samband med utvecklingen och användningen av robotteknik och AI som kan förutses under de kommande 10–15 åren, i kombination med icke-lagstiftningsinstrument såsom riktlinjer och uppförandekoder enligt vad som avses i rekommendationerna i bilagan.

52.  Europaparlamentet anser att den kommande rättsakten – oavsett vilken rättslig lösning den tillämpar på skadeståndsansvar för skador som orsakats av en robot i andra fall än egendomsskada – under inga omständigheter bör begränsa de typer av skada eller den skadeomfattning som kan ersättas, och den bör inte heller begränsa de former av ersättning som kan erbjudas den skadelidande bara på grund av att skadan orsakats av en icke-mänsklig agent.

53.  Europaparlamentet anser att den kommande rättsakten bör bygga på en djupgående utvärdering av kommissionen för att fastställa huruvida metoden med strikt ansvar eller riskhanteringsmetoden bör tillämpas.

54.  Europaparlamentet konstaterar samtidigt att strikt ansvar endast kräver bevis för en faktisk skada och ett orsakssamband mellan robotens skadliga funktion och den skadelidandes skada.

55.  Europaparlamentet konstaterar att riskhanteringsmetoden inte fokuserar på den person ”som handlat vårdslöst” som individuellt ansvarig, utan på den person som, under vissa omständigheter, kan minimera riskerna och hantera negativ påverkan.

56.  Europaparlamentet anser att skadeståndsansvaret för de parter som har det yttersta ansvaret, så snart dessa har identifierats, i princip bör stå i proportion till den faktiska nivån på de anvisningar som ges till roboten och dess grad av autonomi. Detta innebär att ”lärarens” ansvar bör öka ju större robotens inlärningsförmåga eller autonomi är och ju längre robotens inlärning har varat. Parlamentet konstaterar framför allt att man, när man försöker fastställa vem som i grund och botten kan tillskrivas ansvaret för robotens skadliga beteende, inte bör förväxla färdigheter som är ett resultat av att roboten blivit ”upplärd” med färdigheter som är helt beroende av robotens förmåga till självlärande. Parlamentet konstaterar att ansvaret, åtminstone i nuläget, måste ligga hos en människa och inte en robot.

57.  Europaparlamentet framhåller att en möjlig lösning på den komplexa frågan om att fastställa ansvaret för skada som orsakats av alltmer autonoma robotar skulle kunna vara ett obligatoriskt försäkringssystem, likt det som redan används för exempelvis bilar. Parlamentet konstaterar dock att ett försäkringssystem på robotteknikområdet – till skillnad från försäkringssystemet för vägtrafik, där försäkringen täcker mänskliga handlingar och misstag – bör ta hänsyn till alla potentiella ansvarsområden i produktionskedjan.

58.  Europaparlamentet anser att ett sådant försäkringssystem, likt försäkringar för motorfordon, skulle kunna kompletteras med en fond för att se till att ersättning för skada kan äga rum också i fall där det inte finns något försäkringsskydd. Försäkringsbranschen uppmanas att ta fram nya produkter och typer av erbjudanden som är anpassade till de framsteg som görs på robotteknikområdet.

59.  Europaparlamentet uppmanar kommissionen att, när den gör sin konsekvensbedömning av den kommande rättsakten, undersöka, analysera och beakta konsekvenserna av alla möjliga slags rättsliga lösningar, såsom

   a) införande av ett obligatoriskt försäkringssystem om så är relevant och nödvändigt för särskilda kategorier av robotar – likt det som redan används för bilar – inom ramen för vilket tillverkare och ägare av robotar skulle vara ålagda att teckna försäkring för den skada som deras robotar skulle kunna orsaka,
   b) åtgärder för att se till att en ersättningsfond inte bara skulle tjäna till att garantera ersättning om den av en robot orsakade skadan inte täcks av en försäkring,
   c) åtgärder som gör det möjligt att låta tillverkaren, programmeraren, ägaren eller användaren åtnjuta begränsat skadeståndsansvar om de bidrar till en ersättningsfond och om de gemensamt tecknar försäkring för att garantera ersättning vid skador som orsakats av en robot,
   d) beslut om huruvida en allmän fond ska inrättas för alla smarta autonoma robotar eller i stället enskilda fonder för var och en av de olika robotkategorierna samt om huruvida ett bidrag bör betalas i form av en engångsavgift vid utsläppandet av roboten på marknaden eller i stället i form av periodiska bidrag under robotens hela livstid,
   e) åtgärder för att se till att kopplingen mellan en robot och dess fond skulle synliggöras genom ett individuellt registreringsnummer som framgår av ett särskilt unionsregister, vilket skulle göra det möjligt för var och en som interagerar med roboten att få information om typen av fond, ansvarsgränserna i händelse av materiell skada, namnen på och funktionerna för dem som bidrar samt övriga relevanta uppgifter,
   f) inrättande av en särskild rättslig status för robotar på lång sikt, så att åtminstone de mest sofistikerade autonoma robotarna skulle kunna ges statusen ”elektronisk person” med ansvar att ersätta skada som de eventuellt orsakar, samt eventuellt tillämpning av ”elektronisk personlighet” på fall där robotar fattar autonoma beslut eller på andra vis interagerar med tredje parter på ett oberoende sätt,

Internationella aspekter

60.  Europaparlamentet konstaterar att den gällande allmänna internationella privaträtt om trafikolyckor som är tillämplig inom unionen inte akut kräver ändringar för att anpassas till utvecklingen av självkörande fordon, men en förenkling av det nuvarande dubbla systemet för fastställande av tillämplig lagstiftning (på grundval av Europaparlamentets och rådets förordning (EG) nr 864/2007(7) och Haagkonventionen av den 4 maj 1971 om tillämplig lag vid trafikolyckor) skulle öka klarheten om rättsläget och begränsa möjligheterna till forum shopping.

61.  Europaparlamentet noterar behovet att överväga ändringar av internationella avtal som Wienkonventionen om vägtrafik av den 8 november 1968 och Haagkonventionen om tillämplig lag vid trafikolyckor.

62.  Europaparlamentet förväntar sig att kommissionen ser till att medlemsstaterna på ett enhetligt sätt genomför internationell rätt, såsom Wienkonventionen om vägtrafik, som är i behov av ändringar, i syfte att möjliggöra förarlös körning, och uppmanar kommissionen, medlemsstaterna och näringslivet att snarast möjligt förverkliga målen från Amsterdamförklaringen.

63.  Europaparlamentet uppmuntrar kraftfullt till internationellt samarbete i granskningen av samhälleliga, etiska och rättsliga utmaningar och därefter i arbetet med att fastställa regleringsstandarder under FN:s överinseende.

64.  Europaparlamentet framhåller att de begränsningar och villkor som fastställs i Europaparlamentets och rådets förordning (EG) nr 428/2009(8) om handel med produkter med dubbla användningsområden – varor, programvara och teknik som kan användas för både civila och militära ändamål och/eller kan bidra till spridning av massförstörelsevapen – bör tillämpas även på robottekniska applikationer.

Avslutande aspekter

65.  Europaparlamentet uppmanar, på grundval av artikel 225 i EUF-fördraget, kommissionen att på grundval av artikel 114 i EUF-fördraget lägga fram ett förslag till direktiv om civilrättsliga bestämmelser om robotteknik, i enlighet med de rekommendationer som bifogas.

66.  Europaparlamentet konstaterar att rekommendationerna står i överensstämmelse med de grundläggande rättigheterna och subsidiaritetsprincipen.

67.  Europaparlamentet bedömer att det begärda förslaget skulle få ekonomiska konsekvenser om en ny EU-byrå inrättas.

o
o   o

68.  Europaparlamentet uppdrar åt talmannen att översända denna resolution och bifogade rekommendationer till kommissionen och rådet.

(1) Rådets direktiv 85/374/EEG av den 25 juli 1985 om tillnärmning av medlemsstaternas lagar och andra författningar om skadeståndsansvar för produkter med säkerhetsbrister (EUT L 210, 7.8.1985, s. 29).
(2) Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (allmän dataskyddsförordning) (EUT L 119, 4.5.2016, s. 1).
(3) 1. En robot får inte skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada. 2. En robot måste lyda order från en människa, förutom när sådana order kommer i konflikt med första lagen. 3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen (se Runaround, I. Asimov, 1943) samt: 0. En robot får inte skada mänskligheten eller, genom att inte ingripa, tillåta att mänskligheten kommer till skada.
(4) Jfr Schumandeklarationen (1950): ”Ett enat Europa kan inte bli verklighet på en enda gång och inte heller genom en helhetslösning. Det kommer att bygga på konkreta resultat, varigenom man först skapar en verklig solidaritet.”
(5) Antagna texter, P8_TA(2015)0390.
(6) Europaparlamentets och rådets förordning (EG) nr 216/2008 av den 20 februari 2008 om fastställande av gemensamma bestämmelser på det civila luftfartsområdet och inrättande av en europeisk byrå för luftfartssäkerhet, och om upphävande av rådets direktiv 91/670/EEG, förordning (EG) nr 1592/2002 och direktiv 2004/36/EG (EUT L 79, 19.3.2008, s. 1).
(7) Europaparlamentets och rådets förordning (EG) nr 864/2007 av den 11 juli 2007 om tillämplig lag för utomobligatoriska förpliktelser (Rom II) (EUT L 199, 31.7.2007, s. 40).
(8) Rådets förordning (EG) nr 428/2009 av den 5 maj 2009 om upprättande av en gemenskapsordning för kontroll av export, överföring, förmedling och transitering av produkter med dubbla användningsområden (EUT L 134, 29.5.2009, s. 1).


BILAGA TILL RESOLUTIONEN:

REKOMMENDATIONER OM INNEHÅLLET I DET BEGÄRDA FÖRSLAGET

Definition och klassificering av ”smarta robotar”

En gemensam EU-definition av ”smarta” autonoma robotar bör fastställas, vid behov inbegripet definitioner av deras underkategorier, med beaktande av följande egenskaper:

–  Kapaciteten att förvärva autonomi genom sensorer och/eller informationsutbyte med sin omgivning (sammankoppling) samt analys av denna information.

–  Kapaciteten att lära sig genom erfarenheter och interaktion.

–  Formen för robotens fysiska förankring.

–  Kapaciteten att anpassa sitt beteende och handlande efter omgivningen.

Registrering av smarta robotar

För att säkerställa spårbarhet och underlätta genomförandet av ytterligare rekommendationer bör ett system för registrering av avancerade robotar införas, baserat på de kriterier som fastställts för klassificeringen av robotar. Registreringssystemet och registret bör omfatta hela unionen, inklusive den inre marknaden, och skulle kunna förvaltas av en utsedd EU-byrå för robotteknik och artificiell intelligens, om en sådan byrå inrättas.

Civilrättsligt ansvar

Rättsliga lösningar som tillämpas i fråga om robotarnas och den artificiella intelligensens ansvar i andra fall än materiell skada bör under inga omständigheter begränsa de typer av skada eller den omfattning på skadan som kan ersättas, och de bör inte heller begränsa de former av ersättning som kan erbjudas den skadelidande bara på grund av att skadan orsakats av en icke-mänsklig agent.

Den framtida rättsakten bör bygga på en djupgående utvärdering av kommissionen för att fastställa huruvida metoden med strikt ansvar eller riskhanteringsmetoden bör tillämpas.

Det bör införas ett obligatoriskt försäkringssystem som skulle kunna bygga på en skyldighet för producenterna att teckna försäkring för de autonoma robotar som de tillverkar.

Försäkringssystemet bör kompletteras med en fond för att se till att skador kan ersättas i fall där det inte finns något försäkringsskydd.

Eventuella politiska beslut om regler för skadeståndsansvar som är tillämpliga på robotar och artificiell intelligens bör fattas efter vederbörligt samråd i ett Europaomfattande forsknings- och utvecklingsprojekt som ägnas åt robotteknik och neurovetenskap, med vetenskapsmän och experter som kan bedöma alla relaterade risker och konsekvenser.

Driftskompatibilitet, tillgång till koden och immateriella rättigheter

Driftskompatibiliteten hos nätanslutna autonoma robotar som interagerar med varandra bör säkerställas. Källkoden, indata och konstruktionsuppgifter bör vara tillgängliga när de behövs för att utreda olyckor och skador orsakade av smarta robotar och för att säkerställa deras fortsatta drift, tillgänglighet, tillförlitlighet och säkerhet.

Stadga för robotteknik

När kommissionen föreslår rättsakter om robotteknik bör den beakta de principer som fastställs i följande stadga för robotteknik.

STADGA FÖR ROBOTTEKNIK

Den föreslagna etiska uppförandekoden på det robottekniska området kommer att ligga till grund för fastställandet, tillsynen och efterlevnaden av grundläggande etiska principer från konstruktions- och utvecklingsfasen.

Denna ram, som tas fram i samråd med ett Europaomfattande forsknings- och utvecklingsprojekt om robotteknik och neurovetenskap, måste utformas på ett reflekterande sätt, så att enskilda justeringar kan göras från fall till fall för att bedöma huruvida ett visst beteende är korrekt eller felaktigt i en given situation och fatta beslut i enlighet med en på förhand fastställd värdehierarki.

Koden undanröjer inte behovet att ta itu med alla stora rättsliga utmaningar på detta område utan bör ha en kompletterande funktion. Den kommer snarast att underlätta den etiska kategoriseringen av robottekniken, bidra till ansvarsfull innovation på detta område och bemöta de farhågor som allmänheten ger uttryck för.

Särskild tonvikt bör läggas vid forsknings- och utvecklingsfaserna inom de relevanta tekniska inriktningarna (konstruktionsprocessen, etisk granskning, revisioner osv.). Koden bör bidra till att forskare, yrkesutövare, användare och konstruktörer respekterar de etiska normerna, och därutöver bör den även fastställa ett förfarande som gör att man kan lösa relevanta etiska dilemman och låta systemen i fråga fungera på ett etiskt ansvarsfullt sätt.

ETISK UPPFÖRANDEKOD FÖR ROBOTTEKNIKINGENJÖRER

INGRESS

I uppförandekoden uppmanas alla forskare och konstruktörer att handla ansvarsfullt och med fullt beaktande av behovet att värna om människors värdighet, integritet och säkerhet.

I koden efterlyses nära samarbete mellan alla discipliner i syfte att se till att forskningen på det robottekniska området inom unionen bedrivs på ett säkert, etiskt och ändamålsenligt sätt.

Uppförandekoden omfattar all forsknings- och utvecklingsverksamhet på det robottekniska området.

Uppförandekoden är frivillig och består av en uppsättning allmänna principer och riktlinjer för åtgärder från alla berörda parters sida.

Organ för finansiering av robotteknikforskning, forskningsorganisationer, forskare och etiska kommittéer uppmuntras att så tidigt som möjligt beakta de framtida konsekvenserna av den teknik eller de objekt som är föremål för forskningen och att utveckla en kultur präglad av ansvarstagande, mot bakgrund av de utmaningar och möjligheter som kan komma att uppstå framöver.

Offentliga och privata organ för finansiering av robotteknikforskning bör kräva att en riskbedömning görs för – och bifogas – alla förslag till finansiering av robotteknikforskning som lämnas in. Denna kod bör betrakta människorna och inte robotarna som ansvariga.

Forskare på det robottekniska området bör förbinda sig att handla på högsta möjliga etiska och yrkesmässiga nivå och att respektera följande principer:

Gott syfte – robotar bör handla för människors bästa.

Icke-skadlighet – doktrinen om att först och främst inte göra någon skada, att robotar inte får skada människor.

Autonomi – kapaciteten att fatta ett informerat, icke framtvingat beslut om villkoren för interaktion med robotar.

Rättvisa – rättvis fördelning av de fördelar som robottekniken medför samt framför allt överkomliga priser på robotar för vård i hemmet och robotar inom sjukvården.

Grundläggande rättigheter

Robotteknikforskningen bör respektera grundläggande rättigheter och bör utformas, bedrivas, spridas och användas på ett sådant sätt att den kommer såväl enskilda som samhället i stort till godo och främjar självbestämmande. Människans såväl fysiska som psykiska värdighet och oberoende måste alltid respekteras.

Försiktighetsåtgärder

Robotteknikforskningen bör bedrivas i enlighet med försiktighetsprincipen, med hänsyn till eventuell säkerhetsmässig påverkan av forskningens resultat, och vederbörliga försiktighetsåtgärder bör vidtas i förhållande till skyddsnivån, samtidigt som man uppmuntrar framsteg till förmån för samhället och miljön.

Inkludering

Robotteknikingenjörer bör garantera öppenhet och insyn samt respekt för den legitima rätten till tillgång till information för alla berörda parter. Denna inkludering bör medge delaktighet i beslutsprocessen för alla parter som är involverade i eller berörs av den robotteknikforskning som bedrivs.

Ansvarighet

Robotteknikingenjörer bör förbli ansvariga för de sociala och miljömässiga konsekvenser och de konsekvenser för människors hälsa som robottekniken kan få för nuvarande och kommande generationer.

Säkerhet

Robotkonstruktörer bör ta hänsyn till och respektera människors fysiska välbefinnande, säkerhet, hälsa och rättigheter. En robotteknikingenjör måste bidra till att bevara människors välbefinnande – samtidigt som de mänskliga rättigheterna respekteras – samt utan dröjsmål lämna uppgifter om faktorer som skulle kunna utgöra hot mot allmänheten eller miljön.

Reversibilitet

Reversibilitet är, i egenskap av förutsättning för kontrollerbarhet, ett grundläggande koncept vid programmering av robotar, så att de beter sig på ett säkert och tillförlitligt sätt. En reversibel modell talar om för roboten vilka åtgärder som är reversibla och hur de försätts i utgångsläget om de är reversibla. Förmågan att återställa den senaste åtgärden eller en serie åtgärder gör det möjligt för användarna att återställa oönskade åtgärder och återgå till den ”önskade” fasen i sitt arbete.

Integritet

Rätten till integritet måste alltid respekteras. En robotteknikingenjör bör se till att personuppgifter hålls säkra och endast används på vederbörligt sätt. Vidare bör en robotteknikingenjör garantera att enskilda inte är personligt identifierbara, annat än under exceptionella omständigheter och då endast efter klart och entydigt informerat samtycke. Mänskligt informerat samtycke bör efterfrågas och erhållas före varje typ av interaktion mellan människa och maskin. Robottekniska konstruktörer bör som sådana ha ett ansvar att utveckla och följa förfaranden för giltigt samtycke, konfidentialitet, anonymitet, rättvis behandling och rättssäkerhet. Konstruktörer bör följa varje form av begäran om radering och borttagande av i sammanhanget relevanta uppgifter från uppsättningar med uppgifter.

Maximering av fördelar och minimering av skada

Forskare bör under alla arbetsfaser sträva efter att maximera de fördelar som deras arbete medför, hela vägen från första början till den slutliga spridningen. Det är ett måste att undvika skador på forskningsdeltagare, mänskliga subjekt och deltagare eller subjekt i experiment, försök eller studier. Om riskerna ökar som en oundviklig och inneboende del av forskningen bör ordentliga riskbedömningar göras och adekvata hanteringsprotokoll upprättas och följas. I normalfallet bör risken för skada inte vara större än i vardagen, dvs. människor bör inte utsättas för större eller andra risker än under normala omständigheter i sin vardag. Driften av ett robottekniskt system bör under alla omständigheter bygga på en ingående riskbedömningsprocess för vilken försiktighets- och proportionalitetsprinciperna bör ligga till grund.

KOD FÖR FORSKNINGSETISKA KOMMITTÉER

Principer

Oberoende

Den etiska granskningsprocessen bör vara helt oberoende av själva forskningen. Denna princip framhåller vikten av att undvika intressekonflikter mellan forskarna och dem som granskar de etiska aspekterna, samt mellan granskarna och de organisatoriska ledningsstrukturerna.

Behörighet

Den etiska granskningsprocessen bör skötas av granskare med ändamålsenliga sakkunskaper och bör beakta behovet av omfattande hänsyn till mångfalden av medlemmar i respektive forskningsetiska kommitté och deras specifikt etiska utbildning.

Öppenhet och insyn samt ansvarsskyldighet

Granskningsprocessen bör präglas av ansvarighet och vara öppen för granskning. Forskningsetiska kommittéer måste erkänna sina ansvarsområden och vara en del av organisatoriska strukturer som medger öppenhet och insyn i kommittéernas funktionssätt och förfaranden när det gäller att upprätthålla och se över standarderna i fråga.

Rollen för en forskningsetisk kommitté

En forskningsetisk kommitté bör normalt ansvara för att granska all forskning som involverar mänskliga deltagare och som bedrivs av enskilda som är anställda vid eller av den berörda institutionen, säkerställa att den etiska granskningen är oberoende, görs av behöriga och sker i god tid, värna om forskningsdeltagarnas värdighet, rättigheter och välbefinnande, värna om säkerheten för forskaren eller forskarna, beakta övriga berörda parters berättigade intressen, fatta välgrundade beslut om det vetenskapliga värdet av förslagen i fråga samt rikta välgrundade rekommendationer till forskaren om förslaget fastställs vara bristfälligt i något avseende.

En forskningsetisk kommittés sammansättning

En forskningsetisk kommitté bör i normalfallet vara sammansatt av personer från flera olika discipliner, inkludera både män och kvinnor och inbegripa medlemmar med breda erfarenheter och sakkunskaper på området för robotteknikforskning. Man bör genom utnämningsmekanismen säkerställa att det med avseende på kommitténs medlemmar uppnås en lämplig balans mellan vetenskapliga sakkunskaper, filosofiska, juridiska eller etiska bakgrunder samt lekmannaperspektiv, och att medlemmarna inbegriper åtminstone en person med specialistkunskaper i etik, användare av specialiserade hälso- och sjukvårdstjänster, utbildningstjänster eller sociala tjänster där dessa står i fokus för forskningsverksamheten samt personer med specifika metodkunskaper av relevans för den forskning som de granskar. Kommittén måste också ha en sådan sammansättning att man undviker intressekonflikter.

Övervakning

Alla forskningsorganisationer bör fastställa ändamålsenliga förfaranden för att övervaka forskning som fått etiskt godkännande tills forskningen i fråga slutförts, samt för att säkerställa fortsatt granskning om utformningen av forskningen gör att man med tiden kan förvänta sig förändringar som kan behöva diskuteras. Övervakningen bör stå i proportion till typen och graden av den risk som forskningen medför. Om en forskningsetisk kommitté anser att en övervakningsrapport ger upphov till betydande oro i fråga om studiens etiska beskaffenhet bör den begära en fullständig och uttömmande redogörelse för forskningen, för en fullständig etisk granskning. Om det bedöms att en studie bedrivs på ett oetiskt sätt bör ett återkallande av godkännandet övervägas och forskningen tillfälligt avbrytas eller slutgiltigt upphöra.

LICENS FÖR KONSTRUKTÖRER

–  Du bör ta hänsyn till de europeiska värdena värdighet, oberoende och självbestämmande samt frihet och rättvisa inför, under och efter processen med att konstruera, utveckla och tillhandahålla nämnda tekniker, inbegripet skyldigheten att inte skada, kränka, vilseleda eller utnyttja (sårbara) användare.

–  Du bör införa tillförlitliga principer för systemets utformning med avseende på en robots alla användningsaspekter, för både hårdvaru- och mjukvarudesignen, och av säkerhetsskäl för varje form av uppgiftsbehandling på eller utanför plattformen.

–  Du bör införa egenskaper som garanterar inbyggt integritetsskydd, i syfte att säkerställa att personuppgifter hålls säkra och endast används på vederbörligt sätt.

–  Du bör integrera klara och tydliga avstängningsmekanismer som bör vara förenliga med rimliga konstruktionsmål.

–  Du bör se till att roboten fungerar på ett sätt som är förenligt med lokala, nationella och internationella etiska och rättsliga principer.

–  Du bör se till att robotens system för beslutsfattande möjliggör rekonstruktion och spårbarhet.

–  Du bör se till att maximal transparens krävs i programmeringen av robottekniska system, samt förutsebarhet vad gäller robotteknikens beteende.

–  Du bör analysera förutsebarheten i system som utgör en kombination av människa och robot genom att ta hänsyn till osäkerhet i tolkningen och handlandet samt eventuella robottekniska eller mänskliga misstag.

–  Du bör utveckla spårningsverktyg redan under robotens konstruktionsfas. Dessa verktyg kommer att underlätta arbetet med att redogöra för och förklara det robottekniska beteendet, om än med begränsningar, på de olika nivåer som avses för experter, operatörer och användare.

–  Du bör utarbeta konstruktions- och utvärderingsprotokoll och tillsammans med presumtiva användare och berörda parter utvärdera fördelarna och riskerna med robotteknik, däribland kognitiva, psykologiska och miljömässiga aspekter.

–  Du bör se till att robotarna är identifierbara som robotar när de interagerar med människor.

–  Du bör garantera säkerheten och värna om hälsan för dem som interagerar och kommer i kontakt med robotteknik, med tanke på att robotar som produkt bör konstrueras på ett sätt som värnar om trygghet och säkerhet för människor. En robotteknikingenjör måste värna om människors välbefinnande samtidigt som de mänskliga rättigheterna respekteras, och får inte utveckla en robot utan att garantera säkerheten, ändamålsenligheten och reversibiliteten i systemets funktionssätt.

–  Du bör ha erhållit ett positivt utlåtande från en forskningsetisk kommitté innan du testar en robot i en verklig miljö eller involverar människor i dess konstruktions- och utvecklingsprocesser.

LICENS FÖR ANVÄNDARE

–  Du har tillåtelse att använda en robot utan risk eller fara för fysisk eller psykisk skada.

–  Du bör ha rätt att förvänta dig att en robot utför varje uppgift som den uttryckligen konstruerats för.

–  Du bör vara medveten om att varje robot kan ha perceptiva, kognitiva och handlingsrelaterade begränsningar.

–  Du bör respektera människors såväl fysiska som psykiska bräcklighet och deras känslomässiga behov.

–  Du bör beakta enskildas rätt till integritet, inbegripet deaktivering av videomonitorer i intima ögonblick.

–  Du får inte samla in, använda eller lämna ut personuppgifter utan den berörda personens uttryckliga samtycke.

–  Du får inte använda en robot på något sätt som strider mot etiska eller rättsliga principer eller standarder.

–  Du får inte modifiera en robot så att den kan fungera som ett vapen.

Rättsligt meddelande