Indeks 
 Forrige 
 Næste 
 Fuld tekst 
Procedure : 2015/2103(INL)
Forløb i plenarforsamlingen
Dokumentforløb : A8-0005/2017

Indgivne tekster :

A8-0005/2017

Forhandlinger :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Afstemninger :

PV 16/02/2017 - 6.9
Stemmeforklaringer

Vedtagne tekster :

P8_TA(2017)0051

Vedtagne tekster
PDF 259kWORD 74k
Torsdag den 16. februar 2017 - Strasbourg Endelig udgave
Civilretlige bestemmelser om robotteknologi
P8_TA(2017)0051A8-0005/2017
Beslutning
 Bilag

Europa-Parlamentets beslutning af 16. februar 2017 med henstillinger til Kommissionen om civilretlige bestemmelser om robotteknologi (2015/2103(INL))

Europa-Parlamentet,

–  der henviser til artikel 225 i traktaten om Den Europæiske Unions funktionsmåde,

–  der henviser til Rådets direktiv 85/374/EØF(1),

–  der henviser til undersøgelsen om de etiske aspekter af cyberfysiske systemer ("Ethical Aspects of Cyber-Physical Systems") bestilt af Parlamentets Panel for Vurdering af Videnskabelige og Teknologiske Projekter og forvaltet af Enheden for Videnskabeligt Fremsyn (STOA), Generaldirektoratet for Parlamentarisk Forskning,

–  der henviser til forretningsordenens artikel 46 og artikel 52,

–  der henviser til betænkning fra Retsudvalget og udtalelser fra Transport- og Turismeudvalget, Udvalget om Borgernes Rettigheder og Retlige og Indre Anliggender, Udvalget om Beskæftigelse og Sociale Anliggender, Udvalget om Miljø, Folkesundhed og Fødevaresikkerhed, Udvalget om Industri, Forskning og Energi og Udvalget om det Indre Marked og Forbrugerbeskyttelse (A8-0005/2017),

Indledning

A.  der henviser til, at mennesker altid har fantaseret om at bygge intelligente maskiner, typisk androider med menneskelignende træk – fra Mary Shelley's Frankenstein-monster over den klassiske myte om Pygmalion og beretningen om Prags Golem til Karel Čapeks robot (det var faktisk Karel Čapek, der opfandt ordet "robot");

B.  der henviser til, at menneskeheden nu står på tærsklen til en æra, hvor stadig mere sofistikerede robotter, botter, androider og andre former for kunstig intelligens formentlig kommer til at udløse en ny industriel revolution, som sandsynligvis vil berøre alle samfundets lag, og at det derfor er helt nødvendigt for lovgivningsmagten at overveje alle de retlige og etiske aspekter og konsekvenser af denne udvikling uden at kvæle innovationen;

C.  der henviser til, at der er behov for at skabe en almindeligt accepteret definition af robot og kunstig intelligens, der er fleksibel og ikke hæmmer innovation;

D.  der henviser til, at salget af robotter i gennemsnit voksede med 17 % om året i tidsrummet 2010-2014, og at salget steg med 29 % i 2014, hvilket er den største stigning fra år til år nogensinde, og det er leverandører af bilkomponenter samt den elektriske/elektroniske industri, der er de vigtigste drivkræfter bag denne vækst; der henviser til, at det årlige antal patentansøgninger vedrørende robotteknologi er tredoblet i løbet af de sidste ti år;

E.  der henviser til, at beskæftigelsestallene gennem de seneste 200 år har været konstant stigende på grund af den teknologiske udvikling; der henviser til, at udviklingen af robotteknologi og kunstig intelligens kan have potentiale til at forandre vores liv og arbejdsmetoder, medføre større effektivitet, besparelser og sikkerhed og sikre bedre service; der henviser til, at robotteknologi og kunstig intelligens på kort til mellemlang sigt forventes at være forbundet med øget effektivitet og besparelser, ikke kun i produktion og handel, men også inden for transport, lægebehandling, uddannelse og landbrug, og samtidig vil gøre det muligt at undgå at udsætte mennesker for farlige forhold, f.eks. i forbindelse med oprydning af giftgrunde;

F.  der henviser til, at aldringen er resultatet af en højere forventet levealder på grund af forbedrede levevilkår og fremskridtene inden for lægevidenskaben og er en af de største politiske, sociale og økonomiske udfordringer for de europæiske samfund i det 21. århundrede; i 2025 vil over 20 % af alle europæere være 65 eller derover, og vi vil se en særlig hurtig stigning i antallet af personer over 80 år, hvilket vil medføre en fundamentalt anderledes balance mellem generationerne i vores samfund, og det er i samfundets interesse, at de ældre forbliver sunde og aktive så længe som muligt;

G.  der henviser til, at den nuværende tendens på lang sigt hælder til udvikling af intelligente og uafhængige maskiner, der kan oplæres og træffe afgørelser selvstændigt, og den indebærer ikke kun økonomiske fordele, men også en række betænkeligheder med hensyn til deres direkte og indirekte virkninger for samfundet som helhed;

H.  der henviser til, at maskinindlæring giver enorme økonomiske og innovative fordele for samfundet, idet det kraftigt forbedrer muligheden for at analysere data, men at det også giver udfordringer med at sikre ikke-forskelsbehandling, rimelig behandling, gennemsigtighed og forståelige beslutningsprocesser;

I.  der henviser til, at vurderinger af økonomiske ændringer og konsekvenserne for beskæftigelsen af robotteknologi og maskinindlæring tilsvarende skal vurderes; der henviser til, at trods de ubestridelige fordele, som robotteknologi indebærer, kan dens gennemførelse føre til en gennemgribende ændring af arbejdsmarkedet og skabe behov for at overveje fremtiden for uddannelses-, beskæftigelses- og socialpolitikkerne;

J.  der henviser til, at den udbredte brug af robotter måske ikke automatisk fører til tab af job, men at lavere kvalificerede job i arbejdskraftintensive sektorer sandsynligvis vil være mere sårbare over for automatisering; der henviser til, at denne tendens kan bringe produktionsprocesser tilbage til EU; der henviser til, at forskning har vist, at beskæftigelsen stiger betydeligt hurtigere i erhverv, hvor der i større udstrækning bruges computere; der henviser til, at automatiseringen af job har potentiale til at befri folk fra manuelt monotont arbejde og give dem mulighed for at skifte til mere kreative og meningsfulde opgaver; der henviser til, at regeringerne som følge af automatiseringen er nødt til investere i uddannelse og andre reformer med henblik på at forbedre omfordelingen til den type færdigheder, som fremtidens arbejdstagere får brug for;

K.  der henviser til, at det i forbindelse med de tiltagende opdelinger i samfundet og med en middelklasse, der bliver mindre, er vigtigt at huske på, at udviklingen af robotter kan føre til en højere koncentration af velstand og indflydelse hos et mindretal;

L.  der henviser til, at udviklingen af robotteknologi og kunstig intelligens helt sikkert vil påvirke arbejdsmiljøet, hvilket kan skabe nye problemer med hensyn til ansvar og fjerne andre; der henviser til, at det juridiske ansvar skal afklares, hvad angår både forretningsmodeller og designs på arbejdstagersiden i tilfælde af nødsituationer eller problemer;

M.  der henviser til, at tendensen i retning af automatisering gør det påkrævet, at de, der er involveret i udvikling og markedsføring af applikationer baseret på kunstig intelligens, inkorporerer sikkerhed og etik fra begyndelsen og herved anerkender, at de skal være parat til at påtage sig det retlige ansvar for kvaliteten af den teknologi, de fremstiller;

N.  der henviser til, at Europa-Parlamentets og Rådets forordning (EU) 2016/679(2) (den generelle forordning om databeskyttelse) fastsætter en retlig ramme for beskyttelse af personoplysninger; der henviser til, at andre spørgsmål om adgang til data og beskyttelse af personoplysninger og privatlivet formentlig også må tages under behandling, eftersom der stadig kan opstå problemer omkring privatlivet som følge af, at applikationer og apparater skal kommunikere med hinanden og med databaser uden menneskers indgriben;

O.  der henviser til, at udviklingen inden for robotteknologi og kunstig intelligens kan og bør udformes på en sådan måde, at man bevarer det enkelte menneskes værdighed, selvstændighed og selvbestemmelse, især på områderne menneskelig pleje og menneskeligt selskab og i forbindelse med medicinsk udstyr, hvor mennesker skal "repareres" eller "forbedres";

P.  der henviser til, at kunstig intelligens muligvis på lang sigt kan overstige menneskers intellektuelle kapacitet;

Q.  der henviser til, at yderligere udvikling og øget brug af automatiseret og algoritmisk beslutningstagning utvivlsomt har en indvirkning på de valg, der foretages af en privatperson (såsom en virksomhed eller en internetbruger) og en administrativ, retslig eller anden offentlig myndighed, når de træffer deres endelige afgørelse som forbruger, virksomhed eller myndighed; der henviser til, at det er nødvendigt indbygge sikkerhedsforanstaltninger og mulighed for menneskelig kontrol og verificering i den automatiserede og algoritmiske beslutningsproces;

R.  der henviser til, at adskillige udenlandske jurisdiktioner, f.eks. USA, Japan, Kina og Sydkorea, overvejer og i et vist omfang allerede har gennemført regulering for så vidt angår robotteknologi og kunstig intelligens, og at nogle medlemsstater også er begyndt at overveje muligheden af at udarbejde retlige standarder eller foretage lovændringer for at tage højde for nye anvendelsesmuligheder for disse teknologier;

S.  der henviser til, at den europæiske industri kunne drage fordel af en effektiv, konsekvent og gennemsigtig tilgang til regulering på EU-plan, hvor der skabes forudsigelige og tilstrækkeligt klare betingelser, således at virksomhederne kan udvikle applikationer og planlægge deres forretningsmodeller på europæisk plan, og det samtidig sikres, at EU og dets medlemsstater bevarer kontrollen over de reguleringsmæssige standarder, der skal fastsættes, således at man ikke bliver tvunget til at overtage og leve med de standarder, som er fastsat af andre, dvs. de tredjelande, der også er langt fremme med udviklingen af robotteknologi og kunstig intelligens;

Generelle principper

T.  der henviser til, at Asimovs love(3) må betragtes som rettet mod konstruktører, producenter og brugere af robotter, herunder robotter med indbygget selvstændighed og selvlæring, eftersom disse love ikke kan konverteres til maskinkode;

U.  der henviser til, at det er nyttigt med et regelsæt, som navnlig regulerer ansvarsforhold, gennemsigtighed og ansvarlighed og afspejler de iboende europæiske og humanistiske værdier, som karakteriserer Europas bidrag til samfundslivet; der henviser til, at disse bestemmelser ikke må berøre processen med forskning, innovation og udvikling inden for robotteknologi;

V.  der henviser til, at EU kan spille en afgørende rolle ved formuleringen af de grundlæggende etiske principper for udvikling, programmering og brug af robotter og kunstig intelligens og ved integrering af disse principper i EU-regelsæt og adfærdskodekser med det formål at udforme den teknologiske revolution således, at den tjener menneskeheden, og fordelene ved avanceret robotteknologi og kunstig intelligens kommer mange til gode, mens man i videst muligt omfang undgår potentielle faldgruber;

W.  der henviser til, at der er vedføjet et charter om robotteknologi som bilag til denne beslutning, der er udarbejdet med bistand fra Enheden for Videnskabeligt Fremsyn (STOA), Generaldirektoratet for Parlamentarisk Forskning, som foreslår en kodeks for etisk adfærd for robotingeniører, en kodeks for forskningsetiske udvalg, en "licens" for konstruktører og en "licens" for brugere;

X.  der henviser til, at en gradvis og pragmatisk forsigtig tilgang af den type, som Jean Monnet(4) var fortaler for, bør finde anvendelse i Europa med hensyn til fremtidige initiativer inden for robotteknologi og kunstig intelligens med henblik på at sikre, at vi ikke kvæler innovationen;

Y.  der henviser til, at udviklingen af robotteknologi og kunstig intelligens er nået op på et sådant niveau, at det er hensigtsmæssigt indledningsvis at drøfte det civilretlige erstatningsansvar;

Ansvarsregler

Z.  der henviser til, at nutidens robotter takket være de bemærkelsesværdige teknologiske fremskridt i det seneste tiår ikke alene er i stand til at udføre aktiviteter, som tidligere typisk og udelukkende blev udført af mennesker, men at udviklingen af visse autonome og kognitive egenskaber – f.eks. evnen til at lære af erfaringer og træffe kvasiselvstændige beslutninger — betyder, at robotterne mere og mere ligner aktører, der interagerer med omgivelserne og kan indvirke på disse omgivelser i væsentlig grad; der henviser til, at placeringen af det retlige ansvar for en robots skadeforvoldende handlinger i denne kontekst er af afgørende betydning;

AA.  der henviser til, at en robots autonomi kan defineres som evnen til at træffe beslutninger og gennemføre dem i omverdenen uden at være afhængig af ekstern kontrol eller indflydelse; der henviser til, at denne autonomi er af rent teknisk karakter, og at dens omfang afhænger af, hvor avanceret en robots samspil med omgivelserne er udformet til at være;

AB.  der henviser til, at jo mere autonome robotterne er, jo mindre kan de betragtes som almindelige værktøjer til brug for andre aktører (f.eks. producenten, operatøren, ejeren, brugeren osv.); der henviser til, at dette rejser spørgsmålet om, hvorvidt de almindelige ansvarsregler er tilstrækkelige, eller om der er brug for nye principper og regler for at skabe klarhed om forskellige aktørers retlige ansvar for robotters handlinger og undladelser, når årsagen ikke kan spores tilbage til en bestemt menneskelig aktør, og om robotters handlinger eller undladelser, der har forvoldt skade, kunne have været undgået;

AC.  der henviser til, at robotters autonomi i sidste instans rejser spørgsmålet om, hvordan de skal indplaceres i forhold til de eksisterende retlige kategorier, eller om der bør indføres en ny kategori med sine egne særlige kendetegn og konsekvenser;

AD.  der henviser til, at robotter inden for den nugældende retlige ramme ikke i sig selv kan drages til ansvar for handlinger eller undladelser, som forårsager skader på tredjemand; der henviser til, at de eksisterende ansvarsregler dækker tilfælde, hvor årsagen til en robots handling eller undladelse kan spores tilbage til en bestemt menneskelig aktør som f.eks. producenten, operatøren, ejeren eller brugeren, og hvor denne aktør kunne have forudset og forhindret robottens skadeforvoldende adfærd; der henviser til, at producenter, operatører, ejere eller brugere kan ifalde objektivt ansvar for en robots handlinger eller undladelser;

AE.  der henviser til, at den nugældende retlige ramme indebærer, at produktansvaret - hvorefter producenten af et produkt er ansvarlig for en fejlfunktion - og reglerne om ansvar for skadelige handlinger - hvorefter brugeren af et produkt er ansvarlig for en adfærd, der forvolder skade - finder anvendelse på skader forårsaget af robotter eller kunstig intelligens;

AF.  der henviser til, at de traditionelle regler – i en situation, hvor en robot kan træffe selvstændige beslutninger – ikke er tilstrækkelige til at føre til et retligt ansvar for skader forårsaget af en robot, eftersom disse regler ikke gør det muligt at udpege den part, der er ansvarlig for at udbetale erstatning, og at pålægge denne part at erstatte den forvoldte skade;

AG.  der henviser til, at den nuværende retlige ramme også er behæftet med åbenlyse mangler med hensyn til ansvar i kontraktforhold, eftersom maskiner, der er indrettet til at vælge deres modparter, forhandle kontraktbestemmelser, indgå aftaler og beslutte, om og hvordan de vil gennemføre disse aftaler, gør de traditionelle regler uanvendelige; der henviser til, at dette understreger behovet for nye, effektive og mere tidssvarende regler, som bør være i overensstemmelse med den teknologiske udvikling og innovationer, der for nylig er opstået og anvendes på markedet;

AH.  der henviser til, at hvad angår ansvar uden for kontraktforhold kan direktiv 85/374/EØF kun dække skader, som er forvoldt af en robots produktionsrelaterede defekter, og kun på betingelse af, at den skadelidte er i stand til at føre bevis for skaden, defekten ved produktet og årsagssammenhæng mellem defekten og skaden, hvorfor objektivt ansvar eller ansvar uden culpa muligvis ikke er tilstrækkeligt;

AI.  der henviser til, den nuværende retlige ramme uanset anvendelsesområdet for direktiv 85/374/EØF ikke er tilstrækkelig vidtrækkende til at dække skader, som bliver forvoldt af den nye generation af robotter, for så vidt som disse robotter kan være udstyret med tilpasnings- og indlæringsegenskaber, der medfører en vis grad af uforudsigelighed i deres adfærd, eftersom disse robotter selvstændigt vil lære af deres egne varierede erfaringer og indgå i et samspil med omgivelserne på en unik og uforudsigelig måde;

Generelle principper for udvikling af robotteknologi og kunstig intelligens til civilt brug

1.  opfordrer Kommissionen til at foreslå fælles EU-definitioner af cyberfysiske systemer, autonome systemer, intelligente autonome robotter og underkategorier heraf under hensyntagen til følgende egenskaber ved en intelligent robot:

   opnår autonomi ved hjælp af sensorer og/eller ved udveksling af data med omgivelserne (sammenkobling) og bytter og analyser disse data
   er selvlærende baseret på erfaring og ved interaktion (valgfrit kriterium)
   har et minimum af fysisk støtte
   afpasser sin adfærd og sine handlinger efter omgivelserne
   er ikke levende i biologisk forstand;

2.  mener, at der bør indføres et omfattende system til registrering af avancerede robotter i EU's indre marked, hvor det er relevant og nødvendigt for bestemte kategorier af robotter, og opfordrer Kommissionen til at opstille kriterier for klassificeringen af de robotter, der skal registreres; opfordrer i denne forbindelse Kommissionen til at undersøge, om det vil være hensigtsmæssigt, at registreringssystemet og registret forvaltes af et EU-agentur for robotteknologi og kunstig intelligens;

3.  understreger, at udviklingen af robotteknologi bør fokusere på at komplementere menneskers potentiale og ikke på at erstatte dem; anser det for afgørende, at det i forbindelse med udviklingen af robotteknologi og kunstig intelligens sikres, at mennesker til enhver tid har kontrol over intelligente maskiner; mener, at man bør være særlig opmærksom på den eventuelle udvikling af en følelsesmæssig tilknytning mellem mennesker og robotter ‒ navnlig i sårbare grupper (børn, ældre og handicappede) ‒ og fremhæver problemerne omkring den alvorlige følelsesmæssige eller fysiske indvirkning, som denne følelsesmæssige tilknytning kan have på mennesker;

4.  påpeger, at en indsats på EU-plan kan lette udviklingen ved at undgå opsplitning af det indre marked, og understreger samtidig betydningen af princippet om gensidig anerkendelse i forbindelse med grænseoverskridende brug af robotter og robotsystemer; minder om, at der kun bør kræves afprøvning, certificering og markedsføringstilladelse i en enkelt medlemsstat; understreger, at denne tilgang bør ledsages af en effektiv markedsovervågning;

5.  understreger betydningen af foranstaltninger til at hjælpe små og mellemstore virksomheder og nyetablerede virksomheder i robotteknologisektoren, der skaber nye markedssegmenter i denne sektor eller anvender robotter;

Forskning og innovation

6.  understreger, at mange robotapplikationer stadig er i en eksperimenterende fase; glæder sig over, at flere og flere forskningsprojekter bliver finansieret af medlemsstaterne og EU; anser det for meget vigtigt, at EU sammen med medlemsstaterne gennem offentlig finansiering fastholder en førende position inden for forskning i robotteknologi og kunstig intelligens; opfordrer Kommissionen og medlemsstaterne til at styrke de finansielle instrumenter til forskningsprojekter inden for robotteknologi og IKT, herunder offentlig-private partnerskaber, og til i deres forskningspolitikker at gennemføre principperne om åben videnskab og ansvarlig etisk innovation; understreger, at der bør afsættes tilstrækkelige ressourcer til at finde løsninger på de sociale, etiske, juridiske og økonomiske udfordringer, som den teknologiske udvikling og dens anvendelsesmuligheder giver anledning til;

7.  opfordrer Kommissionen og medlemsstaterne til at fremme forskningsprogrammer, til at stimulere forskning i de mulige langsigtede risici og muligheder i forbindelse med robotteknologi og teknologi vedrørende kunstig intelligens og til at tilskynde til en struktureret offentlig dialog om konsekvenserne af udviklingen af disse teknologier snarest muligt; opfordrer Kommissionen til i forbindelse med midtvejsrevisionen af den flerårige finansielle ramme at forhøje sin støtte til SPARC-programmet, som finansieres af Horisont 2020; opfordrer Kommissionen og medlemsstaterne til at gøre en fælles indsats for nøje at overvåge og sikre en mere glidende overgang for disse teknologier fra forskning til markedsføring og anvendelse på markedet efter passende sikkerhedsvurderinger i overensstemmelse med forsigtighedsprincippet;

8.  understreger, at innovation inden for robotteknologi og teknologi vedrørende kunstig intelligens og integrationen af robotteknologi og kunstig intelligens i økonomien og samfundet kræver en digital infrastruktur, der leverer allestedsnærværende digitale forbindelsesmuligheder; opfordrer Kommissionen til at fastlægge en ramme, som opfylder de forbindelseskrav, som er nødvendige for Unionens digitale fremtid, og til samtidig at sikre, at adgangen til bredbåndnet og 5G-net er fuldt ud i overensstemmelse med netneutralitetsprincippet;

9.  er af den faste overbevisning om, at interoperabilitet mellem systemer, enheder og cloudtjenester baseret på indbygget sikkerhed og privatlivsbeskyttelse er afgørende for at muliggøre realtidsdataoverførsler, som sætter robotter og kunstig intelligens i stand til at blive mere fleksible og selvstændige; anmoder Kommissionen om at fremme et åbent miljø, fra åbne standarder og innovative licensbetalingsmodeller til åbne platforme og gennemsigtighed, med henblik på at undgå fastlåsning i ejendomsretligt beskyttede systemer, som hæmmer interoperabilitet;

Etiske principper

10.  bemærker, at mulighederne for øget handlefrihed gennem anvendelsen af robotteknologi er ledsaget af en række spændinger eller risici og bør vurderes ud fra hensynet til menneskers sikkerhed og sundhed, frihed, privatliv, integritet, værdighed, selvbestemmelse og ikkeforskelsbehandling og beskyttelse af personoplysninger;

11.  mener, at den eksisterende EU-lovgivning bør ajourføres og suppleres, hvor det er nødvendigt, med vejledende etiske principper i overensstemmelse med robotteknologiens kompleksitet og dens mange sociale, medicinske og bioetiske implikationer; er af den opfattelse, at der er behov for nogle klare, strenge og effektive vejledende etiske rammer for udvikling, konstruktion, produktion, brug og ændring af robotter for at supplere de juridiske henstillinger i denne betænkning og de eksisterende regelsæt på nationalt plan og på EU-plan; foreslår i bilaget til beslutningen en ramme i form af et charter, som skal bestå af en adfærdskodeks for robotingeniører, en kodeks for forskningsetiske udvalg til brug ved gennemgangen af robottekniske protokoller samt standardtilladelser til konstruktører og brugere;

12.  fremhæver princippet om gennemsigtighed, som indebærer, at det altid bør være muligt at fremlægge begrundelsen for enhver beslutning truffet ved hjælp af kunstig intelligens, som kan have en væsentlig indvirkning på en eller flere personers liv; mener, at det altid skal være muligt at reducere beregningerne i et system med kunstig intelligens til en form, der er forståelig for mennesker; mener, at avancerede robotter bør være udstyret med en "sort boks", der registrerer data om alle transaktioner, som udføres af maskinen, herunder logikken bag dens beslutninger;

13.  påpeger, at de vejledende etiske rammer bør være baseret på principperne om nytteværdi, forebyggelse af skader, autonomi og retfærdighed, på de principper og værdier, der er nedfældet i artikel 2 traktaten om Den Europæiske Union og i chartret om grundlæggende rettigheder, som f.eks. menneskets værdighed, lighed, ret og retfærdighed, ikkeforskelsbehandling, informeret samtykke, beskyttelse af privatlivet og familielivet og personoplysninger, samt på andre grundlæggende principper og værdier, som f.eks. ikkestigmatisering, gennemsigtighed, autonomi, individets ansvar og socialt ansvar, og på eksisterende etiske praksisser og kodekser;

14.  mener, at man bør være særlig opmærksom på robotter, der udgør en betydelig trussel mod fortroligheden på grund af deres placering i traditionelt beskyttede og private sfærer, og fordi de er i stand til at udtrække og sende personlige og følsomme oplysninger;

Et europæisk agentur

15.  mener, at der er behov for øget samarbejde mellem medlemsstaterne og Kommissionen med henblik på at sikre sammenhængende regler på tværs af grænserne i EU, som tilskynder til samarbejde mellem europæiske virksomheder og tillader anvendelse i hele EU af robotter, som er i overensstemmelse med sikkerhedskravene og de etiske principper, der er nedfældet i EU-retten;

16.  anmoder Kommissionen om at overveje at oprette en europæisk agentur for robotteknologi og kunstig intelligens med henblik på at tilvejebringe teknisk, etisk og lovgivningsmæssig ekspertise til støtte for de relevante offentlige aktører både på EU-plan og på medlemsstatsplan som led i bestræbelserne for at sikre en rettidig, etisk og velinformeret respons på de nye muligheder og udfordringer - navnlig af grænseoverskridende karakter - der opstår som følge af den robotteknologiske udvikling, f.eks. i transportsektoren;

17.  mener, at potentialet for og problemerne i forbindelse med robotteknologi og den nuværende investeringsdynamik berettiger, at det europæiske agentur får et passende budget og bliver bemandet med personale med reguleringskompetence samt eksterne tekniske og etiske eksperter, som får til opgave at stå for tværsektoriel og multidisciplinær overvågning af robotteknologiske applikationer, fastlægge standarder for bedste praksis og, efter behov, udarbejde henstillinger om lovgivningsmæssige foranstaltninger, fastlægge nye principper og tage højde for potentielle forbrugerbeskyttelsesspørgsmål og systemrelaterede udfordringer; anmoder Kommissionen (og det europæiske agentur, hvis det oprettes) om at aflægge beretning til Europa-Parlamentet om den seneste udvikling inden for robotteknologi og eventuelle nødvendige tiltag på årsbasis;

Intellektuelle ejendomsrettigheder og datastrømmen

18.  bemærker, at der ikke findes juridiske bestemmelser, som specifikt gælder for robotteknologi, men at de gældende retlige ordninger og doktriner uden videre kan anvendes på robotteknologien, selv om visse aspekter synes at kræve særlig opmærksomhed; opfordrer Kommissionen til at støtte en horisontal og teknologineutral tilgang til intellektuel ejendom, der gælder for de forskellige sektorer, hvor robotteknologi kan anvendes;

19.  opfordrer Kommissionen og medlemsstaterne til at sikre, at de civilretlige regler inden for robotteknologi er i overensstemmelse med den generelle forordning om databeskyttelse og med principperne om nødvendighed og proportionalitet; opfordrer Kommissionen og medlemsstaterne til at tage højde for den hastige teknologiske udvikling inden for robotteknologi, herunder udviklingen af cyberfysiske systemer, og sikre, at EU-retten ikke sakker bagud i forhold til kurven for teknologisk udvikling og udbredelse;

20.  understreger, at retten til beskyttelse af privatlivets fred og personoplysninger, jf. artikel 7 og 8 i charteret og artikel 16 i traktaten om Den Europæiske Unions funktionsmåde (TEUF), finder anvendelse på alle områder inden for robotteknologi, og at EU's retlige rammer for databeskyttelse skal overholdes fuldt ud; opfordrer i denne forbindelse til en præcisering af regler og kriterier for brugen af kameraer og sensorer i robotter inden for rammerne af gennemførelsen af den generelle forordning om databeskyttelse; opfordrer Kommissionen til at sikre, at databeskyttelsesprincipperne som f.eks. indbygget privatlivsbeskyttelse og privatlivsbeskyttelse som standard, dataminimering, formålsbegrænsning samt gennemsigtige kontrolmekanismer for registrerede og passende retsmidler i overensstemmelse med EU-lovgivningen om databeskyttelse følges, og at passende henstillinger og standarder fremmes og integreres i EU's politikker;

21.  understreger, at fri udveksling af data er afgørende for den digitale økonomi og udviklingen inden for robotteknologi og kunstig intelligens; understreger, at det med henblik på en hensigtsmæssig anvendelse af robotteknologi og kunstig intelligens er afgørende med et højt sikkerhedsniveau i robotsystemer, herunder deres interne datasystemer og datastrømme; fremhæver, at der skal sikres beskyttelse af netværk af sammenkoblede robotter og kunstig intelligens for at undgå potentielle brud på sikkerheden; påpeger, at et højt niveau af sikkerhed og beskyttelse af personoplysninger sammen med behørig hensyntagen til privatlivet i kommunikationen mellem mennesker og robotter og kunstig intelligens er afgørende; fremhæver det ansvar, der påhviler udviklere af robotteknologi og kunstig intelligens for at udvikle produkter, der er sikre og egnede til formålet; opfordrer Kommissionen og medlemsstaterne til at støtte og motivere udviklingen af den nødvendige teknologi, herunder indbygget sikkerhed;

Standardisering og sikkerhed

22.  fremhæver, at spørgsmålet om fastsættelse af standarder og tilvejebringelse af interoperabilitet er centralt for den fremtidige konkurrence inden for kunstig intelligens og robotteknologi; opfordrer Kommissionen til at fortsætte arbejdet med den internationale harmonisering af tekniske standarder, navnlig sammen med de europæiske standardiseringsorganisationer og Den Internationale Standardiseringsorganisation, for at fremme innovation, undgå en opsplitning af det indre marked og sikre et højt niveau af produktsikkerhed og forbrugerbeskyttelse, der om nødvendigt omfatter minimumssikkerhedsstandarder i arbejdsmiljøet; understreger betydningen af lovlig "reverse engineering" og åbne standarder med henblik på at maksimere værdien af innovation og sikre, at robotter kan kommunikere med hinanden; glæder sig i denne forbindelse over nedsættelsen af særlige tekniske udvalg såsom ISO/TC 299 Robotics, der udelukkende beskæftiger sig med at udvikle standarder for robotteknologi;

23.  understreger, at det er bydende nødvendigt at afprøve robotter under autentiske forhold for at identificere og vurdere de risici, som de kan medføre, samt deres teknologiske udvikling ud over den rent eksperimentelle laboratoriefase; understreger i denne forbindelse, at afprøvning af robotter under autentiske forhold, navnlig i byerne og på landevejene, rejser en lang række spørgsmål, herunder om hindringer, der bremser udviklingen af disse testfaser, og kræver en effektiv strategi og overvågningsmekanisme; opfordrer Kommissionen til at udarbejde ensartede kriterier for alle medlemsstater, som de enkelte medlemsstater bør anvende for at udpege de områder, hvor forsøg med robotter er tilladt, i overensstemmelse med forsigtighedsprincippet;

Autonome transportmidler

a)Selvkørende biler

24.  understreger, at autonom transport dækker alle former for fjernstyret, automatiseret, forbundet og autonom transport på landevej, skinner, til vands eller i luften, herunder køretøjer, tog, skibe, færger, fly, droner samt alle fremtidige former for udviklinger og innovationer i denne sektor;

25.  mener, at det først og fremmest er absolut nødvendigt at udforme effektive EU-regler og globale regler inden for bilsektoren for at sikre udviklingen af automatiserede og selvkørende biler på tværs af grænserne, således at det bliver muligt fuldt ud at udnytte det økonomiske potentiale og nyde godt af de positive virkninger af teknologiske tendenser; understreger, at fragmenterede lovgivningsmæssige tiltag ville stille sig hindrende i vejen for udviklingen af autonome transportsystemer og bringe den europæiske konkurrenceevne i fare;

26.  henleder opmærksomheden på, at førerens reaktionstid er af afgørende betydning, i tilfælde af at han eller hun uforudset må overtage kontrollen med køretøjet, og opfordrer derfor de interesserede parter til at fastsætte realistiske værdier, eftersom de er bestemmende for sikkerheds- og ansvarsspørgsmål;

27.  er af den opfattelse, at omstillingen til selvkørende biler vil have indvirkning på følgende aspekter: civilretligt ansvar (ansvar og forsikring), trafiksikkerhed, alle spørgsmål vedrørende miljøet (f.eks. energieffektivitet, anvendelse af vedvarende teknologier og energikilder), datarelaterede spørgsmål (f.eks. adgang til data, databeskyttelse, privatliv og udveksling af data), spørgsmål i forbindelse med IKT-infrastruktur (f.eks. høj tæthed af effektiv og pålidelig kommunikation) og beskæftigelse (f.eks. skabelse og tab af arbejdspladser, uddannelse af chauffører til tunge godskøretøjer i brugen af automatiserede køretøjer); fremhæver, at der kræves betydelige investeringer i veje, energi og IKT-infrastruktur; opfordrer Kommissionen til at overveje de ovennævnte aspekter i sit arbejde med selvkørende biler;

28.  understreger, at pålidelig positions- og tidsinformation fra de europæiske programmer for satellitnavigation Galileo og Egnos er af afgørende betydning for indførelsen af selvkørende biler, og opfordrer i denne forbindelse indtrængende til, at de satellitter, der er nødvendige til at fuldstændiggøre det europæiske positioneringssystem Galileo, gøres færdige og sendes op;

29.  henleder opmærksomheden på den store merværdi, som selvkørende biler giver personer med nedsat bevægelighed, fordi sådanne biler giver dem mulighed for at deltage mere effektivt i den private biltransport og dermed letter deres daglige tilværelse;

b) Droner (fjernstyrede luftfartøjssystemer)

30.  anerkender de positive fremskridt inden for droneteknologi, navnlig inden for eftersøgning og redning; understreger, at der er vigtigt at udvikle en EU-ramme for droner for at beskytte EU-borgernes sikkerhed og privatliv, og opfordrer Kommissionen til at følge op på henstillingerne i Parlamentets beslutning af 29. oktober 2015 om sikker anvendelse af fjernstyrede luftfartøjssystemer (RPAS), almindeligt kendt som ubemandede luftfartøjer (UAV'er), inden for civil luftfart(5); opfordrer indtrængende Kommissionen til at afgive vurderinger af sikkerhedsaspekterne i forbindelse med den udbredte anvendelse af droner; opfordrer Kommissionen til at undersøge behovet for at indføre et obligatorisk system for sporing og identifikation af RPAS, der giver mulighed for at bestemme luftfartøjets positioner i realtid under anvendelse; minder om, at ubemandede flys homogenitet og sikkerhed bør sikres ved de foranstaltninger, der er omtalt i Europa-Parlamentets og Rådets forordning (EF) nr. 216/2008(6);

Plejerobotter

31.  understreger, at forskning i og udvikling af ældreplejerobotter med tiden er blevet mere almindelig og billigere og frembringer produkter med større funktionalitet og bredere forbrugeraccept; noterer sig den brede vifte af anvendelser af sådanne teknologier, der giver forebyggelse, hjælp, overvågning, stimulering og selskab til ældre mennesker, handicappede og mennesker, der lider af demens, kognitive forstyrrelser og hukommelsestab;

32.  påpeger, at menneskelig kontakt er et af de grundlæggende aspekter ved pleje af mennesker; mener, at man ved at udskifte den menneskelige faktor med robotter kan dehumanisere plejeindsatsen, men anerkender på den anden side, at robotter kan udføre automatiserede plejeopgaver og kan lette arbejdet for plejepersonalet og samtidig forbedre den menneskelige pleje og gøre revalideringsprocessen mere målrettet, således at det medicinske personale og plejerne kan afsætte mere tid til diagnosticering og bedre planlagte behandlingsmuligheder; understreger, at selv om robotteknologi kan føre til øget mobilitet og integration for handicappede og ældre mennesker, vil mennesker stadig være nødvendige i plejen og vil fortsat udgøre en vigtig kilde til social interaktion, som ikke kan erstattes fuldstændigt;

Medicinske robotter

33.  understreger vigtigheden af hensigtsmæssig uddannelse og forberedelse af sundhedspersonale, f.eks. læger og plejepersonale, med henblik på at sikre den højest mulige grad af faglig dygtighed samt for at garantere og beskytte patienternes sundhed; understreger, at det er nødvendigt at definere de faglige kvalifikationskrav, som en kirurg som minimum skal opfylde for at operere og få tilladelse til at bruge kirurgiske robotter; mener, at det er afgørende at respektere princippet om overvågning af robotters autonomi, hvorved den indledende planlægning af behandlingen og den endelige beslutning vedrørende udførelsen heraf altid vil blive truffet af en menneskelig kirurg; understreger den særlige betydning af uddannelse af brugerne, således at de kan gøre sig fortrolige med de teknologiske krav på dette område; henleder opmærksomheden på den voksende tendens til selvdiagnosticering ved brug af en mobil robot og dermed på behovet for, at læger uddannes i håndtering af tilfælde af selvdiagnosticering; mener, at brugen af sådanne teknologier ikke bør mindske eller skade forholdet mellem læge og patient, men bør yde bistand til læger i forbindelse med diagnosticering og/eller behandling af patienter med det formål at formindske risikoen for menneskelige fejl og øge livskvaliteten og den forventede levetid;

34.  mener, at medicinske robotter i stadig højere grad bruges til præcisionskirurgi og i arbejdsgange med mange gentagelser, og at de har potentiale til at forbedre resultaterne i forbindelse med rehabilitering og til at yde højeffektiv logistisk støtte på hospitaler; bemærker, at medicinske robotter har potentiale til at reducere sundhedsudgifterne, idet det gøres muligt for læger og sundhedspersonale at flytte deres fokus fra behandling til forebyggelse, samtidig med at en større del af budgettet kan bruges på bedre tilpasning til patienternes forskelligartede behov, videreuddannelse af sundhedspersonale og forskning;

35.  opfordrer Kommissionen til at sikre, at procedurerne for afprøvning af nye medicinske robotanordninger er sikre, navnlig når der er tale om anordninger, der implanteres i det menneskelige legeme, før datoen for anvendelsen af forordning (EU) 2017/745 om medicinsk udstyr;

Foranstaltninger til "reparation" og "forbedring" af mennesker

36.  bemærker, at robotteknologien har gjort store fremskridt, når det drejer sig om at reparere og understøtte beskadigede organer og kropsfunktioner, men at der også melder sig komplicerede spørgsmål, navnlig hvad angår mulighederne for "forbedring" af mennesker, eftersom medicinske robotter og navnlig cyberfysiske systemer kan ændre vores opfattelse af sunde mennesker, da de kan bæres direkte på eller implanteres i det menneskelige legeme; understreger vigtigheden af, at der snarest bliver nedsat passende bemandede udvalg om robotetiske spørgsmål på hospitaler og andre behandlingsinstitutioner, der skal overveje og medvirke til at løse usædvanlige og komplicerede etiske problemer vedrørende spørgsmål, der berører pleje og behandling af patienter; opfordrer Kommissionen og medlemsstaterne til at udarbejde retningslinjer for at støtte sådanne udvalgs oprettelse og funktion;

37.  påpeger, at der i forbindelse med livsvigtige medicinske anvendelser såsom robottekniske proteser skal sikres fortsat, bæredygtig adgang til vedligeholdelse, forbedring og navnlig softwareopdateringer, der afhjælper fejl og svagheder;

38.  anbefaler, at der etableres uafhængige betroede enheder til at opretholde de midler, der er nødvendige for at yde service til personer, der bærer livsvigtigt avanceret medicinsk udstyr, såsom vedligeholdelse, reparationer og forbedringer, herunder softwareopdateringer, især i tilfælde, hvor den oprindelige leverandør ikke længere leverer en sådan service; foreslår, at der indføres en forpligtelse for producenter til at forsyne disse uafhængige betroede enheder med en grundig konstruktionsvejledning inklusive kildekode i stil med kravene om pligtaflevering af publikationer til et nationalt bibliotek;

39.  henleder opmærksomheden på de risici, der er forbundet med muligheden for, at cyberfysiske systemer, der er integreret i menneskekroppen, kan blive hacket eller slukket eller få slettet deres hukommelse, da dette kunne bringe menneskers sundhed i fare, og i ekstreme tilfælde endda menneskeliv, og understreger derfor, at beskyttelsen af sådanne systemer skal prioriteres højt;

40.  understreger betydningen af at sikre lige adgang for alle til disse teknologiske nyskabelser, redskaber og indgreb; opfordrer Kommissionen og medlemsstaterne til at fremme udviklingen af hjælpeteknologier med henblik på, at udviklingen og ibrugtagningen af disse teknologier lettes for dem, der har brug for dem, i overensstemmelse med artikel 4 i FN's konvention om rettigheder for personer med handicap, som Unionen er part i;

Uddannelse og beskæftigelse

41.  henleder opmærksomheden på Kommissionens prognose, der viser, at Europa inden 2020 kan stå over for en mangel på op til 825 000 IKT-eksperter, og at 90 % af alle job mindst vil kræve basale digitale færdigheder; bifalder Kommissionens forslag om en køreplan for mulig anvendelse og revision af en digital kompetenceramme og deskriptorer for digitale færdigheder på alle læringsniveauer, og opfordrer Kommissionen til at yde betydelig støtte til udvikling af digitale færdigheder i alle aldersgrupper og uanset beskæftigelsesstatus som et første skridt i retning af bedre justering af mangler og efterspørgsel på arbejdsmarkedet; understreger, at væksten inden for robotteknologi gør det nødvendigt, at medlemsstaterne udvikler mere fleksible uddannelses- og erhvervsuddannelsessystemer med henblik på at sikre, at strategierne angående kvalifikationer stemmer overens med robotøkonomiens behov;

42.  mener, at det vil gavne den digitale industri, kvinderne og Europas økonomi, hvis det lykkes at gøre flere unge kvinder interesseret i en digital karriere og at placere flere kvinder i digitale job; opfordrer Kommissionen og medlemsstaterne til at iværksætte initiativer for at støtte kvinder i IKT-sektoren og styrke deres e-færdigheder;

43.  opfordrer Kommissionen til at begynde at analysere og intensivere overvågningen af de beskæftigelsesmæssige tendenser på mellemlang og lang sigt og særligt fokusere på skabelse og tab af arbejdspladser inden for forskellige kvalifikationsområder for at finde ud af, på hvilke områder der bliver skabt arbejdspladser, og på hvilke områder der mistes arbejdspladser som følge af den øgede brug af robotter;

44.  fremhæver betydningen af at forudse ændringer i samfundet i betragtning af de konsekvenser, som udviklingen og anvendelsen af robotteknologi og kunstig intelligens kan få; anmoder Kommissionen om at analysere forskellige mulige scenarier og deres konsekvenser for levedygtigheden af de sociale sikringsordninger i medlemsstaterne;

45.  understreger betydningen af fleksible færdigheder og af sociale, kreative og digitale færdigheder i forbindelse med uddannelse; er overbevist om, at livslang læring skal opnås gennem livslang aktivitet, ud over at skolerne bibringer akademisk viden;

46.  bemærker, at robotteknologien har et stort potentiale for forbedring af sikkerheden på arbejdspladsen ved at overføre en række farlige og skadelige opgaver fra mennesker til robotter, men noterer sig samtidig, at den kan skabe nye risici som følge af det øgede samspil mellem mennesker og robotter på arbejdspladsen; understreger i denne forbindelse betydningen af at anvende strenge og fremtidsorienterede regler for samspil mellem mennesker og robotter for at sikre sundhed, sikkerhed og respekt for de grundlæggende rettigheder på arbejdspladsen;

Konsekvenser for miljøet

47.  bemærker, at udviklingen af robotteknologi og kunstig intelligens bør ske på en sådan måde, at konsekvenserne for miljøet begrænses gennem et effektivt energiforbrug, energieffektivitet ved at fremme anvendelse af vedvarende energi, begrænset materialeforbrug og mindre affald, som f.eks. elektrisk og elektronisk affald, og mulighed for reparation; opfordrer derfor Kommissionen til at indarbejde principperne for den cirkulære økonomi i alle EU-politikker om robotteknologi; bemærker, at brugen af robotteknologi også vil få positive konsekvenser for miljøet, navnlig på områderne landbrug, fødevareforsyning og transport, særlig takket være det mindre maskineri og den mere begrænsede brug af gødningsstoffer, energi og vand samt i kraft af præcisionsdyrkning og ruteoptimering;

48.  understreger, at cyberfysiske systemer vil føre til etablering af energi- og infrastruktursystemer, som kan styre strømmen af el fra producent til forbruger, og også vil medføre, at der opstår "energiprosumenter", der både producerer og forbruger energi; fremfører, at dette vil åbne mulighed for store miljømæssige fordele;

Ansvarsregler

49.  mener, at det civilretlige ansvar for skader forårsaget af robotter er et helt centralt spørgsmål, som også skal analyseres og adresseres på EU-plan med henblik på at sikre samme grad af effektivitet, gennemsigtighed og konsekvens i gennemførelsen af retssikkerhed i hele EU til gavn for borgere, forbrugere og virksomheder;

50.  bemærker, at udviklingen af robotteknologi vil kræve en bedre forståelse af det fælles grundlag, der er nødvendigt for aktiviteter, hvor både mennesker og robotter deltager, og som skal baseres på to centrale indbyrdes afhængige forhold, nemlig forudsigelighed og styrbarhed; påpeger, at disse to indbyrdes afhængige forhold er afgørende for at fastslå, hvilke oplysninger der skal deles mellem mennesker og robotter, og hvordan der kan skabes et fælles grundlag for mennesker og robotter, som sikrer et gnidningsløst samspil mellem dem;

51.  anmoder Kommissionen om på grundlag af artikel 114 i TEUF at forelægge et forslag til retsakt om de juridiske aspekter af den udvikling og anvendelse af robotteknologi og kunstig intelligens, der må forventes i de næste 10-15 år, kombineret med ikkelovgivningsmæssige instrumenter såsom retningslinjer og adfærdskodekser som omhandlet i henstillingerne i bilaget;

52.  mener, at uanset hvilken juridisk løsning der måtte blive valgt med hensyn til det civilretlige ansvar for skader forårsaget af robotter i andre tilfælde end tingsskade, bør den fremtidige retsakt på ingen måde begrænse arten eller omfanget af de skader, der kan kræves erstattet, og den bør heller ikke begrænse de former for erstatning, der kan tilbydes til den skadelidte, alene med den begrundelse, at skaden er forårsaget af en ikkemenneskelig aktør;

53.  mener, at den fremtidige retsakt bør baseres på en grundig evaluering fra Kommissionens side af, om der bør anvendes en tilgang med objektivt ansvar eller en risikostyringstilgang;

54.  bemærker samtidig, at der ved objektivt ansvar alene kræves bevis for, at der er forvoldt en skade, og at der foreligger en årsagsforbindelse mellem robottens skadevoldende funktion og den skade, den skadelidte har lidt;

55.  bemærker, at risikostyringstilgangen ikke fokuserer på den person, "der har handlet uagtsomt", som individuelt ansvarlig, men på den person, der under visse omstændigheder er i stand til at minimere risiciene og håndtere negative konsekvenser;

56.  mener derfor i princippet, at når det endelige ansvar er blevet placeret, bør de ansvarlige parters ansvar stå i et rimeligt forhold til såvel det faktiske niveau af instrukser, der er givet til robotten, som til robottens grad af autonomi, hvilket betyder, at jo større indlæringsevne eller autonomi robotten har, og jo længere robottens oplæring har varet, jo større er ansvaret hos den, der har oplært den; bemærker især, at de færdigheder, der er et resultat af "oplæringen" af en robot, ikke bør forveksles med færdigheder, som helt afhænger af robottens egen indlæringsevne, når man søger at identificere den person, der i realiteten har ansvaret for robottens skadevoldende adfærd; bemærker, at ansvaret i det mindste på nuværende tidspunkt skal ligge hos et menneske og ikke hos en robot;

57.  påpeger, at en mulig løsningsmodel i den komplicerede situation, hvor man skal placere ansvaret for skader forvoldt af stadig mere autonome robotter, kunne være en obligatorisk forsikringsordning, således som det allerede er tilfældet f.eks. for bilers vedkommende; bemærker imidlertid, at en forsikringsordning for robotteknologi bør tage hensyn til alle potentielle ansvar i kæden, i modsætning til forsikringsordningen for vejtrafik, hvor forsikringen dækker menneskelige handlinger og forsømmelser;

58.  mener, at en sådan forsikringsordning, ligesom det er tilfældet for forsikring af motorkøretøjer, kunne suppleres med en fond for at sikre, at der kan opnås skadeserstatning i tilfælde, hvor der ikke er nogen forsikringsdækning; opfordrer forsikringsbranchen til at udvikle nye produkter og tilbud, der er i overensstemmelse med udviklingen inden for robotteknologi;

59.  opfordrer Kommissionen til, når den gennemfører en konsekvensanalyse af sin fremtidige retsakt, at undersøge, analysere og overveje virkningerne af alle de mulige juridiske løsningsmodeller, som f.eks.:

   a) at indføre en obligatorisk forsikringsordning, hvor det er relevant og nødvendigt for bestemte kategorier af robotter, hvor producenter eller ejere af robotter bliver forpligtet til at tegne forsikringer til dækning af skader, der kan blive forvoldt af deres robotter, i lighed med situationen for bilers vedkommende
   b) at sikre, at en erstatningsfond ikke blot kommer til at garantere erstatning for de skader, der er forvoldt af en robot uden forsikringsdækning
   c) at lade producenten, programmøren, ejeren eller brugeren nyde godt af begrænset ansvar, hvis de bidrager til en erstatningsfond, og hvis de i fællesskab tegner en forsikring for at garantere erstatning for skader, der er forvoldt af en robot
   d) at tage stilling til, om der skal oprettes en generel fond for alle intelligente autonome robotter eller oprettes en særskilt fond for hver enkelt robotkategori, og om der skal indbetales et bidrag som et engangsgebyr, når robotten bliver markedsført, eller indbetales regelmæssige bidrag i robottens levetid
   e) at sikre, at forbindelsen mellem en robot og dens fond bliver synliggjort ved hjælp af et individuelt registreringsnummer, som er opført i et særligt EU-register, således at enhver, der interagerer med den pågældende robot, kan blive informeret om fondens karakter, grænserne for erstatningsansvaret i tilfælde af tingsskade, bidragydernes navne og funktioner samt alle andre relevante oplysninger
   f) at indføre en særlig retlig status for robotter på lang sigt, således at i hvert fald de mest avancerede autonome robotter kan have status af elektroniske personer, som er ansvarlige for at erstatte de skader, som de måtte forvolde, og eventuelt at anvende begrebet elektronisk person i de tilfælde, hvor robotter træffer autonome beslutninger eller på anden måde interagerer selvstændigt med tredjemand;

Internationale aspekter

60.  bemærker, at der ikke er noget akut behov for væsentlige ændringer af de nuværende generelle internationalprivatretlige regler om trafikulykker, der gælder inden for EU, for at tage højde for udviklingen af selvkørende biler, men at en forenkling af det nuværende dobbelte lovvalgssystem (på grundlag af Europa-Parlamentets og Rådets forordning (EF) nr. 864/2007(7) og Haagerkonventionen af 4. maj 1971 om lovvalg ved trafikuheld) vil forbedre retssikkerheden og begrænse mulighederne for forumshopping;

61.  bemærker, at det er nødvendigt at overveje ændringer til internationale aftaler såsom Wienerkonventionen af 8. november 1968 om vejtrafik og Haagerkonventionen om lovvalg ved trafikuheld;

62.  forventer, at Kommissionen vil sikre, at medlemsstaterne gennemfører international lovgivning såsom Wienerkonventionen om vejtrafik, som skal ændres, på ensartet måde, med henblik på at gøre førerløs kørsel mulig, og opfordrer Kommissionen, medlemsstaterne og erhvervslivet til at gennemføre målene i Amsterdamerklæringen hurtigst muligt;

63.  går varmt ind for et internationalt samarbejde om granskningen af de samfundsmæssige, etiske og juridiske udfordringer og derefter om fastsættelsen af reguleringsmæssige standarder i FN's regi;

64.  påpeger, at de begrænsninger og betingelser, der er fastsat i Europa-Parlamentets og Rådets forordning (EF) nr. 428/2009(8) om handel med produkter med dobbelt anvendelse – varer, software og teknologi, der kan anvendes til både civile og militære formål og/eller kan bidrage til spredning af masseødelæggelsesvåben – også bør finde anvendelse på robottekniske applikationer;

Afsluttende aspekter

65.  anmoder på grundlag af artikel 225 i TEUF Kommissionen om på grundlag af artikel 114 i TEUF at forelægge et forslag til direktiv om civilretlige bestemmelser om robotteknologi i overensstemmelse med henstillingerne i bilaget;

66.  bekræfter, at henstillingerne respekterer de grundlæggende rettigheder og nærhedsprincippet;

67.  mener, at det ønskede forslag har finansielle virkninger, hvis der oprettes et nyt europæisk agentur;

o
o   o

68.  pålægger sin formand at sende denne beslutning og henstillingerne i bilaget til Kommissionen og Rådet.

(1) Rådets direktiv 85/374/EØF af 25. juli 1985 om tilnærmelse af medlemsstaternes administrativt eller ved lov fastsatte bestemmelser om produktansvar (EFT L 210 af 7.8.1985, s. 29).
(2) Europa-Parlamentets og Rådets forordning (EU) 2016/679 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger og om fri udveksling af sådanne oplysninger og om ophævelse af direktiv 95/46/EF (generel forordning om databeskyttelse) (EUT L 119 af 4.5.2016, s. 1).
(3) 1) En robot må ikke skade et menneske eller ved uvirksomhed lade et menneske komme til skade. 2) En robot skal adlyde ordrer, som gives til den af mennesker, for så vidt disse ordrer ikke er i konflikt med den første lov. 3) En robot skal beskytte sin egen eksistens, for så vidt dette ikke er i konflikt med den første eller den anden lov. (Se "Runaround" af Isaac Asimov, 1942) og 0) En robot må ikke skade menneskeheden eller ved uvirksomhed lade menneskeheden blive skadet.
(4) Jf. Schumanerklæringen (1950): "Europa kan ikke dannes på én gang, og heller ikke i en samlet opbygning. Det kan dannes gennem konkrete resultater - der først skaber en faktisk solidaritet.".
(5) Vedtagne tekster, P8_TA(2015)0390.
(6) Europa-Parlamentets og Rådets forordning (EF) nr. 216/2008 af 20. februar 2008 om fælles regler for civil luftfart og om oprettelse af et europæisk luftfartssikkerhedsagentur, og om ophævelse af Rådets direktiv 91/670/EØF, forordning (EF) nr. 1592/2002 og direktiv 2004/36/EF (EUT L 79 af 19.3.2008, s. 1).
(7) Europa-Parlamentets og Rådets forordning (EF) nr. 864/2007 af 11. juli 2007 om lovvalgsregler for forpligtelser uden for kontrakt (Rom II-forordningen) (EUT L 199 af 31.7.2007, s. 40).
(8) Rådets forordning (EF) nr. 428/2009 af 5. maj 2009 om en fællesskabsordning for kontrol med udførsel, overførsel, mæglervirksomhed og transit i forbindelse med produkter med dobbelt anvendelse (EUT L 134 af 29.5.2009, s. 1).


BILAG TIL BESLUTNINGEN:

HENSTILLINGER VEDRØRENDE INDHOLDET AF DET FORSLAG, DER ANMODES OM

Definition og klassificering af "intelligente robotter"

Der bør fastlægges en fælles europæisk definition af intelligente autonome robotter, herunder, hvor det er hensigtsmæssigt, definitioner af underkategorier heraf, under hensyntagen til følgende egenskaber:

–  evnen til at blive autonom ved hjælp af sensorer og/eller ved udveksling af data med omgivelserne (sammenkobling) og analyse af disse data

–  evnen til at lære gennem erfaring og samspil

–  robottens fysiske mediums form

–  evnen til at tilpasse sin adfærd og sine handlinger til omgivelserne.

Registrering af intelligente robotter

Af hensyn til sporbarheden og for at lette gennemførelsen af yderligere henstillinger bør der indføres en ordning med registrering af avancerede robotter baseret på kriterierne for klassificering af robotter. Registreringsordningen og registret bør gælde i hele EU og omfatte det indre marked og kan forvaltes af et EU-agentur for robotteknologi og kunstig intelligens, hvis der oprettes et sådant agentur.

Civilretligt ansvar

Den juridiske løsning, der måtte blive valgt angående robotters og kunstig intelligens' ansvar i andre tilfælde end tingsskade, bør på ingen måde begrænse arten eller omfanget af de skader, der kan kræves erstattet, og den bør heller ikke begrænse de former for erstatning, der kan tilbydes til den skadelidte, alene med den begrundelse, at skaden er forårsaget af en ikkemenneskelig aktør.

Den fremtidige retsakt bør baseres på en grundig evaluering fra Kommissionens side af, om der bør anvendes en tilgang med objektivt ansvar eller en risikostyringstilgang.

Der bør indføres en obligatorisk forsikringsordning, som kunne bygge på en forpligtelse for producenten til at tegne en forsikring for de autonome robotter, den producerer.

Forsikringsordningen bør suppleres med en fond for at sikre, at der kan opnås skadeserstatning i tilfælde, hvor der ikke er nogen forsikringsdækning.

Enhver politisk beslutning om reglerne om civilretligt ansvar for robotter og kunstig intelligens bør træffes under behørig hensyntagen til et europæisk forsknings- og udviklingsprojekt for robotteknologi og neurovidenskab med deltagelse af forskere og eksperter, der kan vurdere alle hermed forbundne risici og konsekvenser.

Interoperabilitet, kodeadgang og intellektuelle ejendomsrettigheder

Der bør sikres interoperabilitet mellem netværkstilsluttede autonome robotter, som interagerer med hinanden. Der bør være adgang til kildekoden, inputdata og konstruktionsdetaljer, når det er nødvendigt for at undersøge ulykker og skader forårsaget af intelligente robotter og for at sikre deres fortsatte drift, tilgængelighed, pålidelighed og sikkerhed.

Charter om robotteknologi

Kommissionen bør, når den fremsætter forslag til retsakter vedrørende robotteknologi, tage hensyn til principperne i følgende charter om robotteknologi.

CHARTER OM ROBOTTEKNOLOGI

Den foreslåede kodeks for etisk adfærd inden for robotteknologi vil give et grundlag for fastlæggelse, kontrol og overholdelse af nogle grundlæggende etiske principper fra design- og udviklingsfasen.

Rammerne, der formuleres under hensyntagen til et europæisk forsknings- og udviklingsprojekt for robotteknologi og neurovidenskab, skal udformes på en måde, der gør det muligt at foretage individuelle tilpasninger fra sag til sag med henblik på at vurdere, om en given adfærd er rigtig eller forkert i en given situation, og at træffe afgørelser i overensstemmelse med et forudbestemt hierarki af værdier.

Kodeksen bør ikke erstatte behovet for at tackle alle store juridiske udfordringer på dette område, men bør have en supplerende funktion. Den vil snarere gøre det nemmere at foretage den etiske kategorisering af robotteknologi, styrke de ansvarlige innovationstiltag på dette område og adressere befolkningens bekymringer.

Der bør lægges særlig vægt på forsknings- og udviklingsfaserne i de relevante teknologiske forløb (designproces, etisk vurdering, revisionskontrol osv.). Den bør sigte på at behandle nødvendigheden af, at forskere, fagfolk, brugere og udviklere overholder nogle etiske standarder, men også indføre en procedure for, hvordan man løser de relevante etiske dilemmaer og sikrer, at de pågældende systemer kan fungere på en etisk forsvarlig måde.

KODEKS FOR ETISK ADFÆRD FOR ROBOTTEKNOLOGIINGENIØRER

PRÆAMBEL

Adfærdskodeksen opfordrer alle forskere og udviklere til at handle ansvarligt og under fuld hensyntagen til nødvendigheden af at respektere menneskers værdighed, privatliv og sikkerhed.

Kodeksen tilskynder til et tæt samarbejde mellem alle fagområder for at sikre, at forskningen i robotteknologi i Den Europæiske Union foregår på en sikker, etisk forsvarlig og effektiv måde.

Adfærdskodeksen omfatter alle forsknings- og udviklingsaktiviteter inden for robotteknologi.

Adfærdskodeksen er frivillig og giver et sæt generelle principper og retningslinjer for foranstaltninger, der træffes af alle interessenter.

Robotforskningsfinansieringsorganer, forskningsorganisationer, forskere og etiske udvalg tilskyndes til så tidligt som muligt at overveje de fremtidige implikationer af de teknologier eller objekter, der forskes i, og udvikle en kultur præget af ansvarlighed med henblik på de udfordringer og muligheder, der kan opstå i fremtiden.

Offentlige og private robotforskningsfinansieringsorganer bør forlange, at der foretages og forelægges en risikovurdering sammen med hvert forslag til finansiering af robotforskning. En sådan kodeks bør betragte mennesker, og ikke robotter, som de ansvarlige aktører.

Forskere inden for robotteknologi bør forpligte sig til at overholde de højeste etiske og faglige standarder og følgende principper:

Nytte — robotter bør varetage menneskers interesser

Ingen skade — doktrinen "for det første, gør ikke skade", hvorefter robotter ikke må skade et menneske

Autonomi — evnen til at træffe en informeret beslutning uden tvang angående vilkårene for interaktion med robotter

Retfærdighed — fair fordeling af fordelene ved robotteknologi og overkommelige priser for robotter inden for hjemmepleje og sundhedsydelser i særdeleshed.

Grundlæggende rettigheder

Robotforskning bør respektere de grundlæggende rettigheder og tilrettelægges, gennemføres, formidles og anvendes med det enkelte menneskes og hele samfundets velvære og selvbestemmelse som formål. Menneskets værdighed og selvstændighed — både fysisk og psykisk — skal altid respekteres.

Forsigtighed

Robotforskning bør udføres under overholdelse af forsigtighedsprincippet, således at der på forhånd tages højde for, hvilke sikkerhedsmæssige konsekvenser forskningens resultater kan få, og træffes forholdsregler, der står i et rimeligt forhold til beskyttelsesniveauet, samtidig med at fremskridt til gavn for samfundet og miljøet stimuleres.

Rummelighed

Robotingeniørerne sikrer gennemsigtighed og respekt for alle interessenters legitime ret til adgang til oplysninger. Rummelighed giver alle interessenter, der er involveret i eller berørt af robotforskningen, mulighed for at deltage i beslutningsprocesserne.

Ansvarlighed

Robotingeniørerne skal kunne stilles til ansvar for de sociale, miljømæssige og sundhedsmæssige konsekvenser, robotteknologien kan få for nuværende og kommende generationer.

Sikkerhed

Robotkonstruktørerne bør tage hensyn til og respektere menneskers fysiske velvære, sikkerhed, sundhed og rettigheder. En robotingeniør skal beskytte menneskers velvære og samtidig respektere menneskerettighederne og hurtigst muligt oplyse om faktorer, der vil kunne udgøre en risiko for borgerne eller miljøet.

Reversibilitet

Reversibilitet er en nødvendig betingelse for kontrollerbarhed og dermed et grundlæggende princip, når man programmerer robotter til at handle sikkert og pålideligt. En reversibilitetsmodel fortæller robotten, hvilke handlinger der er reversible, og hvordan de i givet fald kan gøres om. Evnen til at gøre den sidste handling eller en række handlinger om gør det muligt for brugerne at annullere uønskede handlinger og vende tilbage til det "rigtige" stadium i deres arbejde.

Privatlivet

Retten til privatlivet skal altid respekteres. En robotingeniør bør sikre, at private oplysninger opbevares sikkert og kun anvendes korrekt. En robotingeniør bør desuden sikre, at personer ikke kan identificeres, bortset fra særlige tilfælde, og da kun med et klart og utvetydigt informeret samtykke. Der bør efterstræbes og opnås et menneskeligt informeret samtykke forud for enhver interaktion mellem menneske og maskine. Robotkonstruktørerne har således et ansvar for at udvikle og følge procedurer for gyldigt samtykke, fortrolighed, anonymitet, fair behandling og rimelig behandling af registrerede oplysninger. Konstruktørerne vil overholde ethvert krav om, at eventuelle relaterede data destrueres og fjernes fra alle datasæt.

Maksimering af fordelene og minimering af skaden

Forskerne bør bestræbe sig på at maksimere fordelene af deres arbejde på alle stadier, fra idé til udbredelse. Man skal undgå skader for forskningsdeltagere/mennesker/deltagere i eller genstande for et eksperiment, forsøg eller studie. Hvis der opstår risici som et uundgåeligt og integrerende element i forskningen, bør der udvikles og overholdes robuste risikovurderings- og -styringsprotokoller. Risikoen for skade bør normalt ikke være højere end den, man støder på i hverdagen, dvs. at mennesker ikke bør udsættes for større risici end eller ud over dem, de er udsat for i deres normale liv. Driften af et robotsystem bør altid være baseret på en grundig risikovurderingsproces, som bør være præget af forsigtighedsprincippet og proportionalitetsprincippet.

KODEKS FOR FORSKNINGSETISKE UDVALG

Principper

Uafhængighed

Den etiske vurderingsproces bør være uafhængig af selve forskningen. Dette princip understreger nødvendigheden af at undgå interessekonflikter mellem forskerne og dem, der foretager den etiske vurdering, og mellem sidstnævnte og de organisatoriske forvaltningsstrukturer.

Kompetence

Den etiske vurdering bør foretages af personer med relevant ekspertise, hvorved der bør tages hensyn til nødvendigheden af at gøre sig omhyggelige overvejelser omkring mangfoldigheden blandt medlemmerne af de forskningsetiske udvalg og deres specifikke uddannelse inden for etik.

Gennemsigtighed og ansvarlighed

Vurderingsprocessen bør være ansvarlig og kunne kontrolleres. De forskningsetiske udvalg skal være bevidste om deres opgaver og have en passende placering inden for de organisatoriske strukturer, der giver gennemsigtighed til udvalgenes arbejde og procedurer med henblik på at opretholde og vurdere standarderne.

Et forskningsetisk udvalgs rolle

Et forskningsetisk udvalg er normalt ansvarligt for at vurdere al forskning, der involverer mennesker som deltagere, og som foretages af personer, der er ansat i eller af den pågældende institution, sikre, at den etiske vurdering er uafhængig, kompetent og rettidig, beskytte forskningsdeltagernes værdighed, rettigheder og velfærd, tage hensyn til forskerens/forskernes sikkerhed, tage hensyn til andre interessenters legitime interesser, foretage informerede bedømmelser af forslags videnskabelige kvalitet og komme med informerede henstillinger til forskeren, hvis der skønnes at være mangler ved forslaget i nogle henseender.

Et forskningsetisk udvalgs sammensætning

Et forskningsetisk udvalg bør normalt være tværfagligt, omfatte både mænd og kvinder og bestå af medlemmer med en bred erfaring med og ekspertise inden for robotforskning. Udnævnelsesmekanismen bør sikre, at udvalgets medlemmer giver en passende balance med hensyn til videnskabelig ekspertise, filosofisk, juridisk eller etisk baggrund og lægmandssynspunkter, og at udvalget omfatter mindst et medlem med ekspertviden inden for etik, brugere af specialiserede ydelser inden for sundheds-, uddannelses- eller socialsektoren, når disse er i fokus for forskningen, og personer med en særlig metodologisk ekspertise, der er relevant for den forskning, de vurderer, og udvalget skal have en sådan sammensætning, at der ikke opstår interessekonflikter.

Tilsyn

Alle forskningsorganisationer bør indføre passende procedurer med henblik på at føre tilsyn med forskning, der har opnået etisk godkendelse, indtil den er afsluttet, og sikre en løbende vurdering, når forskningen er udformet således, at der kan ske ændringer over tid, som måske skal behandles. Tilsynet bør stå i rimeligt forhold til forskningens karakter og den risiko, der er forbundet med den. Hvis et forskningsetisk udvalg mener, at en tilsynsrapport rejser væsentlig tvivl om, hvorvidt en undersøgelse er gennemført etisk forsvarligt, bør det anmode om en fuldstændig og detaljeret redegørelse for forskningen med henblik på en fuld etisk vurdering. Hvis det skønnes, at en undersøgelse bliver gennemført på en uetisk måde, bør det overvejes at trække godkendelsen tilbage, og forskningen bør suspenderes eller standses.

LICENS FOR KONSTRUKTØRER

–  Du bør tage hensyn til de europæiske værdier værdighed, selvstændighed og selvbestemmelse, frihed og retfærdighed før, under og efter processen med konstruktion, udvikling og levering af de omhandlede teknologier, herunder nødvendigheden af ikke at skade, krænke, vildlede eller udnytte (sårbare) brugere.

–  Du bør indføre troværdige systemkonstruktionsprincipper for alle aspekter af en robots drift, for konstruktion af både hardware og software og for enhver databehandling på eller uden for platformen af hensyn til sikkerheden.

–  Du bør indføre indbygget privatlivsbeskyttelse, så det sikres, at private oplysninger opbevares sikkert og kun anvendes korrekt.

–  Du bør integrere tydelige slå fra-mekanismer (stopknapper), som bør være i overensstemmelse med rimelige konstruktionsmålsætninger.

–  Du bør sikre, at en robot fungerer på en måde, der er i overensstemmelse med lokale, nationale og internationale etiske og retlige principper.

–  Du bør sikre, at de forskellige trin i robottens beslutningstagning kan rekonstrueres og spores.

–  Du bør sikre, at der kræves maksimal gennemsigtighed i programmeringen af robotsystemerne, og forudsigelighed med hensyn til robotternes adfærd.

–  Du bør analysere et menneskerobotsystems forudsigelighed under hensyntagen til usikkerheden i forbindelse med fortolkning og handlinger og eventuelle robotfejl eller menneskelige fejl.

–  Du bør udvikle sporingsredskaber i robottens projekteringsfase. Disse værktøjer vil gøre det lettere at føre regnskab med og redegøre for robottens adfærd på de forskellige niveauer beregnet til eksperter, operatører og brugere, om end i begrænset omfang.

–  Du bør udarbejde konstruktions- og evalueringsprotokoller og samarbejde med potentielle brugere og interessenter i forbindelse med evalueringen af fordelene og risiciene ved robotteknologi, herunder de kognitive, psykologiske og miljømæssige fordele og risici.

–  Du bør sikre, at robotterne kan identificeres som robotter, når de interagerer med mennesker.

–  Du bør beskytte sikkerheden for og sundheden hos dem, der interagerer og kommer i kontakt med robotteknologi, da robotter som produkter bør konstrueres ved hjælp af processer, der garanterer deres sikkerhed. En robotingeniør skal beskytte menneskers velvære og samtidig respektere menneskerettighederne og må ikke anvende en robot uden at sikre, at systemets drift er sikker, effektiv og reversibel.

–  Du bør opnå en positiv udtalelse fra et forskningsetisk udvalg, inden du tester en robot i et virkeligt miljø eller med mennesker under konstruktions- og udviklingsprocedurerne.

LICENS FOR BRUGERE

–  Du har lov til at anvende en robot uden risiko eller frygt for fysisk eller psykisk skade.

–  Du bør have ret til at forvente, at en robot udfører enhver opgave, som den udtrykkeligt er blevet konstrueret til.

–  Du bør være opmærksom på, at enhver robot kan have opfattelses-, erkendelses- og aktiveringsmæssige begrænsninger.

–  Du bør respektere menneskers skrøbelighed, både fysisk og psykisk, og deres følelsesmæssige behov.

–  Du bør tage hensyn til den enkeltes ret til privatlivet, herunder deaktivering af videomonitorer under intime procedurer.

–  Du må ikke indsamle, anvende eller videregive personoplysninger uden den registreredes udtrykkelige samtykke.

–  Du må ikke anvende en robot på en måde, der strider mod etiske eller retlige principper og standarder.

–  Du må ikke ændre på en robot, så den kan fungere som et våben.

Juridisk meddelelse