Indeks 
 Forrige 
 Næste 
 Fuld tekst 
Procedure : 2020/2013(INI)
Forløb i plenarforsamlingen
Dokumentforløb : A9-0001/2021

Indgivne tekster :

A9-0001/2021

Forhandlinger :

Afstemninger :

PV 20/01/2021 - 17

Vedtagne tekster :

P9_TA(2021)0009

Vedtagne tekster
PDF 173kWORD 66k
Onsdag den 20. januar 2021 - Bruxelles
Kunstig intelligens: spørgsmål vedrørende fortolkningen og anvendelsen af international ret
P9_TA(2021)0009A9-0001/2021

Europa-Parlamentets beslutning af 20. januar 2021 om kunstig intelligens: spørgsmål vedrørende fortolkningen og anvendelsen af international ret, når EU er berørt, inden for civil og militær anvendelse og statens myndighed uden for det strafferetlige område (2020/2013(INI))

Europa-Parlamentet,

—  der henviser til præamblen til traktaten om Den Europæiske Union og til artikel 2, 3, 10, 19, 20, 21, 114,167, 218, 225 og 227 i samme traktat,

—  der henviser til retten til at indgive andragender, som nedfældet i artikel 20 og 227 i traktaten om Den Europæiske Unions funktionsmåde,

—  der henviser til Den Europæiske Unions charter om grundlæggende rettigheder,

—  der henviser til Rådets direktiv 2000/43/EF af 29. juni 2000 om gennemførelse af princippet om ligebehandling af alle uanset race eller etnisk oprindelse(1) (direktivet om racelighed),

—  der henviser til Rådets direktiv 2000/78/EF af 27. november 2000 om generelle rammebestemmelser om ligebehandling med hensyn til beskæftigelse og erhverv(2) (direktivet om ligebehandling med hensyn til beskæftigelse),

—  der henviser til Europa-Parlamentets og Rådets forordning (EU) 2016/679 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med behandling af personoplysninger og om fri udveksling af sådanne oplysninger og om ophævelse af direktiv 95/46/EF (generel forordning om databeskyttelse)(3) (GDPR) og til Europa-Parlamentets og Rådets direktiv (EU) 2016/680 af 27. april 2016 om beskyttelse af fysiske personer i forbindelse med kompetente myndigheders behandling af personoplysninger med henblik på at forebygge, efterforske, afsløre eller retsforfølge strafbare handlinger eller fuldbyrde strafferetlige sanktioner og om fri udveksling af sådanne oplysninger og om ophævelse af Rådets rammeafgørelse 2008/977/RIA(4),

—  der henviser til Rådets forordning (EU) 2018/1488 af 28. september 2018 om oprettelse af et europæisk fællesforetagende for højtydende databehandling(5),

—  der henviser til forslag til Europa-Parlamentets og Rådets forordning af 6. juni 2018 om programmet for et digitalt Europa for perioden 2021-2027 (COM(2018)0434),

—  der henviser til sin beslutning af 16. februar 2017 med henstillinger til Kommissionen om civilretlige bestemmelser om robotteknologi(6),

—  der henviser til sin beslutning af 1. juni 2017 om digitalisering af den europæiske industri(7),

—  der henviser til sin beslutning af 12. september 2018 om autonome våbensystemer(8),

—  der henviser til sin beslutning af 11. september 2018 om ligebehandling af sprogeuropæisk film i en digital tidsalder(9),

—  der henviser til sin beslutning af 12. februar 2019 om en omfattende europæisk industripolitik om kunstig intelligens og robotteknologi(10),

—  der henviser til Kommissionens meddelelse af 11. december 2019 til Europa-Parlamentet, Rådet, Det Europæiske Økonomiske og Sociale Udvalg og Regionsudvalget om den europæiske grønne pagt (COM(2019)0640),

—  der henviser til Kommissionens hvidbog af 19. februar 2020 med titlen ”Kunstig intelligens – en europæisk tilgang til ekspertise og tillid” (COM(2020)0065),

—  der henviser til Kommissionens meddelelse af 19. februar 2020 til Europa-Parlamentet, Rådet, Det Europæiske Økonomiske og Sociale Udvalg og Regionsudvalget om en europæisk strategi for data (COM(2020)0066),

—  der henviser til Kommissionens meddelelse af 19. februar 2020 til Europa-Parlamentet, Rådet, Det Europæiske Økonomiske og Sociale Udvalg og Regionsudvalget med titlen ”Europas digitale fremtid i støbeskeen” (COM(2020)0067),

—  der henviser til rapporten af 8. april 2019 fra ekspertgruppen på højt plan om kunstig intelligens nedsat af Kommissionen i juni 2018, rapport med titlen "Ethics Guidelines for Trustworthy AI" (Etiske retningslinjer vedrørende pålidelig kunstig intelligens),

—  der henviser til Europarådets rammekonvention om beskyttelse af nationale mindretal, protokol nr. 12 til konventionen til beskyttelse af menneskerettigheder og grundlæggende frihedsrettigheder samt den europæiske pagt om regionale sprog eller mindretalssprog,

—  der henviser til det europæiske etiske charter for anvendelse af kunstig intelligens i retssystemerne og på dertil knyttede områder, som blev vedtaget af Europarådets arbejdsgruppe for kvalitet i retsvæsenet i december 2018,

—  der henviser til OECD-Rådets henstilling om kunstig intelligens, der blev vedtaget den 22. maj 2019,

—  der henviser til forretningsordenens artikel 54,

—  der henviser til udtalelserne fra Udenrigsudvalget, Udvalget om det Indre Marked og Forbrugerbeskyttelse, Transport- og Turismeudvalget samt Udvalget om Borgernes Rettigheder og Retlige og Indre Anliggender,

—  der henviser til betænkning fra Retsudvalget (A9-0001/2021),

Indledning

A.  der henviser til, at kunstig intelligens, robotteknologi og relaterede teknologier udvikles meget hurtigt og har potentiale til direkte at påvirke alle aspekter af vores samfund, herunder grundlæggende sociale og økonomiske principper og værdier;

B.  der henviser til, at kunstig intelligens har skabt en revolution inden for den militære doktrin og militært udstyr gennem en dybtgående ændring i den måde, hære fungerer på, hovedsageligt gennem integration og udnyttelse af nye teknologier og autonome kapaciteter;

C.  der henviser til, at udvikling og design af såkaldt "kunstig intelligens", robotteknologi og relaterede teknologier udføres af mennesker, og at deres valg afgør teknologiens potentiale for at være til gavn for samfundet;

D.  der henviser til, at en fælles EU-ramme skal omfatte udviklingen, udrulningen og anvendelsen af kunstig intelligens, robotteknologi og relaterede teknologier, og skal sikre den respekt for den menneskelige værdighed og menneskerettighederne, som er nedfældet i Den Europæiske Unions charter om grundlæggende rettigheder;

E.  der henviser til, at Unionen og dens medlemsstater har et særligt ansvar for at sikre, at kunstig intelligens, robotteknologi og relaterede teknologier, som alle kan anvendes på tværs af grænserne, er menneskecentrerede, dvs. grundlæggende er beregnet til at skulle anvendes i menneskehedens tjeneste og til gavn for almenvellet, således at de bidrager til deres borgeres velfærd og almene interesse; der henviser til, at Unionen bør hjælpe medlemsstaterne med at opnå dette, navnlig de medlemsstater, som er begyndt at gøre sig overvejelser om eventuelt at udvikle retlige standarder eller lovændringer på dette område;

F.  der henviser til, at de europæiske borgere kan få gavn af en passende, effektiv, gennemsigtig og kohærent regulatorisk tilgang på EU-niveau, som fastsætter tilstrækkeligt klare krav til virksomheder om at udvikle applikationer og planlægge deres forretningsmodeller, samtidig med at det sikres, at Unionen og medlemsstaterne bevarer kontrollen over de bestemmelser, der skal fastsættes, således at de ikke tvinges til at vedtage eller acceptere standarder, der er fastsat af andre;

G.  der henviser til, at etiske retningslinjer såsom de principper, der er vedtaget af Ekspertgruppen på Højt Niveau vedrørende Kunstig Intelligens, er et godt udgangspunkt, men ikke er tilstrækkelige til at sikre, at virksomheder handler redeligt og garanterer effektiv beskyttelse af privatpersoner;

H.  der henviser til, at dette særlige ansvar især omfatter behandling af spørgsmål vedrørende fortolkningen og anvendelsen af folkeretten for så vidt angår EU's aktive deltagelse i internationale forhandlinger, når EU er berørt af civil og militær anvendelse af denne form for kunstig intelligens, robotteknologi og relaterede teknologier, samt spørgsmål i forbindelse med statens myndighed over disse teknologier, der ligger uden for det strafferetlige område;

I.  der henviser til, at det er afgørende, at der fastsættes en passende og omfattende retlig ramme for de etiske aspekter relateret til disse teknologier samt for det civilretlige erstatningsansvar, gennemsigtigheden og ansvarliggørelsen (navnlig for den kunstige intelligens, de robotteknologier og de relaterede teknologier, der anses for at være højrisiko); der henviser til, at denne ramme skal afspejle, at de iboende europæiske og universelle menneskelige værdier finder anvendelse på hele værdikæden i forbindelse med udviklingen, gennemførelsen og anvendelsen af kunstig intelligens; der henviser til, at denne etiske ramme skal finde anvendelse på udviklingen (herunder forskning og innovation), udrulningen og anvendelsen af kunstig intelligens i fuldstændig overensstemmelse med EU-retten og de i Den Europæiske Unions charter om grundlæggende rettigheder fastsatte værdier;

J.  der henviser til, at formålet med denne undersøgelse er at undersøge, i hvilket omfang de folkeretlige regler og EU-retten er tilpasset disse teknologier, og at fremhæve de udfordringer og risici, som staten står over for i forbindelse med disse, således at de kan administreres på en ordentlig og forholdsmæssig måde;

K.  der henviser til, at Kommissionen ikke har taget de militære aspekter af anvendelsen af kunstig intelligens i betragtning i sin hvidbog;

L.  der henviser til, at en harmoniseret europæisk tilgang til disse problemer kræver en fælles definition af kunstig intelligens, respekt for Den Europæiske Unions grundlæggende værdier og overholdelse af de principper, som er fastsat i Unionens charter om grundlæggende rettigheder og i den internationale menneskerettighedslovgivning;

M.  der henviser til, at kunstig intelligens giver hidtil usete muligheder for at forbedre transportsektorens effektivitet ved at tackle de udfordringer, der er forbundet med en stigende efterspørgsel efter rejser og større krav om sikkerhed og miljøhensyn, samtidig med at alle transportformer gøres mere intelligente, effektive og behagelige;

N.  der henviser til, at udviklingen af en europæisk AI-kapacitet i denne sektor på forsvarsområdet forudsætter handling på EU-niveau;

Definition af kunstig intelligens

1.  mener, at det er nødvendigt at vedtage en fælles europæisk retlig ramme med harmoniserede definitioner og fælles etiske principper, herunder for anvendelsen af kunstig intelligens til militære formål; opfordrer derfor Kommissionen til at vedtage følgende definitioner:

   "AI-system": et system, som enten er baseret på funktionsprogrammer eller er integreret i materielenheder, og som udviser adfærd, der simulerer intelligens, bl.a. ved at indsamle og behandle data, analysere og fortolke sine omgivelser og handle med en vis grad af autonomi for at opnå specifikke mål
   "Autonom": Et AI-system, som opererer ved at fortolke visse inddata og anvende en række foruddefinerede instruktioner uden at være begrænset til disse instruktioner, selv om systemets adfærd begrænses af og sigter mod at opfylde det tildelte mål og andre af designeren foretagne relevante designvalg;

2.  fremhæver, at Den Europæiske Unions og dens medlemsstaters sikkerheds- og forsvarspolitik er styret af de principper, der er nedfældet i Den Europæiske Unions charter om grundlæggende rettigheder og FN-pagten – hvoraf sidstnævnte opfordrer alle stater til at afholde sig fra trusler eller brug af magt i deres indbyrdes forbindelser – samt af folkeretten, af principperne om menneskerettigheder og respekt for den menneskelige værdighed og af en fælles forståelse af de universelle værdier: menneskets ukrænkelige og umistelige rettigheder, frihed, demokrati, ligestilling mellem kønnene og retsstatsprincippet; fremhæver, at alle forsvarsrelaterede aktiviteter inden for Unionens rammer skal respektere disse universelle værdier og samtidig fremme fred, stabilitet, sikkerhed og fremskridt i Europa og i verden;

Folkeret og militær brug af kunstig intelligens

3.  mener, at kunstig intelligens, som anvendes i militære og civile sammenhænge, skal underkastes en meningsfuld menneskelig kontrol, således at det til enhver tid er muligt for et menneske at rette, afbryde eller deaktivere anvendelsen af den i tilfælde af uforudset adfærd, hændelige indgreb, cyberangreb eller tredjeparters indblanding ved brug af teknologi baseret på kunstig intelligens, eller hvis tredjeparter anskaffer sig en sådan teknologi;

4.  mener, at respekten for folkeretten, navnlig den humanitære folkeret, som utvetydigt finder anvendelse på alle våbensystemer og deres operatører, er et grundlæggende krav, som medlemsstaterne skal overholde, navnlig i relation til at beskytte civilbefolkningen eller træffe forebyggende foranstaltninger i tilfælde af et angreb såsom aggression eller cyberkrigsførelse;

5.  fremhæver, at kunstig intelligens og relaterede teknologier også kan spille en rolle i uregelmæssig eller ukonventionel krigsførelse; foreslår, at forskning i, udvikling og anvendelse af kunstig intelligens i disse tilfælde underlægges de samme betingelser, som når det anvendes i konventionelle konflikter;

6.  understreger, at anvendelsen af kunstig intelligens åbner mulighed for at styrke sikkerheden for EU og EU's borgere, og at det er afgørende for EU, at der i fremtidige internationale drøftelser af emnet vedtages en integreret tilgang;

7.  opfordrer AI-forskersamfundet til at integrere dette princip i alle de førnævnte AI-systemer, som er beregnet til at skulle anvendes til militære formål; mener, at ingen myndighed må fastsætte nogen form for undtagelser til disse principper eller godkende sådanne systemer;

8.  gentager, at selvstændig beslutningstagning ikke bør fritage mennesker for ansvar, og at mennesker altid skal have det endelige ansvar for beslutningsprocesserne, så den person, der bærer ansvaret for beslutningen, kan udpeges;

9.  understreger, at når kunstig intelligens anvendes i en militær sammenhæng, skal medlemsstater, konfliktparter og enkeltpersoner altid overholde deres forpligtelser i henhold til gældende folkeret og tage ansvar for de handlinger, som udspringer af anvendelsen af de pågældende systemer; understreger, at de forventede, hændelige eller uønskede handlinger og virkninger af AI-systemer under alle omstændigheder skal anses for at være medlemsstaternes, konfliktparternes og de enkeltes ansvar;

10.  glæder sig over mulighederne for at anvende AI-systemer til undervisning og øvelser, og dette potentiale bør ikke undervurderes, navnlig set i lyset af, at EU gennemfører øvelser af både civilretlig og militær karakter;

11.  fremhæver, at der i design-, udviklings-, test-, indsættelses- og anvendelsesfasen af et AI-baseret system altid skal tages behørigt hensyn til de potentielle risici, navnlig med hensyn til tilfældige civile ofre og kvæstelser, utilsigtede tab af menneskeliv og beskadigelse af civil infrastruktur, men også de risici, der er forbundet med tredjeparters utilsigtede aktivering af, manipulering med, spredning af, cyberangreb på eller infiltration af teknologi baseret på kunstig intelligens, eller hvis tredjeparter anskaffer sig en sådan teknologi;

12.  minder om, at nyhedsprincippet i overensstemmelse med Den Internationale Domstols vejledende udtalelse af 8. juli 1996 ikke kan påberåbes til støtte for nogen som helst fravigelse, hvad angår overholdelsen af den humanitære folkerets gældende bestemmelser;

13.  mener, at kunstig intelligens ud over at understøtte operationer også vil gavne de væbnede styrkers tjenestepersonale ved at massebehandle deres sundhedsdata og udvide sundhedsovervågningen, ligesom den vil kunne udpege risikofaktorer relateret til deres miljø og arbejdsvilkår samt fremsætte forslag til passende sikkerhedsforanstaltninger for at begrænse den sundhedsmæssige indvirkning på tjenestepersonalet;

14.  gentager, at de lovgivningsmæssige foranstaltninger skal understøttes af meningsfulde ordninger for certificering og overvågning samt tydelige mekanismer for mulighed for revision, forklarlighed, ansvarliggørelse og sporbarhed, således at den retlige ramme ikke forældes som følge af den teknologiske udvikling;

15.  understreger betydningen af, at EU i en hyperforbundet verden deltager i udarbejdelsen af en international lovramme for anvendelse af kunstig intelligens: opfordrer indtrængende EU til at indtage førerrollen og sammen med De Forenede Nationer og det internationale samfund spille en aktiv rolle for at fremme denne internationale ramme for anvendelse af kunstig intelligens til militære og andre formål, idet det sikres, at denne anvendelse fortsat holdes inden for de skarpe grænser, der er fastsat i international ret og den humanitære folkeret, navnlig Genèvekonventionerne af 12. august 1949; understreger, at denne ramme aldrig må krænke eller tillade en krænkelse af principperne i Martens-klausulen om medmenneskelighed og den offentlige samvittighed, og at den skal være i overensstemmelse med sikkerhedsbestemmelserne og kravene om forbrugerbeskyttelse; opfordrer indtrængende EU og medlemsstaterne til at fastlægge effektive overvågnings- og evalueringssystemer til udvikling af AI-teknologier, navnlig teknologier, der anvendes til militære formål i autoritære stater;

16.  fremhæver, at robotteknologier ikke alene vil gøre det muligt for militært personale at holde sig på afstand, men også vil kunne sikre bedre selvbeskyttelse eksempelvis i forbindelse med operationer i forurenede miljøer, brandslukning, minerydning på land eller til vands og som forsvar mod dronesværme;

17.  understreger, at udviklingen, udbredelsen, anvendelsen og forvaltningen af AI skal respektere de grundlæggende rettigheder, værdier og friheder, der er nedfældet i EU-traktaterne, og opfordrer medlemsstaterne til at afholde sig fra at anvende højrisiko-AI-systemer, der udgør en trussel mod de grundlæggende rettigheder; noterer sig offentliggørelsen af Kommissionens hvidbog om kunstig intelligens og opfordrer til mere indgående forskning i den potentielle risiko for grundlæggende rettigheder, der opstår på grund af statslige myndigheders og EU-agenturers, -organers og -institutioners anvendelse af AI;

18.  opfordrer Kommissionen til at fremme forskning i og drøftelser om mulighederne for at anvende AI i forbindelse med katastrofehjælp, kriseforebyggelse og fredsbevarelse;

19.  glæder sig over oprettelsen af en FN-gruppe af regeringseksperter (GGE) om fremme af ansvarlig statslig adfærd i cyberspace i forbindelse med international sikkerhed og opfordrer EU til at deltage fuldt ud i dens arbejde;

20.  opfordrer næstformanden for Kommissionen/den højtstående repræsentant for udenrigsanliggender og sikkerhedspolitik (NF/HR) til at bane vejen for globale forhandlinger med henblik på at indføre en AI-våbenkontrolordning og ajourføre alle eksisterende traktatinstrumenter, som handler om våbenkontrol, nedrustning og ikkespredning, med henblik på at tage hensyn til AI-baserede systemer, der anvendes i forbindelse med krigsførelse; opfordrer til, at Rådets fælles holdning om fælles regler for kontrol med eksport af militærteknologi og ‑udstyr fuldt ud tager højde for og dækker AI-baserede våbensystemer;

21.  gentager, at disse regler altid skal overholde de principper, der er omhandlet i Romkonventionen af 17. juli 1998 om forbud mod folkedrab, forbrydelser mod menneskeheden og krigsforbrydelser;

22.  påpeger de klare risici, som er forbundet med afgørelser, der træffes af mennesker, hvis de udelukkende baserer sig på data, profiler og anbefalinger, der er genereret af maskiner; påpeger, at den overordnede udformning af AI-systemer også bør omfatte retningslinjer for menneskeligt tilsyn og menneskelig kontrol; opfordrer til, at der indføres en forpligtelse vedrørende gennemsigtighed og forklarlighed med hensyn til AI-applikationer og nødvendigheden af menneskelig indgriben samt andre foranstaltninger såsom uafhængige revisioner og specifikke stresstest med henblik på at fremme og håndhæve overholdelsen; understreger, at sådanne revisioner bør gennemføres regelmæssigt af en uafhængig myndighed, som skal føre tilsyn med AI-applikationer med høj risiko, der anvendes af statslige myndigheder eller militæret;

23.  understreger betydningen af at kontrollere, hvordan højrisiko-AI-teknologier kommer frem til en beslutning; minder om, at princippet om ikkeforskelsbehandling og proportionalitetsprincippet skal overholdes, og at spørgsmål om årsagssammenhæng, erstatningsansvar og ansvar samt gennemsigtighed, ansvarliggørelse og forklarlighed skal afklares for at fastslå, hvorvidt eller i hvilket omfang staten som aktør i folkeretten, men også ved udøvelsen af sine egne beføjelser, kan agere ved hjælp af AI-baserede systemer, som har en vis autonomi, uden at krænke de forpligtelser, der følger af folkeretten, såsom en retfærdig rettergang;

24.  insisterer på, at det er vigtigt at investere i menneskelige færdigheder, herunder digitale færdigheder, for at tilpasse sig videnskabelige fremskridt, der omfatter AI-baserede løsninger for personer, der udøver lovregulerede erhverv, herunder aktiviteter i forbindelse med udøvelsen af statslige myndigheders beføjelser såsom retspleje; opfordrer medlemsstaterne og Kommissionen til at tage behørigt hensyn hertil som en del af gennemførelsen af direktiv 2005/36/EF(11);

25.  fastholder, at AI-systemer altid skal overholde principperne om ansvarlighed, retfærdighed, demokratisk regeringsførelse, forsigtighed, ansvarliggørelse, tildeling, forudsigelighed, sporbarhed, pålidelighed, troværdighed, gennemsigtighed, forklarlighed, evne til at opdage eventuelle ændringer i omstændighederne og det operationelle miljø, skelnen mellem kombattanter og ikkekombattanter samt proportionalitet; understreger, at sidstnævnte princip gør lovligheden af en militær indsats betinget af, at der er balance mellem målet og de midler, der anvendes, og at proportionalitetsvurderingen altid foretages af eller udtrykkeligt godkendes af et menneske;

26.  understreger, at det ved brug af AI-baserede systemer i sikkerheds- og forsvarsøjemed er nødvendigt at sikre den menneskelige operatørs fuldstændige forståelse af situationen, det AI-baserede systems forudsigelighed, pålidelighed og robusthed og den menneskelige operatørs mulighed for at opdage eventuelle ændringer af omstændighederne og det operative miljø og vedkommendes mulighed for at gribe ind i eller afbryde et angreb for at sikre, at den humanitære folkerets principper, navnlig distinktion, proportionalitet og forsigtighed i forbindelse med et angreb, anvendes fuldt ud igennem hele kommando- og kontrolkæden; understreger, at AI-baserede systemer skal give de ansvarlige mulighed for at udøve meningsfuld kontrol over, påtage sig sit fulde ansvar for systemerne og stå til ansvar for enhver anvendelse af dem; opfordrer Kommissionen til at fremme dialog, tættere samarbejde og synergier mellem medlemsstater, forskere, akademikere, civilsamfundsaktører, den private sektor, navnlig førende virksomheder, og militæret, for at sikre, at de politiske beslutningsprocesser vedrørende forsvarsrelaterede AI-regler er inkluderende;

27.  understreger, at Europa-Parlamentet har opfordret til, at der udarbejdes og hurtigst muligt vedtages en fælles holdning til dødbringende automatvåbensystemer, forebyggelse af udviklingen, fremstillingen og anvendelsen af sådanne systemer, som er i stand til at udføre et angreb uden meningsfuld menneskelig kontrol, samt til, at der indledes reelle forhandlinger om et forbud mod dem; minder i denne henseende om sin beslutning af 12. september 2018 om autonome våbensystemer; minder om, at udtrykket "dødbringende automatvåbensystemer" henviser til våbensystemer uden nævneværdig menneskelig kontrol over essentielle funktioner vedrørende udvælgelse af og angreb på individuelle mål; understreger, at beslutningen om at udvælge et mål og gennemføre dødbringende aktioner ved hjælp af våbensystemer med en vis grad af autonomi altid skal træffes af menneskelige operatører, der udøver meningsfuld kontrol og tilsyn og foretager de nødvendige vurderinger i overensstemmelse med principperne om proportionalitet og nødvendighed; understreger, at AI-baserede systemer under ingen omstændigheder må erstatte menneskers beslutningstagning på dette område;

28.  bemærker desuden, at forhold omkring autonome våbensystemer, som er en særlig AI-kategori på det militære område, bør drøftes og aftales på internationalt plan, navnlig i forummet for FN's konvention om visse konventionelle våben; henleder opmærksomheden på den igangværende internationale debat om dødbringende automatvåbensystemer og regulering på området for fremspirende militære teknologier, som endnu ikke har ført til en aftale; påpeger, at EU først for nylig er blevet enig om at drøfte virkningerne af AI-udviklingen og digitaliseringen for forsvarssektoren; mener, at EU kan spille en afgørende rolle med hensyn til at hjælpe medlemsstaterne med at harmonisere deres tilgang til militær AI med henblik på at lede de internationale drøftelser;

29.  insisterer på, at der er behov for en strategi mod dødbringende automatvåbensystemer for hele EU og et forbud mod såkaldte "dræberrobotter";

30.  understreger, at kunstig intelligens i en militær sammenhæng skal opfylde en række minimumskrav; påpeger, at den navnlig skal kunne skelne mellem kombattanter og ikkekombattanter på kamppladsen, kunne genkende, når en kombattant overgiver sig eller er ukampdygtig, ikke ramme i flæng, ikke påføre mennesker unødige lidelser, være upartisk og forsætligt oplært på grundlag af ufuldstændige data og overholde principperne i den humanitære folkeret, anvende proportionalitet i forbindelse med magtanvendelse og forsigtighed før indgreb;

31.  mener, at anvendelsen af dødbringende automatvåbensystemer rejser fundamentale etiske og retlige spørgsmål om menneskers evne til at kontrollere disse systemer, og kræver, at AI-baseret teknologi ikke bør kunne træffe selvstændige beslutninger, som omhandler de retlige principper om distinktion, proportionalitet og forsigtighed;

32.  opfordrer til gennemsigtige og risikobegrænsende foranstaltninger på internationalt plan vedrørende udvikling og anvendelse af militær AI, navnlig med hensyn til principperne om territorial integritet og ikke-indgriben, og vedrørende magtanvendelse; understreger betydningen af at tage hensyn til de militære aspekter i forbindelse med håndteringen af retlige og etiske spørgsmål i den europæiske ramme for AI; minder om sin holdning til et forbud mod udvikling, fremstilling og anvendelse af dødbringende automatvåbensystemer; beklager, at der ikke findes nogen udtrykkelige konventioner på globalt plan om brugen af sådanne våben;

33.  erkender, at den moderne våbenkapløbsdynamik, der skyldes store militære nationalstaters udvikling af dødbringende automatvåbensystemer, overhaler fremskridtet i retning af og en reel universel anvendelse og håndhævelse af fælles regler og retlige rammer, fordi information om udviklingen og indsættelsen af disse systemer er klassificeret, og nationalstater har en iboende interesse i at skabe de hurtigste og mest effektive offensive kapaciteter uden hensyntagen til nuværende eller potentielle fremtidige retlige rammer eller principper;

34.  mener, at dødbringende automatvåbensystemer kun bør anvendes som en sidste udvej og kun er lovlige, hvis de er underlagt en tilstrækkelig streng menneskelig kontrol, således at et menneske har mulighed for at overtage kommandoen på et hvilket som helst tidspunkt, da meningsfuld menneskelig indgriben og tilsyn er afgørende i processen for at træffe beslutninger med dødeligt udfald, og da mennesker altid bør have ansvaret for beslutninger om liv eller død; mener, at systemer, der er fuldstændig unddraget menneskelig kontrol ("human off the loop") og menneskeligt tilsyn, uden undtagelse og under alle omstændigheder bør forbydes;

35.  opfordrer NF/HR, medlemsstaterne og Det Europæiske Råd til hurtigst muligt at udvikle og vedtage en fælles holdning til automatvåbensystemer, som sikrer meningsfuld menneskelig kontrol over våbensystemers kritiske funktioner, herunder i forbindelse med udrulning, og til at tale med én stemme i relevante fora samt handle i overensstemmelse hermed; opfordrer i denne sammenhæng NF/HR, medlemsstaterne og Rådet til at udveksle bedste praksis og indhente input fra eksperter, videnskabsfolk og civilsamfund som afspejlet i udtalelsen af 12. september 2018 om autonome våbensystemer, hvori det er anført, at angreb altid bør udføres ved hjælp af væsentlig menneskelig indgriben;

36.  tilskynder alle stater til at foretage en vurdering af, om og på hvilken måde autonomt militært udstyr har bidraget til deres nationale sikkerhed, og hvordan AI-baserede våbensystemer kan gavne deres nationale sikkerhed, navnlig hvad angår sådanne teknologiers potentiale til at understøtte og forbedre menneskers beslutningstagning i overensstemmelse med den humanitære folkeret og dennes principper; minder om, at ethvert dødbringende automatvåbensystem eller våben med en høj grad af autonomi kan rammes af funktionsfejl på grund af en dårligt skrevet kode eller et cyberangreb fra en fjendtlig stats eller en ikke-statslig aktørs side;

37.  understreger, at dødbringende automatvåbensystemer kun bør anvendes i særlige tilfælde og i overensstemmelse med godkendelsesprocedurer, der er fastsat på forhånd i tekster, hvor den pågældende stat – uanset om den er medlem af NATO – sikrer offentligheden eller i det mindste det nationale parlament tilgængelighed;

38.  vurderer, at dødbringende automatvåbensystemer skal overholde bestemmelserne i konventionen af 10. oktober 1980 om visse konventionelle våben, herunder forbuddet mod at være "unødigt skadevoldende";

39.  foreslår at opføre dødbringende automatvåbensystemer på listen over våben, der er omfattet af bestemmelserne i traktaten om våbenhandel af 2. april 2013, en liste, der nævnes i artikel 2 i våbenhandelstraktaten, for at forhindre ukontrolleret spredning;

40.  kræver et forbud mod en menneskelignende udformning af dødbringende automatvåbensystemer for at undgå enhver sammenblanding af mennesker og robotter;

41.  glæder sig over aftalen mellem Rådet og Parlamentet om at udelukke dødbringende automatvåben, "der ikke giver mulighed for en meningsfuld menneskelig kontrol over beslutningerne angående udvælgelse og angreb i forbindelse med gennemførelse af angreb" fra foranstaltninger, der finansieres under Den Europæiske Forsvarsfond; minder om sin holdning om, at anvendelse, udvikling eller produktion af dødbringende automatvåbensystemer uden nævneværdig menneskelig kontrol ikke er støtteberettiget under Den Europæiske Forsvarsfond;

42.  opfordrer Kommissionen til at støtte forskningen, udviklingen, udrulningen og anvendelsen af kunstig intelligens med henblik på at opretholde fred og forebygge konflikter;

43.  bemærker, at det globale økosystem for kunstig intelligens er domineret af digitale amerikanske og kinesiske giganter, der udvikler indenlandske kapaciteter og opkøber mange lovende virksomheder; er derfor af den faste overbevisning, at EU er nødt til at arbejde sig hen imod en bedre balance mellem grundlæggende forskningsapplikationer og industrielle applikationer, således at man ikke sakker bagud på området for AI-teknologi, samtidig med at de komparative strategiske fordele udvikles ved at opbygge eget potentiale og ressourcer yderligere;

44.  understreger, at robotter, for så vidt de falder ind under definitionen af maskine i direktiv 2006/42/EF(12), bør udformes og samles i overensstemmelse med de standarder og sikkerhedsforanstaltninger, der er fastsat heri;

45.  minder om EU's ambition om at være en global fredsaktør og opfordrer til en udvidelse af EU's rolle inden for global nedrustning og ikkespredningsbestræbelser og til, at Unionens tiltag og politikker skal stræbe efter at opretholde international fred og sikkerhed, sikre respekt for den humanitære folkeret og den internationale menneskerettighedslovgivning og efter at beskytte civile og civil infrastruktur;

46.  understreger behovet for at undersøge den indvirkning, som kunstig intelligens kan få som en strategisk faktor for EU's fælles sikkerheds- og forsvarspolitik (FSFP), navnlig i militære og civile missioner og operationer, samt for udviklingen af EU's kapacitet;

47.  minder om, at vores allierede på nationalt, NATO- eller EU-plan selv er i gang med at integrere kunstig intelligens i deres militære systemer; mener, at interoperabiliteten med vores allierede skal sikres ved hjælp af fælles standarder, som er af afgørende betydning for gennemførelse af operationer i koalition; minder om, at samarbejdet om kunstig intelligens derudover bør finde sted inden for en europæisk ramme, som er den eneste relevante ramme for virkelig at skabe stærke synergier, som foreslået i EU's strategi for kunstig intelligens;

48.  mener, at EU er nødt til nøje at overvåge og overveje de indvirkninger, som fremskridt inden for kunstig intelligens har for forsvar og krigsførelse, herunder for eventuelt destabiliserende udvikling og udrulning, og til at styre den etiske forskning og udformning, hvorved integriteten af persondata og enkeltpersoners adgang og kontrol sikres, og der tages hensyn til økonomiske og humanitære forhold;

49.  minder om sin holdning af 12. september 2018 om autonome våbensystemer, hvori det hedder, at der ikke må gennemføres angreb uden meningsfuld menneskelig intervention; opfordrer NF/HR, medlemsstaterne og Det Europæiske Råd til at vedtage en fælles holdning om automatvåbensystemer, der sikrer meningsfuld menneskelig kontrol over våbensystemers kritiske funktioner, herunder i forbindelse med indsættelse af dem; bekræfter på ny sin støtte til arbejdet med dødbringende automatvåbensystemer i FN-gruppen af regeringseksperter fra De Høje Kontraherende Parter i konventionen om visse konventionelle våben, som fortsat er det relevante internationale forum for drøftelser og forhandlinger om de retlige udfordringer, der er forbundet med automatvåbensystemer; opfordrer til, at alle aktuelle multilaterale bestræbelser fremskyndes, således at de normative og lovgivningsmæssige rammer ikke overhales af den teknologiske udvikling og nye metoder til krigsførelse; opfordrer NF/HR til – inden for rammerne af de igangværende drøftelser mellem de stater, der er parter i CCW, om international regulering af dødbringende automatvåbensystemer – fortsat at engagere sig og bidrage til hurtigst muligt at fremme indsatsen for at udvikle en ny global lovgivningsmæssig ramme og et retligt bindende instrument med fokus på definitioner, koncepter og karakteristika ved nye teknologier inden for dødbringende automatvåbensystemer, etiske og retlige spørgsmål om menneskelig kontrol, navnlig med hensyn til deres kritiske funktioner, såsom udvælgelse af og angreb på mål, bibeholdelse af menneskers ansvarlighed og den nødvendige grad af interaktion mellem menneske og maskine, herunder begrebet menneskelig kontrol og menneskelig vurdering; opfordrer til, at der ved denne indsats sikres overholdelse af den humanitære folkeret og menneskerettighedslovgivningen i de forskellige faser af et AI-baseret våbens livscyklus med henblik på at nå til enighed om konkrete anbefalinger til klarlæggelse, overvejelse og udvikling af aspekter af de normative rammer vedrørende nye teknologier inden for dødbringende automatvåbensystemer;

50.  mener, at det er af afgørende betydning for den globale sikkerhed at have en effektiv mekanisme til håndhævelse af reglerne om ikkespredning af dødbringende automatvåbensystemer og eventuelle fremtidige offensive AI-baserede teknologier;

Statens myndighed: eksempler fra det civile område, herunder sundheds- og retsvæsenet

51.  understreger, at medlemsstaterne, uden at fordreje markedet mærkbart, skal handle effektivt for at mindske deres afhængighed af udenlandske data og sikre, at magtfulde private gruppers besiddelse af de mest avancerede teknologier inden for kunstig intelligens ikke medfører en udfordring for den offentlige myndighed, eller at denne sågar lader sig erstatte af private grupper, især hvis disse private grupper tilhører en tredjepartsstat uden for EU;

52.  understreger, at brugen af AI-systemer i offentlige myndigheders beslutningsprocesser kan medføre subjektive beslutninger, som har en negativ indvirkning på borgerne og derfor bør underlægges strenge kontrolkriterier i relation til bl.a. sikkerhed, gennemsigtighed, ansvarliggørelse, ikkeforskelsbehandling samt socialt og miljømæssigt ansvar; opfordrer indtrængende medlemsstaterne til at vurdere de risici, der er forbundet med AI-baserede beslutninger knyttet til udøvelsen af offentligretlige beføjelser, og til at sikre garantier for bl.a. relevant menneskeligt tilsyn, krav om gennemsigtighed og mulighed for at anfægte de pågældende beslutninger;

53.  opfordrer indtrængende medlemsstaterne til at vurdere de med AI-baserede teknologier forbundne risici, inden man automatiserer aktiviteter, der er knyttet til udøvelsen af offentligretlige beføjelser såsom retspleje; opfordrer medlemsstaterne til at overveje, om der er behov for beskyttelsesforanstaltninger som f.eks. en kvalificeret fagpersons tilsyn og strenge regler om faglig etik;

54.  understreger vigtigheden af at træffe foranstaltninger på EU-niveau, som kan hjælpe med at fremme hårdt tiltrængte investeringer, datainfrastruktur, forskning, herunder forskning i offentlige myndigheders anvendelse af kunstig intelligens, og en fælles etisk ramme;

55.  understreger, at Den Europæiske Union er nødt til at stræbe efter strategisk modstandsdygtighed, så den aldrig igen opdager, at den står uforberedt i tilfælde af en krise, og understreger, at dette er af afgørende betydning, navnlig for så vidt angår kunstig intelligens og den militære anvendelse heraf; understreger, at forsyningskæder for militære AI-systemer, som kan føre til teknologisk afhængighed, bør gennemgås, og denne afhængighed udfases; opfordrer til øgede investeringer i europæisk kunstig intelligens på forsvarsområdet og i den kritiske infrastruktur, som understøtter den;

56.  opfordrer Kommissionen til at vurdere konsekvenserne af et moratorium for anvendelsen af ansigtsgenkendelsessystemer og, afhængigt af resultaterne af en sådan vurdering, til at overveje et moratorium for offentlige myndigheders anvendelse af disse systemer i det offentlige rum og i bygninger, der er beregnet til uddannelse og sundhedspleje, og for de retshåndhævende myndigheders anvendelse af ansigtsgenkendelsessystemer i halvoffentlige områder såsom lufthavne, indtil de tekniske standarder kan anses for fuldt ud at være i overensstemmelse med grundlæggende rettigheder, de opnåede resultater er upartiske og ikkediskriminerende, og der er strenge sikkerhedsforanstaltninger mod misbrug, som sikrer nødvendigheden og forholdsmæssigheden af anvendelse af sådanne teknologier;

57.  understreger betydningen af cybersikkerhed for AI i både offensive og defensive scenarier; bemærker i denne forbindelse betydningen af internationalt samarbejde og offentliggørelse og udveksling af sårbarheder og afhjælpende foranstaltninger på IT-sikkerhedsområdet; opfordrer til internationalt cybersikkerhedssamarbejde med henblik på effektiv anvendelse og udbredelse af AI og til beskyttelsesforanstaltninger mod misbrug af AI og cyberangreb; bemærker desuden den dobbelte anvendelse af IT-systemer (dvs. anvendelse til civile og militære formål) og af AI og opfordrer til en effektiv regulering heraf;

58.  mener, at medlemsstaterne bør fremme AI-teknologier, der arbejder for mennesker, og at personer, der har været genstand for en beslutning truffet af en offentlig myndighed, som er baseret på oplysninger fra et AI-system, bør gives meddelelse herom og hurtigt modtage de oplysninger, der er omhandlet i foregående punkt, bør have mulighed for at appellere denne beslutning og vælge at få den løst uden indgriben fra et AI-system; opfordrer medlemsstaterne til at overveje, om der er behov for beskyttelsesforanstaltninger som omhandlet i direktiv (EU) 2018/958(13), som f.eks. en kvalificeret erhvervsudøvendes tilsyn og regler om erhvervsmæssig etik;

59.  understreger, at opstillingen af forudsigelser på grundlag af delingen af, adgangen til og anvendelsen af data skal ske i overensstemmelse med kravene om kvalitet, integritet, gennemsigtighed, sikkerhed, beskyttelse af privatlivets fred og kontrol; understreger, at det er nødvendigt i forbindelse med udviklingen, udbredelsen og anvendelsen af AI, robotteknologi og relaterede teknologier at overholde EU's retlige rammer for databeskyttelse og privatlivets fred med henblik på at øge borgernes sikkerhed og deres tillid til de pågældende teknologier;

60.  noterer sig den hurtige udvikling af AI-applikationer, der kan genkende unikke karakteristiske elementer som f.eks. ansigtstræk, bevægelser og adfærd; advarer om spørgsmål vedrørende krænkelse af privatlivets fred, ikkeforskelsbehandling og beskyttelse af personoplysninger i forbindelse med anvendelsen af applikationer til automatisk anerkendelse;

61.  understreger, at enhver afgørelse angående en fysisk person, der alene er baseret på automatisk behandling, herunder profilering, og som har negativ retsvirkning for den registrerede eller betydelige konsekvenser for den pågældende, er forbudt i henhold til databeskyttelsesforordningen, medmindre den er hjemlet i EU-retten eller medlemsstaternes nationale ret og omfattet af passende foranstaltninger til beskyttelse af den registreredes rettigheder, frihedsrettigheder og legitime interesser;

62.  opfordrer til forklarlighed for algoritmer, gennemsigtighed og lovpligtigt tilsyn, når offentlige myndigheder anvender kunstig intelligens, og til, at der foretages konsekvensanalyser, før statslige myndigheder indfører værktøjer, der anvender AI-teknologier; opfordrer Kommissionen og Det Europæiske Databeskyttelsesråd til at udarbejde retningslinjer, henstillinger og eksempler på bedste praksis for yderligere at specificere de kriterier og betingelser, der gælder for afgørelser baseret på profilering og offentlige myndigheders anvendelse af AI;

63.  bemærker, at kunstig intelligens kommer til at spille en stadig vigtigere rolle i sundhedsplejen, navnlig gennem algoritmer for hjælp til diagnosticering, robotassisteret kirurgi, intelligente proteser, personaliserede behandlinger baseret på modellering af den enkelte patients krop i tre dimensioner, sociale robotter til at hjælpe ældre mennesker, digitale terapier, der har til formål at forbedre autonomien hos visse mentalt syge mennesker, prædiktiv medicin og software til epidemiberedskab;

64.  insisterer imidlertid på, at al anvendelse af kunstig intelligens på folkesundhedsområdet skal respektere beskyttelsen af patienters personoplysninger og forhindre ukontrolleret spredning;

65.  opfordrer til, at alle anvendelser af kunstig intelligens på folkesundhedsområdet respekterer ligebehandlingen af patienter med hensyn til adgang til pleje, opretholder forholdet mellem patient og læge og til enhver tid respekterer lægeløftet, således at lægen altid har muligheden og ansvaret for at afvise en løsning givet af kunstig intelligens;

66.  bemærker, at anvendelsen af AI til bekæmpelse af kriminalitet og cyberkriminalitet kan give en bred vifte af muligheder; fastholder samtidig, at princippet om, at hvad der er ulovligt offline, også er ulovligt online, fortsat bør gælde;

67.  bemærker, at kunstig intelligens i stigende grad anvendes inden for retsvæsenet med henblik på at træffe afgørelser både hurtigere og mere rationelt og i bedre overensstemmelse med den gældende lovgivning; glæder sig over, at retslige processer forventes at blive fremskyndet gennem anvendelse af kunstig intelligens;

68.  mener, at det er nødvendigt at præcisere, hvorvidt det er passende, at afgørelser, der skal træffes af de retshåndhævende myndigheder, delvist uddelegeres til kunstig intelligens, samtidig med at der føres menneskelig kontrol med den endelige afgørelse;

69.  understreger, at anvendelsen af AI i retssystemet kunne forbedre analysen og indsamlingen af data og beskyttelsen af ofre, og at dette bør undersøges i forbindelse med forskning og udvikling og ledsages af konsekvensanalyser, navnlig med hensyn til beskyttelsesforanstaltninger til fordel for en retfærdig procedure og mod bias og forskelsbehandling, under anvendelse af forsigtighedsprincippet; minder imidlertid om, at der ikke er en erstatning for inddragelse af mennesker i forbindelse med domfældelse eller beslutningstagning;

70.  minder om betydningen af principperne om forvaltning, gennemsigtighed, upartiskhed, ansvarlighed, retfærdighed og intellektuel integritet i forbindelse med anvendelsen af AI på det strafferetlige område;

71.  opfordrer indtrængende medlemsstaterne til at vurdere de risici, der er forbundet med AI-baserede teknologier, inden man automatiserer aktiviteter knyttet til udøvelsen af offentlig myndighed, navnlig på retsområdet; opfordrer dem til at overveje, om der er behov for beskyttelsesforanstaltninger som f.eks. en kvalificeret fagpersons tilsyn og regler om faglig etik;

72.  bemærker, at visse AI-teknologier muliggør automatisering af informationsbehandling og -foranstaltninger i et hidtil uset omfang som f.eks. i forbindelse med masseovervågning inden for det civile og militære område, hvilket udgør en trussel mod de grundlæggende rettigheder og baner vejen for ulovlige indgreb i staternes suverænitet; opfordrer til kontrol af masseovervågningsaktiviteter i henhold til international ret, bl.a. med hensyn til spørgsmål om jurisdiktion og håndhævelse; udtrykker stærk bekymring over, at der er blevet udviklet en række stærkt indgribende sociale pointsystemer ("social scoring"), da disse er yderst farlige for overholdelsen af de grundlæggende rettigheder; opfordrer til, at der indføres et udtrykkeligt forbud mod, at offentlige myndigheder anvender storstilede sociale pointsystemer som et middel til at begrænse borgernes rettigheder; opfordrer til at styrke ansvarligheden hos visse private aktører i henhold til international ret i betragtning af deres udelte beslutningsprocedure og kontrol i forbindelse med udviklingen af disse teknologier; opfordrer i denne sammenhæng Kommissionen, Rådet og medlemsstaterne til at være særligt opmærksomme, når de deltager i forhandlinger om, indgår og ratificerer internationale aftaler relaterede til grænseoverskridende familieretlige forhold såsom internationale børnebortførelser, og til at sikre, at der i denne forbindelse altid føres menneskelig kontrol med anvendelsen af AI-systemer, og at disse overholder de i EU og de enkelte lande, der har underskrevet de pågældende aftaler, gældende retfærdige procedurer;

73.  anmoder om, at juridisk anvendelse af kunstig intelligens offentliggøres, og at denne anvendelse ikke indebærer forskelsbehandling, som skyldes partiskhed i programmeringen; understreger, at enhver persons ret til at få adgang til en offentligt ansat skal respekteres, og at der skal sikres respekt for, at enhver offentligt ansat har ret til at træffe en beslutning om at se bort fra oplysningerne fra den kunstige intelligens, når vedkommende skønner det nødvendigt i lyset af de nærmere detaljer i den pågældende sag; påpeger sagsøgtes ret til at appellere beslutningen i overensstemmelse med national lovgivning, idet det under ingen omstændigheder udelukker retsvæsenets ansvar;

74.  opfordrer derfor til, at alle disse anvendelser på det offentlige og administrative område betragtes som oplysninger til fri, offentlig anvendelse, og til, at der ikke forskelsbehandles på grund af partiskhed i programmeringen;

75.  understreger betydningen af at muliggøre korrekt udbredelse og anvendelse af AI; opfordrer medlemsstaterne til at give deres civile og militære personale passende uddannelse for at gøre det muligt for dem præcist at identificere og undgå forskelsbehandling og bias i datasættene;

76.  er dybt bekymret over deepfake-teknologierne, der gør det muligt at producere stadig mere realistiske foto-, audio- og videoforfalskninger, som kan anvendes til afpresning, til at generere falske nyhedsrapporter eller til at undergrave offentlighedens tillid og påvirke den offentlige debat; mener, at sådanne praksis har potentiale til at destabilisere lande, sprede desinformation og påvirke valg; anmoder derfor om, at ophavsmanden pålægges en forpligtelse til ved enhver form for deepfake-materiale eller andre realistisk fremstillede syntetiske videoer at anføre, at de ikke er originale, med strenge begrænsninger med hensyn til at deres anvendelse til valgformål og en stærk håndhævelse; opfordrer til grundig forskning på dette område for at sikre, at de teknologiske modsvar på disse fænomener holder trit med den ondsindede brug af kunstig intelligens;

Transport

77.  bemærker, at der er et betydeligt økonomisk potentiale forbundet med AI, bl.a. med hensyn til optimering af den langsigtede ydeevne, vedligeholdelse, fejlforudsigelse og planlægning af konstruktion af transportinfrastrukturer og bygninger, herunder faktorer såsom sikkerhed, energieffektivitet og omkostninger; opfordrer derfor Kommissionen til fortsat at fremme forskning i AI og udveksling af god praksis på transportområdet;

78.  understreger behovet for at styrke AI for at fremme multimodalitet, interoperabilitet og energieffektivitet for alle transportformer med henblik på at øge effektiviteten i tilrettelæggelsen og styringen af gods- og passagerstrømmene, udnytte infrastrukturen og ressourcerne bedre i det transeuropæiske transportnet (TEN‑T) og fjerne hindringerne for oprettelsen af et egentligt fælles europæisk transportområde;

79.  minder om fordelene ved European Rail Traffic Management System (ERTMS), et sammenhængende automatisk togkontrolsystem, og støtter udviklingen og den internationale standardisering af automatisering af togdriften;

80.  glæder sig over arbejdet i ATM-forskningsprojektet i forbindelse med det fælles europæiske luftrum (SESAR) inden for ubemandede luftfartøjssystemer og lufttrafikstyringssystemer, både civile og militære;

81.  minder om, at selvkørende køretøjer har et stort potentiale til at forbedre mobilitet og sikkerhed og medfører miljømæssige fordele, og opfordrer Kommissionen og medlemsstaterne til at sikre samarbejde mellem tilsynsmyndigheder og alle aktører, der er relevante for indførelsen af automatiserede køretøjer i vejtrafikken i EU;

82.  påpeger, at den globale skibsindustri har ændret sig kraftigt takket være integration af AI i de seneste år; minder om de igangværende omfattende drøftelser i Den Internationale Søfartsorganisation om effektiv integrering af nye og fremspirende teknologier såsom autonome skibe i dens regelsæt;

83.  understreger, at intelligente transportsystemer kan mindske trafikal overbelastning, øge sikkerheden og tilgængeligheden og bidrage til at forbedre styringen af trafikstrømme, øge effektiviteten og forbedre mobilitetsløsninger; henleder opmærksomheden på den øgede eksponering af traditionelle transportnet for cybertrusler; minder om betydningen af tilstrækkelige ressourcer og yderligere forskning i sikkerhedsrisici for at sikre, at automatiserede systemer, og deres data er sikre; glæder sig over, at Kommissionen har til hensigt at medtage cybersikkerhed som et fast punkt på dagsordenen til drøftelse i transportrelaterede internationale organisationer;

84.  glæder sig over bestræbelserne på at indføre AI-systemer i den offentlige sektor og vil støtte yderligere drøftelser om anvendelsen af AI inden for transport; opfordrer Kommissionen til at foretage en evaluering af anvendelsen af AI og lignende teknologier i transportsektoren og til at udarbejde en ikkeudtømmende liste over højrisikosegmenter i AI-systemer, der erstatter beslutninger inden for rammerne af offentligretlige beslutninger på dette område;

85.  understreger, at Den Europæiske Forsvarsfond og det permanente strukturerede samarbejde bør stimulere samarbejdet mellem medlemsstaterne og de europæiske forsvarsindustrier med henblik på at udvikle nye europæiske forsvarskapaciteter inden for AI og sikre forsyningssikkerhed under hensyntagen til etiske spørgsmål; understreger behovet for at undgå opsplitning ved at bygge bro mellem forskellige aktører og anvendelsesområder ved at fremme kompatibilitet og interoperabilitet på alle niveauer og ved at fokusere på det fælles arbejde vedrørende arkitektur og platformsløsninger; minder endvidere om, at den næste Connecting Europe-facilitet, der også fremmer intelligent infrastruktur, vil tilvejebringe en fond til tilpasning og udvikling af civil/militær transportinfrastruktur med dobbelt anvendelse for TEN‑T for at øge synergierne mellem civile og militære behov og med henblik på at forbedre den civile og militære mobilitet inden for Unionen; understreger derfor behovet for yderligere europæiske investeringer, forskning og lederskab inden for teknologier med både en høj økonomisk vækst og et betydeligt potentiale for dobbelt anvendelse;

86.  understreger, at mange investeringer i nye teknologier inden for transport og mobilitet er markedsdrevne, men at standardiserede teknologier og produkter med dobbelt anvendelse ofte anvendes på innovative måder til militære formål; understreger, at der skal tages hensyn til potentialet for dobbelt anvendelse i AI-baserede løsninger ved udarbejdelsen af standarder for anvendelse af AI inden for forskellige dele af den kommercielle og militære sektor; opfordrer til, at der medtages høje etiske standarder og politikker i udviklingen af forsvarsteknologier, -produkter og operative principper;

87.  påpeger, at effektiv transport af varer, ammunition, våben og tropper er en væsentlig del af vellykkede militære operationer; understreger, at kunstig intelligens forventes at spille en afgørende rolle og at kunne skabe talrige muligheder for militær logistik og transport; påpeger, at lande overalt i verden, herunder EU's medlemsstater, inkorporerer AI-våben og andre systemer i land-, hav-, luftbaserede platforme; minder om, at anvendelse af AI i transportsektoren kan give nye muligheder og muliggøre nye former for taktik såsom kombination af mange systemer som f.eks. droner, ubemandede fartøjer eller kampvogne i en uafhængig og koordineret operation;

International privatret

88.  bemærker, at et stigende antal tvister, der har forbindelse til den internationale privatret er skabt af internationaliseringen af menneskelige aktiviteter online eller i den virkelige verden, og at kunstig intelligens kan hjælpe med at løse dem ved at skabe modeller til fastlæggelse af kompetence og gældende ret i hvert enkelt tilfælde, men også til at udpege de mest følsomme retskonflikter og foreslå løsninger til at løse dem;

89.  mener imidlertid, at anvendelsen af kunstig intelligens i international privatret kræver passende oplysninger af offentligheden, og at forskelsbehandling igennem programmering undgås, da dette ville føre til en systematisk fremme af en national lovgivning frem for en anden, og respektere dommerens ret forudbestemt ved lov, anfægtelsesmuligheden i overensstemmelse med gældende lov og enhver dommers ret til at afvise den løsning, som kunstig intelligens foreslår;

90.  understreger, at cirkulation af selvkørende køretøjer inden for Unionen, som kan give anledning til et særligt stort antal internationale privatretlige tvister, skal være omfattet af specifikke europæiske regler, der fastlægger de retsregler, som finder anvendelse i tilfælde af grænseoverskridende skader;

91.  påpeger, at EU står over for hård konkurrence i lyset af den stigende betydning af forskning og udvikling i den private sektor og massive investeringer fra tredjelande; støtter derfor EU's bestræbelser på yderligere at udvikle sine konkurrencefordele og mener, at EU bør sigte mod at være den, der sætter standarden for kunstig intelligens i en hyperforbundet verden, ved at vedtage en effektiv strategi over for sine eksterne partnere, idet det intensiverer sine bestræbelser på at fastsætte globale etiske standarder for kunstig intelligens på internationalt plan i overensstemmelse med sikkerhedsregler og forbrugerbeskyttelseskrav såvel som med de europæiske værdier og borgernes rettigheder, herunder grundlæggende rettigheder; mener, at dette også er afgørende for europæiske virksomheders konkurrenceevne og bæredygtighed; opfordrer Kommissionen og medlemsstaterne til at styrke samarbejdet med tredjelande og internationale organisationer såsom FN, OECD, G7 og G20 og til at indgå i en bredere dialog for at tackle de udfordringer, der opstår som følge af udviklingen af denne teknologi i hastig forandring; mener, at disse bestræbelser navnlig bør sigte mod at fastlægge fælles standarder og forbedre interoperabiliteten blandt AI-baserede systemer; opfordrer Kommissionen til at fremme dialog, tættere samarbejde og synergier mellem medlemsstater, forskere, akademikere, civilsamfundsaktører, den private sektor, navnlig førende virksomheder, og militæret, for at sikre, at de politiske beslutningsprocesser vedrørende forsvarsrelaterede AI-regler er inkluderende;

Vejledende principper

92.  mener, at teknologier og netværkssystemer inden for kunstig intelligens bør stræbe mod at skabe retssikkerhed for borgerne; understreger derfor, at lovvalgsreglerne og reglerne om kompetencekonflikter fortsat bør finde anvendelse, samtidig med at der tages hensyn til borgerens interesser samt behovet for at reducere risikoen for forumshopping; minder om, at kunstig intelligens ikke kan erstatte mennesker i forbindelse med retsprocedurer, når der skal afsiges domme eller træffes endelige afgørelser, da sådanne afgørelser altid skal træffes af et menneske og være genstand for streng menneskelig kontrol og en retfærdig procedure; insisterer på, at retsmyndighederne bør være forpligtet til at begrunde deres afgørelser, når de anvender dokumentation, der er frembragt ved hjælp af AI-støttede teknologier;

93.  minder om, at kunstig intelligens er et videnskabeligt fremskridt, som ikke bør føre til en forringelse af lovgivningen, men som tværtimod altid skal være fastlagt af den – i Den Europæiske Union i henhold til lovgivningen i dens institutioner og dens medlemsstater – og at kunstig intelligens, robotteknologier og relaterede teknologier under ingen omstændigheder må stride mod grundlæggende rettigheder, demokrati og retsstatsprincippet;

94.  understreger, at kunstig intelligens, der anvendes til forsvarsformål bør være: ansvarlig, retfærdig, sporbar, pålidelig og offentligt tilgængelig;

95.  mener, at AI, robotteknologi og relaterede teknologier, herunder software, algoritmer og data, der anvendes eller produceres af sådanne teknologier, uanset hvilket område de anvendes inden for, bør udvikles på en sikker og teknisk stringent måde;

o
o   o

96.  pålægger sin formand at sende denne beslutning til Rådet og Kommissionen.

(1) EFT L 180 af 19.7.2000, s. 22.
(2) EFT L 303 af 2.12.2000, s. 16.
(3) EUT L 119 af 4.5.2016, s. 1.
(4) EUT L 119 af 4.5.2016, s. 89.
(5) EUT L 252 af 8.10.2018, s. 1.
(6) EUT C 252 af 18.7.2018, s. 239.
(7) EUT C 307 af 30.8.2018, s. 163.
(8) EUT C 433 af 23.12.2019, s. 86.
(9) EUT C 433 af 23.12.2019, s. 42.
(10) EUT C 449 af 23.12.2020, s. 37.
(11) Europa-Parlamentets og Rådets direktiv 2005/36/EF af 7. september 2005 om anerkendelse af erhvervsmæssige kvalifikationer (EUT L 255 af 30.9.2005, s. 22).
(12) Europa-Parlamentets og Rådets direktiv 2006/42/EF af 17. maj 2006 om maskiner og om ændring af direktiv 95/16/EF (EUT L 157 af 9.6.2006, s. 24).
(13) Europa-Parlamentets og Rådets direktiv (EU) 2018/958 af 28. juni 2018 om en proportionalitetstest forud for vedtagelse af ny regulering af erhverv (EUT L 173 af 9.7.2018, s. 25).

Seneste opdatering: 22. april 2021Juridisk meddelelse - Databeskyttelsespolitik