Index 
 Föregående 
 Nästa 
 All text 
Förfarande : 2020/2013(INI)
Dokumentgång i plenum
Dokumentgång : A9-0001/2021

Ingivna texter :

A9-0001/2021

Debatter :

Omröstningar :

Antagna texter :

P9_TA(2021)0009

Antagna texter
PDF 181kWORD 63k
Onsdagen den 20 januari 2021 - Bryssel
Artificiell intelligens: frågor om tolkning och tillämpning av internationell rätt
P9_TA(2021)0009A9-0001/2021

Europaparlamentets resolution av den 20 januari 2021 om artificiell intelligens: frågor om tolkning och tillämpning av internationell rätt, i den mån som EU påverkas, på de civila och militära användningsområdena och om statens befogenheter utanför det straffrättsliga området (2020/2013(INI))

Europaparlamentet utfärdar denna resolution

–  med beaktande av ingressen till och artiklarna 2, 3, 10, 19, 20, 21, 114,167, 218, 225 och 227 i fördraget om Europeiska unionen,

–  med beaktande av rätten att göra framställningar, som stadgas i artiklarna 20 och 227 i fördraget om Europeiska unionens funktionssätt,

–  med beaktande av Europeiska unionens stadga om de grundläggande rättigheterna,

–  med beaktande av rådets direktiv 2000/43/EG av den 29 juni 2000 om genomförandet av principen om likabehandling av personer oavsett deras ras eller etniska ursprung(1) (direktivet om likabehandling oavsett ras),

–  med beaktande av rådets direktiv 2000/78/EG av den 27 november 2000 om inrättande av en allmän ram för likabehandling(2) (direktivet om likabehandling i arbetslivet),

–  med beaktande av Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG (den allmänna dataskyddsförordningen)(3), och av Europaparlamentets och rådets direktiv (EU) 2016/680 av den 27 april 2016 om skydd för fysiska personer med avseende på behöriga myndigheters behandling av personuppgifter för att förebygga, förhindra, utreda, avslöja eller lagföra brott eller verkställa straffrättsliga påföljder, och det fria flödet av sådana uppgifter och om upphävande av rådets rambeslut 2008/977/RIF(4),

–  med beaktande av rådets förordning (EU) 2018/1488 av den 28 september 2018 om bildande av det gemensamma företaget för ett europeiskt högpresterande datorsystem(5),

–  med beaktande av förslaget till Europaparlamentets och rådets förordning av den 6 juni 2018 om inrättande av programmet för ett digitalt Europa för perioden 2021–2027 (COM(2018)0434),

–  med beaktande av sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik(6),

–  med beaktande av sin resolution av den 1 juni 2017 om digitalisering av den europeiska industrin(7),

–  med beaktande av sin resolution av den 12 september 2018 om autonoma vapensystem(8),

–  med beaktande av sin resolution av den 11 september 2018 om likabehandling av språk i den digitala tidsåldern(9),

–  med beaktande av sin resolution av den 12 februari 2019 om en övergripande europeisk industripolitik för artificiell intelligens och robotteknik(10),

–  med beaktande av meddelandet av den 11 december 2019 från kommissionen till Europaparlamentet, Europeiska rådet, rådet, Europeiska ekonomiska och sociala kommittén och Regionkommittén om den europeiska gröna given (COM(2019)0640),

–  med beaktande av kommissionens vitbok av den 19 februari 2020 Om artificiell intelligens – en EU-strategi för spetskompetens och förtroende (COM(2020)0065),

–  med beaktande av meddelandet från kommissionen till Europaparlamentet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén av den 19 februari 2020 En EU-strategi för data (COM(2020)0066),

–  med beaktande av meddelandet från kommissionen till Europaparlamentet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén av den 19 februari 2020 Att forma EU:s digitala framtid (COM(2020)0067),

–  med beaktande av rapporten Etiska riktlinjer för tillförlitlig AI av den 8 april 2019 från expertgruppen på hög nivå för AI-frågor, inrättad av kommissionen i juni 2018,

–  med beaktande av Europarådets ramkonvention om skydd för nationella minoriteter, protokoll nr 12 till konventionen om skydd för de mänskliga rättigheterna och de grundläggande friheterna samt den europeiska stadgan om landsdels- eller minoritetsspråk,

–  med beaktande av den europeiska etiska stadgan om användning av artificiell intelligens i rättssystemen och deras omgivande områden, som antogs av Europarådets arbetsgrupp för rättsväsendets kvalitet (CEPEJ-GT-QUAL) i december 2018,

–  med beaktande av OECD-rådets rekommendation om artificiell intelligens, som antogs den 22 maj 2019,

–  med beaktande av artikel 54 i arbetsordningen,

–  med beaktande av yttrandena från utskottet för utrikesfrågor, utskottet för den inre marknaden och konsumentskydd, utskottet för transport och turism och utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor,

–  med beaktande av betänkandet från utskottet för rättsliga frågor (A9-0001/2021), och av följande skäl:

Inledning

A.  Artificiell intelligens (AI), robotteknik och tillhörande teknik utvecklas snabbt och har en direkt inverkan på alla aspekter av våra samhällen, inbegripet grundläggande sociala och ekonomiska principer och värden.

B.  AI håller på att orsaka en revolution inom militär doktrin och krigsmateriel genom en genomgripande förändring av hur stridskrafterna agerar, huvudsakligen på grund av en integrering och användning av ny teknik och autonom kapacitet.

C.  Det är människor som ligger bakom utvecklingen och utformningen av så kallad artificiell intelligens, robotteknik och tillhörande teknik, och det är deras val som avgör teknikens potential att gynna samhället.

D.  En gemensam unionsram måste omfatta utveckling, ibruktagande och användning av AI, robotteknik och tillhörande teknik och säkerställa respekten för mänsklig värdighet och mänskliga rättigheter i enlighet med Europeiska unionens stadga om de grundläggande rättigheterna.

E.  Eftersom AI, robotteknik och tillhörande teknik kan användas över gränserna har unionen och dess medlemsstater ett särskilt ansvar för att se till att dessa tekniker är människocentrerade, det vill säga i grunden avsedda att användas i mänsklighetens tjänst och för det allmännas bästa, i syfte att bidra till medborgarnas välbefinnande och allmänna intresse. Unionen bör hjälpa medlemsstaterna att uppnå detta, särskilt de som har börjat reflektera över en eventuell utveckling av rättsliga normer eller lagstiftningsändringar på området.

F.  EU-medborgarna skulle kunna dra nytta av en lämplig, ändamålsenlig, transparent och sammanhållen regleringsstrategi på unionsnivå som fastställer tillräckligt tydliga villkor för att företag ska kunna utveckla tillämpningar och planera sina affärsmodeller, samtidigt som unionen och dess medlemsstater behåller kontrollen över de bestämmelser som ska fastställas, så att de inte tvingas anta eller godta andras normer.

G.  Etisk vägledning, såsom de principer som antagits av högnivåexpertgruppen för artificiell intelligens, är en bra utgångspunkt, men räcker inte för att säkerställa att företagen ägnar sig åt rent spel och garantera ett verkningsfullt skydd för enskilda.

H.  Detta särskilda ansvar innebär ett behov att undersöka frågor om tolkning och tillämpning av internationell rätt i samband med EU:s aktiva deltagande i internationella förhandlingar, i den mån som EU påverkas av den civila och militära användningen av denna typ av AI, robotteknik och tillhörande teknik, och frågor om statens befogenheter över sådan teknik ligger utanför det straffrättsliga området.

I.  Det är väsentligt med lämpliga och heltäckande rättsliga ramar för de etiska aspekterna av dessa tekniker, liksom för skadeståndsansvar, transparens och ansvarsskyldighet (i synnerhet för AI, robotteknik och tillhörande teknik som anses utgöra högriskteknik). Dessa ramar måste återspegla att de till sin natur europeiska och universella humanistiska värdena är tillämpliga på hela värdekedjan i utvecklingen, genomförandet och användningen av AI. Dessa etiska ramar måste tillämpas på utveckling (inbegripet forskning och innovation), ibruktagande och användning av AI, med full respekt för unionsrätten och de värden som fastställs i Europeiska unionens stadga om de grundläggande rättigheterna.

J.  Syftet med denna undersökning är att fastställa i vilken utsträckning reglerna i internationell offentlig rätt och privaträtt och EU-rätten är anpassade för att hantera denna teknik och att belysa de utmaningar och risker som tekniken innebär för statliga befogenheter, så att den kan hanteras på ett korrekt och proportionerligt sätt.

K.  Kommissionen har inte beaktat de militära aspekterna av användningen av artificiell intelligens i sin vitbok.

L.  En harmoniserad EU-strategi för dessa problem kräver en gemensam definition av AI samt åtgärder som säkerställer att EU:s grundläggande värden, principerna i stadgan om de grundläggande rättigheterna och internationell människorättslagstiftning upprätthålls.

M.  AI erbjuder aldrig tidigare skådade möjligheter att förbättra resultaten inom transportsektorn genom att bemöta utmaningarna med ökande efterfrågan på resor, säkerhet och miljö, samtidigt som alla transportsätt görs smartare, effektivare och bekvämare.

N.  Att frågan om AI inom försvaret behandlas på EU-nivå är helt nödvändigt för att utveckla EU-kapacitet i denna sektor.

Definition av artificiell intelligens

1.  Europaparlamentet anser att det är nödvändigt att anta gemensamma europeiska rättsliga ramar med harmoniserade definitioner och gemensamma etiska principer, även för användning av AI för militära ändamål. Parlamentet uppmanar därför kommissionen att anta följande definitioner:

   AI-system: ett system som antingen är programvarubaserat eller inbyggt i maskinvaruenheter och som uppvisar ett beteende som simulerar intelligens, bland annat genom att samla in och behandla data, analysera och tolka sin miljö och vidta åtgärder, med en viss grad av autonomi, för att uppnå specifika mål.
   autonomt system: ett AI-system vars funktion bygger på att det tolkar vissa indata och tillämpar en uppsättning förutbestämda instruktioner, utan att det är begränsat till dessa instruktioner, trots att systemets beteende begränsas av och är inriktat på att uppnå det mål som det tilldelats och andra relevanta utformningsval som gjorts av dess utvecklare.

2.  Europaparlamentet framhåller att Europeiska unionens och dess medlemsstaters säkerhets- och försvarspolitik vägleds av de principer som stadfästs i Europeiska unionens stadga om de grundläggande rättigheterna och i FN-stadgan – där alla stater uppmanas att avstå från hot om eller användning av våld i sina förbindelser med varandra – samt av folkrätten, principerna om mänskliga rättigheter och respekt för människans värdighet och en gemensam förståelse av de universella värden som utgörs av människans okränkbara och oförytterliga rättigheter, frihet, demokrati, jämlikhet och rättsstaten. Parlamentet påpekar att all försvarsrelaterad verksamhet inom unionens ramar måste respektera dessa universella värden, samtidigt som den främjar fred, stabilitet, säkerhet och framsteg i Europa och i världen.

Folkrätten och militära användningsområden för artificiell intelligens

3.  Europaparlamentet anser att AI som används i ett militärt och civilt sammanhang måste vara föremål för meningsfull mänsklig kontroll, så att en människa alltid har möjlighet att korrigera, avbryta eller inaktivera tekniken i händelse av oförutsett beteende, oavsiktligt ingripande, it-angrepp eller inblandning av tredjeparter i AI-baserad teknik eller när tredjeparter förvärvar sådan teknik.

4.  Europaparlamentet anser att respekten för folkrätten, i synnerhet internationell humanitär rätt, som otvetydigt är tillämplig på alla vapensystem och deras operatörer, är ett grundläggande krav som medlemsstaterna måste uppfylla, särskilt när de skyddar civilbefolkningen eller vidtar säkerhetsåtgärder i händelse av ett angrepp såsom militär aggression eller cyberkrigföring.

5.  Europaparlamentet framhåller att AI och tillhörande teknik också kan spela en roll i irreguljär eller okonventionell krigföring. Parlamentet föreslår att forskning, utveckling och användning av AI i sådana fall bör omfattas av samma villkor som användningen i konventionella konflikter.

6.  Europaparlamentet betonar att användningen av AI erbjuder en möjlighet att stärka säkerheten för EU och dess medborgare, och att det är mycket viktigt att unionen intar ett integrerat förhållningssätt i framtida internationella debatter om denna fråga.

7.  Europaparlamentet uppmanar alla som forskar om AI att integrera denna princip i alla ovannämnda AI-baserade system som är avsedda för militär användning. Parlamentet anser att ingen myndighet får göra något undantag från dessa principer eller certifiera ett sådant system.

8.  Europaparlamentet upprepar att autonomt beslutsfattande inte bör frita människor från ansvar och att människor alltid måste ha det yttersta ansvaret för beslutsprocesser, så att den person som är ansvarig för beslutet kan identifieras.

9.  Europaparlamentet betonar att medlemsstaterna, parterna i en konflikt och enskilda individer under användningen av AI i ett militärt sammanhang alltid måste uppfylla sina skyldigheter enligt tillämplig internationell rätt och ta ansvar för åtgärder som följer av användningen av sådana system. Parlamentet understryker att förutsedda, oavsiktliga eller oönskade åtgärder och följder av AI-baserade system under alla omständigheter måste betraktas som medlemsstaternas, konfliktparternas och de enskilda personernas ansvar.

10.  Europaparlamentet välkomnar möjligheterna att använda system med artificiell intelligens för utbildning och övningar, vars potential inte bör underskattas, särskilt med tanke på att EU genomför övningar med dubbel civil och militär karaktär.

11.  Europaparlamentet betonar att man under utformningen, utvecklingen, testningen, ibruktagandet och användningen av AI-baserade system alltid måste ta vederbörlig hänsyn till potentiella risker, särskilt med avseende på oavsiktliga civila dödsoffer och personskador, oavsiktliga förluster av människoliv och skador på civil infrastruktur, liksom risker i samband med oavsiktliga insatser, manipulering, spridning, it-angrepp, ingrepp av tredje parter i autonom AI-baserad teknik, eller när tredje parter förvärvar sådan teknik.

12.  Europaparlamentet påminner om att originalitetsprincipen, enligt Internationella domstolens rådgivande yttrande av den 8 juli 1996, inte kan åberopas till stöd för något undantag när det gäller efterlevnaden av gällande normer i internationell humanitär rätt.

13.  Europaparlamentet anser att AI, utöver stödinsatser, även kommer att gynna de väpnade styrkornas tjänstepersonal genom massbehandling av deras hälsodata och utvidgad hälsoövervakning, identifiera riskfaktorer med anknytning till deras omgivning och arbetsförhållanden och föreslå lämpliga skyddsåtgärder för att begränsa hälsokonsekvenserna för tjänstepersonalen.

14.  Europaparlamentet upprepar att regleringsarbetet måste stödjas av meningsfulla certifierings- och övervakningssystem samt tydliga mekanismer för granskningsmöjligheter, förklarbarhet, ansvarsskyldighet och spårbarhet, så att regelverket inte blir föråldrat till följd av den tekniska utvecklingen.

15.  Europaparlamentet betonar hur viktigt det är, i en hyperuppkopplad värld, att EU deltar i skapandet av internationella rättsliga ramar för användning av artificiell intelligens. EU uppmanas kraftfullt att ta ledningen och, tillsammans med FN och det internationella samfundet, inta en aktiv roll för att främja dessa globala ramar för användningen av AI för militära och andra ändamål och se till att denna användning hålls inom de strikta gränser som fastställs i internationell rätt och internationell humanitär rätt, särskilt Genèvekonventionerna av den 12 augusti 1949. Parlamentet betonar att dessa ramar aldrig får bryta mot, eller tillåta brott mot, det allmänna samvetets och mänsklighetens bud, såsom anges i Martensklausulen, och måste vara förenliga med säkerhetsregler och konsumentskyddskrav. EU och medlemsstaterna uppmanas kraftfullt att fastställa robusta övervaknings- och utvärderingssystem för utvecklingen av AI-teknik, särskilt sådan som används för militära ändamål i auktoritära stater.

16.  Europaparlamentet framhåller att robottekniken inte bara kommer att göra det möjligt för militär personal att hålla sig på avstånd, utan även sörja för bättre egenskydd, till exempel i insatser i kontaminerade miljöer, brandbekämpning, minröjning på land eller till sjöss och försvar mot drönarsvärmar.

17.  Europaparlamentet betonar att utveckling, ibruktagande, användning och hantering av AI måste respektera de grundläggande rättigheter, värden och friheter som stadgas i EU‑fördragen, och uppmanar medlemsstaterna att avstå från att införa AI-system med hög risk som hotar de grundläggande rättigheterna. Parlamentet noterar offentliggörandet av kommissionens vitbok om artificiell intelligens och uppmuntrar till mer djupgående forskning om de potentiella risker för de grundläggande rättigheterna som är förknippade med att statliga myndigheter och EU:s byråer, organ och institutioner använder AI.

18.  Europaparlamentet uppmanar kommissionen att underlätta forskning och diskussioner kring möjligheterna att använda AI för katastrofhjälp och krisförebyggande och fredsbevarande insatser.

19.  Europaparlamentet välkomnar inrättandet av en FN-grupp med regeringsexperter på området för främjande av staters ansvarsfulla agerande i cyberrymden i samband med internationell säkerhet, och uppmanar EU att delta fullt ut i gruppens arbete.

20.  Europaparlamentet uppmanar vice ordföranden för kommissionen/unionens höga representant för utrikes frågor och säkerhetspolitik (vice ordföranden/den höga representanten) att bana väg för globala förhandlingar i syfte att inrätta ett system för kontroll av AI-vapen och uppdatera alla befintliga fördragsinstrument om vapenkontroll, nedrustning och icke-spridning för att beakta AI-baserade system som används i krigföring. Parlamentet begär att rådets gemensamma ståndpunkt om fastställande av gemensamma regler för kontrollen av export av militär teknik och krigsmateriel fullt ut ska beakta och omfatta AI-baserade vapensystem.

21.  Europaparlamentet upprepar att dessa regler alltid måste vara förenliga med principerna i Romkonventionen av den 17 juli 1998 om förbud mot folkmord, brott mot mänskligheten och krigsförbrytelser.

22.  Europaparlamentet pekar på de uppenbara riskerna med beslut som fattas av människor som enbart förlitar sig på data, profiler och rekommendationer som genereras av maskiner. Parlamentet påpekar att AI-systemens övergripande utformning också bör omfatta riktlinjer för mänsklig övervakning och uppsikt. Parlamentet begär att en skyldighet ska införas avseende tydlighet och förklarbarhet för AI-tillämpningar och behovet av mänskligt ingripande, liksom andra åtgärder som oberoende revisioner och särskilda stresstester för att underlätta och säkerställa efterlevnad. Parlamentet betonar att sådana revisioner bör utföras regelbundet av en oberoende myndighet som skulle övervaka AI-tillämpningar med hög risk som används av statliga myndigheter eller militären.

23.  Europaparlamentet betonar vikten av att kontrollera hur AI-teknik med hög risk kommer fram till beslut. Parlamentet påminner om att principerna om icke‑diskriminering och proportionalitet måste respekteras och att frågor om orsakssamband, skadeståndsansvar och ansvarsskyldighet samt insyn, redovisningsskyldighet och förklarbarhet måste klargöras för att avgöra huruvida, eller i vilken utsträckning, staten som en folkrättslig aktör, men även i utövandet av sina egna befogenheter, kan agera med hjälp av AI-baserade system med en viss autonomi, utan att bryta mot skyldigheter som härrör från internationell rätt, såsom ett korrekt rättsförfarande.

24.  Europaparlamentet insisterar på vikten av att investera i mänsklig kompetens, däribland digital kompetens, för att anpassa sig till de vetenskapliga framsteg som inbegriper AI‑baserade lösningar för personer som utövar reglerade yrken, inklusive verksamhet i samband med utövandet av statens befogenheter, såsom rättskipning. Parlamentet uppmanar medlemsstaterna och kommissionen att ta vederbörlig hänsyn till detta inom ramen för genomförandet av direktiv 2005/36/EG(11).

25.  Europaparlamentet insisterar på att AI-system alltid måste följa principerna om ansvar, rättvisa, styrbarhet, försiktighet, ansvarsskyldighet, hänförbarhet, förutsägbarhet, spårbarhet, tillförlitlighet, pålitlighet, transparens, förklarbarhet, förmåga till upptäckt av eventuella förändringar i omständigheterna och den operativa miljön, urskillning mellan stridande och icke-stridande samt proportionalitet. Parlamentet betonar att den sistnämnda principen ställer som villkor för att en militär åtgärd ska vara laglig att det finns en balans mellan det eftersträvade målet och de medel som används, och att proportionalitetsbedömningen alltid måste göras av en människa.

26.  Europaparlamentet betonar att det vid användning av AI-baserade system inom säkerhet och försvar behövs en övergripande situationsförståelse hos den mänskliga operatören och förutsägbarhet, tillförlitlighet och motståndskraft hos det AI-baserade systemet, liksom att den mänskliga aktören kan upptäcka eventuella förändringar i omständigheterna och den operativa miljön och kan ingripa i eller avbryta ett angrepp, så att principerna i internationell humanitär rätt, särskilt urskillning, proportionalitet och försiktighet vid angrepp, tillämpas fullt ut i hela befäls- och kontrollkedjan. Parlamentet betonar att AI-baserade system måste göra det möjligt för de ansvariga personerna att utöva meningsfull kontroll, ta fullt ansvar för systemen och vara ansvarsskyldiga för all användning av dem. Parlamentet uppmanar kommissionen att främja dialog, närmare samarbete och synergier mellan medlemsstaterna, forskare, akademiker, aktörer i det civila samhället, den privata sektorn, särskilt ledande företag, samt militären, för att säkerställa en bred medverkan i de politiska beslutsprocesserna för försvarsrelaterade AI-bestämmelser.

27.  Europaparlamentet har efterlyst ett utarbetande och ett skyndsamt antagande av en gemensam ståndpunkt om dödliga autonoma vapensystem vilken förhindrar utveckling, framställning och användning av dödliga autonoma vapensystem som kan utföra angrepp utan meningsfull mänsklig kontroll, liksom inledandet av verkliga förhandlingar för att förbjuda dem. Parlamentet påminner i detta avseende om sin resolution av den 12 september 2018 om autonoma vapensystem. Parlamentet påminner om att termen ”dödliga autonoma vapensystem” avser vapensystem utan meningsfull mänsklig kontroll över de kritiska funktionerna att rikta in sig på och angripa enskilda mål. Parlamentet betonar att beslutet att välja ut ett mål och vidta dödliga åtgärder med hjälp av vapensystem med en viss grad av autonomi alltid måste fattas av mänskliga operatörer som har meningsfull kontroll, uppsikt och det nödvändiga omdömet i enlighet med principerna om proportionalitet och nödvändighet. Parlamentet betonar att AI-baserade system inte under några omständigheter kan tillåtas att ersätta mänskligt beslutsfattande på detta område.

28.  Europaparlamentet konstaterar vidare att autonoma vapensystem, som en särskild kategori av AI på det militära området, bör diskuteras och bli föremål för internationella överenskommelser, särskilt inom forumet om FN:s konvention om vissa konventionella vapen. Parlamentet uppmärksammar den pågående internationella debatten om dödliga autonoma vapensystem i syfte att reglera framväxande militär teknik, som hittills inte har resulterat i någon överenskommelse. Parlamentet påpekar att man i EU först nyligen har enats om att diskutera AI-utvecklingens och digitaliseringens följder för försvarssektorn. Parlamentet tror att EU kan spela en avgörande roll för att hjälpa medlemsstaterna att harmonisera sitt synsätt när det gäller militär AI, så att man kan leda de internationella diskussionerna.

29.  Europaparlamentet insisterar på att det behövs en EU-omfattande strategi mot dödliga autonoma vapensystem och ett förbud mot så kallade mördarrobotar.

30.  Europaparlamentet betonar att AI som används i ett militärt sammanhang måste uppfylla en uppsättning minimikrav, nämligen att kunna skilja mellan stridande, icke-stridande och stridande på slagfältet, förstå när en stridande kapitulerar eller är försatt ur stridbart skick, inte ha urskillningslösa effekter, inte orsaka onödigt mänskligt lidande, inte vara snedvridet eller upplärt på grundval av avsiktligt ofullständiga uppgifter samt följa principerna i internationell humanitär rätt, proportionalitet i användningen av våld och försiktighet före ingripande.

31.  Europaparlamentet anser att användningen av dödliga autonoma vapensystem ger upphov till grundläggande etiska och juridiska frågor om människors förmåga att kontrollera dessa system, och kräver att AI-baserad teknik inte ska kunna fatta självständiga beslut som inbegriper de rättsliga principerna om urskillning, proportionalitet och försiktighet.

32.  Europaparlamentet efterlyser transparenta riskreducerande åtgärder på internationell nivå för utveckling och användning av militär AI, i synnerhet med avseende på principerna om territoriell integritet, icke-ingripande och användning av våld. Det är viktigt att beakta de militära aspekterna när rättsliga och etiska frågor behandlas inom den europeiska ramen för AI. Parlamentet påminner om sin ståndpunkt om ett förbud mot utveckling, tillverkning och användning av dödliga autonoma vapensystem. Parlamentet beklagar att det inte finns några uttryckliga globala konventioner om användningen av dessa vapen.

33.  Europaparlamentet erkänner att den moderna kapprustning som är resultatet av att större militära nationalstater utvecklar dödliga autonoma vapensystem går snabbare än arbetet med gemensamma regler och rättsliga ramar och en verkningsfull universell tillämpning och efterlevnad av dessa, eftersom information om utveckling och ibruktagande av sådana system är hemligstämplad och nationalstater har ett inneboende intresse av att skapa den snabbaste och mest slagkraftiga offensiva kapaciteten, oberoende av nuvarande eller möjliga framtida rättsliga ramar eller principer.

34.  Europaparlamentet anser att dödliga autonoma vapensystem endast bör användas som en sista utväg och är lagliga endast om de står under strikt mänsklig kontroll, med en människa som när som helst kan ta över befälet, eftersom det är väsentligt med meningsfullt mänskligt ingripande och mänsklig övervakning för att fatta beslut med dödliga följder, och eftersom människor alltid bör vara ansvariga när beslut som gäller liv och död ska fattas. System helt utan mänsklig kontroll (”human off the loop”) och mänsklig uppsikt måste förbjudas, utan undantag och under alla omständigheter.

35.  Europaparlamentet uppmanar vice ordföranden/den höga representanten, medlemsstaterna och Europeiska rådet att snarast utarbeta och anta en gemensam ståndpunkt om autonoma vapensystem som säkerställer meningsfull mänsklig kontroll över vapensystemens kritiska funktioner, även när de sätts in, så att man talar med en röst i relevanta forum och agerar i enlighet med detta. Parlamentet uppmanar i detta sammanhang vice ordföranden/den höga representanten, medlemsstaterna och rådet att utbyta bästa praxis och inhämta synpunkter från experter, akademiker och det civila samhället, i enlighet med ståndpunkten av den 12 september 2018 om autonoma vapensystem, där det anges att angrepp alltid bör genomföras med betydande mänsklig medverkan.

36.  Europaparlamentet uppmuntrar alla stater att göra en bedömning av huruvida och hur autonoma militära enheter har bidragit till deras nationella säkerhet och vad deras nationella säkerhet skulle kunna vinna på AI-baserade vapensystem, i synnerhet när det gäller teknikens potential att stödja och förbättra mänskligt beslutsfattande i överensstämmelse med internationell humanitär rätt och dess principer. Parlamentet påminner om att alla dödliga autonoma vapensystem eller vapen med hög grad av autonomi kan råka ut för funktionsfel på grund av illa skriven kod eller ett it-angrepp som utförs av en fiendestat eller en icke-statlig aktör.

37.  Europaparlamentet betonar att dödliga autonoma vapensystem bara bör användas i tydligt definierade fall och i enlighet med tillståndsförfaranden som fastställts i detalj i förväg, i dokument till vilka den berörda staten – oavsett om denna är medlem i Nordatlantiska fördragsorganisationen eller inte – garanterar tillgång för allmänheten, eller åtminstone för sitt nationella parlament.

38.  Europaparlamentet anser att dödliga autonoma vapensystem måste följa bestämmelserna i konventionen av den 10 oktober 1980 om vissa konventionella vapen, inbegripet förbudet mot vapen som anses vara ”ytterst skadebringande”.

39.  Europaparlamentet föreslår att dödliga autonoma vapensystem, för att förhindra en okontrollerad spridning av dem, tas med i förteckningen över vapen som omfattas av bestämmelserna i vapenhandelsfördraget av den 2 april 2013, som återfinns i artikel 2 i detta fördrag.

40.  Europaparlamentet begär att människoliknande dödliga autonoma vapensystem ska förbjudas, i syfte att utesluta alla möjligheter att människor förväxlas med robotar.

41.  Europaparlamentet välkomnar överenskommelsen mellan rådet och parlamentet om att utesluta dödliga autonoma vapen ”utan möjlighet till meningsfull mänsklig kontroll över urvals- och uppdragsbeslut vid anfall” från åtgärder som finansieras inom ramen för Europeiska försvarsfonden. Parlamentet påminner om sin ståndpunkt att användningen, utvecklingen eller tillverkningen av dödliga autonoma vapensystem utan meningsfull mänsklig kontroll inte berättigar till finansiering inom ramen för Europeiska försvarsfonden.

42.  Europaparlamentet uppmanar kommissionen att stödja forskning om samt utveckling, ibruktagande och användning av AI för att bevara freden och förebygga konflikter.

43.  Europaparlamentet konstaterar att det globala AI-ekosystemet domineras av amerikanska och kinesiska digitala jättar, som utvecklar inhemsk kapacitet och köper upp många lovande företag. Parlamentet är därför fast övertygat om att EU, för att inte hamna på efterkälken när det gäller tekniken för artificiell intelligens, måste sträva efter en bättre balans mellan grundforskning och industriella tillämpningar, samtidigt som man utvecklar komparativa strategiska fördelar genom att ytterligare bygga upp sin egen potential och sina egna resurser.

44.  Europaparlamentet betonar att robotar, i den mån de omfattas av den definition av maskiner som anges i direktiv 2006/42/EG(12), bör utformas och konstrueras i enlighet med de normer och säkerhetsåtgärder som föreskrivs i det direktivet.

45.  Europaparlamentet påminner om EU:s ambition att verka för fred i världen, och begär att EU ska utöka sin roll i de globala ansträngningarna för nedrustning och icke-spridning och att unionen med sina åtgärder och sin politik ska sträva efter att bevara internationell fred och säkerhet samt säkerställa respekten för internationell humanitär rätt och människorättslagstiftning och skyddet av civilbefolkningen och civil infrastruktur.

46.  Europaparlamentet betonar behovet att undersöka AI:s potentiella inverkan som en strategisk faktor för EU:s gemensamma säkerhets- och försvarspolitik (GSFP), särskilt i militära och civila uppdrag och insatser, och utvecklingen av EU-kapacitet.

47.  Europaparlamentet påminner om att våra allierade, inom nationella ramar, Nato eller EU, själva håller på att integrera AI i sina militära system. Parlamentet anser att interoperabiliteten med våra allierade måste bevaras genom gemensamma standarder, som är väsentliga för genomförandet av insatser i koalitioner. Förutom detta påminner parlamentet om att samarbete kring AI bör ske inom en europeisk ram, som är den enda relevanta ramen för att verkligen uppnå kraftfulla synergieffekter, såsom föreslås i EU:s AI-strategi.

48.  Europaparlamentet anser att EU noggrant måste övervaka och beakta konsekvenserna av framsteg inom AI för försvar och krigföring, inbegripet potentiellt destabiliserande utveckling och användning, och vägleda etisk forskning och utformning, så att integriteten för personuppgifter och enskildas tillgång och kontroll säkerställs samt hänsyn tas till ekonomiska och humanitära frågor.

49.  Europaparlamentet erinrar om sin ståndpunkt av den 12 september 2018 om autonoma vapensystem, i vilken det slås fast att anfall inte får genomföras utan meningsfull mänsklig medverkan. Parlamentet uppmanar vice ordföranden/den höga representanten, medlemsstaterna och Europeiska rådet att anta en gemensam ståndpunkt om autonoma vapensystem som säkerställer meningsfull mänsklig kontroll över vapensystemens kritiska funktioner, även när de sätts in. Parlamentet bekräftar sitt stöd för arbetet avseende dödliga autonoma vapensystem inom FN:s grupp med statliga experter från de höga fördragsslutande parterna i konventionen om vissa konventionella vapen, som förblir det relevanta internationella forumet för diskussioner och förhandlingar om de juridiska utmaningar som autonoma vapensystem innebär. Parlamentet begär att alla pågående multilaterala insatser påskyndas, så att de normativa och rättsliga ramarna inte blir omsprungna av den tekniska utvecklingen och nya krigföringsmetoder. Parlamentet uppmanar vice ordföranden/den höga representanten att – inom ramen för de pågående diskussionerna om internationell reglering av dödliga autonoma vapensystem mellan de stater som är parter i konventionen om vissa konventionella vapen – hålla fast vid sitt engagemang och hjälpa till att snarast möjligt få igång arbetet med att utveckla ett nytt globalt regelverk och ett rättsligt bindande instrument som är inriktat på definitioner, begrepp och kännetecken avseende ny teknik på området för dödliga autonoma vapensystem, etiska och juridiska frågor om mänsklig kontroll, i synnerhet med avseende på deras kritiska funktioner såsom urval av och insatser mot mål, upprätthållandet av människans ansvar och ansvarsskyldighet samt den nödvändiga graden av samspel mellan människa och maskin, inklusive begreppet mänsklig kontroll och mänskligt omdöme. Parlamentet efterlyser dessa insatser för att säkerställa efterlevnad av internationell humanitär rätt och människorättslagstiftning under de olika stadierna av AI-baserade vapens livscykel, i syfte att nå överenskommelser om specifika rekommendationer för förtydligande, beaktande och utveckling av aspekter av de normativa ramarna för ny teknik på området för dödliga autonoma vapensystem.

50.  Europaparlamentet anser att en verkningsfull mekanism för att verkställa reglerna om icke-spridning av dödliga autonoma vapensystem och all framtida offensiv AI-baserad teknik är av yttersta vikt för den globala säkerheten.

Statens befogenheter: exempel från civila områden, bland annat folkhälsa och rättsliga frågor

51.  Europaparlamentet betonar att medlemsstaterna måste agera kraftfullt för att minska sitt beroende av utländska data och, utan att påtagligt snedvrida marknaden, se till att den mycket sofistikerade AI-teknik som stora privata koncerner förfogar över inte leder till att statens befogenheter ifrågasätts eller till och med tillskansas av privata enheter, särskilt om dessa privata koncerner ägs av ett tredjeland utanför EU.

52.  Europaparlamentet betonar att användningen av AI-system i offentliga myndigheters beslutsprocess kan leda till skeva beslut som påverkar medborgarna negativt, och därför bör bli föremål för strikta kontrollkriterier avseende bland annat säkerhet, transparens, ansvarsskyldighet, icke-diskriminering samt socialt ansvar och miljöansvar. Medlemsstaterna uppmanas kraftfullt att bedöma riskerna i samband med AI-baserade beslut i anknytning till utövandet av statliga befogenheter och att tillhandahålla skyddsåtgärder såsom meningsfull mänsklig övervakning, transparenskrav och möjligheten att bestrida sådana beslut.

53.  Europaparlamentet uppmanar eftertryckligen medlemsstaterna att bedöma riskerna med AI-baserad teknik innan de automatiserar verksamhet med koppling till utövandet av statliga befogenheter såsom rättskipning. Parlamentet uppmanar medlemsstaterna att överväga behovet att införa skyddsåtgärder såsom tillsyn av en kvalificerad yrkesperson och strikta yrkesetiska regler.

54.  Europaparlamentet betonar vikten av att agera på EU-nivå för att bidra till att främja välbehövliga investeringar, datainfrastruktur, forskning, inbegripet forskning om myndigheters användning av artificiell intelligens, och gemensamma etiska ramar.

55.  Europaparlamentet betonar att EU måste sträva efter strategisk motståndskraft så att unionen inte ännu en gång står oförberedd i händelse av en kris, och understryker att detta är av avgörande betydelse, inte minst när det handlar om artificiell intelligens och dess militära tillämpningar. Parlamentet betonar att leveranskedjor för militära AI‑system som kan leda till teknikberoende bör ses över och att sådana beroenden bör fasas ut. Parlamentet begär ökade investeringar i både europeisk artificiell intelligens för försvaret och den kritiska infrastruktur som understöder den.

56.  Europaparlamentet uppmanar kommissionen att bedöma konsekvenserna av ett moratorium för användningen av system för ansiktsigenkänning och att, beroende på utfallet av denna bedömning, överväga ett moratorium för offentliga myndigheters användning av dessa system på offentliga platser och i lokaler som är avsedda för utbildning och hälso- och sjukvård, liksom för brottsbekämpande myndigheters användning av system för ansiktsigenkänning på halvoffentliga platser såsom flygplatser, till dess att de tekniska standarderna kan anses vara helt förenliga med de grundläggande rättigheterna, de resultat man får fram inte är snedvridande eller diskriminerande och det finns strikta skyddsåtgärder mot missbruk som säkerställer nödvändighet och proportionalitet i användningen av sådana tekniker.

57.  Europaparlamentet betonar vikten av it-säkerhet för AI, både i offensiva och defensiva scenarier. I detta sammanhang är det viktigt med internationellt samarbete och offentliggörande och utbyte av sårbarheter och avhjälpande åtgärder på it-säkerhetsområdet. Parlamentet efterlyser ett internationellt it-säkerhetssamarbete för att AI ska kunna användas och sättas in på ett effektivt sätt samt skyddsåtgärder mot missbruk av AI och it-angrepp. Parlamentet noterar vidare att it-system och AI har dubbla användningsområden (dvs. användning för civila och militära ändamål) och efterlyser en ändamålsenlig reglering av detta.

58.  Europaparlamentet anser att medlemsstaterna bör främja AI-teknik som arbetar för människor, och att personer som varit föremål för ett beslut som fattats av en myndighet på grundval av information från ett AI-system utan dröjsmål bör informeras om detta, erbjudas möjligheten att överklaga beslutet och kunna välja att detta överklagande ska avgöras utan ingripande av ett AI-system. Parlamentet uppmanar medlemsstaterna att överväga behovet att införa skyddsåtgärder, enligt vad som föreskrivs i direktiv (EU) 2018/958(13), såsom tillsyn av en kvalificerad yrkesperson och yrkesetiska regler.

59.  Europaparlamentet understryker att förutsägelser på grundval av delning av, tillgång till eller användning av data måste styras av kraven på kvalitet, dataintegritet, transparens, säkerhet, personlig integritet och kontroll. Parlamentet betonar att EU:s rättsliga ramar för uppgiftsskydd och personlig integritet måste respekteras under hela utvecklingen, ibruktagandet och användningen av AI, robotteknik och tillhörande teknik, så att medborgarnas säkerhet och deras förtroende för dessa tekniker ökar.

60.  Europaparlamentet noterar den snabba utvecklingen av AI-tillämpningar som kan känna igen unika kännetecken, såsom ansiktsdrag, rörelsemönster och förhållningssätt. Parlamentet varnar för problem som rör intrång i privatlivet, icke-diskriminering och skydd av personuppgifter i samband med användning av tillämpningar för automatisk igenkänning.

61.  Europaparlamentet understryker att alla beslut om en fysisk person som enbart grundar sig på automatiserad behandling, inbegripet profilering, och som har negativa rättsliga följder för den registrerade eller i betydande grad påverkar denne, är förbjudna enligt den allmänna dataskyddsförordningen såvida de inte är tillåtna enligt unionsrätten eller en medlemsstats nationella rätt, med förbehåll för lämpliga åtgärder som skyddar den registrerades fri- och rättigheter och berättigade intressen.

62.  Europaparlamentet begär att algoritmer ska vara förklarbara, att transparens ska råda och att tillsyn ska säkerställas när artificiell intelligens används av offentliga myndigheter, och att konsekvensbedömningar ska genomföras innan statliga myndigheter börjar använda verktyg med AI-teknik. Parlamentet uppmanar kommissionen och Europeiska dataskyddsstyrelsen att utfärda riktlinjer och rekommendationer och utveckla bästa praxis för att ytterligare specificera de kriterier och villkor som är tillämpliga på beslut som bygger på profilering och offentliga myndigheters användning av AI.

63.  Europaparlamentet konstaterar att artificiell intelligens spelar en allt viktigare roll inom hälso- och sjukvården, särskilt genom algoritmer som stöd för diagnostisering, robotstödd kirurgi, smarta proteser, individanpassade behandlingar som bygger på tredimensionell modellering av patientens kropp, sociala robotar som hjälper äldre, digital terapi som är utformad för att öka vissa psykiskt sjuka personers oberoende, prediktiv medicin samt program för epidemisk beredskap.

64.  Europaparlamentet insisterar dock på att all användning av AI inom hälso- och sjukvården måste garantera skyddet av patienternas personuppgifter och förhindra okontrollerad spridning av dessa uppgifter.

65.  Europaparlamentet begär att all användning av AI inom hälso- och sjukvården ska upprätthålla principen om likabehandling av patienter i fråga om tillgång till behandling, bevara relationen mellan patient och läkare och alltid vara förenlig med den hippokratiska eden, så att läkaren alltid kan avvika från den lösning som föreslås av AI och därmed behåller ansvaret för alla beslut.

66.  Europaparlamentet konstaterar att användningen av AI i kampen mot brottslighet och it‑brottslighet skulle kunna medföra en mångfald av olika möjligheter. Parlamentet slår samtidigt fast att principen om att det som är olagligt offline är olagligt online bör fortsätta att gälla.

67.  Europaparlamentet konstaterar att AI i allt högre grad används på det rättsliga området för att fatta beslut som är mer rationella, mer förenliga med gällande lagstiftning och snabbare. Parlamentet välkomnar att användningen av AI förväntas öka takten i de rättsliga förfarandena.

68.  Europaparlamentet anser att det är nödvändigt att klargöra huruvida det är lämpligt att beslut inom brottsbekämpningen delvis delegeras till AI, samtidigt som mänsklig kontroll över det slutliga beslutet upprätthålls.

69.  Europaparlamentet betonar att användningen av AI inom rättskipning skulle kunna förbättra analysen och insamlingen av uppgifter och brottsofferskyddet. Detta skulle kunna undersökas inom forskning och utveckling med åtföljande konsekvensbedömningar, i synnerhet när det gäller garantier för ett korrekt rättsförfarande och bekämpning av snedvridning och diskriminering, med tillämpning av försiktighetsprincipen. Parlamentet påminner dock om att detta inte ersätter människan i fråga om att utfärda domar eller fatta beslut.

70.  Europaparlamentet påminner om vikten av principerna om styrning, transparens, opartiskhet, ansvarsskyldighet, rättvisa och intellektuell integritet vid användning av AI i rättskipning i brottmål.

71.  Europaparlamentet uppmanar eftertryckligen medlemsstaterna att bedöma riskerna med AI-baserad teknik innan de automatiserar verksamhet med koppling till utövandet av statliga befogenheter, särskilt på området för rättskipning. Parlamentet uppmanar dessutom medlemsstaterna att överväga behovet att införa skyddsåtgärder, såsom tillsyn av en kvalificerad yrkesperson och yrkesetiska regler.

72.  Europaparlamentet konstaterar att viss AI-teknik möjliggör automatisering av informationsbehandling och åtgärder i en hittills osedd omfattning, såsom massövervakning på de civila och militära områdena, vilket utgör ett hot mot de grundläggande rättigheterna och bäddar för olaglig inblandning i staters suveränitet. Parlamentet efterlyser en granskning av massövervakningsaktiviteter enligt internationell rättsbehörighet, även när det gäller frågor om jurisdiktion och verkställighet. Parlamentet uttrycker allvarlig oro över vissa mycket inkräktande applikationer för social poängsättning som har utvecklats, eftersom de allvarligt äventyrar respekten för de grundläggande rättigheterna. Parlamentet efterlyser ett uttryckligt förbud för offentliga myndigheter att använda storskalig social poängsättning som ett sätt att begränsa medborgarnas rättigheter. Parlamentet efterlyser en förstärkt ansvarsskyldighet för privata aktörer enligt internationell rätt, med tanke på vissa privata aktörers beslutshegemoni och kontroll över utvecklingen av sådan teknik. Parlamentet uppmanar i detta sammanhang kommissionen, rådet och medlemsstaterna att vara särskilt uppmärksamma när de förhandlar om, ingår och ratificerar internationella avtal som rör gränsöverskridande familjemål, såsom internationella bortföranden av barn, och att se till att AI-system i detta sammanhang alltid används under faktisk mänsklig kontroll och respekterar ett korrekt rättsförfarande inom EU och länder som har undertecknat dessa avtal.

73.  Europaparlamentet begär att allmänheten ska hållas informerad om användning av AI på det rättsliga området och att denna användning inte ska ge upphov till diskriminering på grund av snedvridning i programmeringen. Parlamentet betonar att varje individs rätt att få tillgång till en offentlig tjänsteman måste respekteras, liksom ansvariga tjänstemäns rätt att personligen fatta beslut och bortse från information som erhållits från AI när de anser det nödvändigt i ljuset av de enskilda omständigheterna i ärendet i fråga. Parlamentet betonar svarandens rätt att överklaga beslutet i enlighet med nationell lagstiftning, utan att rättsväsendets slutliga ansvar någonsin avskaffas.

74.  Europaparlamentet begär därför att alla dessa offentliga och administrativa användningsområden ska betraktas som allmänt tillgänglig information, och att diskriminering på grund av snedvridning i programmeringen ska undvikas.

75.  Europaparlamentet betonar att det är viktigt att möjliggöra korrekt ibruktagande och användning av AI. Parlamentet uppmanar medlemsstaterna att ge sin civila och militära personal lämplig utbildning så att de med precision kan identifiera och undvika diskriminering och snedvridning i datamängderna.

76.  Europaparlamentet är djupt oroat över deepfake-teknik, som gör det möjligt att framställa alltmer verklighetstrogna foto-, ljud- och videoförfalskningar som skulle kunna utnyttjas för att begå utpressning, generera falska nyheter eller urholka allmänhetens förtroende och påverka den offentliga debatten. Parlamentet anser att sådana metoder kan destabilisera länder, sprida desinformation och påverka val. Parlamentet begär därför att upphovspersonen ska vara skyldig att märka allt deepfake‑material och alla andra realistiskt framställda konstgjorda videor med ”icke‑original”, med strikta begränsningar för hur de får användas i samband med val samt kraftfulla verkställighetsåtgärder. Parlamentet efterlyser lämplig forskning på området för att se till att teknik som motverkar dessa företeelser håller jämna steg med illvillig användning av AI.

Transporter

77.  Europaparlamentet noterar AI-tillämpningarnas betydande ekonomiska potential, bland annat för optimering av långsiktig prestanda, underhåll, felprognoser och byggplanering för transportinfrastruktur och byggnader, liksom för säkerhet, energieffektivitet och kostnader. Parlamentet uppmanar därför kommissionen att fortsätta att främja AI‑forskning och utbyte av god praxis på transportområdet.

78.  Europaparlamentet betonar behovet att satsa på artificiell intelligens för att främja multimodalitet, driftskompatibilitet och energieffektivitet inom alla transportsätt, att effektivisera organisationen och hanteringen av gods- och passagerartrafikflödena, att bättre utnyttja infrastruktur och resurser längs det transeuropeiska transportnätet (TEN‑T) och att avlägsna hindren för skapandet av ett verkligt gemensamt europeiskt transportområde.

79.  Europaparlamentet påminner om fördelarna med det europeiska trafikstyrningssystemet för tåg, ett smidigt automatiskt tågövervakningssystem, och stöder utvecklingen och den internationella standardiseringen av automatiseringen av tågtrafiken.

80.  Europaparlamentet välkomnar det arbete som utförts inom projektet för forskning om flygledningstjänster i det gemensamma europeiska luftrummet (Sesar) avseende system för obemannade luftfartyg och flygledningstjänst, både civila och militära.

81.  Europaparlamentet påminner om att självkörande fordon har stor potential till bättre rörlighet och säkerhet och miljöfördelar, och uppmanar kommissionen och medlemsstaterna att säkerställa samarbetet mellan tillsynsmyndigheter och alla berörda parter som är relevanta för införandet av automatiserade vägfordon i EU.

82.  Europaparlamentet påpekar att den globala sjöfartsindustrin har förändrats kraftigt tack vare integreringen av AI under de senaste åren. Parlamentet påminner om de pågående omfattande diskussionerna i Internationella sjöfartsorganisationen om en praktisk integrering av ny och framväxande teknik, såsom autonoma fartyg, i regelverket.

83.  Europaparlamentet betonar att intelligenta transportsystem minskar trafikstockningar, ökar säkerheten och tillgängligheten och bidrar till förbättrad hantering av trafikflöden, effektivisering och bättre rörlighetslösningar. Parlamentet påpekar de traditionella transportnätens ökade exponering för it-hot. Parlamentet påminner om vikten av tillräckliga resurser och ytterligare forskning om säkerhetsrisker för säkerheten för automatiserade system och deras data. Parlamentet välkomnar kommissionens avsikt att inkludera it-säkerhet som en stående punkt på dagordningen för diskussion inom transportrelaterade internationella organisationer.

84.  Europaparlamentet välkomnar insatserna för att införa AI-system i den offentliga sektorn och kommer att stödja ytterligare diskussioner om införandet av AI inom transportsektorn. Parlamentet uppmanar kommissionen att göra en utvärdering av användningen av AI och liknande teknik inom transportsektorn och att sammanställa en icke uttömmande förteckning över högrisksegment när AI-system ersätter beslut inom ramen för offentliga maktbefogenheter på detta område.

85.  Europaparlamentet understryker att Europeiska försvarsfonden och det permanenta strukturerade samarbetet bör stimulera samarbete mellan medlemsstaterna och den europeiska försvarsindustrin för att utveckla ny europeisk försvarskapacitet inom AI och säkerställa försörjningstrygghet, med beaktande av etiska överväganden. Parlamentet betonar att man måste undvika uppsplittring genom att bygga broar mellan olika aktörer och tillämpningsområden, främja kompatibilitet och interoperabilitet på alla nivåer och fokusera på gemensamt arbete med lösningar för arkitektur och plattformar. Parlamentet påminner dessutom om att nästa fond för ett sammanlänkat Europa, som också främjar smart infrastruktur, kommer att vara en fond för anpassning och utveckling av civil eller militär transportinfrastruktur med dubbla användningsområden inom TEN-T i syfte att öka synergierna mellan civila och försvarsrelaterade behov och att förbättra den civila och militära rörligheten inom unionen. Parlamentet betonar därför behovet av ytterligare investeringar, forskning och ledarskap i EU inom teknik som både ger hög ekonomisk tillväxt och har en betydande potential till dubbla användningsområden.

86.  Europaparlamentet betonar att många investeringar i ny teknik på transport- och rörlighetsområdet är marknadsdrivna, men att färdigköpta allmänt tillgängliga tekniker och produkter med dubbla användningsområden ofta används på innovativa sätt för militära ändamål. Parlamentet framhåller därför att potentialen till dubbla användningsområden för AI-baserade lösningar måste beaktas vid utarbetandet av normer för användningen av AI inom olika områden i de kommersiella och militära sektorerna. Parlamentet begär att stränga etiska normer och styrdokument ska vara en del av utvecklingen av teknik, produkter och driftsprinciper för försvaret.

87.  Europaparlamentet påpekar att en effektiv transport av varor, ammunition, försvarsmateriel och trupper är en väsentlig del av framgångsrika militära insatser. Parlamentet betonar att AI förväntas spela en avgörande roll och skapa många möjligheter inom militär logistik och transport. Parlamentet påpekar att länder runt om i världen, inbegripet EU:s medlemsstater, håller på att integrera AI-vapen och andra system i land-, sjö- och luftbaserade plattformar. Parlamentet påminner om att AI‑tillämpningar inom transportsektorn skulle kunna tillhandahålla ny kapacitet och möjliggöra nya taktiker, såsom en kombination av flera olika system som drönare och obemannade fartyg eller stridsvagnar i en oberoende och samordnad insats.

Internationell privaträtt

88.  Europaparlamentet konstaterar att allt fler tvister inom ramen för internationell privaträtt uppstår till följd av internationaliseringen av mänskliga aktiviteter, antingen på nätet eller i verkligheten. Här kan AI hjälpa till att lösa tvisterna genom att skapa modeller för att fastställa behörig domstol och tillämplig lag för varje mål, men även identifiera de mest känsliga lagkonflikterna och föreslå sätt att lösa dem.

89.  Europaparlamentet anser dock att allmänheten måste få ordentlig information om användningen av AI inom internationell privaträtt och att sådan användning inte får leda till diskriminering genom programmering, vilket skulle leda till att en nations lagar systematiskt gynnas framför en annans, måste respektera rättigheterna för en enligt lag utsedd domstol, tillåta överklaganden i enlighet med tillämplig lag och låta varje domare bortse från den lösning som föreslås av AI.

90.  Europaparlamentet betonar att trafik med självkörande fordon i EU, som riskerar att ge upphov till ett särskilt stort antal tvister inom ramen för internationell privaträtt, måste omfattas av särskilda EU-regler som fastställer den rättsliga ordning som ska tillämpas vid gränsöverskridande skador.

91.  Europaparlamentet påpekar att EU utsätts för stark konkurrens på grund av den ökande betydelsen av forskning och utveckling inom den privata sektorn och massiva investeringar från tredjeländer. Parlamentet stöder därför EU:s ansträngningar för att ytterligare utveckla sina konkurrensfördelar, och anser att EU bör sträva efter att agera som normgivare för AI i en hyperuppkopplad värld genom att anta en effektiv strategi gentemot sina externa partner och öka sina insatser för att fastställa globala etiska normer för AI på internationell nivå i linje med säkerhetsregler och konsumentskyddskrav samt europeiska värden och medborgerliga rättigheter, däribland grundläggande rättigheter. Parlamentet anser att detta också är avgörande för europeiska företags konkurrenskraft och hållbarhet. Kommissionen och medlemsstaterna uppmanas att stärka samarbetet med tredjeländer och internationella organisationer, såsom FN, OECD, G7 och G20, och att inleda en bredare dialog för att ta itu med de utmaningar som uppstår till följd av utvecklingen av denna snabbt föränderliga teknik. Parlamentet anser att dessa insatser särskilt bör syfta till att fastställa gemensamma standarder och förbättra driftskompatibiliteten mellan AI-baserade system. Parlamentet uppmanar kommissionen att främja dialog, närmare samarbete och synergier mellan medlemsstaterna, forskare, akademiker, aktörer i det civila samhället, den privata sektorn, särskilt ledande företag, samt militären, i syfte att säkerställa en bred medverkan i de politiska beslutsprocesserna för försvarsrelaterade AI-bestämmelser.

Vägledande principer

92.  Europaparlamentet anser att teknik och nätverkssystem som bygger på AI bör syfta till att skapa rättssäkerhet för medborgarna. Parlamentet understryker därför att reglerna om lagkonflikter och behörig domstol bör fortsätta att gälla, samtidigt som hänsyn tas till medborgarnas intressen, liksom behovet att minska risken för forum shopping. Parlamentet påminner om att AI inte kan ersätta människor i domstolsprocessen när det handlar om att avkunna dom eller fatta ett slutgiltigt beslut av något slag, eftersom sådana beslut alltid måste fattas av en människa och undantagslöst vara föremål för mänsklig kontroll och ett korrekt rättsförfarande. Parlamentet insisterar på att de rättsliga myndigheterna, när de använder bevis från AI-stödd teknik, måste vara skyldiga att motivera sina beslut.

93.  Europaparlamentet påminner om att AI är ett vetenskapligt framsteg som inte får urholka lagen, utan tvärtom alltid måste styras av den – i EU av den lagstiftning som härrör från unionens institutioner och medlemsstater. AI, robotteknik och tillhörande teknik får under inga omständigheter strida mot de grundläggande rättigheterna, demokratin och rättsstaten.

94.  Europaparlamentet betonar att AI-teknik som används för försvarsändamål bör vara ansvarsfull, rättvis, spårbar, tillförlitlig och styrbar.

95.  Europaparlamentet anser att artificiell intelligens, robotteknik och tillhörande teknik – inbegripet programvara, algoritmer och data som används eller tas fram av sådan teknik – oavsett inom vilket område den används bör utvecklas på ett säkert och tekniskt rigoröst sätt.

o
o   o

96.  Europaparlamentet uppdrar åt talmannen att översända denna resolution till rådet och kommissionen.

(1) EGT L 180, 19.7.2000, s. 22.
(2) EGT L 303, 2.12.2000, s. 16.
(3) EUT L 119, 4.5.2016, s. 1.
(4) EUT L 119, 4.5.2016, s. 89.
(5) EUT L 252, 8.10.2018, s. 1.
(6) EUT C 252, 18.7.2018, s. 239.
(7) EUT C 307, 30.8.2018, s. 163.
(8) EUT C 433, 23.12.2019, s. 86.
(9) EUT C 433, 23.12.2019, s. 42.
(10) EUT C 449, 23.12.2020, s. 37.
(11) Europaparlamentets och rådets direktiv 2005/36/EG av den 7 september 2005 om erkännande av yrkeskvalifikationer (EUT L 255, 30.9.2005, s. 22).
(12) Europaparlamentets och rådets direktiv 2006/42/EG av den 17 maj 2006 om maskiner och om ändring av direktiv 95/16/EG (EUT L 157, 9.6.2006, s. 24).
(13) Europaparlamentets och rådets direktiv (EU) 2018/958 av den 28 juni 2018 om proportionalitetsprövning före antagandet av ny reglering av yrken (EUT L 173, 9.7.2018, s. 25).

Senaste uppdatering: 22 april 2021Rättsligt meddelande - Integritetspolicy