Index 
 Föregående 
 Nästa 
 All text 
Förfarande : 2018/2088(INI)
Dokumentgång i plenum
Dokumentgång : A8-0019/2019

Ingivna texter :

A8-0019/2019

Debatter :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Omröstningar :

PV 12/02/2019 - 9.20
Röstförklaringar

Antagna texter :

P8_TA(2019)0081

Antagna texter
PDF 233kWORD 76k
Tisdagen den 12 februari 2019 - Strasbourg Preliminär utgåva
En övergripande europeisk industripolitik för artificiell intelligens och robotteknik
P8_TA-PROV(2019)0081A8-0019/2019

Europaparlamentets resolution av den 12 februari 2019 om en övergripande europeisk industripolitik för artificiell intelligens och robotteknik (2018/2088(INI))

Europaparlamentet utfärdar denna resolution

–  med beaktande av sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik(1),

–  med beaktande av sin resolution av den 1 juni 2017 över digitalisering av den europeiska industrin(2),

–  med beaktande av sin resolution av den 12 september 2018 om autonoma vapensystem(3),

–  med beaktande av sin resolution av den 11 september 2018 om likabehandling av språk i den digitala tidsåldern(4),

–  med beaktande av kommissionens förslag av den 6 juni 2018 om inrättande av programmet för ett digitalt Europa för perioden 2021–2027 (COM(2018)0434),

–  med beaktande av rådets förordning (EU) nr 2018/1488 av den 28 september 2018 om bildande av det gemensamma företaget för ett europeiskt högpresterande datorsystem(5),

–  med beaktande av artikel 52 i arbetsordningen,

–  med beaktande av betänkandet från utskottet för industrifrågor, forskning och energi och yttrandena från utskottet för den inre marknaden och konsumentskydd, utskottet för rättsliga frågor, utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor och utskottet för miljö, folkhälsa och livsmedelssäkerhet (A8-0019/2019), och av följande skäl:

A.  Insynsvänlig och etikintegrerad artificiell intelligens (AI) och robotteknik har potential att berika våra liv och öka vår kapacitet, för både individer och allmännyttan.

B.  AI utvecklas snabbt och finns redan sedan flera år tillbaka i våra vardagsliv. AI och robotteknik sporrar till innovation, medför nya företagsmodeller och spelar en central roll i omvandlingen av våra samhällen och digitaliseringen av våra ekonomier inom många sektorer, till exempel industrin, hälso- och sjukvården, byggsektorn och transportsektorn.

C.  Den ökande integreringen av robotteknik i mänskliga system kräver stark politisk vägledning om hur man ska maximera fördelarna, minimera riskerna för samhället och säkerställa en säker och rättvis utveckling av AI.

D.  AI är en av 2000-talets strategiska tekniker på såväl global nivå som i Europa och innebär en positiv förändring för den europeiska ekonomin, då den möjliggör innovation, produktivitet, konkurrenskraft och välmående.

E.  Cirka en fjärdedel av alla industrirobotar och hälften av alla professionella servicerobotar i världen tillverkas av europeiska företag och unionen har därför redan nu viktiga resurser som den bör basera sin europeiska näringslivspolitik på.

F.  AI och robotteknik har potential att omforma många olika branscher och leda till ökad produktionseffektivitet och dessutom stärka den internationella konkurrenskraften hos Europas näringsliv och små och medelstora företag. Tillgången till storskaliga dataset och test- och experimentanläggningar har stor betydelse för utvecklingen av AI.

G.  En gemensam strategi kommer att underlätta utvecklingen av samhällsnyttig AI-teknik, samtidigt som man också hanterar de utmaningar som denna teknik innebär i syfte att stimulera innovationen, förbättra kvaliteten på produkter och tjänster som använder AI, förbättra konsumenternas erfarenheter av och förtroende för AI-teknik och robotteknik och förhindra en fragmentering av den inre marknaden.

H.  Dataprestandan i unionen måste upprätthållas på en ledande nivå, vilket torde medföra möjligheter för EU:s försörjningsindustri och göra den mer effektiv i arbetet med att omvandla den tekniska utvecklingen till efterfråge- och tillämpningsstyrda produkter och tjänster, så de sedan kan utnyttjas i storskaliga och nya tillämpningar som stöds av AI.

I.  Det finns ett brådskande behov av en samordnad strategi på europeisk nivå för att EU ska kunna konkurrera med de massinvesteringar som görs av olika tredjeländer, framför allt Förenta staterna och Kina.

J.  Den 25 april 2018(6) utfäste sig kommissionen att lägga fram ett förslag till ett europeiskt förhållningssätt till AI genom att utarbeta ett utkast till AI-riktlinjer i samarbete med berörda parter inom AI-alliansen, en grupp experter på artificiell intelligens, för att främja AI-drivna tillämpningar och företag i Europa.

K.  Befintliga regler och förfaranden måste utvärderas och vid behov ändras för att ta hänsyn till AI och robotteknik.

L.  Den europeiska ramen för AI måste tas fram med full respekt för de rättigheter som fastställs i stadgan om de grundläggande rättigheterna, särskilt vad gäller principerna om uppgiftsskydd, personlig integritet och säkerhet.

M.  Utvecklingen inom AI kan och bör utformas på ett sådant sätt att individens värdighet, självständighet och självbestämmande bevaras.

N.  I sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik uppmanade parlamentet kommissionen att föreslå en enhetlig rättslig ram för utvecklingen av robotteknik, inklusive autonoma system och smarta autonoma robotar.

O.  Hela samhället måste vara delaktigt i utvecklingen av AI och robotteknik. Under 2017 var en stor del av landsbygdsområdena dock utestängda från fördelarna med AI, eftersom 8 % av bostäderna inte täcktes av något fast nät och 53 % av dem inte täcktes av någon teknik för ”nästa generations accessnät” (VDSL, Cable Docsis 3.0 eller FTTP).

P.  Utvecklingen av tjänster och produkter som möjliggörs tack vare AI förutsätter uppkopplingsmöjligheter, fritt dataflöde och datatillgänglighet inom EU. Användningen av avancerad datautvinningsteknik i produkter och tjänster kan bidra till bättre beslutsfattande och således också ökad valfrihet för konsumenterna samt bättre affärsresultat.

Q.  Den tekniska utvecklingen av smarta produkter och tjänster kan gynna kunskapsekonomin, som grundas på den tillgängliga informationens kvantitet, kvalitet och åtkomlighet, och kan således leda till en bättre anpassning till konsumenternas behov.

R.  It-säkerhet är oerhört viktigt för att förhindra fall av illvillig förvanskning eller missbruka data där syftet är att få AI att fungera på ett sätt som är till skada för privatpersoner eller företag, vilket skulle undergräva näringslivets och konsumenternas förtroende för AI. Utvecklingen inom AI leder till ett ökat beroende av dessa system i samband med åtgärder och beslut, något som i sin tur ställer krav på hög cyberresiliens inom EU till skydd mot intrång eller brister i it-säkerheten.

S.  Automatiseringstrenden kräver att de som deltar i utvecklingen och kommersialiseringen av AI-tillämpningar inlemmar säkerhets- och etikaspekter redan från början och därigenom erkänner att de måste vara redo att ta på sig det rättsliga ansvaret för kvaliteten på den teknik som de framställer.

T.  Upprättandet av ett betrott ekosystem för utvecklingen av AI-teknik bör grundas på datapolitikens struktur. Detta innebär att man skapar smidiga och förenklade program för datainsamling och datahantering för utbildnings- och forskningsändamål i syfte att möjliggöra AI-utveckling på en mängd olika områden: medicin, finanssektorn, biologi, energisektorn, industrisektorn, kemisk industri och den offentliga sektorn. Datadrivna AI-ekosystem skulle kunna omfatta alleuropeiska initiativ baserade på öppna standarder, ömsesidigt erkännande av certifikat och insynsvänliga regler för interoperabilitet.

U.  Användningen av AI är inte i sig någon garant för sanning eller rättvisa, eftersom olika vinklingar kan skapas beroende på data samlas in och hur algoritmen skrivs och kan härröra från förutfattade meningar som råder i samhället. Partiskhet bör förhindras med hjälp av data av god kvalitet i kombination med algoritmernas utformning och ständiga omvärderingar.

V.  AI och robotteknik bör utvecklas och tillämpas på ett människocentrerat sätt med målet att stödja människor i arbetet och hemmet. AI kan också användas till att förhindra att människor måste utföra farliga arbetsuppgifter.

W.  Vidareutveckling och ökad användning av automatiserat och algoritmbaserat beslutsfattande påverkar utan tvekan de val som en individ (till exempel en företagare eller en internetanvändare) eller en administrativ, rättslig eller annan offentlig myndighet gör i samband med fattandet av ett slutligt konsument-, affärs- eller myndighetsbeslut. Det måste byggas in skyddsåtgärder och möjlighet till mänsklig kontroll och verifiering i processen för automatiserat och algoritmbaserat beslutsfattande.

X.  Maskininlärning ger också upphov till utmaningar när det gäller att säkerställa icke-diskriminering, korrekta förfaranden, insyn och begriplighet i samband med beslutsprocesser.

Y.  AI är ett viktigt verktyg för att hantera globala samhällsutmaningar och medlemsstaterna bör därför via sin offentliga politik främja investeringar, tillgängliggöra medel för forskning och utveckling och åtgärda hinder för utveckling och anammande av AI.

Z.  Kommersiella AI-plattformar har gått från tester till faktiska tillämpningar på hälso-, miljö-, energi- och transportområdet. Maskininlärningstekniker är centrala för alla större webbplattformar och stordatatillämpningar.

AA.  Europas forskare och företag arbetar med en bred rad blockkedjerelaterade frågor som rör allt från distributionskedjor till offentliga tjänster, finanser, sakernas internet, hälso- och sjukvård, medier, smarta städer, energi och transporter. EU är en stark aktör på viktiga blockkedjerelaterade områden som exempelvis AI. Blockkedjeteknik kan ha stor betydelse för förbättrad innovation i EU.

AB.  Det är mycket viktigt med it-säkerhetsteknik som digitala identiteter, kryptografi eller intrångsdetektion och användningen av sådan teknik inom exempelvis finanssektorn, industri 4.0, energi, transporter, hälso- och sjukvård och e-förvaltning för att skydda säkerheten och förtroendet för de aktiviteter och transaktioner som privatpersoner, offentliga förvaltningar och företag utför på internet.

AC.  Text- och datautvinning tjänar som grund för AI- och maskininlärningstillämpningar och är avgörande för små och medelstora företag och uppstartsföretag eftersom de ger dem tillgång till stora datamängder för att träna AI-algoritmer.

AD.  AI kan komma att visa sig vara mycket energikrävande. Det är därför viktigt att AI-användningens utveckling går hand i hand med EU:s befintliga mål för energieffektivitet och en cirkulär ekonomi.

AE.  AI bör till fullo stödja alla europeiska språk, så att alla européer får lika möjligheter att dra nytta av modern AI-utveckling i det flerspråkiga europeiska informationssamhället.

AF.  Inom företag och tjänster på högteknologiområdet är AI nyckeln till Europas omvandling till en ”start up-kontinent” där man genom att utnyttja den senaste tekniken skapar tillväxt i Europa, särskilt på områdena medicinsk teknik, tjänster och program för hälso- och sjukvård, upptäckt av nya läkemedel, robotteknik och robotassisterad kirurgi samt behandling av kroniska sjukdomar, medicinsk bildteknik och patientjournaler, samtidigt som man skapar en hållbar miljö och säker livsmedelsproduktion. I nuläget ligger Europa efter Nordamerika och Asien när det gäller forskning och patent avseende AI.

AG.  Utvecklingen av AI-teknik kan bidra till att förbättra livskvaliteten för kroniskt sjuka och personer med funktionsnedsättning och bidra med lösningar på samhällsutmaningar som exempelvis vår åldrande befolkning tack vare att det blir möjligt att använda den medicinska tekniken på ett mer exakt och effektivt sätt inom hälso- och sjukvården.

AH.  Det finns en stor mängd tänkbara tillämpningar för AI och robotteknik inom hälso- och sjukvården, bland annat hantering av patientjournaler och medicinska uppgifter, utförande av repetitiva arbetsuppgifter (provanalyser, röntgen, datortomografier, datainmatning), utformning av behandlingar, digitala konsultationer (såsom medicinska konsultationer baserade på den personliga sjukdomshistorien och allmän medicinsk kunskap), virtuella sjuksköterskor, läkemedelshantering, läkemedelsutveckling, precisionsmedicin (såsom genetik och genomik för att söka efter mutationer och sjukdomskopplingar via DNA-information), hälsoövervakning och analys av hälso- och sjukvårdssystem.

AI.  Tillgänglighet innebär inte att alla ska ha samma tjänster och tillämpningar. Tillgänglighet avseende AI och robotteknik bygger på inkluderande planering och utformning. Utformningen måste utgå från användarens behov, önskemål och erfarenheter.

AJ.  Det finns starka etiska, psykiska och juridiska farhågor kring robotars autonomi och deras självklara avsaknad av mänsklig empati samt hur de påverkar förhållandet mellan läkare och patient, vilka fortfarande inte har hanterats på lämpligt sätt på EU-nivå, särskilt vad gäller skyddet av patienters personuppgifter, ansvarsfrågan och de nya ekonomiska förbindelser och anställningsförhållanden som uppstår. ”Autonomi” som sådan kan bara till fullo tillskrivas människor. Det behövs en robust rättslig och etisk ram för AI.

AK.  Införandet av AI inom hälso- och sjukvården i synnerhet måste alltid grundas på ansvarsprincipen att maskinen tjänar människan.

1.Ett samhälle som stöds av AI och robotteknik

1.1.Sysselsättning i en tid av AI och robotteknik

1.  Europaparlamentet betonar att automatisering som kombineras med AI kommer att öka produktiviteten och följaktligen även produktionen. Parlamentet konstaterar att det precis som under tidigare tekniska revolutioner kommer att bli så att vissa arbetstillfällen ersätts, samtidigt som andra skapas och våra liv och arbetsmetoder förändras. Parlamentet understryker att ökad användning av robotteknik och AI också bör minska människors exponering för skadliga och farliga förhållanden och bidra till att skapa fler anständiga arbetstillfällen av god kvalitet och förbättra produktiviteten.

2.  Europaparlamentet uppmanar kommissionen och medlemsstaterna eftertryckligen att fokusera på omskolning av arbetstagare i de branscher som påverkas mest av automatiseringen av arbetsuppgifter. Parlamentet betonar att nya utbildningsprogram bör inriktas på att utveckla arbetstagarnas kompetens så att de kan ta del av de nya arbetstillfällen som AI skapar. Dessutom uppmuntrar parlamentet till nya skolkurser i digital kompetens samt utveckling av lärlingsutbildningar och prioriteringar på området för yrkesutbildning för att hjälpa arbetstagare att anpassa sig till tekniska förändringar.

3.  Europaparlamentet rekommenderar att medlemsstaterna tillsammans med aktörer från den privata sektorn identifierar riskerna och tar fram strategier för utvecklingen av relevanta program för omskolning och kompetenshöjning. Parlamentet understryker att företagen själva måste investera i fortbildning och kompetenshöjning bland sin personal för att tillgodose sina behov.

4.  Europaparlamentet understryker att utvecklingen av robotteknik i EU kommer att ha stor påverkan på förhållandet mellan arbetsmarknadens parter. Parlamentet anser att denna påverkan bör hanteras på ett balanserat sätt i syfte att främja återindustrialisering och göra så att även arbetstagarna gynnas av produktivitetsvinsterna.

5.  Europaparlamentet konstaterar att det i det rådande näringslivslandskapet råder en skör jämvikt mellan ägare och arbetstagare. Parlamentet anser att framstegen i fråga om att tillämpa AI inom näringslivet bör ske efter ett brett samråd med arbetsmarknadens parter eftersom den potentiella förändringen av antalet människor som arbetar inom näringslivet kräver proaktiva strategier för att hjälpa arbetstagarna att anpassa sig till de nya kraven och för att säkerställa att fördelarna kommer många till del. Parlamentet menar att detta kräver att man omprövar och omformar arbetsmarknadspolitiken, de sociala trygghetssystemen och skatterna.

6.  Europaparlamentet uppmanar eftertryckligen medlemsstaterna att åtgärda hindren för inträde på arbetsmarknaden, till exempel överdrivna kvalifikationskrav.

7.  Europaparlamentet anser att digital kompetens är en av de viktigaste faktorerna för den framtida AI-utvecklingen och uppmanar eftertryckligen kommissionen och medlemsstaterna att ta fram och genomföra strategier för utbildning och omskolning avseende digital kompetens. Vidare konstaterar parlamentet att digital kompetens kan stödja ett brett och inkluderande deltagande i dataekonomilösningar och underlätta kommunikation och samarbete med samtliga berörda aktörer.

8.  Europaparlamentet noterar att människor i alla åldrar kommer att påverkas, varför läroplanerna måste anpassas, bland annat genom att man skapar nya lärandevägar och använder ny teknik för tillhandahållande. Parlamentet betonar att utbildningsaspekterna bör ägnas tillräcklig uppmärksamhet. I synnerhet anser parlamentet att behovet av digital kompetens, bland annat i fråga om kodning, måste ingå i all undervisning och utbildning – från de tidiga skolåren till det livslånga lärandet.

1.2.Illvillig användning av AI samt grundläggande rättigheter

9.  Europaparlamentet framhåller att illvillig eller oaktsam användning av AI kan hota den digitala, fysiska och allmänna säkerheten, då det skulle kunna medföra storskaliga, noga målriktade och synnerligen effektiva angrepp på informationssamhällets tjänster och uppkopplade apparater samt desinformationskampanjer och rent generellt minska individens rätt till självbestämmande. Parlamentet betonar att skadlig eller oaktsam användning av AI också kan hota demokratin och de grundläggande rättigheterna.

10.  Europaparlamentet uppmanar kommissionen att föreslå en ram som bestraffar perceptionsmanipulering där individanpassat innehåll eller individanpassade nyhetsflöden ger upphov till negativa känslor och en förvrängd verklighetsuppfattning som kan få negativa konsekvenser (till exempel valresultat eller en förvrängd syn på samhällsfrågor som exempelvis invandring).

11.  Europaparlamentet betonar vikten av att känna igen, identifiera och övervaka skadlig utveckling i och kring utvecklingen av AI. Parlamentet uppmuntrar till forskning kring AI som även fokuserar på upptäckt av fall av korrupt AI och robotteknik, oavsett om detta skett oavsiktligen eller med ont uppsåt.

12.  Europaparlamentet uppmanar kommissionen eftertryckligen att uppmärksamma de samhällsproblem som följer av ”social poängsättning” av medborgare. Parlamentet menar att ingen får diskrimineras baserat på sådan poängsättning och att alla bör ha rätt till ”en andra chans”.

13.  Europaparlamentet hyser stor oro över användningen av AI-tillämpningar, inklusive ansikts- och röstigenkänning, i program för ”känslomässig övervakning, dvs. övervakning av det psykiska tillståndet hos arbetstagare och privatpersoner i syfte att öka produktiviteten och upprätthålla stabiliteten i samhället, ibland tillsammans med system för ”social poängsättning”, vilket redan förekommer i till exempel Kina. Parlamentet betonar att sådana program till sin natur strider mot europeiska värderingar och normer som skyddar individens rättigheter och friheter.

2.Teknikens väg mot AI och robotteknik

2.1.Forskning och utveckling

14.  Europaparlamentet erinrar om att det europeiska forskningssamfundet kring AI är världsledande, med 32 % av alla världens AI-forskningsinstitutioner.

15.  Europaparlamentet välkomnar kommissionens förslag om programmet för ett digitalt Europa och den budget på 2,5 miljarder euro som anslagits för AI, liksom den ökade finansieringen inom ramen för Horisont 2020-programmet. Parlamentet förstår att det är viktigt att EU:s finansiering kompletterar medlemsstaternas och industrins forskningsbudgetar för AI och att det behövs samarbete mellan offentliga, privata och EU-relaterade forskningsprogram.

16.  Europaparlamentet stöder de operativa målen för programmet för ett digitalt Europa vad gäller att bygga upp och stärka de grundläggande AI-kapaciteterna i unionen samt att göra dem tillgängliga för alla företag och offentliga förvaltningar och att stärka och skapa nätverk av test- och experimentanläggningar för AI i medlemsstaterna.

17.  Europaparlamentet uppmuntrar medlemsstaterna att utveckla partnerskap med många olika intressenter från näringslivet och forskningsinstitut samt gemensamma AI‑spetskompetenscentrum.

18.  Europaparlamentet betonar att AI-forskningen inte bara bör investera i utveckling av AI-baserad teknik och innovation, utan även i sociala, etiska och ansvarsrelaterade områden med kopplingar till AI. Parlamentet anser att alla AI-modeller som används bör inbegripa etiska aspekter.

19.  Europaparlamentet betonar att AI-forskning och andra sammanhängande verksamheter bör bedrivas i enlighet med försiktighetsprincipen och de grundläggande rättigheterna, samtidigt som man uppmuntrar framsteg till förmån för samhället och miljön. Parlamentet betonar att alla som är delaktiga i utvecklingen, genomförandet, spridningen och användningen av AI bör ta hänsyn till och respektera den mänskliga värdigheten, självbestämmanderätten och välbefinnandet – i både fysisk och psykisk bemärkelse – för individen och samhället i stort samt förutse potentiella säkerhetskonsekvenser och vidta vederbörliga försiktighetsåtgärder i proportion till skyddsnivån, inbegripet ett snabbt offentliggörande av faktorer som kan hota allmänheten eller miljön.

20.  Europaparlamentet betonar att en konkurrenskraftig forskningsmiljö också är avgörande för utvecklingen av AI. Parlamentet framhåller vikten av att stödja spetsforskning, inklusive grundforskning och projekt med hög risk och hög utdelning, och av att främja ett europeiskt forskningsområde med attraktiva villkor för finansiering, rörlighet och tillgång till infrastruktur och teknik i hela unionen, baserat på principen om öppenhet gentemot tredjeländer och expertis från platser utanför EU, förutsatt att det inte underminerar EU:s it-säkerhet.

21.  Europaparlamentet understryker att EU:s forskare fortfarande tjänar åtskilligt mindre än sina motparter i USA och Kina, vilket som bekant är den främsta orsaken till att de lämnar Europa. Parlamentet uppmanar kommissionen och medlemsstaterna att fokusera på att locka toppförmågor till europeiska företag, och medlemsstaterna uppmanas att skapa attraktiva villkor.

22.  Europaparlamentet betonar att Europa måste rikta in det nya flaggskeppsinitiativet inom framtida och ny teknik(7) på AI, med särskild tonvikt vid ett människocentrerat förhållningssätt och språkteknik.

23.  Europaparlamentet anser att AI, maskininlärning och exponentiella språng inom datatillgänglighet och molntjänster driver på forskningsinitiativ som syftar till att förstå biologi på molekyl- och cellnivå, styra utvecklingen av medicinska behandlingar och analysera dataströmmar för att upptäcka hälsohot, förutse sjukdomsutbrott och rådge patienter. Parlamentet noterar att tekniker för datautvinning och datanavigering kan användas för att identifiera brister, risker, tendenser och mönster inom vården.

24.  Europaparlamentet understryker att man när risker uppstår som en oundviklig och integrerad del av AI-forskningen måste utarbeta och följa robusta riskbedömnings- och riskhanteringsprotokoll, med beaktande av att risken för skada inte får vara större än den som föreligger i verkliga livet (det vill säga att människor inte ska utsättas för risker som är större än eller tillkommer utöver dem som de utsätts för till följd av sin vanliga livsstil).

2.2.Investeringar

25.  Europaparlamentet noterar vikten av ökade investeringar på detta område för att konkurrenskraften ska kunna bibehållas. De flesta investeringar och innovationer på detta område görs av privata företag, men parlamentet menar att också medlemsstaterna och kommissionen bör uppmuntras att fortsätta att investera i forskning inom denna sektor och fastställa utvecklingsprioriteringar. Parlamentet välkomnar InvestEU‑förslaget och andra offentlig-privata partnerskap som uppmuntrar till privat finansiering. Parlamentet anser att man bör främja samordning av investeringar i den privata och offentliga sektorn i syfte att säkerställa en riktad utveckling.

26.  Europaparlamentet framhåller att investeringar i AI, som kan kännetecknas av betydande osäkerhet, bör kompletteras av EU-finansiering från exempelvis Europeiska investeringsbanken (EIB) eller Europeiska investeringsfonden (EIF) alternativt genom InvestEU och Europeiska fonden för strategiska investeringar (Efsi), som kan hjälpa till med riskdelning.

27.  Europaparlamentet uppmanar kommissionen eftertryckligen att inte tillåta EU‑finansiering för väpnad AI. Parlamentet riktar en kraftfull uppmaning till kommissionen om att inte tillåta EU-finansiering till företag som forskar om och utvecklar artificiellt medvetande.

28.  Europaparlamentet rekommenderar att kommissionen säkerställer att de immateriella rättigheterna avseende forskning som bedrivs med hjälp av EU-medel behålls inom EU och vid europeiska universitet.

2.3.Innovation, samhällelig acceptans och ansvar

29.  Europaparlamentet konstaterar att alla större tekniska framsteg har krävt en övergångsperiod, där merparten av samhället behövt få en djupare förståelse av tekniken och integrera den i sin vardag.

30.  Europaparlamentet konstaterar även att framtiden för denna teknik är beroende av samhällets acceptans och att man måste lägga större vikt vid att förmedla dess fördelar för att säkerställa en bättre förståelse av tekniken och dess tillämpningar. Vidare noterar parlamentet att det kommer att finnas mindre drivkraft för innovation inom denna sektor om samhället har bristande kunskaper om AI.

31.  Europaparlamentet anser att allmänhetens mottaglighet beror på hur människor informeras om möjligheterna, utmaningarna och utvecklingen vad gäller AI. Parlamentet rekommenderar medlemsstaterna och kommissionen att säkerställa tillgången till tillförlitlig information om de främsta farhågorna kring AI och robotteknik, till exempel avseende integritet, säkerhet och insyn i beslutsfattandet.

32.  Europaparlamentet välkomnar användningen av ”regelsandlådor” för att i samarbete med tillsynsmyndigheter införa innovativa nya idéer som gör det möjligt att bygga in skyddsmekanismer i tekniken redan från början och på så sätt underlätta och uppmuntra marknadsinträde. Parlamentet framhåller behovet av att införa AI-specifika ”regelsandlådor” för att testa en säker och effektiv användning av AI-teknik i en verklig miljö.

33.  Europaparlamentet noterar att det för ökad allmän acceptans av AI krävs garantier för att de använda systemen är trygga och säkra.

34.  Europaparlamentet konstaterar att AI och språkteknologi kan bidra med viktiga tillämpningar som främjar Europas enighet i dess mångfald: maskinöversättning, konversationsagenter och personliga assistenter, robotgränssnitt för talat språk och sakernas internet, smarta analyser, automatiserad identifiering av propaganda på internet, falska nyheter, hatpropaganda och så vidare.

2.4.Förutsättningar: konnektivitet, tillgång till data, högpresterande datorsystem och molninfrastruktur

35.  Europaparlamentet betonar att integrationen av robot- och AI-teknik i ekonomin och samhället kräver digital infrastruktur som ger allmänt utbredd konnektivitet.

36.  Europaparlamentet betonar att konnektivitet är en förutsättning för att Europa ska kunna bli en del av gigabitsamhället och AI är ett tydligt exempel på den exponentiella tillväxten på efterfrågan på snabba, säkra och genomgripande konnektivitet av hög kvalitet. Parlamentet menar att unionen och medlemsstaterna bör fortsätta att främja åtgärder för att ge stimulans åt investeringar i och spridning av nät med mycket hög kapacitet i EU.

37.  Europaparlamentet understryker att en snabb, säker och trygg utveckling av 5G är avgörande för att unionen till fullo ska kunna utnyttja fördelarna med AI och skydda sig mot it-säkerhetshot, så att det blir möjligt att förnya och utveckla näringar och tjänster, som utgör själva ryggraden i den europeiska ekonomin, och stödja framväxten av nya tjänster, ny produktion och nya marknader, vilket är oerhört viktigt för tryggandet av nya arbetstillfällen och en hög sysselsättningsgrad.

38.  Europaparlamentet påminner om att tillgången till meningsfulla data av hög kvalitet är avgörande för verklig konkurrenskraft inom AI-sektorn, och uppmanar myndigheterna att säkerställa sätt att framställa, dela och förvalta data genom att göra offentliga data till en kollektiv nyttighet, samtidigt som man skyddar den personliga integriteten och känsliga data.

39.  Europaparlamentet betonar vikten av att de data som används för djupinlärning håller god kvalitet. Parlamentet konstaterar att användning av lågkvalitativa, inaktuella, ofullständiga eller felaktiga data kan medföra dåliga prognoser som i sin tur kan medföra diskriminering och partiskhet.

40.  Europaparlamentet anser att den nya uppsättningen regler som styr det fria flödet av andra data än personuppgifter inom EU gör så att allt fler uppgifter kommer att finnas tillgängliga för datadriven innovation, så att det blir lättare för små och medelstora företag och uppstartsföretag att utveckla innovativa tjänster som använder AI och komma in på nya marknader, medan allmänheten och företagen kan dra nytta av bättre produkter och tjänster.

41.  Europaparlamentet noterar att AI har potential att öka effektiviteten, bekvämligheten och välfärden inom många sektorer om de etablerade näringslivsaktörerna samarbetar med AI-utvecklare. Parlamentet konstaterar dessutom att en stor volym data som inte är av personuppgiftskaraktär och som finns tillgängliga för berörda parter och genom partnerskap skulle kunna användas för att öka deras effektivitet. Parlamentet anser att det krävs samarbete mellan användarna och AI-utvecklarna för att detta ska bli verklighet.

42.  Europaparlamentet framhåller vikten av interoperabilitet och korrekta data för att det ska gå att säkerställa hög tillförlitlighet och säkerhet hos ny teknik.

43.  Europaparlamentet anser att framgången hos AI-tillämpningar som skräddarsytts för användare i hela EU ofta kräver omfattande kunskaper om de lokala marknaderna samt tillgång till och användning av adekvata lokala data för datasetsutbildning, systemtestning och validering, i synnerhet inom sektorer med anknytning till bearbetning av naturligt språk. Parlamentet uppmanar medlemsstaterna att uppmuntra tillgången till högkvalitativa, interoperabla och öppna data från både den offentliga och den privata sektorn.

44.  Europaparlamentet framhåller betydelsen av att säkerställa maximal överensstämmelse med EU:s stordatapolitik.

45.  Europaparlamentet välkomnar åtgärder för att underlätta och stödja gränsöverskridande utbyte och delning av data.

46.  Europaparlamentet konstaterar att datadelningens fulla potential inte på långa vägar tillvaratas i dagsläget och att stora mängder data underutnyttjas.

47.  Europarlamentet noterar att det finns en motvillighet mot att dela data, och framhåller att det måste vidtas åtgärder för att uppmuntra till datadelning. Parlamentet konstaterar att bristen på gemensamma normer också i stor utsträckning spelar in när det gäller förmågan att dela data.

48.  Europaparlamentet välkomnar regleringar som exempelvis förordningen om fritt dataflöde och dess betydelse inom områden såsom AI för att skapa utrymme för mer effektiva och ändamålsenliga förfaranden.

49.  Europaparlamentet framhåller att mer omfattande marknadsbaserade incitament måste tas för att uppmuntra tillgången till och delningen av data. Parlamentet noterar den risk som dataöppenhet innebär för att det överhuvudtaget ska ske investeringar i data.

50.  Europaparlamentet efterlyser ökad tydlighet kring reglerna om ägande och de befintliga rättsliga ramarna. Parlamentet konstaterar att det oklara rättsläget har lett till överdrivet försiktiga satsningar från näringslivets sida.

51.  Europaparlamentet framhåller betydelsen av europeiska initiativ för molntjänster och högpresterande datorsystem, vilket ytterligare kommer att stärka utvecklingen av algoritmer för djupinlärning och behandlingen av stordata. Parlamentet hyser övertygelsen att det för att dessa initiativ ska bli framgångsrika och relevanta för AI‑utvecklingen krävs att infrastrukturen är öppen för både offentliga och privata enheter som är baserade i unionen och på andra platser och styras av åtkomstkriterier som är så tillåtande som möjligt.

52.  Europaparlamentet välkomnar bildandet av det gemensamma företaget för ett europeiskt högpresterande datorsystem. Parlamentet understryker att användning av superdatorer tillsammans med datainfrastruktur är avgörande för säkerställandet av konkurrenskraftiga innovationsekosystem för utvecklingen av AI-teknik och AI‑tillämpningar.

53.  Europaparlamentet understryker att molnbaserade datortjänster har en nyckelroll att spela för genomslaget för AI. Parlamentet framhåller att tillgången till molntjänster gör det möjligt för privata företag, offentliga institutioner, forskningsinstitut, akademiska institut och användare att utveckla och använda AI på ett effektivt och ekonomiskt gångbart sätt.

3.Näringslivspolitik

54.  Europaparlamentet erinrar om att AI och robotteknik visserligen redan är väletablerade inom olika industriella tillämpningar, men att utvecklingen på området håller på att utvidgas och medför breda och skilda tillämpningar inom alla mänskliga verksamheter. Parlamentet anser att all eventuell reglering måste vara tillräckligt flexibel för att möjliggöra innovation och fri utveckling av ny AI-teknik och nya AI-användningar.

55.  Europaparlamentet understryker att fastställandet av räckvidden och tillämpningarna för AI bör vara resultatet av en behovsstyrd utformningsprocess som vägleds av principer som tar hänsyn till det avsedda resultatet och det bästa sättet att uppnå det ur ekonomisk och social synvinkel. Parlamentet anser att tydlig politik i alla utvecklingssteg kommer att leda till ett ändamålsenligt genomförande och täcka riskerna och nackdelarna.

56.  Europaparlamentet rekommenderar att man använder och främjar offentlig-privata partnerskap för att undersöka lösningar på viktiga utmaningar som exempelvis uppbyggnaden av dataekosystem och främjandet av tillgången till och delningen och flödet av data, samtidigt som man skyddar människors rätt till personlig integritet.

57.  Europaparlamentet betonar att en stor utmaning för AI-systemens framtid är den varierande kvaliteten på tekniken för programvaruproduktion och att det därför finns ett stort behov av standardisering av uppbyggnaden och användningen av AI-system.

58.  Europaparlamentet noterar det globala arbete som bedrivs och erkänner behovet av att arbeta proaktivt med olika partner, i synnerhet OECD och G20, för att styra riktningen för denna sektor i syfte att säkerställa att EU förblir konkurrenskraftigt och säkerställer lika tillgång mellan länderna samt för att skapa bredast möjliga spridning av AI‑utvecklingens fördelar.

59.  Europaparlamentet noterar med oro att ett antal icke-europeiska företag och enheter från tredjeländer i allt högre grad använder AI-baserade prognosmodeller för att tillhandahålla tjänster och tillvarata mervärdet på EU:s marknader, särskilt på lokal nivå, och för att övervaka och eventuellt påverka den politiska andan, vilket således utgör potentiella hot mot EU-medborgarnas tekniska självständighet.

60.  Europaparlamentet betonar att det offentliga stödet till AI bör koncentreras till de strategiska sektorer där EU:s näringsliv har störst möjligheter att spela en ledande roll på global nivå och som har ett mervärde för allmänintresset.

3.1.Prioriterade sektorer

3.1.1.Offentlig sektor

61.  Europaparlamentet framhåller att den offentliga sektorn kan dra nytta av AI och robotteknik på ett rad olika sätt, och välkomnar ökade investeringar i forskning och utveckling till förmån för en blomstrande utveckling på detta område.

62.  Europaparlamentet betonar att medlemsstaterna även bör investera i program för utbildning och AI-fortbildning i syfte att för att hjälpa offentliganställda att börja använda AI och robotteknik. Parlamentet konstaterar att det också bör genomföras informationskampanjer riktade till privatpersoner som kommer att använda offentliga tjänster som bygger på AI-system och robotteknik i syfte att lugna dem som är oroliga för att förlora kontrollen över sina personuppgifter och för att skapa förtroende bland allmänheten på detta område.

63.  Europaparlamentet betonar att information från den offentliga sektorn utgör en fantastisk datakälla som kan bidra till snabba framsteg och skapa en ny strategi för upptaget av ny digital teknik, i synnerhet AI.

64.  Europaparlamentet anser att det faktum att man inom den offentliga sektorn börjar använda sig av tillförlitlig AI kan bidra starkt till reformen av beslutsfattandet inom den offentliga förvaltningen och förbättrad offentlig service samt ge skjuts åt en mer utbredd användning av AI inom andra näringar.

65.  Europaparlamentet noterar användningen av robotstyrd processautomation och hur den bidragit till förbättrade processer inom den offentliga sektorn. Parlamentet konstaterar att den är interoperabel med redan befintliga system.

66.  Europaparlamentet uppmanar medlemsstaterna att gå i spetsen för denna digitala omvandling genom att se till att själva fungera som primära ansvarsfulla användare och köpare av AI-teknik. Parlamentet betonar i detta sammanhang att medlemsstaterna måste anpassa sina datastrategier avseende bland annat insamling, användning, införande i dataregister och diarieföring av offentliga data i syfte att möjliggöra ibruktagande av AI i alla delar av den offentliga sektorn.

67.  Europaparlamentet betonar att allmänheten måste göras delaktig i AI-utvecklingen. Parlamentet uppmanar därför kommissionen att offentliggöra alla offentligfinansierade eller offentligsamfinansierade algoritmer, verktyg och tekniker som öppen källkod.

68.  Europaparlamentet anser att AI kommer att bli en stor tillgång vid genomförandet av engångsprincipen, genom att möjliggöra samkörning av databaser och information från olika källor och således underlätta allmänhetens myndighetskontakter.

69.  Europaparlamentet uppmanar kommissionen att garantera att allmänheten skyddas mot beslutssystem inom offentliga förvaltningar som bygger på AI-baserad ”social poängsättning”, liknande de som man planerar att använda sig av i Kina.

3.1.2.Hälsa

70.  Europaparlamentet poängterar att mänsklig kontakt är en av de avgörande aspekterna av omsorg om människor.

71.  Europaparlamentet noterar att AI och robotteknik innebär potentiella fördelar inom omsorgssektorn i takt med att den förväntade livslängden ökar, exempelvis genom att det frigörs mer tid som läkare och sjuksköterskor kan ägna åt arbetsuppgifter med högt värde (till exempel patientkontakter).

72.  Europaparlamentet noterar den inverkan som AI redan haft på välmående, förebyggande, diagnosticering och forskning och dess stora potential vid utformningen av individanpassad vård. Parlamentet anser att detta i slutändan leder till ett mer hållbart, effektivt och resultatbaserat ekosystem för hälso- och sjukvård.

73.  Europaparlamentet noterar att felkvoten tenderar att vara mycket lägre när AI kombineras med mänsklig diagnos än när diagnosen ställs enbart av en mänsklig läkare.(8)

74.  Europaparlamentet betonar att användningen av data inom hälso- och sjukvården måste övervakas noggrant och granskas ur ett etiskt perspektiv och inte på något sätt får hindra tillgången till socialt skydd eller socialförsäkring.

75.  Europaparlamentet anser att den som får en AI-användande enhet inopererad i kroppen måste ha rätt att kontrollera och ändra den källkod som används i enheten.

76.  Europaparlamentet anser att särskild uppmärksamhet bör ägnas åt användningen av ”stordata” inom hälso- och sjukvården för att i möjligaste mån tillvarata de möjligheter som detta kan medföra – till exempel att förbättra såväl enskilda patienters hälsa som funktionssättet hos medlemsstaternas offentliga hälso- och sjukvårdssystem – utan att tumma på de etiska standarderna och utan att det hotar människors personliga integritet eller säkerhet.

77.  Europaparlamentet understryker dock att det befintliga systemet för godkännande av medicintekniska produkter eventuellt inte lämpar sig för AI-teknik. Parlamentet uppmanar kommissionen att noga övervaka utvecklingen av denna teknik och att vid behov föreslå ändringar av regelverket i syfte att upprätta en ram för fastställande av det respektive ansvar som åligger användaren (läkaren/yrkesutövaren), tillverkaren av den tekniska lösningen och den vårdinrättning som erbjuder behandlingen. Parlamentet påpekar att det rättsliga ansvaret för skador är en central fråga inom hälso- och sjukvården vad gäller användningen av AI. Parlamentet framhåller därför vikten av att säkerställa att användarna inte rutinmässigt vägleds att stödja den diagnostiklösning eller behandling som ett tekniskt instrument föreslår på grund av att yrkesutövaren är rädd för skadeståndsanspråk för uppkomna skador om de på basis sin egen välgrundade yrkesmässiga bedömning kommer fram till en annan slutsats, om så bara delvis.

78.  Europaparlamentet uppmanar medlemsstaterna och kommissionen att öka finansieringen till hälsorelaterad AI-teknik inom offentlig och privat sektor. Parlamentet välkomnar i detta sammanhang den förklaring om samarbete som 24 EU-medlemsstater och Norge undertecknat i syfte att öka effekterna av investeringar i AI på europeisk nivå. Parlamentet uppmanar medlemsstaterna och kommissionen att överväga om utbildningsprogrammen för läkare och sjukvårdspersonal bör uppdateras och standardiseras på EU-nivå för att säkerställa en hög kompetensnivå och likvärdiga förhållanden i de olika medlemsstaterna när det gäller kunskap om och användning av de mest avancerade tekniska verktygen för kirurgisk robotteknik, biomedicin och AI‑baserad biomedicinsk avbildning.

79.  Europaparlamentet uppmanar kommissionen att utarbeta strategier och policyer som kan positionera EU som världsledande på det växande området hälso- och sjukvårdsteknik, samtidigt som man säkerställer patienternas tillgång till sömlös och effektiv vård.

80.  Europaparlamentet konstaterar att förbättrad diagnostik skulle kunna rädda miljontals liv, då 89 % av de förtida dödsfallen i Europa enligt Världshälsoorganisationen orsakas av icke smittsamma sjukdomar.

81.  Europaparlamentet vill framhålla bidraget från AI och robotteknik till preventiva, kliniska och rehabiliterade metoder och tekniker inom hälso- och sjukvården, särskilt den nytta som de erbjuder patienter med funktionsnedsättning.

82.  Europaparlamentet konstaterar att den ökade användningen av sensorer på robotteknikområdet har ökat vårdens räckvidd och gör det möjligt att erbjuda patienter mer individanpassade behandlingar och tjänster samt distansvård i hemmet, samtidigt som det genereras meningsfullare data.

83.  Europaparlamentet konstaterar att det framgår av Eurobarometerundersökningen från maj 2017(9) att allmänheten i EU fortfarande känner sig obekväm med idén om användningen av robotar i den dagliga hälso- och sjukvården. Parlamentet uppmanar kommissionen och medlemsstaterna att ta fram strategier och kommunikationskampanjer för att öka medvetenheten om fördelarna med användningen av robotar i vardagen. Parlamentet noterar i synnerhet ambitionen i Japans robotstrategi.

3.1.3.Energi

84.  Europaparlamentet noterar att AI gör det möjligt för energileverantörer att gå från förebyggande till förutsägbart underhåll av tillgångar och att effektivisera energiproduktionen genom att förbättra tillförlitligheten hos framför allt förnybara energikällor, och genom att identifiera de mest effektiva platserna för nya anläggningar, och således hantera efterfrågan på ett bättre sätt.

85.  Europaparlamentet erkänner att mer exakta uppgifter som tas fram av AI om produktionspotentialen för förnybar energi kommer att öka investeringssäkerheten för företag och enskilda, och på så sätt påskynda övergången till förnybara energikällor och bidra till unionens långsiktiga mål om att uppnå en klimatneutral ekonomi.

86.  Europaparlamentet noterar att lösningar som inbegriper sensorer redan används för att styra energianvändningen i hus och att detta inneburit att man har sparat både mycket energi och pengar.

87.  Europaparlamentet välkomnar AI:s potential att modellera, identifiera och minska inverkan på klimatet från mänsklig verksamhet. Parlamentet konstaterar att den ökade digitaliseringen skapar nya energibehov, men att den också kan göra energiintensiva sektorer effektivare och skapa bättre förståelse för de processer som förbättrar dem.

88.  Europaparlamentet betonar att en mer digitaliserad energisektor betyder större energinät som är mer utsatta för it-hot. Parlamentet uppmanar medlemsstaterna och kommissionen att stödja den digitala omvandlingen av energisektorerna, med åtgärder som exempelvis AI, som förbättrar it-säkerheten.

3.1.4.Transport

89.  Europaparlamentet välkomnar den förmåga som AI och robotteknik har när det gäller att avsevärt förbättra våra transportsystem genom förarlösa tåg och motorfordon. Parlamentet efterlyser bättre forskning och investeringar på detta område för att säkerställa en säker och effektiv utveckling. Parlamentet understryker de enorma möjligheter som finns för såväl större teknikföretag som små och medelstora teknikföretag.

90.  Europaparlamentet noterar att genom att minska mänskliga misstag i transportsektorn kan systemet bli potentiellt mer effektivt, med färre olyckor tack vare bättre utvärderingar och teknikens förutsägande egenskaper, färre förseningar, möjligheter att kartlägga trafikmönster och hålla tidtabellen samt större besparingar, färre förarrelaterade fel och förenklade interna processer.

91.  Europaparlamentet noterar att förekomsten av självkörande fordon i framtiden utgör ett hot mot dataskyddet och en risk för tekniska problem, och kommer att flytta ansvaret från föraren till tillverkaren och kräva att försäkringsbolagen ändrar sitt sätt att införliva riskfaktorer vid tecknandet av försäkringar.

92.  Europaparlamentet noterar att röstkommunikation används allt mer i interaktionen med fordon och transportsystem, men att det bara finns tillgängligt på ett fåtal europeiska språk, och att det därför borde säkerställas att alla européer kan utnyttja dessa möjligheter på sitt modersmål.

3.1.5.Jordbruket och livsmedelskedjan

93.  Europaparlamentet noterar att AI kan vara drivande för en omvälvande förändring av det nuvarande livsmedelssystemet mot en mer diversifierad, motståndskraftig, regionalt anpassad och sund modell för framtiden.

94.  Europaparlamentet noterar att AI kan ha betydelse för hanteringen av livsmedelssäkerhetsfrågor, kan förutspå hungersnöd och utbrott av livsmedelsburna sjukdomar, minska livsmedelsförlusten och livsmedelsavfallet och bidra till en mer hållbar förvaltning av mark, vatten och andra miljöresurser som är nödvändiga för sunda ekosystem.

95.  Europaparlamentet framhåller att AI kan användas vid kritiska punkter längs värdekedjan för livsmedel, från produktion till konsumtion, och förbättra vår förmåga att i grunden förändra hur vi producerar, bearbetar och köper livsmedel genom bättre information om metoder för markanvändningsplanering.

96.  Europaparlamentet noterar att AI kan effektivisera förvaltningen och hanteringen av resurser, hjälpa till att minska förlusterna efter skörd och påverka konsumenternas val.

97.  Europaparlamentet noterar att AI i form av precisionsjordbruk på ett omvälvande sätt kan förbättra jordbruksproduktionen liksom den allmänna markförvaltningen genom att förbättra markanvändningsplaneringen, förutspå förändrad markanvändning och övervaka grödornas tillstånd samtidigt som AI också har potential att förändra prognoserna för extrema väderfenomen.

98.  Europaparlamentet noterar att AI på ett radikalt sätt kan förändra tillhandahållandet av resurser, skadedjursbekämpningen och jordbruksmetoderna, ändra hur försäkringsprodukter tillhandahålls eller hjälpa till att förutspå och undvika framtida hungersnöd och allvarliga, akuta situationer med undernäring.

99.  Europaparlamentet noterar att AI kan leda till bättre beslut om hur man kan förvalta jordbrukssystem och stimulera utvecklingen av beslutsstöd och rekommendationssystem, genom att göra jordbruken effektivare och sundare.

3.1.6.It-säkerhet

100.  Europaparlamentet konstaterar att it-säkerhet är en viktig aspekt av AI, i synnerhet med tanke på de utmaningar som har att göra med öppenheten kring avancerad AI. Parlamentet anser att det tekniska perspektivet, bland annat granskning av källkoden, och kraven på öppenhet och ansvarsskyldighet, bör kompletteras med en institutionell strategi, där man hanterar de utmaningar som rör en lansering av AI som utvecklats i andra länder på EU:s inre marknad.

101.  Europaparlamentet uppmanar till ett snabbt genomförande av cybersäkerhetsakten. Parlamentet konstaterar att utvecklingen av EU:s certifieringssystem bör säkerställa en mer motståndskraftig utveckling och användning av säkra AI- och robotsystem.

102.  Europaparlamentet anser att AI både kan vara ett hot mot it-säkerheten och ett sätt att bekämpa it-attacker. Parlamentet anser att Europeiska unionens byrå för nät- och informationssäkerhet (Enisa) bör ta fram en handlingsplan om it-säkerhet på AI-området som bedömer och hanterar hot och svagheter som är specifika för AI.

103.  Europaparlamentet understryker vikten av att stärka den industriella basen som en strategisk komponent för en säker AI-utveckling. Parlamentet framhåller att för att säkerställa en ambitiös nivå av it-säkerhet, uppgiftsskydd och betrodda IKT-tjänster måste Europa investera i sitt tekniska oberoende. Parlamentet betonar att det finns ett akut behov för EU att utveckla sin egen infrastruktur samt sina egna datacenter, molnsystem och komponenter, såsom grafikprocessorer och grafikkort.

104.  Europaparlamentet noterar att i takt med att AI utvecklas och hackare blir alltmer sofistikerade kommer stabila it-säkerhetslösningar att vara ett måste.

105.  Europaparlamentet medger att införandet av AI-lösningar på it-säkerhetsområdet kommer att göra det möjligt att förutspå, förhindra och minska eventuella hoten.

106.  Europaparlamentet framhåller att AI kommer att göra det lättare att upptäcka hot samtidigt som det måste vara människor som tolkar dessa hot för att avgöra om de är verkliga eller inte.

107.  Europaparlamentet uppmanar kommissionen att undersöka användningen av it‑säkerhetstillämpningar baserade på blockkedjor som förbättrar AI-infrastrukturers motståndskraft, tillförlitlighet och stabilitet genom disintermedieringsmodeller för kryptering av data. Parlamentet uppmanar kommissionen att undersöka möjligheten att ge medborgare en gåva som tack för de uppgifter de lämnar.

108.  Europaparlamentet uppmanar kommissionen att stärka EU:s it-säkerhetskapacitet genom att ytterligare kombinera och samordna insatserna i hela Europa.

3.1.7.Små och medelstora företag

109.  Europaparlamentet erkänner de små och medelstora företagens betydelse för AI:s framgång. Parlamentet välkomnar kommissionens initiativ om att skapa en AI-plattform på begäran som kommer att stimulera tekniköverföring och främja tillväxten hos nystartade företag och små och medelstora företag. Parlamentet uppmanar kommissionen att främja digitala innovationsnav för AI som inte skapar ytterligare led inom administrationen utan fokuserar på att påskynda investeringar i projekt som har visat sig effektiva.

110.  Europaparlamentet noterar att kostnaderna för att investera i AI gör det svårt för små och medelstora företag att komma in på marknaden. Parlamentet erkänner att en utbredd användning av AI bland konsumenterna skulle minska investeringsriskerna för små och medelstora företag.

111.  Europaparlamentet framhåller behovet av att främja såväl små och medelstora företags som konsumenters användning av AI.

112.  Europaparlamentet betonar vikten av riktade åtgärder för att små och medelstora företag och nystartade företag ska kunna använda och gynnas av AI-teknik. Parlamentet anser att konsekvensbedömningar av hur ny EU-lagstiftning påverkar den tekniska utvecklingen av AI bör vara obligatoriska, och att sådana konsekvensbedömningar också bör övervägas på nationell nivå.

113.  Europaparlamentet understryker att AI kan skapa möjligheter för små och medelstora företag, men samtidigt stärka större och tidiga användares och utvecklares position. Parlamentet pekar därför på behovet att ur ett konkurrensperspektiv säkerställa att nya snedvridningar utvärderas och hanteras på rätt sätt.

4.En rättslig ram för AI och robotteknik

114.  Europaparlamentet uppmanar kommissionen, i syfte att främja en lagstiftning som gynnar utvecklingen av AI och är förenlig med principen om bättre lagstiftning, att regelbundet ompröva den nuvarande lagstiftningen för att säkerställa dess ändamålsenlighet vad gäller AI, och att samtidigt respektera EU:s grundläggande värden och försöka ändra eller ersätta nya förslag när det visar sig inte fungera.

115.  Europaparlamentet välkomnar inrättandet av AI-baserade deltagarplattformar som gör det möjligt för medborgarna att på ett framgångsrikt sätt göra sin röst hörd och interagera med myndigheter genom att lämna förslag, även genom deltagarbaserade budgetar och andra instrument för direktdemokrati. Parlamentet betonar att gräsrotsprojekt kan främja medborgarnas deltagande och hjälpa människor att fatta informerade beslut på ett mer effektivt och demokratiskt sätt.

116.  Europaparlamentet noterar att AI är ett begrepp som omfattar en mängd olika produkter och tillämpningar, från automatisering, algoritmer och specificerad AI till generell AI. Parlamentet anser att man bör vara försiktig när det gäller en heltäckande lagstiftning eller förordning om AI eftersom sektoriell reglering kan skapa strategier som är tillräckligt allmänna, och samtidigt anpassade till en nivå som gör dem meningsfulla för industrisektorn.

117.  Europaparlamentet betonar att den politiska ramen måste utformas så att den främjar utvecklingen av alla typer av AI och inte bara system för djupinlärning, som kräver enorma mängder data.

4.1.En inre marknad för artificiell intelligens

118.  Europaparlamentet understryker vikten av principen om ömsesidigt erkännande vid gränsöverskridande användning av smarta varor, bland dem också robotar och system för robotteknik. Parlamentet erinrar om att man vid behov, i samband med provning, certifiering och produktsäkerhet, bör säkerställa att vissa varor har inbyggd säkerhet och säkerhet som standard, och konstaterar i detta sammanhang betydelsen av att också arbeta med de etiska aspekterna av AI.

119.  Parlamentet understryker att EU:s lagstiftning om genomförandet av strategin för den digitala inre marknaden bör undanröja hinder för användning av AI. Parlamentet uppmanar kommissionen att utvärdera när de politiska och rättsliga ramarna måste uppdateras i syfte att inrätta en inre europeisk marknad för AI.

120.  Europaparlamentet är medvetet om att robotteknik och AI-teknik allt oftare används i självkörande fordon, såsom självkörande bilar och civila drönare. Parlamentet konstaterar att vissa medlemsstater redan antagit eller överväger att anta lagstiftning inom just detta område, vilket kan resultera i ett lapptäcke av nationella lagar som hindrar utvecklingen av självkörande fordon. Parlamentet efterlyser därför en enhetlig uppsättning unionsregler som skapar balans mellan användarnas, företagens och andra berörda parters intressen och potentiella risker för dem, samtidigt som överreglering av system för AI och robotteknik undviks.

121.  Europaparlamentet uppmanar med kraft medlemsstaterna att modernisera sina system för yrkesutbildning och utbildning, så att hänsyn tas till vetenskapliga framsteg och utvecklingen inom AI, i enlighet med direktivet om proportionalitetstest(10) och direktivet om yrkeskvalifikationer(11), och att under de kommande årtiondena göra EU:s yrkesmässiga tjänster globalt konkurrenskraftiga.

122.  Europaparlamentet betonar att AI används inom många olika sektorer där det är mycket viktigt med standardisering, såsom smart tillverkning, robotteknik, självkörande fordon, virtuell verklighet, hälso- och sjukvård samt dataanalys, och anser att en EU-omfattande standardisering av AI kommer att stimulera innovation och garantera ett högt konsumentskydd. Parlamentet medger att det visserligen redan finns många standarder för exempelvis säkerhet, tillförlitlighet, interoperabilitet och trygghet, men att gemensamma standarder för robotteknik och AI behöver främjas och utvecklas mer och bör finnas med bland unionens prioriteringar. Parlamentet uppmanar kommissionen att, i samarbete med EU:s standardiseringsorgan, fortsätta att tillsammans med internationella standardiseringsorgan aktivt utveckla bättre standarder på området.

123.  Europaparlamentet erinrar om att många politiska aspekter med anknytning till tjänster som använder AI, bland annat regler om konsumentskydd och politik för etik och ansvar, redan omfattas av den gällande lagstiftningsramen om tjänster, alltså tjänstedirektivet(12), direktivet om yrkeskvalifikationer och direktivet om elektronisk handel(13). Parlamentet påpekar i detta sammanhang att människor alltid måste ha det slutliga beslutsansvaret, framför allt för yrkesmässiga tjänster, såsom inom hälso- och sjukvård, juridik och redovisning. Parlamentet anser att man bör diskutera om övervakning från en kvalificerad fackmans sida behövs för att skydda allmänhetens legitima intressen och erbjuda tjänster av hög kvalitet.

124.  Europaparlamentet erkänner hur viktigt det är med förbättrade digitala tjänster, såsom virtuella assistenter, dialogrobotar och virtuella agenter, eftersom de skapar en effektivare drift än någonsin, men medger att begränsningarna i AI:s och robotteknikens autonomi gör att man måste utveckla en människocentrerad och marknadsdriven AI, för att man ska kunna få bättre och mera tillförlitliga beslut.

4.2.Personuppgifter och integritet

125.  Europaparlamentet understryker att en hög säkerhets-, trygghets- och integritetsnivå när det gäller uppgifter som används i kommunikationen mellan människor och robotar samt AI måste säkerställas. Parlamentet uppmanar kommissionen och medlemsstaterna att därför integrera principer om säkerhet och inbyggt integritetsskydd i sina strategier med anknytning till robotteknik och AI.

126.  Europaparlamentet upprepar att rätten till skydd av privatlivet och rätten till skydd av personuppgifter enligt artiklarna 7 och 8 i stadgan om de grundläggande rättigheterna och artikel 16 i fördraget om Europeiska unionens funktionssätt är tillämpliga på alla områden som inbegriper robotteknik och AI och att unionens rättsliga ramverk om uppgiftsskydd måste respekteras till fullo. Parlamentet understryker att konstruktörer av system för robotteknik och AI ansvarar för att utveckla produkterna så att de är säkra och ändamålsenliga samt överensstämmer med förfarandena för uppgiftsbehandling i enlighet med befintlig lagstiftning, regler om konfidentialitet, anonymitet, rättvis behandling och rättssäkerhet.

127.  Europaparlamentet uppmanar kommissionen att säkerställa att all unionslagstiftning om AI inkluderar åtgärder och regler som tar hänsyn till den snabba tekniska utvecklingen på detta område så att unionslagstiftningen inte kommer efter i den tekniska utvecklingen och användningen. Parlamentet betonar behovet av att sådan lagstiftning överensstämmer med reglerna om integritet och uppgiftsskydd. Parlamentet efterlyser en översyn av reglerna, principerna och kriterierna för användning av kameror och sensorer i robotar och vad gäller AI i enlighet med unionens rättsliga ramverk om uppgiftsskydd.

128.  Europaparlamentet uppmanar kommissionen att se till att EU:s framtida regelverk för AI garanterar integritet och konfidentialitet vid kommunikation, skydd av personuppgifter, däribland principerna om lagenlighet, rättvisa och transparens, inbyggt uppgiftsskydd och uppgiftsskydd som standard, ändamålsbegränsning, lagringsbegränsning, korrekthet och dataminimering, i full överensstämmelse med unionens dataskyddslagstiftning samt säkerhet, personlig säkerhet och andra grundläggande rättigheter, inbegripet rätten till yttrande- och informationsfrihet.

129.  Europaparlamentet betonar att rätten till integritet alltid måste respekteras och att enskilda individer inte får vara personligt identifierbara. Parlamentet betonar att en AI‑utvecklare alltid bör få klart och entydigt informerat samtycke och att AI-konstruktörer bör ha ett ansvar att utveckla och följa förfaranden för giltigt samtycke, konfidentialitet, anonymitet, rättvis behandling och rättssäkerhet. Parlamentet betonar att konstruktörer bör hörsamma alla begäranden om radering och borttagande av relaterade uppgifter från dataset.

130.  Europaparlamentet erinrar om att det i Europaparlamentets och rådets direktiv (EU) 2018/1807 av den 14 november 2018 om en ram för det fria flödet av andra data än personuppgifter i Europeiska unionen, står att ”om teknisk utveckling gör det möjligt att omvandla anonymiserade data till personuppgifter ska sådana data behandlas som personuppgifter, och att dataskyddsförordningen ska tillämpas i enlighet med detta”.

4.3.Ansvar

131.  Europaparlamentet välkomnar kommissionens initiativ att inrätta en expertgrupp för ansvarsfrågor och ny teknik för att förse EU med sakkunskap om huruvida direktivet om produktansvar(14) är tillämpligt på traditionella produkter, ny teknik och nya samhällsutmaningar (konstellationen för direktivet om produktansvar) och hjälpa EU att utveckla principer som kan tjäna som riktlinjer för eventuella anpassningar av tillämplig lagstiftning på EU-nivå och nationell nivå när det gäller ny teknik (konstellationen för ny teknik).

132.  Europaparlamentet beklagar dock att inget lagstiftningsförslag lagts fram under denna valperiod, vilket försenar uppdateringen av ansvarsbestämmelserna på EU-nivå och hotar rättssäkerheten i hela EU på detta område både för näringsidkare och konsumenter.

133.  Europaparlamentet noterar att AI-ingenjörer eller de företag där de är anställda bör fortsatt ansvara för de sociala, miljömässiga och hälsomässiga konsekvenser som AI‑system eller robotteknik kan få för dagens och kommande generationer.

4.4.Konsumentskydd och konsumentinflytande

134.  Europaparlamentet understryker att konsumenternas förtroende är avgörande för utvecklingen av AI, och att AI-baserade system alltmer hanterar konsumentuppgifter, vilket innebär att de blir måltavlor för it-attacker. Parlamentet framhåller också att AI måste fungera på ett sätt som inte är till nackdel för medborgare och konsumenter, och anser att integriteten för de data och algoritmer som används i samband med dem måste säkras.

135.  Europaparlamentet anser att AI-teknik som utvecklats för både tillverkning eller enskilt bruk bör omfattas av produktsäkerhetskontroller som utförs av marknadskontrollmyndigheter samt omfattas av konsumentskyddsbestämmelser som vid behov garanterar minimisäkerhetsstandarder och motverkar risken för olyckor till följd av interaktion med människor eller arbete i människors omedelbara närhet. Parlamentet anser att etiska frågor och frågor om uppgiftsskydd, inklusive uppgifter som tillhör tredje part och personuppgifter, skadeståndsansvar och it-säkerhet, bör tas upp inom all politik som rör AI.

4.5.Immateriell äganderätt

136.  Europaparlamentet påminner om sin resolution av den 16 februari 2017, i vilken parlamentet konstaterade att det inte finns några rättsliga bestämmelser som är specifikt tillämpliga på robotteknik, men att de befintliga rättsordningarna och doktrinerna lätt kan tillämpas på robotteknik, även om det verkar som om vissa aspekter kräver särskild hänsyn. Parlamentet uppmanar kommissionen, precis som i nämnda resolution, att stödja en övergripande och teknikneutral strategi för immateriell äganderätt som är tillämplig på de olika sektorer där robotteknik skulle kunna användas.

137.  Europaparlamentet välkomnar i detta avseende kommissionens meddelande till institutionerna om vägledning om vissa aspekter av Europaparlamentets och rådets direktiv 2004/48/EG om säkerställande av skyddet för immateriella rättigheter(15) (COM(2017)0708), men understryker behovet att övervaka hur relevanta och effektiva bestämmelserna om immateriella rättigheter är när det gäller att styra utvecklingen av AI. Parlamentet understryker i detta sammanhang vikten av kontroller av ändamålsenligheten.

5.Etiska aspekter

138.  Europaparlamentet anser att åtgärder och tillämpningar med anknytning till AI ska följa etiska principer och relevanta lagar både på nationell och internationell nivå och på unionsnivå,

139.  Europaparlamentet efterlyser en etisk stadga om bästa praxis för AI och robotteknik som företag och experter bör följa.

140.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att verka för ett kraftfullt och öppet samarbete mellan de offentliga och privata sektorerna och forskarvärlden som skulle stärka kunskapsutbytet, och att främja utbildning för konstruktörerna om etiska konsekvenser, säkerhet och respekt för grundläggande rättigheter, och för konsumenterna om användning av robotteknik och AI, med särskilt fokus på säkerhet och uppgiftsskydd.

141.  Europaparlamentet uppmanar kommissionen att säkerställa att tillämpningar som baseras på AI inte bör använda uppgifter som samlats in från olika källor utan att först ha fått uttryckligt tillstånd från den registrerade. Parlamentet uppmanar kommissionen att skapa en ram som ser till att det samtycke som ges av den registrerade kommer att generera uppgifter endast för avsedda ändamål.

142.  Europaparlamentet uppmanar kommissionen att respektera medborgarnas rätt till ett liv utanför internet och att säkerställa att medborgare om vilka inga uppgifter finns registrerade inte diskrimineras.

5.1.Människocentrerad teknik

143.  Europaparlamentet betonar att det krävs etiska regler för att säkerställa en människocentrerad AI-utveckling, ansvarsskyldighet och öppenhet i systemen för algoritmiskt beslutsfattande, tydliga ansvarsregler och rättvisa.

144.  Europaparlamentet välkomnar kommissionens initiativ om att inrätta en högnivåexpertgrupp för AI, liksom EU:s alliansnätverk för AI, som ska ta fram etiska riktlinjer för AI. Parlamentet uppmanar kommissionen att se till att dessa etiska riktlinjer används i så stor utsträckning som möjligt av näringslivet, den akademiska världen och offentliga myndigheter. Parlamentet rekommenderar att medlemsstaterna införlivar riktlinjerna i sina nationella AI-strategier och tar fram verkliga ansvarsstrukturer för industrier och regeringar när de utformar och utvecklar AI.

145.  Europaparlamentet anser att en kontinuerlig uppföljning av genomförandet av de etiska riktlinjerna för AI liksom deras inverkan på utvecklingen av människocentrerad AI är av avgörande betydelse. Parlamentet uppmanar kommissionen att analysera huruvida de frivilliga etiska riktlinjerna är tillräckliga för att säkerställa att en inkluderande användning av AI med inbyggd etik inte skapar ekonomiska och sociala klyftor i EU:s samhällen, och föreslår lagstiftningsåtgärder och politiska åtgärder vid behov.

146.  Europaparlamentet noterar den senaste tidens utveckling inom övervakning av och anpassning till beteendeanalys. Parlamentet uppmanar kommissionen att ta fram ett etiskt ramverk som begränsar dess användning. Parlamentet uppmanar kommissionen att skapa medvetenhet och att lansera en informationskampanj om AI och om hur AI används inom beteendeanalys.

5.2.Tekniskt inbäddade värden – inbyggd etik

147.  Europaparlamentet påpekar att den vägledande etiska ramen bör bygga på principerna om gott syfte, icke-skadlighet, autonomi och rättvisa, på de principer och värden som finns förankrade i artikel 2 i fördraget om Europeiska unionen och i stadgan om de grundläggande rättigheterna, såsom människans värdighet, jämlikhet, rättvisa och likabehandling, icke-diskriminering, informerat samtycke och skydd av privat- och familjeliv och uppgiftsskydd, liksom på andra principer och värden som ligger till grund för unionsrätten, såsom icke-stigmatisering, öppenhet, oberoende, individuellt och socialt ansvar samt befintliga etiska metoder och regler.

148.  Europaparlamentet anser att Europa bör bli först i världen med att bara använda AI med inbyggd etik. Parlamentet understryker att man för att uppnå detta måste säkerställa att etik styr AI på olika nivåer. Parlamentet rekommenderar medlemsstaterna att inrätta övervaknings- och tillsynsorgan för AI-etik och att uppmuntra företag som utvecklar AI att inrätta etiknämnder och ta fram etiska riktlinjer för sina AI-utvecklare.

149.  Europaparlamentet betonar att de europeiska standarderna för AI måste bygga på principerna om digital etik, mänsklig värdighet, respekt för grundläggande rättigheter, uppgiftsskydd och säkerhet, och på så sätt bidra till att skapa förtroende bland användarna. Parlamentet understryker vikten av att utnyttja EU:s potential för att skapa en stark infrastruktur för AI-system som bygger på uppgifter med hög standard och respekt för människor. Parlamentet noterar att öppenhet och förklarbarhet måste ingå i utvecklingen av AI.

150.  Europaparlamentet noterar att automatiserade vapensystem bör fortsätta att följa en strategi där människan har kontroll över AI.

5.3.Beslutsfattande – begränsningar i AI:s och robotteknikens autonomi

151.  Europaparlamentet betonar att det är svårt och komplicerat att förutspå framtida beteenden hos många komplexa AI-system och nya beteenden i interagerande AI-system. Parlamentet ber kommissionen att utvärdera om det behövs särskilda bestämmelser för beslutsfattande där AI används.

152.  Europaparlamentet noterar att AI kommer att fortsätta vara ett användbart redskap för samarbete kring mänsklig verksamhet för att förbättra resultaten och begränsa felen.

153.  Europaparlamentet kräver att människor har rätt att få veta, rätt att överklaga och rätt till prövning i de fall då AI används för beslut som rör enskilda personer och som medför en betydande risk för den enskildes rättigheter och friheter eller som kan skada dem.

154.  Europaparlamentet betonar att algoritmer i beslutssystem inte bör användas innan en konsekvensbedömning av algoritmen utförts såvida det inte är uppenbart att de inte har någon större inverkan på enskilda personers liv.

155.  Europaparlamentet anser att AI bör omfattas av tydliga principer, i synnerhet system med inbyggd autonomi, inklusive kapacitet att själva utvinna, samla in och dela känslig information med olika intressenter, och möjlighet till egen inlärning eller till och med självmodifiering. Parlamentet betonar att AI-system inte får behålla eller avslöja konfidentiella personuppgifter utan uttryckligt godkännande från källan till uppgifterna.

5.4.Algoritmers öppenhet, systematiska fel och förklarbarhet

156.  Europaparlamentet påpekar att AI ger stora fördelar inom automatisering och beslutsfattande, men att det samtidigt medför en inneboende risk om algoritmerna är statiska och otydliga. Parlamentet betonar i detta sammanhang behovet av större öppenhet i algoritmerna.

157.  Europaparlamentet uppmanar kommissionen, medlemsstaterna och dataskyddsmyndigheterna att identifiera och vidta alla åtgärder för att förebygga eller minimera diskriminering och systematiska fel i algoritmer, samt att utveckla ett starkt och gemensamt etiskt ramverk för en öppen behandling av personuppgifter och automatiserat beslutsfattande som ska fungera som vägledning för användning av uppgifter och efterlevnad av unionsrätten.

158.  Europaparlamentet understryker att alla AI-system måste utvecklas med respekt för principerna om öppenhet och algoritmisk ansvarighet, så att människor har möjlighet att förstå dess handlingar. Parlamentet konstaterar att för att bygga förtroende och möjliggöra AI-utveckling måste användarna vara medvetna om hur deras uppgifter, andra uppgifter och uppgifter som härletts ur deras uppgifter används när de kommunicerar med eller interagerar med ett AI-system eller med människor som stöds av ett AI-system. Parlamentet anser att detta kommer att bidra till bättre förståelse för och förtroende bland användare. Parlamentet betonar att begripliga beslut måste bli EU‑standard i enlighet med artiklarna 13, 14 och 15 i den allmänna dataskyddsförordningen(16). Parlamentet erinrar om att den allmänna dataskyddsförordningen redan nu föreskriver en rätt att informeras om logiken i databehandlingen. Parlamentet betonar att enskilda personer, i enlighet med artikel 22 i dataskyddsförordningen, har rätt till personlig kontakt när ett beslut som grundar sig på automatiserad behandling påverkar dem i betydande grad.

159.  Europaparlamentet framhäver den avgörande roll som kommissionen, Europeiska dataskyddsstyrelsen, nationella dataskyddsmyndigheter och andra oberoende tillsynsmyndigheter bör spela framöver i främjandet av öppenhet och korrekta rättsförfaranden, rättssäkerhet i allmänhet och, mer specifikt, konkreta standarder som värnar de grundläggande rättigheter och garantier som är förbundna med databehandling och dataanalyser. Parlamentet efterlyser ett närmare samarbete mellan de myndigheter som ansvarar för att övervaka eller reglera beteenden i den digitala miljön. Parlamentet efterlyser lämplig finansiering och bemanning av sådana myndigheter.

160.  Europaparlamentet erkänner att algoritmer för maskininlärning har tränats för att lära sig själva, vilket gynnar automatisering och beslutsfattande. Parlamentet efterlyser riktlinjer för AI-etik för att hantera frågor som är kopplade till algoritmisk öppenhet, förklarbarhet, ansvarsskyldighet och rättvisa.

161.  Europaparlamentet belyser vikten av att kunna förklara AI-systemens resultat, processer och värden genom att göra dem förståeliga för personer utan tekniska kunskaper och ge dem användbar information, vilket är nödvändigt för att utvärdera om de är rättvisa och för att vinna förtroende.

162.  Europaparlamentet påpekar att bristen på öppenhet när det gäller denna teknik och dess tillämpningar ger upphov till ett antal etiska frågor.

163.  Europaparlamentet noterar att AI-system bör kunna förklaras för människor och tillhandahålla användbar information så att återkoppling kan ges. Parlamentet erkänner att välfungerande AI-modeller är beroende av återkoppling och förnyad bedömning och uppmuntrar denna process.

164.  Europaparlamentet noterar att medborgarna oroas över att inte veta när AI används och vad för slags information som kommer att behandlas. Parlamentet rekommenderar att det tydligt framgår när medborgare använder AI. Parlamentet betonar att det är viktigt att de uppgifter som skickas förblir säkra, för att behålla konsumenternas förtroende.

165.  Europaparlamentet anser att algoritmisk ansvarighet bör regleras av politiska beslutsfattare genom konsekvensbedömningar baserade på fastställda parametrar.

166.  Europaparlamentet noterar att offentliggörandet av själva datorkoden inte kommer att lösa frågan om öppenhet i samband med AI, eftersom det inte skulle avslöja de inneboende systematiska felen och inte skulle förklara hur maskininlärningen går till. Parlamentet understryker att öppenhet inte bara innebär öppenhet beträffande koden, utan även vad gäller uppgifter och automatiserat beslutsfattande.

167.  Europaparlamentet erkänner att offentliggörandet av källkod skulle kunna leda till felaktig användning och felaktigt utnyttjande av algoritmer.

168.  Europaparlamentet betonar vikten av att hantera systematiska fel från utvecklarnas sida, och således behovet av en diversifierad arbetsstyrka inom alla grenar av IT-sektorn samt skyddsmekanismer, för att undvika att systematiska fel som grundar sig på kön och ålder bäddas in i AI-systemen.

169.  Europaparlamentet inser att ett offentliggörande av koden eller av affärshemligheter även skulle avskräcka företag från forskning om och utveckling av nya koder eftersom deras immateriella rättigheter skulle vara i fara. Parlamentet noterar att AI-utvecklingen istället bör uppmuntra möjligheten att tolka modeller och deras interaktion med indata och träningsdata.

170.  Europaparlamentet erkänner att även om öppenhet och förklarbarhet kan avslöja brister garanterar de inte tillförlitlighet, säkerhet och rättvisa. Parlamentet anser därför att ansvarsskyldighet måste vara en integrerad del för att få fram tillförlitlig AI, som kan uppnås på olika sätt, bland annat genom miljökonsekvensanalyser, granskning och certifiering.

171.  Europaparlamentet betonar behovet av att utveckla protokoll för den pågående övervakningen och upptäckten av algoritmiska systematiska fel.

172.  Europaparlamentet påpekar att konstruktörer av algoritmer bör säkerställa att viktiga krav såsom rättvisa och förklarbarhet uppfylls från början av utformningen och under hela utvecklingscykeln.

173.  Europaparlamentet noterar behovet av riktlinjer som beskriver god utvecklingspraxis.

174.  Europaparlamentet betonar betydelsen av att visa tillkomsthistorik för att kunna spåra AI-modellens historik. Parlamentet anser att detta kommer att förbättra förståelsen av modellerna och bidra till att skapa förtroende som bygger på deras historia.

175.  Parlamentet betonar att användningen av AI-system tydligt måste identifieras i interaktionen med användarna.

176.  Europaparlamentet understryker att utbredningen av AI och robotteknik bör ske med fullständig respekt för de mänskliga rättigheterna och stereotypa föreställningar om kvinnor eller andra former av diskriminering bör inte föras vidare i maskiner eller robotar.

177.  Europaparlamentet påpekar att till och med högkvalitativa inlärningsdata kan leda till att den diskriminering och orättvisa som finns upprätthålls om de inte används på ett försiktigt och medvetet sätt. Parlamentet konstaterar att användningen av föråldrade, ofullständiga eller oriktiga uppgifter av dålig kvalitet i olika skeden av databehandlingen kan leda till bristfälliga prognoser och bedömningar och i sin tur till systematiska fel, som i slutändan kan resultera i överträdelser av enskildas grundläggande rättigheter eller i helt felaktiga slutsatser och oriktiga resultat. Parlamentet anser därför att det är viktigt att man i stordataåldern ser till att algoritmer lärs upp med hjälp av ett representativt urval av högkvalitativa data, så att den statistiska pariteten kan uppnås. Parlamentet betonar att även om korrekta högkvalitativa data används kan en prediktiv analys baserad på AI endast ge en statistisk sannolikhet. Parlamentet påminner om att ytterligare behandling av personuppgifter för statistiska ändamål, inklusive AI-inlärning, enligt den allmänna dataskyddsförordningen, endast får resultera i aggregerade uppgifter som inte kan återtillämpas på enskilda.

178.  Europaparlamentet uppmanar kommissionen att säkerställa att en person som framställer deepfakes eller syntetiska videor eller andra realistiskt framställda syntetiska videor tydligt uppger att de inte är original.

179.  Europaparlamentet noterar att AI till sin natur förlitar sig på att stora mängder data samlas in, och ofta på inrättandet av nya databaser som används för att göra antaganden om människor. Parlamentet anser att det viktigaste bör vara att identifiera och bygga upp insatsmekanismer för potentiella hot för att säkerställa färre negativa effekter.

180.  Europaparlamentet upprepar att AI-system inte bör skapa eller förstärka systematiska fel. Parlamentet understryker att när man utvecklar eller använder algoritmer måste hänsyn tas till systematiska fel och rättvisa inkluderas i alla steg, från utformning till genomförande. Parlamentet understryker att dataset och algoritmer måste bedömas och regelbundet testas för att säkerställa att beslutsfattandet är korrekt.

6.Styrning

6.1.Samordning på unionsnivå

181.  Europaparlamentet uppmanar kommissionen att arbeta för en utveckling av ett starkt EU-ledarskap för att förhindra duplicering/fragmentering av åtgärder och säkerställa en konsekvent politik på nationell nivå och utbyte av bästa praxis för en mer utbredd användning av AI.

182.  Europaparlamentet välkomnar de olika nationella strategier som tagits fram av medlemsstaterna. Parlamentet välkomnar kommissionens samordnade plan för artificiell intelligens, som offentliggjordes den 7 december 2018. Parlamentet efterlyser ett bättre samarbete mellan medlemsstaterna och kommissionen i detta avseende.

183.  Europaparlamentet konstaterar att ett antal medlemsstater redan har sina egna nationella strategier för AI och välkomnar att samtliga medlemsstater i april 2018 undertecknade en förklaring om samarbete kring AI. Parlamentet är också positivt till den kommande plan för AI som samordnats mellan kommissionen och medlemsstaterna, men uppmanar ändå alla berörda parter att sträva efter största möjliga samarbete.

184.  Europaparlamentet anser att ett utökat samarbete mellan medlemsstaterna och kommissionen är nödvändigt för att garantera enhetliga regler för gränsöverskridande handel i unionen, vilka uppmuntrar till samarbete mellan europeiska industrier och tillåter användningen av AI i hela unionen på ett sätt som är förenligt med de erforderliga säkerhets- och skyddsnivåerna och de etiska principerna i unionsrätten.

185.  Europaparlamentet betonar att en harmoniserad, riskbaserad och progressiv ram för EU:s datapolitik skulle öka förtroendet för och stödja utvecklingen av AI i Europa, och därigenom säkerställa ett fullbordande av den digitala inre marknaden och öka Europa-baserade företags produktivitet.

186.  Europaparlamentet rekommenderar att befintliga och framtida AI-relaterade initiativ och pilotprojekt som genomförs av kommissionen bör vara nära samordnade, eventuellt med vägledning av den föreslagna tillsynsmekanismen, för att skapa synergieffekter och säkerställa verkligt mervärde, samtidigt som kostsamma dubbla strukturer undviks.

187.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att överväga att inrätta en europeisk tillsynsmyndighet för AI och algoritmbaserat beslutsfattande med följande arbetsuppgifter:

   Inrätta en riskbedömningsmatris för att klassificera algoritmtyper och tillämpningsområden enligt eventuella negativa effekter som de medför för medborgare.
   Undersöka användningen av algoritmsystem i de situationer då man misstänker kränkningar av mänskliga rättigheter (med bevis från exempelvis en visselblåsare).
   Ge andra tillsynsmyndigheter råd om algoritmsystem som faller inom deras ansvarsområde.
   Göra skadeståndsansvarsmekanismen mer effektiv som ett sätt att reglera ansvaret för algoritmsystem genom att tillhandahålla en kontaktpunkt för medborgare som inte känner till rättsliga förfaranden.
   Granska konsekvensbedömningar av algoritmer för system med stor genomslagskraft för att godkänna eller förkasta de föreslagna användningsområdena för algoritmiskt beslutsfattande inom mycket känsliga och/eller säkerhetskritiska tillämpningsområden (t.ex. privat hälso- och sjukvård); konsekvensbedömningar av algoritmer för tillämpningar i den privata sektorn skulle kunna använda en process som är mycket lik den som vi föreslagit för den offentliga sektorn, möjligtvis med skillnaden att de olika stegen av offentliggörande skulle kunna hanteras som konfidentiell kommunikation till tillsynsmyndigheten (enligt ett sekretessavtal) för att skydda mycket viktiga affärshemligheter.
   Undersöka misstänkta fall av algoritmbaserade beslutssystems kränkningar av rättigheter, för både individuella beslutsinstanser (t.ex. enskilda avvikande resultat) och statistiska beslutsmönster (t.ex. diskriminerande systematiska fel); undersökningar skulle kunna inledas till följd av att klagomål lämnats in eller på grundval av bevis som lämnas av visselblåsare, undersökande journalister eller oberoende forskare (inklusive icke-statliga organisationer och universitet).

188.  Europaparlamentet noterar det pågående arbetet inom Internationella standardiseringsorganisationen (ISO) om AI och uppmanar eftertryckligen medlemsstaterna att samordna sina ISO-medlemmar för att säkerställa att europeiska intressen är tillräckligt representerade vid utarbetandet av standarder på detta område.

6.2.Internationell styrning

189.  Europaparlamentet välkomnar inrättandet av OECD:s observationsgrupp för AI och efterlyser en högre ambition när det gäller att ta fram en färdplan för ökat samarbete.

190.  Europaparlamentet lyfter fram de olika modeller som utvecklas i tredjeländer, mer specifikt i Förenta staterna, Kina, Ryssland och Israel, och framhåller det värdebaserade tillvägagångssätt som används i Europa och behovet av att samarbeta med internationella partner i bilaterala och multilaterala sammanhang, för en etisk utveckling och ett etiskt utnyttjande av AI. Parlamentet är medvetet om att denna teknik inte har några gränser och att samarbete utanför EU:s gränser krävs.

191.  Europaparlamentet uppmanar kommissionen att arbeta på internationell nivå för att säkerställa största möjliga överensstämmelse mellan internationella aktörer och att förespråka EU:s etiska principer i hela världen.

192.  Europaparlamentet understryker att AI är en teknik med global inverkan, som ger gemensamma fördelar och liknande utmaningar. Parlamentet framhåller behovet av en övergripande strategi, som för det ekonomiska systemet, och särskilt när det gäller teknik med en betydande inverkan på marknaderna. Parlamentet betonar att AI måste föras upp på befintliga institutioners och organisationers dagordning, och efterlyser en bedömning av behovet av ytterligare forum, som bör skapas vid behov.

o
o   o

193.  Europaparlamentet uppdrar åt talmannen att översända denna resolution till rådet och kommissionen.

(1) EUT C 252, 18.7.2018, s. 239.
(2) EUT C 307, 30.8.2018, s. 163.
(3) Antagna texter, P8_TA(2018)0341.
(4) Antagna texter, P8_TA(2018)0332.
(5) EUT L 252, 8.10.2018, s. 1.
(6) COM(2018)0237.
(7) FET (Future and Emerging Technologies).
(8) OECD, Digital Economy Outlook 2017.
(9) Särskild Eurobarometer 460.
(10) Europaparlamentets och rådets direktiv (EU) 2018/958 av den 28 juni 2018 om proportionalitetsprövning före antagandet av ny reglering av yrken, EUT L 173, 9.7.2018, s. 25.
(11) Europaparlamentets och rådets direktiv 2013/55/EU av den 20 november 2013 om ändring av direktiv 2005/36/EG om erkännande av yrkeskvalifikationer och förordning (EU) nr 1024/2012 om administrativt samarbete genom informationssystemet för den inre marknaden (IMI-förordningen), EUT L 354, 28.12.2013, s.132.
(12) Europaparlamentets och rådets direktiv 2006/123/EG av den 12 december 2006 om tjänster på den inre marknaden, EUT L 376, 27.12.2006, s. 36.
(13) Europaparlamentets och rådets direktiv 2000/31/EG av den 8 juni 2000 om vissa rättsliga aspekter på informationssamhällets tjänster, särskilt elektronisk handel, på den inre marknaden (”Direktiv om elektronisk handel”), EGT L 178, 17.7.2000, s. 1.
(14) Rådets direktiv 85/374/EEG av den 25 juli 1985 om tillnärmning av medlemsstaternas lagar och andra författningar om skadeståndsansvar för produkter med säkerhetsbrister , EGT L 210, 7.8.1985, s. 29.
(15) EUT L 195, 2.6.2004, s. 16.
(16) Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG, EUT L 119, 4.5.2016, s. 1.

Senaste uppdatering: 13 februari 2019Rättsligt meddelande