Förfarande : 2018/2088(INI)
Dokumentgång i plenum
Dokumentgång : A8-0019/2019

Ingivna texter :

A8-0019/2019

Debatter :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Omröstningar :

PV 12/02/2019 - 9.20
Röstförklaringar

Antagna texter :

P8_TA(2019)0081

BETÄNKANDE     
PDF 315kWORD 116k
30.1.2019
PE 630.525v04-00 A8-0019/2019

om en övergripande europeisk industripolitik för artificiell intelligens och robotteknik

(2018/2088(INI))

Utskottet för industrifrågor, forskning och energi

Föredragande: Ashley Fox

Föredragande av yttrande (*):Dita Charanzová, utskottet för den inre marknaden och konsumentskydd

Mady Delvaux, utskottet för rättsliga frågor

Michał Boni, utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor

(*) Förfarande med associerat utskott – artikel 54 i arbetsordningen

FÖRSLAG TILL EUROPAPARLAMENTETS RESOLUTION
 YTTRANDE från utskottet för den inre marknaden och konsumentskydd
 YTTRANDE FRÅN UTSKOTTET FÖR RÄTTSLIGA FRÅGOR ÖVER DEN RÄTTSLIGA GRUNDEN
 YTTRANDE från utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor
 YTTRANDE från utskottet för miljö, folkhälsa och livsmedelssäkerhet
 INFORMATION OM ANTAGANDET I DET ANSVARIGA UTSKOTTET
 SLUTOMRÖSTNING MED NAMNUPPROP I DET ANSVARIGA UTSKOTTET

FÖRSLAG TILL EUROPAPARLAMENTETS RESOLUTION

om en övergripande europeisk industripolitik för artificiell intelligens och robotteknik

((2018/2088(INI))

Europaparlamentet utfärdar denna resolution

–  med beaktande av sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik(1),

–  med beaktande av sin resolution av den 1 juni 2017 över digitalisering av den europeiska industrin(2),

–  med beaktande av sin resolution av den 12 september 2018 om autonoma vapensystem(3),

–  med beaktande av sin resolution av den 11 september 2018 om likabehandling av språk i den digitala tidsåldern(4),

–  med beaktande av kommissionens förslag av den 6 juni 2018 om inrättande av programmet för ett digitalt Europa för perioden 2021–2027 (COM(2018)0434),

–  med beaktande av rådets förordning (EU) nr 2018/1488 av den 28 september 2018 om bildande av det gemensamma företaget för ett europeiskt högpresterande datorsystem(5),

–  med beaktande av artikel 52 i arbetsordningen,

–  med beaktande av betänkandet från utskottet för industrifrågor, forskning och energi och yttrandena från utskottet för den inre marknaden och konsumentskydd, utskottet för rättsliga frågor, utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor och utskottet för miljö, folkhälsa och livsmedelssäkerhet (A8-0019/2019), och av följande skäl:

A.  Insynsvänlig och etikintegrerad artificiell intelligens (AI) och robotteknik har potential att berika våra liv och öka vår kapacitet, för både individer och allmännyttan.

B.  AI utvecklas snabbt och finns redan sedan flera år tillbaka i våra vardagsliv. AI och robotteknik sporrar till innovation, medför nya företagsmodeller och spelar en central roll i omvandlingen av våra samhällen och digitaliseringen av våra ekonomier inom många sektorer, till exempel industrin, hälso- och sjukvården, byggsektorn och transportsektorn.

C.  Den ökande integreringen av robotteknik i mänskliga system kräver stark politisk vägledning om hur man ska maximera fördelarna, minimera riskerna för samhället och säkerställa en säker och rättvis utveckling av AI.

D.  AI är en av 2000-talets strategiska tekniker på såväl global nivå som i Europa och innebär en positiv förändring för den europeiska ekonomin, då den möjliggör innovation, produktivitet, konkurrenskraft och välmående.

E.  Cirka en fjärdedel av alla industrirobotar och hälften av alla professionella servicerobotar i världen tillverkas av europeiska företag och unionen har därför redan nu viktiga resurser som den bör basera sin europeiska näringslivspolitik på.

F.  AI och robotteknik har potential att omforma många olika branscher och leda till ökad produktionseffektivitet och dessutom stärka den internationella konkurrenskraften hos Europas näringsliv och små och medelstora företag. Tillgången till storskaliga dataset och test- och experimentanläggningar har stor betydelse för utvecklingen av AI.

G.  En gemensam strategi kommer att underlätta utvecklingen av samhällsnyttig AI-teknik, samtidigt som man också hanterar de utmaningar som denna teknik innebär i syfte att stimulera innovationen, förbättra kvaliteten på produkter och tjänster som använder AI, förbättra konsumenternas erfarenheter av och förtroende för AI-teknik och robotteknik och förhindra en fragmentering av den inre marknaden.

H.  Dataprestandan i unionen måste upprätthållas på en ledande nivå, vilket torde medföra möjligheter för EU:s försörjningsindustri och göra den mer effektiv i arbetet med att omvandla den tekniska utvecklingen till efterfråge- och tillämpningsstyrda produkter och tjänster, så de sedan kan utnyttjas i storskaliga och nya tillämpningar som stöds av AI.

I.  Det finns ett brådskande behov av en samordnad strategi på europeisk nivå för att EU ska kunna konkurrera med de massinvesteringar som görs av olika tredjeländer, framför allt Förenta staterna och Kina.

J.  Den 25 april 2018(6) utfäste sig kommissionen att lägga fram ett förslag till ett europeiskt förhållningssätt till AI genom att utarbeta ett utkast till AI-riktlinjer i samarbete med berörda parter inom AI-alliansen, en grupp experter på artificiell intelligens, för att främja AI-drivna tillämpningar och företag i Europa.

K.  Befintliga regler och förfaranden måste utvärderas och vid behov ändras för att ta hänsyn till AI och robotteknik.

L.  Den europeiska ramen för AI måste tas fram med full respekt för de rättigheter som fastställs i stadgan om de grundläggande rättigheterna, särskilt vad gäller principerna om uppgiftsskydd, personlig integritet och säkerhet.

M.  Utvecklingen inom AI kan och bör utformas på ett sådant sätt att individens värdighet, självständighet och självbestämmande bevaras.

N.  I sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik uppmanade parlamentet kommissionen att föreslå en enhetlig rättslig ram för utvecklingen av robotteknik, inklusive autonoma system och smarta autonoma robotar.

O.  Hela samhället måste vara delaktigt i utvecklingen av AI och robotteknik. Under 2017 var en stor del av landsbygdsområdena dock utestängda från fördelarna med AI, eftersom 8 % av bostäderna inte täcktes av något fast nät och 53 % av dem inte täcktes av någon teknik för ”nästa generations accessnät” (VDSL, Cable Docsis 3.0 eller FTTP).

P.  Utvecklingen av tjänster och produkter som möjliggörs tack vare AI förutsätter uppkopplingsmöjligheter, fritt dataflöde och datatillgänglighet inom EU. Användningen av avancerad datautvinningsteknik i produkter och tjänster kan bidra till bättre beslutsfattande och således också ökad valfrihet för konsumenterna samt bättre affärsresultat.

Q.  Den tekniska utvecklingen av smarta produkter och tjänster kan gynna kunskapsekonomin, som grundas på den tillgängliga informationens kvantitet, kvalitet och åtkomlighet, och kan således leda till en bättre anpassning till konsumenternas behov.

R.  It-säkerhet är oerhört viktigt för att förhindra fall av illvillig förvanskning eller missbruka data där syftet är att få AI att fungera på ett sätt som är till skada för privatpersoner eller företag, vilket skulle undergräva näringslivets och konsumenternas förtroende för AI. Utvecklingen inom AI leder till ett ökat beroende av dessa system i samband med åtgärder och beslut, något som i sin tur ställer krav på hög cyberresiliens inom EU till skydd mot intrång eller brister i it-säkerheten.

S.  Automatiseringstrenden kräver att de som deltar i utvecklingen och kommersialiseringen av AI-tillämpningar inlemmar säkerhets- och etikaspekter redan från början och därigenom erkänner att de måste vara redo att ta på sig det rättsliga ansvaret för kvaliteten på den teknik som de framställer.

T.  Upprättandet av ett betrott ekosystem för utvecklingen av AI-teknik bör grundas på datapolitikens struktur. Detta innebär att man skapar smidiga och förenklade program för datainsamling och datahantering för utbildnings- och forskningsändamål i syfte att möjliggöra AI-utveckling på en mängd olika områden: medicin, finanssektorn, biologi, energisektorn, industrisektorn, kemisk industri och den offentliga sektorn. Datadrivna AI-ekosystem skulle kunna omfatta alleuropeiska initiativ baserade på öppna standarder, ömsesidigt erkännande av certifikat och insynsvänliga regler för interoperabilitet.

U.  Användningen av AI är inte i sig någon garant för sanning eller rättvisa, eftersom olika vinklingar kan skapas beroende på data samlas in och hur algoritmen skrivs och kan härröra från förutfattade meningar som råder i samhället. Partiskhet bör förhindras med hjälp av data av god kvalitet i kombination med algoritmernas utformning och ständiga omvärderingar.

V.  AI och robotteknik bör utvecklas och tillämpas på ett människocentrerat sätt med målet att stödja människor i arbetet och hemmet. AI kan också användas till att förhindra att människor måste utföra farliga arbetsuppgifter.

W.  Vidareutveckling och ökad användning av automatiserat och algoritmbaserat beslutsfattande påverkar utan tvekan de val som en individ (till exempel en företagare eller en internetanvändare) eller en administrativ, rättslig eller annan offentlig myndighet gör i samband med fattandet av ett slutligt konsument-, affärs- eller myndighetsbeslut. Det måste byggas in skyddsåtgärder och möjlighet till mänsklig kontroll och verifiering i processen för automatiserat och algoritmbaserat beslutsfattande.

X.  Maskininlärning ger också upphov till utmaningar när det gäller att säkerställa icke-diskriminering, korrekta förfaranden, insyn och begriplighet i samband med beslutsprocesser.

Y.  AI är ett viktigt verktyg för att hantera globala samhällsutmaningar och medlemsstaterna bör därför via sin offentliga politik främja investeringar, tillgängliggöra medel för forskning och utveckling och åtgärda hinder för utveckling och anammande av AI.

Z.  Kommersiella AI-plattformar har gått från tester till faktiska tillämpningar på hälso-, miljö-, energi- och transportområdet. Maskininlärningstekniker är centrala för alla större webbplattformar och stordatatillämpningar.

AA.  Europas forskare och företag arbetar med en bred rad blockkedjerelaterade frågor som rör allt från distributionskedjor till offentliga tjänster, finanser, sakernas internet, hälso- och sjukvård, medier, smarta städer, energi och transporter. EU är en stark aktör på viktiga blockkedjerelaterade områden som exempelvis AI. Blockkedjeteknik kan ha stor betydelse för förbättrad innovation i EU.

AB.  Det är mycket viktigt med it-säkerhetsteknik som digitala identiteter, kryptografi eller intrångsdetektion och användningen av sådan teknik inom exempelvis finanssektorn, industri 4.0, energi, transporter, hälso- och sjukvård och e-förvaltning för att skydda säkerheten och förtroendet för de aktiviteter och transaktioner som privatpersoner, offentliga förvaltningar och företag utför på internet.

AC.  Text- och datautvinning tjänar som grund för AI- och maskininlärningstillämpningar och är avgörande för små och medelstora företag och uppstartsföretag eftersom de ger dem tillgång till stora datamängder för att träna AI-algoritmer.

AD.  AI kan komma att visa sig vara mycket energikrävande. Det är därför viktigt att AI-användningens utveckling går hand i hand med EU:s befintliga mål för energieffektivitet och en cirkulär ekonomi.

AE.  AI bör till fullo stödja alla europeiska språk, så att alla européer får lika möjligheter att dra nytta av modern AI-utveckling i det flerspråkiga europeiska informationssamhället.

AF.  Inom företag och tjänster på högteknologiområdet är AI nyckeln till Europas omvandling till en ”start up-kontinent” där man genom att utnyttja den senaste tekniken skapar tillväxt i Europa, särskilt på områdena medicinsk teknik, tjänster och program för hälso- och sjukvård, upptäckt av nya läkemedel, robotteknik och robotassisterad kirurgi samt behandling av kroniska sjukdomar, medicinsk bildteknik och patientjournaler, samtidigt som man skapar en hållbar miljö och säker livsmedelsproduktion. I nuläget ligger Europa efter Nordamerika och Asien när det gäller forskning och patent avseende AI.

AG.  Utvecklingen av AI-teknik kan bidra till att förbättra livskvaliteten för kroniskt sjuka och personer med funktionsnedsättning och bidra med lösningar på samhällsutmaningar som exempelvis vår åldrande befolkning tack vare att det blir möjligt att använda den medicinska tekniken på ett mer exakt och effektivt sätt inom hälso- och sjukvården.

AH.  Det finns en stor mängd tänkbara tillämpningar för AI och robotteknik inom hälso- och sjukvården, bland annat hantering av patientjournaler och medicinska uppgifter, utförande av repetitiva arbetsuppgifter (provanalyser, röntgen, datortomografier, datainmatning), utformning av behandlingar, digitala konsultationer (såsom medicinska konsultationer baserade på den personliga sjukdomshistorien och allmän medicinsk kunskap), virtuella sjuksköterskor, läkemedelshantering, läkemedelsutveckling, precisionsmedicin (såsom genetik och genomik för att söka efter mutationer och sjukdomskopplingar via DNA-information), hälsoövervakning och analys av hälso- och sjukvårdssystem.

AI.  Tillgänglighet innebär inte att alla ska ha samma tjänster och tillämpningar. Tillgänglighet avseende AI och robotteknik bygger på inkluderande planering och utformning. Utformningen måste utgå från användarens behov, önskemål och erfarenheter.

AJ.  Det finns starka etiska, psykiska och juridiska farhågor kring robotars autonomi och deras självklara avsaknad av mänsklig empati samt hur de påverkar förhållandet mellan läkare och patient, vilka fortfarande inte har hanterats på lämpligt sätt på EU-nivå, särskilt vad gäller skyddet av patienters personuppgifter, ansvarsfrågan och de nya ekonomiska förbindelser och anställningsförhållanden som uppstår. ”Autonomi” som sådan kan bara till fullo tillskrivas människor. Det behövs en robust rättslig och etisk ram för AI.

AK.  Införandet av AI inom hälso- och sjukvården i synnerhet måste alltid grundas på ansvarsprincipen att maskinen tjänar människan.

1.  Ett samhälle som stöds av AI och robotteknik

1.1.  Sysselsättning i en tid av AI och robotteknik

1.  Europaparlamentet betonar att automatisering som kombineras med AI kommer att öka produktiviteten och följaktligen även produktionen. Parlamentet konstaterar att det precis som under tidigare tekniska revolutioner kommer att bli så att vissa arbetstillfällen ersätts, samtidigt som andra skapas och våra liv och arbetsmetoder förändras. Parlamentet understryker att ökad användning av robotteknik och AI också bör minska människors exponering för skadliga och farliga förhållanden och bidra till att skapa fler anständiga arbetstillfällen av god kvalitet och förbättra produktiviteten.

2.  Europaparlamentet uppmanar kommissionen och medlemsstaterna eftertryckligen att fokusera på omskolning av arbetstagare i de branscher som påverkas mest av automatiseringen av arbetsuppgifter. Parlamentet betonar att nya utbildningsprogram bör inriktas på att utveckla arbetstagarnas kompetens så att de kan ta del av de nya arbetstillfällen som AI skapar. Dessutom uppmuntrar parlamentet till nya skolkurser i digital kompetens samt utveckling av lärlingsutbildningar och prioriteringar på området för yrkesutbildning för att hjälpa arbetstagare att anpassa sig till tekniska förändringar.

3.  Europaparlamentet rekommenderar att medlemsstaterna tillsammans med aktörer från den privata sektorn identifierar riskerna och tar fram strategier för utvecklingen av relevanta program för omskolning och kompetenshöjning. Parlamentet understryker att företagen själva måste investera i fortbildning och kompetenshöjning bland sin personal för att tillgodose sina behov.

4.  Europaparlamentet understryker att utvecklingen av robotteknik i EU kommer att ha stor påverkan på förhållandet mellan arbetsmarknadens parter. Parlamentet anser att denna påverkan bör hanteras på ett balanserat sätt i syfte att främja återindustrialisering och göra så att även arbetstagarna gynnas av produktivitetsvinsterna.

5.  Europaparlamentet konstaterar att det i det rådande näringslivslandskapet råder en skör jämvikt mellan ägare och arbetstagare. Parlamentet anser att framstegen i fråga om att tillämpa AI inom näringslivet bör ske efter ett brett samråd med arbetsmarknadens parter eftersom den potentiella förändringen av antalet människor som arbetar inom näringslivet kräver proaktiva strategier för att hjälpa arbetstagarna att anpassa sig till de nya kraven och för att säkerställa att fördelarna kommer många till del. Parlamentet menar att detta kräver att man omprövar och omformar arbetsmarknadspolitiken, de sociala trygghetssystemen och skatterna.

6.  Europaparlamentet uppmanar eftertryckligen medlemsstaterna att åtgärda hindren för inträde på arbetsmarknaden, till exempel överdrivna kvalifikationskrav.

7.  Europaparlamentet anser att digital kompetens är en av de viktigaste faktorerna för den framtida AI-utvecklingen och uppmanar eftertryckligen kommissionen och medlemsstaterna att ta fram och genomföra strategier för utbildning och omskolning avseende digital kompetens. Vidare konstaterar parlamentet att digital kompetens kan stödja ett brett och inkluderande deltagande i dataekonomilösningar och underlätta kommunikation och samarbete med samtliga berörda aktörer.

8.  Europaparlamentet noterar att människor i alla åldrar kommer att påverkas, varför läroplanerna måste anpassas, bland annat genom att man skapar nya lärandevägar och använder ny teknik för tillhandahållande. Parlamentet betonar att utbildningsaspekterna bör ägnas tillräcklig uppmärksamhet. I synnerhet anser parlamentet att behovet av digital kompetens, bland annat i fråga om kodning, måste ingå i all undervisning och utbildning – från de tidiga skolåren till det livslånga lärandet.

1.2.  Illvillig användning av AI samt grundläggande rättigheter

9.  Europaparlamentet framhåller att illvillig eller oaktsam användning av AI kan hota den digitala, fysiska och allmänna säkerheten, då det skulle kunna medföra storskaliga, noga målriktade och synnerligen effektiva angrepp på informationssamhällets tjänster och uppkopplade apparater samt desinformationskampanjer och rent generellt minska individens rätt till självbestämmande. Parlamentet betonar att skadlig eller oaktsam användning av AI också kan hota demokratin och de grundläggande rättigheterna.

10.  Europaparlamentet uppmanar kommissionen att föreslå en ram som bestraffar perceptionsmanipulering där individanpassat innehåll eller individanpassade nyhetsflöden ger upphov till negativa känslor och en förvrängd verklighetsuppfattning som kan få negativa konsekvenser (till exempel valresultat eller en förvrängd syn på samhällsfrågor som exempelvis invandring).

11.  Europaparlamentet betonar vikten av att känna igen, identifiera och övervaka skadlig utveckling i och kring utvecklingen av AI. Parlamentet uppmuntrar till forskning kring AI som även fokuserar på upptäckt av fall av korrupt AI och robotteknik, oavsett om detta skett oavsiktligen eller med ont uppsåt.

12.  Europaparlamentet uppmanar kommissionen eftertryckligen att uppmärksamma de samhällsproblem som följer av ”social poängsättning” av medborgare. Parlamentet menar att ingen får diskrimineras baserat på sådan poängsättning och att alla bör ha rätt till ”en andra chans”.

13.  Europaparlamentet hyser stor oro över användningen av AI-tillämpningar, inklusive ansikts- och röstigenkänning, i program för ”känslomässig övervakning, dvs. övervakning av det psykiska tillståndet hos arbetstagare och privatpersoner i syfte att öka produktiviteten och upprätthålla stabiliteten i samhället, ibland tillsammans med system för ”social poängsättning”, vilket redan förekommer i till exempel Kina. Parlamentet betonar att sådana program till sin natur strider mot europeiska värderingar och normer som skyddar individens rättigheter och friheter.

2.  Teknikens väg mot AI och robotteknik

2.1.  Forskning och utveckling

14.  Europaparlamentet erinrar om att det europeiska forskningssamfundet kring AI är världsledande, med 32 % av alla världens AI-forskningsinstitutioner.

15.  Europaparlamentet välkomnar kommissionens förslag om programmet för ett digitalt Europa och den budget på 2,5 miljarder euro som anslagits för AI, liksom den ökade finansieringen inom ramen för Horisont 2020-programmet. Parlamentet förstår att det är viktigt att EU:s finansiering kompletterar medlemsstaternas och industrins forskningsbudgetar för AI och att det behövs samarbete mellan offentliga, privata och EU-relaterade forskningsprogram.

16.  Europaparlamentet stöder de operativa målen för programmet för ett digitalt Europa vad gäller att bygga upp och stärka de grundläggande AI-kapaciteterna i unionen samt att göra dem tillgängliga för alla företag och offentliga förvaltningar och att stärka och skapa nätverk av test- och experimentanläggningar för AI i medlemsstaterna.

17.  Europaparlamentet uppmuntrar medlemsstaterna att utveckla partnerskap med många olika intressenter från näringslivet och forskningsinstitut samt gemensamma AI‑spetskompetenscentrum.

18.  Europaparlamentet betonar att AI-forskningen inte bara bör investera i utveckling av AI-baserad teknik och innovation, utan även i sociala, etiska och ansvarsrelaterade områden med kopplingar till AI. Parlamentet anser att alla AI-modeller som används bör inbegripa etiska aspekter.

19.  Europaparlamentet betonar att AI-forskning och andra sammanhängande verksamheter bör bedrivas i enlighet med försiktighetsprincipen och de grundläggande rättigheterna, samtidigt som man uppmuntrar framsteg till förmån för samhället och miljön. Parlamentet betonar att alla som är delaktiga i utvecklingen, genomförandet, spridningen och användningen av AI bör ta hänsyn till och respektera den mänskliga värdigheten, självbestämmanderätten och välbefinnandet – i både fysisk och psykisk bemärkelse – för individen och samhället i stort samt förutse potentiella säkerhetskonsekvenser och vidta vederbörliga försiktighetsåtgärder i proportion till skyddsnivån, inbegripet ett snabbt offentliggörande av faktorer som kan hota allmänheten eller miljön.

20.  Europaparlamentet betonar att en konkurrenskraftig forskningsmiljö också är avgörande för utvecklingen av AI. Parlamentet framhåller vikten av att stödja spetsforskning, inklusive grundforskning och projekt med hög risk och hög utdelning, och av att främja ett europeiskt forskningsområde med attraktiva villkor för finansiering, rörlighet och tillgång till infrastruktur och teknik i hela unionen, baserat på principen om öppenhet gentemot tredjeländer och expertis från platser utanför EU, förutsatt att det inte underminerar EU:s it-säkerhet.

21.  Europaparlamentet understryker att EU:s forskare fortfarande tjänar åtskilligt mindre än sina motparter i USA och Kina, vilket som bekant är den främsta orsaken till att de lämnar Europa. Parlamentet uppmanar kommissionen och medlemsstaterna att fokusera på att locka toppförmågor till europeiska företag, och medlemsstaterna uppmanas att skapa attraktiva villkor.

22.  Europaparlamentet betonar att Europa måste rikta in det nya flaggskeppsinitiativet inom framtida och ny teknik(7) på AI, med särskild tonvikt vid ett människocentrerat förhållningssätt och språkteknik.

23.  Europaparlamentet anser att AI, maskininlärning och exponentiella språng inom datatillgänglighet och molntjänster driver på forskningsinitiativ som syftar till att förstå biologi på molekyl- och cellnivå, styra utvecklingen av medicinska behandlingar och analysera dataströmmar för att upptäcka hälsohot, förutse sjukdomsutbrott och rådge patienter. Parlamentet noterar att tekniker för datautvinning och datanavigering kan användas för att identifiera brister, risker, tendenser och mönster inom vården.

24.  Europaparlamentet understryker att man när risker uppstår som en oundviklig och integrerad del av AI-forskningen måste utarbeta och följa robusta riskbedömnings- och riskhanteringsprotokoll, med beaktande av att risken för skada inte får vara större än den som föreligger i verkliga livet (det vill säga att människor inte ska utsättas för risker som är större än eller tillkommer utöver dem som de utsätts för till följd av sin vanliga livsstil).

2.2.  Investeringar

25.  Europaparlamentet noterar vikten av ökade investeringar på detta område för att konkurrenskraften ska kunna bibehållas. De flesta investeringar och innovationer på detta område görs av privata företag, men parlamentet menar att också medlemsstaterna och kommissionen bör uppmuntras att fortsätta att investera i forskning inom denna sektor och fastställa utvecklingsprioriteringar. Parlamentet välkomnar InvestEU‑förslaget och andra offentlig-privata partnerskap som uppmuntrar till privat finansiering. Parlamentet anser att man bör främja samordning av investeringar i den privata och offentliga sektorn i syfte att säkerställa en riktad utveckling.

26.  Europaparlamentet framhåller att investeringar i AI, som kan kännetecknas av betydande osäkerhet, bör kompletteras av EU-finansiering från exempelvis Europeiska investeringsbanken (EIB) eller Europeiska investeringsfonden (EIF) alternativt genom InvestEU och Europeiska fonden för strategiska investeringar (Efsi), som kan hjälpa till med riskdelning.

27.  Europaparlamentet uppmanar kommissionen eftertryckligen att inte tillåta EU‑finansiering för väpnad AI. Parlamentet riktar en kraftfull uppmaning till kommissionen om att inte tillåta EU-finansiering till företag som forskar om och utvecklar artificiellt medvetande.

28.  Europaparlamentet rekommenderar att kommissionen säkerställer att de immateriella rättigheterna avseende forskning som bedrivs med hjälp av EU-medel behålls inom EU och vid europeiska universitet.

2.3.  Innovation, samhällelig acceptans och ansvar

29.  Europaparlamentet konstaterar att alla större tekniska framsteg har krävt en övergångsperiod, där merparten av samhället behövt få en djupare förståelse av tekniken och integrera den i sin vardag.

30.  Europaparlamentet konstaterar även att framtiden för denna teknik är beroende av samhällets acceptans och att man måste lägga större vikt vid att förmedla dess fördelar för att säkerställa en bättre förståelse av tekniken och dess tillämpningar. Vidare noterar parlamentet att det kommer att finnas mindre drivkraft för innovation inom denna sektor om samhället har bristande kunskaper om AI.

31.  Europaparlamentet anser att allmänhetens mottaglighet beror på hur människor informeras om möjligheterna, utmaningarna och utvecklingen vad gäller AI. Parlamentet rekommenderar medlemsstaterna och kommissionen att säkerställa tillgången till tillförlitlig information om de främsta farhågorna kring AI och robotteknik, till exempel avseende integritet, säkerhet och insyn i beslutsfattandet.

32.  Europaparlamentet välkomnar användningen av ”regelsandlådor” för att i samarbete med tillsynsmyndigheter införa innovativa nya idéer som gör det möjligt att bygga in skyddsmekanismer i tekniken redan från början och på så sätt underlätta och uppmuntra marknadsinträde. Parlamentet framhåller behovet av att införa AI-specifika ”regelsandlådor” för att testa en säker och effektiv användning av AI-teknik i en verklig miljö.

33.  Europaparlamentet noterar att det för ökad allmän acceptans av AI krävs garantier för att de använda systemen är trygga och säkra.

34.  Europaparlamentet konstaterar att AI och språkteknologi kan bidra med viktiga tillämpningar som främjar Europas enighet i dess mångfald: maskinöversättning, konversationsagenter och personliga assistenter, robotgränssnitt för talat språk och sakernas internet, smarta analyser, automatiserad identifiering av propaganda på internet, falska nyheter, hatpropaganda och så vidare.

2.4.  Förutsättningar: konnektivitet, tillgång till data, högpresterande datorsystem och molninfrastruktur

35.  Europaparlamentet betonar att integrationen av robot- och AI-teknik i ekonomin och samhället kräver digital infrastruktur som ger allmänt utbredd konnektivitet.

36.  Europaparlamentet betonar att konnektivitet är en förutsättning för att Europa ska kunna bli en del av gigabitsamhället och AI är ett tydligt exempel på den exponentiella tillväxten på efterfrågan på snabba, säkra och genomgripande konnektivitet av hög kvalitet. Parlamentet menar att unionen och medlemsstaterna bör fortsätta att främja åtgärder för att ge stimulans åt investeringar i och spridning av nät med mycket hög kapacitet i EU.

37.  Europaparlamentet understryker att en snabb, säker och trygg utveckling av 5G är avgörande för att unionen till fullo ska kunna utnyttja fördelarna med AI och skydda sig mot it-säkerhetshot, så att det blir möjligt att förnya och utveckla näringar och tjänster, som utgör själva ryggraden i den europeiska ekonomin, och stödja framväxten av nya tjänster, ny produktion och nya marknader, vilket är oerhört viktigt för tryggandet av nya arbetstillfällen och en hög sysselsättningsgrad.

38.  Europaparlamentet påminner om att tillgången till meningsfulla data av hög kvalitet är avgörande för verklig konkurrenskraft inom AI-sektorn, och uppmanar myndigheterna att säkerställa sätt att framställa, dela och förvalta data genom att göra offentliga data till en kollektiv nyttighet, samtidigt som man skyddar den personliga integriteten och känsliga data.

39.  Europaparlamentet betonar vikten av att de data som används för djupinlärning håller god kvalitet. Parlamentet konstaterar att användning av lågkvalitativa, inaktuella, ofullständiga eller felaktiga data kan medföra dåliga prognoser som i sin tur kan medföra diskriminering och partiskhet.

40.  Europaparlamentet anser att den nya uppsättningen regler som styr det fria flödet av andra data än personuppgifter inom EU gör så att allt fler uppgifter kommer att finnas tillgängliga för datadriven innovation, så att det blir lättare för små och medelstora företag och uppstartsföretag att utveckla innovativa tjänster som använder AI och komma in på nya marknader, medan allmänheten och företagen kan dra nytta av bättre produkter och tjänster.

41.  Europaparlamentet noterar att AI har potential att öka effektiviteten, bekvämligheten och välfärden inom många sektorer om de etablerade näringslivsaktörerna samarbetar med AI-utvecklare. Parlamentet konstaterar dessutom att en stor volym data som inte är av personuppgiftskaraktär och som finns tillgängliga för berörda parter och genom partnerskap skulle kunna användas för att öka deras effektivitet. Parlamentet anser att det krävs samarbete mellan användarna och AI-utvecklarna för att detta ska bli verklighet.

42.  Europaparlamentet framhåller vikten av interoperabilitet och korrekta data för att det ska gå att säkerställa hög tillförlitlighet och säkerhet hos ny teknik.

43.  Europaparlamentet anser att framgången hos AI-tillämpningar som skräddarsytts för användare i hela EU ofta kräver omfattande kunskaper om de lokala marknaderna samt tillgång till och användning av adekvata lokala data för datasetsutbildning, systemtestning och validering, i synnerhet inom sektorer med anknytning till bearbetning av naturligt språk. Parlamentet uppmanar medlemsstaterna att uppmuntra tillgången till högkvalitativa, interoperabla och öppna data från både den offentliga och den privata sektorn.

44.  Europaparlamentet framhåller betydelsen av att säkerställa maximal överensstämmelse med EU:s stordatapolitik.

45.  Europaparlamentet välkomnar åtgärder för att underlätta och stödja gränsöverskridande utbyte och delning av data.

46.  Europaparlamentet konstaterar att datadelningens fulla potential inte på långa vägar tillvaratas i dagsläget och att stora mängder data underutnyttjas.

47.  Europarlamentet noterar att det finns en motvillighet mot att dela data, och framhåller att det måste vidtas åtgärder för att uppmuntra till datadelning. Parlamentet konstaterar att bristen på gemensamma normer också i stor utsträckning spelar in när det gäller förmågan att dela data.

48.  Europaparlamentet välkomnar regleringar som exempelvis förordningen om fritt dataflöde och dess betydelse inom områden såsom AI för att skapa utrymme för mer effektiva och ändamålsenliga förfaranden.

49.  Europaparlamentet framhåller att mer omfattande marknadsbaserade incitament måste tas för att uppmuntra tillgången till och delningen av data. Parlamentet noterar den risk som dataöppenhet innebär för att det överhuvudtaget ska ske investeringar i data.

50.  Europaparlamentet efterlyser ökad tydlighet kring reglerna om ägande och de befintliga rättsliga ramarna. Parlamentet konstaterar att det oklara rättsläget har lett till överdrivet försiktiga satsningar från näringslivets sida.

51.  Europaparlamentet framhåller betydelsen av europeiska initiativ för molntjänster och högpresterande datorsystem, vilket ytterligare kommer att stärka utvecklingen av algoritmer för djupinlärning och behandlingen av stordata. Parlamentet hyser övertygelsen att det för att dessa initiativ ska bli framgångsrika och relevanta för AI‑utvecklingen krävs att infrastrukturen är öppen för både offentliga och privata enheter som är baserade i unionen och på andra platser och styras av åtkomstkriterier som är så tillåtande som möjligt.

52.  Europaparlamentet välkomnar bildandet av det gemensamma företaget för ett europeiskt högpresterande datorsystem. Parlamentet understryker att användning av superdatorer tillsammans med datainfrastruktur är avgörande för säkerställandet av konkurrenskraftiga innovationsekosystem för utvecklingen av AI-teknik och AI‑tillämpningar.

53.  Europaparlamentet understryker att molnbaserade datortjänster har en nyckelroll att spela för genomslaget för AI. Parlamentet framhåller att tillgången till molntjänster gör det möjligt för privata företag, offentliga institutioner, forskningsinstitut, akademiska institut och användare att utveckla och använda AI på ett effektivt och ekonomiskt gångbart sätt.

3.  Näringslivspolitik

54.  Europaparlamentet erinrar om att AI och robotteknik visserligen redan är väletablerade inom olika industriella tillämpningar, men att utvecklingen på området håller på att utvidgas och medför breda och skilda tillämpningar inom alla mänskliga verksamheter. Parlamentet anser att all eventuell reglering måste vara tillräckligt flexibel för att möjliggöra innovation och fri utveckling av ny AI-teknik och nya AI-användningar.

55.  Europaparlamentet understryker att fastställandet av räckvidden och tillämpningarna för AI bör vara resultatet av en behovsstyrd utformningsprocess som vägleds av principer som tar hänsyn till det avsedda resultatet och det bästa sättet att uppnå det ur ekonomisk och social synvinkel. Parlamentet anser att tydlig politik i alla utvecklingssteg kommer att leda till ett ändamålsenligt genomförande och täcka riskerna och nackdelarna.

56.  Europaparlamentet rekommenderar att man använder och främjar offentlig-privata partnerskap för att undersöka lösningar på viktiga utmaningar som exempelvis uppbyggnaden av dataekosystem och främjandet av tillgången till och delningen och flödet av data, samtidigt som man skyddar människors rätt till personlig integritet.

57.  Europaparlamentet betonar att en stor utmaning för AI-systemens framtid är den varierande kvaliteten på tekniken för programvaruproduktion och att det därför finns ett stort behov av standardisering av uppbyggnaden och användningen av AI-system.

58.  Europaparlamentet noterar det globala arbete som bedrivs och erkänner behovet av att arbeta proaktivt med olika partner, i synnerhet OECD och G20, för att styra riktningen för denna sektor i syfte att säkerställa att EU förblir konkurrenskraftigt och säkerställer lika tillgång mellan länderna samt för att skapa bredast möjliga spridning av AI‑utvecklingens fördelar.

59.  Europaparlamentet noterar med oro att ett antal icke-europeiska företag och enheter från tredjeländer i allt högre grad använder AI-baserade prognosmodeller för att tillhandahålla tjänster och tillvarata mervärdet på EU:s marknader, särskilt på lokal nivå, och för att övervaka och eventuellt påverka den politiska andan, vilket således utgör potentiella hot mot EU-medborgarnas tekniska självständighet.

60.  Europaparlamentet betonar att det offentliga stödet till AI bör koncentreras till de strategiska sektorer där EU:s näringsliv har störst möjligheter att spela en ledande roll på global nivå och som har ett mervärde för allmänintresset.

3.1.  Prioriterade sektorer

3.1.1.  Offentlig sektor

61.  Europaparlamentet framhåller att den offentliga sektorn kan dra nytta av AI och robotteknik på ett rad olika sätt, och välkomnar ökade investeringar i forskning och utveckling till förmån för en blomstrande utveckling på detta område.

62.  Europaparlamentet betonar att medlemsstaterna även bör investera i program för utbildning och AI-fortbildning i syfte att för att hjälpa offentliganställda att börja använda AI och robotteknik. Parlamentet konstaterar att det också bör genomföras informationskampanjer riktade till privatpersoner som kommer att använda offentliga tjänster som bygger på AI-system och robotteknik i syfte att lugna dem som är oroliga för att förlora kontrollen över sina personuppgifter och för att skapa förtroende bland allmänheten på detta område.

63.  Europaparlamentet betonar att information från den offentliga sektorn utgör en fantastisk datakälla som kan bidra till snabba framsteg och skapa en ny strategi för upptaget av ny digital teknik, i synnerhet AI.

64.  Europaparlamentet anser att det faktum att man inom den offentliga sektorn börjar använda sig av tillförlitlig AI kan bidra starkt till reformen av beslutsfattandet inom den offentliga förvaltningen och förbättrad offentlig service samt ge skjuts åt en mer utbredd användning av AI inom andra näringar.

65.  Europaparlamentet noterar användningen av robotstyrd processautomation och hur den bidragit till förbättrade processer inom den offentliga sektorn. Parlamentet konstaterar att den är interoperabel med redan befintliga system.

66.  Europaparlamentet uppmanar medlemsstaterna att gå i spetsen för denna digitala omvandling genom att se till att själva fungera som primära ansvarsfulla användare och köpare av AI-teknik. Parlamentet betonar i detta sammanhang att medlemsstaterna måste anpassa sina datastrategier avseende bland annat insamling, användning, införande i dataregister och diarieföring av offentliga data i syfte att möjliggöra ibruktagande av AI i alla delar av den offentliga sektorn.

67.  Europaparlamentet betonar att allmänheten måste göras delaktig i AI-utvecklingen. Parlamentet uppmanar därför kommissionen att offentliggöra alla offentligfinansierade eller offentligsamfinansierade algoritmer, verktyg och tekniker som öppen källkod.

68.  Europaparlamentet anser att AI kommer att bli en stor tillgång vid genomförandet av engångsprincipen, genom att möjliggöra samkörning av databaser och information från olika källor och således underlätta allmänhetens myndighetskontakter.

69.  Europaparlamentet uppmanar kommissionen att garantera att allmänheten skyddas mot beslutssystem inom offentliga förvaltningar som bygger på AI-baserad ”social poängsättning”, liknande de som man planerar att använda sig av i Kina.

3.1.2.  Hälsa

70.  Europaparlamentet poängterar att mänsklig kontakt är en av de avgörande aspekterna av omsorg om människor.

71.  Europaparlamentet noterar att AI och robotteknik innebär potentiella fördelar inom omsorgssektorn i takt med att den förväntade livslängden ökar, exempelvis genom att det frigörs mer tid som läkare och sjuksköterskor kan ägna åt arbetsuppgifter med högt värde (till exempel patientkontakter).

72.  Europaparlamentet noterar den inverkan som AI redan haft på välmående, förebyggande, diagnosticering och forskning och dess stora potential vid utformningen av individanpassad vård. Parlamentet anser att detta i slutändan leder till ett mer hållbart, effektivt och resultatbaserat ekosystem för hälso- och sjukvård.

73.  Europaparlamentet noterar att felkvoten tenderar att vara mycket lägre när AI kombineras med mänsklig diagnos än när diagnosen ställs enbart av en mänsklig läkare.(8)

74.  Europaparlamentet betonar att användningen av data inom hälso- och sjukvården måste övervakas noggrant och granskas ur ett etiskt perspektiv och inte på något sätt får hindra tillgången till socialt skydd eller socialförsäkring.

75.  Europaparlamentet anser att den som får en AI-användande enhet inopererad i kroppen måste ha rätt att kontrollera och ändra den källkod som används i enheten.

76.  Europaparlamentet anser att särskild uppmärksamhet bör ägnas åt användningen av ”stordata” inom hälso- och sjukvården för att i möjligaste mån tillvarata de möjligheter som detta kan medföra – till exempel att förbättra såväl enskilda patienters hälsa som funktionssättet hos medlemsstaternas offentliga hälso- och sjukvårdssystem – utan att tumma på de etiska standarderna och utan att det hotar människors personliga integritet eller säkerhet.

77.  Europaparlamentet understryker dock att det befintliga systemet för godkännande av medicintekniska produkter eventuellt inte lämpar sig för AI-teknik. Parlamentet uppmanar kommissionen att noga övervaka utvecklingen av denna teknik och att vid behov föreslå ändringar av regelverket i syfte att upprätta en ram för fastställande av det respektive ansvar som åligger användaren (läkaren/yrkesutövaren), tillverkaren av den tekniska lösningen och den vårdinrättning som erbjuder behandlingen. Parlamentet påpekar att det rättsliga ansvaret för skador är en central fråga inom hälso- och sjukvården vad gäller användningen av AI. Parlamentet framhåller därför vikten av att säkerställa att användarna inte rutinmässigt vägleds att stödja den diagnostiklösning eller behandling som ett tekniskt instrument föreslår på grund av att yrkesutövaren är rädd för skadeståndsanspråk för uppkomna skador om de på basis sin egen välgrundade yrkesmässiga bedömning kommer fram till en annan slutsats, om så bara delvis.

78.  Europaparlamentet uppmanar medlemsstaterna och kommissionen att öka finansieringen till hälsorelaterad AI-teknik inom offentlig och privat sektor. Parlamentet välkomnar i detta sammanhang den förklaring om samarbete som 24 EU-medlemsstater och Norge undertecknat i syfte att öka effekterna av investeringar i AI på europeisk nivå. Parlamentet uppmanar medlemsstaterna och kommissionen att överväga om utbildningsprogrammen för läkare och sjukvårdspersonal bör uppdateras och standardiseras på EU-nivå för att säkerställa en hög kompetensnivå och likvärdiga förhållanden i de olika medlemsstaterna när det gäller kunskap om och användning av de mest avancerade tekniska verktygen för kirurgisk robotteknik, biomedicin och AI‑baserad biomedicinsk avbildning.

79.  Europaparlamentet uppmanar kommissionen att utarbeta strategier och policyer som kan positionera EU som världsledande på det växande området hälso- och sjukvårdsteknik, samtidigt som man säkerställer patienternas tillgång till sömlös och effektiv vård.

80.  Europaparlamentet konstaterar att förbättrad diagnostik skulle kunna rädda miljontals liv, då 89 % av de förtida dödsfallen i Europa enligt Världshälsoorganisationen orsakas av icke smittsamma sjukdomar.

81.  Europaparlamentet vill framhålla bidraget från AI och robotteknik till preventiva, kliniska och rehabiliterade metoder och tekniker inom hälso- och sjukvården, särskilt den nytta som de erbjuder patienter med funktionsnedsättning.

82.  Europaparlamentet konstaterar att den ökade användningen av sensorer på robotteknikområdet har ökat vårdens räckvidd och gör det möjligt att erbjuda patienter mer individanpassade behandlingar och tjänster samt distansvård i hemmet, samtidigt som det genereras meningsfullare data.

83.  Europaparlamentet konstaterar att det framgår av Eurobarometerundersökningen från maj 2017(9) att allmänheten i EU fortfarande känner sig obekväm med idén om användningen av robotar i den dagliga hälso- och sjukvården. Parlamentet uppmanar kommissionen och medlemsstaterna att ta fram strategier och kommunikationskampanjer för att öka medvetenheten om fördelarna med användningen av robotar i vardagen. Parlamentet noterar i synnerhet ambitionen i Japans robotstrategi.

3.1.3.  Energi

84.  Europaparlamentet noterar att AI gör det möjligt för energileverantörer att gå från förebyggande till förutsägbart underhåll av tillgångar och att effektivisera energiproduktionen genom att förbättra tillförlitligheten hos framför allt förnybara energikällor, och genom att identifiera de mest effektiva platserna för nya anläggningar, och således hantera efterfrågan på ett bättre sätt.

85.  Europaparlamentet erkänner att mer exakta uppgifter som tas fram av AI om produktionspotentialen för förnybar energi kommer att öka investeringssäkerheten för företag och enskilda, och på så sätt påskynda övergången till förnybara energikällor och bidra till unionens långsiktiga mål om att uppnå en klimatneutral ekonomi.

86.  Europaparlamentet noterar att lösningar som inbegriper sensorer redan används för att styra energianvändningen i hus och att detta inneburit att man har sparat både mycket energi och pengar.

87.  Europaparlamentet välkomnar AI:s potential att modellera, identifiera och minska inverkan på klimatet från mänsklig verksamhet. Parlamentet konstaterar att den ökade digitaliseringen skapar nya energibehov, men att den också kan göra energiintensiva sektorer effektivare och skapa bättre förståelse för de processer som förbättrar dem.

88.  Europaparlamentet betonar att en mer digitaliserad energisektor betyder större energinät som är mer utsatta för it-hot. Parlamentet uppmanar medlemsstaterna och kommissionen att stödja den digitala omvandlingen av energisektorerna, med åtgärder som exempelvis AI, som förbättrar it-säkerheten.

3.1.4.  Transport

89.  Europaparlamentet välkomnar den förmåga som AI och robotteknik har när det gäller att avsevärt förbättra våra transportsystem genom förarlösa tåg och motorfordon. Parlamentet efterlyser bättre forskning och investeringar på detta område för att säkerställa en säker och effektiv utveckling. Parlamentet understryker de enorma möjligheter som finns för såväl större teknikföretag som små och medelstora teknikföretag.

90.  Europaparlamentet noterar att genom att minska mänskliga misstag i transportsektorn kan systemet bli potentiellt mer effektivt, med färre olyckor tack vare bättre utvärderingar och teknikens förutsägande egenskaper, färre förseningar, möjligheter att kartlägga trafikmönster och hålla tidtabellen samt större besparingar, färre förarrelaterade fel och förenklade interna processer.

91.  Europaparlamentet noterar att förekomsten av självkörande fordon i framtiden utgör ett hot mot dataskyddet och en risk för tekniska problem, och kommer att flytta ansvaret från föraren till tillverkaren och kräva att försäkringsbolagen ändrar sitt sätt att införliva riskfaktorer vid tecknandet av försäkringar.

92.  Europaparlamentet noterar att röstkommunikation används allt mer i interaktionen med fordon och transportsystem, men att det bara finns tillgängligt på ett fåtal europeiska språk, och att det därför borde säkerställas att alla européer kan utnyttja dessa möjligheter på sitt modersmål.

3.1.5.  Jordbruket och livsmedelskedjan

93.  Europaparlamentet noterar att AI kan vara drivande för en omvälvande förändring av det nuvarande livsmedelssystemet mot en mer diversifierad, motståndskraftig, regionalt anpassad och sund modell för framtiden.

94.  Europaparlamentet noterar att AI kan ha betydelse för hanteringen av livsmedelssäkerhetsfrågor, kan förutspå hungersnöd och utbrott av livsmedelsburna sjukdomar, minska livsmedelsförlusten och livsmedelsavfallet och bidra till en mer hållbar förvaltning av mark, vatten och andra miljöresurser som är nödvändiga för sunda ekosystem.

95.  Europaparlamentet framhåller att AI kan användas vid kritiska punkter längs värdekedjan för livsmedel, från produktion till konsumtion, och förbättra vår förmåga att i grunden förändra hur vi producerar, bearbetar och köper livsmedel genom bättre information om metoder för markanvändningsplanering.

96.  Europaparlamentet noterar att AI kan effektivisera förvaltningen och hanteringen av resurser, hjälpa till att minska förlusterna efter skörd och påverka konsumenternas val.

97.  Europaparlamentet noterar att AI i form av precisionsjordbruk på ett omvälvande sätt kan förbättra jordbruksproduktionen liksom den allmänna markförvaltningen genom att förbättra markanvändningsplaneringen, förutspå förändrad markanvändning och övervaka grödornas tillstånd samtidigt som AI också har potential att förändra prognoserna för extrema väderfenomen.

98.  Europaparlamentet noterar att AI på ett radikalt sätt kan förändra tillhandahållandet av resurser, skadedjursbekämpningen och jordbruksmetoderna, ändra hur försäkringsprodukter tillhandahålls eller hjälpa till att förutspå och undvika framtida hungersnöd och allvarliga, akuta situationer med undernäring.

99.  Europaparlamentet noterar att AI kan leda till bättre beslut om hur man kan förvalta jordbrukssystem och stimulera utvecklingen av beslutsstöd och rekommendationssystem, genom att göra jordbruken effektivare och sundare.

3.1.6.  It-säkerhet

100.  Europaparlamentet konstaterar att it-säkerhet är en viktig aspekt av AI, i synnerhet med tanke på de utmaningar som har att göra med öppenheten kring avancerad AI. Parlamentet anser att det tekniska perspektivet, bland annat granskning av källkoden, och kraven på öppenhet och ansvarsskyldighet, bör kompletteras med en institutionell strategi, där man hanterar de utmaningar som rör en lansering av AI som utvecklats i andra länder på EU:s inre marknad.

101.  Europaparlamentet uppmanar till ett snabbt genomförande av cybersäkerhetsakten. Parlamentet konstaterar att utvecklingen av EU:s certifieringssystem bör säkerställa en mer motståndskraftig utveckling och användning av säkra AI- och robotsystem.

102.  Europaparlamentet anser att AI både kan vara ett hot mot it-säkerheten och ett sätt att bekämpa it-attacker. Parlamentet anser att Europeiska unionens byrå för nät- och informationssäkerhet (Enisa) bör ta fram en handlingsplan om it-säkerhet på AI-området som bedömer och hanterar hot och svagheter som är specifika för AI.

103.  Europaparlamentet understryker vikten av att stärka den industriella basen som en strategisk komponent för en säker AI-utveckling. Parlamentet framhåller att för att säkerställa en ambitiös nivå av it-säkerhet, uppgiftsskydd och betrodda IKT-tjänster måste Europa investera i sitt tekniska oberoende. Parlamentet betonar att det finns ett akut behov för EU att utveckla sin egen infrastruktur samt sina egna datacenter, molnsystem och komponenter, såsom grafikprocessorer och grafikkort.

104.  Europaparlamentet noterar att i takt med att AI utvecklas och hackare blir alltmer sofistikerade kommer stabila it-säkerhetslösningar att vara ett måste.

105.  Europaparlamentet medger att införandet av AI-lösningar på it-säkerhetsområdet kommer att göra det möjligt att förutspå, förhindra och minska eventuella hoten.

106.  Europaparlamentet framhåller att AI kommer att göra det lättare att upptäcka hot samtidigt som det måste vara människor som tolkar dessa hot för att avgöra om de är verkliga eller inte.

107.  Europaparlamentet uppmanar kommissionen att undersöka användningen av it‑säkerhetstillämpningar baserade på blockkedjor som förbättrar AI-infrastrukturers motståndskraft, tillförlitlighet och stabilitet genom disintermedieringsmodeller för kryptering av data. Parlamentet uppmanar kommissionen att undersöka möjligheten att ge medborgare en gåva som tack för de uppgifter de lämnar.

108.  Europaparlamentet uppmanar kommissionen att stärka EU:s it-säkerhetskapacitet genom att ytterligare kombinera och samordna insatserna i hela Europa.

3.1.7.  Små och medelstora företag

109.  Europaparlamentet erkänner de små och medelstora företagens betydelse för AI:s framgång. Parlamentet välkomnar kommissionens initiativ om att skapa en AI-plattform på begäran som kommer att stimulera tekniköverföring och främja tillväxten hos nystartade företag och små och medelstora företag. Parlamentet uppmanar kommissionen att främja digitala innovationsnav för AI som inte skapar ytterligare led inom administrationen utan fokuserar på att påskynda investeringar i projekt som har visat sig effektiva.

110.  Europaparlamentet noterar att kostnaderna för att investera i AI gör det svårt för små och medelstora företag att komma in på marknaden. Parlamentet erkänner att en utbredd användning av AI bland konsumenterna skulle minska investeringsriskerna för små och medelstora företag.

111.  Europaparlamentet framhåller behovet av att främja såväl små och medelstora företags som konsumenters användning av AI.

112.  Europaparlamentet betonar vikten av riktade åtgärder för att små och medelstora företag och nystartade företag ska kunna använda och gynnas av AI-teknik. Parlamentet anser att konsekvensbedömningar av hur ny EU-lagstiftning påverkar den tekniska utvecklingen av AI bör vara obligatoriska, och att sådana konsekvensbedömningar också bör övervägas på nationell nivå.

113.  Europaparlamentet understryker att AI kan skapa möjligheter för små och medelstora företag, men samtidigt stärka större och tidiga användares och utvecklares position. Parlamentet pekar därför på behovet att ur ett konkurrensperspektiv säkerställa att nya snedvridningar utvärderas och hanteras på rätt sätt.

4.  En rättslig ram för AI och robotteknik

114.  Europaparlamentet uppmanar kommissionen, i syfte att främja en lagstiftning som gynnar utvecklingen av AI och är förenlig med principen om bättre lagstiftning, att regelbundet ompröva den nuvarande lagstiftningen för att säkerställa dess ändamålsenlighet vad gäller AI, och att samtidigt respektera EU:s grundläggande värden och försöka ändra eller ersätta nya förslag när det visar sig inte fungera.

115.  Europaparlamentet välkomnar inrättandet av AI-baserade deltagarplattformar som gör det möjligt för medborgarna att på ett framgångsrikt sätt göra sin röst hörd och interagera med myndigheter genom att lämna förslag, även genom deltagarbaserade budgetar och andra instrument för direktdemokrati. Parlamentet betonar att gräsrotsprojekt kan främja medborgarnas deltagande och hjälpa människor att fatta informerade beslut på ett mer effektivt och demokratiskt sätt.

116.  Europaparlamentet noterar att AI är ett begrepp som omfattar en mängd olika produkter och tillämpningar, från automatisering, algoritmer och specificerad AI till generell AI. Parlamentet anser att man bör vara försiktig när det gäller en heltäckande lagstiftning eller förordning om AI eftersom sektoriell reglering kan skapa strategier som är tillräckligt allmänna, och samtidigt anpassade till en nivå som gör dem meningsfulla för industrisektorn.

117.  Europaparlamentet betonar att den politiska ramen måste utformas så att den främjar utvecklingen av alla typer av AI och inte bara system för djupinlärning, som kräver enorma mängder data.

4.1.  En inre marknad för artificiell intelligens

118.  Europaparlamentet understryker vikten av principen om ömsesidigt erkännande vid gränsöverskridande användning av smarta varor, bland dem också robotar och system för robotteknik. Parlamentet erinrar om att man vid behov, i samband med provning, certifiering och produktsäkerhet, bör säkerställa att vissa varor har inbyggd säkerhet och säkerhet som standard, och konstaterar i detta sammanhang betydelsen av att också arbeta med de etiska aspekterna av AI.

119.  Parlamentet understryker att EU:s lagstiftning om genomförandet av strategin för den digitala inre marknaden bör undanröja hinder för användning av AI. Parlamentet uppmanar kommissionen att utvärdera när de politiska och rättsliga ramarna måste uppdateras i syfte att inrätta en inre europeisk marknad för AI.

120.  Europaparlamentet är medvetet om att robotteknik och AI-teknik allt oftare används i självkörande fordon, såsom självkörande bilar och civila drönare. Parlamentet konstaterar att vissa medlemsstater redan antagit eller överväger att anta lagstiftning inom just detta område, vilket kan resultera i ett lapptäcke av nationella lagar som hindrar utvecklingen av självkörande fordon. Parlamentet efterlyser därför en enhetlig uppsättning unionsregler som skapar balans mellan användarnas, företagens och andra berörda parters intressen och potentiella risker för dem, samtidigt som överreglering av system för AI och robotteknik undviks.

121.  Europaparlamentet uppmanar med kraft medlemsstaterna att modernisera sina system för yrkesutbildning och utbildning, så att hänsyn tas till vetenskapliga framsteg och utvecklingen inom AI, i enlighet med direktivet om proportionalitetstest(10) och direktivet om yrkeskvalifikationer(11), och att under de kommande årtiondena göra EU:s yrkesmässiga tjänster globalt konkurrenskraftiga.

122.  Europaparlamentet betonar att AI används inom många olika sektorer där det är mycket viktigt med standardisering, såsom smart tillverkning, robotteknik, självkörande fordon, virtuell verklighet, hälso- och sjukvård samt dataanalys, och anser att en EU-omfattande standardisering av AI kommer att stimulera innovation och garantera ett högt konsumentskydd. Parlamentet medger att det visserligen redan finns många standarder för exempelvis säkerhet, tillförlitlighet, interoperabilitet och trygghet, men att gemensamma standarder för robotteknik och AI behöver främjas och utvecklas mer och bör finnas med bland unionens prioriteringar. Parlamentet uppmanar kommissionen att, i samarbete med EU:s standardiseringsorgan, fortsätta att tillsammans med internationella standardiseringsorgan aktivt utveckla bättre standarder på området.

123.  Europaparlamentet erinrar om att många politiska aspekter med anknytning till tjänster som använder AI, bland annat regler om konsumentskydd och politik för etik och ansvar, redan omfattas av den gällande lagstiftningsramen om tjänster, alltså tjänstedirektivet(12), direktivet om yrkeskvalifikationer och direktivet om elektronisk handel(13). Parlamentet påpekar i detta sammanhang att människor alltid måste ha det slutliga beslutsansvaret, framför allt för yrkesmässiga tjänster, såsom inom hälso- och sjukvård, juridik och redovisning. Parlamentet anser att man bör diskutera om övervakning från en kvalificerad fackmans sida behövs för att skydda allmänhetens legitima intressen och erbjuda tjänster av hög kvalitet.

124.  Europaparlamentet erkänner hur viktigt det är med förbättrade digitala tjänster, såsom virtuella assistenter, dialogrobotar och virtuella agenter, eftersom de skapar en effektivare drift än någonsin, men medger att begränsningarna i AI:s och robotteknikens autonomi gör att man måste utveckla en människocentrerad och marknadsdriven AI, för att man ska kunna få bättre och mera tillförlitliga beslut.

4.2.  Personuppgifter och integritet

125.  Europaparlamentet understryker att en hög säkerhets-, trygghets- och integritetsnivå när det gäller uppgifter som används i kommunikationen mellan människor och robotar samt AI måste säkerställas. Parlamentet uppmanar kommissionen och medlemsstaterna att därför integrera principer om säkerhet och inbyggt integritetsskydd i sina strategier med anknytning till robotteknik och AI.

126.  Europaparlamentet upprepar att rätten till skydd av privatlivet och rätten till skydd av personuppgifter enligt artiklarna 7 och 8 i stadgan om de grundläggande rättigheterna och artikel 16 i fördraget om Europeiska unionens funktionssätt är tillämpliga på alla områden som inbegriper robotteknik och AI och att unionens rättsliga ramverk om uppgiftsskydd måste respekteras till fullo. Parlamentet understryker att konstruktörer av system för robotteknik och AI ansvarar för att utveckla produkterna så att de är säkra och ändamålsenliga samt överensstämmer med förfarandena för uppgiftsbehandling i enlighet med befintlig lagstiftning, regler om konfidentialitet, anonymitet, rättvis behandling och rättssäkerhet.

127.  Europaparlamentet uppmanar kommissionen att säkerställa att all unionslagstiftning om AI inkluderar åtgärder och regler som tar hänsyn till den snabba tekniska utvecklingen på detta område så att unionslagstiftningen inte kommer efter i den tekniska utvecklingen och användningen. Parlamentet betonar behovet av att sådan lagstiftning överensstämmer med reglerna om integritet och uppgiftsskydd. Parlamentet efterlyser en översyn av reglerna, principerna och kriterierna för användning av kameror och sensorer i robotar och vad gäller AI i enlighet med unionens rättsliga ramverk om uppgiftsskydd.

128.  Europaparlamentet uppmanar kommissionen att se till att EU:s framtida regelverk för AI garanterar integritet och konfidentialitet vid kommunikation, skydd av personuppgifter, däribland principerna om lagenlighet, rättvisa och transparens, inbyggt uppgiftsskydd och uppgiftsskydd som standard, ändamålsbegränsning, lagringsbegränsning, korrekthet och dataminimering, i full överensstämmelse med unionens dataskyddslagstiftning samt säkerhet, personlig säkerhet och andra grundläggande rättigheter, inbegripet rätten till yttrande- och informationsfrihet.

129.  Europaparlamentet betonar att rätten till integritet alltid måste respekteras och att enskilda individer inte får vara personligt identifierbara. Parlamentet betonar att en AI‑utvecklare alltid bör få klart och entydigt informerat samtycke och att AI-konstruktörer bör ha ett ansvar att utveckla och följa förfaranden för giltigt samtycke, konfidentialitet, anonymitet, rättvis behandling och rättssäkerhet. Parlamentet betonar att konstruktörer bör hörsamma alla begäranden om radering och borttagande av relaterade uppgifter från dataset.

130.  Europaparlamentet erinrar om att det i förordning (EU) 2018/1807(14) om det fria flödet av icke-personuppgifter står att ”om teknisk utveckling gör det möjligt att omvandla anonymiserade data till personuppgifter ska sådana data behandlas som personuppgifter, och förordning (EU) 2016/679 ska tillämpas i enlighet med detta”.

4.3.  Ansvar

131.  Europaparlamentet välkomnar kommissionens initiativ att inrätta en expertgrupp för ansvarsfrågor och ny teknik för att förse EU med sakkunskap om huruvida direktivet om produktansvar(15) är tillämpligt på traditionella produkter, ny teknik och nya samhällsutmaningar (konstellationen för direktivet om produktansvar) och hjälpa EU att utveckla principer som kan tjäna som riktlinjer för eventuella anpassningar av tillämplig lagstiftning på EU-nivå och nationell nivå när det gäller ny teknik (konstellationen för ny teknik).

132.  Europaparlamentet beklagar dock att inget lagstiftningsförslag lagts fram under denna valperiod, vilket försenar uppdateringen av ansvarsbestämmelserna på EU-nivå och hotar rättssäkerheten i hela EU på detta område både för näringsidkare och konsumenter.

133.  Europaparlamentet noterar att AI-ingenjörer eller de företag där de är anställda bör fortsatt ansvara för de sociala, miljömässiga och hälsomässiga konsekvenser som AI‑system eller robotteknik kan få för dagens och kommande generationer.

4.4.  Konsumentskydd och konsumentinflytande

134.  Europaparlamentet understryker att konsumenternas förtroende är avgörande för utvecklingen av AI, och att AI-baserade system alltmer hanterar konsumentuppgifter, vilket innebär att de blir måltavlor för it-attacker. Parlamentet framhåller också att AI måste fungera på ett sätt som inte är till nackdel för medborgare och konsumenter, och anser att integriteten för de data och algoritmer som används i samband med dem måste säkras.

135.  Europaparlamentet anser att AI-teknik som utvecklats för både tillverkning eller enskilt bruk bör omfattas av produktsäkerhetskontroller som utförs av marknadskontrollmyndigheter samt omfattas av konsumentskyddsbestämmelser som vid behov garanterar minimisäkerhetsstandarder och motverkar risken för olyckor till följd av interaktion med människor eller arbete i människors omedelbara närhet. Parlamentet anser att etiska frågor och frågor om uppgiftsskydd, inklusive uppgifter som tillhör tredje part och personuppgifter, skadeståndsansvar och it-säkerhet, bör tas upp inom all politik som rör AI.

4.5.  Immateriell äganderätt

136.  Europaparlamentet påminner om sin resolution av den 16 februari 2017, i vilken parlamentet konstaterade att det inte finns några rättsliga bestämmelser som är specifikt tillämpliga på robotteknik, men att de befintliga rättsordningarna och doktrinerna lätt kan tillämpas på robotteknik, även om det verkar som om vissa aspekter kräver särskild hänsyn. Parlamentet uppmanar kommissionen, precis som i nämnda resolution, att stödja en övergripande och teknikneutral strategi för immateriell äganderätt som är tillämplig på de olika sektorer där robotteknik skulle kunna användas.

137.  Europaparlamentet välkomnar i detta avseende kommissionens meddelande till institutionerna om vägledning om vissa aspekter av Europaparlamentets och rådets direktiv 2004/48/EG om säkerställande av skyddet för immateriella rättigheter (COM(2017)0708), men understryker behovet att övervaka hur relevanta och effektiva bestämmelserna om immateriella rättigheter är när det gäller att styra utvecklingen av AI. Parlamentet understryker i detta sammanhang vikten av kontroller av ändamålsenligheten.

5.  Etiska aspekter

138.  Europaparlamentet anser att åtgärder och tillämpningar med anknytning till AI ska följa etiska principer och relevanta lagar både på nationell och internationell nivå och på unionsnivå,

139.  Europaparlamentet efterlyser en etisk stadga om bästa praxis för AI och robotteknik som företag och experter bör följa.

140.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att verka för ett kraftfullt och öppet samarbete mellan de offentliga och privata sektorerna och forskarvärlden som skulle stärka kunskapsutbytet, och att främja utbildning för konstruktörerna om etiska konsekvenser, säkerhet och respekt för grundläggande rättigheter, och för konsumenterna om användning av robotteknik och AI, med särskilt fokus på säkerhet och uppgiftsskydd.

141.  Europaparlamentet uppmanar kommissionen att säkerställa att tillämpningar som baseras på AI inte bör använda uppgifter som samlats in från olika källor utan att först ha fått uttryckligt tillstånd från den registrerade. Parlamentet uppmanar kommissionen att skapa en ram som ser till att det samtycke som ges av den registrerade kommer att generera uppgifter endast för avsedda ändamål.

142.  Europaparlamentet uppmanar kommissionen att respektera medborgarnas rätt till ett liv utanför internet och att säkerställa att medborgare om vilka inga uppgifter finns registrerade inte diskrimineras.

5.1.  Människocentrerad teknik

143.  Europaparlamentet betonar att det krävs etiska regler för att säkerställa en människocentrerad AI-utveckling, ansvarsskyldighet och öppenhet i systemen för algoritmiskt beslutsfattande, tydliga ansvarsregler och rättvisa.

144.  Europaparlamentet välkomnar kommissionens initiativ om att inrätta en högnivåexpertgrupp för AI, liksom EU:s alliansnätverk för AI, som ska ta fram etiska riktlinjer för AI. Parlamentet uppmanar kommissionen att se till att dessa etiska riktlinjer används i så stor utsträckning som möjligt av näringslivet, den akademiska världen och offentliga myndigheter. Parlamentet rekommenderar att medlemsstaterna införlivar riktlinjerna i sina nationella AI-strategier och tar fram verkliga ansvarsstrukturer för industrier och regeringar när de utformar och utvecklar AI.

145.  Europaparlamentet anser att en kontinuerlig uppföljning av genomförandet av de etiska riktlinjerna för AI liksom deras inverkan på utvecklingen av människocentrerad AI är av avgörande betydelse. Parlamentet uppmanar kommissionen att analysera huruvida de frivilliga etiska riktlinjerna är tillräckliga för att säkerställa att en inkluderande användning av AI med inbyggd etik inte skapar ekonomiska och sociala klyftor i EU:s samhällen, och föreslår lagstiftningsåtgärder och politiska åtgärder vid behov.

146.  Europaparlamentet noterar den senaste tidens utveckling inom övervakning av och anpassning till beteendeanalys. Parlamentet uppmanar kommissionen att ta fram ett etiskt ramverk som begränsar dess användning. Parlamentet uppmanar kommissionen att skapa medvetenhet och att lansera en informationskampanj om AI och om hur AI används inom beteendeanalys.

5.2.  Tekniskt inbäddade värden – inbyggd etik

147.  Europaparlamentet påpekar att den vägledande etiska ramen bör bygga på principerna om gott syfte, icke-skadlighet, autonomi och rättvisa, på de principer och värden som finns förankrade i artikel 2 i fördraget om Europeiska unionen och i stadgan om de grundläggande rättigheterna, såsom människans värdighet, jämlikhet, rättvisa och likabehandling, icke-diskriminering, informerat samtycke och skydd av privat- och familjeliv och uppgiftsskydd, liksom på andra principer och värden som ligger till grund för unionsrätten, såsom icke-stigmatisering, öppenhet, oberoende, individuellt och socialt ansvar samt befintliga etiska metoder och regler.

148.  Europaparlamentet anser att Europa bör bli först i världen med att bara använda AI med inbyggd etik. Parlamentet understryker att man för att uppnå detta måste säkerställa att etik styr AI på olika nivåer. Parlamentet rekommenderar medlemsstaterna att inrätta övervaknings- och tillsynsorgan för AI-etik och att uppmuntra företag som utvecklar AI att inrätta etiknämnder och ta fram etiska riktlinjer för sina AI-utvecklare.

149.  Europaparlamentet betonar att de europeiska standarderna för AI måste bygga på principerna om digital etik, mänsklig värdighet, respekt för grundläggande rättigheter, uppgiftsskydd och säkerhet, och på så sätt bidra till att skapa förtroende bland användarna. Parlamentet understryker vikten av att utnyttja EU:s potential för att skapa en stark infrastruktur för AI-system som bygger på uppgifter med hög standard och respekt för människor. Parlamentet noterar att öppenhet och förklarbarhet måste ingå i utvecklingen av AI.

150.  Europaparlamentet noterar att automatiserade vapensystem bör fortsätta att följa en strategi där människan har kontroll över AI.

5.3.  Beslutsfattande – begränsningar i AI:s och robotteknikens autonomi

151.  Europaparlamentet betonar att det är svårt och komplicerat att förutspå framtida beteenden hos många komplexa AI-system och nya beteenden i interagerande AI-system. Parlamentet ber kommissionen att utvärdera om det behövs särskilda bestämmelser för beslutsfattande där AI används.

152.  Europaparlamentet noterar att AI kommer att fortsätta vara ett användbart redskap för samarbete kring mänsklig verksamhet för att förbättra resultaten och begränsa felen.

153.  Europaparlamentet kräver att människor har rätt att få veta, rätt att överklaga och rätt till prövning i de fall då AI används för beslut som rör enskilda personer och som medför en betydande risk för den enskildes rättigheter och friheter eller som kan skada dem.

154.  Europaparlamentet betonar att algoritmer i beslutssystem inte bör användas innan en konsekvensbedömning av algoritmen utförts såvida det inte är uppenbart att de inte har någon större inverkan på enskilda personers liv.

155.  Europaparlamentet anser att AI bör omfattas av tydliga principer, i synnerhet system med inbyggd autonomi, inklusive kapacitet att själva utvinna, samla in och dela känslig information med olika intressenter, och möjlighet till egen inlärning eller till och med självmodifiering. Parlamentet betonar att AI-system inte får behålla eller avslöja konfidentiella personuppgifter utan uttryckligt godkännande från källan till uppgifterna.

5.4.  Algoritmers öppenhet, systematiska fel och förklarbarhet

156.  Europaparlamentet påpekar att AI ger stora fördelar inom automatisering och beslutsfattande, men att det samtidigt medför en inneboende risk om algoritmerna är statiska och otydliga. Parlamentet betonar i detta sammanhang behovet av större öppenhet i algoritmerna.

157.  Europaparlamentet uppmanar kommissionen, medlemsstaterna och dataskyddsmyndigheterna att identifiera och vidta alla åtgärder för att förebygga eller minimera diskriminering och systematiska fel i algoritmer, samt att utveckla ett starkt och gemensamt etiskt ramverk för en öppen behandling av personuppgifter och automatiserat beslutsfattande som ska fungera som vägledning för användning av uppgifter och efterlevnad av unionsrätten.

158.  Europaparlamentet understryker att alla AI-system måste utvecklas med respekt för principerna om öppenhet och algoritmisk ansvarighet, så att människor har möjlighet att förstå dess handlingar. Parlamentet konstaterar att för att bygga förtroende och möjliggöra AI-utveckling måste användarna vara medvetna om hur deras uppgifter, andra uppgifter och uppgifter som härletts ur deras uppgifter används när de kommunicerar med eller interagerar med ett AI-system eller med människor som stöds av ett AI-system. Parlamentet anser att detta kommer att bidra till bättre förståelse för och förtroende bland användare. Parlamentet betonar att begripliga beslut måste bli EU‑standard i enlighet med artiklarna 13, 14 och 15 i den allmänna dataskyddsförordningen(16). Parlamentet erinrar om att den allmänna dataskyddsförordningen redan nu föreskriver en rätt att informeras om logiken i databehandlingen. Parlamentet betonar att enskilda personer, i enlighet med artikel 22 i dataskyddsförordningen, har rätt till personlig kontakt när ett beslut som grundar sig på automatiserad behandling påverkar dem i betydande grad.

159.  Europaparlamentet framhäver den avgörande roll som kommissionen, Europeiska dataskyddsstyrelsen, nationella dataskyddsmyndigheter och andra oberoende tillsynsmyndigheter bör spela framöver i främjandet av öppenhet och korrekta rättsförfaranden, rättssäkerhet i allmänhet och, mer specifikt, konkreta standarder som värnar de grundläggande rättigheter och garantier som är förbundna med databehandling och dataanalyser. Parlamentet efterlyser ett närmare samarbete mellan de myndigheter som ansvarar för att övervaka eller reglera beteenden i den digitala miljön. Parlamentet efterlyser lämplig finansiering och bemanning av sådana myndigheter.

160.  Europaparlamentet erkänner att algoritmer för maskininlärning har tränats för att lära sig själva, vilket gynnar automatisering och beslutsfattande. Parlamentet efterlyser riktlinjer för AI-etik för att hantera frågor som är kopplade till algoritmisk öppenhet, förklarbarhet, ansvarsskyldighet och rättvisa.

161.  Europaparlamentet belyser vikten av att kunna förklara AI-systemens resultat, processer och värden genom att göra dem förståeliga för personer utan tekniska kunskaper och ge dem användbar information, vilket är nödvändigt för att utvärdera om de är rättvisa och för att vinna förtroende.

162.  Europaparlamentet påpekar att bristen på öppenhet när det gäller denna teknik och dess tillämpningar ger upphov till ett antal etiska frågor.

163.  Europaparlamentet noterar att AI-system bör kunna förklaras för människor och tillhandahålla användbar information så att återkoppling kan ges. Parlamentet erkänner att välfungerande AI-modeller är beroende av återkoppling och förnyad bedömning och uppmuntrar denna process.

164.  Europaparlamentet noterar att medborgarna oroas över att inte veta när AI används och vad för slags information som kommer att behandlas. Parlamentet rekommenderar att det tydligt framgår när medborgare använder AI. Parlamentet betonar att det är viktigt att de uppgifter som skickas förblir säkra, för att behålla konsumenternas förtroende.

165.  Europaparlamentet anser att algoritmisk ansvarighet bör regleras av politiska beslutsfattare genom konsekvensbedömningar baserade på fastställda parametrar.

166.  Europaparlamentet noterar att offentliggörandet av själva datorkoden inte kommer att lösa frågan om öppenhet i samband med AI, eftersom det inte skulle avslöja de inneboende systematiska felen och inte skulle förklara hur maskininlärningen går till. Parlamentet understryker att öppenhet inte bara innebär öppenhet beträffande koden, utan även vad gäller uppgifter och automatiserat beslutsfattande.

167.  Europaparlamentet erkänner att offentliggörandet av källkod skulle kunna leda till felaktig användning och felaktigt utnyttjande av algoritmer.

168.  Europaparlamentet betonar vikten av att hantera systematiska fel från utvecklarnas sida, och således behovet av en diversifierad arbetsstyrka inom alla grenar av IT-sektorn samt skyddsmekanismer, för att undvika att systematiska fel som grundar sig på kön och ålder bäddas in i AI-systemen.

169.  Europaparlamentet inser att ett offentliggörande av koden eller av affärshemligheter även skulle avskräcka företag från forskning om och utveckling av nya koder eftersom deras immateriella rättigheter skulle vara i fara. Parlamentet noterar att AI-utvecklingen istället bör uppmuntra möjligheten att tolka modeller och deras interaktion med indata och träningsdata.

170.  Europaparlamentet erkänner att även om öppenhet och förklarbarhet kan avslöja brister garanterar de inte tillförlitlighet, säkerhet och rättvisa. Parlamentet anser därför att ansvarsskyldighet måste vara en integrerad del för att få fram tillförlitlig AI, som kan uppnås på olika sätt, bland annat genom miljökonsekvensanalyser, granskning och certifiering.

171.  Europaparlamentet betonar behovet av att utveckla protokoll för den pågående övervakningen och upptäckten av algoritmiska systematiska fel.

172.  Europaparlamentet påpekar att konstruktörer av algoritmer bör säkerställa att viktiga krav såsom rättvisa och förklarbarhet uppfylls från början av utformningen och under hela utvecklingscykeln.

173.  Europaparlamentet noterar behovet av riktlinjer som beskriver god utvecklingspraxis.

174.  Europaparlamentet betonar betydelsen av att visa tillkomsthistorik för att kunna spåra AI-modellens historik. Parlamentet anser att detta kommer att förbättra förståelsen av modellerna och bidra till att skapa förtroende som bygger på deras historia.

175.  Parlamentet betonar att användningen av AI-system tydligt måste identifieras i interaktionen med användarna.

176.  Europaparlamentet understryker att utbredningen av AI och robotteknik bör ske med fullständig respekt för de mänskliga rättigheterna och stereotypa föreställningar om kvinnor eller andra former av diskriminering bör inte föras vidare i maskiner eller robotar.

177.  Europaparlamentet påpekar att till och med högkvalitativa inlärningsdata kan leda till att den diskriminering och orättvisa som finns upprätthålls om de inte används på ett försiktigt och medvetet sätt. Parlamentet konstaterar att användningen av föråldrade, ofullständiga eller oriktiga uppgifter av dålig kvalitet i olika skeden av databehandlingen kan leda till bristfälliga prognoser och bedömningar och i sin tur till systematiska fel, som i slutändan kan resultera i överträdelser av enskildas grundläggande rättigheter eller i helt felaktiga slutsatser och oriktiga resultat. Parlamentet anser därför att det är viktigt att man i stordataåldern ser till att algoritmer lärs upp med hjälp av ett representativt urval av högkvalitativa data, så att den statistiska pariteten kan uppnås. Parlamentet betonar att även om korrekta högkvalitativa data används kan en prediktiv analys baserad på AI endast ge en statistisk sannolikhet. Parlamentet påminner om att ytterligare behandling av personuppgifter för statistiska ändamål, inklusive AI-inlärning, enligt den allmänna dataskyddsförordningen, endast får resultera i aggregerade uppgifter som inte kan återtillämpas på enskilda.

178.  Europaparlamentet uppmanar kommissionen att säkerställa att en person som framställer deepfakes eller syntetiska videor eller andra realistiskt framställda syntetiska videor tydligt uppger att de inte är original.

179.  Europaparlamentet noterar att AI till sin natur förlitar sig på att stora mängder data samlas in, och ofta på inrättandet av nya databaser som används för att göra antaganden om människor. Parlamentet anser att det viktigaste bör vara att identifiera och bygga upp insatsmekanismer för potentiella hot för att säkerställa färre negativa effekter.

180.  Europaparlamentet upprepar att AI-system inte bör skapa eller förstärka systematiska fel. Parlamentet understryker att när man utvecklar eller använder algoritmer måste hänsyn tas till systematiska fel och rättvisa inkluderas i alla steg, från utformning till genomförande. Parlamentet understryker att dataset och algoritmer måste bedömas och regelbundet testas för att säkerställa att beslutsfattandet är korrekt.

6.  Styrning

6.1.  Samordning på unionsnivå

181.  Europaparlamentet uppmanar kommissionen att arbeta för en utveckling av ett starkt EU-ledarskap för att förhindra duplicering/fragmentering av åtgärder och säkerställa en konsekvent politik på nationell nivå och utbyte av bästa praxis för en mer utbredd användning av AI.

182.  Europaparlamentet välkomnar de olika nationella strategier som tagits fram av medlemsstaterna. Parlamentet välkomnar kommissionens samordnade plan för artificiell intelligens, som offentliggjordes den 7 december 2018. Parlamentet efterlyser ett bättre samarbete mellan medlemsstaterna och kommissionen i detta avseende.

183.  Europaparlamentet konstaterar att ett antal medlemsstater redan har sina egna nationella strategier för AI och välkomnar att samtliga medlemsstater i april 2018 undertecknade en förklaring om samarbete kring AI. Parlamentet är också positivt till den kommande plan för AI som samordnats mellan kommissionen och medlemsstaterna, men uppmanar ändå alla berörda parter att sträva efter största möjliga samarbete.

184.  Europaparlamentet anser att ett utökat samarbete mellan medlemsstaterna och kommissionen är nödvändigt för att garantera enhetliga regler för gränsöverskridande handel i unionen, vilka uppmuntrar till samarbete mellan europeiska industrier och tillåter användningen av AI i hela unionen på ett sätt som är förenligt med de erforderliga säkerhets- och skyddsnivåerna och de etiska principerna i unionsrätten.

185.  Europaparlamentet betonar att en harmoniserad, riskbaserad och progressiv ram för EU:s datapolitik skulle öka förtroendet för och stödja utvecklingen av AI i Europa, och därigenom säkerställa ett fullbordande av den digitala inre marknaden och öka Europa-baserade företags produktivitet.

186.  Europaparlamentet rekommenderar att befintliga och framtida AI-relaterade initiativ och pilotprojekt som genomförs av kommissionen bör vara nära samordnade, eventuellt med vägledning av den föreslagna tillsynsmekanismen, för att skapa synergieffekter och säkerställa verkligt mervärde, samtidigt som kostsamma dubbla strukturer undviks.

187.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att överväga att inrätta en europeisk tillsynsmyndighet för AI och algoritmbaserat beslutsfattande med följande arbetsuppgifter:

•  Inrätta en riskbedömningsmatris för att klassificera algoritmtyper och tillämpningsområden enligt eventuella negativa effekter som de medför för medborgare.

•  Undersöka användningen av algoritmsystem i de situationer då man misstänker kränkningar av mänskliga rättigheter (med bevis från exempelvis en visselblåsare).

•  Ge andra tillsynsmyndigheter råd om algoritmsystem som faller inom deras ansvarsområde.

•  Göra skadeståndsansvarsmekanismen mer effektiv som ett sätt att reglera ansvaret för algoritmsystem genom att tillhandahålla en kontaktpunkt för medborgare som inte känner till rättsliga förfaranden.

•  Granska konsekvensbedömningar av algoritmer för system med stor genomslagskraft för att godkänna eller förkasta de föreslagna användningsområdena för algoritmiskt beslutsfattande inom mycket känsliga och/eller säkerhetskritiska tillämpningsområden (t.ex. privat hälso- och sjukvård); konsekvensbedömningar av algoritmer för tillämpningar i den privata sektorn skulle kunna använda en process som är mycket lik den som vi föreslagit för den offentliga sektorn, möjligtvis med skillnaden att de olika stegen av offentliggörande skulle kunna hanteras som konfidentiell kommunikation till tillsynsmyndigheten (enligt ett sekretessavtal) för att skydda mycket viktiga affärshemligheter.

•  Undersöka misstänkta fall av algoritmbaserade beslutssystems kränkningar av rättigheter, för både individuella beslutsinstanser (t.ex. enskilda avvikande resultat) och statistiska beslutsmönster (t.ex. diskriminerande systematiska fel); undersökningar skulle kunna inledas till följd av att klagomål lämnats in eller på grundval av bevis som lämnas av visselblåsare, undersökande journalister eller oberoende forskare (inklusive icke-statliga organisationer och universitet).

188.  Europaparlamentet noterar det pågående arbetet inom Internationella standardiseringsorganisationen (ISO) om AI och uppmanar eftertryckligen medlemsstaterna att samordna sina ISO-medlemmar för att säkerställa att europeiska intressen är tillräckligt representerade vid utarbetandet av standarder på detta område.

6.2.  Internationell styrning

189.  Europaparlamentet välkomnar inrättandet av OECD:s observationsgrupp för AI och efterlyser en högre ambition när det gäller att ta fram en färdplan för ökat samarbete.

190.  Europaparlamentet lyfter fram de olika modeller som utvecklas i tredjeländer, mer specifikt i Förenta staterna, Kina, Ryssland och Israel, och framhåller det värdebaserade tillvägagångssätt som används i Europa och behovet av att samarbeta med internationella partner i bilaterala och multilaterala sammanhang, för en etisk utveckling och ett etiskt utnyttjande av AI. Parlamentet är medvetet om att denna teknik inte har några gränser och att samarbete utanför EU:s gränser krävs.

191.  Europaparlamentet uppmanar kommissionen att arbeta på internationell nivå för att säkerställa största möjliga överensstämmelse mellan internationella aktörer och att förespråka EU:s etiska principer i hela världen.

192.  Europaparlamentet understryker att AI är en teknik med global inverkan, som ger gemensamma fördelar och liknande utmaningar. Parlamentet framhåller behovet av en övergripande strategi, som för det ekonomiska systemet, och särskilt när det gäller teknik med en betydande inverkan på marknaderna. Parlamentet betonar att AI måste föras upp på befintliga institutioners och organisationers dagordning, och efterlyser en bedömning av behovet av ytterligare forum, som bör skapas vid behov.

°

°  °

193.  Europaparlamentet uppdrar åt talmannen att översända denna resolution till rådet och kommissionen.

(1)

EUT C 252, 18.7.2018, s. 239.

(2)

EUT C 307, 30.8.2018, s. 163.

(3)

Antagna texter, P8_TA(2018)0341.

(4)

Antagna texter, P8_TA(2018)0332.

(5)

EUT L 252, 8.10.2018, s. 1.

(6)

COM(2018)0237.

(7)

FET (Future and Emerging Technologies).

(8)

OECD, Digital Economy Outlook 2017.

(9)

Särskild Eurobarometer 460.

(10)

Europaparlamentets och rådets direktiv (EU) 2018/958 av den 28 juni 2018 om proportionalitetsprövning före antagandet av ny reglering av yrken, EUT L 173, 9.7.2018, s. 25.

(11)

Europaparlamentets och rådets direktiv 2013/55/EU av den 20 november 2013 om ändring av direktiv 2005/36/EG om erkännande av yrkeskvalifikationer och förordning (EU) nr 1024/2012 om administrativt samarbete genom informationssystemet för den inre marknaden (IMI-förordningen), EUT L 354, 28.12.2013, s.132.

(12)

Europaparlamentets och rådets direktiv 2006/123/EG av den 12 december 2006 om tjänster på den inre marknaden, EUT L 376, 27.12.2006, s. 36.

(13)

Europaparlamentets och rådets direktiv 2000/31/EG av den 8 juni 2000 om vissa rättsliga aspekter på informationssamhällets tjänster, särskilt elektronisk handel, på den inre marknaden (”Direktiv om elektronisk handel”), EGT L 178, 17.7.2000, s. 1.

(14)

Europaparlamentets och rådets direktiv (EU) 2018/1807 av den 14 november 2018 om en ram för det fria flödet av andra data än personuppgifter i Europeiska unionen, EUT L 303, 28.11.2018, s. 59.

(15)

Rådets direktiv 85/374/EEG av den 25 juli 1985 om tillnärmning av medlemsstaternas lagar och andra författningar om skadeståndsansvar för produkter med säkerhetsbrister , EGT L 210, 7.8.1985, s. 29.

(16)

Europaparlamentets och rådets förordning (EU) 2016/679 av den 27 april 2016 om skydd för fysiska personer med avseende på behandling av personuppgifter och om det fria flödet av sådana uppgifter och om upphävande av direktiv 95/46/EG, EUT L 119, 4.5.2016, s. 1.


YTTRANDE från utskottet för den inre marknaden och konsumentskydd (7.12.2018)

till utskottet för industrifrågor, forskning och energi

över en övergripande europeisk industripolitik för artificiell intelligens och robotteknik

(2018/2088(INI)COM(2018)0237))

Föredragande av yttrande: Dita Charanzová

(*)  Förfarande med associerat utskott – artikel 54 i arbetsordningen

(Förenklat förfarande – artikel 50.2 i arbetsordningen)

FÖRSLAG

Utskottet för den inre marknaden och konsumentskydd uppmanar utskottet för industrifrågor, forskning och energi att som ansvarigt utskott infoga följande förslag i det förslag till resolution som antas:

A.  Utvecklingen inom artificiell intelligens (AI ) går i rasande fart och AI har sedan flera år tillbaka spelat en roll i våra vardagsliv. AI och robotik sporrar till innovation, skapar nya företagsmodeller och spelar en central roll vid omvandlingen av våra samhällen och digitaliseringen av våra ekonomier inom ett flertal sektorer, såsom industri, hälso- och sjukvård, byggsektorn och transporterna.

B.  Kina och Förenta staterna är de ledande länderna inom AI-teknik och EU har nu hamnat rejält på efterkälken. Om det inte finns en gemensam strategi på europeisk nivå kommer EU inte att kunna hinna i fatt. Med en gemensam strategi för AI skulle EU bättre kunna föra fram sina värden runt om i världen och spela en större och effektivare roll i ett globalt perspektiv.

C.  Omkring en fjärdedel av världens alla industrirobotar och hälften av alla professionella servicerobotar tillverkas av europeiska företag och EU har därför redan nu viktiga resurser som EU bör ta till underlag för sin europeiska industripolitik.

D.  En gemensam strategi kommer att underlätta utvecklingen av AI-teknik och bli till nytta för samhället, samtidigt som där också bemöts de utmaningar som denna teknik innebär, så att innovationen stimuleras, kvaliteten på produkter som möjliggörs tack vare AI förbättras, konsumenterna får ökad erfarenhet av och förtroende för AI-teknik och robotik, och en uppsplittring av den inre marknaden kan undvikas.

E.  Utvecklingen av AI och robotik är något som hela samhället bör få medverka i. Under 2017 var landsbygdsområdena dessvärre till stor del utestängda från nyttan med AI, eftersom 8 % av bostäderna inte täcks av något fast nät och 53 % inte täcks av något ”nästa generations accessnät” (VDSL, Cable Docsis 3.0 och FTTP).

F.  Utvecklingen av tjänster och produkter som möjliggörs tack vare AI förutsätter konnektivitet, fritt dataflöde och datatillgänglighet inom EU. Användningen av avancerad datautvinningsteknik i tjänster och produkter kan bidra till bättre beslutsfattande och således också ökad valfrihet för konsumenterna, och även till bättre affärsresultat.

G.  Cybersäkerhet är livsviktig för att säkerställa att inte data illvilligt förvanskas eller missbrukas, så att AI blir till skada för medborgare eller företag, vilket skulle undergräva näringslivets och konsumenternas förtroende för AI. Utvecklingen inom AI leder till att man alltmer anlitar dessa system för agerande och beslutsfattande, något som i sin tur ställer krav på höga standarder för cyberresiliens inom EU, till skydd mot att cybersäkerheten utsätts för intrång eller förfelar sitt ändamål.

H.  Den tekniska utvecklingen av smarta produkter och tjänster kan bli till nytta för kunskapsekonomin, som stöder sig på kvantiteten av, kvaliteten på och åtkomligheten för den information som finns att tillgå, och kan således leda till en bättre anpassning till konsumenternas behov.

I.  Konsumenterna bör kunna hysa förtroende för den teknik de står i samverkan med, och därför måste man bemöta etiska farhågor som betingas av utvecklingen av AI och robotik. EU bör låta sitt bemötande av dessa farhågor bygga på respekten för de värden som finns förankrade i artikel 2 i fördraget om Europeiska unionen samt i Europeiska unionens stadga om de grundläggande rättigheterna. Den av kommissionen tillsatta högnivåexpertgruppen om artificiell intelligens kommer att ta fram utkast till etiska riktlinjer för AI senast vid utgången av 2018.

1.  Europaparlamentet understryker att den första och viktigaste förutsättningen för att EU ska kunna ta in sin eftersläpning i fråga om AI är att EU handlar inom ramen för en gemensam strategi.

2.  Europaparlamentet betonar att bristande samordning inom FoU, tillsammans med oenhetliga beslut i fråga om lagstiftningen och agerandet på det internationella planet ytterligare fjärmar EU från detta mål.

3.  Europaparlamentet konstaterar att ett antal medlemsstater redan har sina egna nationella strategier för AI och välkomnar dels att samtliga medlemsstater i april 2018 undertecknade en förklaring om samarbete kring artificiell intelligens, dels den kommande planen för AI som samordnats mellan kommissionen och medlemsstaterna, men uppmanar alla berörda parter att ta sikte på största möjliga samarbete.

Ett samhälle som stöds av artificiell intelligens och robotteknik

4.  Europaparlamentet erinrar om att det europeiska forskningssamfundet kring AI är världsledande, med 32 % av alla världens forskningsinstitutioner för AI.

5.  Europaparlamentet understryker att EU:s forskare fortsättningsvis tjänar åtskilligt mindre än sina motparter i Förenta staterna och Kina och att detta som bekant är huvudorsaken till varför de lämnar Europa. Parlamentet uppmanar, dels kommissionen och medlemsstaterna att fokusera på att locka toppförmågor till europeiska företag, dels medlemsstaterna att skapa attraktiva villkor.

6.  Europaparlamentet betonar vikten av riktade åtgärder för att små och medelstora företag och uppstartsföretag ska kunna gå in för AI-teknik och dra nytta av den. Parlamentet anser att det bör bli obligatoriskt med bedömningar av vilka konsekvenser EU:s nya lagstiftning om den tekniska utvecklingen av AI får, och att sådana konsekvensbedömningar också bör övervägas på nationell nivå.

7.  Europaparlamentet uppmanar kommissionen att få till stånd en lagstiftning som är gynnsam för utvecklingen av AI och följer principen om bättre lagstiftning genom att regelbundet ompröva den nuvarande lagstiftningen för att säkerställa dess ändamålsenlighet med tanke på AI, varvid EU:s grundläggande värden samtidigt bör respekteras och lagstiftningen bör ändras eller nya förslag framläggas när den inte visat sig ändamålsenlig.

8.  Europaparlamentet rekommenderar fortsatt arbete för ökad konnektivitet i eftersatta områden, såsom landsbygdsområden och försummade sektorer, så att alla verkligen ska få vara med i den digitala övergången.

9.  Europaparlamentet framhåller att en ökad utbredning för AI-teknik kan leda till att vissa yrken faller bort, framför allt de som mest sannolikt kommer att automatiseras, och att nya yrken tillkommer. Parlamentet påminner om att en betydande del av EU:s befolkning, närmare bestämt 37 % av arbetskraften, saknar grundläggande digitala färdigheter, och understryker att kommissionen förutsäger en avsevärd brist på sakkunniga inom IKT, med prognoser om 750 000 lediga platser senast 2020.

10.  Europaparlamentet uppmanar med kraft medlemsstaterna att modernisera sina system för yrkesutbildning, så att det tas hänsyn till vetenskapens framsteg och utvecklingen inom AI, i enlighet med direktivet om proportionalitetstest och direktivet om yrkeskvalifikationer, och att göra EU:s yrkesmässiga tjänster globalt konkurrenskraftiga under de kommande årtiondena.

Teknikens väg mot artificiell intelligens och robotteknik

11.  Europaparlamentet anser att den nya uppsättningen regler som styr det fria flödet inom EU av icke-personuppgifter gör så att allt fler uppgifter kommer att finnas tillgängliga för datadriven innovation, så att små och medelstora företag och uppstartsföretag får det lättare att utveckla innovativa tjänster av det slag som möjliggörs tack vare AI och komma in på nya marknader, medan medborgare och företag kan dra nytta av bättre tjänster.

12.  Europaparlamentet erinrar att det står i förordningen om det fria flödet av icke-personuppgifter att om teknisk utveckling gör det möjligt att omvandla anonymiserade data till personuppgifter ska sådana data behandlas som personuppgifter, och förordning (EU) 2016/679 ska tillämpas i enlighet med detta.

13.  Europaparlamentet inser vilka möjligheter som datadelning erbjuder, i samband med den framtida utvecklingen av djupinlärning, särskilt när det gäller värdefulla datamängder, med tanke dels på de stora fördelar dessa för med sig för medborgarna eller samhällsekonomin, dels på hur lämpliga de är för tillskapandet av mervärdestjänster och tillämpningar med mervärde.

14.  Europaparlamentet understryker vikten av öppna icke-personuppgifter från offentliga och privata källor och anser att en lagstiftningsram, bland annat om vidareutnyttjande av information från den offentliga sektorn, torde bli till stöd för tillgången till öppna data samt för interoperabiliteten. Parlamentet uppmanar med kraft kommissionen att överväga att inrätta en säker och frivillig gemensam ingång för att underlätta utbytet av icke-personuppgifter på EU-nivå, så att det går enklare att samla in uppgifter.

15.  Europaparlamentet understryker att konsumenternas förtroende är livsviktigt för utvecklingen av AI och att system som bygger på AI alltmer hanterar konsumentdata, så att de blir primära mål för cyberattacker. Parlamentet framhåller också att AI måste fungera på ett sätt som inte blir till skada för medborgare och konsumenter, och anser att integriteten för uppgifter och de algoritmer som används i samband med dem måste säkras.

16.  Europaparlamentet betonar att man måste känna igen, utpeka och övervaka skadliga företeelser i och kring utvecklingen av AI och uppmanar till att forskningen kring AI också ska inrikta sig på upptäckt av AI och robotik som förvanskats, antingen oavsiktligt eller med ont uppsåt.

Industripolitik

17.  Europaparlamentet anser att unionen bör bli bättre rustad mot cyberattacker och uppmanar till ett snabbt slutförande av EU:s strategi för cybersäkerhet, som bör säkerställa utveckling och ibruktagande av säkra system för AI och robotik som kan stå emot cyberattacker, framför allt genom att det tas fram EU-system för certifiering. Parlamentet anser att Enisa bör ta fram en handlingsplan för cybersäkerhet inom området AI, med bedömning av hot och svagheter som är typiska för AI samt åtgärder mot dem.

18.  Europaparlamentet understryker att en stark och konkurrenskraftig industri för AI och robotik inte kan utvecklas endast med stöd av allmänna medel. Parlamentet framhåller att privata medel måste uppbådas till stöd för innovation och för att EU ska få en utvecklad industri för AI och robotik.

19.  Europaparlamentet erinrar om att AI och robotik visserligen redan är väletablerade inom olika industriella tillämpningar, men att utvecklingen inom området går framåt och leder till omfattande och olikartade tillämpningar inom all mänsklig verksamhet. Parlamentet anser att varje lagstiftningsram måste erbjuda handlingsfrihet som medger innovation och fri utveckling av ny teknik och nya användningsområden för AI, och understryker att lagstiftningen inte bör hindra FoU inom den privata sektorn.

20.  Europaparlamentet uppmanar kommissionen att säkerställa att de digitala innovationsknutpunkterna inte medför ytterligare led inom administrationen, utan att de förlägger tyngdpunkten till att påskynda investeringarna i projekt som visat sig vara effektiva. Parlamentet uppmanar kommissionen att förlägga tyngdpunkten till bidrag och ekonomiskt stöd med inriktning på privata FoU-projekt, och understryker att offentlig-privata partnerskap bör få komma till ökad användning i samband med AI.

21.  Europaparlamentet anser att AI kommer att bli en stor tillgång vid förverkligandet av engångsprincipen, genom att möjliggöra samkörning av databaser och information från olika källor och således underlätta medlemsstaternas kontakter med den offentliga förvaltningen.

En rättslig ram för artificiell intelligens och robotteknik

En inre marknad för artificiell intelligens

22.  Europaparlamentet anser att medlemsstaterna bör säkerställa att data framställs på grundval av principen om ”inbyggd öppenhet och öppenhet som standard”, samtidigt som de säkerställer en konsekvent skyddsnivå för mål av allmänt intresse, såsom allmän säkerhet eller skyddet av personuppgifter, även då det rör sig om känslig information om kritisk infrastruktur.

Ansvarsmedveten utveckling och fri rörlighet för känsliga varor

23.  Europaparlamentet understryker vikten av principen om ömsesidigt erkännande vid gränsöverskridande användning av smarta varor, bland dem också robotar och system för robotik. Parlamentet erinrar om att man i samband med utprovning, certifiering och produktsäkerhet bör säkerställa att vissa varor har inbyggd säkerhet och säkerhet som standard, och konstaterar i samband med detta att man också måste arbeta med de etiska aspekterna av AI.

24.  Europaparlamentet betonar att AI används inom en mångfald sektorer där det är mycket viktigt med standardisering, såsom smart tillverkning, robotar, självkörande bilar, virtuell verklighet, hälso- och sjukvård och dataanalys, och anser att en EU-omfattande standardisering av AI kommer att bli innovationsstimulerande och garantera en hög nivå på konsumentskyddet. Parlamentet medger att det visserligen redan finns bra många standarder för frågor såsom säkerhet, tillförlitlighet, interoperabilitet och trygghet, men att det behövs ytterligare främjande och utveckling av gemensamma standarder för robotik och AI och att detta bör finnas med bland unionens prioriteringar. Parlamentet uppmanar kommissionen att, i samarbete med EU:s standardiseringsorgan, fortsätta att tillsammans med internationella standardiseringsorgan proaktivt utveckla bättre standarder inom området.

25.  Europaparlamentet uppmanar med kraft kommissionen och medlemsstaterna att arbeta för provning i liten skala och under verklighetstrogna förhållanden av innovativa produkter och innovativ teknik (så kallad innovation i sandlådan).

26.  Europaparlamentet är medvetet om att robotteknik och AI-teknik i allt större utsträckning används i autonoma fordon, t.ex. självkörande bilar och civila drönare. Parlamentet konstaterar att vissa medlemsstater redan antagit eller överväger anta lagstiftning, särskilt inom detta område, vilket skulle kunna resultera i ett lapptäcke av nationella lagar som hindrar utvecklingen av självkörande fordon. Parlamentet efterlyser därför en enhetlig uppsättning unionslagstiftning där man når fram till den rätta avvägningen mellan dels användarnas, företagens och andra berörda parters intressen, dels riskerna för dessa, samtidigt som överdriven lagstiftning om system för AI och robotik undviks.

Fritt tillhandahållande av AI-drivna tjänster

27.  Europaparlamentet erinrar om att det sker en ständig utveckling av tekniken för analys, användning och bearbetning av data, såsom maskininlärning, AI och sakernas internet, och att man tack vare den snabba tekniska utvecklingen kan få till stånd nya tjänster och tillämpningar på grundval av att data används, aggregeras eller sammanförs.

28.  Europaparlamentet erinrar om att ett flertal frågor med anknytning till tjänster som möjliggörs tack vare AI, bland annat konsumentskyddsbestämmelser och reglerna för etik och ansvarsskyldighet, redan omfattas av den gällande lagstiftningsramen om tjänster, alltså tjänstedirektivet, direktivet om yrkeskvalifikationer och direktivet om elektronisk handel.

29.  Europaparlamentet påpekar att människor alltid måste ha det slutgiltiga beslutsansvaret, framför allt för yrkesmässiga tjänster, såsom inom hälso- och sjukvård, advokatverksamhet och redovisning. Parlamentet anser att man bör diskutera om det är nödvändigt med övervakning från en kvalificerad yrkespersons sida för att skydda allmänhetens berättigade intressen och erbjuda tjänster med hög kvalitet.

30.  Europaparlamentet erkänner vikten av förbättrade digitala tjänster, såsom virtuella assistenter, dialogrobotar eller virtuella agenter, eftersom de gör driften effektivare än någonsin förr, men medger vederbörligen att begränsningarna för självverksamheten hos AI och robotik gör man måste utveckla en AI som låter människan stå i centrum och är marknadsdriven, för att man ska kunna få bättre och mera tillförlitliga beslut.

Konsumentskydd och ökad egenmakt för konsumenterna

31.  Europaparlamentet anser att AI-tekniken, antingen den tagits fram för användning vid tillverkningen eller av enskilda personer, bör bli föremål för produktsäkerhetskontroller genom försorg av marknadskontrollmyndigheterna och omfattas av konsumentskyddsbestämmelser som vid behov säkerställer miniminormer för säkerheten och åtgärdar risken för olyckor till följd av samspel med människor eller arbete i närheten av dem. Parlamentet anser att etiska frågor och frågor om uppgiftsskydd, inklusive uppgifter som tillhör tredje part och personuppgifter, samt skadeståndsansvar och cybersäkerhet, bör tas upp inom all politik för AI.

32.  Europaparlamentet erinrar om att algoritmerna är hörnstenen för AI och robotik. Parlamentet uppmanar medlemsstaterna att säkerställa att endast data med hög kvalitet används för AI, och framför allt att data är aktuella, exakta och tillförlitliga, för att konsumenterna ska få förtroende för dem och acceptera dem. Parlamentet påminner här om hur viktigt det är att AI-teknikens beslutsprocess går att förklara och att algoritmerna inte är vinklade, varvid samtidigt unionslagstiftningen måste följas, särskilt i fråga om affärshemligheter och det måste skapas strukturer för omprövning så att det går att rätta till eventuella misstag i beslut som fattas med hjälp av AI.

33.  Europaparlamentet betonar vikten av användarvänlig AI för att konsumenterna ska få ökat förtroende. Parlamentet anser att konsumenterna bör upplysas ifall slutgiltiga och varaktiga beslut fattas med hjälp av AI och inte av människor, och kunna söka omprövning och upprättelse genom försorg av människor. Parlamentet betonar att användare som står i kontakt med ett automatiskt system bör upplysas om hur de kan få kontakt med en människa och utverka omprövning och beriktigande av beslut som fattats av systemet.

34.  Europaparlamentet noterar arbetsdokument från kommissionens avdelningar av den 25 april 2018 om ansvarsfrågan i samband med ny digital teknik (SWD(2018)0137). Parlamentet noterar slutsatsen i dokumentet om att dagens ram för ansvar visserligen fortfarande är stabil och fungerar bra, men att den, med tanke på den nya tekniken för AI, bör ses över av expertgruppen för ansvarsfrågor för att det ska säkerställas att den är ändamålsenlig och bereder rum för synpunkter från konsumenter, innovatörer och företag med verksamhet inom EU.

35.  Europaparlamentet betonar att medborgarna, och särskilt de yngre bland dem, måste få undervisning så de kan förstå hur AI fungerar. Parlamentet efterlyser ökad egenmakt för unionens medborgare och konsumenter genom att medborgarna, konsumenterna och det civila samhället får ökad tillgång till AI. Parlamentet menar att detta kan ske genom att man erbjuder intensivare och utbredd undervisning till förmån för bättre förståelse av AI.

INFORMATION OM ANTAGANDET I DET RÅDGIVANDE UTSKOTTET

Förenklat förfarande – beslut

16.5.2018

Antagande

4.12.2018

 

 

 


YTTRANDE FRÅN UTSKOTTET FÖR RÄTTSLIGA FRÅGOR ÖVER DEN RÄTTSLIGA GRUNDEN

Jerzy Buzek

Ordförande

Utskottet för industrifrågor, forskning och energi

BRYSSEL

Ärende:  Yttrande över en övergripande europeisk industripolitik för artificiell intelligens och robotteknik (2018/2088(INI))

Inom ramen för det aktuella förfarandet har utskottet för rättsliga frågor, som jag har äran att vara ordförande för, fått i uppdrag att lägga fram ett yttrande för ditt utskott. Mady Delvaux utsågs till föredragande av yttrandet. Vid utskottssammanträdet den 20 november 2018 beslutade utskottet att avge detta yttrande i form av en skrivelse.

I enlighet med överenskommelsen om associering enligt artikel 54 i arbetsordningen hör frågor som rör ansvar och immateriella rättigheter till utskottet för rättsliga frågors exklusiva ansvarsområde, medan frågor som rör tekniskt inbäddade värden (”inbyggd etik”) hör till ett delat ansvarsområde.

Vid utskottssammanträdet den 6 december 2018 behandlade utskottet för rättsliga frågor detta ärende, och efter utbyten mellan samordnarna genom skriftligt förfarande antog utskottet nedanstående yttrande vid sammanträdet den 10 december 2018. Vid detta sammanträde(1) beslutade utskottet att uppmana utskottet för industrifrågor, forskning och energi att som ansvarigt utskott infoga följande förslag i det förslag till resolution som antas.

Jag hoppas att detta kommer att utgöra ett värdefullt bidrag till det betänkande som utarbetas av ditt utskott.

Med vänlig hälsning

Pavel Svoboda

FÖRSLAG

A.  I sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik (2015/2103(INL)) uppmanade parlamentet kommissionen att föreslå en enhetlig rättslig ram för utvecklingen av robotteknik, inklusive autonoma system och smarta autonoma robotar.

1.  Europaparlamentet kräver att man ägnar betydande uppmärksamhet åt produktsäkerhet för att säkerställa såväl konsumentskyddet som konsumenternas förtroende på området artificiell intelligens (AI) och robotteknik.

2.  Europaparlamentet betonar att tillämpningen av människocentrerad design när AI tas fram är avgörande för att säkerställa ansvar och ansvarsskyldighet i de beslutsprocesser som maskinerna står för.

3.  Europaparlamentet betonar att den politiska ramen måste utformas så att den främjar utvecklingen av alla typer av AI och inte bara system för djupinlärning, som kräver enorma mängder data.

4.  Europaparlamentet betonar att användningen av data inom hälso- och sjukvårdssektorn måste övervakas noggrant och ur ett etiskt perspektiv och inte på något sätt får hindra tillgången till socialt skydd eller försäkringar.

5.  Europaparlamentet anser att innehavaren – när AI används i medicinska enheter inopererade i kroppen – bör ha rätt att kontrollera och ändra den källkod som används i enheten.

6.  Europaparlamentet påminner om att tillgången till kvalitetsdata är avgörande för verklig konkurrenskraft inom AI-sektorn, och uppmanar offentliga myndigheter att säkerställa metoder för att framställa, dela och förvalta data genom att göra data till en kollektiv nyttighet i form av öppna data.

7.  Europaparlamentet välkomnar kommissionens initiativ att inrätta en expertgrupp för ansvarsfrågor och ny teknik för att förse EU med sakkunskap om huruvida direktivet om produktansvar är tillämpligt på traditionella produkter, ny teknik och nya samhällsutmaningar (konstellationen för direktivet om produktansvar) och hjälpa EU att utveckla principer som kan tjäna som riktlinjer för eventuella anpassningar av tillämplig lagstiftning på EU-nivå och nationell nivå när det gäller ny teknik (konstellationen för ny teknik).

8.  Europaparlamentet beklagar dock att inget lagstiftningsförslag lagts fram under denna valperiod, vilket försenar uppdateringen av ansvarsbestämmelserna på EU-nivå och hotar klarheten om rättsläget i hela EU på detta område för både näringsidkare och konsumenter.

9.  Europaparlamentet noterar det pågående arbetet inom Internationella standardiseringsorganisationen (ISO) om AI och uppmanar eftertryckligen medlemsstaterna att samordna sina ISO-medlemmar så att de i största möjliga utsträckning försvarar de europeiska värderingarna och intressena vid utarbetandet av standarder.

10.  Europaparlamentet påminner om sin resolution av den 16 februari 2018 (se ovan), i vilken parlamentet konstaterade att det inte finns några rättsliga bestämmelser som är specifikt tillämpliga på robotteknik, men att de befintliga rättsordningarna och doktrinerna lätt kan tillämpas på robotteknik, även om vissa aspekter tycks kräva särskild hänsyn. Parlamentet uppmanar kommissionen, precis som i nämnda resolution, att stödja en övergripande och teknikneutral strategi för immateriell äganderätt som är tillämplig på de olika sektorer där robotteknik skulle kunna användas.

11.  Europaparlamentet välkomnar i detta avseende kommissionens meddelande till institutionerna om vägledning om vissa aspekter av Europaparlamentets och rådets direktiv 2004/48/EG om säkerställande av skyddet för immateriella rättigheter, men understryker behovet att övervaka hur relevanta och effektiva bestämmelserna om immateriella rättigheter är när det gäller att styra utvecklingen av AI. Parlamentet understryker i detta sammanhang vikten av kontroller av ändamålsenligheten.

12.  Europaparlamentet välkomnar att kommissionen inrättat en högnivåexpertgrupp om artificiell intelligens som består av företrädare från den akademiska världen, det civila samhället och näringslivet, i syfte att utarbeta ett förslag till etiska riktlinjer på AI‑området gällande bl.a. rättvisa, säkerhet, insyn, framtidens arbete, demokrati och mer allmänt hur tillämpningen av stadgan om de grundläggande rättigheterna påverkas, inbegripet respekt för privatlivet och skydd av personuppgifter, värdighet, konsumentskydd och icke-diskriminering.

13.  Europaparlamentet ser fram emot det gemensamma möte med medlemsstaterna som enligt planerna ska hållas i januari 2019 efter offentliggörandet av förslaget till etiska riktlinjer i slutet av 2018, i enlighet med vad som tillkännagavs i kommissionens meddelande av den 25 april 2018.

14.  Europaparlamentet understryker den roll som parlamentet skulle kunna spela genom det arbete som panelen för framtida vetenskap och teknik (Stoa) utför för att företräda medborgarnas åsikter vid utarbetandet av dessa riktlinjer.

15.  Europaparlamentet noterar den samordnade handlingsplan om AI som lades fram av vice kommissionsordförande Ansip i december 2018.

16.  Europaparlamentet betonar att utvecklingen av AI och robotteknik för närvarande leds av tredjeländer, och understryker därför vikten av att ha en gemensam europeisk strategi för att försvara EU:s plats i utvecklingen av AI.

17.  Europaparlamentet välkomnar i detta avseende inrättandet av EU:s AI-allians i syfte att till fullo mobilisera en rad olika deltagare, däribland företag, konsumentorganisationer, fackföreningar och andra företrädare för instanser i det civila samhället. Parlamentet konstaterar att målet med denna breda flerpartsplattform är att komplettera och stödja arbetet i högnivåexpertgruppen om artificiell intelligens, i synnerhet när det gäller att utarbeta förslag till etiska riktlinjer på AI-området, och att säkerställa EU:s konkurrenskraft inom det framväxande AI-området.

(1)

Följande ledamöter var närvarande vid slutomröstningen: Pavel Svoboda (ordförande), Jean‑Marie Cavada, (vice ordförande), Mady Delvaux (vice ordförande och föredragande av yttrande), Joëlle Bergeron, Kostas Chrysogonos, Sergio Gaetano Cofferati, Mary Honeyball, Sajjad Karim, Sylvia‑Yvonne Kaufmann, António Marinho e Pinto, Julia Reda, Evelyn Regner, Axel Voss, Tiemo Wölken, Francis Zammit Dimech, Tadeusz Zwiefka, Kosma Złotowski och Luis de Grandes Pascual.


YTTRANDE från utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor (11.12.2018)

till utskottet för industrifrågor, forskning och energi

över en övergripande europeisk industripolitik för artificiell intelligens och robotteknik

(2018/2088(INI))

Föredragande av yttrande (*): Michał Boni

(*) Förfarande med associerat utskott – artikel 54 i arbetsordningen

FÖRSLAG

Utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor uppmanar utskottet för industrifrågor, forskning och energi att som ansvarigt utskott infoga följande förslag i det förslag till resolution som antas:

–  med beaktande av meddelandet från kommissionen till Europaparlamentet, Europeiska rådet, rådet, Europeiska ekonomiska och sociala kommittén samt Regionkommittén Artificiell intelligens för Europa (COM(2018)0237),

–  med beaktande av sin resolution av den 16 februari 2017 med rekommendationer till kommissionen om civilrättsliga bestämmelser om robotteknik(1), och avföljande skäl:

A.  Artificiell intelligens (AI) är en av de strategiska teknikerna för 2000-talet, både globalt och i Europa, vilket innebär en positiv förändring för den europeiska ekonomin och möjliggör innovation, produktivitet, konkurrenskraft och välbefinnande.

B.  Den europeiska ramen för AI måste tas fram med full respekt för de grundläggande rättigheterna enligt Europeiska unionens stadga om de grundläggande rättigheterna, särskilt principerna om dataskydd, integritet och säkerhet.

C.  Människocentrerad AI och maskininlärning är positivt för det europeiska samhället och kan bidra till att lösa några av de mest angelägna samhällsutmaningarna med konkreta fördelar för medborgarna.

1.  Europaparlamentet uppmanar kommissionen och andra behöriga institutioner att ha ett nära samarbete med forskare från olika forskningsfält för att identifiera, stödja och dra nytta av de potentiella positiva effekterna av innovativ användning av AI samt för att undersöka, förebygga och mildra eventuella skadliga effekter av uppsåtlig eller försumlig användning av AI, samt för att utveckla verktyg, politiska strategier och normer för att säkerställa en etisk styrning av AI-tillämpningar. Parlamentet betonar behovet av att utveckla program för kunskapsutbyte, inbegripet gränsöverskridande program, och att underlätta utvecklingen av en gemensam strategi mellan det civila samhällets organisationer. Parlamentet konstaterar att bästa praxis bör tas fram på forskningsområden med mer utvecklade metoder för att ta itu med problem med dubbla användningsområden, såsom säkerhet och integritet, och att de bör tillämpas på AI‑området.

2.  Europaparlamentet betonar att uppsåtlig eller försumlig användning av AI kan hota den digitala säkerheten och den fysiska såväl som den allmänna säkerheten, då sådan användning skulle kunna leda till storskaliga, finriktade och synnerligen effektiva angrepp på informationssamhällets tjänster och uppkopplade anläggningar samt desinformationskampanjer, och minskar i allmänhet individens rätt till självbestämmande. Parlamentet betonar att uppsåtlig eller försumlig användning av AI också kan utgöra en risk för demokratin och de grundläggande rättigheterna.

3.  Europaparlamentet betonar att rätten till respekt för privatlivet och skyddet av personuppgifter, som fastställs i artiklarna 7 och 8 i stadgan om de grundläggande rättigheterna och i artikel 16 i fördraget om Europeiska unionens funktionssätt (EUF‑fördraget), är tillämpligt på alla områden som inbegriper robotteknik och på alla andra områden där AI kan användas, däribland stordataanalyser, maskininlärning och sakernas internet, och att unionens rättsliga ramar för uppgiftsskydd måste respekteras till fullo på området för AI-system. Parlamentet upprepar sitt stöd för kommissionens Handlingsplan för finansteknik – ett viktigt steg mot en mer konkurrenskraftig europeisk finanssektor, som lyfter fram den roll som reglering kan spela för att underlätta teknisk innovation och bättre förståelse för innovativa affärsmodeller och marknadsutveckling, genom att låta tillsynsmyndigheter utöva tillsyn över företag i enlighet med unionens rättsliga ram.

4.  Europaparlamentet uppmanar kommissionen att se till att varje framtida EU-regelverk för AI säkerställer integritet och konfidentialitet vid kommunikation och skydd av personuppgifter, däribland principerna om lagenlighet, rättvisa och öppenhet, inbyggt uppgiftsskydd och uppgiftsskydd som standard, ändamålsbegränsning, lagringsbegränsning, korrekthet och dataminimering, i full överensstämmelse med unionens dataskyddslagstiftning samt säkerhet, personlig säkerhet och andra grundläggande rättigheter, inbegripet rätten till yttrande- och informationsfrihet. Parlamentet anser att varje framtida regelverk bör utvärderas regelbundet av kommissionen, med beaktande av ny teknisk utveckling.

5.  Europaparlamentet betonar att de europeiska standarderna för AI måste bygga på principerna om digital etik, mänsklig värdighet, respekt för grundläggande rättigheter, uppgiftsskydd och säkerhet, med målet att införliva dessa principer som standard och på så sätt bidra till att skapa förtroende bland användarna. Parlamentet understryker vikten av att utnyttja EU:s potential för att skapa en stark infrastruktur för AI-system som bygger på höga standarder för dataskydd och respekt för människor. Parlamentet betonar behovet av att systematiskt investera i utvecklingen av den framtida expertis som behövs, särskilt när det gäller att utbilda forskare och underlätta kunskapsutbyte mellan olika ämnen, inte minst tillämpad etik, med särskild inriktning på AI-teknik, robotteknik och relaterade områden.

6.  Europaparlamentet uppmanar kommissionen att inta en hård linje mot utveckling och användning av AI-styrda autonoma vapensystem inom EU:s ramar.

7.  Europaparlamentet välkomnar kommissionens initiativ att inrätta en europeisk AI‑allians med uppdrag att utarbeta övergripande etiska riktlinjer för AI och utfärda politiska rekommendationer. Parlamentet betonar vikten av ett aktivt deltagande i globala allianser och AI-forum för att möjliggöra kunskapsutbyte och en djupgående insikt i frågor som rör dataskydd, öppenhet och säkerhet i utvecklingen och införandet av AI-system. Parlamentet välkomnar i detta sammanhang arbetet i högnivåexpertgruppen för AI, som fungerar som styrgrupp för AI-alliansens arbete. Parlamentet uppmanar kommissionen att säkerställa att dataskyddsmyndigheter deltar i denna högnivågrupp, att slutföra arbetet på ett öppet och insynsvänligt sätt och att offentliggöra riktlinjerna. Parlamentet uppmanar dessutom kommissionen att fortsätta arbeta för en EU-omfattande strategi för AI som ska vara människocentrerad och människostyrd, och att aktivt främja höga EU-standarder för AI på internationell nivå.

8.  Europaparlamentet understryker att alla AI-system måste utvecklas med respekt för principerna om öppenhet och algoritmisk ansvarsskyldighet, så att människor har möjlighet att förstå hur de agerar. Parlamentet konstaterar att för att bygga upp förtroendet och möjliggöra AI-framsteg måste användarna vara medvetna om hur deras data, andra data och data som härletts ur deras data används, och de måste veta när de kommunicerar med eller interagerar med ett AI-system eller med människor som stöds av ett AI-system. Parlamentet anser att detta kommer att bidra till bättre förståelse för och förtroende bland användare. Parlamentet betonar att beslutens förklarbarhet måste bli EU-standard i enlighet med artiklarna 13, 14 och 15 i den allmänna dataskyddsförordningen. Parlamentet erinrar om att den allmänna dataskyddsförordningen redan nu föreskriver en rätt att informeras om logiken i databehandlingen. Parlamentet betonar att enskilda personer, i enlighet med artikel 22 i dataskyddsförordningen, har rätt till personlig kontakt när ett beslut som grundar sig på automatiserad behandling i betydande grad påverkar dem.

9.  Europaparlamentet framhäver den avgörande roll som kommissionen, Europeiska dataskyddsstyrelsen, nationella dataskyddsmyndigheter och andra oberoende tillsynsmyndigheter bör spela framöver för att främja öppenhet, korrekta rättsförfaranden och rättssäkerhet i allmänhet och, mer specifikt, konkreta standarder som värnar de grundläggande rättigheter och garantier som är förbundna med databehandling och dataanalyser. Parlamentet efterlyser ett närmare samarbete mellan de myndigheter som ansvarar för att övervaka eller reglera beteenden i den digitala miljön. Parlamentet efterlyser lämplig finansiering och bemanning av sådana myndigheter.

10.  Europaparlamentet betonar vikten av att hantera systematiska fel från utvecklarnas sida, varför det behövs en diversifierad arbetsstyrka inom alla grenar av IT-sektorn, samt skyddsmekanismer för att undvika att systematiska fel som grundar sig på kön och ålder bäddas in i AI-systemen.

11.  Europaparlamentet betonar vikten av att upprätta ett regelverk för att kontrollera algoritmer och deras inverkan, bland annat möjligheten att anlita oberoende revisorer för algoritmer (eller till och med programvaruövervakningsorgan, eller en tillsynsmyndighet som kan utreda automatiserade AI-beslut).

12.  Europaparlamentet betonar vikten av kvalitet och precision samt den representativa karaktären hos de data som används för utveckling och tillämpning av algoritmer, eftersom deras standard bygger på de data som använts vid inlärningen. Parlamentet påpekar att till och med högkvalitativa inlärningsdata kan leda till att befintlig diskriminering och orättvisa byggs in för gott om de inte används noggrant och medvetet. Parlamentet konstaterar att användningen av bristfälliga, föråldrade, ofullständiga eller felaktiga data i olika skeden av databehandlingen kan leda till svaga prognoser och bedömningar och i sin tur till systematiska fel, som i slutändan kan resultera i överträdelser av enskildas grundläggande rättigheter eller rent felaktiga slutsatser och falska resultat. Parlamentet anser därför att det är viktigt att man i stordataåldern ser till att algoritmer lärs upp på ett representativt urval av högkvalitativa data, så att den statistiska pariteten kan uppnås. Parlamentet betonar att även om korrekta data av hög kvalitet används kan prediktiva analyser baserade på AI endast ge en statistisk sannolikhet. Parlamentet påminner om att ytterligare behandling av personuppgifter för statistiska ändamål, inklusive AI-inlärning, enligt den allmänna dataskyddsförordningen endast får resultera i aggregerade data som inte kan återtillämpas på individer.

13.  Europaparlamentet uppmanar kommissionen, medlemsstaterna och dataskyddsmyndigheterna att identifiera och vidta alla möjliga åtgärder för att förebygga eller minimera diskriminering och systematiska fel i algoritmer, samt att ta fram ett starkt och gemensamt etiskt ramverk för insynsvänlig behandling av personuppgifter och automatiserat beslutsfattande i syfte att fungera som vägledning för dataanvändning och efterlevnad av unionsrätten.

14.  Europaparlamentet betonar att AI-forskning och annan därmed sammanhängande verksamhet bör genomföras i enlighet med försiktighetsprincipen och de grundläggande rättigheterna, samtidigt som man uppmuntrar framsteg till förmån för samhället och miljön. Parlamentet betonar att alla som är involverade i utvecklingen, genomförandet, spridningen och användningen av AI bör respektera den mänskliga värdigheten, självbestämmanderätten och välbefinnandet – både i fysisk och psykisk bemärkelse – för individen och samhället i stort, samt på förhand ta hänsyn till potentiella säkerhetskonsekvenser och vidta vederbörliga försiktighetsåtgärder i proportion till skyddsnivån, inbegripet ett snabbt offentliggörande av faktorer som kan försätta allmänheten eller miljön i fara. Parlamentet understryker behovet av en samordnad strategi för att se till att riskbaserade utvärderingar genomförs ofta för AI-system och deras komponenter. Parlamentet betonar vikten av att ta fram och införa en omfattande uppsättning revisionsregler och riktlinjer för utveckling och användning av AI-system, samt säkerhets- och flaggmekanismer för att minska riskerna för överträdelser inom ramen för dessa system.

15.  Europaparlamentet understryker att följande principer bör tillämpas på de övergripande strategierna för AI och robotteknik:

a) Robotar och artificiell intelligens är verktyg med många användningsområden. Robotar och AI bör inte utformas enbart eller huvudsakligen för att döda eller skada människor. Individuella rättigheter och grundläggande friheter måste säkerställas, särskilt människans integritet (fysisk och psykisk), mänsklig värdighet och identitet. Människan måste alltid ha företräde framför vetenskapens eller samhällets intresse.

b) Människor har ansvar för sina handlingar. Lagstiftarna bör se till att ny teknik följer gällande lagar och grundläggande rättigheter.

c) Robotar och AI är produkter som bör utformas för att vara säkra och ändamålsenliga, precis som andra produkter.

d) Robotar och AI är tillverkade föremål. De bör inte utformas på ett vilseledande sätt som utnyttjar sårbara användare, utan det bör vara uppenbart att det är fråga om maskiner.

e) En person med juridiskt ansvar för en robot eller ett AI-system bör utses. I händelse av grov oaktsamhet i fråga om säkerhet bör tillverkarna hållas ansvariga även om användaravtalen innehåller klausuler om ansvarsfriskrivning.

16.  Europaparlamentet betonar att allmänheten måste delta i utvecklingsprocessen för AI. Parlamentet uppmanar därför kommissionen att offentliggöra algoritmer, verktyg och tekniker som finansieras eller samfinansieras av allmänheten som öppen källkod.

17.  Europaparlamentet understryker att när risker uppstår som en oundviklig och integrerad del av AI-forskningen ska robusta riskbedömnings- och riskhanteringsprotokoll utarbetas och följas, med beaktande av att risken för skada inte får vara högre än den som förekommer i det normala livet (dvs. att människor inte ska utsättas för risker som överstiger eller tillkommer utöver dem som de utsätts för i sin normala livsstil).

INFORMATION OM ANTAGANDET I DET RÅDGIVANDE UTSKOTTET

Antagande

10.12.2018

 

 

 

Slutomröstning: resultat

+:

–:

0:

30

0

1

Slutomröstning: närvarande ledamöter

Martina Anderson, Monika Beňová, Michał Boni, Cornelia Ernst, Romeo Franz, Nathalie Griesbeck, Jussi Halla-aho, Monika Hohlmeier, Sophia in ‘t Veld, Dietmar Köster, Juan Fernando López Aguilar, Roberta Metsola, Claude Moraes, Péter Niedermüller, Ivari Padar, Giancarlo Scottà, Birgit Sippel, Csaba Sógor, Helga Stevens, Bodil Valero, Harald Vilimsky, Josef Weidenholzer

Slutomröstning: närvarande suppleanter

Marek Jurek, Jean Lambert, Angelika Mlinar, Maite Pagazaurtundúa Ruiz, Barbara Spinelli, Axel Voss

Slutomröstning: närvarande suppleanter (art. 200.2)

Lucy Anderson, Margrete Auken, Anthea McIntyre

SLUTOMRÖSTNING MED NAMNUPPROP I DET RÅDGIVANDE UTSKOTTET

30

+

ALDE

Nathalie Griesbeck, Sophia in ‘t Veld, Angelika Mlinar, Maite Pagazaurtundúa Ruiz

ECR

Jussi Halla-aho, Marek Jurek, Anthea McIntyre, Helga Stevens

ENF

Giancarlo Scottà

GUE/NGL

Martina Anderson, Cornelia Ernst, Barbara Spinelli

PPE

Michał Boni, Monika Hohlmeier, Roberta Metsola, Csaba Sógor, Axel Voss

S&D

Lucy Anderson, Monika Beňová, Dietmar Köster, Juan Fernando López Aguilar, Claude Moraes, Péter Niedermüller, Ivari Padar, Birgit Sippel, Josef Weidenholzer

VERTS/ALE

Margrete Auken, Romeo Franz, Jean Lambert, Bodil Valero

0

-

 

 

1

0

ENF

Harald Vilimsky

Teckenförklaring:

+  :  Ja-röster

-  :  Nej-röster

0  :  Nedlagda röster

(1)

Antagna texter, P8_TA(2017)0051.


YTTRANDE från utskottet för miljö, folkhälsa och livsmedelssäkerhet (21.11.2018)

till utskottet för industrifrågor, forskning och energi

över en övergripande europeisk industripolitik för artificiell intelligens och robotteknik

(2018/2088(INI))

Föredragande av yttrande: Bolesław G. Piecha

FÖRSLAG

Utskottet för miljö, folkhälsa och livsmedelssäkerhet uppmanar utskottet för industrifrågor, forskning och energi att som ansvarigt utskott infoga följande förslag i det förslag till resolution som antas:

A.  Artificiell intelligens (AI) kommer att bli en teknisk, ekonomisk, social och psykisk revolution, med uppenbara etiska konsekvenser, inte bara i Europa, utan i hela världen.

B.  Den ökande integrationen av robotteknik i mänskliga system kräver stark politisk vägledning om hur man ska maximera fördelarna, minimera riskerna för samhället och säkerställa en säker och rättvis utveckling av AI.

C.  AI:s marknadsmognad är den ur etisk och moralisk synvinkel största omvälvningen sedan ångmaskinen och datorn, och måste bli föremål för djupgående diskussioner i samhället.

D.  Inom industrin och tjänster på högteknologiområdet är AI nyckeln till Europas omvandling till en ”start up-kontinent” där man genom att utnyttja den senaste tekniken skapar tillväxt i Europa, särskilt på områdena medicinsk teknik, tjänster och program för hälso- och sjukvård, upptäckt av nya läkemedel, robotteknik och robotassisterad kirurgi samt behandling av kroniska sjukdomar, medicinsk bildteknik och patientjournaler, samtidigt som man skapar en hållbar miljö och säker livsmedelsproduktion. I nuläget ligger Europa efter Nordamerika och Asien när det gäller forskning och patent avseende AI.

E.  Utvecklingen av AI-teknik kan bidra till att förbättra livskvaliteten för kroniskt sjuka och personer med funktionsnedsättning och bidra med lösningar på samhällsutmaningar som exempelvis vår åldrande befolkning tack vare att det blir möjligt att använda den medicinska tekniken på ett mer exakt och effektivt sätt inom hälso- och sjukvården.

F.  Det finns en bred uppsättning möjliga tillämpningar för AI och robotteknik inom hälso- och sjukvården, såsom hantering av patientjournaler och medicinska uppgifter, utförande av repetitiva arbetsuppgifter (provanalyser, röntgen, datortomografier, datainmatning), utformning av behandlingar, digitala konsultationer (till exempel medicinska konsultationer som bygger på individens sjukdomshistoria och allmän medicinsk kunskap), virtuella sjuksköterskor, läkemedelshantering, läkemedelsutveckling, precisionsmedicin (där man inom områdena genetik och genomik söker efter mutationer och sjukdomssamband med hjälp av DNA-information), hälsoövervakning, analys av hälso- och sjukvårdssystem osv.

G.  Tillgänglighet innebär inte att alla ska ha samma tjänster och tillämpningar. Tillgänglighet avseende AI och robotteknik bygger på inkluderande planering och utformning. Utformningen måste utgå från användarens behov, önskemål och erfarenheter.

H.  Det finns starka etiska, psykiska och juridiska farhågor kring robotars autonomi och deras uppenbara avsaknad av mänsklig empati samt hur de påverkar förhållandet mellan läkare och patient, vilka fortfarande inte har hanterats på lämpligt sätt på EU-nivå, särskilt vad gäller skyddet av patienters personuppgifter, ansvarsfrågan och de nya ekonomiska förbindelser och anställningsförhållanden som uppstår. ”Autonomi” som sådan kan bara till fullo tillskrivas människor. Det behövs en robust rättslig och etisk ram för AI.

I.  Införandet av AI inom hälso- och sjukvården i synnerhet måste alltid grundas på ansvarsprincipen att maskinen tjänar människan.

J.  Riskerna med AI har inte studerats tillräckligt.

1.  Europaparlamentet understryker att all revolutionerande teknisk utveckling, särskilt på området för AI och robotteknik, ska syfta till människors välbefinnande.

2.  Europaparlamentet betonar att AI-system och robotar är innovativa tekniska medel för att förbättra människors liv, skapa ekonomisk tillväxt och hantera utmaningar i fråga om hälsa, miljö, klimatförändringar, livsmedelssäkerhet och många andra aspekter, och att det alltid måste finnas en mänsklig aktör som ansvarar för deras användning.

3.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att utarbeta en heltäckande EU-åtgärdsplan som syftar till att skapa ett europeiskt ”ekosystem av artificiell intelligens” för att utnyttja samhällsekonomiska utvecklingsmöjligheter samtidigt som man till fullo beaktar frågor kring trygghet, säkerhet, skadeförebyggande och riskbegränsande åtgärder, människans moraliska ansvar, styrning och reglering av AI och robotteknik, miljömässig hållbarhet och bortskaffande av AI-enheter.(1) Parlamentet understryker att detta ”ekosystem” bör vara öppet för behoven hos mycket små företag och små och medelstora företag och upprättas i samarbete med alla relevanta berörda parter, särskilt patientgrupper, men också med beaktande av aspekter som berör andra grupper, till exempel välfärdsorganisationer, kyrkor och filosofiska fakulteter.

4.  Europaparlamentet anser att särskild uppmärksamhet bör ägnas åt användningen av ”stordata” inom hälso- och sjukvården i syfte att dra största möjliga nytta av de möjligheter som den kan medföra – till exempel att förbättra såväl enskilda patienters hälsa som funktionssättet inom medlemsstaternas offentliga hälso- och sjukvårdssystem – utan att tumma på de etiska standarderna och utan att det hotar människors personliga integritet eller säkerhet.

5.  Europarlamentet varnar med eftertryck för varje försök att utrusta AI-maskiner med någon slags ”personlighet” och därmed befria tillverkarna och användarna från ansvar för dem.

6.  Europaparlamentet understryker dock att det befintliga systemet för godkännande av medicintekniska produkter eventuellt inte lämpar sig för AI-teknik. Parlamentet uppmanar kommissionen att noga övervaka utvecklingen av denna teknik och att vid behov föreslå ändringar av regelverket i syfte att upprätta en ram för fastställande av det respektive ansvar som åligger användaren (läkaren/yrkesutövaren), tillverkaren av den tekniska lösningen och den vårdinrättning som erbjuder behandlingen. Parlamentet påpekar att det rättsliga ansvaret för skador är en central fråga inom hälso- och sjukvården vad gäller användningen av AI. Parlamentet framhåller därför vikten av att säkerställa att användarna inte rutinmässigt vägleds att stödja den diagnostiklösning eller behandling som ett tekniskt instrument föreslår på grund av att yrkesutövaren är rädd för att utsättas för skadeståndsanspråk för uppkomna skador om de på basis sin egen välgrundade yrkesmässiga bedömning kommer fram till en annan slutsats, om så bara delvis.

7.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att öka anslagen till AI- och robotteknikforskning och att uppmuntra AI-experter och europeiska och utomeuropeiska företag att skapa innovativa arbetstillfällen för ökad forskning kring folkhälsofrågor. Samtidigt framhåller parlamentet att en övergripande sysselsättningsstrategi måste hålla jämna steg med utvecklingen på AI-området ur ett yrkesmässigt vårdperspektiv.

8.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att främja kompetensutveckling inom AI och robotteknik med hjälp av konkreta åtgärder (till exempel inrättande av företagskuvöser och stöd till startup-företag) för att ökat antalet utbildad personal samt att i detta sammanhang särskilt uppmärksamma kvinnors deltagande och åtgärder för att locka över studenter från andra ämnesområden.

9.  Europaparlamentet begär att rådet och kommissionen vidtar alla rättsliga åtgärder för att förbjuda metoder för dödshjälp och urval som bygger på en ökad användning av optimerade människa–maskin-gränssnitt i människokroppen.

10.  Europaparlamentet uppmanar kommissionen att möjliggöra tillgång till bidrag inom ramen för EU:s ramprogram och andra former av finansiering av AI-forskning.

11.  Europaparlamentet uppmanar kommissionen och medlemsstaterna att utarbeta långtgående planer för att locka centrala berörda parter och nyckelaktörer inom it, matematik, fysik, medicinsk it, klinisk psykologi, bioteknik och läkemedelsvetenskap att öppna AI-forskningscentrum inom områdena biomedicin och bionik runt om i hela EU. Parlamentet uppmanar dock kommissionen och medlemsstaterna att ta riskerna med AI (till exempel inverkan på förhållandet mellan läkare och patient och avhumanisering av vården) på allvar och att stödja forskning om riskerna och de etiska aspekterna kring AI, vilket skulle kunna underlätta fastställandet av huruvida och på vilka villkor en given teknik lösning kan betraktas som lämplig och förenlig med de grundläggande principerna om mänsklig värdighet och jämlikhet och såldes kan godkännas.

12.  Europaparlamentet uppmanar medlemsstaterna och kommissionen att öka finansieringen till hälsorelaterad AI-teknik inom offentlig och privat sektor. Parlamentet välkomnar i detta sammanhang den förklaring om samarbete som 24 EU-medlemsstater och Norge undertecknat i syfte att öka effekterna av investeringar i AI på europeisk nivå. Parlamentet uppmanar medlemsstaterna och kommissionen att överväga om utbildningsprogrammen för läkare och sjukvårdspersonal bör uppdateras och standardiseras på EU-nivå för att säkerställa en hög kompetensnivå och likvärdiga förhållanden i de olika medlemsstaterna när det gäller kunskap om och användning av de mest avancerade tekniska verktygen för kirurgisk robotteknik, biomedicin och AI‑baserad biomedicinsk avbildning.

INFORMATION OM ANTAGANDET I DET RÅDGIVANDE UTSKOTTET

Antagande

20.11.2018

 

 

 

Slutomröstning: resultat

+:

–:

0:

48

2

0

Slutomröstning: närvarande ledamöter

Marco Affronte, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Biljana Borzan, Paul Brannen, Nessa Childers, Birgit Collin‑Langen, Seb Dance, Mark Demesmaeker, Bas Eickhout, Francesc Gambús, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Benedek Jávor, Karin Kadenbach, Urszula Krupa, Giovanni La Via, Jo Leinen, Peter Liese, Valentinas Mazuronis, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Gilles Pargneaux, Bolesław G. Piecha, John Procter, Julia Reid, Frédérique Ries, Annie Schreijer-Pierik, Adina-Ioana Vălean, Jadwiga Wiśniewska

Slutomröstning: närvarande suppleanter

Cristian-Silviu Buşoi, Nicola Caputo, Michel Dantin, Martin Häusling, Esther Herranz García, Gesine Meissner, Tilly Metz, Ulrike Müller, Sirpa Pietikäinen, Carlos Zorrinho

Slutomröstning: närvarande suppleanter (art. 200.2)

Mercedes Bresso, Innocenzo Leontini, Olle Ludvigsson, Ana Miranda

SLUTOMRÖSTNING MED NAMNUPPROP I DET RÅDGIVANDE UTSKOTTET

48

+

ALDE

Catherine Bearder, Gerben Jan Gerbrandy, Valentinas Mazuronis, Gesine Meissner, Ulrike Müller, Frédérique Ries

ECR 

Mark Demesmaeker, Urszula Krupa, Bolesław G. Piecha, John Procter, Jadwiga Wiśniewska

EFDD

Sylvie Goddyn

NI

Zoltán Balczó

PPE

Pilar Ayuso, Ivo Belet, Cristian-Silviu Buşoi, Birgit Collin-Langen, Michel Dantin, Francesc Gambús, Jens Gieseke, Françoise Grossetête, Esther Herranz García, Giovanni La Via, Innocenzo Leontini, Peter Liese, Miroslav Mikolášik, Sirpa Pietikäinen, Annie Schreijer-Pierik, Adina-Ioana Vălean

S&D

Biljana Borzan, Paul Brannen, Mercedes Bresso, Nicola Caputo, Nessa Childers, Seb Dance, Karin Kadenbach, Jo Leinen, Olle Ludvigsson, Susanne Melior, Massimo Paolucci, Gilles Pargneaux, Carlos Zorrinho

VERTS/ALE

Marco Affronte, Bas Eickhout, Martin Häusling, Benedek Jávor, Tilly Metz, Ana Miranda

2

-

EFDD

Julia Reid

PPE

Julie Girling

0

0

 

 

Teckenförklaring:

+  :  Ja-röster

-  :  Nej-röster

0  :  Nedlagda röster

(1)

Se i synnerhet uttalandet av Europeiska gruppen för etik inom vetenskap och ny teknik från mars 2018 om artificiell intelligens, robotteknik och ”autonoma” system.


INFORMATION OM ANTAGANDET I DET ANSVARIGA UTSKOTTET

Antagande

14.1.2019

 

 

 

Slutomröstning: resultat

+:

–:

0:

49

1

4

Slutomröstning: närvarande ledamöter

Bendt Bendtsen, Jonathan Bullock, Cristian-Silviu Buşoi, Jerzy Buzek, Edward Czesak, Jakop Dalunde, Fredrick Federley, Ashley Fox, Igor Gräzin, Theresa Griffin, András Gyürk, Rebecca Harms, Eva Kaili, Barbara Kappel, Seán Kelly, Jeppe Kofod, Jaromír Kohlíček, Peter Kouroumbashev, Zdzisław Krasnodębski, Miapetra Kumpula‑Natri, Christelle Lechevalier, Paloma López Bermejo, Edouard Martin, Tilly Metz, Angelika Mlinar, Csaba Molnár, Nadine Morano, Angelika Niebler, Morten Helveg Petersen, Miroslav Poche, Carolina Punset, Julia Reda, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Neoklis Sylikiotis, Patrizia Toia, Evžen Tošenovský, Vladimir Urutchev, Kathleen Van Brempt, Henna Virkkunen, Flavio Zanonato, Carlos Zorrinho

Slutomröstning: närvarande suppleanter

Pilar Ayuso, Michał Boni, Gunnar Hökmark, Rupert Matthews, Clare Moody, Caroline Nagtegaal, Răzvan Popa, Dennis Radtke, Giancarlo Scottà, Davor Škrlec


SLUTOMRÖSTNING MED NAMNUPPROP I DET ANSVARIGA UTSKOTTET

49

+

ALDE

Fredrick Federley, Igor Gräzin, Angelika Mlinar, Caroline Nagtegaal, Morten Helveg Petersen, Carolina Punset

ECR

Edward Czesak, Ashley Fox, Zdzisław Krasnodębski, Rupert Matthews, Evžen Tošenovský

ENF

Barbara Kappel, Christelle Lechevalier, Giancarlo Scottà

PPE

Pilar Ayuso, Bendt Bendtsen, Michał Boni, Cristian-Silviu Buşoi, Jerzy Buzek, András Gyürk, Gunnar Hökmark, Seán Kelly, Nadine Morano, Angelika Niebler, Dennis Radtke, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Vladimir Urutchev, Henna Virkkunen

S&D

Theresa Griffin, Eva Kaili, Jeppe Kofod, Peter Kouroumbashev, Miapetra Kumpula‑Natri, Csaba Molnár, Clare Moody, Miroslav Poche, Răzvan Popa, Patrizia Toia, Kathleen Van Brempt, Flavio Zanonato, Carlos Zorrinho

VERTS/ALE

Jakop Dalunde, Rebecca Harms, Tilly Metz, Julia Reda, Davor Škrlec

1

-

EFDD

Jonathan Bullock

4

0

GUE/NGL

Jaromír Kohlíček, Paloma López Bermejo, Neoklis Sylikiotis

S&D

Edouard Martin

Teckenförklaring

+  :  Ja-röster

-  :  Nej-röster

0  :  Nedlagda röster

Senaste uppdatering: 8 februari 2019Rättsligt meddelande - Integritetspolicy