POROČILO o celoviti evropski industrijski politiki na področju umetne inteligence in robotike

30.1.2019. - (2018/2088(INI))

Odbor za industrijo, raziskave in energetiko
Poročevalka: Ashley Fox
Pripravljavci mnenja (*):Dita Charanzová, Odbor za notranji trg in varstvo potrošnikov
Mady Delvaux, Odbor za pravne zadeve
Michał Boni, Odbor za državljanske svoboščine, pravosodje in notranje zadeve
(*) Pridruženi odbori – člen 54 Poslovnika

PREDLOG RESOLUCIJE EVROPSKEGA PARLAMENTA

o celoviti evropski industrijski politiki na področju umetne inteligence in robotike

(2018/2088(INI))

Evropski parlament,

–  ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki[1],

–  ob upoštevanju svoje resolucije z dne 1. junija 2017 o digitalizaciji evropske industrije[2],

–  ob upoštevanju svoje resolucije z dne 12. septembra 2018 o avtonomnih orožnih sistemih [3],

–  ob upoštevanju svoje resolucije z dne 11. septembra 2018 o enakopravnosti jezikov v digitalni dobi[4],

–  ob upoštevanju predloga Komisije z dne 6. junija 2018 o vzpostavitvi programa za digitalno Evropo za obdobje 2021–2027 (COM (2018) 0434),

–  Ob upoštevanju Uredbe Sveta (EU) 2018/1488 z dne 28. septembra 2018 o ustanovitvi Skupnega podjetja za evropsko visokozmogljivostno računalništvo[5],

–  ob upoštevanju člena 52 Poslovnika,

–  ob upoštevanju poročila Odbora za industrijo, raziskave in energetiko ter mnenj Odbora za notranji trg in varstvo potrošnikov, Odbora za pravne zadeve, Odbora za državljanske svoboščine, pravosodje in notranje zadeve ter Odbora za okolje, javno zdravje in varnost hrane (A8-0019/2019);

A.  ker imata pregledni in etično zasnovani umetna inteligenca in robotika potencial, da obogatita naše življenje in povečata naše zmogljivosti, tako na ravni posameznika kot za skupno dobro;

B.  ker se umetna inteligenca hitro razvija in ker ima že več let pomembno vlogo v našem vsakdanjem življenju; ker umetna inteligenca in robotika spodbujata inovacije, vodita k novim poslovnim modelom in imata ključno vlogo pri preoblikovanju naših družb in digitalizaciji naših gospodarstev v številnih sektorjih, kot so industrija, zdravstvo, gradbeništvo in promet;

C.  ker so zaradi vse večjega vključevanja robotike v človeške sisteme potrebne jasne politične smernice o tem, kako čim bolj izkoristiti prednosti, ki jih prinaša, in čim bolj zmanjšati tveganja za družbo ter zagotoviti varen in uravnotežen razvoj umetne inteligence;

D.  ker je umetna inteligenca ena od strateških tehnologij 21. stoletja v Evropi in v svetu, saj v evropsko gospodarstvo prinaša pozitivne spremembe ter omogoča inovacije, produktivnost, konkurenčnost in blaginjo;

E.  ker približno četrtino vseh industrijskih robotov in polovico vseh robotov za poklicne storitve na svetu proizvedejo evropska podjetja, in ker EU torej že ima pomembna sredstva, na katerih bi morala temeljiti evropska industrijska politika;

F.  ker lahko umetna inteligenca in robotika preoblikujeta različne industrijske panoge ter prispevata k bolj učinkoviti proizvodnji in večji konkurenčnosti evropske industrije ter malih in srednjih podjetij na svetovni ravni; ker so za razvoj umetne inteligence ključnega pomena razpoložljivost obsežnih naborov podatkov in obratov za preizkuse in poskuse;

G.  ker bomo s skupnim pristopom olajšali razvoj tehnologij umetne inteligence v korist družbe in se hkrati spoprijeli z izzivi, ki jih prinašajo te tehnologije, da bi spodbudili inovacije, zvišali kakovost proizvodov in storitev, podprtih z umetno inteligenco, izboljšali izkušnje potrošnikov in njihovo zaupanje v tehnologije umetne inteligence in robotiko ter preprečili razdrobljenost notranjega trga;

H.  ker je treba zmogljivost računalništva v Uniji ohraniti na vodilni ravni, saj naj bi to prineslo priložnosti za dobavno industrijo EU in prispevalo k njenemu učinkovitejšemu prenosu tehnološkega razvoja v proizvode in storitve, ki bodo utemeljeni v povpraševanju in aplikacijsko zasnovani, to pa bo vodilo k njihovi uporabi v razširjenih in nastajajočih aplikacijah, podprtih z umetno inteligenco;

I.  ker EU nujno potrebuje usklajen pristop na evropski ravni, da bi lahko tekmovala z obsežnimi naložbami tretjih držav, zlasti ZDA in Kitajske;

J.  ker se je Komisija 25. aprila 2018[6] zavezala, da bo predlagala evropski pristop na področju umetne inteligence, tako da bo v sodelovanju z deležniki zavezništva za umetno inteligenco – skupine strokovnjakov na tem področju – pripravila osnutek smernic za umetno inteligenco, da bi spodbudila aplikacije in podjetja v Evropi, katerih delovanje temelji na umetni inteligenci;

K.  ker bi bilo treba sedanja pravila in procese pregledati in po potrebi spremeniti, da bi upoštevali umetno inteligenco in robotiko;

L.  ker je treba evropski okvir za umetno inteligenco zasnovati ob polnem spoštovanju pravic iz Listine o temeljnih pravicah, zlasti načel varstva podatkov, zasebnosti in varnosti;

M.  ker mora biti razvoj umetne inteligence zasnovan tako, da bodo ohranjeni dostojanstvo, avtonomija in samoodločanje posameznika;

N.  ker je Parlament v svoji resoluciji z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki pozval Komisijo, naj predlaga celovit pravni okvir za razvoj robotike, vključno z avtonomnimi sistemi in pametnimi avtonomnimi roboti;

O.  ker mora biti v razvoj umetne inteligence in robotike vključena družba kot celota; ker pa kljub temu leta 2017 podeželska območja večinoma niso imela možnosti, da bi izkoristila prednosti umetne inteligence, saj 8 % domov nima dostopa do nobenega fiksnega omrežja, 53 % pa jih nima na voljo nobene tehnologije dostopa naslednje generacije (VDSL, kabelskih omrežij s standardom Docsis 3.0 ali FTTP);

P.  ker so za razvoj storitev in izdelkov, podprtih z umetno inteligenco, potrebni povezljivost, prosti pretok podatkov in dostopnost podatkov v EU; ker lahko uporaba naprednih tehnik podatkovnega rudarjenja pri proizvodih in storitvah prispeva k bolj kakovostnemu odločanju in s tem boljši izbiri potrošnikov ter večji poslovni uspešnosti,

Q.  ker lahko tehnološki razvoj pametnih izdelkov in storitev koristi gospodarstvu, ki temelji na znanju in torej na količini, kakovosti in dostopnosti razpoložljivih informacij, ter tako lahko vodi k boljšemu prilagajanju potrebam potrošnikov,

R.  ker je kibernetska varnost bistvenega pomena za preprečevanje zlonamerne okvare ali zlorabe podatkov, pri kateri bi se umetna inteligenca uporabila na način, ki bi škodil državljanom ali podjetjem, kar bi spodkopalo zaupanje industrije in potrošnikov vanjo; ker se z razvojem umetne inteligence povečuje zanašanje na sisteme, utemeljene na umetni inteligenci, pri ukrepih in odločitvah, za to pa so potrebni visoki standardi kibernetske odpornosti v EU za zaščito pred kršitvami in napakami, povezanimi s kibernetsko varnostjo;

S.  ker trend vse večje avtomatizacije zahteva, da tisti, ki se ukvarjajo z razvojem in trženjem aplikacij umetne inteligence, upoštevajo varnost in etiko že pri njihovi zasnovi, s čimer priznavajo, da morajo biti pripravljeni nositi pravno odgovornost za kakovost tehnologije, ki jo razvijajo;

T.  ker bi morala izgradnja zaupanja vrednega ekosistema za razvoj tehnologije umetne inteligence temeljiti na arhitekturi podatkovne politike; ker to pomeni oblikovanje nemoteno delujočih in poenostavljenih programov za zbiranje in upravljanje podatkov za namene izobraževanja, da bi omogočili razvoj umetne inteligence na številnih področjih, kot so zdravstveni, finančni, biološki, energetski, industrijski, kemijski ali javni sektor; ker bi lahko podatkovno voden ekosistem na področju umetne inteligence vključeval vseevropske pobude za odprte standarde, ki bi temeljile na vzajemnem priznavanju certifikatov in preglednih pravilih interoperabilnosti;

U.  ker uporaba umetne inteligence sama po sebi ne zagotavlja resnice ali pravičnosti, saj je lahko pri načinu zbiranja podatkov in pisanja prisotna pristranskost, ta pa lahko izhaja iz pristranskosti, prisotne v družbi; ker bi morala kakovost podatkov, skupaj z algoritemsko zasnovo in stalnim ponovnim ocenjevanjem, pristranskost preprečiti;

V.  ker bi bilo treba umetno inteligenco in robotiko razvijati in uporabljati na podlagi pristopa, osredotočenega na človeka, in z namenom podpiranja ljudi na delovnem mestu in doma; ker se umetna inteligenca lahko uporablja tudi za to, da ljudem ni treba opravljati nevarnih del;

W.  ker imata nadaljnji razvoj in pogostejša uporaba avtomatiziranega in algoritemskega odločanja nedvomno vpliv na to, kaj posameznik (na primer poslovnež ali internetni uporabnik) in upravni, sodni ali drugi javni organi izberejo kot končno potrošniško, poslovno ali uradno odločitev; ker morajo biti zaščitni mehanizmi ter možnost človeškega nadzora in preverjanja vgrajeni v postopek avtomatiziranega in algoritemskega sprejemanja odločitev;

X.  ker s strojnim učenjem prihajajo tudi izzivi v zvezi z zagotavljanjem nediskriminacije, predpisanega postopka ter preglednosti in razumljivosti postopkov odločanja;

Y.  ker je umetna inteligenca pomemben instrument za spoprijemanje s svetovnimi družbenimi izzivi in ker bi zato morale države članice v svoji javni politiki spodbujati naložbe, dati na razpolago sredstva za raziskave in razvoj ter odpraviti ovire za razvoj in sprejemanje umetne inteligence;

Z.  ker so platforme za komercialno uporabo umetne inteligence iz preizkusne faze prešle k dejanski uporabi v zdravstvu, okolju, energetiki in prometu; ker so tehnike strojnega učenja jedro vseh glavnih spletnih platform in aplikacij, ki temeljijo na velepodatkih;

AA.  ker so evropski raziskovalci in podjetja vključeni v številna področja blokovne verige, ki segajo od dobavne verige, vladnih storitev, financ, interneta stvari, zdravstva, medijev, pametnih mest in energetike do prometa; ker je Evropa močan akter na pomembnih področjih, povezanih z blokovno verigo, kot je umetna inteligenca; ker ima lahko tehnologija podatkovne verige pomembno vlogo pri krepitvi evropskih inovacij;

AB.  ker so tehnologije kibernetske varnosti, kot so digitalna identiteta, kriptografija ali zaznavanje vdorov, in njihova uporaba na področjih financ, industrije 4.0, energetike, prometa, zdravstva in e-uprave bistvenega pomena za vzdrževanje varnosti in ohranjanje zaupanja državljanov, javne uprave in podjetij pri spletnih aktivnostih in transakcijah;

AC.  ker sta besedilno in podatkovno rudarjenje osnova za aplikacije umetne inteligence in strojnega učenja ter sta bistvenega pomena za mala in srednja ter zagonska podjetja, saj jim omogočata dostop do velikih količin podatkov za dostop do algoritmov umetne inteligence;

AD.  ker bi se lahko izkazalo, da je umetna inteligenca energetsko zelo intenzivna; ker je glede na to pomembno, da se uporaba umetne inteligence nadaljuje v skladu z obstoječimi cilji EU na področju energetske učinkovitosti in krožnega gospodarstva;

AE.  ker bi bilo treba z umetno inteligenco v celoti podpirati vse evropske jezike, da bi vsem Evropejcem zagotovili enake možnosti za izkoriščanje sodobnih dosežkov umetne inteligence v večjezični evropski informacijski družbi;

AF.  ker je v visokotehnološki industriji in storitvah umetna inteligenca ključna za to, da bo Evropa postala „zagonska celina“, ki bo znala izkoristiti najnovejše tehnologije za ustvarjanje rasti v Evropi, zlasti na področju zdravstvene tehnologije, zdravstvenih storitev in programov, odkrivanja zdravil, robotske in robotsko podprte kirurgije, zdravljenja kroničnih bolezni ter medicinskega slikanja in zdravstvene dokumentacije, pa tudi za zagotovitev trajnostnega okolja in varnega pridelovanja hrane; ker Evropa v tem trenutku zaostaja za Severno Ameriko in Azijo pri raziskavah in patentih na področju umetne inteligence;

AG.  ker lahko razvoj tehnologij umetne inteligence pomaga izboljšati življenje kroničnih bolnikov in invalidov in pri spoprijemanju z družbenimi izzivi, kot je naše starajoče se prebivalstvo, saj bo pri zagotavljanju zdravstvene oskrbe pomagala izboljšati natančnost in učinkovitost zdravstvene tehnologije;

AH.  ker obstaja širok nabor načinov uporabe umetne inteligence in robotike v zdravstvu, kot so med drugim vodenje zdravstvene dokumentacije in obdelava podatkov, izvajanje ponavljajočega se dela (analize preiskav, rentgensko slikanje, računalniška tomografija (CT), vnos podatkov), načrt zdravljenja, digitalni pregled (na primer zdravniški pregled, ki temelji na osebni zdravstveni anamnezi in splošnem medicinskem znanju), virtualne medicinske sestre, ravnanje z zdravili, izdelava zdravil, precizna medicina (saj genetika in genomika na podlagi informacij v DNK iščeta mutacije in povezave z boleznimi), spremljanje zdravstvenega stanja in analiza zdravstvenega sistema;

AI.  ker dostopnost ne pomeni enakih storitev in naprav za vse; ker dostopnost umetne inteligence in robotike temelji na vključujočem načrtovanju in zasnovi; ker morajo biti izhodišče za zasnovo potrebe, želje in izkušnje uporabnikov;

AJ.  ker obstajajo večji etični, psihološki in pravni pomisleki glede avtonomnosti robotov, njihovega očitnega pomanjkanja človeške empatije in njihovega vpliva na odnos med zdravnikom in pacientom, ki na ravni EU še niso bili ustrezno obravnavani, predvsem v zvezi z varstvom osebnih podatkov pacientov, odgovornostjo ter novimi ekonomskimi in zaposlitvenimi odnosi, ki bodo nastali; ker se lahko prava avtonomija pripiše samo človeku; ker je treba zasnovati trden pravni in etični okvir za umetno inteligenco;

AK.  ker mora uvajanje umetne inteligence v zdravstvo vedno temeljiti na načelu odgovornosti, da stroj upravlja človek;

1.  Družba, ki jo podpirata umetna inteligenca in robotika

1.1.  Delo v dobi umetne inteligence in robotike

1.  poudarja, da bo avtomatizacija v kombinaciji z umetno inteligenco povečala produktivnost in tako tudi proizvodnjo; ugotavlja, da bodo tako kot v preteklih tehnoloških revolucijah nekatera delovna mesta nadomeščena, hkrati pa bodo nastala tudi nova, kar bo spremenilo življenje in načine dela; poudarja, da bi morala povečana uporaba robotike in umetne inteligence prav tako zmanjšati človekovo izpostavljenost škodljivim in nevarnim dejavnikom, pa tudi prispevati k ustvarjanju več kakovostnih in dostojnih delovnih mest ter povečanju produktivnosti;

2.  poziva države članice, naj se osredotočijo na preusposabljanje delavcev v industrijskih panogah, na katere avtomatizacija dela najbolj vpliva; poudarja, da bi se morali novi izobraževalni programi osredotočati na razvijanje znanj in spretnosti delavcev, da bodo ti lahko izkoristili priložnosti za zaposlitev na novih delovnih mestih, ki bodo nastala z umetno inteligenco; spodbuja razvoj programov za digitalno pismenost v šolah ter razvoj vajeništva in prednostnih področij poklicnega usposabljanja, da bi delavcem pomagali pri prilagajanju na tehnološke spremembe;

3.  priporoča, naj poleg akterjev iz zasebnega sektorja tudi države članice ugotovijo tveganja in razvijejo strategije, s katerimi bodo zagotovile razvoj ustreznih programov preusposabljanja in prekvalificiranja; poudarja, da morajo podjetja sama vlagati v usposabljanje in prekvalificiranje svojih delavcev, da bi zadovoljila njihove potrebe;

4.  poudarja, da bo razvoj robotike v EU močno vplival na odnose med delavci in delodajalci; meni, da bi bilo treba ta vpliv obravnavati na uravnotežen način, da bi spodbudili ponovno industrializacijo in delavcem omogočili tudi to, da izkoristijo večjo produktivnost;

5.  ugotavlja, da v sedanjem industrijskem okolju vlada občutljivo ravnovesje med lastniki in delavci; meni, da bi bilo treba pri uvajanju umetne inteligence v industrijo opraviti široko posvetovanje s socialnimi partnerji, saj je zaradi mogoče spremembe števila zaposlenih v industriji potrebna proaktivna politika, ki bo delavcem pomagala pri prilagajanju na nove zahteve in zagotovila široko izkoriščanje prednosti; ugotavlja, da je za to treba ponovno razmisliti o politikah trga, sistemih socialne varnosti in obdavčitvi ter jih preoblikovati;

6.  poziva države članice, naj odpravijo ovire za vstop na trg dela, kot so previsoke kvalifikacije;

7.  meni, da je digitalna pismenost eden najpomembnejših dejavnikov razvoja umetne inteligence v prihodnosti, ter Komisijo in države članice poziva, naj razvijejo in izvajajo strategije za usposabljanje in preusposabljanje na področju digitalnih kompetenc; ugotavlja, da lahko digitalna pismenost prispeva k širokemu in vključujočemu sodelovanju pri rešitvah podatkovnega gospodarstva ter olajša komunikacijo in sodelovanje z vsemi deležniki;

8.  ugotavlja, da je treba izobraževalne programe prilagoditi, med drugim z uvedbo novih učnih poti in uporabo novih tehnologij podajanja znanja, saj bodo te spremembe vplivale na državljane vseh starosti; poudarja, da bi bilo treba ustrezno obravnavati izobraževalne vidike; meni, da je treba predvsem potrebo po digitalnih kompetencah, vključno z računalniškim programiranjem, upoštevati na vseh ravneh izobraževanja in usposabljanja, ki obsegajo od šolanja v zgodnjih letih do vseživljenjskega učenja;

1.2.  Zlonamerna uporaba umetne inteligence in temeljne pravice

9.  poudarja, da bi lahko zlonamerna ali malomarna uporaba umetne inteligence ogrozila digitalno, fizično in javno varnost, saj bi jo lahko uporabili za obsežne, natančno usmerjene in zelo učinkovite napade na storitve informacijske družbe in povezane naprave, pa tudi za kampanje dezinformiranja in na splošno za omejevanje pravice posameznikov do samoodločanja; poudarja, da bi lahko zlonamerna ali malomarna uporaba umetne inteligence prinesla tveganje za demokracijo in temeljne pravice;

10.  poziva Komisijo, naj predlaga okvir, s katerim bi kaznovali manipulacije, ko posamezniku prilagojena vsebina ali spletni viri povzročijo negativne občutke in izkrivljeno dojemanje realnosti, kar ima lahko negativne posledice (na primer v zvezi z rezultati volitev ali izkrivljenim dojemanje družbenih pojavov, kot so migracije);

11.  poudarja pomen prepoznavanja, odkrivanja in spremljanja škodljivih dogodkov pri razvoju umetne inteligence in v zvezi z njo; spodbuja, naj se raziskave o umetni inteligenci osredotočijo tudi na odkrivanje nenamerno ali zlonamerno povzročanje okvar na področju umetne inteligence in robotike;

12.  poziva Komisijo, naj bo pozorna na družbene izzive, ki izhajajo iz razvrščanja državljanov; poudarja, da državljani na podlagi svoje razvrstitve ne bi smeli biti diskriminirani in bi morali imeti pravico do „še ene priložnosti“;

13.  izraža veliko zaskrbljenost zaradi uporabe aplikacij umetne inteligence, vključno s prepoznavanjem obraza in glasu, v programih za nadzorovanje čustev – tj. spremljanje duševnega stanja delavcev in državljanov s ciljem povečati produktivnost in ohraniti družbeno stabilnost –, včasih v kombinaciji s sistemi za točkovanje državljanov, kot je na primer že opaziti na Kitajskem; poudarja, da so ti programi sami po sebi v nasprotju z evropskimi vrednotami in normami, ki ščitijo pravice in svoboščine posameznikov;

2.  Tehnološka pot k umetni inteligenci in robotiki

2.1.  Raziskave in razvoj

14.  želi spomniti, da ima Evropa vodilno svetovno raziskovalno skupnost na področju umetne inteligence, ki predstavlja 32 % raziskovalnih institucij na področju umetne inteligence po vsem svetu;

15.  pozdravlja predlog Komisije o programu za digitalno Evropo in proračun v višini 2,5 milijarde EUR, namenjen umetni inteligenci, pa tudi povečan obseg sredstev v okviru programa Obzorje 2020; razume, kako pomembno je financiranje EU, ki dopolnjuje proračune držav članic in sredstva za industrijske raziskave, namenjene za področje umetne inteligence, zaveda pa se tudi, da je potrebno sodelovanje med javnimi in zasebnimi raziskovalnimi programi ter programi EU;

16.  podpira operativne cilje programa za digitalno Evropo, da se vzpostavijo in okrepijo osnovne zmogljivosti umetne inteligence v Uniji, da postanejo dostopne vsem podjetjem in javnim upravam ter da se okrepijo in povežejo obstoječi obrati za preizkušanje umetne inteligence in poskuse z njo v državah članicah;

17.  spodbuja države članice, naj oblikujejo partnerstva med več deležniki iz industrije in raziskovalnih inštitutov ter skupne centre odličnosti za umetno inteligenco;

18.  poudarja, da bi bilo treba pri raziskavah na področju umetne inteligence vlagati ne le v razvoj tehnologije in inovacij na podlagi umetne inteligence, temveč tudi v socialne in etične vidike ter vidike odgovornosti, povezane z umetno inteligenco; meni, da bi bilo treba pri vsakem uporabljenem modelu umetne inteligence etični vidik upoštevati že v zasnovi;

19.  poudarja, da sicer spodbuja k napredku v dobro družbe in okolja, a da bi bilo treba raziskave na področju umetne inteligence vseeno izvajati v skladu s previdnostnim načelom in temeljnimi pravicami; poudarja, da bi morali vsi, ki sodelujejo pri razvoju, uvajanju, razširjanju in uporabi umetne inteligence, upoštevati in spoštovati človekovo dostojanstvo, samoodločanje ter telesno in duševno dobrobit posameznika in širše družbe, predvideti bi morali morebitne posledice za varnost in sprejeti potrebne previdnostne ukrepe, sorazmerne z ravnjo zaščite, vključno s takojšnjim razkritjem dejavnikov, ki bi lahko ogrozili javnost ali okolje;

20.  poudarja, da je konkurenčno raziskovalno okolje ključno tudi za razvoj umetne inteligence; poudarja, da je pomembno podpirati odlične raziskave, vključno s temeljnimi znanstvenimi projekti in projekti z visokim tveganjem in velikimi potencialnimi koristmi, ter evropski raziskovalni prostor okrepiti s privlačnimi pogoji za financiranje, mobilnost in dostop do infrastrukture in tehnologije po vsej Uniji, pri čemer je treba izhajati iz načela odprtosti do tretjih držav in strokovnega znanja zunaj Unije, če to ne ogroža kibernetske varnosti EU;

21.  poudarja, da raziskovalci EU še vedno zaslužijo bistveno manj kot njihovi kolegi v ZDA in na Kitajskem, kar velja za glavni razlog za njihov odhod iz Evrope; poziva Komisijo in države članice, naj se osredotočijo na privabljanje vrhunskih talentov v evropska podjetja, in države članice, naj ustvarijo privlačne pogoje zanje;

22.  poudarja, da mora Evropa novo vodilno pobudo FET[7] nameniti umetni inteligenci, s posebnim poudarkom na pristopu, ki je osredotočen na človeka, in jezikovnih tehnologijah;

23.  meni, da umetna inteligenca, strojno učenje in skokovit napredek v zvezi z razpoložljivostjo podatkov in računalništvom v oblaku spodbujajo raziskovalne pobude za razumevanje biologije na molekularni in celični ravni, usmerjanje razvoja zdravljenj in analiziranje tokov podatkov za odkrivanje nevarnosti za zdravje, napovedovanje izbruhov bolezni in svetovanje pacientom; se zaveda, da se lahko tehnike podatkovnega rudarjenja in podatkovne navigacije uporabljajo za ugotavljanje vrzeli, tveganj, trendov in vzorcev;

24.  poudarja, da bi bilo treba v primerih, ko kot neizogiben in sestavni del raziskav umetne inteligence nastajajo tveganja, razviti in spoštovati trdne protokole za ocenjevanje in obvladovanje tveganj ter pri tem upoštevati, da tveganje ne sme biti večje kot v običajnem življenju (tj. da ljudje ne smejo biti izpostavljeni večjim tveganjem, kot so jim izpostavljeni v običajnem življenju);

2.2.  Naložbe

25.  ugotavlja, da so večje naložbe na tem področju velikega pomena, če želimo ostati konkurenčni; priznava, da sicer večina naložb in inovacij na tem področju prihaja iz zasebnih podjetij, vendar bi bilo treba države članice in Komisijo prav tako spodbuditi, naj še naprej vlagajo v raziskave v tem sektorju in določijo razvojna prednostna področja; pozdravlja predlog o programu InvestEU in druga javno-zasebna partnerstva, ki bodo spodbujala zasebno financiranje; meni, da bi bilo treba spodbujati usklajevanje naložb iz zasebnega in javnega sektorja, da bi bil razvoj usmerjen;

26.  poudarja, da bi bilo treba naložbe v umetno inteligenco, ki so lahko zelo negotove, dopolniti s sredstvi EU, na primer iz Evropske investicijske banke ali Evropskega investicijskega sklada, ali pa iz sklada InvestEU in Evropskega sklada za strateške naložbe, saj lahko ti načini financiranja pomagajo pri delitvi tveganja;

27.  poziva Komisijo, naj ne dovoli financiranja EU za namene uporabe umetne inteligence v zvezi z orožjem; poziva Komisijo, naj iz financiranja EU izključi podjetja, ki raziskujejo in razvijajo umetno zavest;

28.  Komisiji priporoča, naj zagotovi, da bo intelektualna lastnina, ki izhaja iz raziskav, izvedenih s sredstvi EU, ostala v EU in na evropskih univerzah;

2.3.  Inovacije, družbeno sprejemanje in odgovornost

29.  ugotavlja, da je za vsak večji tehnološki napredek potrebno prehodno obdobje, v katerem mora večina družbe pridobiti globlje razumevanje tehnologije in jo vključiti v svoje vsakdanje življenje;

30.  ugotavlja, da je prihodnost te tehnologije odvisna od družbenega sprejemanja ter da je treba več pozornosti nameniti ustreznemu seznanjanju ljudi s koristmi, ki jih prinaša, da bi zagotovili boljše razumevanje te tehnologije in načinov njene uporabe; meni tudi, da bodo prizadevanja za inovacije v sektorju umetne inteligence manjša, če družba ne bo seznanjena s to tehnologijo;

31.  meni, da je sprejemanje umetne inteligence v javnosti odvisno od tega, kako je ta seznanjena s priložnostmi, izzivi in razvojem na tem področju; državam članicam in Komisiji priporoča, naj olajšajo dostop do verodostojnih informacij o glavnih pomislekih glede umetne inteligence in robotike, kot so zasebnost, varnost in preglednost pri odločanju;

32.  pozdravlja uporabo regulativnih peskovnikov za uvajanje inovativnih novih idej v sodelovanju z regulatorji, saj to omogoča, da se v tehnologijo že na začetku vgradijo zaščitni ukrepi ter tako olajša in spodbudi njen vstop na trg; poudarja, da je treba uvesti regulativne peskovnike posebej za umetno inteligenco, ki bodo namenjeni preskušanju varne in učinkovite uporabe tehnologij umetne inteligence v realnem okolju;

33.  ugotavlja, da je treba za večje družbeno sprejemanje umetne inteligence zagotoviti varnost in zaščito uporabljenih sistemov;

34.  ugotavlja, da lahko umetna inteligenca in jezikovna tehnologija ponudita aplikacije, ki bodo pomembno prispevale k enotnosti Evrope v njeni raznolikosti: strojno prevajanje, konverzacijski agenti in osebni pomočniki, programski vmesniki za govorjeni jezik za robote in internet stvari, pametna analitika, avtomatizirano zaznavanje spletne propagande, lažnih novic in sovražnega govora;

2.4.  Podporni pogoji: povezljivost, dostopnost podatkov in visokozmogljivostno računalništvo ter infrastruktur v oblaku

35.  poudarja, da je za vključitev robotike in tehnologije umetne inteligence v gospodarstvo in družbo potrebna digitalna infrastruktura, ki bo zagotavljala vseprisotno povezljivost;

36.  poudarja, da je povezljivost pogoj za to, da Evropa postane gigabitna družba in da je umetna inteligenca jasen primer eksponentne rasti povpraševanja po visokokakovostni, hitri, varni in razširjeni povezljivosti; meni, da bi morale Unija in države članice še naprej podpirati ukrepe za spodbujanje naložb v zelo visokozmogljiva omrežja v EU in njihovo uporabo;

37.  poudarja, da je hiter, varen in zanesljiv razvoj tehnologij 5G bistven za zagotovitev, da lahko Unija v celoti izkoristi prednosti umetne inteligence in se zaščiti pred kibernetskimi grožnjami, tako da omogoči obnovo in razvoj industrije in storitev, ki so temelj evropskega gospodarstva, ter podpira nastajanje novih storitev, proizvodnje in trgov, kar je bistveno za ohranitev novih delovnih mest in visoke stopnje zaposlenosti;

38.  opozarja, da je za dejansko konkurenčnost v industriji umetne inteligence bistvena dostopnost zelo kakovostnih in ustreznih podatkov, in poziva javne organe, naj zagotovijo načine za pridobitev, deljenje in upravljanje podatkov, tako da poskrbijo, da so odprti podatki skupna dobrina ter zaščitijo zasebnost in občutljive podatke;

39.  poudarja pomen kakovosti podatkov, ki se uporabljajo za globoko učenje; ugotavlja, da lahko uporaba zastarelih, nepopolnih ali nepravilnih podatkov slabe kakovosti privede do slabih napovedi in posledično do diskriminacije in pristranskosti;

40.  meni, da nov sklop pravil, ki urejajo prosti pretok neosebnih podatkov v Uniji, omogoča, da se za inovacije, ki temeljijo na podatkih, zagotovi vedno več podatkov, kar malim in srednjim podjetjem ter zagonskim podjetjem olajša razvoj novih inovativnih storitev, ki podpirajo uporabo umetne inteligence, in vstop na nove trge, hkrati pa državljanom in podjetjem omogoči, da imajo koristi od boljših izdelkov in storitev;

41.  ugotavlja, da lahko umetna inteligenca poveča učinkovitost, udobje in blaginjo v številnih sektorjih, če uveljavljeni industrijski deležniki sodelujejo z razvijalci umetne inteligence; poleg tega ugotavlja, da je veliko podatkov, ki sami po sebi niso osebni, trenutno v lasti deležnikov, prek partnerstev pa bi jih lahko uporabili in povečali njihovo učinkovitost; meni, da je pogoj, da bi se to uresničilo, sodelovanje med uporabniki in razvijalci umetne inteligence;

42.  poudarja pomen interoperabilnosti in točnosti podatkov, da se zagotovi visoka raven zanesljivosti in varnostnih standardov v novih tehnologijah;

43.  meni, da je za uspeh aplikacij umetne inteligence, prilagojenih uporabnikom po vsej EU, pogosto potrebno zelo dobro poznavanje lokalnih trgov ter dostop do ustreznih lokalnih podatkov in njihova raba za usposabljanje naborov podatkov ter preizkušanje in potrjevanje sistema, zlasti v sektorjih, povezanih z obdelavo naravnega jezika; poziva države članice, naj spodbujajo razpoložljivost visokokakovostnih, interoperabilnih in odprtih podatkov javnega sektorja in zasebnih podatkov;

44.  poudarja, da je treba zagotoviti kar največjo skladnost s politiko EU o velepodatkih;

45.  pozdravlja ukrepe, ki bi olajšali in podprli čezmejno izmenjavo in skupno rabo podatkov;

46.  ugotavlja, da je trenutno izmenjava podatkov veliko manjša, kot bi lahko bila, in da so velike količine podatkov premalo izkoriščene;

47.  priznava, da ni pripravljenosti za izmenjavo podatkov, in poudarja, da so potrebni ukrepi za njeno spodbujanje; ugotavlja, da ima pomanjkanje skupnih standardov tudi pomembno vlogo pri sposobnosti izmenjave podatkov;

48.  pozdravlja predpise, kot je uredba o prostem pretoku podatkov, in pomen, ki ga ima na področjih, kot je umetna inteligenca, da bi omogočili učinkovitejše in uspešnejše procese;

49.  priznava, da je treba uvesti večje tržne spodbude, da bi spodbudili dostop do podatkov in njihovo izmenjavo; ugotavlja, da odprti podatki predstavljajo tveganje za vlaganje v podatke;

50.  poziva k večji jasnosti pravil o lastništvu podatkov in veljavnih pravnih okvirov; ugotavlja, da je regulativna negotovost privedla do preveč previdnega odziva industrije;

51.  poudarja pomen evropskih pobud za računalništvo v oblaku in visokozmogljivostno računalništvo, ki bodo dodatno okrepile razvoj algoritmov globokega učenja in obdelavo velepodatkov; je trdno prepričan, da mora biti za to, da bodo te pobude uspešne in pomembne za razvoj umetne inteligence, infrastruktura odprta tako za javne kot zasebne subjekte s sedežem v Uniji in drugje in da morajo zanjo veljati čim manj omejevalna merila za dostop;

52.  pozdravlja ustanovitev Evropskega skupnega podjetja za visokozmogljivo računalništvo; poudarja, da sta superračunalništvo in podatkovna infrastruktura bistvena za zagotovitev konkurenčnega inovacijskega ekosistema za razvoj tehnologij in aplikacij umetne inteligence;

53.  poudarja, da ima računalništvo v oblaku ključno vlogo pri spodbujanju umetne inteligence; poudarja, da dostop do storitev v oblaku omogoča zasebnim podjetjem, javnim ustanovam, raziskovalnim in akademskim ustanovam ter uporabnikom razvoj in uporabo umetne inteligence na učinkovit in ekonomsko vzdržen način;

3.  Industrijska politika

54.  opozarja, da se, medtem ko je uporaba umetne inteligence in robotike že dolgo uveljavljena v industriji, napredek na tem področju širi ter zagotavlja široko in raznoliko uporabo pri vseh človekovih dejavnostih; meni, da mora vsak regulativni okvir vključevati prožnost, ki omogoča inovacije ter prosti razvoj novih tehnologij in uporab za umetno inteligenco;

55.  poudarja, da bi morala biti opredelitev področja uporabe in aplikacij za umetno inteligenco rezultat procesa oblikovanja, ki ga vodijo potrebe in načela, ki upoštevajo načrtovani rezultat in najboljšo pot za njegovo doseganje z gospodarskega in socialnega vidika; meni, da bo obstoj jasnih političnih ciljev v vseh fazah razvoja privedel do izvajanja, ki bo ustrezalo namenu, ter obravnaval tveganja in slabosti;

56.  priporoča uporabo in spodbujanje javno-zasebnih partnerstev za iskanje rešitev za ključne izzive, kot sta izgradnja podatkovnega ekosistema ter spodbujanje dostopa, izmenjave in pretoka podatkov, obenem pa varovanje pravic ljudi do zasebnosti;

57.  poudarja, da so velik izziv za prihodnost sistemov umetne inteligence razlike v kakovosti tehnologije za proizvodnjo programske opreme, zato poudarja veliko potrebo po standardizaciji pri izgradnji in uporabi sistemov umetne inteligence;

58.  je seznanjen z delom, ki se izvaja na svetovni ravni, in priznava, da je treba proaktivno sodelovati s partnerji, zlasti v OECD in skupini G20, da bi smer, v katero se ta industrija razvija, oblikovali tako, da bo EU ostala konkurenčna in bo zagotovljen enakopraven dostop narodov ter delitev koristi, ki jih prinaša razvoj umetne inteligence;

59.  z zaskrbljenostjo ugotavlja, da številna neevropska podjetja in subjekti iz tretjih držav vse bolj uporabljajo modele za napovedovanje, ki temeljijo na umetni inteligenci, za zagotavljanje storitev in pridobivanje dodane vrednosti na trgih EU, zlasti na lokalni ravni, ter za spremljanje in morebitno vplivanje na politično razpoloženje, kar lahko ogrozi tehnološko suverenost državljanov EU;

60.  poudarja, da bi morala biti javna podpora za umetno inteligenco usmerjena v tiste strateške sektorje, v katerih ima industrija EU največje možnosti, da prevzame vodilno vlogo na svetovni ravni in ki nudi dodano vrednost v splošnem javnem interesu;

3.1.  Prednostni sektorji

3.1.1.  Javni sektor

61.  poudarja, da umetna inteligenca in robotika prinašata številne koristi za javni sektor, in pozdravlja večje naložbe v raziskave in razvoj za zagotovitev razcveta;

62.  poudarja, da bi morale države članice vlagati tudi v programe izobraževanja in usposabljanja na področju umetne inteligence, da bi zaposlenim v javnem sektorju pomagale pri uvedbi in uporabi umetne inteligence in robotike; ugotavlja, da so potrebne tudi informacijske kampanje, namenjene državljanom, ki bodo uporabljali storitve javnega sektorja, ki jih zagotavljajo sistemi umetne inteligence in robotika, da bi pomirili njihove strahove pred izgubo nadzora nad osebnimi podatki in da bi vzpostavili zaupanje;

63.  poudarja, da so informacije javnega sektorja izreden vir podatkov, ki lahko prispevajo k hitremu napredku in oblikujejo novo strategijo za uporabo novih digitalnih tehnologij, zlasti umetne inteligence;

64.  meni, da lahko uporaba zaupanja vredne umetne inteligence v javnem sektorju močno podpre reformo javne uprave pri odločanju in izboljšanje javnih storitev ter spodbuja večjo razširjenost uporabe umetne inteligence v drugih panogah;

65.  je seznanjen z uporabo robotske avtomatizacije procesov in njenim vplivom na izboljšanje procesov v javnem sektorju; ugotavlja, da je interoperabilna z obstoječimi sistemi;

66.  poziva države članice, naj vodijo to digitalno preobrazbo, tako da prevzamejo vlogo primarno odgovornih uporabnikov in kupcev tehnologije umetne inteligence; v zvezi s tem poudarja, da morajo države članice med drugim prilagoditi svoje politike glede podatkov, ki se nanašajo na zbiranje in uporabo javnih podatkov, njihovo hranjenje ali dopolnjevanje, da bi omogočile uporabo umetne inteligence na vseh področjih javnega sektorja;

67.  poudarja, da mora v procesu razvijanja umetne inteligence sodelovati tudi javnost; zato poziva Komisijo, naj vse javno financirane algoritme, orodja in tehnologijo objavi kot odprtokodne;

68.  meni, da bo umetna inteligenca zelo koristna pri izvajanju načela „samo enkrat“, kar bo omogočalo združevanje podatkovnih zbirk in informacij iz različnih virov ter tako olajšalo interakcijo državljanov z javno upravo;

69.  poziva Komisijo, naj zagotovi zaščito državljanov pred vsemi sistemi umetne inteligence v javni upravi za določanje prednostnih seznamov, podobnim tistim, ki naj bi se začeli uporabljati na Kitajskem;

3.1.2.  Zdravstvo

70.  poudarja, da je človeški stik ključni vidik nege ljudi;

71.  ugotavlja, da umetna inteligenca in robotika prinašata potencialne koristi za sektor nege in oskrbe, saj se pričakovana življenjska doba podaljšuje, na primer ker pomagata zdravnikom in medicinskim sestram, da imajo več časa za pomembnejše dejavnosti (npr. interakcijo z bolniki);

72.  opozarja na vpliv, ki ga umetna inteligenca že ima na dobro počutje, preventivo, diagnosticiranje in raziskave ter na njen veliki potencial za oblikovanje individualizirane oskrbe; meni, da bo to na koncu privedlo do bolj trajnostnega in učinkovitega zdravstvenega ekosistema, ki bo temeljil na rezultatih;

73.  ugotavlja, da je stopnja napake, kadar se skupaj s človeško diagnozo uporablja umetna inteligenca, bistveno nižja kot v primeru, ko diagnozo postavijo človeški zdravniki sami[8];

74.  poudarja, da je treba uporabo podatkov v zdravstvenem sektorju skrbno in etično spremljati ter da nikakor ne sme ovirati dostopa do socialnega varstva ali zavarovanja;

75.  meni, da bi moral imeti nosilec medicinskega vsadka, pri katerem se uporablja umetna inteligenca, pravico, da pregleda in spremeni izvorno kodo vsadka;

76.  posebno pozornost bi bilo treba nameniti uporabi velepodatkov v zdravstvu, pri čemer je treba skušati čim bolje izkoristiti priložnosti, ki jih lahko prinese, na primer izboljšanje zdravja posameznih bolnikov in uspešnosti sistemov držav članic za javno zdravstvo, ne da bi zniževali etične standarde ali ogrožali zasebnost ali varnost državljanov;

77.  poudarja tudi, da sedanji sistem za odobritev medicinskih pripomočkov morda ni primeren za tehnologije umetne inteligence; poziva Komisijo, naj skrbno spremlja napredek pri teh tehnologijah in naj po potrebi predlaga spremembe regulativnega okvira, da bi vzpostavili okvir za opredelitev, za kaj je odgovoren uporabnik (zdravnik/zdravstveni delavec), za kaj proizvajalec tehnološke rešitve in za kaj zdravstvena ustanova, ki izvaja zdravljenje; poudarja, da je v zdravstvenem sektorju v zvezi z uporabo umetne inteligence osrednji problem vprašanje, kdo je odgovoren za škodo; zato poudarja, da je treba zagotoviti, da uporabniki ne bi zgolj iz strahu pred tožbo kar nekritično podprli diagnostične rešitve ali zdravljenja, ki bi ga predlagal tehnološki instrument, če bi na podlagi svoje informirane strokovne presoje prišli vsaj do rahlo drugačnih ugotovitev;

78.  poziva države članice in Komisijo, naj v javnem in zasebnem sektorju povečajo financiranje tehnologij umetne inteligence, povezanih z zdravjem; v zvezi s tem pozdravlja izjavo o sodelovanju, ki jo je podpisalo 24 držav članic EU in Norveška, da bi se povečal učinek naložb v umetno inteligenco na evropski ravni; poziva države članice in Komisijo, naj proučijo, ali je treba programe usposabljanja medicinskega in zdravstvenega osebja posodobiti in poenotiti na vseevropski ravni, da bi se v državah članicah zagotovili visoka raven strokovnosti in enaki pogoji pri poznavanju in uporabi najsodobnejših tehnoloških instrumentov robotike na področju kirurgije, biomedicine in umetne inteligence za medicinsko slikanje.

79.  poziva Komisijo, naj si prizadeva za strategije in politike, s pomočjo katerih bo EU lahko zavzela vodilno vlogo v svetu na vse večjem področju medicinske tehnologije, pri tem pa zagotovila, da bodo imeli pacienti dostop do nemotene in učinkovite zdravstvene oskrbe;

80.  priznava, da bi boljša diagnostika lahko rešila več milijonov življenj, saj po podatkih Svetovne zdravstvene organizacije 89 % prezgodnjih smrti povzročijo nenalezljive bolezni;

81.  poudarja prispevek umetne inteligence in robotike k inovativnim preventivnim, kliničnim in rehabilitacijskim praksam in tehnologijam v zdravstvenem sektorju, s posebnim poudarkom na koristih, ki jih imajo za invalidne bolnike;

82.  priznava, da je večja uporaba senzorjev na področju robotike razširila področje varstva in oskrbe in bolnikom omogoča, da prejmejo bolj osebno oskrbo in storitve in so deležni nege na daljavo od doma, hkrati pa se tako pridobi več ustreznih podatkov;

83.  priznava, da so po raziskavi Eurobarometra iz maja 2017[9] državljani EU še vedno počutijo nelagodno ob zamisli, da bi robote uporabljali v vsakodnevnem zdravstvenem varstvu; poziva Komisijo in države članice, naj razvijejo strategije in komunikacijske kampanje za ozaveščanje o prednostih vsakodnevne uporabe robotov; zlasti opozarja na ambicije japonske robotske strategije;

3.1.3.  Energija

84.  ugotavlja, da umetna inteligenca dobaviteljem energije omogoča, da preidejo od preventivnega k napovednemu vzdrževanju zmogljivosti in dosežejo učinkovitejšo proizvodnjo energije z izboljšanjem zanesljivosti, zlasti za obnovljive vire energije, ter z ugotavljanjem najučinkovitejših lokacij za nove obrate, s čimer se zagotovi boljše upravljanje povpraševanja;

85.  priznava, da bodo bolj natančni podatki za potencial proizvodnje energije iz obnovljivih virov, pridobljeni s pomočjo umetne inteligence, zagotovili večjo naložbeno varnost za podjetja in posameznike, kar bo pospešilo energetski prehod na obnovljive vire energije in prispevalo k dolgoročni strategiji Unije za podnebno nevtralno gospodarstvo;

86.  ugotavlja, da se rešitve, ki vključujejo senzorje, že uporabljajo za upravljanje porabe energije v hišah in so tako omogočili precejšnje prihranke energije in denarja;

87.  pozdravlja potencial umetne inteligence pri modeliranju, prepoznavanju in zmanjševanju vpliva človekovega delovanja na podnebje; ugotavlja, da čeprav večja digitalizacija prinaša tudi nove energetske potrebe, lahko poveča učinkovitost energetsko intenzivnih sektorjev in zagotovi boljše razumevanje procesov, s tem pa izboljša njihovo učinkovitost;

88.  poudarja, da z večjo digitalizacijo energetskega sektorja energetska omrežja postajajo vse večja in bolj izpostavljena kibernetskim grožnjam; poziva države članice in Komisijo, naj digitalno preobrazbo v energetskih sektorjih spremljajo z ukrepi, kot so umetna inteligenca, ki izboljšujejo kibernetsko varnost;

3.1.4.  Promet

89.  pozdravlja, da lahko umetna inteligenca in robotika močno izboljšata naše prometne sisteme z uvedbo avtonomnih vlakov in motornih vozil; poziva k številčnejšim raziskavam in naložbam v to področje, da se zagotovi njegov varen in učinkovit razvoj; poudarja izjemne priložnosti za večja tehnološka podjetja ter mala in srednja podjetja;

90.  ugotavlja, da lahko z zmanjševanjem stopnje človeške napake v prometnem sektorju sistem postane učinkovitejši – z manj nesrečami zaradi jasnejših ocen in zmožnosti predvidevanja, ki jo ima tehnologija, manj zamudami, ker lahko sistem evidentira prometne vzorce in storitve opravlja po voznem redu, in večjimi prihranki, ker je manj napak v zvezi z vozniki, in zaradi poenostavljenih notranjih postopkov;

91.  ugotavlja, da bodo zaradi razširjenosti avtonomnih vozil v prihodnosti nastala tveganja za varstvo podatkov in zaradi tehničnih napak, odgovornost pa se bo prenesla z voznika na proizvajalca, zaradi česar bodo morale zavarovalnice spremeniti način vključevanja tveganja v zavarovanje;

92.  ugotavlja, da se govorna komunikacija vse bolj uporablja v interakciji z vozili in prometnimi sistemi, vendar so ti elementi na voljo le za peščico evropskih jezikov, zato je treba vsem Evropejcem zagotoviti, da jih bodo lahko uporabljali v svojem maternem jeziku;

3.1.5.  Kmetijstvo in prehranska veriga

93.  ugotavlja, da lahko umetna inteligenca spodbudi korenito preoblikovanje sedanjega prehranskega sistema v bolj raznolik, odporen, regionalno prilagojen in zdrav model za prihodnost;

94.  opozarja na vlogo, ki jo lahko ima umetna inteligenca pri reševanju vprašanja prehranske varnosti, napovedovanju lakote in izbruhov bolezni, ki se prenašajo z živili, zmanjšanju izgub hrane in živilskih odpadkov ter izboljšanju trajnostnega upravljanja zemljišč, vode in drugih okoljskih virov, ki so bistvenega pomena za zdravje ekosistema;

95.  poudarja, da lahko umetna inteligenca posreduje na kritičnih točkah vrednostne verige v prehranskem sistemu od proizvodnje do potrošnje in okrepi našo zmožnost, da z boljšim obveščanjem o praksah prostorskega načrtovanja bistveno spremenimo način proizvodnje, predelave in nakupa hrane;

96.  ugotavlja, da lahko umetna inteligenca izboljša upravljanje virov in učinkovito uporabo proizvodnih sredstev, pomaga zmanjšati nastanek odpadkov po spravilu in vpliva na izbiro potrošnikov;

97.  ugotavlja, da lahko umetna inteligenca v obliki preciznega kmetovanja omogoči temeljito preoblikovanje kmetijske proizvodnje, pa tudi širše upravljanje zemljišč, in sicer z boljšim načrtovanjem rabe zemljišč, napovedovanjem sprememb njihove rabe in spremljanjem zdravja posevkov, obenem pa ima tudi potencial, da spremeni napovedovanje skrajnih vremenskih pojavov;

98.  ugotavlja, da lahko umetna inteligenca korenito spremeni oskrbo s surovinami, zatiranje škodljivcev in upravljanje kmetij, vpliva na načine kmetovanja, spremeni način zagotavljanja zavarovalnih produktov in pomaga napovedati in preprečiti lakote in hude izbruhe akutne podhranjenosti;

99.  ugotavlja, da je s pomočjo umetne inteligence mogoče izboljšati odločanje pri upravljanju kmetijskih sistemov in spodbuditi razvoj sistemov za podporo pri odločanju in sistemov priporočanja ter hkrati izboljšati učinkovitost in zdravje kmetijskih obratov;

3.1.6.  Kibernetska varnost

100.  ugotavlja, da je kibernetska varnost pomemben vidik umetne inteligence, zlasti glede na izzive za preglednost pri umetni inteligenci na visoki ravni; meni, da bi bilo treba tehnološki vidik, vključno z revizijo izvorne kode, ter zahteve po preglednosti in odgovornosti dopolniti z institucionalnim pristopom, ki obravnava izzive pri uvajanju umetne inteligence, razvite v drugih državah, na enotni trg EU;

101.  zagovarja hitro izvajanje uredbe o kibernetski varnosti; ugotavlja, da bi razvoj sistemov potrjevanja EU moral zagotoviti odpornejši razvoj in uvedbo varnih sistemov umetne inteligence in robotskih sistemov;

102.  meni, da je umetna inteligenca lahko hkrati kibernetska grožnja in orodje za boj proti kibernetskim napadom; meni, da bi morala Agencija EU za varnost omrežij in informacij (ENISA) pripraviti akcijski načrt o kibernetski varnosti na področju umetne inteligence, v katerem bi morala oceniti in obravnavati grožnje in slabosti, značilne za umetno inteligenco;

103.  poudarja pomen krepitve industrijske baze kot strateškega elementa za varen razvoj umetne inteligence; poudarja, da mora Evropa za zagotovitev ambiciozne ravni kibernetske varnosti, varstva podatkov in zanesljivih storitev IKT vlagati v svojo tehnološko neodvisnost; poudarja, da mora EU nujno razviti lastno infrastrukturo, podatkovne centre, sisteme in komponente v oblaku, kot so grafični procesorji in čipi;

104.  ugotavlja, da bodo zaradi razvoja umetne inteligence in vse bolj izpopolnjenih metod hekerjev nujno potrebne učinkovite rešitve za kibernetsko varnost;

105.  priznava, da bo uvajanje rešitev umetne inteligence na področju kibernetski varnosti omogočilo napovedovanje, preprečevanje in blaženje groženj;

106.  poudarja, da bo umetna inteligenca lahko zagotovila boljše odkrivanje groženj, vendar je treba nujno zagotoviti, da te grožnje oceni človek, da se ugotovi, ali so pristne ali ne;

107.  poziva Komisijo, naj preuči uporabo aplikacij kibernetske varnosti na podlagi blokovne verige, ki izboljšujejo odpornost, zaupanje in trdnost infrastruktur umetne inteligence s posrednimi modeli šifriranja podatkov; poziva Komisijo, naj preuči možnost, da državljane za njihove podatke nagradi z boni;

108.  poziva Komisijo, naj okrepi zmogljivosti EU za kibernetsko varnost z nadaljnjim združevanjem in usklajevanjem prizadevanj v Evropi;

3.1.7.  Mala in srednja podjetja

109.  priznava pomen MSP za uspeh umetne inteligence; pozdravlja pobudo Komisije za vzpostavitev platforme umetne inteligence na zahtevo, ki bo spodbujala prenos tehnologije in rast zagonskih podjetij ter malih in srednjih podjetij; poziva Komisijo, naj spodbuja vozlišča za digitalne inovacije, ki ne vodijo k oblikovanju dodatnih upravnih ravni, temveč se bodo osredotočila na pospeševanje naložb v projekte, ki so se izkazali za učinkovite;

110.  ugotavlja, da stroški naložb v umetno inteligenco ustvarjajo velike ovire za vstop malih in srednjih podjetij; priznava, da če bi bila umetna inteligenca široko sprejeta pri potrošnikih, bi se zmanjšalo tveganje teh naložb za mala in srednja podjetja;

111.  poudarja, da je treba spodbujati uporabo umetne inteligence pri malih in srednjih podjetij ter pri potrošnikih;

112.  poudarja pomen ciljnih ukrepov za zagotovitev, da lahko mala in srednja podjetja ter zagonska podjetja sprejmejo tehnologije umetne inteligence in imajo koristi od njih; meni, da bi morala biti ocena učinka nove zakonodaje EU na tehnološki razvoj umetne inteligence obvezna in da je treba razmisliti o izvedbi takih ocen učinka tudi na nacionalni ravni;

113.  poudarja, da je lahko umetna inteligenca gonilo za mala in srednja podjetja, hkrati pa povečuje učinek velikih prvih uporabnikov in razvijalcev; zato s stališča konkurence poudarja, da je treba zagotoviti ustrezno oceniti in obravnavati nova izkrivljanja;

4.  Pravni okvir za umetno inteligenco in robotiko

114.  poziva Komisijo, naj z namenom spodbujanja zakonodajnega okolja, ki je ugodno za razvoj umetne inteligence in skladno z načelom boljše pravne ureditve, redno ocenjuje veljavno zakonodajo, da bi zagotovila njeno ustreznost glede umetne inteligence, pri čemer je treba upoštevati temeljne vrednote EU, in naj poskuša spremeniti ali nadomestiti nove predloge, če se ugotovi nasprotno;

115.  pozdravlja vzpostavitev participativnih platform na podlagi umetne inteligence, ki državljanom omogočajo, da se njihov glas sliši in da se lahko obrnejo na vlade s svojimi predlogi, tudi prek participativnih proračunov in drugih instrumentov neposredne demokracije; poudarja, da lahko projekti od spodaj navzgor spodbujajo udeležbo državljanov in pomagajo ljudem pri sprejemanju informiranih odločitev na učinkovitejši in bolj demokratičen način;

116.  Ugotavlja, da pojem umetne inteligence obsega širok spekter proizvodov in načinov uporabe, od avtomatizacije, algoritmov in ozke umetne inteligence do splošne umetne inteligence; meni, da je treba k celovitemu zakonu ali uredbi o umetni inteligenci pristopiti previdno, saj lahko sektorska ureditev zagotovi dovolj splošne politike, ki so hkrati dovolj dodelane, da so smiselne za industrijski sektor;

117.  poudarja, da mora biti politični okvir zasnovan tako, da spodbuja razvoj vseh vrst umetne inteligence in ne le sistemov globokega učenja, za kar je potrebna ogromna količina podatkov;

4.1.  Notranji trg za umetno inteligenco

118.  poudarja pomen načela vzajemnega priznavanja pri čezmejni uporabi pametnega blaga, vključno z roboti in robotskimi sistemi; opozarja, da bi lahko po potrebi s preskušanjem, certificiranjem in varnostjo proizvodov zagotovili, da je nekatero blago varno po zasnovi in privzeto varno; v zvezi s tem ugotavlja, da je pomembno tudi delo v zvezi z etičnimi vidiki umetne inteligence;

119.  poudarja, da bi morala zakonodaja EU o izvajanju strategije za enotni digitalni trg odpraviti ovire za uporabo umetne inteligence; poziva Komisijo, naj oceni, kjer je treba posodobiti politike in regulativne okvire, da bi vzpostavili enotni evropski trg za umetno inteligenco;

120.  je seznanjen, da se tehnologija na področju robotike in umetne inteligence čedalje bolj uporablja na področju avtonomnih vozil, kot so avtonomni avtomobili in brezpilotni zrakoplovi za civilne namene; ugotavlja, da nekatere države članice že izvajajo ali obravnavajo zakonodajo na tem področju, kar bi lahko privedlo do različnih nacionalnih zakonov, kar bi oviralo razvoj avtonomnih vozil; zato poziva k enotnemu naboru predpisov EU, s katerimi bomo poiskali pravo ravnovesje med interesi uporabnikov, podjetij in drugih zainteresiranih strani ter morebitnimi tveganji zanje, obenem pa se izognili pretiranemu urejanju na področju robotike in sistemov umetne inteligence;

121.  poziva države članice, naj posodobijo svoje sisteme poklicnega usposabljanja in izobraževanja, da bi se upoštevala znanstveni napredek in razvoj na področju umetne inteligence v skladu z direktivo o preizkusu sorazmernosti[10] in direktivo o poklicnih kvalifikacijah[11], ter da bi bile lahko strokovne službe EU v prihodnjih desetletjih konkurenčne na svetovni ravni;

122.  poudarja, da se umetna inteligenca uporablja za različne sektorje, v katerih je standardizacija zelo pomembna, kot so pametna proizvodnja, robotika, avtonomna vozila, navidezna resničnost, zdravstvo in analiza podatkov, ter meni, da bo standardizacija na ravni EU na področju umetne inteligence spodbudila inovacije in visoko raven varstva potrošnikov; priznava, da sicer obstaja veliko standardov o vprašanjih, kot so varnost, zanesljivost in interoperabilnost, vendar sta kljub temu potrebna nadaljnja promocija in razvoj skupnih standardov za robotiko in umetno inteligenco, kar bi moralo biti del prednostnih nalog Unije; poziva Komisijo, naj v sodelovanju z organi za standardizacijo EU še naprej dejavno sodeluje z mednarodnimi organi za standardizacijo, da bi se izboljšali standardi na tem področju;

123.  opozarja, da so številni vidiki politike, pomembni za storitve, ki podpirajo uporabo umetne inteligence, vključno s pravili o varstvu potrošnikov ter politiko o etiki in odgovornosti, vključeni v obstoječi regulativni okvir za storitve, in sicer direktivo o storitvah[12], direktivo o poklicnih kvalifikacijah in direktivo o e-trgovanju[13]; v zvezi s tem poudarja, da morajo končno odločitev vedno sprejeti ljudje, zlasti v strokovnih poklicih na področjih, kot so zdravstvo, pravo in računovodstvo; meni, da je potreben premislek o tem, ali je nadzor, ki ga izvaja usposobljen strokovnjak, potreben, da bi zaščitili legitimne cilje v javnem interesu in zagotovili kakovostne storitve;

124.  priznava pomen izboljšanih digitalnih storitev, kot so virtualni pomočniki, klepetalnice ali virtualni agenti, ki omogočajo izjemno operativno učinkovitost, pri čemer je ustrezno priznava, da je treba razviti tržno umetno inteligenco, usmerjeno v ljudi, da bi zagotovili boljše in zanesljivejše odločitve ob upoštevanju omejitev avtonomije umetne inteligence in robotike;

4.2.  Osebni podatki in zasebnost

125.  poudarja, da je treba v zvezi s podatki, ki se uporabljajo za komunikacijo med ljudmi, roboti in umetno inteligenco, zagotoviti visoko raven varnosti, zaščite in zasebnosti; poziva Komisijo in države članice, naj zato v svoje politike v zvezi z robotiko in umetno inteligenco vključijo načela vgrajene varnosti in zasebnosti;

126.  znova opozarja, da se pravica do varstva zasebnega življenja in varstva osebnih podatkov, kot je zapisana v členih 7 in 8 Listine o temeljnih pravicah ter členu 16 Pogodbe o delovanju Evropske unije, uporablja za vsa področja robotike in umetne inteligence in da je treba v celoti upoštevati okvir Unije za varstvo podatkov; poudarja, da imajo načrtovalci na področju robotskih sistemov in umetne inteligence odgovornost, da razvijajo varne, zaščitene in namenu prilagojene izdelke in da sledijo postopkom obdelave podatkov, ki so skladni z veljavno zakonodajo, zaupnostjo, anonimnostjo, pravično obravnavo in dolžnim pravnim postopanjem;

127.  poziva Komisijo, naj zagotovi, da bo vsa zakonodaja Unije o umetni inteligenci vključevala ukrepe in pravila, ki upoštevajo hiter tehnološki razvoj na tem področju, s čimer bi zagotovili, da zakonodaja Unije ne bo zaostajala za krivuljo tehnološkega razvoja in uporabe; poudarja, da mora biti ta zakonodaja skladna s pravili o zasebnosti in varstvu podatkov; poziva k pregledu predpisov, načel in meril za uporabo kamer in senzorjev v robotih in v zvezi z umetno inteligenco v skladu s pranim okvirom Unije za varstvo podatkov;

128.  poziva Komisijo, naj poskrbi, da bodo vsi prihodnji okviri EU na področju umetne inteligence zagotavljali zasebnost, zaupnost komunikacij in varstvo osebnih podatkov, vključno z načeli zakonitosti, poštenosti in preglednosti, vgrajenega in privzetega varstva podatkov, omejitve namena in shranjevanja ter točnosti in zmanjšanja količine podatkov, in sicer popolnoma v skladu z zakonodajo Unije o varstvu podatkov, ter da bodo hkrati jamčili zaščito, osebno varnost in druge temeljne pravice, kot so pravica do svobode izražanja in obveščanja;

129.  poudarja, da je vedno treba spoštovati pravico do zasebnosti in da posameznikov ne bi smelo biti mogoče osebno identificirati; poudarja, da bi moral imeti razvijalec umetne inteligence vedno jasno, nedvoumno in informirano privolitev ter da imajo ti razvijalci odgovornost, da razvijejo in spoštujejo postopke za veljavno privolitev, zaupnost, anonimnost, pošteno obravnavo in dolžno pravno postopanje; poudarja, da morajo razvijalci izpolniti vsako zahtevo po uničenju kakršnih koli povezanih podatkov in njihovi odstranitvi iz podatkovnega niza;

130.  opozarja, da Uredba (EU) 2018/1807[14] o prostem pretoku neosebnih podatkov določa, da bi se morali, če bo tehnološki razvoj omogočil pretvorbo anonimiziranih podatkov v osebne, takšni podatki obravnavati kot osebni podatki, ob ustrezni uporabi Uredbe (EU) 2016/679;

4.3.  Odgovornost

131.  pozdravlja pobudo Komisije za ustanovitev strokovne skupine za odgovornost in nove tehnologije, ki naj bi EU zagotavljala strokovno znanje o uporabi direktive o odgovornosti za proizvode[15] pri tradicionalnih proizvodih, novih tehnologijah in novih družbenih izzivih (oblikovanje direktive o odgovornosti za proizvode) ter ji pomagala pri razvoju načel, ki bi lahko služila kot smernice za morebitne prilagoditve obstoječih zakonov na ravni EU in nacionalni ravni v zvezi z novimi tehnologijami (oblikovanje novih tehnologij);

132.  obžaluje pa, da v tem zakonodajnem obdobju ni bil predložen noben zakonodajni predlog, zaradi česar je prišlo do zamude pri posodobitvi pravil o odgovornosti na ravni EU, ogrožena pa je tudi pravna varnost EU na tem področju za trgovce in potrošnike;

133.  ugotavlja, da bi morali inženirji umetne inteligence ali podjetja, ki jih zaposlujejo, odgovorni za posledice, ki bi jih lahko imeli sistemi umetne inteligence ali robotika na družbo, okolje in zdravje ljudi sedanje in prihodnjih generacij;

4.4.  Varstvo potrošnikov in opolnomočenje

134.  poudarja, da je zaupanje potrošnikov bistvenega pomena za razvoj umetne inteligence in da sistemi, ki temeljijo na umetni inteligenci, obdelujejo vse več potrošniških podatkov, zaradi česar so glavni cilj kibernetskih napadov; poudarja tudi, da mora umetna inteligenca delovati tako, da ne škodi državljanom in potrošnikom, ter meni, da je zato treba zagotoviti celovitost podatkov in algoritmov, na katerih temelji;

135.  meni, da bi morali za tehnologije umetne inteligence, razvite tako za proizvodnjo kot za individualno uporabo, organi za nadzor trga izvesti pregled varnosti izdelka ter da bi morala zanje veljati pravila o varstvu potrošnikov, saj bi tako po potrebi zagotovili minimalne varnostne standarde in upoštevali tveganje nesreč zaradi stika s človekom ali delovanja v bližini človeka; meni, da bi bilo treba vprašanja etičnosti in varstva podatkov, vključno s podatki tretjih oseb in osebnih podatkov, civilne odgovornost in kibernetske varnosti obravnavati na vseh področjih politike o umetni inteligenci;

4.5.  Pravice intelektualne lastnine

136.  želi spomniti na zgoraj omenjeno resolucijo z dne 16. februarja 2017, v kateri ugotavlja, da ni zakonskih določb, ki bi se posebej uporabljale za robotiko, temveč da se za to področje lahko uporabljajo obstoječe pravne ureditve in doktrine, čeprav se zdi, da je treba nekatere vidike posebej obravnavati; znova poziva Komisijo, naj podpira horizontalen in tehnološko nevtralen pristop do intelektualne lastnine v različnih sektorjih, v katerih bi se lahko uporabljala robotika;

137.  v zvezi s tem pozdravlja sporočilo Komisije institucijam o smernicah o nekaterih vidikih Direktive 2004/48/ES Evropskega parlamenta in Sveta o uveljavljanju pravic intelektualne lastnine (COM(2017)0708), vendar poudarja, da je treba spremljati ustreznost in učinkovitost pravil o pravicah intelektualne lastnine za urejanje razvoja umetne inteligence; v zvezi s tem poudarja pomen preverjanja ustreznosti;

5.  Etični vidiki

138.  meni, da bi morali ukrepi in aplikacije umetne inteligence upoštevati etična načela in ustrezno nacionalno in mednarodno pravo ter pravo Unije;

139.  poziva k oblikovanju listine najboljše prakse na področju etike za umetno inteligenco in robotiko, ki bi jo morali upoštevati podjetja in strokovnjaki;

140.  poziva Komisijo in države članice, naj spodbujajo tesno in pregledno sodelovanje med javnostjo, zasebnim sektorjem in akademskim svetom, s katerim bi okrepili širjenje znanja ter izobraževanje in usposabljanje načrtovalcev o etičnih posledicah, varnosti in spoštovanju temeljnih pravic, pa tudi potrošnikov o uporabi robotike in umetne inteligence, s posebnim poudarkom na varnosti in zasebnosti podatkov;

141.  poziva Komisijo, naj zagotovi, da aplikacije na podlagi umetne inteligence ne bodo uporabljale podatkov, zbranih iz različnih virov, ne da bi predhodno pridobile privolitev posameznika, na katerega se nanašajo osebni podatki; poziva Komisijo, naj oblikuje okvir, ki bo zagotovil, da bo privolitev posameznika, na katerega se nanašajo osebni podatki, ustvarila podatke samo za predvidene namene;

142.  poziva Komisijo, naj spoštuje pravico državljanov do življenja zunaj spleta in zagotovi, da državljani ne bodo diskriminirani glede na to, o kom so bili podatki zabeleženi;

5.1.  Tehnologija, usmerjena v ljudi

143.  poudarja, da morajo biti vzpostavljena etična pravila, da bi zagotovili razvoj umetne inteligence, usmerjene v ljudi, odgovornost in preglednost sistemov algoritemskega odločanja, jasna pravila o odgovornosti in poštenost;

144.  pozdravlja pobudo Komisije za ustanovitev strokovne skupine na visoki ravni za umetno inteligenco in vzpostavitev zavezništva EU za umetno inteligenco, da bi zagotovili etične smernice za umetno inteligenco; poziva Komisijo, naj zagotovi čim večjo uporabo teh etičnih smernic v industriji, akademskih krogih in v javnih organih; priporoča, naj države članice smernice vključijo v svoje nacionalne strategije za umetno inteligenco in naj vzporedno z izdelavo in uvajanjem umetne inteligence razvijejo dejanske strukture odgovornosti za industrijo in vlade;

145.  meni, da je stalno spremljanje izvajanja etičnih smernic za umetno inteligenco in njihovega učinka na razvoj umetne inteligence, usmerjene v človeka, bistvenega pomena; poziva Komisijo, naj preuči, ali prostovoljne etične smernice zadostujejo za zagotovitev, da vključujoča, etično povezana uveljavitev umetne inteligence ne ustvarja gospodarskih in socialnih razlik v družbah EU, ter po potrebi predlaga regulativne in politične ukrepe;

146.  je seznanjen z nedavnim razvojem pri spremljanju vedenjske analize in prilagajanju nanjo; poziva Komisijo, naj razvije etični okvir, ki bo omejil njeno uporabo; poziva Komisijo, naj poskrbi za ozaveščenost in začne informacijsko kampanjo o umetni inteligenci ter njeni uporabi v zvezi z vedenjsko analizo;

5.2.  Vrednote, vgrajene v tehnologiji – etična zasnova

147.  poudarja, da bi moral etični okvir za usmerjanje temeljiti na načelih dobronamernosti, neškodovanja, avtonomnosti in pravičnosti ter na načelih in vrednotah iz člena 2 Pogodbe o delovanju Evropske unije in Listine EU o temeljnih pravicah, kot so človekovo dostojanstvo, enakost, sodno varstvo in pravičnost, nediskriminacija, informirana privolitev, zasebno in družinsko življenje ter varstvo podatkov, pa tudi drugih temeljnih načelih in vrednotah iz prava Unije, kot so nestigmatizacija, preglednost, samostojnost, osebna in družbena odgovornost, ter na zdajšnjih etičnih praksah in veljavnih kodeksih;

148.  meni, da bi morala Evropa prevzeti vodilno vlogo v svetu z uporabo samo etično vključene umetne inteligence; poudarja, da je treba za dosego tega zagotoviti upravljanje etike na področju umetne inteligence na različnih ravneh; priporoča, naj države članice ustanovijo organe za spremljanje in nadzor etične umetne inteligence ter spodbuja podjetja, ki razvijajo umetno inteligenco, naj ustanovijo odbore za etiko in pripravijo etične smernice za njihove razvijalce umetne inteligence;

149.  poudarja, da morajo evropski standardi za umetno inteligenco temeljiti na načelih digitalne etike, človekovega dostojanstva, spoštovanja temeljnih pravic ter varstva in zaščite podatkov, da bi prispevali h krepitvi zaupanja med uporabniki; poudarja, da je pomembno izkoristiti možnosti EU za vzpostavitev močne infrastrukture za sisteme umetne inteligence, ki bodo temeljili na visokih standardih podatkov in spoštovanju ljudi; ugotavlja, da je treba v razvoj umetne inteligence vključiti preglednost in razložljivost;

150.  ugotavlja, da bi bilo treba pri avtomatiziranem orožju še naprej uporabljati pristop, da mora biti pri umetni inteligenci nadzor v rokah človeka;

5.3.  Odločanje – meje samostojnosti umetne inteligence in robotike

151.  poudarja težavnost in kompleksnost napovedovanja prihodnjega vedenja številnih kompleksnih sistemov umetne inteligence in novega vedenja pri medsebojni interakciji sistemov umetne inteligence; poziva Komisijo, naj oceni, ali so potrebne posebne ureditve za sprejemanje odločitev, ki uporablja umetno inteligenco;

152.  ugotavlja, da bo umetna inteligenca ostala uporabno orodje za sodelovanje pri ljudeh, da bi izboljšali njeno učinkovitost in zmanjšali število napak;

153.  poziva, naj imajo ljudje pravico do obveščenosti, pritožbe in pravnega sredstva, kadar se umetna inteligenca uporablja za odločitve, ki vplivajo na posameznike in ki pomenijo znatno tveganje za posameznikove pravice ali svobodo ali mu lahko škodujejo;

154.  poudarja, da algoritmov v sistemih odločanja ne bi smeli uporabljati brez predhodne ocene algoritemskega vpliva, razen kadar je jasno, da nimajo pomembnega vpliva na življenje posameznikov;

155.  meni, da bi morali za umetno inteligenco, zlasti za sisteme z vgrajeno avtonomijo, vključno z zmožnostjo neodvisnega pridobivanja, zbiranja in izmenjave občutljivih informacij za različnimi deležniki, ter možnostjo samostojnega učenja ali celo razvoja k samospreminjanju, veljati trdna načela; poudarja, da sistemi umetne inteligence ne smejo hraniti ali razkrivati zaupnih osebnih podatkov brez izrecne odobritve vira teh informacij;

5.4.  Preglednost, pristranskost in obrazložljivost algoritmov

156.  izpostavlja, da ima umetna inteligenca sicer velike koristi za avtomatizacijo in odločanje, vendar prinaša tudi tveganje, kadar so algoritmi statični in nepregledni; v zvezi s tem poudarja, da je potrebna večja preglednost algoritmov;

157.  poziva Komisijo, države članice in organe za varstvo podatkov, naj odkrivajo diskriminacijo in pristranskost v algoritmih in si ju po najboljših močeh prizadevajo zmanjšati ter naj zasnujejo trden skupni etični okvir za pregledno obdelavo osebnih podatkov in avtomatizirano odločanje, ki bo usmerjal uporabo podatkov in izvrševanje zakonodaje Unije;

158.  poudarja, da je treba vse sisteme umetne inteligence razviti ob spoštovanju načel preglednosti in algoritemske odgovornosti, kar bo omogočalo, da bo lahko človek razumel njena dejanja in poteze; želi opozoriti, da morajo uporabniki za izgradnjo zaupanja in dejanski napredek umetne inteligence vedeti, kako se uporabljajo njihovi podatki in iz njih izpeljani podatki, ko komunicirajo ali imajo stik s sistemom umetne inteligence ali s človekom, ki se opira na sistem umetne inteligence; meni, da bo to prispevalo k boljšemu razumevanju in zaupanju uporabnikov; poudarja, da se mora v skladu s členi 13, 14 in 15 splošne uredbe o varstvu podatkov[16] kot standard EU uporabljati načelo razumljivosti odločitev; želi spomniti, da splošna uredba o varstvu podatkov že določa pravico do obveščenosti o razlogih za obdelavo podatkov; poudarja, da imajo posamezniki v skladu z njenim členom 22 pravico do človeškega posredovanja, kadar jih znatno zadeva odločitev, ki temelji zgolj na avtomatizirani obdelavi podatkov;

159.  poudarja, da bi morali imeti Komisija, Evropski odbor za varstvo podatkov, nacionalni organi za varstvo podatkov in drugi neodvisni nadzorni organi v prihodnosti ključno vlogo pri spodbujanju preglednosti in dolžnega pravnega postopanja, pravne varnosti na splošno in, gledano ožje, tudi konkretnih standardov, ki bodo ščitili temeljne pravice in jamstva, povezana z uporabo obdelave podatkov in podatkovne analitike; poziva k tesnejšemu sodelovanju med organi, pristojnimi za nadzor in urejanje ravnanja v digitalnem okolju; poziva, naj se tem organom zagotovi ustrezno financiranje in dovolj osebja;

160.  priznava, da so algoritmi za strojno učenje usposobljeni, da se učijo sami, kar koristi avtomatizaciji in sprejemanju odločitev; poziva k etičnim smernicam za umetno inteligenco, ki bodo obravnavale vprašanja, povezana z algoritemsko preglednostjo, obrazložljivostjo, odgovornostjo in pravičnostjo;

161.  poudarja pomen obrazložljivosti rezultatov, procesov in vrednot sistemov umetne inteligence, da so razumljivi za netehnično publiko in ji zagotavljajo smiselne informacije, ki so potrebne za oceno pravičnosti in pridobitev zaupanja;

162.  poudarja, da nepreglednost teh tehnologij in njihove uporabe poraja številna etična vprašanja;

163.  ugotavlja, da bi morali biti sistemi umetne inteligence obrazložljivi za ljudi in bi jim morali zagotoviti smiselne informacije, da se lahko pridobijo povratne informacije; priznava, da je uspešnost modelov umetne inteligence odvisna od povratnih informacij in ponovne ocene ter ta proces spodbuja;

164.  ugotavlja, da so državljani zaskrbljeni, ker ne vedo, kdaj se umetna inteligenca uporablja in katere informacije bodo obdelane; priporoča, naj se jasno razkrije, kdaj državljani uporabljajo umetno inteligenco; poudarja, da je za ohranitev zaupanja potrošnikov pomembno, da so preneseni podatki varni;

165.  meni, da bi morali algoritmično odgovornost urejati oblikovalci politik z ocenami učinka na podlagi uveljavljenih parametrov;

166.  ugotavlja, da razkritje računalniške kode ne bi rešilo vprašanja v zvezi z umetno inteligenco, ker ne bi pokazalo obstoječe pristranskosti in ne bi pojasnilo postopka strojnega učenja; poudarja, da preglednost ne pomeni samo preglednost kode, temveč tudi podatkov in avtomatiziranega sprejemanja odločitev;

167.  priznava, da bi lahko razkritje izvorne kode privedlo do nepravilne uporabe in izigravanja algoritmov;

168.  poudarja, da je pomembno urediti vprašanje razvijalčeve pristranskosti in da je zato v vseh vejah informacijskotehnološkega sektorja potrebna dovolj raznolika delovna sila, obvarovati pa je treba tudi mehanizme, s katerimi bi v sistemih umetne inteligence preprečevali pristranskost glede spola in starosti;

169.  priznava, da bi razkritje kode ali poslovnih skrivnostni tudi odvračalo podjetja od raziskav in razvoja nove kode, saj bi bila njihova intelektualna lastnina ogrožena; ugotavlja, da bi moral razvoj umetne inteligence namesto tega spodbujati interoperabilnost modelov in njihovo interakcijo z vhodnimi in izobraževalnimi podatki;

170.  priznava, da lahko preglednost in obrazložljivost sicer razkrijeta pomanjkljivosti, vendar ne zagotavljata zanesljivosti, varnosti in pravičnosti; zato meni, da je odgovornost bistvenega pomena za doseganje zaupanja vredne umetne inteligence, ki ga je mogoče pridobiti na različne načine, kot so ocene algoritemskega vpliva, revizije in certificiranje;

171.  poudarja, da je treba oblikovati protokole za stalno spremljanje in ugotavljanje pristranskosti algoritmov;

172.  opozarja, da bi morali oblikovalci algoritmov zagotoviti izpolnjevanje bistvenih zahtev, kot sta pravičnost in obrazložljivost, in sicer od začetka faze načrtovanja in nato vzdolž vsega razvojnega cikla;

173.  ugotavlja, da morajo smernice vsebovati opise dobrih razvojnih praks;

174.  poudarja, da je pomembno prikazati potek razvoja, da bi lahko sledili zgodovini modela umetne inteligence; meni, da bo to izboljšalo razumevanje modelov in pomagalo vzpostaviti zaupanje na podlagi njihove zgodovine;

175.  poudarja, da mora biti uporaba sistemov umetne inteligence jasno opredeljena v interakciji z uporabniki;

176.  poudarja, da je treba pri razširjanju umetne inteligence in robotike v celoti upoštevati človekove pravice, v strojih in robotih pa se nikakor ne bi smeli odražati stereotipi glede žensk ali druge oblike diskriminacije;

177.  poudarja, da lahko celo visokokakovostni učni podatki pomagajo vzdrževati diskriminativno in nepravično stanje, če se ne uporabljajo skrbno in previdno; se zaveda, da lahko uporaba nizkokakovostnih, zastarelih, nepopolnih ali napačnih podatkov v različnih fazah obdelave podatkov privede do slabih napovedi in ocen ter s tem do pristranskosti, ki se utegne sčasoma preleviti v kršitve temeljnih pravic ali popolnoma napačne sklepe in neresnične izide; zato je prepričan, da je v dobi velepodatkov res pomembno zagotoviti, da se algoritmi razvijajo na reprezentativnih vzorcih visokokakovostnih podatkov, da bomo dosegli statistično pariteto; poudarja, da tudi če se uporabijo natančni in visokokakovostni podatki, lahko napovedna analiza na podlagi umetne inteligence ponudi le statistično verjetnost; želi opomniti, da se smejo v skladu s splošno uredbo o varstvu podatkov pri nadaljnji obdelavi osebnih podatkov v statistične namene ustvarjati zgolj zbirni podatki, ki jih ni mogoče ponovno povezati s posamezniki;

178.  poziva Komisijo, naj zagotovi, da vsi, ki proizvajajo globoke ponaredke, sintetične videoposnetke ali druge realistično izdelane sintetične videoposnetke, izrecno navedejo, da ne gre za izvirnike;

179.  ugotavlja, da se umetna inteligenca privzeto zanaša na zbiranje velikih količin podatkov in pogosto tudi na ustvarjanje novih podatkovnih zbirk, ki se uporabljajo za izdelavo domnev o ljudeh; meni, da bi se bilo treba osredotočiti na opredelitev in izdelavo mehanizmov za odzivanje na morebitne grožnje, da bi ublažili negativne učinke;

180.  znova opozarja, da sistemi umetne inteligence ne bi smeli ustvarjati ali krepiti pristranskosti; poudarja, da je treba pri razvoju in uporabi algoritmov v vse faze, od zasnove do izvajanja, vključiti premisleke o pristranskosti in pravičnosti; poudarja, da je treba podatkovne nize in algoritme redno preverjati, da bi zagotovili natančno sprejemanje odločitev;

6.  Upravljanje

6.1.  Usklajevanje na ravni Unije

181.  poziva Komisijo, naj si prizadeva za razvoj močnega vodstva EU, ki bo preprečilo podvajanje in razdrobljenost prizadevanj ter zagotovilo dosledne politike na nacionalni ravni in izmenjavo primerov dobre prakse za širšo uporabo umetne inteligence;

182.  pozdravlja različne nacionalne strategije, ki jih razvijajo države članice; pozdravlja usklajeni načrt Komisije o umetni inteligenci, objavljen 7. decembra 2018; poziva k boljšemu sodelovanju med državami članicami in Komisijo na tem področju;

183.  ugotavlja, da več držav članic že ima svoje nacionalne strategije za umetno inteligenco, in pozdravlja dejstvo, da so vse države članice aprila 2018 podpisale Deklaracijo o sodelovanju na področju umetne inteligence; prav tako pozdravlja prihajajoči usklajen načrt o umetni inteligenci med Komisijo in državami članicami, vendar poziva vse vpletene strani, naj si prizadevajo za čim višjo raven sodelovanja;

184.  meni, da je nujno okrepljeno sodelovanje med državami članicami in Komisijo, da se v Uniji zagotovijo skladna čezmejna pravila, ki bodo spodbujala sodelovanje znotraj evropske industrije in po vsej Uniji omogočala uporabo umetne inteligence, ki bo ustrezala zahtevanim stopnjam varnosti in varovanja ter etičnim načelom, vsebovanim v pravu Unije;

185.  poudarja, da bi harmoniziran, na tveganju temelječ in progresiven okvir EU za podatkovno politiko povečal zaupanje in podporo za razvoj umetne inteligence v Evropi, s čimer bi zagotovili dokončanje enotnega digitalnega trga in povečali produktivnost podjetij, ki imajo sedež v Evropi;

186.  priporoča, naj bodo obstoječe in prihodnje pobude in pilotni projekti, povezani umetno inteligenco, ki jih izvaja Komisija, tesno usklajevani, po možnosti pod mentorstvom predlaganega nadzornega mehanizma, da bi izkoristili sinergijske učinke in zagotovili ustvarjanje dejanske dodane vrednosti, hkrati pa preprečili drage dvojne strukture;

187.  poziva Komisijo in države članice, naj preučijo oblikovanje evropske regulativne agencije za umetno inteligenco in algoritemsko odločanje z naslednjimi nalogami:

•  vzpostavitev oceno tveganja za razvrstitev algoritemskih tipov in domen uporabe glede na njihov potencial za znaten negativen vpliv na državljane;

•  preiskava uporabe algoritemskih sistemov, kadar obstaja sum kršitve človekovih pravic (na primer, kadar dokaze predloži žvižgač);

•  svetovanje drugim regulativnim agencijam o algoritemskih sistemih v njihovi pristojnosti;

•  krepitev učinkovitosti mehanizma odškodninske odgovornosti kot sredstva za urejanje odgovornosti algoritemskih sistemov, in sicer z zagotavljanjem kontaktne točke za državljane, ki ne poznajo pravnih postopkov;

•  revizija ocen algoritemskega vpliva za sisteme z učinkom na visoki ravnim, da bi odobrili ali zavrnili predlagane uporabe algoritemskega odločanja pri zelo občutljivih domenah uporabe in/ali domenah uporabe, ki so kritične za varnost (na primer zasebno zdravstveno varstvo); ocene algoritemskega vpliva za uporabo v zasebnem sektorju bi lahko potekale po podobnem postopku kot tistem, ki je predlagan za javni sektor, s potencialno razliko, da bi se različne stopnje javnega razkritja lahko obravnavale kot zaupne komunikacije z regulativno agencijo (v okviru sporazuma o nerazkrivanju podatkov), da se zaščitijo bistvene poslovne skrivnosti;

•  preiskave domnevnih primerov kršitev pravic s strani algoritemskih sistemov odločanja, tako za posamezne odločitve (na primer posamezna odstopanja) kot za statistične vzorce odločanja (na primer diskriminatorna pristranskost); preiskave se lahko sprožijo po vložitvi pritožb ali na podlagi dokazov, ki jih predložijo žvižgači, raziskovalni novinarji ali neodvisni raziskovalci (tudi nevladne organizacije in akademiki);

188.  je seznanjen s tekočim delom Mednarodne organizacije za standardizacijo (ISO) na področju umetne inteligence in poziva države članice, naj usklajujejo svoje člane te organizacije, da bi pri razvoju standardov na tem področju ustrezno zastopali evropske interese;

6.2.  Mednarodno upravljanje

189.  pozdravlja vzpostavitev opazovalne skupine za politiko umetne inteligence OECD in poziva k večjim ambicijam glede razvoja načrta za nadaljnje sodelovanje;

190.  poudarja različne modele, ki jih razvijajo v tretjih državah, zlasti v ZDA, na Kitajskem, v Rusiji in Izraelu, ter pristop, ki temelji na vrednotah, ki se uporablja v Evropi, in potrebo po sodelovanju z mednarodnimi partnerji v dvostranskih in večstranskih forumih za etični napredek in uveljavitev umetne inteligence; priznava, da ta tehnologija nima meja in zahteva sodelovanje, ki presega zgolj sodelovanje med državami članicami EU;

191.  poziva Komisijo, naj deluje na mednarodni ravni, da bi zagotovila čim večjo doslednost med mednarodnimi akterji in na svetovni ravni branila etična načela EU;

192.  poudarja, da je umetna inteligenca tehnologija z globalnim učinkom, ki zagotavlja skupne koristi in na postavlja pred podobne izzive; poudarja potrebo po globalnem pristopu, kot v primeru gospodarskega sistema, zlasti ko gre za tehnologijo, ki ima znaten vpliv na trge; poudarja, da morajo obstoječe institucije in organizacije uvrstiti umetno inteligenco na svoj dnevni red in poziva k oceni potrebe po dodatnih forumih, ki bi bili ustanovljeni po potrebi;

°

°  °

193.  naroči svojemu predsedniku, naj to resolucijo posreduje Svetu in Komisiji.

• [1]  UL C 252, 18.7.2018, str. 239.
• [2]  UL C 307, 30.8.2018, str. 163.
• [3]  Sprejeta besedila, P8_TA(2018)0341.
• [4]  Sprejeta besedila, P8_TA(2018)0332.
• [5]  UL 252, 26.10.2012, str. 1.
• [6]  COM(2018)0237.
• [7]  Prihodnje in nastajajoče tehnologije.
• [8]  OECD Digital Economy Outlook 2017.
• [9]  Special Eurobarometer 460.
• [10]  Direktiva (EU) 2018/958 Evropskega parlamenta in Sveta z dne 28. junija 2018 o preskusu sorazmernosti pred sprejetjem nove regulacije poklicev (UL L 137, 9.7.2018, str. 25).
• [11]  Direktiva 2013/55/EU Evropskega parlamenta in Sveta z dne 20. novembra 2013 o spremembi Direktive 2005/36/ES o priznavanju poklicnih kvalifikacij in Uredbe (EU) št. 1024/2012 o upravnem sodelovanju prek informacijskega sistema za notranji trg (uredba IMI) (UL L 354, 28.12.2013, str. 132).
• [12]  Direktiva 2006/123/ES Evropskega parlamenta in Sveta z dne 12. decembra 2006 o storitvah na notranjem trgu (UL L 376, 27.12.2006, str. 36).
• [13]  Direktiva 2000/31/ES Evropskega parlamenta in Sveta z dne 8. junija 2000 o nekaterih pravnih vidikih storitev informacijske družbe, zlasti elektronskega poslovanja na notranjem trgu (Direktiva o elektronskem poslovanju) (UL L 178, 17.7.2000, str. 1).
• [14]  Uredba (EU) 2018/1807 Evropskega parlamenta in Sveta z dne 14. novembra 2018 o okviru za prosti pretok neosebnih podatkov v Evropski uniji (UL L 303, 28.11.2018, str. 59).
• [15]  Direktiva Sveta 85/374/EGS z dne 25. julija 1985 o približevanju zakonov in drugih predpisov držav članic v zvezi z odgovornostjo za proizvode z napako (UL L 210, 7.8.1985, str. 29).
• [16]  Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (UL L 119, 4.5.2016, str. 1).

MNENJE Odbora za notranji trg in varstvo potrošnikov (7.12.2018)

za Odbor za industrijo, raziskave in energetiko

o celoviti evropski industrijski politiki na področju umetne inteligence in robotike
(2018/2088(INI) – COM(2018)0237))

Pripravljavka mnenja: Dita Charanzová

(*)  Pridruženi odbor – člen 54 Poslovnika

(Poenostavljeni postopek – člen 50(2) Poslovnika)

POBUDE

Odbor za notranji trg in varstvo potrošnikov poziva Odbor za industrijo, raziskave in energetiko kot pristojni odbor, da v svoj predlog resolucije vključi naslednje pobude:

A.  ker se umetna inteligenca hitro razvija in ker ima že več let pomembno vlogo v našem vsakdanjem življenju; ker umetna inteligenca in robotika spodbujata inovacije, vodita k novim poslovnim modelom in imata ključno vlogo pri preoblikovanju naših družb in digitalizaciji naših gospodarstev v številnih sektorjih, kot so industrija, zdravstvo, gradbeništvo in promet,

B.  ker sta Kitajska in Združene države vodilni državi na področju tehnologij umetne inteligence in EU za njima znatno zaostaja; ker bo lahko EU ta zaostanek nadoknadila le z usklajenim pristopom na evropski ravni; ker bi skupni pristop k umetni inteligenci EU omogočil, da bi bolje spodbujala svoje vrednote po svetu ter imela večjo in učinkovitejšo vlogo na svetovni ravni,

C.  ker približno četrtino vseh industrijskih robotov in polovico vseh robotov za poklicne storitve na svetu proizvedejo evropska podjetja, zato EU že ima pomembna sredstva, na katerih bi morala temeljiti njena evropska industrijska politika,

D.  ker se bo s skupnim pristopom olajšal razvoj tehnologij umetne inteligence v korist družbe, hkrati pa se bodo z njim obravnavali izzivi, ki jih prinašajo te tehnologije, da bi spodbudili inovacije, izboljšali kakovost izdelkov in storitev, ki podpirajo uporabo umetne inteligence, izboljšali izkušnje potrošnikov in njihovo zaupanje v tehnologije umetne inteligence in robotiko ter preprečili razdrobljenost notranjega trga,

E.  ker mora razvoj umetne inteligence in robotike vključevati družbo kot celoto; ker leta 2017 podeželska območja večinoma niso imela možnosti, da bi izkoristila prednosti umetne inteligence, saj 8 % domov nima dostopa do nobenega fiksnega omrežja, 53 % pa jih nima dostopa do nobene tehnologije dostopa naslednje generacije (VDSL, kabelskih omrežij s standardom Docsis 3.0 ali FTTP),

F.  ker so za razvoj storitev in izdelkov, ki podpirajo uporabo umetne inteligence, potrebni povezljivost, prosti pretok podatkov in dostopnost podatkov v EU; ker se lahko z uporabo naprednih tehnik podatkovnega rudarjenja pri storitvah in izdelkih prispeva k izboljšanju kakovosti odločanja in s tem izbire potrošnikov ter izboljša poslovna uspešnost,

G.  ker je kibernetska varnost bistvenega pomena za zagotovitev, da podatki niso zlonamerno spremenjeni ali zlorabljeni, da bi se lahko umetna inteligenca uporabila na način, ki bi škodil državljanom ali podjetjem, kar bi spodkopalo zaupanje industrije in potrošnikov v umetno inteligenco; ker se z razvojem na področju umetne inteligence povečuje zanašanje na te sisteme pri ukrepih in odločitvah, pri čemer so potrebni visoki standardi kibernetske odpornosti v EU za zaščito pred kršitvami kibernetske varnosti in napakami, povezanimi s kibernetsko varnostjo,

H.  ker lahko tehnološki razvoj pametnih izdelkov in storitev koristi gospodarstvu znanja, ki temelji na količini, kakovosti in dostopnosti razpoložljivih informacij ter tako lahko vodi k boljšemu prilagajanju potrebam potrošnikov,

I.  ker bi morali potrošniki zaupati tehnologiji, ki jo uporabljajo, in ker se je zato treba odzvati na etične pomisleke v zvezi z razvojem umetne inteligence in robotike; ker bi moral odziv EU na te pomisleke temeljiti na spoštovanju vrednot iz člena 2 Pogodbe o Evropski uniji in Listine EU o temeljnih pravicah; ker bo strokovna skupina na visoki ravni za umetno inteligenco, ki jo je ustanovila Komisija, do konca leta 2018 pripravila osnutek etičnih smernic za umetno inteligenco,

1.  poudarja, da je najpomembnejši pogoj, da bo EU dohitela zamujeno na področju umetne inteligence, njeno delovanje v skupnem okviru;

2.  poudarja, da se je EU zaradi neusklajenih ukrepov v zvezi z raziskavami in razvojem, različnih odločitev glede ureditve in ukrepov na mednarodni ravni še bolj oddaljila od tega cilja;

3.  ugotavlja, da več držav članic že ima svoje nacionalne strategije za umetno inteligenco, in pozdravlja dejstvo, da so vse države članice aprila 2018 podpisale Deklaracijo o sodelovanju na področju umetne inteligence, ter prihajajoči usklajen načrt o umetni inteligenci med Komisijo in državami članicami, vendar poziva vse vpletene strani, naj si prizadevajo za čim višjo raven sodelovanja;

Družba, ki jo podpirata umetna inteligenca in robotika

4.  opozarja, da ima Evropa vodilno svetovno raziskovalno skupnost na področju umetne inteligence, ki predstavlja 32 % raziskovalnih institucij na področju umetne inteligence po vsem svetu;

5.  poudarja, da raziskovalci EU še vedno zaslužijo bistveno manj kot njihovi kolegi v ZDA in na Kitajskem ter da je to glavni razlog za njihov odhod iz Evrope; poziva Komisijo in države članice, naj se osredotočijo na privabljanje vrhunskih talentov v evropske družbe, in države članice, naj ustvarijo privlačne pogoje;

6.  poudarja pomen ciljnih ukrepov za zagotovitev, da lahko mala in srednja podjetja ter zagonska podjetja sprejmejo tehnologije umetne inteligence in imajo koristi od njih; meni, da bi morala biti ocena učinka nove zakonodaje EU na tehnološki razvoj umetne inteligence obvezna in da je treba razmisliti o izvedbi takih ocen učinka tudi na nacionalni ravni;

7.  poziva Komisijo, naj z namenom spodbujanja zakonodajnega okolja, ki je ugodno za razvoj umetne inteligence in skladno z načelom boljše pravne ureditve, redno ocenjuje veljavno zakonodajo za zagotovitev, da ustreza namenu glede umetne inteligence, pri čemer je treba upoštevati temeljne vrednote EU, in naj poskuša spremeniti ali nadomestiti nove predloge, če se ugotovi nasprotno;

8.  priporoča nadaljnje delo za povečanje povezljivosti na zapostavljenih območjih, kot so podeželska območja, in v zapostavljenih sektorjih, da bi zagotovili dejansko vključujoč digitalni prehod;

9.  poudarja dejstvo, da se lahko z obsežnejšo uvedbo tehnologij umetne inteligence nadomestijo nekateri poklici, zlasti tisti, ki bodo najverjetneje avtomatizirani, in da se lahko ustvarijo novi; opozarja, da znaten delež prebivalstva EU – 37 % delovne sile – nima osnovnega digitalnega znanja; poudarja, da Komisija napoveduje znatno pomanjkanje strokovnjakov za IKT in predvideva, da bo do leta 2020 na tem področju na voljo 750.000 prostih delovnih mest;

10.  poziva države članice, naj posodobijo svoje sisteme poklicnega usposabljanja in izobraževanja, da bi se upoštevala znanstveni napredek in razvoj na področju umetne inteligence v skladu z direktivo o preizkusu sorazmernosti in direktivo o poklicnih kvalifikacijah, ter da bi bile lahko strokovne službe EU v prihodnjih desetletjih konkurenčne na svetovni ravni;

Tehnološka pot k umetni inteligenci in robotiki

11.  meni, da nov sklop pravil, ki urejajo prosti pretok neosebnih podatkov v Uniji, omogoča, da se za inovacije, ki temeljijo na podatkih, zagotovi vedno več podatkov, kar malim in srednjim podjetjem ter zagonskim podjetjem olajša razvoj novih inovativnih storitev, ki podpirajo uporabo umetne inteligence, in vstop na nove trge, hkrati pa državljanom in podjetjem omogoči, da imajo koristi od boljših izdelkov in storitev;

12.  opozarja, da uredba o prostem pretoku neosebnih podatkov določa, da bi se morali, če bo tehnološki razvoj omogočil pretvorbo anonimiziranih podatkov v osebne, takšni podatki obravnavati kot osebni podatki, ob ustrezni uporabi Uredbe (EU) 2016/679;

13.  priznava možnost izmenjave podatkov v okviru prihodnjega razvoja globokega učenja, zlasti kar zadeva zbirke podatkov visoke vrednosti, glede na njihove pomembne državljanske ali družbeno-ekonomske koristi in primernost za ustvarjanje storitev in aplikacij z dodano vrednostjo;

14.  poudarja, kako pomembni so odprti neosebni podatki iz javnih in zasebnih virov, ter meni, da bi moral regulativni okvir, vključno s ponovno uporabo informacij javnega sektorja, podpirati dostop do odprtih podatkov in interoperabilnosti; poziva Komisijo, naj razmisli o vzpostavitvi varnega in prostovoljnega enotnega portala za olajšanje izmenjave neosebnih podatkov na ravni EU, da se vzpostavi poenostavljeno zbiranje podatkov;

15.  poudarja, da je zaupanje potrošnikov bistvenega pomena za razvoj umetne inteligence in da sistemi, ki temeljijo na umetni inteligenci, obdelujejo vse več potrošniških podatkov, zaradi česar so glavni cilj kibernetskih napadov; poudarja tudi dejstvo, da mora umetna inteligenca delovati tako, da ne škodi državljanom in potrošnikom, ter meni, da je zato treba zagotoviti celovitost podatkov in algoritmov, na katerih temelji;

16.  poudarja pomen prepoznavanja, opredelitve in spremljanja prelomnih dogodkov pri razvoju umetne inteligence in v zvezi z njo; spodbuja, naj se raziskave o umetni inteligenci osredotočijo tudi na odkrivanje naključno ali zlonamerno spremenjene umetne inteligence in robotike;

Industrijska politika

17.  meni, da bi morala biti Unija bolje opremljena za spopadanje s kibernetskimi napadi; spodbuja hitro dokončanje strategije za spletno varnost, ki naj bi zagotovila razvoj in uporabo varnih sistemov za umetno inteligenco in robotiko, ki so odporni proti kibernetskim napadom, zlasti z razvojem shem certificiranja EU; meni, da bi morala ENISA pripraviti akcijski načrt o kibernetski varnosti na področju umetne inteligence, v katerem bi morala oceniti in obravnavati grožnje in slabosti, značilne za umetno inteligenco;

18.  poudarja, da razvoj močne in konkurenčne industrije na področju umetne inteligence in robotike ne more temeljiti zgolj na javnih sredstvih; poudarja, kako pomembna je mobilizacija zasebnih sredstev za pospeševanje inovacij in doseganje razvite industrije na področju umetne inteligence in robotike v EU;

19.  opozarja, da se, medtem ko je uporaba umetne inteligence in robotike že dolgo uveljavljena v industriji, napredek na tem področju širi ter zagotavlja široko in raznoliko uporabo pri vseh človekovih dejavnostih; meni, da mora vsak regulativni okvir vključevati prožnost, ki omogoča inovacije ter prosti razvoj novih tehnologij in uporab za umetno inteligenco; poudarja, da uredba ne bi smela ovirati raziskav in razvoja v zasebnem sektorju;

20.  poziva Komisijo, naj zagotovi, da vozlišča za digitalne inovacije ne bodo vodila k oblikovanju dodatnih upravnih ravni, temveč se bodo osredotočila na pospešitev naložb v projekte, ki so se izkazali za učinkovite; poziva Komisijo, naj se osredotoči na nepovratna sredstva in finančno pomoč za zasebne projekte na področju raziskav in razvoja; poudarja potrebo po večji uporabi javno-zasebnih partnerstev pri umetni inteligenci;

21.  meni, da bo umetna inteligenca zelo koristna pri izvajanju načela „samo enkrat“, ki bo omogočalo združevanje podatkovnih zbirk in informacij iz različnih virov ter tako olajšalo interakcijo državljanov z javno upravo;

Pravni okvir za umetno inteligenco in robotiko

Notranji trg za umetno inteligenco

22.  meni, da bi morale države članice zagotoviti ustvarjanje podatkov, ki temeljijo na načelu „vgrajene in privzete odprtosti“, hkrati pa poskrbeti za dosledno raven varovanja ciljev javnega interesa, kot je javna varnost ali varstvo osebnih podatkov, vključno z občutljivimi informacijami, povezanimi s kritično infrastrukturo;

Odgovoren razvoj in prosti pretok pametnega blaga

23.  poudarja pomen načela vzajemnega priznavanja pri čezmejni uporabi pametnega blaga, vključno z roboti in robotskimi sistemi; opozarja, da bi lahko po potrebi s preskušanjem, certificiranjem in varnostjo proizvodov zagotovili, da je nekatero blago varno po zasnovi in privzeto varno; v zvezi s tem ugotavlja, da je pomembno tudi delo v zvezi z etičnimi vidiki umetne inteligence;

24.  poudarja, da se umetna inteligenca uporablja za različne sektorje, v katerih je standardizacija zelo pomembna, kot so pametna proizvodnja, roboti, avtonomni avtomobili, navidezna realnost, zdravstvo in analiza podatkov, ter meni, da bo standardizacija na ravni EU na področju umetne inteligence spodbudila inovacije in visoko raven varstva potrošnikov; priznava, da sta zaradi velikega števila standardov o vprašanjih, kot so varnost, zanesljivost in interoperabilnost, potrebna nadaljnja promocija in razvoj skupnih standardov za robotiko in umetno inteligenco ter da bi moralo biti to del prednostnih nalog Unije; poziva Komisijo, naj v sodelovanju z organi za standardizacijo EU še naprej dejavno sodeluje z mednarodnimi organi za standardizacijo, da bi se izboljšali standardi na tem področju;

25.  poziva Komisijo in države članice, naj spodbujajo preskušanje inovativnih izdelkov in tehnologij v praksi v majhnem obsegu (tako imenovane inovacije v peskovniku), preden se takšni proizvodi dajo na trg;

26.  je seznanjen, da se tehnologija na področju robotike in umetne inteligence čedalje bolj uporablja na področju avtonomnih vozil, kot so avtonomni avtomobili in brezpilotni zrakoplovi za civilne namene; ugotavlja, da nekatere države članice že izvajajo ali obravnavajo zakonodajo na tem področju, kar bi lahko privedlo do različnih nacionalnih zakonov, kar bi oviralo razvoj avtonomnih vozil; zato poziva k enotnemu naboru predpisov EU, s katerimi bomo poiskali pravo ravnovesje med interesi uporabnikov, podjetij in drugih zainteresiranih strani ter morebitnimi tveganji zanje, obenem pa se izognili pretiranemu urejanju na področju robotike in sistemov umetne inteligence;

Svoboda opravljanja storitev, ki temeljijo na umetni inteligenci

27.  opozarja, da se tehnologije za analizo, izkoriščanje in obdelavo podatkov, kot so strojno učenje, umetna inteligenca in internet stvari, stalno razvijajo in da hiter tehnološki razvoj omogoča nastajanje novih storitev in novih aplikacij, ki temeljijo na uporabi, združevanju ali kombinaciji podatkov;

28.  opozarja, da so številni vidiki politike, pomembni za storitve, ki podpirajo uporabo umetne inteligence, vključno s pravili o varstvu potrošnikov ter politiko o etiki in odgovornosti, vključeni v obstoječi regulativni okvir za storitve, in sicer direktivo o storitvah, direktivo o poklicnih kvalifikacijah in direktivo o e-trgovanju;

29.  poudarja, da morajo končno odločitev vedno sprejeti ljudje, zlasti v strokovnih poklicih na področjih, kot so zdravstvo, pravo in računovodstvo; meni, da je potreben premislek o tem, ali je nadzor, ki ga izvaja usposobljen strokovnjak, potreben, da bi zaščitili legitimne cilje v javnem interesu in zagotovili kakovostne storitve;

30.  priznava pomen izboljšanih digitalnih storitev, kot so virtualni pomočniki, klepetalnice ali virtualni agenti, ki omogočajo izjemno operativno učinkovitost, pri čemer je treba ustrezno priznati, da je treba razviti tržno umetno inteligenco, usmerjeno v ljudi, da bi zagotovili boljše in zanesljivejše odločitve ob upoštevanju omejitev avtonomije umetne inteligence in robotike;

Varstvo potrošnikov in krepitev njihove vloge

31.  meni, da bi morali za tehnologije umetne inteligence, razvite tako za proizvodnjo kot za individualno uporabo, organi za nadzor trga izvesti pregled varnosti izdelka ter da bi morala zanje veljati pravila o varstvu potrošnikov, saj bi tako po potrebi zagotovili minimalne varnostne standarde in upoštevali tveganje nesreč zaradi stika s človekom ali delovanja v bližini človeka; meni, da bi bilo treba vprašanja etičnosti in varstva podatkov, vključno s podatki tretjih oseb in osebnih podatkov, civilne odgovornost in kibernetske varnosti obravnavati na vseh področjih politike o umetni inteligenci;

32.  opozarja, da so algoritmi temelj umetne inteligence in robotike; poziva države članice, naj zagotovijo, da se za umetno inteligenco uporabljajo le kakovostni podatki, zlasti pa, da so ti podatki posodobljeni, točni in zanesljivi, da se zagotovita zaupanje potrošnikov in njihovo sprejemanje; v zvezi s tem opozarja na pomen razložljivosti postopkov odločanja tehnologij umetne inteligence in nepristranskosti algoritmov ob upoštevanju zakonodaje EU, zlasti o poslovnih skrivnostih, in oblikovanja nadzornih struktur za odpravo morebitnih napak pri odločitvah, ki jih sprejme umetna inteligenca;

33.  poudarja pomen uporabniku prijazne umetne inteligence pri spodbujanju zaupanja potrošnikov; meni, da je treba, kadar je za sprejetje končne in trajne odločitve odgovorna umetna inteligenca in ne človek, s tem seznaniti potrošnike ter jim omogočiti, da zahtevajo človeški nadzor in pravno varstvo; poudarja, da je treba uporabnike pri interakciji z avtomatiziranim sistemom obvestiti, kako lahko stopijo v stik s človekom, in kako zagotoviti, da je odločitve sistema mogoče preveriti in popraviti;

34.  je seznanjen z delovnim dokumentom služb Komisije z dne 25. aprila 2018 o odgovornosti za nastajajoče digitalne tehnologije (SWD(2018)0137); je seznanjen z ugotovitvijo, da mora sedanji okvir odgovornosti, ki je sicer še vedno stabilen in deluje, pregledati strokovna skupina za odgovornost ob upoštevanju novih tehnologij umetne inteligence, da se zagotovi njegova ustreznost in da se upoštevajo vidiki potrošnikov, inovatorjev in podjetij, ki delujejo v EU;

35.  poudarja, da je treba izobraževati državljane, zlasti mlade, da bi razumeli delovanje umetne inteligence; poziva k večji krepitvi vloge državljanov in potrošnikov EU s povečanjem dostopnosti umetne inteligence za državljane, potrošnike in civilno družbo; meni, da bi to lahko dosegli s ponujanjem okrepljenega in razširjenega izobraževanja, da bi omogočili boljše razumevanje umetne inteligence.

INFORMACIJE O SPREJETJU V ODBORU, ZAPROŠENEM ZA MNENJE

Poenostavljeni postopek – datum sklepa	16. 5. 2018
Datum sprejetja	4. 12. 2018

MNENJE ODBORA ZA PRAVNE ZADEVE O PRAVNI PODLAGI

Jerzy BuzekpredsednikOdbor za industrijo, raziskave in energetikoBRUSELJ
Zadeva:  Mnenje o celoviti evropski industrijski politiki na področju umetne inteligence in robotike (2018/2088(INI))Spoštovani gospod predsednik!Odbor za pravne zadeve, kateremu imam čast predsedovati, je bil v okviru postopka iz naslova zadolžen, da pripravi mnenje in ga predloži vašemu odboru. Za pripravo mnenja je bila zadolžena Mady Delvaux. Na seji dne 20. novembra 2018 je odbor odločil, da bo pripravil mnenje v obliki pisma.V skladu z dogovorom o pridružitvi v skladu s členom 54 Poslovnika ima Odbor za pravne zadeve izključno pristojnost za vprašanja v zvezi z odgovornostjo in pravicami intelektualne lastnine ter ima deljene pristojnosti za vprašanja, povezana z vrednotami, vgrajenimi v tehnologiji („etičnem oblikovanju“).Odbor za pravne zadeve je vprašanje obravnaval na seji z dne 6. decembra 2018, po izmenjavi mnenj med koordinatorji na podlagi pisnega postopka pa je bilo na seji 10. decembra 2018 sprejeto spodnje mnenje. Na seji[1] se je odločil, da Odbor za industrijo, raziskave in energetiko, kot pristojni odbor, pozove, da v predlog resolucije, ki ga bo sprejel, vključi pobude, navedene v nadaljevanju.Upam, da bo to koristno prispevalo k poročilu vašega odbora.S spoštovanjem!Pavel Svoboda

POBUDE

A.  ker je v svoji resoluciji z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki (2015/2013(INL)) pozval Komisijo, naj predlaga celovit pravni okvir za razvoj robotike, vključno z avtonomnimi sistemi in pametnimi avtonomnimi roboti;

1.  poziva, naj se veliko pozornosti posveti varnosti proizvodov, da se zagotovita varstvo potrošnikov in njihovo zaupanje v umetno inteligenco in robotiko;

2.  poudarja, da je pri razvoju umetne inteligence ključno oblikovanje, osredotočeno na človeka, da bi zagotovili odgovornost v procesu odločanja, ki ga opravljajo stroji;

3.  poudarja, da mora biti politični okvir zasnovan tako, da spodbuja razvoj vseh vrst umetne inteligence in ne le sistemov globokega učenja, za kar je potrebna ogromna količina podatkov;

4.  poudarja, da je treba uporabo podatkov v zdravstvenem sektorju skrbno in etično spremljati ter da nikakor ne sme ovirati dostopa do socialnega varstva ali zavarovanja;

5.  meni, da bi moral imeti nosilec medicinskega vsadka, pri katerem se uporablja umetna inteligenca, pravico, da pregleda in spremeni izvorno kodo vsadka;

6.  opozarja, da je za dejansko konkurenčnost v industriji umetne inteligence bistvena dostopnost kakovostnih podatkov, in poziva javne organe, naj zagotovijo načine za pridobitev, deljenje in upravljanje podatkov, tako da poskrbijo, da so odprti podatki skupna dobrina;

7.  pozdravlja pobudo Komisije za ustanovitev strokovne skupine za odgovornost in nove tehnologije, ki bi EU zagotavljala strokovno znanje o uporabi direktive o odgovornosti za proizvode pri tradicionalnih proizvodih, novih tehnologijah in novih družbenih izzivih (oblikovanje direktive o odgovornosti za proizvode) ter ji pomagala pri razvoju načel, ki bi lahko služila kot smernice za morebitne prilagoditve obstoječih zakonov na ravni EU in nacionalni ravni v zvezi z novimi tehnologijami (oblikovanje novih tehnologij);

8.  obžaluje pa, da v tem zakonodajnem obdobju ni bil predložen noben zakonodajni predlog, zaradi česar je prišlo do zamude pri posodobitvi pravil o odgovornosti na ravni EU, ogrožena pa je tudi pravna varnost EU na tem področju za trgovce in potrošnike;

9.  je seznanjen s tekočim delom Mednarodne organizacije za standardizacijo (ISO) na področju umetne inteligence in poziva države članice, naj usklajujejo svoje člane te organizacije, da bi pri razvoju standardov kar najbolj zaščitili evropske vrednote in interese;

10.  želi spomniti na zgoraj omenjeno resolucijo z dne 16. februarja 2018, v kateri ugotavlja, da ni zakonskih določb, ki bi se posebej uporabljale za robotiko, temveč da se za to področje lahko uporabljajo obstoječe pravne ureditve in doktrine, čeprav se zdi, da je treba nekatere vidike posebej obravnavati; znova poziva Komisijo, naj podpira horizontalen in tehnološko nevtralen pristop do intelektualne lastnine v različnih sektorjih, v katerih bi se lahko uporabljala robotika;

11.  v zvezi s tem pozdravlja sporočilo Komisije institucijam o smernicah o nekaterih vidikih Direktive 2004/48/ES Evropskega parlamenta in Sveta o uveljavljanju pravic intelektualne lastnine, vendar poudarja, da je treba spremljati ustreznost in učinkovitost pravil o pravicah intelektualne lastnine za urejanje razvoja umetne inteligence; v zvezi s tem poudarja pomen preverjanja ustreznosti;

12.  pozdravlja, da je Komisija ustanovila strokovno skupino na visoki ravni za umetno inteligenco, ki jo sestavljajo predstavniki akademskega sveta, civilne družbe in industrije, da bi pripravila etične smernice za umetno inteligenco glede vprašanj, kot so poštenost, varnost, preglednost, prihodnost dela, demokracija in širši učinek na uporabo Listine o temeljnih pravicah, vključno z varstvom zasebnosti in osebnih podatkov, dostojanstvom, varstvom potrošnikov in nediskriminacijo;

13.  pričakuje skupno srečanje z državami članicami, ki naj bi potekalo januarja 2019 po objavi osnutka etičnih smernic konec leta 2018, kot je bilo napovedano v sporočilu Komisije z dne 25. aprila 2018;

14.  poudarja vlogo, ki bi jo Parlament lahko imel prek dela, ki ga opravlja STOA, da bi se pri pripravi teh smernic upoštevale skrbi državljanov;

15.  je seznanjen z usklajenim akcijskim načrtom za umetno inteligenco, ki ga je podpredsednik Komisije Andrus Ansip predstavil decembra 2018;

16.  poudarja, da razvoj umetne inteligence in robotike trenutno vodijo države, ki niso članice EU, zato poudarja pomen skupnega evropskega pristopa, da bi ubranili položaj EU pri razvoju umetne inteligence;

17.  v zvezi s tem pozdravlja ustanovitev zavezništva EU za umetno inteligenco, s katerim bi združili različne skupine udeležencev, vključno s podjetji, potrošniškimi organizacijami, sindikati in drugimi predstavniki organov civilne družbe; ugotavlja, da je cilj te široke platforme z več deležniki dopolnjevati in podpirati delo strokovne skupine na visoki ravni za umetno inteligenco, zlasti pri pripravi osnutkov etičnih smernic za umetno inteligenco in zagotavljanju konkurenčnosti EU na hitro razvijajočem se področju umetne inteligence.

• [1]  Pri končnem glasovanju so bili navzoči: Pavel Svoboda, predsednik; Jean-Marie Cavada, podpredsednik; Mady Delvaux, podpredsednica in pripravljavka mnenja; Joëlle Bergeron, Kostas Chrysogonos, Sergio Gaetano Cofferati, Mary Honeyball, Sajjad Karim, Sylvia-Yvonne Kaufmann, António Marinho e Pinto, Julia Reda, Evelyn Regner, Axel Voss, Tiemo Wölken, Francis Zammit Dimech, Tadeusz Zwiefka, Kosma Złotowski, Luis de Grandes Pascual.

MNENJE Odbora za državljanske svoboščine, pravosodje in notranje zadeve (11.12.2018)

za Odbor za industrijo, raziskave in energetiko

o celoviti evropski industrijski politiki na področju umetne inteligence in robotike
(2018/2088(INI))

Pripravljavec mnenja (*): Michał Boni

(*) Pridruženi odbor – člen 54 Poslovnika

POBUDE

Odbor za državljanske svoboščine, pravosodje in notranje zadeve poziva Odbor za industrijo, raziskave in energetiko kot pristojni odbor, da v svoj predlog resolucije vključi naslednje pobude:

–  ob upoštevanju sporočila Komisije Evropskemu parlamentu, Evropskemu svetu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij o umetni inteligenci za Evropo (COM(2018)0237),

–  ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki[1],

A.  ker je umetna inteligenca ena od strateških tehnologij 21. stoletja za Evropo in svet in evropskemu gospodarstvu prinaša pozitivne spremembe ter omogoča inovacije, produktivnost, konkurenčnost in blaginjo;

B.  ker je treba evropski okvir za umetno inteligenco zasnovati na podlagi popolnega spoštovanja temeljnih pravic iz Listine Evropske unije o temeljnih pravicah, zlasti načel varstva podatkov, zasebnosti in varnosti;

C.  ker na človeka osredotočena umetna inteligenca in strojno učenje pomenita prednost za evropsko družbo, saj lahko pomagata pri spoprijemanju z nekaterimi perečimi družbenimi izzivi in bi lahko državljanom prinesla oprijemljive koristi;

1.  poziva Komisijo in druge pristojne institucije, naj tesno sodelujejo z raziskovalci z različnih področij, da bi poiskali, podprli in spodbudili potencialne pozitivne učinke inovativne uporabe umetne inteligence, zato da bi proučili, preprečili in ublažili morebitne škodljive učinke njene zlonamerne ali malomarne uporabe in zasnovali ustrezna orodja, politike in standarde za etično upravljanja njenih aplikacij; poudarja, da je treba oblikovati (tudi čezmejne) programe za izmenjavo znanja in civilnodružbenim organizacijam omogočiti razvoj skupnih strategij; ugotavlja, da bi bilo treba na raziskovalnih področjih, ki že imajo zrelejše metode za reševanje pomislekov glede dvojne rabe, na primer varnosti in zasebnosti, opredeliti dobre prakse ter da jih uporabiti tudi na področju umetne inteligence;

2.  poudarja, da bi lahko zlonamerna ali malomarna uporaba umetne inteligence ogrozila digitalno, fizično in siceršnjo javno varnost, saj bi jo lahko uporabili za obsežne, natančno usmerjene in skrajno učinkovite napade na storitve informacijske družbe in za kampanje dezinformiranja, s čimer bi na splošno močno onemogočili pravico posameznikov do samoodločanja; poudarja, da bi lahko zlonamerna ali malomarna uporaba umetne inteligence prinesla tveganja za demokracijo in temeljne pravice;

3.  poudarja, da se pravica do spoštovanja zasebnega življenja in varstva osebnih podatkov, kot je zapisana v členih 7 in 8 Listine o temeljnih pravicah ter členu 16 Pogodbe o delovanju Evropske unije, uporablja za vsa področja robotike in na vseh področjih, kjer je mogoče uporabljati umetno inteligenco, vključno z analizo velepodatkov, strojnim učenjem in internetom stvari, in da je treba na področju sistemov umetne inteligence popolnoma spoštovati okvir Unije za varstvo podatkov; ponovno poudarja, da podpira sporočilo Komisije „Akcijski načrt za finančno tehnologijo: za bolj konkurenčen in inovativen evropski finančni sektor“, v katerem je poudarjeno, da bi lahko zakonska ureditev imela pomembno vlogo pri spodbujanju tehnoloških inovacij ter pri boljšem razumevanju inovativnih poslovnih modelov in razvoja dogodkov na trgu, če bo regulatorjem omogočeno, da bodo nadzorovali podjetja v okviru pravnega okvira Unije;

4.  poziva Komisijo, naj poskrbi, da bodo vsi prihodnji okviri EU na področju umetne inteligence zagotavljali zasebnost, zaupnost in varstvo osebnih podatkov, vključno z načeli zakonitosti, poštenosti in preglednosti, vgrajenega in privzetega varstva podatkov, omejitve namena in shranjevanja ter točnosti in zmanjšanja količine podatkov, in sicer popolnoma v skladu z zakonodajo Unije o varstvu podatkov, ter da bodo hkrati jamčili tudi pravico do svobode izražanja in obveščanja; meni, da bi morala Komisija vse prihodnje regulativne okvire redno ocenjevati in pri tem upoštevati tehnološke novosti;

5.  poudarja, da morajo evropski standardi za umetno inteligenco temeljiti na načelih digitalne etike, človekovega dostojanstva, spoštovanja temeljnih pravic ter varstva in zaščite podatkov ter vsa ta načela vključevati že po zasnovi in s tem prispevati h krepitvi zaupanja med uporabniki; poudarja, da je pomembno izkoristiti možnosti EU za vzpostavitev močne infrastrukture za sisteme umetne inteligence, ki bodo temeljili na visokih standardih podatkov in spoštovanju ljudi; poudarja, da je treba sistematično vlagati v razvoj prihodnjega strokovnega znanja, zlasti v usposabljanje raziskovalcev in omogočanje deljenja znanja med različnimi panogami, specializiranimi za tehnologijo umetne inteligence, robotiko in sorodna področja, vključno z uporabno etiko;

6.  poziva Komisijo, naj se odločno zavzame zoper razvoj in uporabo avtonomnih orožnih sistemov, ki bi se opirali na umetno inteligenco, in to v vseh okvirih EU;

7.  pozdravlja pobudo Komisije za ustanovitev evropskega zavezništva za umetno inteligenco, katerega naloga bo izdelati priporočila politike in etične smernice za umetno inteligenco; želi poudariti, da je pomembno dejavno sodelovati v svetovnih zavezništvih in forumih za umetno inteligenco, zato da bomo pri razvoju in uporabi sistemov umetne inteligence omogočili izmenjavo znanja in dosegli celovito razumevanje pomislekov glede varstva zasebnosti, preglednosti in varnosti; v zvezi s tem pozdravlja delo strokovne skupine na visoki ravni, ki usmerja delo zavezništva za umetno inteligenco; poziva Komisijo, naj poskrbi, da bodo v tej skupini sodelovali tudi organi za varstvo podatkov, da bo delo opravljeno odprto in pregledno ter da bodo smernice objavljene; poziva jo tudi, naj si še naprej prizadeva za vseunijski pristop do umetne inteligence, ki bo osredotočena na človeka in jo bo upravljal človek, ter naj na področju umetne inteligence na mednarodni ravni dejavno uveljavlja visoke standarde EU;

8.  poudarja, da je treba vse sisteme umetne inteligence razviti ob spoštovanju načel preglednosti in algoritemske odgovornosti, kar bo omogočalo, da bo lahko človek razumel njena dejanja in poteze; želi opozoriti, da morajo uporabniki za izgradnjo zaupanja in dejanski napredek umetne inteligence vedeti, kako se uporabljajo njihovi podatki in iz njih izpeljani podatki, in se zavedati, kdaj komunicirajo ali imajo stik s sistemom umetne inteligence ali s človekom, ki se opira na sistem umetne inteligence; meni, da bo to prispevalo k boljšemu razumevanju in zaupanju uporabnikov; poudarja, da se mora v skladu s členi 13, 14 in 15 splošne uredbe o varstvu podatkov kot standard EU uporabljati načelo razumljivosti odločitev; želi spomniti, da splošna uredba o varstvu podatkov že določa pravico do obveščenosti o razlogih za obdelavo podatkov; poudarja, da imajo posamezniki v skladu z njenim členom 22 pravico do človeškega posredovanja, kadar jih znatno zadeva odločitev, ki temelji zgolj na avtomatizirani obdelavi podatkov;

9.  poudarja, da bi morali imeti Komisija, Evropski odbor za varstvo podatkov, nacionalni organi za varstvo podatkov in drugi neodvisni nadzorni organi v prihodnosti ključno vlogo pri spodbujanju preglednosti in dolžnega pravnega postopanja, pravne varnosti na splošno in, gledano ožje, tudi konkretnih standardov, ki bodo ščitili temeljne pravice in jamstva, povezana z uporabo obdelave podatkov in podatkovne analitike; poziva k tesnejšemu sodelovanju med organi, pristojnimi za nadzor in urejanje ravnanja v digitalnem okolju; poziva, naj se tem organom zagotovi ustrezno financiranje in dovolj osebja;

10.  poudarja, da je pomembno urediti vprašanje razvijalčeve pristranskosti in da je zato v vseh vejah informacijskotehnološkega sektorja potrebna dovolj raznolika delovna sila, obvarovati pa je treba tudi mehanizme, s katerimi bi v sistemih umetne inteligence preprečevali pristranskost glede spola in starosti;

11.  poudarja, da je pomembno zasnovati regulativni okvir za nadzor nad algoritmi in njihovim učinkom, tudi s to možnostjo, da bi pritegnili neodvisne algoritemske revizorje (ali celo nadzorne organe za programsko opremo) ali regulativni organ, ki bi lahko preiskoval avtomatizirane odločitve umetne inteligence;

12.  poudarja, da je pri razvoju algoritmov pomembna kakovost in točnost, pa tudi reprezentativnost uporabljenih podatkov, saj se standard sistemov umetne inteligence opira na podatke, na podlagi katerih se algoritmi učijo; poudarja, da lahko celo visokokakovostni učni podatki pomagajo vzdrževati diskriminativno in nepravično stanje, če se ne uporabljajo skrbno in pazljivo; se zaveda, da lahko uporaba nizkokakovostnih, zastarelih, nepopolnih ali napačnih podatkov v različnih fazah obdelave podatkov privede do slabih napovedi in ocen ter s tem do pristranskosti, ki se utegne sčasoma preleviti v kršitve temeljnih pravic ali popolnoma napačne sklepe in neresnične izide; zato je prepričan, da je v dobi velepodatkov res pomembno zagotoviti, da se algoritmi razvijajo na reprezentativnih vzorcih visokokakovostnih podatkov, da bomo dosegli statistično pariteto; poudarja, da tudi če se uporabijo natančni in visokokakovostni podatki, lahko napovedna analiza na podlagi umetne inteligence ponudi le statistično verjetnost; želi opomniti, da se smejo v skladu s splošno uredbo o varstvu podatkov pri nadaljnji obdelavi osebnih podatkov v statistične namene ustvarjati zgolj zbirni podatki, ki jih ni mogoče ponovno povezati s posamezniki;

13.  poziva Komisijo, države članice in organe za varstvo podatkov, naj odkrivajo diskriminacijo in pristranskost v algoritmih in si ju po najboljših močeh prizadevajo zmanjšati ter naj zasnujejo trden skupni etični okvir za pregledno obdelavo osebnih podatkov in avtomatizirano odločanje, ki bo usmerjal uporabo podatkov in izvrševanje zakonodaje Unije;

14.  poudarja, da sicer spodbuja k napredku v dobro družbe in okolja, a da bi bilo treba raziskave umetne inteligence vseeno izvajati v skladu s previdnostnim načelom in temeljnimi pravicami; poudarja, da bi morali vsi, ki so udeleženi pri razvoju, uvajanju, razširjanju in uporabi umetne inteligence, upoštevati in spoštovati človekovo dostojanstvo, samoodločanje ter telesno in duševno dobro počutje posameznika in širše družbe, predvidevati bi morali tudi morebitne varnostne učinke in sprejeti sorazmerne preventivne ukrepe glede na potrebno raven zaščite, vključno s takojšnjim razkritjem dejavnikov, ki bi mogli ogroziti javnost ali okolje; poudarja, da je potreben usklajen pristop, s katerim bi zagotovili, da se bodo za sisteme umetne inteligence in njihove sestavne dele dovolj pogosto izvajale ocene na podlagi tveganj; poudarja, da je pomembno zasnovati in izvrševati celovit sklop revizijskih pravil in smernic za razvoj in uporabo sistemov umetne inteligence ter tudi mehanizme za varnost in opozarjanje, s katerimi bi pri njih ublažili tveganja za kršitve;

15.  poudarja, da bi bilo treba za splošne strategije na področju umetne inteligence in robotike uporabljati naslednja načela:

a) roboti in umetna inteligenca so večnamenska orodja. Ne bi jih smeli razvijati izključno ali predvsem za ubijanje ljudi ali škodovanje ljudem. Zajamčiti je treba pravice posameznikov in temeljne svoboščine, zlasti človekovo (fizično in duševno) celovitost, dostojanstvo in identiteto. Poudarjeno mora biti, da mora človekova korist prevladati nad interesom zgolj znanosti ali družbe;

b) odgovorni akter je vedno človek. Zakonodajalci bi morali zagotoviti, da bodo novonastajajoče tehnologije skladne z veljavnimi zakoni in s temeljnimi pravicami;

c) roboti in umetna inteligenca so proizvodi in bi morali biti torej tako kot drugi proizvodi zasnovani tako, da bodo varni in zaščiteni ter da bodo ustrezali svojemu namenu;

d) roboti in umetna inteligenca so proizvedeni predmeti. Njihova zasnova ne sme biti zavajajoča in namenjena temu, da bi izkoriščali ranljive uporabnike, temveč mora biti jasno razvidna njihova strojna narava;

e) za robota ali sistem umetne inteligence bi bilo treba določiti, kdo nosi pravno odgovornost. V primeru hude malomarnosti glede varnosti in zaščite bi morali biti proizvajalci klicani na odgovornost, četudi bi uporabniška pogodba vsebovala klavzulo o neprevzemanju odgovornosti;

16.  poudarja, da mora v procesu razvijanja umetne inteligence sodelovati tudi javnost; zato poziva Komisijo, naj vse javno financirane algoritme, orodja in tehnologijo objavi kot odprtokodne;

17.  poudarja, da kjer bodo kot neizogiben in sestavni del raziskav umetne inteligence nastajala tveganja, bo treba razviti in spoštovati vzdržljive protokole za ocenjevanje in obvladovanje tveganj ter upoštevati, da tveganje ne sme biti večje kot v običajnem življenju (namreč da ljudje ne smejo biti izpostavljeni večjim tveganjem, kot so jim izpostavljeni v običajnem življenju).

INFORMACIJE O SPREJETJU V ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja	10.12.2018
Izid končnega glasovanja	+: –: 0:	30 0 1
Poslanci, navzoči pri končnem glasovanju	Martina Anderson, Monika Beňová, Michał Boni, Cornelia Ernst, Romeo Franz, Nathalie Griesbeck, Jussi Halla-aho, Monika Hohlmeier, Sophia in ‘t Veld, Dietmar Köster, Juan Fernando López Aguilar, Roberta Metsola, Claude Moraes, Péter Niedermüller, Ivari Padar, Giancarlo Scottà, Birgit Sippel, Csaba Sógor, Helga Stevens, Bodil Valero, Harald Vilimsky, Josef Weidenholzer
Namestniki, navzoči pri končnem glasovanju	Marek Jurek, Jean Lambert, Angelika Mlinar, Maite Pagazaurtundúa Ruiz, Barbara Spinelli, Axel Voss
Namestniki (člen 200(2)), navzoči pri končnem glasovanju	Lucy Anderson, Margrete Auken, Anthea McIntyre

POIMENSKO GLASOVANJE PRI KONČNEM GLASOVANJUV ODBORU, ZAPROŠENEM ZA MNENJE

30	+
ALDE	Nathalie Griesbeck, Sophia in ‘t Veld, Angelika Mlinar, Maite Pagazaurtundúa Ruiz
ECR	Jussi Halla-aho, Marek Jurek, Anthea McIntyre, Helga Stevens
ENF	Giancarlo Scottà
GUE/NGL	Martina Anderson, Cornelia Ernst, Barbara Spinelli
PPE	Michał Boni, Monika Hohlmeier, Roberta Metsola, Csaba Sógor, Axel Voss
S&D	Lucy Anderson, Monika Beňová, Dietmar Köster, Juan Fernando López Aguilar, Claude Moraes, Péter Niedermüller, Ivari Padar, Birgit Sippel, Josef Weidenholzer
VERTS/ALE	Margrete Auken, Romeo Franz, Jean Lambert, Bodil Valero

0	-

1	0
ENF	Harald Vilimsky

Uporabljeni znaki:

+  :  za

-  :  proti

0  :  vzdržani

• [1]  Sprejeta besedila, P8_TA(2017)0051.

MNENJE Odbora za okolje, javno zdravje in varnost hrane (21.11.2018)

za Odbor za industrijo, raziskave in energetiko

o celoviti evropski industrijski politiki na področju umetne inteligence in robotike
(2018/2088(INI))

Pripravljavec mnenja: Bolesław G. Piecha

POBUDE

Odbor za okolje, javno zdravje in varnost hrane poziva Odbor za industrijo, raziskave in energetiko kot pristojni odbor, da v svoj predlog resolucije vključi naslednje pobude:

A.  ker umetna inteligenca ne bo povzročila tehnološke, gospodarske, družbene in psihološke revolucije z nedvomnimi etičnimi učinki samo v Evropi, temveč po vsem svetu;

B.  ker so za vse večje vključevanje robotike v človeške sisteme potrebne stroge politične smernice o tem, kako čim bolj izkoristiti njene prednosti in čim bolj zmanjšati tveganja za družbo ter kako zagotoviti varen in uravnotežen razvoj umetne inteligence;

C.  ker je tržna zrelost umetne inteligence etično in moralno največja revolucija od iznajdbe parnega stroja in računalnika in je o tem potrebna poglobljena razprava v družbi;

D.  ker je v visokotehnološki industriji in storitvah umetna inteligenca ključna za to, da bo Evropa postala „zagonska celina“, ki bo znala izkoristiti najnovejše tehnologije za ustvarjanje rasti, zlasti na področju zdravstvene tehnologije, zdravstvenih storitev in programov, odkrivanja zdravil, robotske in robotsko podprte kirurgije, zdravljenja kroničnih bolezni ter medicinskega slikanja in zdravstvene dokumentacije, pa tudi z zagotovitvijo trajnostnega okolja in varnega pridelovanja hrane; ker Evropa v tem trenutku zaostaja za Severno Ameriko in Azijo pri raziskavah in patentih na področju umetne inteligence;

E.  ker lahko razvoj tehnologij umetne inteligence pomaga izboljšati življenje kroničnih bolnikov in invalidov in pri spoprijemanju s socialnimi izzivi, kot je naše starajoče se prebivalstvo, saj bo pri zagotavljanju zdravstvene oskrbe pomagala izboljšati natančnost in učinkovitost zdravstvene tehnologije;

F.  ker je izbor možnih uporab umetne inteligence in robotike v zdravstveni oskrbi širok, na primer: vodenje zdravstvenih datotek in obdelava podatkov, izvajanje ponavljajočega se dela (analize preiskav, rentgensko slikanje, računalniška tomografija (CT), vnos podatkov), načrt zdravljenja, digitalni pregled (na primer zdravniški pregled, ki temelji na osebni zdravstveni anamnezi in skupnem zdravniškem znanju), virtualne medicinske sestre, upravljanje zdravil, izdelava zdravil, precizna medicina (ker sta genetika in genomika usmerjeni na iskanje mutacij in povezav z boleznimi iz informacij v DNK), spremljanje zdravstvenega stanja, analiza zdravstvenega sistema itd.;

G.  ker dostopnost ne pomeni istih storitev in naprav za vse; ker dostopnost umetne inteligence in robotike temelji na vključujočem načrtovanju in zasnovi; ker morajo biti izhodišče za zasnovo potrebe, želje in izkušnje uporabnikov;

H.  ker se porajajo večji etični, psihološki in pravni pomisleki glede avtonomnosti robotov, njihovega pomanjkanja empatije in njihovega vpliva na odnos med zdravnikom in pacientom, ki na ravni Unije še niso ustrezno obravnavani, predvsem v zvezi z varstvom osebnih podatkov pacientov, pravno odgovornostjo ter novimi ekonomskimi in poklicnimi odnosi, ki bodo s tem nastali; ker se lahko prava avtonomija pripiše samo človeku; ker je treba zasnovati robusten pravni in etični okvir za umetno inteligenco;

I.  ker mora uvajanje umetne inteligence v zdravstvo vedno temeljiti na načelu odgovornosti, da stroj upravlja človek;

J.  ker tveganja, povezana z umetno inteligenco, še niso dovolj proučena;

1.  poudarja, da bi moral vsak revolucionarni tehnološki napredek, zlasti na področju umetne inteligence in robotike, prispevati k dobremu počutju ljudi;

2.  poudarja, da so sistemi umetne inteligence in roboti inovativno tehnološko sredstvo za izboljšanje človekovega življenja, gospodarsko rast in spoprijemanje z izzivi na področjih, kot so zdravje, okolje, podnebne spremembe in varnost hrane ter mnogi drugi, a je za njihovo uporabo vedno odgovoren človek;

3.  poziva Komisijo in države članice, naj zasnujejo res celovit akcijski načrt EU za oblikovanje evropskega „ekosistema umetne inteligence“, da bi lahko docela izkoristili priložnosti za družbeni in gospodarski razvoj, obenem pa dodobra uredili problematiko varnosti, zaščite, preprečevanja škode in blaženja tveganj, človekove moralne odgovornosti, upravljanja in urejanja umetne inteligence in robotov, okoljske trajnosti ter razpoložljivosti naprav umetne inteligence[1]; poudarja, da bi moral biti ta ekosistem odprt za potrebe zelo majhnih podjetij ter malih in srednjih podjetij ter da bi morali pri njegovi zasnovi sodelovati vsi ustrezni deležniki, predvsem skupine pacientov, upoštevani pa bi morali biti tudi pomisleki vseh drugih skupin, na primer socialnovarstvenih združenj, cerkva in filozofskih fakultet;

4.  posebno pozornost bi bilo treba nameniti uporabi velepodatkov v zdravstvu, pri čemer je treba skušati čim bolje izkoristiti priložnosti, ki jih lahko prinese, na primer izboljšanje zdravja posameznih bolnikov in uspešnosti sistemov držav članic za javno zdravstvo, ne da bi zniževali etične standarde ali ogrožali zasebnost ali varnost državljanov;

5.  resno svari pred vsakim poskusom, da bi naprave z umetno inteligenco opremili z nekakšno „osebnostjo“, s čimer bi proizvajalce in osebe, ki jih upravljajo, popolnoma odvezali odgovornosti;

6.  poudarja tudi, da sedanji sistem za odobritev medicinskih pripomočkov morda ni primeren za tehnologije umetne inteligence; poziva Komisijo, naj skrbno spremlja napredek pri teh tehnologijah in naj po potrebi predlaga spremembe v regulativnem okviru, da bi vzpostavili okvir za opredelitev, za kaj je odgovoren uporabnik (zdravnik/zdravstveni delavec), za kaj proizvajalec tehnološke rešitve in za kaj zdravstvena ustanova, ki izvaja zdravljenje; poudarja, da je v zdravstvenem sektorju v zvezi z uporabo umetne inteligence osrednji problem vprašanje, kdo je odgovoren za škodo; zato poudarja, da je treba zagotoviti, da uporabniki ne bi zgolj iz strahu pred tožbo kar nekritično podprli diagnostične rešitve ali zdravljenja, ki bi ga predlagal tehnološki instrument, če bi na podlagi svoje informirane strokovne presoje prišli vsaj do rahlo drugačnih ugotovitev;

7.  poziva Komisijo in države članice, naj namenijo več sredstev za raziskave na področju umetne inteligence in robotike ter naj spodbudijo strokovnjake za umetno inteligenco ter evropske in neevropske družbe k ustvarjanju inovativnih delovnih mest z izboljševanjem raziskav o vprašanjih javnega zdravja; hkrati poudarja, da mora splošna strategija zaposlovanja iti vštric z napredkom umetne inteligence na strokovnem zdravstvenem področju;

8.  poziva Komisijo in države članice, naj s konkretnimi ukrepi spodbujajo razvoj talentov na področju umetne inteligence in robotike (na primer ustvarjanje inkubatorjev in pomoč zagonskim podjetjem), s katerimi bi povečali kvalificiranih oseb, pri čemer je treba posebno pozornost nameniti prisotnosti žensk in privabljanju študentov z drugih področij;

9.  poziva Svet in Komisijo, naj zaradi vse večje uporabe optimizacijskih vmesnikov med človekom in strojem v človeškem telesu sprejmeta vse potrebne pravne ukrepe za prepoved metod evtanazije in selekcije;

10.  poziva Komisijo, naj za financiranje raziskav o umetni inteligenci omogoči dostop do nepovratnih sredstev v sklopu okvirnih programov EU in drugih oblik financiranja;

11.  poziva Komisijo in države članice, naj pripravijo daljnosežne načrte za privabljanje ključnih deležnikov in glavnih akterjev s področja informacijske tehnologije, matematike, fizike, medicinske informacijske tehnologije, klinične psihologije, bioinženiringa in farmacije, da bi se po vsej Evropi odprli biomedicinski in bionski centri za raziskave na področju umetne inteligence; poziva Komisijo in države članice, naj tveganja, ki jih prinaša umetna inteligenca (na primer vpliv na odnos med zdravnikom in bolnikom ter razčlovečenje zdravstvene oskrbe), vzamejo resno in naj podprejo raziskave o tveganjih in etičnih pomislekih, povezanih z umetno inteligenco, s katerimi bi lažje opredelili, ali sploh in pod katerimi pogoji bi utegnila biti posamezna tehnološka rešitev sprejemljiva in skladna s temeljnimi načeli človekovega dostojanstva in enakosti ter bi jo bilo mogoče odobriti;

12.  poziva države članice in Komisijo, naj v javnem in zasebnem sektorju povečajo financiranje tehnologij umetne inteligence, povezanih z zdravjem; v zvezi s tem pozdravlja izjavo o sodelovanju, ki jo je podpisalo 24 držav članic EU in Norveška, da bi se povečal učinek naložb v umetno inteligenco na evropski ravni; poziva države članice in Komisijo, naj proučijo, ali je treba programe usposabljanja medicinskega in zdravstvenega osebja posodobiti in poenotiti na vseevropski ravni, da bi se v državah članicah zagotovili visoka raven strokovnosti in enaki pogoji pri poznavanju in uporabi najsodobnejših tehnoloških instrumentov robotike na področju kirurgije, biomedicine in umetne inteligence za medicinsko slikanje.

INFORMACIJE O SPREJETJU V ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja	20.11.2018
Izid končnega glasovanja	+: –: 0:	48 2 0
Poslanci, navzoči pri končnem glasovanju	Marco Affronte, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Biljana Borzan, Paul Brannen, Nessa Childers, Birgit Collin-Langen, Seb Dance, Mark Demesmaeker, Bas Eickhout, Francesc Gambús, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Benedek Jávor, Karin Kadenbach, Urszula Krupa, Giovanni La Via, Jo Leinen, Peter Liese, Valentinas Mazuronis, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Gilles Pargneaux, Bolesław G. Piecha, John Procter, Julia Reid, Frédérique Ries, Annie Schreijer-Pierik, Adina-Ioana Vălean, Jadwiga Wiśniewska
Namestniki, navzoči pri končnem glasovanju	Cristian-Silviu Buşoi, Nicola Caputo, Michel Dantin, Martin Häusling, Esther Herranz García, Gesine Meissner, Tilly Metz, Ulrike Müller, Sirpa Pietikäinen, Carlos Zorrinho
Namestniki (člen 200(2)), navzoči pri končnem glasovanju	Mercedes Bresso, Innocenzo Leontini, Olle Ludvigsson, Ana Miranda

POIMENSKO GLASOVANJE PRI KONČNEM GLASOVANJUV ODBORU, ZAPROŠENEM ZA MNENJE

48	+
ALDE	Catherine Bearder, Gerben Jan Gerbrandy, Valentinas Mazuronis, Gesine Meissner, Ulrike Müller, Frédérique Ries
ECR	Mark Demesmaeker, Urszula Krupa, Bolesław G. Piecha, John Procter, Jadwiga Wiśniewska
EFDD	Sylvie Goddyn
NI	Zoltán Balczó
PPE	Pilar Ayuso, Ivo Belet, Cristian-Silviu Buşoi, Birgit Collin-Langen, Michel Dantin, Francesc Gambús, Jens Gieseke, Françoise Grossetête, Esther Herranz García, Giovanni La Via, Innocenzo Leontini, Peter Liese, Miroslav Mikolášik, Sirpa Pietikäinen, Annie Schreijer-Pierik, Adina-Ioana Vălean
S&D	Biljana Borzan, Paul Brannen, Mercedes Bresso, Nicola Caputo, Nessa Childers, Seb Dance, Karin Kadenbach, Jo Leinen, Olle Ludvigsson, Susanne Melior, Massimo Paolucci, Gilles Pargneaux, Carlos Zorrinho
VERTS/ALE	Marco Affronte, Bas Eickhout, Martin Häusling, Benedek Jávor, Tilly Metz, Ana Miranda

2	-
EFDD	Julia Reid
PPE	Julie Girling

0	0

Uporabljeni znaki:

+  :  za

-  :  proti

0  :  vzdržani

• [1]  Gl. predvsem izjavo Evropske skupine za etiko v znanosti in novih tehnologijah o umetni inteligenci, robotiki in „avtonomnih“ sistemih iz marca 2018.

INFORMACIJE O SPREJETJU V PRISTOJNEM ODBORU

Datum sprejetja	14.1.2019
Izid končnega glasovanja	+: –: 0:	49 1 4
Poslanci, navzoči pri končnem glasovanju	Bendt Bendtsen, Jonathan Bullock, Cristian-Silviu Buşoi, Jerzy Buzek, Edward Czesak, Jakop Dalunde, Fredrick Federley, Ashley Fox, Igor Gräzin, Theresa Griffin, András Gyürk, Rebecca Harms, Eva Kaili, Barbara Kappel, Seán Kelly, Jeppe Kofod, Jaromír Kohlíček, Peter Kurumbašev (Peter Kouroumbashev), Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Christelle Lechevalier, Paloma López Bermejo, Edouard Martin, Tilly Metz, Angelika Mlinar, Csaba Molnár, Nadine Morano, Angelika Niebler, Morten Helveg Petersen, Miroslav Poche, Carolina Punset, Julia Reda, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Neoklis Silikiotis (Neoklis Sylikiotis), Patrizia Toia, Evžen Tošenovský, Vladimir Uručev (Vladimir Urutchev), Kathleen Van Brempt, Henna Virkkunen, Flavio Zanonato, Carlos Zorrinho
Namestniki, navzoči pri končnem glasovanju	Pilar Ayuso, Michał Boni, Gunnar Hökmark, Rupert Matthews, Clare Moody, Caroline Nagtegaal, Răzvan Popa, Dennis Radtke, Giancarlo Scottà, Davor Škrlec

POIMENSKO GLASOVANJE PRI KONČNEM GLASOVANJUV PRISTOJNEM ODBORU

49	+
ALDE	Fredrick Federley, Igor Gräzin, Angelika Mlinar, Caroline Nagtegaal, Morten Helveg Petersen, Carolina Punset
ECR	Edward Czesak, Ashley Fox, Zdzisław Krasnodębski, Rupert Matthews, Evžen Tošenovský
ENF	Barbara Kappel, Christelle Lechevalier, Giancarlo Scottà
PPE	Pilar Ayuso, Bendt Bendtsen, Michał Boni, Cristian-Silviu Buşoi, Jerzy Buzek, András Gyürk, Gunnar Hökmark, Seán Kelly, Nadine Morano, Angelika Niebler, Dennis Radtke, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Vladimir Uručev (Vladimir Urutchev), Henna Virkkunen
S&D	Theresa Griffin, Eva Kaili, Jeppe Kofod, Peter Kurumbašev (Peter Kouroumbashev), Miapetra Kumpula-Natri, Csaba Molnár, Clare Moody, Miroslav Poche, Răzvan Popa, Patrizia Toia, Kathleen Van Brempt, Flavio Zanonato, Carlos Zorrinho
VERTS/ALE	Jakop Dalunde, Rebecca Harms, Tilly Metz, Julia Reda, Davor Škrlec

1	-
EFDD	Jonathan Bullock

4	0
GUE/NGL	Jaromír Kohlíček, Paloma López Bermejo, Neoklis Silikiotis (Neoklis Sylikiotis)
S&D	Edouard Martin

Uporabljeni znaki:

+  :  za

-  :  proti

0  :  vzdržani