Kazalo 
 Prejšnje 
 Naslednje 
 Celotno besedilo 
Postopek : 2018/2088(INI)
Potek postopka na zasedanju
Potek postopka za dokument : A8-0019/2019

Predložena besedila :

A8-0019/2019

Razprave :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Glasovanja :

PV 12/02/2019 - 9.20
Obrazložitev glasovanja

Sprejeta besedila :

P8_TA(2019)0081

Sprejeta besedila
PDF 234kWORD 80k
Torek, 12. februar 2019 - Strasbourg Začasna izdaja
Celovita evropska industrijska politika na področju umetne inteligence in robotike
P8_TA-PROV(2019)0081A8-0019/2019

Resolucija Evropskega parlamenta z dne 12. februarja 2019 o celoviti evropski industrijski politiki na področju umetne inteligence in robotike (2018/2088(INI))

Evropski parlament,

–  ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki(1),

–  ob upoštevanju svoje resolucije z dne 1. junija 2017 o digitalizaciji evropske industrije(2),

–  ob upoštevanju svoje resolucije z dne 12. septembra 2018 o avtonomnih orožnih sistemih(3),

–  ob upoštevanju svoje resolucije z dne 11. septembra 2018 o enakopravnosti jezikov v digitalni dobi(4),

–  ob upoštevanju predloga Komisije z dne 6. junija 2018 o vzpostavitvi programa za digitalno Evropo za obdobje 2021–2027 (COM(2018)0434),

–  Ob upoštevanju Uredbe Sveta (EU) 2018/1488 z dne 28. septembra 2018 o ustanovitvi Skupnega podjetja za evropsko visokozmogljivostno računalništvo(5),

–  ob upoštevanju člena 52 Poslovnika,

–  ob upoštevanju poročila Odbora za industrijo, raziskave in energetiko ter mnenj Odbora za notranji trg in varstvo potrošnikov, Odbora za pravne zadeve, Odbora za državljanske svoboščine, pravosodje in notranje zadeve ter Odbora za okolje, javno zdravje in varnost hrane (A8-0019/2019),

A.  ker imata pregledni in etično zasnovani umetna inteligenca in robotika potencial, da obogatita naše življenje in povečata naše zmogljivosti, tako na ravni posameznika kot za skupno dobro;

B.  ker se umetna inteligenca hitro razvija in ker ima že več let pomembno vlogo v našem vsakdanjem življenju; ker umetna inteligenca in robotika spodbujata inovacije, vodita k novim poslovnim modelom in imata ključno vlogo pri preoblikovanju naših družb in digitalizaciji naših gospodarstev v številnih sektorjih, kot so industrija, zdravstvo, gradbeništvo in promet;

C.  ker so zaradi vse večjega vključevanja robotike v človeške sisteme potrebne jasne politične smernice o tem, kako čim bolj izkoristiti prednosti, ki jih prinaša, in čim bolj zmanjšati tveganja za družbo ter zagotoviti varen in uravnotežen razvoj umetne inteligence;

D.  ker je umetna inteligenca ena od strateških tehnologij 21. stoletja v Evropi in v svetu, saj v evropsko gospodarstvo prinaša pozitivne spremembe ter omogoča inovacije, produktivnost, konkurenčnost in blaginjo;

E.  ker približno četrtino vseh industrijskih robotov in polovico vseh robotov za poklicne storitve na svetu proizvedejo evropska podjetja, in ker EU torej že ima pomembna sredstva, na katerih bi morala temeljiti evropska industrijska politika;

F.  ker lahko umetna inteligenca in robotika preoblikujeta različne industrijske panoge ter prispevata k bolj učinkoviti proizvodnji in večji konkurenčnosti evropske industrije ter malih in srednjih podjetij na svetovni ravni; ker so za razvoj umetne inteligence ključnega pomena razpoložljivost obsežnih naborov podatkov in obratov za preizkuse in poskuse;

G.  ker bomo s skupnim pristopom olajšali razvoj tehnologij umetne inteligence v korist družbe in se hkrati spoprijeli z izzivi, ki jih prinašajo te tehnologije, da bi spodbudili inovacije, zvišali kakovost proizvodov in storitev, podprtih z umetno inteligenco, izboljšali izkušnje potrošnikov in njihovo zaupanje v tehnologije umetne inteligence in robotiko ter preprečili razdrobljenost notranjega trga;

H.  ker je treba zmogljivost računalništva v Uniji ohraniti na vodilni ravni, saj naj bi to prineslo priložnosti za dobavno industrijo EU in prispevalo k njenemu učinkovitejšemu prenosu tehnološkega razvoja v proizvode in storitve, ki bodo utemeljeni v povpraševanju in aplikacijsko zasnovani, to pa bo vodilo k njihovi uporabi v razširjenih in nastajajočih aplikacijah, podprtih z umetno inteligenco;

I.  ker EU nujno potrebuje usklajen pristop na evropski ravni, da bi lahko tekmovala z obsežnimi naložbami tretjih držav, zlasti ZDA in Kitajske;

J.  ker se je Komisija 25. aprila 2018(6) zavezala, da bo predlagala evropski pristop na področju umetne inteligence, tako da bo v sodelovanju z deležniki zavezništva za umetno inteligenco – skupine strokovnjakov na tem področju – pripravila osnutek smernic za umetno inteligenco, da bi spodbudila aplikacije in podjetja v Evropi, katerih delovanje temelji na umetni inteligenci;

K.  ker bi bilo treba sedanja pravila in procese pregledati in po potrebi spremeniti, da bi upoštevali umetno inteligenco in robotiko;

L.  ker je treba evropski okvir za umetno inteligenco zasnovati ob polnem spoštovanju pravic iz Listine o temeljnih pravicah, zlasti načel varstva podatkov, zasebnosti in varnosti;

M.  ker mora biti razvoj umetne inteligence zasnovan tako, da bodo ohranjeni dostojanstvo, avtonomija in samoodločanje posameznika;

N.  ker je Parlament v svoji resoluciji z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki pozval Komisijo, naj predlaga celovit pravni okvir za razvoj robotike, vključno z avtonomnimi sistemi in pametnimi avtonomnimi roboti;

O.  ker mora biti v razvoj umetne inteligence in robotike vključena družba kot celota; ker pa kljub temu leta 2017 podeželska območja večinoma niso imela možnosti, da bi izkoristila prednosti umetne inteligence, saj 8 % domov nima dostopa do nobenega fiksnega omrežja, 53 % pa jih nima na voljo nobene tehnologije dostopa naslednje generacije (VDSL, kabelskih omrežij s standardom Docsis 3.0 ali FTTP);

P.  ker so za razvoj storitev in izdelkov, podprtih z umetno inteligenco, potrebni povezljivost, prosti pretok podatkov in dostopnost podatkov v EU; ker lahko uporaba naprednih tehnik podatkovnega rudarjenja pri proizvodih in storitvah prispeva k bolj kakovostnemu odločanju in s tem boljši izbiri potrošnikov ter večji poslovni uspešnosti;

Q.  ker lahko tehnološki razvoj pametnih izdelkov in storitev koristi gospodarstvu, ki temelji na znanju in torej na količini, kakovosti in dostopnosti razpoložljivih informacij, ter tako lahko vodi k boljšemu prilagajanju potrebam potrošnikov;

R.  ker je kibernetska varnost bistvenega pomena za preprečevanje zlonamerne okvare ali zlorabe podatkov, pri kateri bi se umetna inteligenca uporabila na način, ki bi škodil državljanom ali podjetjem, kar bi spodkopalo zaupanje industrije in potrošnikov vanjo; ker se z razvojem umetne inteligence povečuje zanašanje na sisteme, utemeljene na umetni inteligenci, pri ukrepih in odločitvah, za to pa so potrebni visoki standardi kibernetske odpornosti v EU za zaščito pred kršitvami in napakami, povezanimi s kibernetsko varnostjo;

S.  ker trend vse večje avtomatizacije zahteva, da tisti, ki se ukvarjajo z razvojem in trženjem aplikacij umetne inteligence, upoštevajo varnost in etiko že pri njihovi zasnovi, s čimer priznavajo, da morajo biti pripravljeni nositi pravno odgovornost za kakovost tehnologije, ki jo razvijajo;

T.  ker bi morala izgradnja zaupanja vrednega ekosistema za razvoj tehnologije umetne inteligence temeljiti na arhitekturi podatkovne politike; ker to pomeni oblikovanje nemoteno delujočih in poenostavljenih programov za zbiranje in upravljanje podatkov za namene izobraževanja, da bi omogočili razvoj umetne inteligence na številnih področjih, kot so zdravstveni, finančni, biološki, energetski, industrijski, kemijski ali javni sektor; ker bi lahko podatkovno voden ekosistem na področju umetne inteligence vključeval vseevropske pobude za odprte standarde, ki bi temeljile na vzajemnem priznavanju certifikatov in preglednih pravilih interoperabilnosti;

U.  ker uporaba umetne inteligence sama po sebi ne zagotavlja resnice ali pravičnosti, saj je lahko pri načinu zbiranja podatkov in pisanja prisotna pristranskost, ta pa lahko izhaja iz pristranskosti, prisotne v družbi; ker bi morala kakovost podatkov, skupaj z algoritemsko zasnovo in stalnim ponovnim ocenjevanjem, pristranskost preprečiti;

V.  ker bi bilo treba umetno inteligenco in robotiko razvijati in uporabljati na podlagi pristopa, osredotočenega na človeka, in z namenom podpiranja ljudi na delovnem mestu in doma; ker se umetna inteligenca lahko uporablja tudi za to, da ljudem ni treba opravljati nevarnih del;

W.  ker imata nadaljnji razvoj in pogostejša uporaba avtomatiziranega in algoritemskega odločanja nedvomno vpliv na to, kaj posameznik (na primer poslovnež ali internetni uporabnik) in upravni, sodni ali drugi javni organi izberejo kot končno potrošniško, poslovno ali uradno odločitev; ker morajo biti zaščitni mehanizmi ter možnost človeškega nadzora in preverjanja vgrajeni v postopek avtomatiziranega in algoritemskega sprejemanja odločitev;

X.  ker s strojnim učenjem prihajajo tudi izzivi v zvezi z zagotavljanjem nediskriminacije, predpisanega postopka ter preglednosti in razumljivosti postopkov odločanja;

Y.  ker je umetna inteligenca pomemben instrument za spoprijemanje s svetovnimi družbenimi izzivi in ker bi zato morale države članice v svoji javni politiki spodbujati naložbe, dati na razpolago sredstva za raziskave in razvoj ter odpraviti ovire za razvoj in sprejemanje umetne inteligence;

Z.  ker so platforme za komercialno uporabo umetne inteligence iz preizkusne faze prešle k dejanski uporabi v zdravstvu, okolju, energetiki in prometu; ker so tehnike strojnega učenja jedro vseh glavnih spletnih platform in aplikacij, ki temeljijo na velepodatkih;

AA.  ker so evropski raziskovalci in podjetja vključeni v številna področja blokovne verige, ki segajo od dobavne verige, vladnih storitev, financ, interneta stvari, zdravstva, medijev, pametnih mest in energetike do prometa; ker je Evropa močan akter na pomembnih področjih, povezanih z blokovno verigo, kot je umetna inteligenca; ker ima lahko tehnologija podatkovne verige pomembno vlogo pri krepitvi evropskih inovacij;

AB.  ker so tehnologije kibernetske varnosti, kot so digitalna identiteta, kriptografija ali zaznavanje vdorov, in njihova uporaba na področjih financ, industrije 4.0, energetike, prometa, zdravstva in e-uprave bistvenega pomena za vzdrževanje varnosti in ohranjanje zaupanja državljanov, javne uprave in podjetij pri spletnih aktivnostih in transakcijah;

AC.  ker sta besedilno in podatkovno rudarjenje osnova za aplikacije umetne inteligence in strojnega učenja ter sta bistvenega pomena za mala in srednja ter zagonska podjetja, saj jim omogočata dostop do velikih količin podatkov za dostop do algoritmov umetne inteligence;

AD.  ker bi se lahko izkazalo, da je umetna inteligenca energetsko zelo intenzivna; ker je glede na to pomembno, da se uporaba umetne inteligence nadaljuje v skladu z obstoječimi cilji EU na področju energetske učinkovitosti in krožnega gospodarstva;

AE.  ker bi bilo treba z umetno inteligenco v celoti podpirati vse evropske jezike, da bi vsem Evropejcem zagotovili enake možnosti za izkoriščanje sodobnih dosežkov umetne inteligence v večjezični evropski informacijski družbi;

AF.  ker je v visokotehnološki industriji in storitvah umetna inteligenca ključna za to, da bo Evropa postala „zagonska celina“, ki bo znala izkoristiti najnovejše tehnologije za ustvarjanje rasti v Evropi, zlasti na področju zdravstvene tehnologije, zdravstvenih storitev in programov, odkrivanja zdravil, robotske in robotsko podprte kirurgije, zdravljenja kroničnih bolezni ter medicinskega slikanja in zdravstvene dokumentacije, pa tudi za zagotovitev trajnostnega okolja in varnega pridelovanja hrane; ker Evropa v tem trenutku zaostaja za Severno Ameriko in Azijo pri raziskavah in patentih na področju umetne inteligence;

AG.  ker lahko razvoj tehnologij umetne inteligence pomaga izboljšati življenje kroničnih bolnikov in invalidov in pri spoprijemanju z družbenimi izzivi, kot je naše starajoče se prebivalstvo, saj bo pri zagotavljanju zdravstvene oskrbe pomagala izboljšati natančnost in učinkovitost zdravstvene tehnologije;

AH.  ker obstaja širok nabor načinov uporabe umetne inteligence in robotike v zdravstvu, kot so med drugim vodenje zdravstvene dokumentacije in obdelava podatkov, izvajanje ponavljajočega se dela (analize preiskav, rentgensko slikanje, računalniška tomografija (CT), vnos podatkov), načrt zdravljenja, digitalni pregled (na primer zdravniški pregled, ki temelji na osebni zdravstveni anamnezi in splošnem medicinskem znanju), virtualne medicinske sestre, ravnanje z zdravili, izdelava zdravil, precizna medicina (saj genetika in genomika na podlagi informacij v DNK iščeta mutacije in povezave z boleznimi), spremljanje zdravstvenega stanja in analiza zdravstvenega sistema;

AI.  ker dostopnost ne pomeni enakih storitev in naprav za vse; ker dostopnost umetne inteligence in robotike temelji na vključujočem načrtovanju in zasnovi; ker morajo biti izhodišče za zasnovo potrebe, želje in izkušnje uporabnikov;

AJ.  ker obstajajo večji etični, psihološki in pravni pomisleki glede avtonomnosti robotov, njihovega očitnega pomanjkanja človeške empatije in njihovega vpliva na odnos med zdravnikom in pacientom, ki na ravni EU še niso bili ustrezno obravnavani, predvsem v zvezi z varstvom osebnih podatkov pacientov, odgovornostjo ter novimi ekonomskimi in zaposlitvenimi odnosi, ki bodo nastali; ker se lahko prava avtonomija pripiše samo človeku; ker je treba zasnovati trden pravni in etični okvir za umetno inteligenco;

AK.  ker mora uvajanje umetne inteligence v zdravstvo vedno temeljiti na načelu odgovornosti, da stroj upravlja človek;

1.Družba, ki jo podpirata umetna inteligenca in robotika

1.1.Delo v dobi umetne inteligence in robotike

1.  poudarja, da bo avtomatizacija v kombinaciji z umetno inteligenco povečala produktivnost in tako tudi proizvodnjo; ugotavlja, da bodo tako kot v preteklih tehnoloških revolucijah nekatera delovna mesta nadomeščena, hkrati pa bodo nastala tudi nova, kar bo spremenilo življenje in načine dela; poudarja, da bi morala povečana uporaba robotike in umetne inteligence prav tako zmanjšati človekovo izpostavljenost škodljivim in nevarnim dejavnikom, pa tudi prispevati k ustvarjanju več kakovostnih in dostojnih delovnih mest ter povečanju produktivnosti;

2.  poziva države članice, naj se osredotočijo na preusposabljanje delavcev v industrijskih panogah, na katere avtomatizacija dela najbolj vpliva; poudarja, da bi se morali novi izobraževalni programi osredotočati na razvijanje znanj in spretnosti delavcev, da bodo ti lahko izkoristili priložnosti za zaposlitev na novih delovnih mestih, ki bodo nastala z umetno inteligenco; spodbuja razvoj programov za digitalno pismenost v šolah ter razvoj vajeništva in prednostnih področij poklicnega usposabljanja, da bi delavcem pomagali pri prilagajanju na tehnološke spremembe;

3.  priporoča, naj poleg akterjev iz zasebnega sektorja tudi države članice ugotovijo tveganja in razvijejo strategije, s katerimi bodo zagotovile razvoj ustreznih programov preusposabljanja in prekvalificiranja; poudarja, da morajo podjetja sama vlagati v usposabljanje in prekvalificiranje svojih delavcev, da bi zadovoljila njihove potrebe;

4.  poudarja, da bo razvoj robotike v EU močno vplival na odnose med delavci in delodajalci; meni, da bi bilo treba ta vpliv obravnavati na uravnotežen način, da bi spodbudili ponovno industrializacijo in delavcem omogočili tudi to, da izkoristijo večjo produktivnost;

5.  ugotavlja, da v sedanjem industrijskem okolju vlada občutljivo ravnovesje med lastniki in delavci; meni, da bi bilo treba pri uvajanju umetne inteligence v industrijo opraviti široko posvetovanje s socialnimi partnerji, saj je zaradi mogoče spremembe števila zaposlenih v industriji potrebna proaktivna politika, ki bo delavcem pomagala pri prilagajanju na nove zahteve in zagotovila široko izkoriščanje prednosti; ugotavlja, da je za to treba ponovno razmisliti o politikah trga, sistemih socialne varnosti in obdavčitvi ter jih preoblikovati;

6.  poziva države članice, naj odpravijo ovire za vstop na trg dela, kot so previsoke kvalifikacije;

7.  meni, da je digitalna pismenost eden najpomembnejših dejavnikov razvoja umetne inteligence v prihodnosti, ter Komisijo in države članice poziva, naj razvijejo in izvajajo strategije za usposabljanje in preusposabljanje na področju digitalnih kompetenc; ugotavlja, da lahko digitalna pismenost prispeva k širokemu in vključujočemu sodelovanju pri rešitvah podatkovnega gospodarstva ter olajša komunikacijo in sodelovanje z vsemi deležniki;

8.  ugotavlja, da je treba izobraževalne programe prilagoditi, med drugim z uvedbo novih učnih poti in uporabo novih tehnologij podajanja znanja, saj bodo te spremembe vplivale na državljane vseh starosti; poudarja, da bi bilo treba ustrezno obravnavati izobraževalne vidike; meni, da je treba predvsem potrebo po digitalnih kompetencah, vključno z računalniškim programiranjem, upoštevati na vseh ravneh izobraževanja in usposabljanja, ki obsegajo od šolanja v zgodnjih letih do vseživljenjskega učenja;

1.2.Zlonamerna uporaba umetne inteligence in temeljne pravice

9.  poudarja, da bi lahko zlonamerna ali malomarna uporaba umetne inteligence ogrozila digitalno, fizično in javno varnost, saj bi jo lahko uporabili za obsežne, natančno usmerjene in zelo učinkovite napade na storitve informacijske družbe in povezane naprave, pa tudi za kampanje dezinformiranja in na splošno za omejevanje pravice posameznikov do samoodločanja; poudarja, da bi lahko zlonamerna ali malomarna uporaba umetne inteligence prinesla tveganje za demokracijo in temeljne pravice;

10.  poziva Komisijo, naj predlaga okvir, s katerim bi kaznovali manipulacije, ko posamezniku prilagojena vsebina ali spletni viri povzročijo negativne občutke in izkrivljeno dojemanje realnosti, kar ima lahko negativne posledice (na primer v zvezi z rezultati volitev ali izkrivljenim dojemanje družbenih pojavov, kot so migracije);

11.  poudarja pomen prepoznavanja, odkrivanja in spremljanja škodljivih dogodkov pri razvoju umetne inteligence in v zvezi z njo; spodbuja, naj se raziskave o umetni inteligenci osredotočijo tudi na odkrivanje nenamerno ali zlonamerno povzročanje okvar na področju umetne inteligence in robotike;

12.  poziva Komisijo, naj bo pozorna na družbene izzive, ki izhajajo iz razvrščanja državljanov; poudarja, da državljani na podlagi svoje razvrstitve ne bi smeli biti diskriminirani in bi morali imeti pravico do „še ene priložnosti“;

13.  izraža veliko zaskrbljenost zaradi uporabe aplikacij umetne inteligence, vključno s prepoznavanjem obraza in glasu, v programih za nadzorovanje čustev – tj. spremljanje duševnega stanja delavcev in državljanov s ciljem povečati produktivnost in ohraniti družbeno stabilnost –, včasih v kombinaciji s sistemi za točkovanje državljanov, kot je na primer že opaziti na Kitajskem; poudarja, da so ti programi sami po sebi v nasprotju z evropskimi vrednotami in normami, ki ščitijo pravice in svoboščine posameznikov;

2.Tehnološka pot k umetni inteligenci in robotiki

2.1.Raziskave in razvoj

14.  želi spomniti, da ima Evropa vodilno svetovno raziskovalno skupnost na področju umetne inteligence, ki predstavlja 32 % raziskovalnih institucij na področju umetne inteligence po vsem svetu;

15.  pozdravlja predlog Komisije o programu za digitalno Evropo in proračun v višini 2,5 milijarde EUR, namenjen umetni inteligenci, pa tudi povečan obseg sredstev v okviru programa Obzorje 2020; razume, kako pomembno je financiranje EU, ki dopolnjuje proračune držav članic in sredstva za industrijske raziskave, namenjene za področje umetne inteligence, zaveda pa se tudi, da je potrebno sodelovanje med javnimi in zasebnimi raziskovalnimi programi ter programi EU;

16.  podpira operativne cilje programa za digitalno Evropo, da se vzpostavijo in okrepijo osnovne zmogljivosti umetne inteligence v Uniji, da postanejo dostopne vsem podjetjem in javnim upravam ter da se okrepijo in povežejo obstoječi obrati za preizkušanje umetne inteligence in poskuse z njo v državah članicah;

17.  spodbuja države članice, naj oblikujejo partnerstva med več deležniki iz industrije in raziskovalnih inštitutov ter skupne centre odličnosti za umetno inteligenco;

18.  poudarja, da bi bilo treba pri raziskavah na področju umetne inteligence vlagati ne le v razvoj tehnologije in inovacij na podlagi umetne inteligence, temveč tudi v socialne in etične vidike ter vidike odgovornosti, povezane z umetno inteligenco; meni, da bi bilo treba pri vsakem uporabljenem modelu umetne inteligence etični vidik upoštevati že v zasnovi;

19.  poudarja, da sicer spodbuja k napredku v dobro družbe in okolja, a da bi bilo treba raziskave na področju umetne inteligence vseeno izvajati v skladu s previdnostnim načelom in temeljnimi pravicami; poudarja, da bi morali vsi, ki sodelujejo pri razvoju, uvajanju, razširjanju in uporabi umetne inteligence, upoštevati in spoštovati človekovo dostojanstvo, samoodločanje ter telesno in duševno dobrobit posameznika in širše družbe, predvideti bi morali morebitne posledice za varnost in sprejeti potrebne previdnostne ukrepe, sorazmerne z ravnjo zaščite, vključno s takojšnjim razkritjem dejavnikov, ki bi lahko ogrozili javnost ali okolje;

20.  poudarja, da je konkurenčno raziskovalno okolje ključno tudi za razvoj umetne inteligence; poudarja, da je pomembno podpirati odlične raziskave, vključno s temeljnimi znanstvenimi projekti in projekti z visokim tveganjem in velikimi potencialnimi koristmi, ter evropski raziskovalni prostor okrepiti s privlačnimi pogoji za financiranje, mobilnost in dostop do infrastrukture in tehnologije po vsej Uniji, pri čemer je treba izhajati iz načela odprtosti do tretjih držav in strokovnega znanja zunaj Unije, če to ne ogroža kibernetske varnosti EU;

21.  poudarja, da raziskovalci EU še vedno zaslužijo bistveno manj kot njihovi kolegi v ZDA in na Kitajskem, kar velja za glavni razlog za njihov odhod iz Evrope; poziva Komisijo in države članice, naj se osredotočijo na privabljanje vrhunskih talentov v evropska podjetja, in države članice, naj ustvarijo privlačne pogoje zanje;

22.  poudarja, da mora Evropa novo vodilno pobudo FET(7) nameniti umetni inteligenci, s posebnim poudarkom na pristopu, ki je osredotočen na človeka, in jezikovnih tehnologijah;

23.  meni, da umetna inteligenca, strojno učenje in skokovit napredek v zvezi z razpoložljivostjo podatkov in računalništvom v oblaku spodbujajo raziskovalne pobude za razumevanje biologije na molekularni in celični ravni, usmerjanje razvoja zdravljenj in analiziranje tokov podatkov za odkrivanje nevarnosti za zdravje, napovedovanje izbruhov bolezni in svetovanje pacientom; se zaveda, da se lahko tehnike podatkovnega rudarjenja in podatkovne navigacije uporabljajo za ugotavljanje vrzeli, tveganj, trendov in vzorcev;

24.  poudarja, da bi bilo treba v primerih, ko kot neizogiben in sestavni del raziskav umetne inteligence nastajajo tveganja, razviti in spoštovati trdne protokole za ocenjevanje in obvladovanje tveganj ter pri tem upoštevati, da tveganje ne sme biti večje kot v običajnem življenju (tj. da ljudje ne smejo biti izpostavljeni večjim tveganjem, kot so jim izpostavljeni v običajnem življenju);

2.2.Naložbe

25.  ugotavlja, da so večje naložbe na tem področju velikega pomena, če želimo ostati konkurenčni; priznava, da sicer večina naložb in inovacij na tem področju prihaja iz zasebnih podjetij, vendar bi bilo treba države članice in Komisijo prav tako spodbuditi, naj še naprej vlagajo v raziskave v tem sektorju in določijo razvojna prednostna področja; pozdravlja predlog o programu InvestEU in druga javno-zasebna partnerstva, ki bodo spodbujala zasebno financiranje; meni, da bi bilo treba spodbujati usklajevanje naložb iz zasebnega in javnega sektorja, da bi bil razvoj usmerjen;

26.  poudarja, da bi bilo treba naložbe v umetno inteligenco, ki so lahko zelo negotove, dopolniti s sredstvi EU, na primer iz Evropske investicijske banke ali Evropskega investicijskega sklada, ali pa iz sklada InvestEU in Evropskega sklada za strateške naložbe, saj lahko ti načini financiranja pomagajo pri delitvi tveganja;

27.  poziva Komisijo, naj ne dovoli financiranja EU za namene uporabe umetne inteligence v zvezi z orožjem; poziva Komisijo, naj iz financiranja EU izključi podjetja, ki raziskujejo in razvijajo umetno zavest;

28.  Komisiji priporoča, naj zagotovi, da bo intelektualna lastnina, ki izhaja iz raziskav, izvedenih s sredstvi EU, ostala v EU in na evropskih univerzah;

2.3.Inovacije, družbeno sprejemanje in odgovornost

29.  ugotavlja, da je za vsak večji tehnološki napredek potrebno prehodno obdobje, v katerem mora večina družbe pridobiti globlje razumevanje tehnologije in jo vključiti v svoje vsakdanje življenje;

30.  ugotavlja, da je prihodnost te tehnologije odvisna od družbenega sprejemanja ter da je treba več pozornosti nameniti ustreznemu seznanjanju ljudi s koristmi, ki jih prinaša, da bi zagotovili boljše razumevanje te tehnologije in načinov njene uporabe; meni tudi, da bodo prizadevanja za inovacije v sektorju umetne inteligence manjša, če družba ne bo seznanjena s to tehnologijo;

31.  meni, da je sprejemanje umetne inteligence v javnosti odvisno od tega, kako je ta seznanjena s priložnostmi, izzivi in razvojem na tem področju; državam članicam in Komisiji priporoča, naj olajšajo dostop do verodostojnih informacij o glavnih pomislekih glede umetne inteligence in robotike, kot so zasebnost, varnost in preglednost pri odločanju;

32.  pozdravlja uporabo regulativnih peskovnikov za uvajanje inovativnih novih idej v sodelovanju z regulatorji, saj to omogoča, da se v tehnologijo že na začetku vgradijo zaščitni ukrepi ter tako olajša in spodbudi njen vstop na trg; poudarja, da je treba uvesti regulativne peskovnike posebej za umetno inteligenco, ki bodo namenjeni preskušanju varne in učinkovite uporabe tehnologij umetne inteligence v realnem okolju;

33.  ugotavlja, da je treba za večje družbeno sprejemanje umetne inteligence zagotoviti varnost in zaščito uporabljenih sistemov;

34.  ugotavlja, da lahko umetna inteligenca in jezikovna tehnologija ponudita aplikacije, ki bodo pomembno prispevale k enotnosti Evrope v njeni raznolikosti: strojno prevajanje, konverzacijski agenti in osebni pomočniki, programski vmesniki za govorjeni jezik za robote in internet stvari, pametna analitika, avtomatizirano zaznavanje spletne propagande, lažnih novic in sovražnega govora;

2.4.Podporni pogoji: povezljivost, dostopnost podatkov in visokozmogljivostno računalništvo ter infrastruktur v oblaku

35.  poudarja, da je za vključitev robotike in tehnologije umetne inteligence v gospodarstvo in družbo potrebna digitalna infrastruktura, ki bo zagotavljala vseprisotno povezljivost;

36.  poudarja, da je povezljivost pogoj za to, da Evropa postane gigabitna družba in da je umetna inteligenca jasen primer eksponentne rasti povpraševanja po visokokakovostni, hitri, varni in razširjeni povezljivosti; meni, da bi morale Unija in države članice še naprej podpirati ukrepe za spodbujanje naložb v zelo visokozmogljiva omrežja v EU in njihovo uporabo;

37.  poudarja, da je hiter, varen in zanesljiv razvoj tehnologij 5G bistven za zagotovitev, da lahko Unija v celoti izkoristi prednosti umetne inteligence in se zaščiti pred kibernetskimi grožnjami, tako da omogoči obnovo in razvoj industrije in storitev, ki so temelj evropskega gospodarstva, ter podpira nastajanje novih storitev, proizvodnje in trgov, kar je bistveno za ohranitev novih delovnih mest in visoke stopnje zaposlenosti;

38.  opozarja, da je za dejansko konkurenčnost v industriji umetne inteligence bistvena dostopnost zelo kakovostnih in ustreznih podatkov, in poziva javne organe, naj zagotovijo načine za pridobitev, deljenje in upravljanje podatkov, tako da poskrbijo, da so odprti podatki skupna dobrina ter zaščitijo zasebnost in občutljive podatke;

39.  poudarja pomen kakovosti podatkov, ki se uporabljajo za globoko učenje; ugotavlja, da lahko uporaba zastarelih, nepopolnih ali nepravilnih podatkov slabe kakovosti privede do slabih napovedi in posledično do diskriminacije in pristranskosti;

40.  meni, da nov sklop pravil, ki urejajo prosti pretok neosebnih podatkov v Uniji, omogoča, da se za inovacije, ki temeljijo na podatkih, zagotovi vedno več podatkov, kar malim in srednjim podjetjem ter zagonskim podjetjem olajša razvoj novih inovativnih storitev, ki podpirajo uporabo umetne inteligence, in vstop na nove trge, hkrati pa državljanom in podjetjem omogoči, da imajo koristi od boljših izdelkov in storitev;

41.  ugotavlja, da lahko umetna inteligenca poveča učinkovitost, udobje in blaginjo v številnih sektorjih, če uveljavljeni industrijski deležniki sodelujejo z razvijalci umetne inteligence; poleg tega ugotavlja, da je veliko podatkov, ki sami po sebi niso osebni, trenutno v lasti deležnikov, prek partnerstev pa bi jih lahko uporabili in povečali njihovo učinkovitost; meni, da je pogoj, da bi se to uresničilo, sodelovanje med uporabniki in razvijalci umetne inteligence;

42.  poudarja pomen interoperabilnosti in točnosti podatkov, da se zagotovi visoka raven zanesljivosti in varnostnih standardov v novih tehnologijah;

43.  meni, da je za uspeh aplikacij umetne inteligence, prilagojenih uporabnikom po vsej EU, pogosto potrebno zelo dobro poznavanje lokalnih trgov ter dostop do ustreznih lokalnih podatkov in njihova raba za usposabljanje naborov podatkov ter preizkušanje in potrjevanje sistema, zlasti v sektorjih, povezanih z obdelavo naravnega jezika; poziva države članice, naj spodbujajo razpoložljivost visokokakovostnih, interoperabilnih in odprtih podatkov javnega sektorja in zasebnih podatkov;

44.  poudarja, da je treba zagotoviti kar največjo skladnost s politiko EU o velepodatkih;

45.  pozdravlja ukrepe, ki bi olajšali in podprli čezmejno izmenjavo in skupno rabo podatkov;

46.  ugotavlja, da je trenutno izmenjava podatkov veliko manjša, kot bi lahko bila, in da so velike količine podatkov premalo izkoriščene;

47.  priznava, da ni pripravljenosti za izmenjavo podatkov, in poudarja, da so potrebni ukrepi za njeno spodbujanje; ugotavlja, da ima pomanjkanje skupnih standardov tudi pomembno vlogo pri sposobnosti izmenjave podatkov;

48.  pozdravlja predpise, kot je uredba o prostem pretoku podatkov, in pomen, ki ga ima na področjih, kot je umetna inteligenca, da bi omogočili učinkovitejše in uspešnejše procese;

49.  priznava, da je treba uvesti večje tržne spodbude, da bi spodbudili dostop do podatkov in njihovo izmenjavo; ugotavlja, da odprti podatki predstavljajo tveganje za vlaganje v podatke;

50.  poziva k večji jasnosti pravil o lastništvu podatkov in veljavnih pravnih okvirov; ugotavlja, da je regulativna negotovost privedla do preveč previdnega odziva industrije;

51.  poudarja pomen evropskih pobud za računalništvo v oblaku in visokozmogljivostno računalništvo, ki bodo dodatno okrepile razvoj algoritmov globokega učenja in obdelavo velepodatkov; je trdno prepričan, da mora biti za to, da bodo te pobude uspešne in pomembne za razvoj umetne inteligence, infrastruktura odprta tako za javne kot zasebne subjekte s sedežem v Uniji in drugje in da morajo zanjo veljati čim manj omejevalna merila za dostop;

52.  pozdravlja ustanovitev Evropskega skupnega podjetja za visokozmogljivo računalništvo; poudarja, da sta superračunalništvo in podatkovna infrastruktura bistvena za zagotovitev konkurenčnega inovacijskega ekosistema za razvoj tehnologij in aplikacij umetne inteligence;

53.  poudarja, da ima računalništvo v oblaku ključno vlogo pri spodbujanju umetne inteligence; poudarja, da dostop do storitev v oblaku omogoča zasebnim podjetjem, javnim ustanovam, raziskovalnim in akademskim ustanovam ter uporabnikom razvoj in uporabo umetne inteligence na učinkovit in ekonomsko vzdržen način;

3.Industrijska politika

54.  opozarja, da se, medtem ko je uporaba umetne inteligence in robotike že dolgo uveljavljena v industriji, napredek na tem področju širi ter zagotavlja široko in raznoliko uporabo pri vseh človekovih dejavnostih; meni, da mora vsak regulativni okvir vključevati prožnost, ki omogoča inovacije ter prosti razvoj novih tehnologij in uporab za umetno inteligenco;

55.  poudarja, da bi morala biti opredelitev področja uporabe in aplikacij za umetno inteligenco rezultat procesa oblikovanja, ki ga vodijo potrebe in načela, ki upoštevajo načrtovani rezultat in najboljšo pot za njegovo doseganje z gospodarskega in socialnega vidika; meni, da bo obstoj jasnih političnih ciljev v vseh fazah razvoja privedel do izvajanja, ki bo ustrezalo namenu, ter obravnaval tveganja in slabosti;

56.  priporoča uporabo in spodbujanje javno-zasebnih partnerstev za iskanje rešitev za ključne izzive, kot sta izgradnja podatkovnega ekosistema ter spodbujanje dostopa, izmenjave in pretoka podatkov, obenem pa varovanje pravic ljudi do zasebnosti;

57.  poudarja, da so velik izziv za prihodnost sistemov umetne inteligence razlike v kakovosti tehnologije za proizvodnjo programske opreme, zato poudarja veliko potrebo po standardizaciji pri izgradnji in uporabi sistemov umetne inteligence;

58.  je seznanjen z delom, ki se izvaja na svetovni ravni, in priznava, da je treba proaktivno sodelovati s partnerji, zlasti v OECD in skupini G20, da bi smer, v katero se ta industrija razvija, oblikovali tako, da bo EU ostala konkurenčna in bo zagotovljen enakopraven dostop narodov ter delitev koristi, ki jih prinaša razvoj umetne inteligence;

59.  z zaskrbljenostjo ugotavlja, da številna neevropska podjetja in subjekti iz tretjih držav vse bolj uporabljajo modele za napovedovanje, ki temeljijo na umetni inteligenci, za zagotavljanje storitev in pridobivanje dodane vrednosti na trgih EU, zlasti na lokalni ravni, ter za spremljanje in morebitno vplivanje na politično razpoloženje, kar lahko ogrozi tehnološko suverenost državljanov EU;

60.  poudarja, da bi morala biti javna podpora za umetno inteligenco usmerjena v tiste strateške sektorje, v katerih ima industrija EU največje možnosti, da prevzame vodilno vlogo na svetovni ravni in ki nudi dodano vrednost v splošnem javnem interesu;

3.1.Prednostni sektorji

3.1.1.Javni sektor

61.  poudarja, da umetna inteligenca in robotika prinašata številne koristi za javni sektor, in pozdravlja večje naložbe v raziskave in razvoj za zagotovitev razcveta;

62.  poudarja, da bi morale države članice vlagati tudi v programe izobraževanja in usposabljanja na področju umetne inteligence, da bi zaposlenim v javnem sektorju pomagale pri uvedbi in uporabi umetne inteligence in robotike; ugotavlja, da so potrebne tudi informacijske kampanje, namenjene državljanom, ki bodo uporabljali storitve javnega sektorja, ki jih zagotavljajo sistemi umetne inteligence in robotika, da bi pomirili njihove strahove pred izgubo nadzora nad osebnimi podatki in da bi vzpostavili zaupanje;

63.  poudarja, da so informacije javnega sektorja izreden vir podatkov, ki lahko prispevajo k hitremu napredku in oblikujejo novo strategijo za uporabo novih digitalnih tehnologij, zlasti umetne inteligence;

64.  meni, da lahko uporaba zaupanja vredne umetne inteligence v javnem sektorju močno podpre reformo javne uprave pri odločanju in izboljšanje javnih storitev ter spodbuja večjo razširjenost uporabe umetne inteligence v drugih panogah;

65.  je seznanjen z uporabo robotske avtomatizacije procesov in njenim vplivom na izboljšanje procesov v javnem sektorju; ugotavlja, da je interoperabilna z obstoječimi sistemi;

66.  poziva države članice, naj vodijo to digitalno preobrazbo, tako da prevzamejo vlogo primarno odgovornih uporabnikov in kupcev tehnologije umetne inteligence; v zvezi s tem poudarja, da morajo države članice med drugim prilagoditi svoje politike glede podatkov, ki se nanašajo na zbiranje in uporabo javnih podatkov, njihovo hranjenje ali dopolnjevanje, da bi omogočile uporabo umetne inteligence na vseh področjih javnega sektorja;

67.  poudarja, da mora v procesu razvijanja umetne inteligence sodelovati tudi javnost; zato poziva Komisijo, naj vse javno financirane algoritme, orodja in tehnologijo objavi kot odprtokodne;

68.  meni, da bo umetna inteligenca zelo koristna pri izvajanju načela „samo enkrat“, kar bo omogočalo združevanje podatkovnih zbirk in informacij iz različnih virov ter tako olajšalo interakcijo državljanov z javno upravo;

69.  poziva Komisijo, naj zagotovi zaščito državljanov pred vsemi sistemi umetne inteligence v javni upravi za določanje prednostnih seznamov, podobnim tistim, ki naj bi se začeli uporabljati na Kitajskem;

3.1.2.Zdravstvo

70.  poudarja, da je človeški stik ključni vidik nege ljudi;

71.  ugotavlja, da umetna inteligenca in robotika prinašata potencialne koristi za sektor nege in oskrbe, saj se pričakovana življenjska doba podaljšuje, na primer ker pomagata zdravnikom in medicinskim sestram, da imajo več časa za pomembnejše dejavnosti (npr. interakcijo z bolniki);

72.  opozarja na vpliv, ki ga umetna inteligenca že ima na dobro počutje, preventivo, diagnosticiranje in raziskave ter na njen veliki potencial za oblikovanje individualizirane oskrbe; meni, da bo to na koncu privedlo do bolj trajnostnega in učinkovitega zdravstvenega ekosistema, ki bo temeljil na rezultatih;

73.  ugotavlja, da je stopnja napake, kadar se skupaj s človeško diagnozo uporablja umetna inteligenca, bistveno nižja kot v primeru, ko diagnozo postavijo človeški zdravniki sami(8);

74.  poudarja, da je treba uporabo podatkov v zdravstvenem sektorju skrbno in etično spremljati ter da nikakor ne sme ovirati dostopa do socialnega varstva ali zavarovanja;

75.  meni, da bi moral imeti nosilec medicinskega vsadka, pri katerem se uporablja umetna inteligenca, pravico, da pregleda in spremeni izvorno kodo vsadka;

76.  posebno pozornost bi bilo treba nameniti uporabi velepodatkov v zdravstvu, pri čemer je treba skušati čim bolje izkoristiti priložnosti, ki jih lahko prinese, na primer izboljšanje zdravja posameznih bolnikov in uspešnosti sistemov držav članic za javno zdravstvo, ne da bi zniževali etične standarde ali ogrožali zasebnost ali varnost državljanov;

77.  poudarja tudi, da sedanji sistem za odobritev medicinskih pripomočkov morda ni primeren za tehnologije umetne inteligence; poziva Komisijo, naj skrbno spremlja napredek pri teh tehnologijah in naj po potrebi predlaga spremembe regulativnega okvira, da bi vzpostavili okvir za opredelitev, za kaj je odgovoren uporabnik (zdravnik/zdravstveni delavec), za kaj proizvajalec tehnološke rešitve in za kaj zdravstvena ustanova, ki izvaja zdravljenje; poudarja, da je v zdravstvenem sektorju v zvezi z uporabo umetne inteligence osrednji problem vprašanje, kdo je odgovoren za škodo; zato poudarja, da je treba zagotoviti, da uporabniki ne bi zgolj iz strahu pred tožbo kar nekritično podprli diagnostične rešitve ali zdravljenja, ki bi ga predlagal tehnološki instrument, če bi na podlagi svoje informirane strokovne presoje prišli vsaj do rahlo drugačnih ugotovitev;

78.  poziva države članice in Komisijo, naj v javnem in zasebnem sektorju povečajo financiranje tehnologij umetne inteligence, povezanih z zdravjem; v zvezi s tem pozdravlja izjavo o sodelovanju, ki jo je podpisalo 24 držav članic EU in Norveška, da bi se povečal učinek naložb v umetno inteligenco na evropski ravni; poziva države članice in Komisijo, naj proučijo, ali je treba programe usposabljanja medicinskega in zdravstvenega osebja posodobiti in poenotiti na vseevropski ravni, da bi se v državah članicah zagotovili visoka raven strokovnosti in enaki pogoji pri poznavanju in uporabi najsodobnejših tehnoloških instrumentov robotike na področju kirurgije, biomedicine in umetne inteligence za medicinsko slikanje;

79.  poziva Komisijo, naj si prizadeva za strategije in politike, s pomočjo katerih bo EU lahko zavzela vodilno vlogo v svetu na vse večjem področju medicinske tehnologije, pri tem pa zagotovila, da bodo imeli pacienti dostop do nemotene in učinkovite zdravstvene oskrbe;

80.  priznava, da bi boljša diagnostika lahko rešila več milijonov življenj, saj po podatkih Svetovne zdravstvene organizacije 89 % prezgodnjih smrti povzročijo nenalezljive bolezni;

81.  poudarja prispevek umetne inteligence in robotike k inovativnim preventivnim, kliničnim in rehabilitacijskim praksam in tehnologijam v zdravstvenem sektorju, s posebnim poudarkom na koristih, ki jih imajo za invalidne bolnike;

82.  priznava, da je večja uporaba senzorjev na področju robotike razširila področje varstva in oskrbe in bolnikom omogoča, da prejmejo bolj osebno oskrbo in storitve in so deležni nege na daljavo od doma, hkrati pa se tako pridobi več ustreznih podatkov;

83.  priznava, da so po raziskavi Eurobarometra iz maja 2017(9) državljani EU še vedno počutijo nelagodno ob zamisli, da bi robote uporabljali v vsakodnevnem zdravstvenem varstvu; poziva Komisijo in države članice, naj razvijejo strategije in komunikacijske kampanje za ozaveščanje o prednostih vsakodnevne uporabe robotov; zlasti opozarja na ambicije japonske robotske strategije;

3.1.3.Energija

84.  ugotavlja, da umetna inteligenca dobaviteljem energije omogoča, da preidejo od preventivnega k napovednemu vzdrževanju zmogljivosti in dosežejo učinkovitejšo proizvodnjo energije z izboljšanjem zanesljivosti, zlasti za obnovljive vire energije, ter z ugotavljanjem najučinkovitejših lokacij za nove obrate, s čimer se zagotovi boljše upravljanje povpraševanja;

85.  priznava, da bodo bolj natančni podatki za potencial proizvodnje energije iz obnovljivih virov, pridobljeni s pomočjo umetne inteligence, zagotovili večjo naložbeno varnost za podjetja in posameznike, kar bo pospešilo energetski prehod na obnovljive vire energije in prispevalo k dolgoročni strategiji Unije za podnebno nevtralno gospodarstvo;

86.  ugotavlja, da se rešitve, ki vključujejo senzorje, že uporabljajo za upravljanje porabe energije v hišah in so tako omogočili precejšnje prihranke energije in denarja;

87.  pozdravlja potencial umetne inteligence pri modeliranju, prepoznavanju in zmanjševanju vpliva človekovega delovanja na podnebje; ugotavlja, da čeprav večja digitalizacija prinaša tudi nove energetske potrebe, lahko poveča učinkovitost energetsko intenzivnih sektorjev in zagotovi boljše razumevanje procesov, s tem pa izboljša njihovo učinkovitost;

88.  poudarja, da z večjo digitalizacijo energetskega sektorja energetska omrežja postajajo vse večja in bolj izpostavljena kibernetskim grožnjam; poziva države članice in Komisijo, naj digitalno preobrazbo v energetskih sektorjih spremljajo z ukrepi, kot so umetna inteligenca, ki izboljšujejo kibernetsko varnost;

3.1.4.Promet

89.  pozdravlja, da lahko umetna inteligenca in robotika močno izboljšata naše prometne sisteme z uvedbo avtonomnih vlakov in motornih vozil; poziva k številčnejšim raziskavam in naložbam v to področje, da se zagotovi njegov varen in učinkovit razvoj; poudarja izjemne priložnosti za večja tehnološka podjetja ter mala in srednja podjetja;

90.  ugotavlja, da lahko z zmanjševanjem stopnje človeške napake v prometnem sektorju sistem postane učinkovitejši – z manj nesrečami zaradi jasnejših ocen in zmožnosti predvidevanja, ki jo ima tehnologija, manj zamudami, ker lahko sistem evidentira prometne vzorce in storitve opravlja po voznem redu, in večjimi prihranki, ker je manj napak v zvezi z vozniki, in zaradi poenostavljenih notranjih postopkov;

91.  ugotavlja, da bodo zaradi razširjenosti avtonomnih vozil v prihodnosti nastala tveganja za varstvo podatkov in zaradi tehničnih napak, odgovornost pa se bo prenesla z voznika na proizvajalca, zaradi česar bodo morale zavarovalnice spremeniti način vključevanja tveganja v zavarovanje;

92.  ugotavlja, da se govorna komunikacija vse bolj uporablja v interakciji z vozili in prometnimi sistemi, vendar so ti elementi na voljo le za peščico evropskih jezikov, zato je treba vsem Evropejcem zagotoviti, da jih bodo lahko uporabljali v svojem maternem jeziku;

3.1.5.Kmetijstvo in prehranska veriga

93.  ugotavlja, da lahko umetna inteligenca spodbudi korenito preoblikovanje sedanjega prehranskega sistema v bolj raznolik, odporen, regionalno prilagojen in zdrav model za prihodnost;

94.  opozarja na vlogo, ki jo lahko ima umetna inteligenca pri reševanju vprašanja prehranske varnosti, napovedovanju lakote in izbruhov bolezni, ki se prenašajo z živili, zmanjšanju izgub hrane in živilskih odpadkov ter izboljšanju trajnostnega upravljanja zemljišč, vode in drugih okoljskih virov, ki so bistvenega pomena za zdravje ekosistema;

95.  poudarja, da lahko umetna inteligenca posreduje na kritičnih točkah vrednostne verige v prehranskem sistemu od proizvodnje do potrošnje in okrepi našo zmožnost, da z boljšim obveščanjem o praksah prostorskega načrtovanja bistveno spremenimo način proizvodnje, predelave in nakupa hrane;

96.  ugotavlja, da lahko umetna inteligenca izboljša upravljanje virov in učinkovito uporabo proizvodnih sredstev, pomaga zmanjšati nastanek odpadkov po spravilu in vpliva na izbiro potrošnikov;

97.  ugotavlja, da lahko umetna inteligenca v obliki preciznega kmetovanja omogoči temeljito preoblikovanje kmetijske proizvodnje, pa tudi širše upravljanje zemljišč, in sicer z boljšim načrtovanjem rabe zemljišč, napovedovanjem sprememb njihove rabe in spremljanjem zdravja posevkov, obenem pa ima tudi potencial, da spremeni napovedovanje skrajnih vremenskih pojavov;

98.  ugotavlja, da lahko umetna inteligenca korenito spremeni oskrbo s surovinami, zatiranje škodljivcev in upravljanje kmetij, vpliva na načine kmetovanja, spremeni način zagotavljanja zavarovalnih produktov in pomaga napovedati in preprečiti lakote in hude izbruhe akutne podhranjenosti;

99.  ugotavlja, da je s pomočjo umetne inteligence mogoče izboljšati odločanje pri upravljanju kmetijskih sistemov in spodbuditi razvoj sistemov za podporo pri odločanju in sistemov priporočanja ter hkrati izboljšati učinkovitost in zdravje kmetijskih obratov;

3.1.6.Kibernetska varnost

100.  ugotavlja, da je kibernetska varnost pomemben vidik umetne inteligence, zlasti glede na izzive za preglednost pri umetni inteligenci na visoki ravni; meni, da bi bilo treba tehnološki vidik, vključno z revizijo izvorne kode, ter zahteve po preglednosti in odgovornosti dopolniti z institucionalnim pristopom, ki obravnava izzive pri uvajanju umetne inteligence, razvite v drugih državah, na enotni trg EU;

101.  zagovarja hitro izvajanje uredbe o kibernetski varnosti; ugotavlja, da bi razvoj sistemov potrjevanja EU moral zagotoviti odpornejši razvoj in uvedbo varnih sistemov umetne inteligence in robotskih sistemov;

102.  meni, da je umetna inteligenca lahko hkrati kibernetska grožnja in orodje za boj proti kibernetskim napadom; meni, da bi morala Agencija EU za varnost omrežij in informacij (ENISA) pripraviti akcijski načrt o kibernetski varnosti na področju umetne inteligence, v katerem bi morala oceniti in obravnavati grožnje in slabosti, značilne za umetno inteligenco;

103.  poudarja pomen krepitve industrijske baze kot strateškega elementa za varen razvoj umetne inteligence; poudarja, da mora Evropa za zagotovitev ambiciozne ravni kibernetske varnosti, varstva podatkov in zanesljivih storitev IKT vlagati v svojo tehnološko neodvisnost; poudarja, da mora EU nujno razviti lastno infrastrukturo, podatkovne centre, sisteme in komponente v oblaku, kot so grafični procesorji in čipi;

104.  ugotavlja, da bodo zaradi razvoja umetne inteligence in vse bolj izpopolnjenih metod hekerjev nujno potrebne učinkovite rešitve za kibernetsko varnost;

105.  priznava, da bo uvajanje rešitev umetne inteligence na področju kibernetski varnosti omogočilo napovedovanje, preprečevanje in blaženje groženj;

106.  poudarja, da bo umetna inteligenca lahko zagotovila boljše odkrivanje groženj, vendar je treba nujno zagotoviti, da te grožnje oceni človek, da se ugotovi, ali so pristne ali ne;

107.  poziva Komisijo, naj preuči uporabo aplikacij kibernetske varnosti na podlagi blokovne verige, ki izboljšujejo odpornost, zaupanje in trdnost infrastruktur umetne inteligence s posrednimi modeli šifriranja podatkov; poziva Komisijo, naj preuči možnost, da državljane za njihove podatke nagradi z boni;

108.  poziva Komisijo, naj okrepi zmogljivosti EU za kibernetsko varnost z nadaljnjim združevanjem in usklajevanjem prizadevanj v Evropi;

3.1.7.Mala in srednja podjetja

109.  priznava pomen MSP za uspeh umetne inteligence; pozdravlja pobudo Komisije za vzpostavitev platforme umetne inteligence na zahtevo, ki bo spodbujala prenos tehnologije in rast zagonskih podjetij ter malih in srednjih podjetij; poziva Komisijo, naj spodbuja vozlišča za digitalne inovacije, ki ne vodijo k oblikovanju dodatnih upravnih ravni, temveč se bodo osredotočila na pospeševanje naložb v projekte, ki so se izkazali za učinkovite;

110.  ugotavlja, da stroški naložb v umetno inteligenco ustvarjajo velike ovire za vstop malih in srednjih podjetij; priznava, da če bi bila umetna inteligenca široko sprejeta pri potrošnikih, bi se zmanjšalo tveganje teh naložb za mala in srednja podjetja;

111.  poudarja, da je treba spodbujati uporabo umetne inteligence pri malih in srednjih podjetij ter pri potrošnikih;

112.  poudarja pomen ciljnih ukrepov za zagotovitev, da lahko mala in srednja podjetja ter zagonska podjetja sprejmejo tehnologije umetne inteligence in imajo koristi od njih; meni, da bi morala biti ocena učinka nove zakonodaje EU na tehnološki razvoj umetne inteligence obvezna in da je treba razmisliti o izvedbi takih ocen učinka tudi na nacionalni ravni;

113.  poudarja, da je lahko umetna inteligenca gonilo za mala in srednja podjetja, hkrati pa povečuje učinek velikih prvih uporabnikov in razvijalcev; zato s stališča konkurence poudarja, da je treba zagotoviti ustrezno oceniti in obravnavati nova izkrivljanja;

4.Pravni okvir za umetno inteligenco in robotiko

114.  poziva Komisijo, naj z namenom spodbujanja zakonodajnega okolja, ki je ugodno za razvoj umetne inteligence in skladno z načelom boljše pravne ureditve, redno ocenjuje veljavno zakonodajo, da bi zagotovila njeno ustreznost glede umetne inteligence, pri čemer je treba upoštevati temeljne vrednote EU, in naj poskuša spremeniti ali nadomestiti nove predloge, če se ugotovi nasprotno;

115.  pozdravlja vzpostavitev participativnih platform na podlagi umetne inteligence, ki državljanom omogočajo, da se njihov glas sliši in da se lahko obrnejo na vlade s svojimi predlogi, tudi prek participativnih proračunov in drugih instrumentov neposredne demokracije; poudarja, da lahko projekti od spodaj navzgor spodbujajo udeležbo državljanov in pomagajo ljudem pri sprejemanju informiranih odločitev na učinkovitejši in bolj demokratičen način;

116.  Ugotavlja, da pojem umetne inteligence obsega širok spekter proizvodov in načinov uporabe, od avtomatizacije, algoritmov in ozke umetne inteligence do splošne umetne inteligence; meni, da je treba k celovitemu zakonu ali uredbi o umetni inteligenci pristopiti previdno, saj lahko sektorska ureditev zagotovi dovolj splošne politike, ki so hkrati dovolj dodelane, da so smiselne za industrijski sektor;

117.  poudarja, da mora biti politični okvir zasnovan tako, da spodbuja razvoj vseh vrst umetne inteligence in ne le sistemov globokega učenja, za kar je potrebna ogromna količina podatkov;

4.1.Notranji trg za umetno inteligenco

118.  poudarja pomen načela vzajemnega priznavanja pri čezmejni uporabi pametnega blaga, vključno z roboti in robotskimi sistemi; opozarja, da bi lahko po potrebi s preskušanjem, certificiranjem in varnostjo proizvodov zagotovili, da je nekatero blago varno po zasnovi in privzeto varno; v zvezi s tem ugotavlja, da je pomembno tudi delo v zvezi z etičnimi vidiki umetne inteligence;

119.  poudarja, da bi morala zakonodaja EU o izvajanju strategije za enotni digitalni trg odpraviti ovire za uporabo umetne inteligence; poziva Komisijo, naj oceni, kjer je treba posodobiti politike in regulativne okvire, da bi vzpostavili enotni evropski trg za umetno inteligenco;

120.  je seznanjen, da se tehnologija na področju robotike in umetne inteligence čedalje bolj uporablja na področju avtonomnih vozil, kot so avtonomni avtomobili in brezpilotni zrakoplovi za civilne namene; ugotavlja, da nekatere države članice že izvajajo ali obravnavajo zakonodajo na tem področju, kar bi lahko privedlo do različnih nacionalnih zakonov, kar bi oviralo razvoj avtonomnih vozil; zato poziva k enotnemu naboru predpisov EU, s katerimi bomo poiskali pravo ravnovesje med interesi uporabnikov, podjetij in drugih zainteresiranih strani ter morebitnimi tveganji zanje, obenem pa se izognili pretiranemu urejanju na področju robotike in sistemov umetne inteligence;

121.  poziva države članice, naj posodobijo svoje sisteme poklicnega usposabljanja in izobraževanja, da bi se upoštevala znanstveni napredek in razvoj na področju umetne inteligence v skladu z direktivo o preizkusu sorazmernosti(10) in direktivo o poklicnih kvalifikacijah(11), ter da bi bile lahko strokovne službe EU v prihodnjih desetletjih konkurenčne na svetovni ravni;

122.  poudarja, da se umetna inteligenca uporablja za različne sektorje, v katerih je standardizacija zelo pomembna, kot so pametna proizvodnja, robotika, avtonomna vozila, navidezna resničnost, zdravstvo in analiza podatkov, ter meni, da bo standardizacija na ravni EU na področju umetne inteligence spodbudila inovacije in visoko raven varstva potrošnikov; priznava, da sicer obstaja veliko standardov o vprašanjih, kot so varnost, zanesljivost in interoperabilnost, vendar sta kljub temu potrebna nadaljnja promocija in razvoj skupnih standardov za robotiko in umetno inteligenco, kar bi moralo biti del prednostnih nalog Unije; poziva Komisijo, naj v sodelovanju z organi za standardizacijo EU še naprej dejavno sodeluje z mednarodnimi organi za standardizacijo, da bi se izboljšali standardi na tem področju;

123.  opozarja, da so številni vidiki politike, pomembni za storitve, ki podpirajo uporabo umetne inteligence, vključno s pravili o varstvu potrošnikov ter politiko o etiki in odgovornosti, vključeni v obstoječi regulativni okvir za storitve, in sicer direktivo o storitvah(12), direktivo o poklicnih kvalifikacijah in direktivo o e-trgovanju(13); v zvezi s tem poudarja, da morajo končno odločitev vedno sprejeti ljudje, zlasti v strokovnih poklicih na področjih, kot so zdravstvo, pravo in računovodstvo; meni, da je potreben premislek o tem, ali je nadzor, ki ga izvaja usposobljen strokovnjak, potreben, da bi zaščitili legitimne cilje v javnem interesu in zagotovili kakovostne storitve;

124.  priznava pomen izboljšanih digitalnih storitev, kot so virtualni pomočniki, klepetalnice ali virtualni agenti, ki omogočajo izjemno operativno učinkovitost, pri čemer je ustrezno priznava, da je treba razviti tržno umetno inteligenco, usmerjeno v ljudi, da bi zagotovili boljše in zanesljivejše odločitve ob upoštevanju omejitev avtonomije umetne inteligence in robotike;

4.2.Osebni podatki in zasebnost

125.  poudarja, da je treba v zvezi s podatki, ki se uporabljajo za komunikacijo med ljudmi, roboti in umetno inteligenco, zagotoviti visoko raven varnosti, zaščite in zasebnosti; poziva Komisijo in države članice, naj zato v svoje politike v zvezi z robotiko in umetno inteligenco vključijo načela vgrajene varnosti in zasebnosti;

126.  znova opozarja, da se pravica do varstva zasebnega življenja in varstva osebnih podatkov, kot je zapisana v členih 7 in 8 Listine o temeljnih pravicah ter členu 16 Pogodbe o delovanju Evropske unije, uporablja za vsa področja robotike in umetne inteligence in da je treba v celoti upoštevati okvir Unije za varstvo podatkov; poudarja, da imajo načrtovalci na področju robotskih sistemov in umetne inteligence odgovornost, da razvijajo varne, zaščitene in namenu prilagojene izdelke in da sledijo postopkom obdelave podatkov, ki so skladni z veljavno zakonodajo, zaupnostjo, anonimnostjo, pravično obravnavo in dolžnim pravnim postopanjem;

127.  poziva Komisijo, naj zagotovi, da bo vsa zakonodaja Unije o umetni inteligenci vključevala ukrepe in pravila, ki upoštevajo hiter tehnološki razvoj na tem področju, s čimer bi zagotovili, da zakonodaja Unije ne bo zaostajala za krivuljo tehnološkega razvoja in uporabe; poudarja, da mora biti ta zakonodaja skladna s pravili o zasebnosti in varstvu podatkov; poziva k pregledu predpisov, načel in meril za uporabo kamer in senzorjev v robotih in v zvezi z umetno inteligenco v skladu s pranim okvirom Unije za varstvo podatkov;

128.  poziva Komisijo, naj poskrbi, da bodo vsi prihodnji okviri EU na področju umetne inteligence zagotavljali zasebnost, zaupnost komunikacij in varstvo osebnih podatkov, vključno z načeli zakonitosti, poštenosti in preglednosti, vgrajenega in privzetega varstva podatkov, omejitve namena in shranjevanja ter točnosti in zmanjšanja količine podatkov, in sicer popolnoma v skladu z zakonodajo Unije o varstvu podatkov, ter da bodo hkrati jamčili zaščito, osebno varnost in druge temeljne pravice, kot so pravica do svobode izražanja in obveščanja;

129.  poudarja, da je vedno treba spoštovati pravico do zasebnosti in da posameznikov ne bi smelo biti mogoče osebno identificirati; poudarja, da bi moral imeti razvijalec umetne inteligence vedno jasno, nedvoumno in informirano privolitev ter da imajo ti razvijalci odgovornost, da razvijejo in spoštujejo postopke za veljavno privolitev, zaupnost, anonimnost, pošteno obravnavo in dolžno pravno postopanje; poudarja, da morajo razvijalci izpolniti vsako zahtevo po uničenju kakršnih koli povezanih podatkov in njihovi odstranitvi iz podatkovnega niza;

130.  opozarja, da Uredba (EU) 2018/1807 Evropskega parlamenta in Sveta z dne 14. novembra 2018 o okviru za prosti pretok neosebnih podatkov v Evropski uniji(14) določa, da bi se morali, če bo tehnološki razvoj omogočil pretvorbo anonimiziranih podatkov v osebne, takšni podatki obravnavati kot osebni podatki, ob ustrezni uporabi splošne uredbe o varstvu podatkov(15);

4.3.Odgovornost

131.  pozdravlja pobudo Komisije za ustanovitev strokovne skupine za odgovornost in nove tehnologije, ki naj bi EU zagotavljala strokovno znanje o uporabi direktive o odgovornosti za proizvode(16) pri tradicionalnih proizvodih, novih tehnologijah in novih družbenih izzivih (oblikovanje direktive o odgovornosti za proizvode) ter ji pomagala pri razvoju načel, ki bi lahko služila kot smernice za morebitne prilagoditve obstoječih zakonov na ravni EU in nacionalni ravni v zvezi z novimi tehnologijami (oblikovanje novih tehnologij);

132.  obžaluje pa, da v tem zakonodajnem obdobju ni bil predložen noben zakonodajni predlog, zaradi česar je prišlo do zamude pri posodobitvi pravil o odgovornosti na ravni EU, ogrožena pa je tudi pravna varnost EU na tem področju za trgovce in potrošnike;

133.  ugotavlja, da bi morali inženirji umetne inteligence ali podjetja, ki jih zaposlujejo, odgovorni za posledice, ki bi jih lahko imeli sistemi umetne inteligence ali robotika na družbo, okolje in zdravje ljudi sedanje in prihodnjih generacij;

4.4.Varstvo potrošnikov in opolnomočenje

134.  poudarja, da je zaupanje potrošnikov bistvenega pomena za razvoj umetne inteligence in da sistemi, ki temeljijo na umetni inteligenci, obdelujejo vse več potrošniških podatkov, zaradi česar so glavni cilj kibernetskih napadov; poudarja tudi, da mora umetna inteligenca delovati tako, da ne škodi državljanom in potrošnikom, ter meni, da je zato treba zagotoviti celovitost podatkov in algoritmov, na katerih temelji;

135.  meni, da bi morali za tehnologije umetne inteligence, razvite tako za proizvodnjo kot za individualno uporabo, organi za nadzor trga izvesti pregled varnosti izdelka ter da bi morala zanje veljati pravila o varstvu potrošnikov, saj bi tako po potrebi zagotovili minimalne varnostne standarde in upoštevali tveganje nesreč zaradi stika s človekom ali delovanja v bližini človeka; meni, da bi bilo treba vprašanja etičnosti in varstva podatkov, vključno s podatki tretjih oseb in osebnih podatkov, civilne odgovornost in kibernetske varnosti obravnavati na vseh področjih politike o umetni inteligenci;

4.5.Pravice intelektualne lastnine

136.  želi spomniti na zgoraj omenjeno resolucijo z dne 16. februarja 2017, v kateri ugotavlja, da ni zakonskih določb, ki bi se posebej uporabljale za robotiko, temveč da se za to področje lahko uporabljajo obstoječe pravne ureditve in doktrine, čeprav se zdi, da je treba nekatere vidike posebej obravnavati; znova poziva Komisijo, naj podpira horizontalen in tehnološko nevtralen pristop do intelektualne lastnine v različnih sektorjih, v katerih bi se lahko uporabljala robotika;

137.  v zvezi s tem pozdravlja sporočilo Komisije institucijam o smernicah o nekaterih vidikih Direktive 2004/48/ES Evropskega parlamenta in Sveta o uveljavljanju pravic intelektualne lastnine(17) (COM(2017)0708), vendar poudarja, da je treba spremljati ustreznost in učinkovitost pravil o pravicah intelektualne lastnine za urejanje razvoja umetne inteligence; v zvezi s tem poudarja pomen preverjanja ustreznosti;

5.Etični vidiki

138.  meni, da bi morali ukrepi in aplikacije umetne inteligence upoštevati etična načela in ustrezno nacionalno in mednarodno pravo ter pravo Unije;

139.  poziva k oblikovanju listine najboljše prakse na področju etike za umetno inteligenco in robotiko, ki bi jo morali upoštevati podjetja in strokovnjaki;

140.  poziva Komisijo in države članice, naj spodbujajo tesno in pregledno sodelovanje med javnostjo, zasebnim sektorjem in akademskim svetom, s katerim bi okrepili širjenje znanja ter izobraževanje in usposabljanje načrtovalcev o etičnih posledicah, varnosti in spoštovanju temeljnih pravic, pa tudi potrošnikov o uporabi robotike in umetne inteligence, s posebnim poudarkom na varnosti in zasebnosti podatkov;

141.  poziva Komisijo, naj zagotovi, da aplikacije na podlagi umetne inteligence ne bodo uporabljale podatkov, zbranih iz različnih virov, ne da bi predhodno pridobile privolitev posameznika, na katerega se nanašajo osebni podatki; poziva Komisijo, naj oblikuje okvir, ki bo zagotovil, da bo privolitev posameznika, na katerega se nanašajo osebni podatki, ustvarila podatke samo za predvidene namene;

142.  poziva Komisijo, naj spoštuje pravico državljanov do življenja zunaj spleta in zagotovi, da državljani ne bodo diskriminirani glede na to, o kom so bili podatki zabeleženi;

5.1.Tehnologija, usmerjena v ljudi

143.  poudarja, da morajo biti vzpostavljena etična pravila, da bi zagotovili razvoj umetne inteligence, usmerjene v ljudi, odgovornost in preglednost sistemov algoritemskega odločanja, jasna pravila o odgovornosti in poštenost;

144.  pozdravlja pobudo Komisije za ustanovitev strokovne skupine na visoki ravni za umetno inteligenco in vzpostavitev zavezništva EU za umetno inteligenco, da bi zagotovili etične smernice za umetno inteligenco; poziva Komisijo, naj zagotovi čim večjo uporabo teh etičnih smernic v industriji, akademskih krogih in v javnih organih; priporoča, naj države članice smernice vključijo v svoje nacionalne strategije za umetno inteligenco in naj vzporedno z izdelavo in uvajanjem umetne inteligence razvijejo dejanske strukture odgovornosti za industrijo in vlade;

145.  meni, da je stalno spremljanje izvajanja etičnih smernic za umetno inteligenco in njihovega učinka na razvoj umetne inteligence, usmerjene v človeka, bistvenega pomena; poziva Komisijo, naj preuči, ali prostovoljne etične smernice zadostujejo za zagotovitev, da vključujoča, etično povezana uveljavitev umetne inteligence ne ustvarja gospodarskih in socialnih razlik v družbah EU, ter po potrebi predlaga regulativne in politične ukrepe;

146.  je seznanjen z nedavnim razvojem pri spremljanju vedenjske analize in prilagajanju nanjo; poziva Komisijo, naj razvije etični okvir, ki bo omejil njeno uporabo; poziva Komisijo, naj poskrbi za ozaveščenost in začne informacijsko kampanjo o umetni inteligenci ter njeni uporabi v zvezi z vedenjsko analizo;

5.2.Vrednote, vgrajene v tehnologiji – etična zasnova

147.  poudarja, da bi moral etični okvir za usmerjanje temeljiti na načelih dobronamernosti, neškodovanja, avtonomnosti in pravičnosti ter na načelih in vrednotah iz člena 2 Pogodbe o delovanju Evropske unije in Listine EU o temeljnih pravicah, kot so človekovo dostojanstvo, enakost, sodno varstvo in pravičnost, nediskriminacija, informirana privolitev, zasebno in družinsko življenje ter varstvo podatkov, pa tudi drugih temeljnih načelih in vrednotah iz prava Unije, kot so nestigmatizacija, preglednost, samostojnost, osebna in družbena odgovornost, ter na zdajšnjih etičnih praksah in veljavnih kodeksih;

148.  meni, da bi morala Evropa prevzeti vodilno vlogo v svetu z uporabo samo etično vključene umetne inteligence; poudarja, da je treba za dosego tega zagotoviti upravljanje etike na področju umetne inteligence na različnih ravneh; priporoča, naj države članice ustanovijo organe za spremljanje in nadzor etične umetne inteligence ter spodbuja podjetja, ki razvijajo umetno inteligenco, naj ustanovijo odbore za etiko in pripravijo etične smernice za njihove razvijalce umetne inteligence;

149.  poudarja, da morajo evropski standardi za umetno inteligenco temeljiti na načelih digitalne etike, človekovega dostojanstva, spoštovanja temeljnih pravic ter varstva in zaščite podatkov, da bi prispevali h krepitvi zaupanja med uporabniki; poudarja, da je pomembno izkoristiti možnosti EU za vzpostavitev močne infrastrukture za sisteme umetne inteligence, ki bodo temeljili na visokih standardih podatkov in spoštovanju ljudi; ugotavlja, da je treba v razvoj umetne inteligence vključiti preglednost in razložljivost;

150.  ugotavlja, da bi bilo treba pri avtomatiziranem orožju še naprej uporabljati pristop, da mora biti pri umetni inteligenci nadzor v rokah človeka;

5.3.Odločanje – meje samostojnosti umetne inteligence in robotike

151.  poudarja težavnost in kompleksnost napovedovanja prihodnjega vedenja številnih kompleksnih sistemov umetne inteligence in novega vedenja pri medsebojni interakciji sistemov umetne inteligence; poziva Komisijo, naj oceni, ali so potrebne posebne ureditve za sprejemanje odločitev, ki uporablja umetno inteligenco;

152.  ugotavlja, da bo umetna inteligenca ostala uporabno orodje za sodelovanje pri ljudeh, da bi izboljšali njeno učinkovitost in zmanjšali število napak;

153.  poziva, naj imajo ljudje pravico do obveščenosti, pritožbe in pravnega sredstva, kadar se umetna inteligenca uporablja za odločitve, ki vplivajo na posameznike in ki pomenijo znatno tveganje za posameznikove pravice ali svobodo ali mu lahko škodujejo;

154.  poudarja, da algoritmov v sistemih odločanja ne bi smeli uporabljati brez predhodne ocene algoritemskega vpliva, razen kadar je jasno, da nimajo pomembnega vpliva na življenje posameznikov;

155.  meni, da bi morali za umetno inteligenco, zlasti za sisteme z vgrajeno avtonomijo, vključno z zmožnostjo neodvisnega pridobivanja, zbiranja in izmenjave občutljivih informacij za različnimi deležniki, ter možnostjo samostojnega učenja ali celo razvoja k samospreminjanju, veljati trdna načela; poudarja, da sistemi umetne inteligence ne smejo hraniti ali razkrivati zaupnih osebnih podatkov brez izrecne odobritve vira teh informacij;

5.4.Preglednost, pristranskost in obrazložljivost algoritmov

156.  izpostavlja, da ima umetna inteligenca sicer velike koristi za avtomatizacijo in odločanje, vendar prinaša tudi tveganje, kadar so algoritmi statični in nepregledni; v zvezi s tem poudarja, da je potrebna večja preglednost algoritmov;

157.  poziva Komisijo, države članice in organe za varstvo podatkov, naj odkrivajo diskriminacijo in pristranskost v algoritmih in si ju po najboljših močeh prizadevajo zmanjšati ter naj zasnujejo trden skupni etični okvir za pregledno obdelavo osebnih podatkov in avtomatizirano odločanje, ki bo usmerjal uporabo podatkov in izvrševanje zakonodaje Unije;

158.  poudarja, da je treba vse sisteme umetne inteligence razviti ob spoštovanju načel preglednosti in algoritemske odgovornosti, kar bo omogočalo, da bo lahko človek razumel njena dejanja in poteze; želi opozoriti, da morajo uporabniki za izgradnjo zaupanja in dejanski napredek umetne inteligence vedeti, kako se uporabljajo njihovi podatki in iz njih izpeljani podatki, ko komunicirajo ali imajo stik s sistemom umetne inteligence ali s človekom, ki se opira na sistem umetne inteligence; meni, da bo to prispevalo k boljšemu razumevanju in zaupanju uporabnikov; poudarja, da se mora v skladu s členi 13, 14 in 15 splošne uredbe o varstvu podatkov kot standard EU uporabljati načelo razumljivosti odločitev; želi spomniti, da splošna uredba o varstvu podatkov že določa pravico do obveščenosti o razlogih za obdelavo podatkov; poudarja, da imajo posamezniki v skladu z njenim členom 22 pravico do človeškega posredovanja, kadar jih znatno zadeva odločitev, ki temelji zgolj na avtomatizirani obdelavi podatkov;

159.  poudarja, da bi morali imeti Komisija, Evropski odbor za varstvo podatkov, nacionalni organi za varstvo podatkov in drugi neodvisni nadzorni organi v prihodnosti ključno vlogo pri spodbujanju preglednosti in dolžnega pravnega postopanja, pravne varnosti na splošno in, gledano ožje, tudi konkretnih standardov, ki bodo ščitili temeljne pravice in jamstva, povezana z uporabo obdelave podatkov in podatkovne analitike; poziva k tesnejšemu sodelovanju med organi, pristojnimi za nadzor in urejanje ravnanja v digitalnem okolju; poziva, naj se tem organom zagotovi ustrezno financiranje in dovolj osebja;

160.  priznava, da so algoritmi za strojno učenje usposobljeni, da se učijo sami, kar koristi avtomatizaciji in sprejemanju odločitev; poziva k etičnim smernicam za umetno inteligenco, ki bodo obravnavale vprašanja, povezana z algoritemsko preglednostjo, obrazložljivostjo, odgovornostjo in pravičnostjo;

161.  poudarja pomen obrazložljivosti rezultatov, procesov in vrednot sistemov umetne inteligence, da so razumljivi za netehnično publiko in ji zagotavljajo smiselne informacije, ki so potrebne za oceno pravičnosti in pridobitev zaupanja;

162.  poudarja, da nepreglednost teh tehnologij in njihove uporabe poraja številna etična vprašanja;

163.  ugotavlja, da bi morali biti sistemi umetne inteligence obrazložljivi za ljudi in bi jim morali zagotoviti smiselne informacije, da se lahko pridobijo povratne informacije; priznava, da je uspešnost modelov umetne inteligence odvisna od povratnih informacij in ponovne ocene ter ta proces spodbuja;

164.  ugotavlja, da so državljani zaskrbljeni, ker ne vedo, kdaj se umetna inteligenca uporablja in katere informacije bodo obdelane; priporoča, naj se jasno razkrije, kdaj državljani uporabljajo umetno inteligenco; poudarja, da je za ohranitev zaupanja potrošnikov pomembno, da so preneseni podatki varni;

165.  meni, da bi morali algoritmično odgovornost urejati oblikovalci politik z ocenami učinka na podlagi uveljavljenih parametrov;

166.  ugotavlja, da razkritje računalniške kode ne bi rešilo vprašanja v zvezi z umetno inteligenco, ker ne bi pokazalo obstoječe pristranskosti in ne bi pojasnilo postopka strojnega učenja; poudarja, da preglednost ne pomeni samo preglednost kode, temveč tudi podatkov in avtomatiziranega sprejemanja odločitev;

167.  priznava, da bi lahko razkritje izvorne kode privedlo do nepravilne uporabe in izigravanja algoritmov;

168.  poudarja, da je pomembno urediti vprašanje razvijalčeve pristranskosti in da je zato v vseh vejah informacijskotehnološkega sektorja potrebna dovolj raznolika delovna sila, obvarovati pa je treba tudi mehanizme, s katerimi bi v sistemih umetne inteligence preprečevali pristranskost glede spola in starosti;

169.  priznava, da bi razkritje kode ali poslovnih skrivnostni tudi odvračalo podjetja od raziskav in razvoja nove kode, saj bi bila njihova intelektualna lastnina ogrožena; ugotavlja, da bi moral razvoj umetne inteligence namesto tega spodbujati interoperabilnost modelov in njihovo interakcijo z vhodnimi in izobraževalnimi podatki;

170.  priznava, da lahko preglednost in obrazložljivost sicer razkrijeta pomanjkljivosti, vendar ne zagotavljata zanesljivosti, varnosti in pravičnosti; zato meni, da je odgovornost bistvenega pomena za doseganje zaupanja vredne umetne inteligence, ki ga je mogoče pridobiti na različne načine, kot so ocene algoritemskega vpliva, revizije in certificiranje;

171.  poudarja, da je treba oblikovati protokole za stalno spremljanje in ugotavljanje pristranskosti algoritmov;

172.  opozarja, da bi morali oblikovalci algoritmov zagotoviti izpolnjevanje bistvenih zahtev, kot sta pravičnost in obrazložljivost, in sicer od začetka faze načrtovanja in nato vzdolž vsega razvojnega cikla;

173.  ugotavlja, da morajo smernice vsebovati opise dobrih razvojnih praks;

174.  poudarja, da je pomembno prikazati potek razvoja, da bi lahko sledili zgodovini modela umetne inteligence; meni, da bo to izboljšalo razumevanje modelov in pomagalo vzpostaviti zaupanje na podlagi njihove zgodovine;

175.  poudarja, da mora biti uporaba sistemov umetne inteligence jasno opredeljena v interakciji z uporabniki;

176.  poudarja, da je treba pri razširjanju umetne inteligence in robotike v celoti upoštevati človekove pravice, v strojih in robotih pa se nikakor ne bi smeli odražati stereotipi glede žensk ali druge oblike diskriminacije;

177.  poudarja, da lahko celo visokokakovostni učni podatki pomagajo vzdrževati diskriminativno in nepravično stanje, če se ne uporabljajo skrbno in previdno; se zaveda, da lahko uporaba nizkokakovostnih, zastarelih, nepopolnih ali napačnih podatkov v različnih fazah obdelave podatkov privede do slabih napovedi in ocen ter s tem do pristranskosti, ki se utegne sčasoma preleviti v kršitve temeljnih pravic ali popolnoma napačne sklepe in neresnične izide; zato je prepričan, da je v dobi velepodatkov res pomembno zagotoviti, da se algoritmi razvijajo na reprezentativnih vzorcih visokokakovostnih podatkov, da bomo dosegli statistično pariteto; poudarja, da tudi če se uporabijo natančni in visokokakovostni podatki, lahko napovedna analiza na podlagi umetne inteligence ponudi le statistično verjetnost; želi opomniti, da se smejo v skladu s splošno uredbo o varstvu podatkov pri nadaljnji obdelavi osebnih podatkov v statistične namene ustvarjati zgolj zbirni podatki, ki jih ni mogoče ponovno povezati s posamezniki;

178.  poziva Komisijo, naj zagotovi, da vsi, ki proizvajajo globoke ponaredke, sintetične videoposnetke ali druge realistično izdelane sintetične videoposnetke, izrecno navedejo, da ne gre za izvirnike;

179.  ugotavlja, da se umetna inteligenca privzeto zanaša na zbiranje velikih količin podatkov in pogosto tudi na ustvarjanje novih podatkovnih zbirk, ki se uporabljajo za izdelavo domnev o ljudeh; meni, da bi se bilo treba osredotočiti na opredelitev in izdelavo mehanizmov za odzivanje na morebitne grožnje, da bi ublažili negativne učinke;

180.  znova opozarja, da sistemi umetne inteligence ne bi smeli ustvarjati ali krepiti pristranskosti; poudarja, da je treba pri razvoju in uporabi algoritmov v vse faze, od zasnove do izvajanja, vključiti premisleke o pristranskosti in pravičnosti; poudarja, da je treba podatkovne nize in algoritme redno preverjati, da bi zagotovili natančno sprejemanje odločitev;

6.Upravljanje

6.1.Usklajevanje na ravni Unije

181.  poziva Komisijo, naj si prizadeva za razvoj močnega vodstva EU, ki bo preprečilo podvajanje in razdrobljenost prizadevanj ter zagotovilo dosledne politike na nacionalni ravni in izmenjavo primerov dobre prakse za širšo uporabo umetne inteligence;

182.  pozdravlja različne nacionalne strategije, ki jih razvijajo države članice; pozdravlja usklajeni načrt Komisije o umetni inteligenci, objavljen 7. decembra 2018; poziva k boljšemu sodelovanju med državami članicami in Komisijo na tem področju;

183.  ugotavlja, da več držav članic že ima svoje nacionalne strategije za umetno inteligenco, in pozdravlja dejstvo, da so vse države članice aprila 2018 podpisale Deklaracijo o sodelovanju na področju umetne inteligence; prav tako pozdravlja prihajajoči usklajen načrt o umetni inteligenci med Komisijo in državami članicami, vendar poziva vse vpletene strani, naj si prizadevajo za čim višjo raven sodelovanja;

184.  meni, da je nujno okrepljeno sodelovanje med državami članicami in Komisijo, da se v Uniji zagotovijo skladna čezmejna pravila, ki bodo spodbujala sodelovanje znotraj evropske industrije in po vsej Uniji omogočala uporabo umetne inteligence, ki bo ustrezala zahtevanim stopnjam varnosti in varovanja ter etičnim načelom, vsebovanim v pravu Unije;

185.  poudarja, da bi harmoniziran, na tveganju temelječ in progresiven okvir EU za podatkovno politiko povečal zaupanje in podporo za razvoj umetne inteligence v Evropi, s čimer bi zagotovili dokončanje enotnega digitalnega trga in povečali produktivnost podjetij, ki imajo sedež v Evropi;

186.  priporoča, naj bodo obstoječe in prihodnje pobude in pilotni projekti, povezani umetno inteligenco, ki jih izvaja Komisija, tesno usklajevani, po možnosti pod mentorstvom predlaganega nadzornega mehanizma, da bi izkoristili sinergijske učinke in zagotovili ustvarjanje dejanske dodane vrednosti, hkrati pa preprečili drage dvojne strukture;

187.  poziva Komisijo in države članice, naj preučijo oblikovanje evropske regulativne agencije za umetno inteligenco in algoritemsko odločanje z naslednjimi nalogami:

   vzpostavitev oceno tveganja za razvrstitev algoritemskih tipov in domen uporabe glede na njihov potencial za znaten negativen vpliv na državljane;
   preiskava uporabe algoritemskih sistemov, kadar obstaja sum kršitve človekovih pravic (na primer, kadar dokaze predloži žvižgač);
   svetovanje drugim regulativnim agencijam o algoritemskih sistemih v njihovi pristojnosti;
   krepitev učinkovitosti mehanizma odškodninske odgovornosti kot sredstva za urejanje odgovornosti algoritemskih sistemov, in sicer z zagotavljanjem kontaktne točke za državljane, ki ne poznajo pravnih postopkov;
   revizija ocen algoritemskega vpliva za sisteme z učinkom na visoki ravnim, da bi odobrili ali zavrnili predlagane uporabe algoritemskega odločanja pri zelo občutljivih domenah uporabe in/ali domenah uporabe, ki so kritične za varnost (na primer zasebno zdravstveno varstvo); ocene algoritemskega vpliva za uporabo v zasebnem sektorju bi lahko potekale po podobnem postopku kot tistem, ki je predlagan za javni sektor, s potencialno razliko, da bi se različne stopnje javnega razkritja lahko obravnavale kot zaupne komunikacije z regulativno agencijo (v okviru sporazuma o nerazkrivanju podatkov), da se zaščitijo bistvene poslovne skrivnosti;
   preiskave domnevnih primerov kršitev pravic s strani algoritemskih sistemov odločanja, tako za posamezne odločitve (na primer posamezna odstopanja) kot za statistične vzorce odločanja (na primer diskriminatorna pristranskost); preiskave se lahko sprožijo po vložitvi pritožb ali na podlagi dokazov, ki jih predložijo žvižgači, raziskovalni novinarji ali neodvisni raziskovalci (tudi nevladne organizacije in akademiki);

188.  je seznanjen s tekočim delom Mednarodne organizacije za standardizacijo (ISO) na področju umetne inteligence in poziva države članice, naj usklajujejo svoje člane te organizacije, da bi pri razvoju standardov na tem področju ustrezno zastopali evropske interese;

6.2.Mednarodno upravljanje

189.  pozdravlja vzpostavitev opazovalne skupine za politiko umetne inteligence OECD in poziva k večjim ambicijam glede razvoja načrta za nadaljnje sodelovanje;

190.  poudarja različne modele, ki jih razvijajo v tretjih državah, zlasti v ZDA, na Kitajskem, v Rusiji in Izraelu, ter pristop, ki temelji na vrednotah, ki se uporablja v Evropi, in potrebo po sodelovanju z mednarodnimi partnerji v dvostranskih in večstranskih forumih za etični napredek in uveljavitev umetne inteligence; priznava, da ta tehnologija nima meja in zahteva sodelovanje, ki presega zgolj sodelovanje med državami članicami EU;

191.  poziva Komisijo, naj deluje na mednarodni ravni, da bi zagotovila čim večjo doslednost med mednarodnimi akterji in na svetovni ravni branila etična načela EU;

192.  poudarja, da je umetna inteligenca tehnologija z globalnim učinkom, ki zagotavlja skupne koristi in na postavlja pred podobne izzive; poudarja potrebo po globalnem pristopu, kot v primeru gospodarskega sistema, zlasti ko gre za tehnologijo, ki ima znaten vpliv na trge; poudarja, da morajo obstoječe institucije in organizacije uvrstiti umetno inteligenco na svoj dnevni red in poziva k oceni potrebe po dodatnih forumih, ki bi bili ustanovljeni po potrebi;

o
o   o

193.  naroči svojemu predsedniku, naj to resolucijo posreduje Svetu in Komisiji.

(1) UL C 252, 18.7.2018, str. 239.
(2) UL C 307, 30.8.2018, str. 163.
(3) Sprejeta besedila, P8_TA(2018)0341.
(4) Sprejeta besedila, P8_TA(2018)0332.
(5) UL L 252, 8.10.2018, str. 1.
(6) COM(2018)0237.
(7) Prihodnje in nastajajoče tehnologije.
(8) OECD Digital Economy Outlook 2017.
(9) Special Eurobarometer 460.
(10) Direktiva (EU) 2018/958 Evropskega parlamenta in Sveta z dne 28. junija 2018 o preskusu sorazmernosti pred sprejetjem nove regulacije poklicev (UL L 137, 9.7.2018, str. 25).
(11) Direktiva 2013/55/EU Evropskega parlamenta in Sveta z dne 20. novembra 2013 o spremembi Direktive 2005/36/ES o priznavanju poklicnih kvalifikacij in Uredbe (EU) št. 1024/2012 o upravnem sodelovanju prek informacijskega sistema za notranji trg (uredba IMI) (UL L 354, 28.12.2013, str. 132).
(12) Direktiva 2006/123/ES Evropskega parlamenta in Sveta z dne 12. decembra 2006 o storitvah na notranjem trgu (UL L 376, 27.12.2006, str. 36).
(13) Direktiva 2000/31/ES Evropskega parlamenta in Sveta z dne 8. junija 2000 o nekaterih pravnih vidikih storitev informacijske družbe, zlasti elektronskega poslovanja na notranjem trgu (Direktiva o elektronskem poslovanju) (UL L 178, 17.7.2000, str. 1).
(14) UL L 303, 28.11.2018, str. 59.
(15) Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (UL L 119, 4.5.2016, str. 1).
(16) Direktiva Sveta 85/374/EGS z dne 25. julija 1985 o približevanju zakonov in drugih predpisov držav članic v zvezi z odgovornostjo za proizvode z napako (UL L 210, 7.8.1985, str. 29).
(17) UL L 195, 2.6.2004, str. 16.

Zadnja posodobitev: 13. februar 2019Pravno obvestilo