Indeks 
 Prethodno 
 Sljedeće 
 Cjeloviti tekst 
Postupak : 2018/2088(INI)
Faze dokumenta na plenarnoj sjednici
Odabrani dokument : A8-0019/2019

Podneseni tekstovi :

A8-0019/2019

Rasprave :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Glasovanja :

PV 12/02/2019 - 9.20
Objašnjenja glasovanja

Doneseni tekstovi :

P8_TA(2019)0081

Usvojeni tekstovi
PDF 240kWORD 82k
Utorak, 12. veljače 2019. - Strasbourg Privremeno izdanje
Sveobuhvatna europska industrijska politika o umjetnoj inteligenciji i robotici
P8_TA-PROV(2019)0081A8-0019/2019

Rezolucija Europskog parlamenta od 12. veljače 2019. o sveobuhvatnoj europskoj industrijskoj politici o umjetnoj inteligenciji i robotici (2018/2088(INI))

Europski parlament,

–  uzimajući u obzir svoju Rezoluciju od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici(1),

–  uzimajući u obzir svoju Rezoluciju od 1. lipnja 2017. o digitalizaciji europske industrije(2),

–  uzimajući u obzir svoju Rezoluciju od 12. rujna 2018. o autonomnim oružanim sustavima(3);

–  uzimajući u obzir svoju Rezoluciju od 11. rujna 2018. o jezičnoj ravnopravnosti u digitalnom dobu(4),

–  uzimajući u obzir Prijedlog Komisije od 6. lipnja 2018. o uspostavi programa Digitalna Europa za razdoblje 2021. – 2027. (COM(2018)0434);

–  uzimajući u obzir Uredbu Vijeća (EU) 2018/1488 od 28. rujna 2018. o osnivanju Zajedničkog poduzeća za europsko računalstvo visokih performansi(5);

–  uzimajući u obzir članak 52. Poslovnika,

–  uzimajući u obzir izvješće Odbora za industriju, istraživanje i energetiku i mišljenja Odbora za unutarnje tržište i zaštitu potrošača, Odbora za pravne poslove, Odbora za građanske slobode, pravosuđe i unutarnje poslove te Odbora za okoliš, javno zdravlje i sigurnost hrane (A8-0019/2019),

A.  budući da bi transparentna i etična umjetna inteligencija i robotika mogle obogatiti naše živote i poboljšati naše sposobnosti, i kao pojedinaca i radi općeg interesa;

B.  budući da se razvoj umjetne inteligencije odvija ubrzanim tempom i budući da je umjetna inteligencija već nekoliko godina prisutna u našoj svakodnevnici; budući da umjetna inteligencija i robotika potiču inovacije, dovode do novih poslovnih modela te imaju ključnu ulogu u preobrazbi naših društava i digitalizaciji naših gospodarstava u mnogim sektorima, kao što su industrija, zdravstvo, građevinarstvo i promet;

C.  budući da su za sve veću integraciju robotike u ljudske sustave potrebne snažne političke smjernice o načinu povećanja prednosti i smanjenja rizika za društvo te osiguravanje sigurnog i pravednog razvoja umjetne inteligencije;

D.  budući da je umjetna inteligencija jedna od strateških tehnologija za 21. stoljeće na globalnoj i europskoj razini te donosi pozitivne promjene za europsko gospodarstvo, omogućujući inovativnost, produktivnost, konkurentnost i dobrobit;

E.  budući da se otprilike četvrtina svih industrijskih robota i polovica svih robota za profesionalne usluge u svijetu proizvodi u europskim poduzećima te da EU stoga već ima važne resurse na kojima treba temeljiti svoju europsku industrijsku politiku;

F.  budući da bi umjetna inteligencija i robotika mogle preoblikovati mnoge industrije i dovesti do veće učinkovitosti proizvodnje te pridonijeti globalnoj konkurentnosti europske industrije te malih i srednjih poduzeća; budući da je dostupnost skupova podataka velikih razmjera te objekata za testiranje i eksperimentiranje ključna za razvoj umjetne inteligencije;

G.  budući da će zajednički pristup olakšati razvoj tehnologija umjetne inteligencije na korist društva, istodobno rješavajući izazove koje te tehnologije predstavljaju kako bi se potaknule inovacije, poboljšala kvaliteta proizvoda i usluga omogućenih umjetnom inteligencijom, poboljšalo iskustvo potrošača i njihovo povjerenje u tehnologije umjetne inteligencije i robotiku te izbjegla rascjepkanost unutarnjeg tržišta;

H.  budući da se računalna učinkovitost u Uniji mora održati na vodećoj razini, čime bi se trebale pružiti prilike za opskrbnu industriju EU-a i povećati njezina učinkovitost u preusmjeravanju tehnoloških razvoja na proizvode i usluge koji se traže i temeljene na aplikacijama, što bi dovelo do njihova povećanja i sve veće primjene na temelju umjetne inteligencije;

I.  budući da je EU-u hitno potreban koordiniran pristup na europskoj razini kako bi se mogao natjecati s golemim ulaganjima trećih zemalja, osobito SAD-a i Kine;

J.  budući da se Komisija 25. travnja 2018.(6) obvezala predložiti europski pristup umjetnoj inteligenciji razradom nacrta smjernica o umjetnoj inteligenciji u suradnji s dionicima iz Europskog saveza za umjetnu inteligenciju, skupinom stručnjaka za umjetnu inteligenciju, kako bi se u Europi podržale aplikacije i poslovni subjekti utemeljeni na umjetnoj inteligenciji;

K.  budući da je potrebno revidirati te, prema potrebi, izmijeniti postojeća pravila i procese kako bi se uzelo u obzir umjetnu inteligenciju i robotiku;

L.  budući da se europski okvir za umjetnu inteligenciju mora oblikovati uz potpuno poštovanje prava utvrđenih u Povelji Europske unije o temeljnim pravima, osobito u pogledu načela zaštite podataka, privatnosti i sigurnosti;

M.  budući da se razvoj umjetne inteligencije može i treba oblikovati tako da se očuvaju dostojanstvo, autonomija i samoodređenje pojedinca;

N.  budući da je u svojoj rezoluciji od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici Parlament pozvao Komisiju da predloži usklađeni pravni okvir u pogledu razvoja robotike, uključujući autonomne sustave i pametne autonomne robote;

O.  budući da u razvoj umjetne inteligencije i robotike treba uključiti društvo u cjelini; međutim, budući da ruralna područja u 2017. uglavnom nisu profitirala od umjetne inteligencije jer 8 % domova nije bilo pokriveno nikakvom fiksnom mrežom, a njih 53 % nije bilo pokriveno pristupnom tehnologijom sljedeće generacije (VDSL, Cable Docsis 3.0 ili FTTP);

P.  budući da razvoj usluga i proizvoda omogućenih umjetnom inteligencijom zahtijeva povezivost, slobodan protok podataka i pristupačnost podataka u EU-u; budući da uporaba naprednih tehnika rudarenja podataka u uslugama i proizvodima može pridonijeti povećanju kvalitete odlučivanja, a time i izbora potrošača, te poboljšati poslovne rezultate;

Q.  budući da razvoj tehnologije pametnih proizvoda i usluga može koristiti gospodarstvu znanja, koje se temelji na količini, kvaliteti i pristupačnosti dostupnih informacija, i stoga može dovesti do bolje prilagodbe potrebama potrošača;

R.  budući da je kibersigurnost ključna kako bi se zajamčilo da se podatke zlonamjerno ne oštećuje ili zloupotrebljava s namjerom da umjetna inteligencija djeluje na način koji šteti građanima ili poduzećima, što bi potkopalo povjerenje industrije i potrošača u umjetnu inteligenciju; budući da se razvojem umjetne inteligencije povećava oslanjanje na te sustave u poduzimanju radnji i donošenju odluka, što zahtijeva visoke standarde kiberotpornosti u EU-u radi zaštite od povreda i propusta u području kibersigurnosti;

S.  budući da trend usmjeren na automatizaciju zahtijeva da subjekti uključeni u razvoj i stavljanje na tržište aplikacija umjetne inteligencije od samog početka razmišljaju o sigurnosti i etici, čime se priznaje da oni moraju biti spremni prihvatiti pravnu odgovornost za kvalitetu tehnologije koju proizvode;

T.  budući da bi se izgradnja pouzdanog ekosustava za razvoj tehnologije umjetne inteligencije trebala temeljiti na arhitekturi politike za postupanje s podacima; budući da to podrazumijeva stvaranje razumljivih i pojednostavljenih programa za prikupljanje podataka i upravljanje njima u svrhu obrazovnih istraživanja kako bi se omogućio razvoj umjetne inteligencije u mnogim područjima: medicinskom, financijskom, biološkom, energetskom, industrijskom, kemijskom ili javnom sektoru; budući da bi ekosustav umjetne inteligencije koji se temelji na podacima mogao obuhvaćati paneuropske inicijative pokrenute na temelju otvorenih standarda, uzajamnog priznavanja certifikata i transparentnih pravila o interoperabilnosti;

U.  budući da se korištenjem same umjetne inteligencije ne jamči istina ili pravednost jer način prikupljanja podataka i pisanja algoritma može dovesti do pojave elementa pristranosti koji može proizlaziti iz pristranosti u društvu; budući da bi se kvalitetom podataka, zajedno s algoritamskim dizajnom i stalnim postupcima ponovnih evaluacija trebala spriječiti pristranost;

V.  budući da bi umjetnu inteligenciju i robotiku trebalo razviti i primjenjivati na način usmjeren na ljude u svrhu pružanja potpore na radnom mjestu i kod kuće; budući da se umjetna inteligencija može iskoristiti i za izbjegavanje izlaganja ljudi radu na opasnim radnim mjestima;

W.  budući da daljnji razvoj i povećana upotreba automatiziranog i algoritamskog donošenja odluka nesumnjivo utječe na konačne odluke potrošačke, poslovne ili administrativne prirode koje donosi pojedinac (primjerice poslovni subjekt ili internetski korisnik) ili administrativno, pravosudno ili drugo javno tijelo; budući da je u postupak automatiziranog i algoritamskog donošenja odluka potrebno uvrstiti zaštitne mjere i mogućnost ljudske kontrole i verifikacije;

X.  budući da se strojnim učenjem također postavljaju izazovi u pogledu jamčenja nediskriminacije, pravednog postupka, transparentnosti i razumljivosti u postupcima donošenja odluka;

Y.  budući da umjetna inteligencija predstavlja važan alat za rješavanje globalnih društvenih izazova te da bi države članice stoga trebale u okviru javne politike promicati ulaganja, stavljati na raspolaganje sredstva za istraživanje i razvoj te rješavati prepreke razvoju i prihvaćanju umjetne inteligencije;

Z.  budući da su komercijalne platforme za umjetnu inteligenciju prešle iz faze testiranja na stvarnu primjenu u zdravstvu, okolišu, energiji i prometu; budući da su tehnike strojnog učenja u središtu svih glavnih internetskih platformi i aplikacija utemeljenih na velikim podacima;

AA.  budući da se istraživači i poduzeća u Europi bave širokim rasponom tema u području ulančanih blokova koje obuhvaćaju lanac opskrbe, državne službe, financije, internet stvari, zdravstvo, medije, pametne gradove, energetiku i promet; budući da je Europa snažan akter u važnim područjima povezanim s ulančanim blokovima kao što je umjetna inteligencija; budući da ulančani blokovi mogu imati važnu ulogu u poboljšanju europskih inovacija;

AB.  budući da su tehnologije kibersigurnosti kao što su digitalni identiteti, kriptografija ili otkrivanje neovlaštenog ulaska te njihova primjena u područjima kao što su financije, industrija 4.0, energetika, prijevoz, zdravstvena skrb i e-uprava ključne za osiguravanje zaštite i povjerenja u internetske aktivnosti i transakcije građana, javnih uprava i poduzeća;

AC.  budući da rudarenje teksta i podataka služi kao temelj za umjetnu inteligenciju i primjenu strojnog učenja te da je od ključnog značaja za mala i srednja poduzeća te novoosnovana poduzeća jer im omogućuje pristup velikim količinama podataka za oblikovanje algoritama umjetne inteligencije;

AD.  budući da se umjetna inteligencija može pokazati vrlo energetski intenzivnom; budući da je s obzirom na to važno da uporaba umjetne inteligencije napreduje u skladu s postojećim ciljevima EU-a u pogledu učinkovitosti i ciljeva kružnog gospodarstva;

AE.  budući da bi se umjetnom inteligencijom trebali u cijelosti podržavati svi europski jezici kako bi se svim Europljanima pružile jednake mogućnosti iskorištavanja prednosti suvremenog razvoja umjetne inteligencije u okviru višejezičnog europskog informacijskog društva;

AF.  budući da je u industriji i uslugama povezanima s visokom tehnologijom umjetna inteligencija ključ koji će Europi omogućiti da s pomoću najnovijih tehnologija za poticanje rasta postane „start-up kontinent”, osobito u domenama zdravstvene tehnologije, zdravstvenih usluga i programa, otkrivanja lijekova, robotske i robotski potpomognute kirurgije, liječenja kroničnih bolesti te medicinskog snimanja i bilježenja, kao i osiguravanja održivog okruženja i sigurne proizvodnje hrane; budući da Europa trenutačno zaostaje u odnosu na Sjevernu Ameriku i Aziju u smislu istraživanja i patentiranja umjetne inteligencije;

AG.  budući da bi razvoj tehnologija umjetne inteligencije mogao pomoći da se poboljša život osoba s kroničnim bolestima i invaliditetom te da se savladaju društveni izazovi kao što je starenje stanovništva s pomoću zdravstvenih tehnologija koje bi bile preciznije i djelotvornije u pružanju zdravstvene zaštite;

AH.  budući da umjetna inteligencija i robotika imaju brojne moguće primjene u zdravstvenoj skrbi, kao što je upravljanje zdravstvenim kartonima i podacima, izvođenje rutinskih zadataka (analiza testova, rendgen, CT snimke, unos podataka), planiranje liječenja, digitalno savjetovanje (primjerice, medicinsko savjetovanje temeljeno na osobnoj povijesti bolesti i općem znanju medicine), virtualne medicinske sestre, davanje lijekova, otkrivanje lijekova, precizna medicina (kao što je genetička i genomička pretraga mutacija i povezivanje bolesti s informacijama iz DNK-a), praćenje zdravlja i analiza zdravstvenog sustava, među ostalim primjenama;

AI.  budući da pristupačnost ne znači jednake usluge i uređaje za sve; budući da se pristupačnost umjetne inteligencije i robotike temelji na uključivom planiranju i dizajnu; budući da potrebe, želje i iskustva korisnika trebaju biti početna točka u dizajnu;

AJ.  budući da postoje snažne etičke, psihološke i pravne dvojbe u vezi s autonomijom robota, njihovim očitim nedostatkom ljudske empatije i utjecajem na odnos liječnika i pacijenta koje još nisu istražene na odgovarajući način na razini Unije, osobito u vezi sa zaštitom osobnih podataka pacijenata, odgovornošću za njihove postupke te s novim gospodarskim i radnim odnosima koji će nastati; budući da „autonomija” kao takva može biti samo osobina ljudskih bića; budući da postoji potreba za snažnim pravnim i etičkim okvirom u pogledu umjetne inteligencije;

AK.  budući da se uvođenje umjetne inteligencije osobito u područje zdravlja uvijek mora temeljiti na načelu odgovornosti „čovjek upravlja strojem”;

1.Umjetna inteligencija i robotika kao potporanj društva

1.1.Rad u doba umjetne inteligencije i robotike

1.  naglašava da će automatizacija u kombinaciji s umjetnom inteligencijom dovesti do povećanja produktivnosti, a time i ostvarenja; napominje da će se, kao i u okviru prethodnih tehnoloških revolucija, neka radna mjesta zamijeniti drugima i da će se stvoriti nova radna mjesta koja će transformirati živote i radne prakse; ističe da bi se povećanom uporabom robotike i umjetne inteligencije također trebala smanjiti izloženost ljudi štetnim i opasnim uvjetima te da bi se njima također trebalo pomoći u stvaranju kvalitetnijih i dostojanstvenih radnih mjesta i poboljšanju produktivnosti;

2.  potiče države članice da se usmjere na prekvalificiranje radnika u industrijama na koje automatizacija zadaća najviše utječe; naglašava da bi nove obrazovne programe trebalo usmjeriti na razvijanje vještina radnika kako bi mogli iskoristiti poslovne prilike povezane s novim radnim mjestima stvorenima s pomoću umjetne inteligencije; potiče razvoj programa digitalne pismenosti u školama, razvoj naukovanja i prioriteta strukovnog osposobljavanja kako bi se radnicima pomoglo da se prilagode tehnološkim promjenama;

3.  preporučuje da države članice, zajedno s akterima iz privatnog sektora, utvrde rizike i razviju strategije kako bi se zajamčio razvoj relevantnih programa ponovnog osposobljavanja i prekvalifikacije; naglašava da sama poduzeća moraju ulagati u osposobljavanje i prekvalifikaciju postojeće radne snage kako bi zadovoljila svoje potrebe;

4.  naglašava da će razvoj robotike u EU-u imati snažan učinak na industrijske odnose; smatra da taj učinak treba rješavati na uravnotežen način kako bi se promicala reindustrijalizacija i omogućilo radnicima da također uživaju u povećanju produktivnosti;

5.  napominje da u postojećoj strukturi industrije postoji osjetljiva ravnoteža između vlasnika i radnika; smatra da bi napredak u provedbi umjetne inteligencije u industriji trebalo ostvariti s pomoću opsežnog savjetovanja sa socijalnim partnerima jer su za potencijalnu promjenu broja osoba koje rade u industriji potrebne proaktivne politike kako bi se radnicima pomoglo u prilagodbi na nove zahtjeve te kako bi se osiguralo da dobici budu široko rasprostranjeni; napominje da je potrebno ponovno razmatranje i oblikovanje politika tržišta rada, sustava socijalne sigurnosti i oporezivanja;

6.  poziva države članice da uklone prepreke priključivanju radnoj snazi kao što su prekomjerne kvalifikacije;

7.  smatra da je digitalna pismenost jedan od najvažnijih čimbenika za budući razvoj umjetne inteligencije te potiče Komisiju i države članice da razviju i nastave sa strategijama za osposobljavanje i prekvalifikaciju u području digitalnih vještina; napominje da se digitalnom pismenošću može podržati široko sudjelovanje u rješenjima podatkovnog gospodarstva te olakšati komunikacija i suradnja sa svim dionicima;

8.  napominje da je, uzimajući u obzir da će to utjecati na građane svake dobi, potrebno prilagoditi obrazovne kurikule, uključujući s pomoću uspostave novih načina učenja i upotrebe novih tehnologija isporuke; naglašava da bi na odgovarajući način trebalo pristupiti obrazovnim aspektima; osobito smatra da je obrazovanjem i osposobljavanjem, od ranih školskih dana do cjeloživotnog učenja, potrebno obuhvatiti digitalne vještine, uključujući kodiranje;

1.2.Zlouporaba umjetne inteligencije i temeljnih prava

9.  naglašava da bi zlonamjerna ili nemarna upotreba umjetne inteligencije mogla značiti prijetnju za digitalnu te fizičku i javnu sigurnost jer bi se mogla upotrijebiti za opsežne, precizne i iznimno uspješne napade na usluge informacijskog društva i s njima povezane strojeve te za kampanje širenja dezinformacija i općenito smanjivanje prava pojedinaca na samoodređenje; ističe da bi se zlonamjernom ili nemarnom upotrebom umjetne inteligencije moglo ugroziti demokraciju i temeljna prava;

10.  poziva Komisiju da predloži okvir kojim se kažnjavaju prakse manipulacije percepcijom kad personalizirani sadržaji ili novosti prouzrokuju negativne osjećaje i iskrivljuju percepciju stvarnosti, što bi moglo imati negativne posljedice (primjerice u pogledu ishoda izbora ili iskrivljene percepcije o društvenim pitanjima kao što su migracije);

11.  naglašava važnost prepoznavanja, utvrđivanja i praćenja disruptivnog razvoja u području umjetne inteligencije; potiče da se istraživanje u području umjetne inteligencije usmjeri i na otkrivanje slučajno ili zlonamjerno oštećene umjetne inteligencije i robotike;

12.  poziva Komisiju da uzme u obzir društvene izazove na temelju praksi koje proizlaze iz rangiranja građana; ističe da se građani ne bi smjeli diskriminirati na temelju njihova ranga i trebaju imati pravo na „drugu priliku”;

13.  izražava veliku zabrinutost zbog primjene aplikacija umjetne inteligencije, uključujući prepoznavanje lica i glasa, u programima „emocionalnog nadzora”, odnosno praćenje psihičkog stanja radnika i građana kako bi se povećala produktivnost i očuvala socijalna stabilnost, čemu se katkad pridodaju i sustavi „socijalnih kredita”, kakvi su, primjerice, već uspostavljeni u Kini; naglašava da je priroda takvih programa sama po sebi u suprotnosti s europskim vrijednostima i standardima kojima se štite prava i slobode pojedinaca;

2.Tehnološki put prema umjetnoj inteligenciji i robotici

2.1.Istraživanje i razvoj

14.  podsjeća na činjenicu da Europa ima vodeću svjetsku zajednicu za istraživanje umjetne inteligencije, koja čini 32 % svih istraživačkih instituta u području umjetne inteligencije u svijetu;

15.  pozdravlja prijedlog Komisije o programu Digitalna Europa i proračun od 2,5 milijardi EUR koji je namijenjen za umjetnu inteligenciju, kao i povećano financiranje u okviru programa Obzor 2020; razumije da je važno financiranjem EU-a nadopunjavati proračune država članica i proračune za industrijska istraživanja u području umjetne inteligencije te da je potrebna suradnja između javnih i privatnih istraživačkih programa te istraživačkih programa EU-a;

16.  podržava operativne ciljeve programa Digitalna Europa u pogledu izgradnje i jačanja ključnih kapaciteta u području umjetne inteligencije u Uniji kako bi bili dostupni svim poduzećima i javnim upravama te kako bi se jačali i povezali postojeći objekti za testiranje i eksperimentiranje u području umjetne inteligencije u državama članicama;

17.  potiče države članice da razvijaju partnerske odnose s više sudionika u cijeloj industriji i istraživačkim institutima, kao i zajedničke centre izvrsnosti za umjetnu inteligenciju;

18.  naglašava da bi istraživanja u području umjetne inteligencije trebala ulagati ne samo u razvoj tehnologije umjetne inteligencije i inovacija u području umjetne inteligencije nego i u društvena i etička područja te područja odgovornosti povezana s umjetnom inteligencijom; smatra da bi svaki uvedeni model umjetne inteligencije trebao imati integrirana etička načela;

19.  naglašava da bi se istraživačke i druge aktivnosti u području umjetne inteligencije trebale provoditi u skladu s načelom predostrožnosti i temeljnim pravima te istodobno poticati napredak za društvo i okoliš; naglašava da bi svi koji su uključeni u razvoj, provedbu, širenje i upotrebu umjetne inteligencije trebali uzeti u obzir i poštovati ljudsko dostojanstvo i samoodređenje te fizičku i psihološku dobrobit pojedinaca i cijelog društva, predvidjeti moguće sigurnosne učinke te poduzeti mjere predostrožnosti proporcionalne razini zaštite, uključujući brzo otkrivanje čimbenika koji bi mogli ugroziti javnost ili okoliš;

20.  naglašava da je konkurentno istraživačko okruženje također ključno za razvoj umjetne inteligencije; naglašava važnost podupiranja izvrsnih istraživanja, uključujući temeljne znanosti te visokorizične i vrlo isplative projekte, te poticanja europskog istraživačkog područja privlačnim uvjetima za financiranje, mobilnost i pristup infrastrukturi i tehnologiji u cijeloj Uniji na temelju načela otvorenosti prema trećem zemljama i stručnosti koja se nalazi izvan Unije, pod uvjetom da se time ne ugrožava kibernetička sigurnost EU-a;

21.  naglašava činjenicu da istraživači u EU-u i dalje zarađuju znatno manje od svojih kolega u SAD-u i Kini, što je poznato kao glavni razlog njihova odlaska iz Europe; poziva Komisiju i države članice da se usredotoče na privlačenje vrhunskih talenata u europska poduzeća, a države članice da stvore privlačne uvjete;

22.  naglašava da Europa mora nove vodeće inicijative FET(7) posvetiti umjetnoj inteligenciji, s posebnim naglaskom na pristupu usmjerenom na čovjeka i jezične tehnologije;

23.  smatra da se umjetnom inteligencijom, strojnim učenjem i eksponencijalnim skokovima u dostupnosti podataka i računalstvu u oblaku potiču istraživačke inicijative u svrhu razumijevanja biologije na molekularnoj i staničnoj razini, usmjerava razvoj liječenja i analiziraju tokovi podataka radi otkrivanja opasnosti za zdravlje, predviđanja pojave bolesti i savjetovanja pacijenata; napominje da se tehnike rudarenja podataka i navigacije podacima mogu primjenjivati za utvrđivanje nedostataka, rizika, trendova i obrazaca povezanih sa skrbi;

24.  naglašava da je, kad je opasnost neizbježan i sastavni dio istraživanja umjetne inteligencije, potrebno sastaviti i poštovati stroge protokole za procjenu rizika i upravljanje njima uzimajući u obzir da opasnost od štete ne bi trebala biti veća od one u svakodnevnom životu (tj. ljudi ne bi trebali biti izloženi većim ili dodatnim opasnostima u odnosu na one kojima su izloženi u uobičajenom načinu života);

2.2.Ulaganja

25.  napominje da su veća ulaganja u ovo područje važna radi zadržavanja konkurentnosti; iako uviđa da većina ulaganja i inovacija u tom području potječe od poduzeća u privatnom sektoru, ujedno smatra da bi trebalo potaknuti države članice i Komisiju na daljnje ulaganje u istraživanja u tom sektoru i utvrđivanje prioriteta u pogledu razvoja; pozdravlja prijedlog u okviru programa InvestEU i druga javno-privatna partnerstva kojima će se poticati privatno financiranje; smatra da treba poticati koordinaciju između ulaganja javnog i privatnog sektora s ciljem jamčenja usmjerenog razvoja;

26.  naglašava da bi se ulaganja u umjetnu inteligenciju, koja se mogu okarakterizirati kao u znatnoj mjeri nesigurna, trebala dopuniti financiranjem EU-a, primjerice sredstvima Europske investicijske banke (EIB) ili Europskog investicijskog fonda (EIF), fonda InvestEU i Europskog fonda za strateška ulaganja (EFSU), programa koji mogu pomoći u podjeli rizika;

27.  potiče Komisiju da ne dopusti financiranje EU-a za umjetnu inteligenciju u svrhu naoružanja; potiče Komisiju da isključi iz financiranja EU-a poduzeća koja istražuju i razvijaju umjetnu svijest;

28.  preporučuje Komisiji da zajamči da EU i europska sveučilišta zadrže intelektualno vlasništvo nad istraživanjima koja su financirana sredstvima EU-a;

2.3.Inovacije, društveno prihvaćanje i odgovornost

29.  napominje da je za svaki veliki tehnološki napredak bilo potrebno prijelazno razdoblje u kojem je većinski dio društva trebao bolje shvatiti tehnologiju i integrirati je u svoj svakodnevni život;

30.  napominje da budućnost te tehnologije ovisi o društvenom prihvaćanju te da se veći naglasak mora staviti na adekvatno informiranje o njezinim koristima s ciljem jamčenja boljeg razumijevanja te tehnologije i njezine primjene; isto tako napominje da će, ukoliko društvo ne bude informirano o tehnologiji umjetne inteligencije, to dovesti do manjka motivacije za inovacije u tom sektoru;

31.  smatra da prihvaćanje javnosti ovisi o tome kako se javnost informira o mogućnostima, izazovima i razvoju umjetne inteligencije; preporučuje državama članicama i Komisiji da olakšaju pristup vjerodostojnim informacijama koje se odnose na glavne probleme u vezi s umjetnom inteligencijom i robotikom, kao što su privatnost, sigurnost i transparentnost donošenja odluka;

32.  pozdravlja to što se u suradnji s regulatornim tijelima primjenjuju regulatorna kontrolirana i sigurna testna okruženja (eng. sandboxes) za uvođenje novih ideja, čime se od samog početka omogućuje uvođenje zaštitnih mjera u tehnologiju, a time i olakšava i potiče njezin ulazak na tržište; naglašava potrebu za uvođenjem regulatornih kontroliranih i sigurnih testnih okruženja svojstvenih za umjetnu inteligenciju u cilju ispitivanja sigurne i učinkovite upotrebe tehnologija umjetne inteligencije u stvarnom okruženju;

33.  napominje da se za veće društveno prihvaćanje umjetne inteligencije mora zajamčiti sigurnost i zaštita sustava koji se primjenjuju;

34.  napominje da umjetna inteligencija i jezična tehnologija mogu imati važne primjene u cilju promicanja ujedinjenosti Europe u njezinoj raznolikosti: automatizirani prijevod, razgovorni agenti i osobni asistenti, govorna sučelja za robote i internet stvari, pametna analitika, automatizirano prepoznavanje internetske propagande, lažnih vijesti, govora mržnje;

2.4.Povoljni uvjeti: povezivost, pristupačnost podataka i računalstvo visokih performansi te infrastruktura u oblaku

35.  ističe da je za integraciju robotike i tehnologije umjetne inteligencije u gospodarstvo i društvo potrebna digitalna infrastruktura kojom se omogućuje sveprisutna povezivost;

36.  naglašava da je povezivost preduvjet da Europa postane dio gigabitskog društva te da je umjetna inteligencija jasan primjer eksponencijalnog rasta potražnje za visokokvalitetnom, brzom, sigurnom i sveobuhvatnom povezivosti; smatra da bi Unija i države članice trebale nastaviti promicati mjere za poticanje ulaganja u mreže vrlo visokog kapaciteta u EU-u te njihovo uvođenje;

37.  naglašava da je brz, zaštićen i siguran razvoj 5G tehnologije nužan kako bi se Uniji omogućilo da u cijelosti iskoristi prednosti umjetne inteligencije i ponudi zaštitu od prijetnji kibersigurnosti, što omogućuje obnovu i razvoj industrija i usluga, koje su okosnica europskog gospodarstva, kao i podupiranje nastanka novih usluga, proizvodnje i tržišta, a to je nužno za osiguravanje novih radnih mjesta i visoke razine zaposlenosti;

38.  podsjeća da je dostupnost visokokvalitetnih i značajnih podataka ključna za stvarnu konkurentnost u sektoru umjetne inteligencije i poziva javna tijela da zajamče načine prikupljanja i dijeljenja javnih podataka te upravljanja njima tako što bi ih učinila zajedničkim dobrom, uz istodobnu zaštitu privatnosti i osjetljivih podataka;

39.  naglašava važnost kvalitete podataka koji se upotrebljavaju u okviru dubokog učenja; napominje da upotreba zastarjelih, nepotpunih ili netočnih podataka loše kvalitete može dovesti do loših predviđanja te potom diskriminacije i pristranosti;

40.  smatra da novi skup pravila kojima se uređuje slobodni protok neosobnih podataka u Uniji omogućuje sve veću dostupnost podataka za inovacije koje se temelje na podacima, olakšavajući time MSP-ovima i start-up poduzećima da razvijaju inovativne usluge omogućene umjetnom inteligencijom i da ulaze na nova tržišta, istodobno omogućujući građanima i poduzećima da ostvaruju koristi od boljih proizvoda i usluga;

41.  napominje da umjetna inteligencija ima potencijal da se njome povećaju učinkovitost, udobnost i dobrobit u mnogim sektorima ako istaknuti industrijski dionici budu surađivali s razvojnim programerima umjetne inteligencije; nadalje napominje da je velika količina podataka koji nisu osobne prirode trenutačno u posjedu dionika te se u okviru partnerstava mogu upotrebljavati za povećanje njihove učinkovitosti; smatra da je uspostava suradnje između korisnika i razvojnih programera u području umjetne inteligencije preduvjet kako bi se to ostvarilo;

42.  naglašava važnost interoperabilnosti i istinitosti podataka kako bi se osigurala visoka razina pouzdanosti i sigurnosnih standarda u novim tehnologijama.

43.  smatra da je za uspjeh aplikacija umjetne inteligencije koje su prilagođene korisnicima u cijelom EU-u često potrebno opsežno znanje o lokalnim tržištima, kao i pristup odgovarajućim lokalnim podacima za osposobljavanje skupova podataka i njihova upotreba te ispitivanje i provjera valjanosti sustava, osobito u sektorima povezanima s obradom prirodnog jezika; traži od država članica da potiču dostupnost visokokvalitetnog, interoperabilnog i otvorenog javnog sektora, kao i podataka u privatnom vlasništvu;

44.  naglašava potrebu za osiguravanjem najveće moguće usklađenosti s politikom Europske unije u području velikih podataka;

45.  pozdravlja mjere za olakšavanje i podupiranje razmjene i dijeljenja podataka preko granica;

46.  napominje da je dijeljenje podataka trenutačno znatno ispod svojega potencijala te da su velike količine podataka nedovoljno iskorištene;

47.  priznaje da postoji oklijevanje u pogledu dijeljenja podataka i ističe potrebu za djelovanjem kako bi se ono potaknulo; napominje da nepostojanje zajedničkih standarda također ima veliku ulogu u sposobnosti za dijeljenje podataka;

48.  pozdravlja propise kao što je Uredba o slobodnom protoku podataka i njezinu važnost u području kao što je umjetna inteligencija kako bi se omogućili djelotvorniji i učinkovitiji postupci;

49.  prepoznaje da je potrebno uspostaviti veće tržišno utemeljene poticaje radi poticanja pristupa i dijeljenja podataka; primjećuje da otvorenost podataka nosi rizik ponajprije za ulaganje u podatke;

50.  poziva da se osigura veća jasnoća u pogledu pravila o vlasništvu nad podacima i uspostavljenih pravnih okvira; napominje da regulatorna nesigurnost dovodi do previše opreznog odgovora industrije;

51.  naglašava važnost europskih inicijativa o računalstvu u oblaku i računalstvu visokih performansi kojima će se dodatno poboljšati razvoj algoritama za duboko učenje i obrada velikih podataka; čvrsto vjeruje da infrastruktura treba biti otvorena javnim i privatnim subjektima sa sjedištem u Uniji i drugdje te da se njome treba upravljati s pomoću najmanje restriktivnih kriterija za pristup kako bi inicijative bile uspješne i relevantne za razvoj umjetne inteligencije;

52.  pozdravlja osnivanje Europskog zajedničkog poduzeća za računalstvo visokih performansi; naglašava da su superračunala i podatkovna infrastruktura nužni za jamčenje konkurentnog ekosustava inovacija za razvoj tehnologija i aplikacija umjetne inteligencije;

53.  naglašava da računalstvo u oblaku ima ključnu ulogu u poticanju uvođenja umjetne inteligencije; ističe da pristup uslugama u oblaku omogućuje privatnim poduzećima, javnim institucijama, istraživačkim i akademskim institucijama te korisnicima da razvijaju i upotrebljavaju umjetnu inteligenciju na učinkovit i gospodarski održiv način;

3.Industrijska politika

54.  iako se umjetna inteligencija i robotika već dugo primjenjuju u industriji, podsjeća da se napreci u području umjetne inteligencije i robotike proširuju i nude široke i raznolike primjene u svim ljudskim aktivnostima; smatra da svaki regulatorni okvir mora obuhvaćati fleksibilnost kojom se omogućuju inovacije i neometan razvoj novih tehnologija i primjena umjetne inteligencije;

55.  naglašava da bi utvrđivanje opsega i primjene umjetne inteligencije trebalo biti rezultat postupka oblikovanja koji se temelji na potrebama i načelima kojima se uzima u obzir željeni rezultat i najbolji način za njegovo postizanje s gospodarskog i socijalnog stajališta; smatra da će postojanje jasnih politika u svim fazama razvoja dovesti do provedbe prikladne za tu svrhu te potaknuti na rješavanje rizika i nedostataka;

56.  preporučuje primjenu i promicanje javno-privatnih partnerstava za traženje rješenja za ključne izazove kao što je izgradnja ekosustava podataka i promicanje pristupa podacima te dijeljenja i protoka podataka, istovremeno pružajući zaštitu prava osoba na privatnost;

57.  naglašava da je znatan izazov za budućnost sustava umjetne inteligencije nedosljedna kvaliteta tehnologije za proizvodnju softvera te stoga ističe veliku potrebu za standardizacijom izgradnje i upotrebe sustava umjetne inteligencije;

58.  primjećuje napore koji se ulažu na globalnoj razini i prepoznaje potrebu za proaktivnom suradnjom s partnerima, osobito u okviru OECD-a i skupine G20, u pogledu utvrđivanja smjera u kojemu se ova industrija kreće kako bi se zajamčilo da EU ostane konkurentan i očuva jednak pristup među državama, kao i da podijeli koristi razvoja umjetne inteligencije u što širem opsegu;

59.  sa zabrinutošću napominje da se brojna poduzeća izvan Europe i subjekti iz trećih zemalja sve više služe prediktivnim modelima temeljenima na umjetnoj inteligenciji kako bi pružali usluge i ostvarili dodanu vrijednost na tržištima EU-a, osobito na lokalnoj razini, te pratili i po mogućnosti utjecali na politička stajališta, zbog čega predstavljaju potencijalnu prijetnju tehnološkom suverenitetu građana EU-a;

60.  naglašava da bi javna potpora za umjetnu inteligenciju trebala biti usmjerena na one strateške sektore u kojima industrija EU-a ima najveće mogućnosti za vodeću ulogu na globalnoj razini i koji imaju dodanu vrijednost u pogledu općeg javnog interesa;

3.1.Prioritetni sektori

3.1.1.Javni sektor

61.  naglašava da postoji niz prednosti koje se mogu ostvariti s pomoću umjetne inteligencije i robotike u javnom sektoru te pozdravlja povećanje ulaganja u istraživanje i razvoj s ciljem jamčenja napretka u tom pogledu;

62.  naglašava da bi države članice trebale ulagati i u programe obrazovanja i osposobljavanja za umjetnu inteligenciju kako bi pomogle zaposlenicima javnog sektora da prihvate upotrebu umjetne inteligencije i robotike; napominje da bi ujedno trebalo organizirati informativne kampanje za građane koji će se služiti uslugama javnog sektora koje omogućuju sustavi umjetne inteligencije i robotika radi smirivanja strahova zbog gubitka kontrole nad osobnim podacima i uspostavljanja povjerenja;

63.  naglašava da informacije javnog sektora predstavljaju izvanredan izvor podataka kojim se može pridonijeti brzom napretku i stvaranju nove strategije za prihvaćanje novih digitalnih tehnologija, osobito umjetne inteligencije;

64.  smatra da se usvajanjem pouzdane umjetne inteligencije u okviru javnog sektora može snažno poduprijeti reforma javne uprave u pogledu donošenja odluka i poboljšati javne usluge, kao i potaknuti na šire prihvaćanje umjetne inteligencije u drugim industrijama;

65.  prima na znanje korištenje automatizacije postupaka s pomoću robotike i njezin učinak na poboljšanje postupaka javnog sektora; zapaža njezinu interoperabilnost s postojećim sustavima;

66.  traži od država članica da predvode tu digitalnu transformaciju tako da zauzmu položaj kao primarno odgovorni korisnici i kupci pouzdane tehnologije umjetne inteligencije; naglašava da u tom kontekstu države članice moraju prilagoditi svoje politike postupanja s podacima, među ostalim u pogledu prikupljanja javnih podataka, njihove upotrebe, spremanja ili bilježenja, kako bi se omogućilo uvođenje umjetne inteligencije u svim javnim sektorima;

67.  naglašava potrebu za uključivanjem javnosti u proces razvoja umjetne inteligencije; stoga poziva Komisiju da objavi sve algoritme, alate ili tehnologiju koju financira ili sufinancira javnost kao otvoreni izvor;

68.  smatra da će umjetna inteligencija predstavljati veliku prednost u smislu provedbe načela „samo jednom”, omogućujući kombiniranje baza podataka i informacija iz različitih izvora te olakšavajući time interakciju građana s javnim upravama;

69.  poziva Komisiju da zajamči zaštitu građana od svih sustava odlučivanja na temelju rangiranja umjetne inteligencije u javnim upravama, sličnih onima koji se planiraju primjenjivati u Kini;

3.1.2.Zdravlje

70.  naglašava da je ljudski kontakt jedan od ključnih aspekata ljudske njege;

71.  napominje da bi umjetna inteligencija i robotika sa sobom mogle donijeti prednosti u sektoru pružanja skrbi kako se produžuje očekivani životni vijek, između ostaloga jer liječnicima i medicinskim sestrama ostavljaju više vremena za aktivnosti visoke vrijednosti (npr. interakciju s pacijentima);

72.  prima na znanje da je umjetna inteligencija već utjecala na dobrobit, prevenciju, dijagnostiku i istraživanje te uviđa njezin velik potencijal za pružanje personalizirane skrbi; smatra da to naposljetku dovodi do održivijeg i učinkovitijeg zdravstvenog ekosustava utemeljenog na rezultatima;

73.  napominje da je stopa pogreške kod dijagnoza koje se postavljaju kombiniranjem umjetne inteligencije i liječničke dijagnoze u načelu znatno niža nego kod dijagnoza koje postavlja samo liječnik(8);

74.  ističe da se upotreba podataka u zdravstvenom sektoru mora pažljivo i etično pratiti i da se njome ne smije ni na koji način ometati pristup socijalnoj zaštiti ili osiguranju;

75.  smatra da bi u slučaju kada se umjetna inteligencija upotrebljava u medicinskim proizvodima za ugradnju, pacijent trebao imati pravo pregledati i mijenjati izvorni kod koji se upotrebljava u proizvodu;

76.  potrebno je obratiti posebnu pozornost na uporabu velikih podataka (engl. „big data”) u području zdravstva s ciljem povećanja prilika koje ona može donijeti, primjerice, poboljšanje zdravlja pojedinih pacijenata te rad sustava javnog zdravstva država članica, bez snižavanja etičkih standarda i bez ugrožavanja privatnosti ili sigurnosti građana;

77.  ističe, međutim, da postojeći sustav odobravanja medicinskih uređaja možda nije prikladan za tehnologije umjetne inteligencije; poziva Komisiju da pomno prati napredak tih tehnologija i da po potrebi predloži izmjene regulatornog okvira s ciljem izrade okvira koji se odnosi na podjelu građanskopravne odgovornosti između korisnika (liječnika/stručnjaka), proizvođača tehnološkog rješenja i zdravstvene ustanove koja nudi liječenje; naglašava da je pravna odgovornost za štetu u pogledu uporabe umjetne inteligencije glavno pitanje u zdravstvenom sektoru; ističe da je potrebno osigurati da se korisnici ne navode na to da uvijek daju prednost dijagnostičkom rješenju ili liječenju koje se preporučuje tehnološkim instrumentom zbog straha od tužbi za utvrđivanje građanskopravne odgovornosti u slučaju kada svojom stručnom i informiranom prosudbom donesu zaključke koji se djelomično razlikuju;

78.  poziva države članice i Komisiju da povećaju izdvajanja za tehnologije umjetne inteligencije u zdravstvu u javnom i privatnom sektoru; u tom kontekstu pozdravlja potpisivanje deklaracije o suradnji između 24 države članice EU-a i Norveške s ciljem jačanja učinka ulaganja u umjetnu inteligenciju na europskoj razini; poziva države članice i Komisiju da razmotre trebaju li se programi obuke medicinskog i zdravstvenog osoblja modernizirati i ujednačiti na europskoj razini kako bi se osigurale visoke razine stručnosti i jednaki uvjeti za sve u različitim državama članicama u pogledu znanja i uporabe najnaprednijih tehnoloških instrumenata kirurške i biomedicinske robotike te umjetne inteligencije u svrhu radioloških pretraga;

79.  poziva Komisiju da radi na strategijama i politikama s pomoću kojih EU može zauzeti položaj globalnog predvodnika u rastućem području tehnologije zdravstvene skrbi, istodobno jamčeći da pacijenti imaju pristup neometanoj i učinkovitoj medicinskoj skrbi;

80.  uviđa da bi se boljim postavljanjem dijagnoza moglo spasiti milijune života jer je, prema podacima Svjetske zdravstvene organizacije, 89 % preuranjenih smrti diljem Europe prouzročeno neprenosivim bolestima;

81.  ističe doprinos umjetne inteligencije i robotike inovativnim preventivnim, kliničkim i rehabilitacijskim praksama i tehnikama u zdravstvenom sektoru, s posebnim naglaskom na koristi koju donose pacijentima s invaliditetom;

82.  uviđa da je povećanom uporabom senzora u području robotike proširen opseg pružanja skrbi te da je moguće pacijentima pružiti liječenje i usluge koji su prilagođeniji njihovim potrebama i na daljinu skrbiti o pacijentima koji su u vlastitim domovima te na taj način istovremeno dobiti korisnije podatke;

83.  uviđa da se, prema anketi Eurobarometra iz svibnja 2017.(9), građani EU-a i dalje ne osjećaju ugodno pri pomisli na korištenje robota u svakodnevnoj zdravstvenoj skrbi; poziva Komisiju i države članice da razviju strategije i kampanje priopćivanja u cilju podizanja razine osviještenosti o prednostima upotrebe robota u svakodnevnom životu; prije svega navodi ambiciju japanske strategije u području robotike;

3.1.3.Energija

84.  napominje da se s pomoću umjetne inteligencije dobavljačima omogućuje prelazak s preventivnog na prediktivno održavanje imovine i postizanje učinkovitije proizvodnje energije iz obnovljivih izvora, posebice poboljšanjem pouzdanosti te utvrđivanjem najprikladnijih lokacija za nova postrojenja, čime bi se zajamčilo bolje upravljanje potražnjom i odazivom;

85.  prepoznaje da će točniji podaci koje proizvodi umjetna inteligencija o potencijalu proizvodnje obnovljive energije stvoriti veću investicijsku sigurnost za poduzeća i pojedince te time ubrzati energetsku tranziciju prema obnovljivim izvorima energije i pridonijeti dugoročnoj strategiji Unije za klimatski neutralno gospodarstvo;

86.  napominje da se rješenja koja uključuju senzore već upotrebljavaju za upravljanje potrošnjom energije u kućama te da su zbog toga ostvarene znatne uštede energije i novca;

87.  pozdravlja potencijal umjetne inteligencije u oblikovanju, prepoznavanju i ublažavanju učinka ljudskih aktivnosti na klimu; napominje da se, iako zbog povećane digitalizacije nastaju nove energetske potrebe, njome ujedno može uvesti veću učinkovitost u energetski intenzivne sektore i omogućiti bolje razumijevanje postupaka te dovesti do njihova poboljšanja;

88.  naglašava da veća digitalizacija sektora energije dovodi do nastanka većih energetskih mreža koje su izloženije kiberprijetnjama; poziva države članice i Komisiju da digitalnu transformaciju u energetskim sektorima poprate mjerama, kao što je umjetna inteligencija, kojima se poboljšava kibersigurnost;

3.1.4.Promet

89.  pozdravlja činjenicu da se uvođenjem autonomnih vlakova i motornih vozila s pomoću umjetne inteligencije i robotike mogu znatno poboljšati naši prometni sustavi; poziva na povećanje broja istraživanja i veća ulaganja u tom području s ciljem jamčenja njegova sigurnog i učinkovitog razvoja; ističe goleme mogućnosti i za velika tehnološka poduzeća i za mala i srednja poduzeća;

90.  napominje da se smanjenjem faktora ljudske pogreške u sektoru prometa može poboljšati učinkovitost sustava, uz manji broj nesreća zahvaljujući jasnijim procjenama i predvidljivoj prirodi tehnologije, manje kašnjenja, mogućnost mapiranja uzoraka u prometu i pružanje usluga prema rasporedu te veće uštede, s manje pogrešaka vozača i pojednostavnjenim internim procesima;

91.  napominje da će zbog većeg broja autonomnih vozila u budućnosti nastati rizici u pogledu privatnosti podataka i tehnički kvarovi te će odgovornost prijeći s vozača na proizvođača, zbog čega će osiguravajuća društva morati promijeniti način na koji računaju rizik koji će preuzeti;

92.  napominje da se glasovna komunikacija sve više upotrebljava u interakciji s vozilima i sustavima prijevoza, no te su značajke dostupne samo na nekoliko europskih jezika te bi stoga trebalo zajamčiti da se svi Europljani mogu služiti tom mogućnošću na materinskom jeziku;

3.1.5.Poljoprivreda i lanac opskrbe hranom

93.  napominje da se umjetnom inteligencijom može ubrzati disruptivna transformacija postojećeg prehrambenog sustava u raznolikiji, otporniji, regionalno prilagođeniji i zdraviji model za budućnost;

94.  ističe ulogu koju umjetna inteligencija može imati u naporima koji se ulažu u rješavanje pitanja sigurnosti opskrbe hranom, predviđanje pojava gladi i bolesti koje se prenose hranom, smanjenje gubitaka i rasipanja hrane te poboljšanje održivog upravljanja zemljištem, vodom i drugim okolišnim resursima koji su ključni za zdravlje ekosustava;

95.  naglašava da se umjetnom inteligencijom može intervenirati na kritičnim točkama lanca vrijednosti prehrambenog sustava od proizvodnje do potrošnje te poboljšati naša sposobnost da iz temelja promijenimo način na koji proizvodimo, obrađujemo i kupujemo hranu boljim informiranjem o praksama planiranja upotrebe zemljišta;

96.  napominje da se umjetnom inteligencijom može poboljšati upravljanje resursima i ulazna učinkovitost, smanjiti rasipanje nakon žetve te utjecati na odluke o potrošnji;

97.  napominje da umjetna inteligencija u obliku precizne poljoprivrede ima potencijal za narušavanje poljoprivredne proizvodnje, kao i za šire upravljanje zemljištem, poboljšanjem planiranja upotrebe zemljišta, predviđanja prenamjene zemljišta i praćenja zdravlja usjeva te istodobni potencijal za uvođenje radikalnih promjena u predviđanje ekstremnih vremenskih uvjeta;

98.  napominje da se umjetnom inteligencijom može radikalno mijenjati isporuka ulaznih materijala, suzbijanje nametnika i upravljanje poljoprivrednim gospodarstvima, utjecati na poljoprivredne prakse, mijenjati način isporuke proizvoda osiguranja i pomoći u predviđanju i izbjegavanju buduće pojave gladi i teške akutne pothranjenosti;

99.  napominje da se umjetnom inteligencijom može omogućiti donošenje optimalnih odluka o tome kako upravljati poljoprivrednim sustavima i potaknuti razvoj sustava za potporu odlučivanju i preporuke poboljšavanjem učinkovitosti poljoprivrednih gospodarstava i njihova zdravlja;

3.1.6.Kibersigurnost

100.  napominje da je kibersigurnost važan aspekt umjetne inteligencije, osobito s obzirom na izazove u pogledu transparentnosti umjetne inteligencije visoke razine; smatra da bi tehnološku perspektivu, uključujući reviziju izvornog koda i zahtjeva u pogledu transparentnosti i odgovornosti, trebalo nadopuniti institucionalnim pristupom koji se bavi izazovima uvođenja umjetne inteligencije razvijene u drugim zemljama na jedinstveno tržište EU-a;

101.  poziva na brzu provedbu Akta o kibersigurnosti; napominje da bi se razvojem programa EU-a za certificiranje trebao zajamčiti otporniji razvoj i provedba sigurnih sustava umjetne inteligencije i robotike;

102.  smatra da umjetna inteligencija istodobno može biti prijetnja kibersigurnosti i sredstvo za borbu protiv kibernapada; smatra da bi Agencija EU-a za mrežnu i informacijsku sigurnost (ENISA) trebala pripremiti akcijski plan o kibersigurnosti u području umjetne inteligencije, kojim bi se trebali procijeniti i riješiti prijetnje i nedostaci svojstveni za umjetnu inteligenciju;

103.  naglašava važnost jačanja industrijske baze kao strateške sastavnice sigurnog razvoja umjetne inteligencije; naglašava da Europa mora ulagati u svoju tehnološku neovisnost kako bi se zajamčila ambiciozna razina kibersigurnosti, zaštita podataka i pouzdane usluge IKT-a; naglašava da EU hitno mora razviti vlastitu infrastrukturu, podatkovne centre, oblake i sastavnice kao što su grafički procesori i čipovi;

104.  napominje da se umjetna inteligencija razvija i da hakeri postaju napredniji te će stoga biti nužno imati snažna rješenja za kibersigurnost;

105.  uviđa da će se provedbom rješenja umjetne inteligencije u kibersigurnosti omogućiti predviđanje, sprječavanje i ublažavanje prijetnji;

106.  naglašava da je, iako će umjetna inteligencija moći pružiti bolju pokrivenost u pogledu otkrivanja prijetnji, nužno osigurati ljudsko tumačenje tih prijetnji kako bi se otkrilo jesu li stvarne;

107.  poziva Komisiju da istraži upotrebu aplikacija za kibersigurnost koje se temelje na tehnologiji ulančanih blokova kojima se poboljšavaju otpornost, povjerenje i pouzdanost infrastrukture umjetne inteligencije s pomoću modela šifriranja podataka bez posrednika; poziva Komisiju da istraži mogućnost nagrađivanja građana za njihove podatke putem tokena;

108.  poziva Komisiju na jačanje kapaciteta EU-a u pogledu kibersigurnosti dodatnim objedinjavanjem i koordiniranjem napora diljem Europe;

3.1.7.Mala i srednja poduzeća

109.  uviđa važnost MSP-ova za uspjeh umjetne inteligencije; pozdravlja inicijativu Komisije da uspostavi platformu za umjetnu inteligenciju na zahtjev kojom će se potaknuti prijenos tehnologije i ubrzati rast novoosnovanih poduzeća te malih i srednjih poduzeća; poziva Komisiju da promiče digitalnoinovacijske centre za umjetnu inteligenciju koji ne dovode do stvaranja dodatnih administrativnih slojeva nego su usmjereni na ubrzanje ulaganja u projekte koji su dokazano učinkoviti;

110.  napominje da troškovi ulaganja u umjetnu inteligenciju dovode do velikih prepreka uključivanju MSP-ova; potvrđuje da bi rasprostranjeno prihvaćanje umjetne inteligencije među potrošačima smanjilo rizik tih ulaganja za MSP-ove;

111.  ističe potrebu za promicanjem i prihvaćanja umjetne inteligencije od strane MSP-ova i njezina korištenja od strane potrošača;

112.  naglašava važnost ciljanih mjera kako bi se zajamčilo da mala i srednja poduzeća i novoosnovana poduzeća mogu prihvatiti tehnologije umjetne inteligencije te imati koristi od njih; smatra da bi procjene učinka novog zakonodavstva EU-a o tehnološkom razvoju umjetne inteligencije trebale biti obvezne i da bi se takve procjene učinka ujedno trebale razmatrati na nacionalnoj razini;

113.  naglašava da umjetna inteligencija može biti ključno sredstvo za MSP-ove, ali i povećati utjecaj subjekata koji su napredni u prihvaćanju novih tehnologija i razvojnih programera; ističe stoga da je, sa stajališta konkurencije, potrebno zajamčiti da se nova narušavanja ispravno procjenjuju i rješavaju;

4.Pravni okvir za umjetnu inteligenciju i robotiku

114.  poziva Komisiju da u cilju poticanja regulatornog okruženja koje pogoduje razvoju umjetne inteligencije te u skladu s načelima bolje regulative redovito preispituje postojeće zakonodavstvo kako bi zajamčila njegovu primjerenost svrsi u pogledu umjetne inteligencije, uz istodobno poštovanje temeljnih vrijednosti EU-a, te da nastoji izmijeniti ili zamijeniti nove prijedloge u kojima se pokazalo da to nije slučaj;

115.  pozdravlja uspostavu participativnih platformi koje se temelje na umjetnoj inteligenciji, čime se građanima omogućuje da se njihov glas uistinu čuje i da se obraćaju vladama davanjem prijedloga, uključujući putem participativnih proračuna i drugih instrumenata izravne demokracije; naglašava da se projektima u kojima se primjenjuje pristup „odozdo prema gore” može poticati sudjelovanje građana i pomoći ljudima da donose informirane odluke na učinkovit i više demokratski način;

116.  napominje da je umjetna inteligencija pojam koji obuhvaća širok spektar proizvoda i primjena, od automatizacije, algoritama, ograničene umjetne inteligencije do opće umjetne inteligencije; smatra da bi donošenju sveobuhvatnog zakona ili uredbe o umjetnoj inteligenciji trebalo pristupiti s oprezom jer se sektorskim uređenjem mogu pružiti politike koje su dovoljno općenite, ali i dorađene do razine na kojoj su značajne za industrijski sektor;

117.  naglašava da okvir politike mora biti osmišljen kako bi se njime potaknuo razvoj svih vrsta umjetne inteligencije, a ne samo sustavi dubokog učenja, koji zahtijevaju golemu količinu podataka;

4.1.Unutarnje tržište za umjetnu inteligenciju

118.  naglašava važnost načela međusobnog priznavanja u prekograničnoj upotrebi pametne robe, uključujući robote i robotske sustave; podsjeća da se, prema potrebi, ispitivanjem, certificiranjem i sigurnošću proizvoda treba zajamčiti integrirana i zadana sigurnost određene robe; u ovom kontekstu primjećuje važnost rada i na etičkim aspektima umjetne inteligencije;

119.  naglašava da se zakonodavstvom EU-a u pogledu provedbe strategije jedinstvenog digitalnog tržišta trebaju ukloniti prepreke uvođenju umjetne inteligencije; poziva Komisiju da ocijeni u kojim je područjima potrebno ažurirati politike i regulatorne okvire kako bi se izgradilo jedinstveno europsko tržište za umjetnu inteligenciju;

120.  uviđa da se robotika i umjetna inteligencija sve više koriste u autonomnim vozilima, poput autonomnih automobila i civilnih dronova; skreće pozornost na činjenicu da neke države članice već donose zakonodavstvo u tom području ili ga pak razmatraju, što bi moglo rezultirati mozaikom nacionalnih zakonodavstava kojim bi se otežao razvoj autonomnih vozila; stoga poziva na donošenje niza jedinstvenih propisa Unije kojima će se postići prava ravnoteža između interesa korisnika, poduzeća i ostalih zainteresiranih strana i potencijalnih rizika za njih, a čime će se izbjeći prekomjerna regulacija u području robotike i sustava umjetne inteligencije;

121.  potiče države članice da moderniziraju svoje sustave stručnog osposobljavanja i obrazovanja kako bi uzele u obzir znanstveni napredak i razvoj u području umjetne inteligencije, u skladu s Direktivom o ispitivanju proporcionalnosti(10) i Direktivom o priznavanju stručnih kvalifikacija(11), te kako bi profesionalne usluge EU-a učinile globalno konkurentnima u predstojećim desetljećima;

122.  naglašava da se umjetna inteligencija primjenjuje u različitim sektorima u kojima je standardizacija od velike važnosti, kao što su pametna proizvodnja, robotika, autonomna vozila, virtualna stvarnost, zdravstvo i analiza podataka, te smatra da će standardizacija umjetne inteligencije na razini cijelog EU-a potaknuti inovacije i zajamčiti visoku razinu zaštite potrošača; prepoznaje da je zbog postojanja znatnog broja standarda u vezi s pitanjima kao što su sigurnost, pouzdanost i interoperabilnost potrebno dodatno promicati i razvijati zajedničke standarde za robotiku i umjetnu inteligenciju i da to treba biti među prioritetima Unije; poziva Komisiju da se u suradnji s tijelima EU-a za normizaciju nastavi povezivati s međunarodnim tijelima za normizaciju radi poboljšanja standarda u ovom području;

123.  podsjeća da su mnogi aspekti politike koji su bitni za usluge omogućene umjetnom inteligencijom, uključujući pravila o zaštiti potrošača i politiku o etici i odgovornosti, obuhvaćeni postojećim regulatornim okvirom za usluge, odnosno Direktivom o uslugama(12), Direktivom o priznavanju stručnih kvalifikacija i Direktivom o e-trgovini(13); naglašava, u tom kontekstu, da ljudi uvijek moraju imati krajnju odgovornost za donošenje odluka, osobito u području profesionalnih usluga kao što su zdravstvena, pravna i računovodstvena struka; smatra da je potrebno razmisliti o tome je li potreban nadzor kvalificiranog stručnjaka, u cilju zaštite legitimnih ciljeva od javnog interesa i pružanja usluga visoke kvalitete;

124.  uviđa važnost poboljšanih digitalnih usluga, kao što su virtualni pomoćnici, „chatbots” i virtualni agenti, koji donose dosad neviđenu operativnu učinkovitost te istodobno prepoznaje potrebu za razvojem umjetne inteligencije usmjerene na čovjeka i utemeljene na potrebama tržišta za donošenje boljih i pouzdanijih odluka s obzirom na ograničenja autonomije umjetne inteligencije i robotike;

4.2.Osobni podaci i privatnost

125.  naglašava da je potrebno pružiti visoku razinu sigurnosti, zaštite i privatnosti podataka koji se upotrebljavaju u ljudskoj komunikaciji s robotima i umjetnom inteligencijom; stoga poziva Komisiju i države članice da načela integrirane sigurnosti i privatnosti uključe u svoje politike povezane s robotikom i umjetnom inteligencijom;

126.  ponavlja da se pravo na zaštitu privatnog života i pravo na zaštitu osobnih podataka, u skladu s člancima 7. i 8. Povelje o temeljnim pravima i člankom 16. Ugovora o funkcioniranju Europske unije, primjenjuju na sva područja robotike i umjetne inteligencije te da je potrebno u cijelosti poštovati pravni okvir Unije za zaštitu podataka; ističe odgovornost programera sustava robotike i umjetne inteligencije da razvijaju proizvode na način da budu sigurni i prilagođeni svrsi te da slijede postupke za obradu podataka u skladu s postojećim zakonodavstvom, povjerljivošću, anonimnošću te pravednim i zakonitim postupanjem;

127.  poziva Komisiju da zajamči da sve zakonodavstvo Unije o umjetnoj inteligenciji sadrži mjere i pravila kojima se uzima u obzir brz tehnološki razvoj u tom području kako bi se zajamčilo da zakonodavstvo Unije ne zaostaje za krivuljom tehnološkog razvoja i stavljanja tehnologije u upotrebu; naglašava potrebu za time da takvo zakonodavstvo bude u skladu s pravilima o privatnosti i zaštiti podataka; poziva na preispitivanje pravila, načela i kriterija u vezi s upotrebom kamera i senzora u robotima i u vezi s umjetnom inteligencijom, u skladu s pravnim okvirom Unije za zaštitu podataka;

128.  poziva Komisiju da zajamči da se svim budućim regulatornim okvirima EU-a za umjetnu inteligenciju zajamče privatnost i povjerljivost komunikacije, zaštita osobnih podataka, uključujući načela zakonitosti, pravednosti i transparentnosti, integrirana i zadana zaštita podataka, ograničenje svrhe, ograničenje skladištenja, točnost i smanjenje količine podataka u skladu sa zakonodavstvom Unije o zaštiti podataka te sigurnost, osobna sigurnost i druga temeljna prava, kao što je pravo na slobodu izražavanja i informacija;

129.  naglašava da se pravo na privatnost uvijek mora poštovati te da se osobe ne smije pojedinačno identificirati; smatra da bi razvojni programeri umjetne inteligencije uvijek trebali imati jasno, nedvosmisleno i informirano odobrenje te da su programeri umjetne inteligencije odgovorni za razvijanje i poštovanje postupaka za valjano odobrenje, povjerljivost, anonimnost te pravedno i zakonito postupanje; smatra da programeri moraju poštovati sve zahtjeve za uništavanje svih relevantnih podataka ili za njihovo uklanjanje iz skupova podataka;

130.  podsjeća da se u Uredbi (EU) 2018/1807 Europskog parlamenta i Vijeća od 14. studenoga 2018. o okviru za slobodan protok neosobnih podataka u Europskoj uniji(14) navodi da se, u slučaju da tehnološki razvoj omogući da se anonimizirani podaci pretvore u osobne podatke, takvi podaci trebaju smatrati osobnim podacima i da se Opća uredba o zaštiti podataka(15) treba primjenjivati na odgovarajući način;

4.3.Odgovornost

131.  pozdravlja inicijativu Komisije za osnivanje stručne skupine o odgovornosti i novim tehnologijama kako bi se EU-u omogućila stručna znanja o primjenjivosti Direktive o odgovornosti za proizvode(16) na tradicionalne proizvode, nove tehnologije i nove društvene izazove (uspostava Direktive o odgovornosti za proizvode) te mu se pomoglo u razvoju načela koja mogu poslužiti kao smjernice za moguće prilagodbe primjenjivih zakona koji se odnose na nove tehnologije (uspostava novih tehnologija) na razini EU-a i na nacionalnoj razini;

132.  međutim, izražava žaljenje zbog toga što tijekom ovog parlamentarnog saziva nije podnesen zakonodavni prijedlog, čime se odgađa ažuriranje pravila o odgovornosti na razini EU-a i ugrožava pravna sigurnost u cijelom EU-u u tom području, i za trgovce i za potrošače;

133.  napominje da inženjeri za umjetnu inteligenciju ili poduzeća koja ih zapošljavaju i dalje trebaju biti odgovorni za društvene i ekološke posljedice sustava umjetne inteligencije i robotike, kao i za njihove posljedice za ljudsko zdravlje sadašnjih i budućih generacija;

4.4.Zaštita potrošača i osnaživanje

134.  naglašava da je povjerenje potrošača ključno za razvoj umjetne inteligencije i da sustavi koji se temelje na umjetnoj inteligenciji obrađuju sve više podataka o potrošačima, što ih čini glavnom metom kibernapada; također naglašava činjenicu da umjetna inteligencija mora funkcionirati na način koji nije štetan za građane i potrošače i smatra da integritet podataka i algoritmi na koje se oslanja stoga moraju biti zajamčeni;

135.  smatra da bi tehnologije umjetne inteligencije razvijene za proizvodnju i za osobnu uporabu trebale podlijegati provjerama sigurnosti proizvoda koje provode tijela odgovorna za nadzor tržišta i pravilima o zaštiti potrošača kako bi se, prema potrebi, zajamčili minimalni sigurnosni standardi i smanjio rizik od nesreća koje proizlaze iz interakcije s ljudima ili rada u blizini ljudi; smatra da se etičke dvojbe i pitanja zaštite podataka, uključujući podatke trećih strana i osobne podatke, građansku odgovornost i kibersigurnost, trebaju razmatrati u svim politikama o umjetnoj inteligenciji;

4.5.Prava intelektualnog vlasništva

136.  podsjeća na svoju prethodno spomenutu rezoluciju od 16. veljače 2017. u kojoj je istaknuo da ne postoje posebne pravne odredbe za robotiku, ali da se postojeći pravni režimi i doktrine mogu primijeniti na robotiku, s time da neke aspekte treba posebno razmotriti; ponovno upućuje svoj poziv iz te rezolucije Komisiji da podrži horizontalan i tehnološki neutralan pristup intelektualnom vlasništvu koji se primjenjuje na različite sektore u kojima bi se mogla koristiti robotika;

137.  u tom smislu pozdravlja komunikaciju Komisije institucijama o smjernicama o određenim aspektima Direktive 2004/48/EZ Europskog parlamenta i Vijeća o provedbi prava intelektualnog vlasništva(17) (COM(2017)0708), ali ističe potrebu za praćenjem mjerodavnosti i učinkovitosti pravila o pravima intelektualnog vlasništva za upravljanje razvojem umjetne inteligencije; u tom kontekstu naglašava važnost provjera prikladnosti;

5.Etički aspekti

138.  smatra da djelovanja i primjene umjetne inteligencije trebaju biti u skladu s etičkim načelima i relevantnim nacionalnim i međunarodnim pravom te pravom Unije;

139.  poziva na donošenje etičke povelje s najboljim praksama u području umjetne inteligencije i robotike koju bi poduzeća i stručnjaci trebali primjenjivati;

140.  poziva Komisiju i države članice da promiču snažnu i transparentnu suradnju među javnim i privatnim sektorom te akademskim krugovima, čime bi se pojačala razmjena znanja, te da promiču obrazovanje i osposobljavanje programera u pogledu etičkih posljedica, sigurnosti i poštovanja temeljnih prava te obrazovanje i osposobljavanje potrošača u pogledu korištenja robotike i umjetne inteligencije, s posebnim naglaskom na sigurnosti i privatnosti podataka;

141.  poziva Komisiju da zajamči da aplikacije temeljene na umjetnoj inteligenciji ne upotrebljavaju podatke prikupljene iz različitih izvora bez prethodnog pristanka ispitanika; poziva Komisiju da uspostavi okvir kojim se osigurava da će pristanak ispitanika generirati podatke samo za predviđene svrhe;

142.  poziva Komisiju da poštuje pravo građana na život izvan interneta i da zajamči da neće biti diskriminacije građana o kojima nema zabilježenih podataka;

5.1.Tehnologija usmjerena na čovjeka

143.  naglašava da je potrebno utvrditi etička pravila s ciljem jamčenja razvoja umjetne inteligencije usmjerenog na čovjeka, odgovornosti i transparentnosti algoritamskih sustava za donošenje odluka, jasnih pravila o odgovornosti i pravednosti;

144.  pozdravlja inicijativu Komisije da uspostavi Stručnu skupinu na visokoj razini za umjetnu inteligenciju te mrežu saveza EU-a za umjetnu inteligenciju u cilju izrade etičkih smjernica za umjetnu inteligenciju; traži od Komisije da zajamči najšire moguće prihvaćanje tih etičkih smjernica u industriji, akademskoj zajednici i javnim upravama; preporučuje da države članice uvrste smjernice u svoje nacionalne strategije o umjetnoj inteligenciji te razviju stvarne strukture odgovornosti za industrije i vlade u oblikovanju i primjeni umjetne inteligencije;

145.  smatra da je nužno kontinuirano pratiti provedbu etičkih smjernica u pogledu umjetne inteligencije i njihova utjecaja na razvoj umjetne inteligencije usmjerene na čovjeka; traži od Komisije da analizira jesu li dobrovoljne etičke smjernice dovoljne da zajamče da uključivo uvođenje umjetne inteligencije s integriranim etičkim načelima ne dovede do gospodarskih i društvenih podjela u društvima EU-a te da prema potrebi predloži regulatorne i političke mjere;

146.  napominje nedavne promjene u praćenju analitike ponašanja i prilagodbi na nju; poziva Komisiju da izradi etički okvir kojim se ograničava njezina upotreba; potiče Komisiju da podigne razinu osviještenosti o umjetnoj inteligenciji i pokrene informativnu kampanju o umjetnoj inteligenciji i njezinoj upotrebi u odnosu na analitiku ponašanja;

5.2.Vrijednosti ugrađene u tehnologiju – integrirana etika

147.  ističe da bi okvirne etičke smjernice trebale biti utemeljene na načelima djelovanja u interesu dobrobiti, neštetnosti, autonomije i pravde, kao i na načelima i vrijednostima utvrđenima u članku 2. Ugovora o Europskoj uniji i u Povelji o temeljnim pravima, kao što su ljudsko dostojanstvo, ravnopravnost, pravda i jednakost, nediskriminacija, informirani pristanak, zaštita privatnog i obiteljskog života i podataka, kao i na drugim temeljnim načelima i vrijednostima prava Unije kao što su nestigmatizacija, transparentnost, autonomija, individualna i društvena odgovornost, te na postojećoj etičkoj praksi i kodeksima;

148.  smatra da Europa treba biti svjetski predvodnik u uvođenju isključivo umjetne inteligencije s integriranim etičkim načelima; naglašava da je za to potrebno zajamčiti upravljanje etičkim načelima u umjetnoj inteligenciji na različitim razinama; preporučuje da države članice uspostave tijela za praćenje etičkih načela umjetne inteligencije i nadzor nad njima te da potiču poduzeća koja razvijaju umjetnu inteligenciju da uspostave etičke odbore i izrade etičke smjernice za svoje razvojne programere umjetne inteligencije;

149.  naglašava da se europski standardi za umjetnu inteligenciju moraju temeljiti na načelima digitalne etike, ljudskog dostojanstva, poštovanja temeljnih prava, zaštite podataka i sigurnosti, doprinoseći tako izgradnji povjerenja među korisnicima; ističe da je važno iskoristiti potencijal EU-a za stvaranje snažne infrastrukture za sustave umjetne inteligencije na temelju visokih standarda podataka i poštovanja čovjeka; napominje da transparentnost i objašnjivost trebaju biti sastavni dio razvoja umjetne inteligencije;

150.  napominje da bi automatizirani sustavi oružja i dalje trebali imati pristup umjetnoj inteligenciji koji podrazumijeva da čovjek zapovijeda;

5.3.Donošenje odluka – ograničenja autonomije umjetne inteligencije i robotike

151.  ističe teškoću i složenost predviđanja budućeg ponašanja mnogih složenih sustava umjetne inteligencije i novih ponašanja sustava umjetne inteligencije koji su u međusobnoj interakciji; traži od Komisije da procijeni postoji li potreba za posebnim zakonodavstvom u pogledu donošenja odluka s pomoću umjetne inteligencije;

152.  napominje da će umjetna inteligencija ostati koristan alat za suradnju u okviru ljudskog djelovanja radi poboljšanja uspješnosti i smanjenja pogrešaka;

153.  poziva na to da se zajamči pravo na informiranje, pravo ulaganja žalbe i pravo na naknadu u slučajevima kada se umjetna inteligencija upotrebljava za donošenje odluka koje utječu na pojedince i koje predstavljaju znatan rizik za prava i slobode pojedinca ili im mogu naštetiti;

154.  naglašava da se algoritmi koji se upotrebljavaju u sustavima za donošenje odluka ne smiju primijeniti bez prethodne procjene učinka algoritma, osim ako je jasno da nemaju značajan utjecaj na život pojedinaca;

155.  smatra da bi umjetna inteligencija, osobito sustavi s ugrađenom autonomijom i mogućnošću samostalnog izdvajanja, prikupljanja i dijeljenja osjetljivih informacija s različitim dionicima te mogućnošću samostalnog učenja, pa čak i samoizmjene, trebala podlijegati pouzdanim načelima; naglašava da sustavi umjetne inteligencije ne smiju čuvati ili otkrivati povjerljive osobne informacije bez izričitog odobrenja izvora te informacije;

5.4.Transparentnost, pristranost i objašnjivost algoritama

156.  ističe da, iako umjetna inteligencija sa sobom nosi brojne koristi u pogledu automatizacije i donošenja odluka, ujedno nosi i inherentni rizik u slučaju kada su algoritmi statički i netransparentni; u tom kontekstu ističe potrebu za većom transparentnošću u pogledu algoritama;

157.  poziva Komisiju, države članice i tijela za zaštitu podataka da utvrde algoritamsku diskriminaciju i pristranost te poduzmu sve moguće mjere kako bi ih suzbili ili sveli na minimalnu razinu, kao i da osmisle čvrst zajednički etički okvir za transparentnu obradu osobnih podataka i automatizirano donošenje odluka za usmjeravanje upotrebe podataka i provedbe zakonodavstva Unije;

158.  ističe da se svaki sustav umjetne inteligencije mora razvijati poštujući načela transparentnosti i odgovornosti povezane s algoritmima tako da se omogući ljudsko razumijevanje njegovih postupaka; napominje da korisnici moraju znati kako se njihovi podaci, drugi podaci i podaci izvedeni iz njihovih podataka upotrebljavaju pri komuniciranju sa sustavom umjetne inteligencije ili s ljudima koji se koriste sustavom umjetne inteligencije ako se želi izgraditi povjerenje u umjetnu inteligenciju i omogućiti njezin napredak; smatra da će korisnici tako moći bolje razumjeti strojeve i imati više povjerenja u njih; naglašava da razumljivost odluka mora biti standard EU-a u skladu s člancima 13., 14. i 15. Opće uredbe o zaštiti podataka; podsjeća na to da se Općom uredbom o zaštiti podataka već pruža pravo pojedinca da bude informiran o logici obrade podataka; naglašava da pojedinci, u skladu s člankom 22. Opće uredbe o zaštiti podataka, imaju pravo na ljudsku intervenciju kad odluka koja se temelji na automatiziranoj obradi uvelike utječe na njih;

159.  ističe da bi stoga Komisija, Europski odbor za zaštitu podataka, nacionalna tijela za zaštitu podataka i druga neovisna nadzorna tijela u budućnosti trebala imati ključnu ulogu u promicanju transparentnosti i zakonitog postupanja, opće pravne sigurnosti i, točnije, konkretnih normi kojima se štite temeljna prava te jamstva povezana s primjenom obrade i analize podataka; poziva na bliskiju suradnju među tijelima nadležnima za nadzor ponašanja ili upravljanje ponašanjem u digitalnom okruženju; poziva na odgovarajuće financiranje tih tijela te zapošljavanje dovoljnog broja zaposlenika;

160.  prepoznaje da se algoritmi strojnog učenja osposobljavaju za samostalno učenje bez programiranja te pridonose automatizaciji i donošenju odluka; poziva na to da se smjernicama o umjetnoj inteligenciji rješavaju pitanja povezana s algoritamskom transparentnošću, odgovornošću i pravednošću;

161.  naglašava važnost objašnjivosti rezultata, procesa i vrijednosti sustava umjetne inteligencije jer ih to čini razumljivima korisnicima koji su laici u području tehnike, kojima se na taj način pružaju korisne informacije, a to je nužno za procjenu pravednosti i stjecanje povjerenja;

162.  ističe da se zbog nedostatka transparentnosti tih tehnologija i njihovih primjena postavlja niz etičkih pitanja;

163.  napominje da bi sustavi umjetne inteligencije trebali biti shvatljivi ljudima i pružati značajne informacije kako bi se mogle dati povratne informacije; prepoznaje da snaga modela umjetne inteligencije ovisi o povratnim informacijama i ponovnoj procjeni te potiče taj postupak;

164.  napominje da su građani zabrinuti zbog toga što ne znaju kad se umjetna inteligencija upotrebljava i koje će se informacije obrađivati; preporučuje jasno objavljivanje u slučajevima kada se građani koriste umjetnom inteligencijom; ističe da je važno da podaci koji se prenose budu sigurni kako bi se održalo povjerenje potrošača;

165.  smatra da bi tvorci politika trebali regulirati odgovornost povezanu s algoritmima s pomoću procjena učinaka utemeljenih na utvrđenim parametrima;

166.  napominje da se samim otkrivanjem računalnog koda neće riješiti pitanje transparentnosti umjetne inteligencije jer se time ne bi otkrilo postojeće inherentne pristranosti te se ne bi objasnio proces strojnog učenja; ističe da transparentnost ne podrazumijeva samo transparentnost koda nego i podataka i automatiziranog donošenja odluka;

167.  uviđa da bi transparentnost izvornog koda mogla dovesti do zlouporabe algoritama i poigravanja s njima;

168.  naglašava važnost suzbijanja pristranosti razvojnih programera, a time i potrebu za raznolikom radnom snagom u svim područjima sektora informacijske tehnologije te sigurnosnim mehanizmima za sprečavanje da pristranosti na temelju spola i dobi budu dio sustava umjetne inteligencije;

169.  priznaje da bi otkrivanje koda ili poslovnih tajni ujedno odvratilo poduzeća od istraživanja i razvijanja novog koda jer bi njihovo intelektualno vlasništvo bilo ugroženo; napominje da bi se razvojem umjetne inteligencije trebala poticati razumljivost modela i njihova interakcija s ulaznim podacima i podacima o osposobljavanju;

170.  priznaje da transparentnost i objašnjivost, iako mogu omogućiti otkrivanje nedostataka, ne jamče pouzdanost, sigurnost i pravednost; smatra da je stoga odgovornost ključna za postizanje pouzdane umjetne inteligencije, što se može ostvariti na različite načine, kao što su procjene učinka algoritama, revizije i certificiranje;

171.  naglašava potrebu za razvojem protokola za kontinuirano praćenje i otkrivanje algoritamskih pristranosti;

172.  ističe da tvorci algoritama trebaju zajamčiti poštovanje ključnih zahtjeva kao što su pravednost ili objašnjivost od početka faze oblikovanja i tijekom razvojnog ciklusa;

173.  napominje da su potrebne smjernice u kojima se opisuju dobre razvojne prakse;

174.  naglašava važnost prikazivanja podrijetla kako bi se mogla pratiti povijest modela umjetne inteligencije; smatra da će to poboljšati razumijevanje modela i pomoći pri uspostavi povjerenja na temelju njihove povijesti;

175.  smatra da se upotreba sustava umjetne inteligencije mora jasno definirati pri interakciji s korisnicima;

176.  naglašava da se širenje umjetne inteligencije i robotike mora provesti uz potpuno poštovanje ljudskih prava te da se ni u kojem slučaju u strojevima i robotima ne smiju replicirati stereotipovi protiv žena ni bilo koji drugi oblik diskriminacije;

177.  ističe da čak i visokokvalitetni podaci za osposobljavanje mogu dovesti do održavanja postojeće diskriminacije i nepravde kad se ne upotrebljavaju oprezno i savjesno; napominje da upotreba nekvalitetnih, zastarjelih, nepotpunih ili netočnih podataka u različitim fazama obrade podataka može dovesti do loših predviđanja i procjena, a time i do pristranosti koja može dovesti do kršenja temeljnih prava pojedinaca ili jednostavno netočnih zaključaka ili lažnih ishoda; stoga smatra da je u eri velikih podataka važno osigurati da se algoritmi osposobljavaju na reprezentativnom uzorku visokokvalitetnih podataka kako bi se postigao statistički paritet; naglašava da, čak i uz upotrebu visokokvalitetnih podataka, prognostička analiza temeljena na umjetnoj inteligenciji može ponuditi samo statističku vjerojatnost; podsjeća da, u okviru Opće uredbe o zaštiti podataka, daljnja obrada osobnih podataka u statističke svrhe, uključujući u svrhu razvijanja umjetne inteligencije, može dovesti samo do zbirnih podataka koji se ne mogu ponovno primijeniti na pojedince;

178.  poziva Komisiju da zajamči da onaj tko stvori uvjerljiv krivotvoreni sadržaj ili sintetički videozapis ili bilo koji drugi sintetički videozapis koji izgleda realistično izričito izjavi da nije riječ o izvorniku;

179.  napominje da se umjetna inteligencija po svojoj prirodi oslanja na prikupljanje velikih količina podataka, a često i na stvaranje novih baza podataka koje se upotrebljavaju za donošenje pretpostavki o ljudima; smatra da bi naglasak trebalo staviti na utvrđivanje i izgradnju mehanizama za odgovor na potencijalne prijetnje kako bi se zajamčilo ublažavanje negativnih učinaka;

180.  ponavlja da se sustavima umjetne inteligencije ne smije stvarati ili jačati pristranost; naglašava da je u razvoj i upotrebu algoritama potrebno uključiti razmatranja o pristranosti i pravednosti u svim fazama, od oblikovanja do provedbe; smatra da je skup podataka i algoritam potrebno procijeniti i redovito ispitivati kako bi se zajamčila točnost pri donošenju odluka;

6.Upravljanje

6.1.Koordinacija na razini Unije

181.  poziva Komisiju da radi na razvoju snažnog vodstva EU-a kojim se mogu spriječiti udvostručavanje i fragmentacija napora te zajamčiti usklađene politike na nacionalnim razinama i razmjena najboljih praksi za širu upotrebu umjetne inteligencije;

182.  pozdravlja različite nacionalne strategije koje su osmislile države članice; pozdravlja koordinirani plan Komisije o umjetnoj inteligenciji, objavljen 7. prosinca 2018.; poziva na bolju koordinaciju između država članica i Komisije u tom pogledu;

183.  napominje da države članice već imaju svoje nacionalne strategije o umjetnoj inteligenciji i pozdravlja činjenicu da su sve države članice potpisale Izjavu o suradnji u području umjetne inteligencije u travnju 2018.; također pozdravlja predstojeći koordinirani plan o umjetnoj inteligenciji između Komisije i država članica, ali poziva sve uključene strane da teže najvišoj mogućoj razini suradnje;

184.  smatra da je potrebna pojačana suradnja između država članica i Komisije kako bi se zajamčila usklađena prekogranična pravila u Uniji kojima se potiče suradnja među europskim industrijama i omogućuje da se u cijeloj Uniji primjenjuje umjetna inteligencija koja je usklađena s potrebnom razinom zaštite i sigurnosti, kao i s etičkim načelima iz zakonodavstva Unije;

185.  naglašava da će se usklađenim, naprednim okvirom politike EU-a za postupanje s podacima koji se temelji na riziku povećati povjerenje i podržati put umjetne inteligencije u Europi, čime bi se zajamčio dovršetak jedinstvenog digitalnog tržišta i povećala produktivnost europskih poduzeća;

186.  preporučuje da postojeće i buduće inicijative i pilot-projekti povezani s umjetnom inteligencijom koje provodi Komisija budu pomno koordinirani, po mogućnosti u skladu sa smjernicama predloženog nadzornog mehanizma, kako bi se ostvario učinak sinergije i zajamčilo stvaranje stvarne dodane vrijednosti te na taj način izbjegle skupe dvostruke strukture;

187.  poziva Komisiju i države članice da razmotre osnivanje europske regulatorne agencije za umjetnu inteligenciju i algoritamsko donošenje odluka koja bi imala sljedeće zadaće:

   utvrđivanje matrice za procjenu rizika za klasifikaciju vrsta algoritama i domena primjene u skladu s njihovim potencijalom da znatno negativno utječu na građane;
   istraživanje upotrebe algoritamskih sustava ako postoji sumnja na kršenje ljudskih prava (npr. dokazi koje navode zviždači);
   savjetovanje drugih regulatornih agencija u pogledu algoritamskih sustava koji su u njihovoj nadležnosti;
   unapređenje djelotvornosti mehanizma deliktne odgovornosti kao sredstva za reguliranje odgovornosti algoritamskih sustava pružanjem kontaktne točke za građane koji nisu upoznati s pravnim postupcima;
   revizija procjena učinka algoritma sustava visokog utjecaja kako bi se odobrila ili odbila predložena upotreba algoritamskog donošenja odluka u iznimno osjetljivim područjima primjene ili područjima primjene u kojima je sigurnost ključni aspekt (npr. privatna zdravstvena skrb); procjena učinka algoritma za primjene u privatnom sektoru mogla bi se provesti nakon postupka vrlo sličnog onome koji je predložen za javni sektor, uz moguću razliku da se razne faze javnog objavljivanja mogu smatrati povjerljivom komunikacijom upućenoj regulatornoj agenciji (u okviru ugovora o povjerljivosti) kako bi se zaštitile ključne poslovne tajne;
   istraživanje slučajeva u kojima se sumnja na kršenja prava u algoritamskim sustavima donošenja odluka, i kad je riječ o pojedinačnim slučajevima donošenja odluka (npr. pojedinačni problematični ishodi) i o statističkim obrascima za donošenje odluka (npr. diskriminirajuća pristranost); istrage se mogu pokrenuti na temelju podnesene pritužbe ili na temelju dokaza koje navode zviždači, istraživački novinari ili neovisni istraživači (uključujući nevladine organizacije i pripadnike akademske zajednice);

188.  prima na znanje aktualne napore Međunarodne organizacije za normizaciju (ISO) u pogledu umjetne inteligencije i poziva države članice da koordiniraju svoje članove ISO-a kako bi se prilikom razvoja normi u tom području na najbolji mogući način zastupali europski interesi;

6.2.Međunarodno upravljanje

189.  pozdravlja osnivanje Opservatorija OECD-a za politiku u području umjetne inteligencije i poziva na veću ambicioznost u pogledu izrade plana za daljnju suradnju;

190.  naglašava da se u trećim zemljama, posebno u SAD-u, Kini, Rusiji i Izraelu, izrađuju različiti modeli, te skreće pozornost na pristup utemeljen na vrijednostima koji se primjenjuje u Europi te potrebu za suradnjom s međunarodnim partnerima u bilateralnim i multilateralnim okruženjima radi etičkog unapređenja i prihvaćanja umjetne inteligencije; uviđa da ta tehnologija ne poznaje granice te da je potrebna suradnja na razini koja nadilazi same države članice EU-a;

191.  poziva Komisiju da djeluje na međunarodnoj razini kako bi zajamčila najveću moguću usklađenost među međunarodnim akterima te da zagovara etička načela EU-a diljem svijeta;

192.  naglašava da je umjetna inteligencija tehnologija s globalnim utjecajem te da se njome pružaju zajedničke koristi i postavljaju slični izazovi; ističe potrebu za globalnim pristupom, kao u slučaju gospodarskog sustava, a osobito u slučaju tehnologije sa znatnim utjecajem na tržišta; ističe da je umjetnu inteligenciju potrebno staviti na dnevni red postojećih institucija i organizacija te poziva na procjenu potrebe za dodatnim forumima, koje bi trebalo uspostaviti ako se za tim pokaže potreba;

o
o   o

193.  nalaže svojem predsjedniku da ovu Rezoluciju proslijedi Vijeću i Komisiji.

(1) SL C 252, 18.7.2018., str. 239.
(2) SL C 307, 30.8.2018., str. 163.
(3) Usvojeni tekstovi, P8_TA(2018)0341.
(4) Usvojeni tekstovi, P8_TA(2018)0332.
(5) SL L 252, 8.10.2018., str. 1.
(6) COM(2018)0237.
(7) Buduće tehnologije i tehnologije u nastajanju.
(8) OECD Digital Economy Outlook 2017.
(9) Posebno izvješće Eurobarometra 460.
(10) Direktiva (EU) 2018/958 Europskog parlamenta i Vijeća od 28. lipnja 2018. o ispitivanju proporcionalnosti prije donošenja novih propisa kojima se reguliraju profesije, SL L 173, 9.7.2018., str. 25.
(11) Direktiva 2013/55/EU Europskog parlamenta i Vijeća od 20. studenoga 2013. o izmjeni Direktive 2005/36/EZ o priznavanju stručnih kvalifikacija i Uredbe (EU) br. 1024/2012 o administrativnoj suradnji putem Informacijskog sustava unutarnjeg tržišta („Uredba IMI”), SL L 354, 28.12.2013., str. 132.
(12) Direktiva 2006/123/EZ Europskog parlamenta i Vijeća od 12. prosinca 2006. o uslugama na unutarnjem tržištu, SL L 376, 27.12.2006., str. 36.
(13) Direktiva 2000/31/EZ Europskog parlamenta i Vijeća od 8. lipnja 2000. o određenim pravnim aspektima usluga informacijskog društva na unutarnjem tržištu, posebno elektroničke trgovine (Direktiva o elektroničkoj trgovini), SL L 178, 17.7.2000., str. 1.
(14) SL L 303, 28.11.2018., str. 59.
(15) Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ, SL L 119, 4.5.2016., str. 1.
(16) Direktiva Vijeća 85/374/EEZ od 25. srpnja 1985. o usklađivanju zakona i drugih propisa država članica u vezi s odgovornošću za neispravne proizvode, SL L 210, 7.8.1985., str. 29.
(17)SL L 195, 2.6.2004., str. 16.

Posljednje ažuriranje: 13. veljače 2019.Pravna napomena