IZVJEŠĆE s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija

8.10.2020 - (2020/2012(INI))

Odbor za pravna pitanja
Izvjestitelj: Ibán García del Blanco
Izvjestitelji za mišljenje (*):
Urmas Paet, Odbor za vanjske poslove
Alexandra Geese, Odbor za unutarnje tržište i zaštitu potrošača
Valter Flego, Odbor za promet i turizam
Assita Kanko, Odbor za građanske slobode, pravosuđe i unutarnje poslove
(*) Pridruženi odbori – članak 57. Poslovnika
(Inicijativa – članak 47. Poslovnika)

PRIJEDLOG REZOLUCIJE EUROPSKOG PARLAMENTA

s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija

(2020/2012(INI))

Europski parlament,

– uzimajući u obzir članak 225. Ugovora o funkcioniranju Europske unije,

– uzimajući u obzir članak 114. Ugovora o funkcioniranju Europske unije,

– uzimajući u obzir Povelju Europske unije o temeljnim pravima,

– uzimajući u obzir Uredbu Vijeća (EU) 2018/1488 od 28. rujna 2018. o osnivanju Zajedničkog poduzeća za europsko računalstvo visokih performansi[1],

– uzimajući u obzir Direktivu Vijeća 2000/43/EZ od 29. lipnja 2000. o provedbi načela jednakog postupanja prema osobama bez obzira na njihovo rasno ili etničko podrijetlo[2] (Direktiva o rasnoj jednakosti),

– uzimajući u obzir Direktivu Vijeća 2000/78/EZ od 27. studenoga 2000. o uspostavi općeg okvira za jednako postupanje pri zapošljavanju i obavljanju zanimanja[3] (Direktiva o jednakom postupanju pri zapošljavanju),

– uzimajući u obzir Uredbu (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka)[4] i Direktivu (EU) 2016/680 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka od strane nadležnih tijela u svrhe sprečavanja, istrage, otkrivanja ili progona kaznenih djela ili izvršavanja kaznenih sankcija i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Okvirne odluke Vijeća 2008/977/PUP[5],

– uzimajući u obzir Međuinstitucijski sporazum od 13. travnja 2016. o boljoj izradi zakonodavstva[6],

– uzimajući u obzir Prijedlog Uredbe Europskog parlamenta i Vijeća od 6. lipnja 2018. o uspostavi programa Digitalna Europa za razdoblje 2021. – 2027. (COM(2018)434),

– uzimajući u obzir Komunikaciju Komisije Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija od 11. prosinca 2019. o europskom zelenom planu (COM(2019)0640),

– uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. upućenu Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru i Odboru regija naslovljenu „Umjetna inteligencija – Europski pristup izvrsnosti i izgradnji povjerenja” (COM(2020)0065),

– uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. upućenu Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija naslovljenu „Europska strategija za podatke” (COM(2020)0066),

– uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. upućenu Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija naslovljenu „Izgradnja digitalne budućnosti Europe” (COM(2020)0067),

– uzimajući u obzir zaključke Vijeća Europske unije o oblikovanju digitalne budućnosti Europe iz lipnja 2020.,

– uzimajući u obzir svoju Rezoluciju od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici[7],

– uzimajući u obzir svoju Rezoluciju od 1. lipnja 2017. o digitalizaciji europske industrije[8],

– uzimajući u obzir svoju Rezoluciju od 12. rujna 2018. o autonomnim oružanim sustavima[9],

– uzimajući u obzir svoju Rezoluciju od 11. rujna 2018. o jezičnoj ravnopravnosti u digitalnom dobu[10],

– uzimajući u obzir svoju Rezoluciju od 12. veljače 2019. o sveobuhvatnoj europskoj industrijskoj politici o umjetnoj inteligenciji i robotici[11],

– uzimajući u obzir izvješće naslovljeno „Etičke smjernice za pouzdanu umjetnu inteligenciju” od 8. travnja 2019., koje je sastavila Komisijina stručna skupina na visokoj razini za umjetnu inteligenciju,

– uzimajući u obzir brifinge i studije pripremljene na zahtjev Vijeća za budućnost znanosti i tehnologije (STOA), kojim upravlja Odjel za znanstvena predviđanja pri Europskoj parlamentarnoj službi za istraživanje, pod naslovima „What if algorithms could abide by ethical principles? (Što bi se dogodilo kada bi se algoritmi mogli pridržavati etičkih načela?)”, „Artificial Intelligence ante portas: Legal & ethical reflections (Umjetna inteligencija ante portas: pravne i etičke analize)”, „A governance framework for algorithmic accountability and transparency (Okvir za upravljanje algoritamskom odgovornošću i transparentnosti)”, „Should we fear artificial intelligence? (Trebamo li se bojati umjetne inteligencije?)” i „The ethics of artificial intelligence: Issues and initiatives (Etika umjetne inteligencije: pitanja i incijative)”,

– uzimajući u obzir Okvirnu konvenciju Vijeća Europe za zaštitu nacionalnih manjina, Protokol br. 12 Europske konvencije za zaštitu ljudskih prava i temeljnih sloboda i Europsku povelju o regionalnim ili manjinskim jezicima,

– uzimajući u obzir Preporuku Vijeća OECD-a o umjetnoj inteligenciji donesenu 22. svibnja 2019.,

– uzimajući u obzir članke 47. i 54. Poslovnika,

– uzimajući u obzir izvješća Odbora za vanjske poslove, Odbora za unutarnju trgovinu i zaštitu potrošača, Odbora za promet i turizam, Odbora za građanske slobode, pravosuđe i unutarnje poslove, Odbora za zapošljavanje i socijalna pitanja, Odbora za okoliš, javno zdravlje i sigurnost hrane i Odbora za kulturu i obrazovanje,

– uzimajući u obzir izvješće Odbora za pravna pitanja (A9-0186/2020),

Uvod

A. budući da razvoj, primjenu i korištenje umjetne inteligencije, robotike i povezanih tehnologija obavljaju ljudi, te da o njihovim odlukama ovisi u kojoj će mjeri te tehnologije koristiti društvu;

B. budući da se umjetna inteligencija, robotika i s njima povezane tehnologije koje imaju potencijal za stvaranje prilika za poduzeća i koristi za građane i koje mogu izravno utjecati na sve aspekte naših društava, uključujući temeljna prava te socijalna i gospodarska načela i vrijednosti te imaju trajan utjecaj na sva područja djelovanja, brzo promiču i razvijaju;

C. budući da će umjetna inteligencija, robotika i s njima povezane tehnologije dovesti do bitnih promjena na tržištu rada i na radnom mjestu; budući da bi one mogle zamijeniti radnike koji obavljaju repetitivne radnje, olakšati primjenu radnih sustava u kojima čovjek i stroj surađuju, povećati konkurentnost i blagostanje te stvoriti nove mogućnosti zapošljavanja za kvalificirane radnike, dok istovremeno predstavljaju ozbiljan izazov u smislu reorganizacije radne snage;

D. budući da razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija također može doprinijeti postizanju ciljeva održivosti u okviru europskog zelenog plana u različitim sektorima; budući da digitalne tehnologije mogu povećati učinak politika u pogledu zaštite okoliša; budući da mogu doprinijeti i smanjenju prometne gužve te emisija stakleničkih plinova i onečišćivača zraka;

E. budući da se u sektorima kao što je javni prijevoz sustavi umjetne inteligencije za inteligentne prometne sustave mogu upotrebljavati kako bi se smanjilo čekanje u redovima, optimiziralo usmjeravanje, omogućila veća neovisnost osoba s invaliditetom te povećala energetska učinkovitost i tako poboljšali napori za dekarbonizaciju i smanjio ekološki otisak;

F. budući da te tehnologije mogu stvoriti nove poslovne prilike koje mogu pridonijeti oporavku industrije u Uniji nakon aktualne zdravstvene i gospodarske krize ako ih se bude više koristilo, primjerice, u sektoru prometa; budući da takve prilike mogu stvoriti nova radna mjesta jer početak uvođenja tih tehnologija ima potencijal da poveća razine produktivnosti poduzeća i pridonese povećanju učinkovitosti; budući da inovacijski programi u tom području mogu omogućiti napredak regionalnih klastera;

G. budući da Unija i njezine države članice imaju osobitu odgovornost iskoristiti, promicati i povećati dodanu vrijednost umjetne inteligencije te osigurati da su tehnologije umjetne inteligencije sigurne i da doprinose dobrobiti i općem interesu građana jer mogu uvelike doprinijeti postizanju zajedničkog cilja poboljšanja života građana i poticanja blagostanja u Uniji doprinoseći razvoju boljih strategija i inovacija u nizu područja i sektora; budući da je, kako bi se maksimalno iskoristio potencijal umjetne inteligencije, a korisnici osvijestili prednosti i mane takve tehnologije, umjetnu inteligenciju ili digitalnu pismenost potrebno tematizirati u području obrazovanja i osposobljavanja, uključujući u pogledu promicanja digitalne uključenosti, te provesti informativne kampanje na razini Unije kojima se točno prikazuju svi aspekti razvoja umjetne inteligencije;

H. budući da bi zajednički regulatorni okvir Unije za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija (regulatorni okvir za umjetnu inteligenciju) trebao omogućiti građanima da dijele koristi koje te tehnologije potencijalno predstavljaju te ih istodobno štititi od mogućih rizika i promicati pouzdanu tehnologiju diljem Unije i šire; budući da bi se taj okvir trebao temeljiti na zakonima i vrijednostima Unije te voditi načelima transparentnosti i objašnjivosti, pravednosti, pouzdanosti i odgovornosti;

I. budući da je takav regulatorni okvir od ključne važnosti za izbjegavanje fragmentacije unutarnjeg tržišta, koja proizlazi iz različitih nacionalnih zakonodavstava, te će pomoći u poticanju prijeko potrebnih ulaganja, razvoju podatkovne infrastrukture i podupiranju istraživanja; budući da bi se trebao sastojati od zajedničkih pravnih obveza i etičkih načela kako je utvrđeno u prijedlogu Uredbe zatraženom u prilogu ovoj Rezoluciji; budući da bi taj okvir trebalo uspostaviti u skladu sa smjernicama za donošenje bolje regulative;

J. budući da Unija ima strog pravni okvir kako bi se, među ostalim, osiguralo zaštitu osobnih podataka i privatnosti te borilo protiv diskriminacije, promicalo rodnu ravnopravnost, zaštitu okoliša i prava potrošača; budući da će se pravni okvir koji čine opsežno horizontalno i sektorsko zakonodavstvo, uključujući postojeća pravila o sigurnosti i odgovornosti u pogledu proizvoda, nastaviti primjenjivati u odnosu na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, iako će možda biti potrebne određene prilagodbe posebnih pravnih instrumenata kako bi se odrazila digitalna transformacija i kako bi se odgovorilo na nove izazove koje predstavlja upotreba umjetne inteligencije;

K. budući da postoji zabrinutost da trenutačni pravni okvir Unije, uključujući pravnu stečevinu u području zaštite potrošača, zapošljavanja i socijalnih pitanja, zakonodavstvo o zaštiti podataka, zakonodavstvo o sigurnosti proizvoda i nadzoru tržišta, kao i zakonodavstvo o suzbijanju diskriminacije, više nije prikladan za učinkovito hvatanje u koštac s rizicima koji proizlaze iz umjetne inteligencije, robotike i s njima povezanih tehnologija;

L. budući da bi se, uz prilagodbu postojećem zakonodavstvu, na pravna i etička pitanja povezana s tim tehnologijama trebalo odgovoriti konkretnim i sveobuhvatnim regulatornim okvirom prava Unije koji će biti otporan na buduće promjene i u kojem će se istovremeno odražavati načela i vrijednosti Unije sadržani u Ugovorima i Povelji o temeljnim pravima te kojim se neće prekomjerno regulirati, već će se njime samo zatvoriti postojeće pravne praznine i povećati pravna sigurnost za poduzeća i građane, počevši od uvođenja obveznih mjera za sprečavanje praksi kojima bi se nedvojbeno ugrozila temeljna prava i slobode;

M. budući da se svakim novim regulatornim okvirom moraju uzeti u obzir svi predmetni interesi; budući da bi preduvjet za daljnje zakonodavne korake trebalo biti pažljivo ispitivanje posljedica svakog novog regulatornog okvira u odnosu na sve sudionike i to u okviru procjene učinka; budući da ključna uloga malih i srednjih poduzeća (MSP-ovi) i start-up poduzeća, posebno u gospodarstvu Unije, opravdava strogo razmjeran pristup kako bi im se omogućili razvoj i inovacije;

 

N. budući da umjetna inteligencija, robotika i povezane tehnologije mogu imati ozbiljne posljedice na materijalni i nematerijalni integritet pojedinaca, skupina i društva u cjelini te da se za potencijalne pojedinačne i kolektivne štete moraju pronaći zakonodavna rješenja;

O. budući da će za poštovanje regulatornog okvira Unije za umjetnu inteligenciju možda biti potrebno donijeti posebna pravila za prometni sektor Unije;

P. budući da su tehnologije umjetne inteligencije od strateške važnosti za prometni sektor, uključujući i zbog toga što se njima povećava sigurnost i dostupnost svih vrsta prijevoza te stvaraju nove prilike za zapošljavanje i više održivih poslovnih modela; budući da pristup Unije razvoju umjetne inteligencije, robotike i povezanih tehnologija u prometu ima potencijal za povećanje globalne konkurentnosti i strateške autonomije gospodarstva Unije;

Q. budući da je ljudska pogreška još uvijek prisutna u oko 95 % svih prometnih nesreća u EU-u; budući da je cilj Unije bio smanjiti godišnji broj poginulih na cestama u Uniji za 50 % do 2020. u usporedbi s 2010., ali je s obzirom na stagnirajući napredak ponovo počela ulagati napore u „Okvir politike cestovne sigurnosti od 2021. do 2030. – Sljedeći koraci prema ostvarenju „Vizije nula”; budući da u tom pogledu umjetna inteligencija, automatizacija i druge nove tehnologije imaju veliki potencijal i ključnu ulogu za povećanje cestovne sigurnosti smanjenjem mogućnosti ljudske pogreške;

R. budući da bi se regulatornim okvirom Unije za umjetnu inteligenciju također trebalo nastojati zajamčiti poštovanje prava radnika; budući da bi trebalo uzeti u obzir Okvirni sporazum europskih socijalnih partnera o digitalizaciji iz lipnja 2020.;

S. budući da bi područje primjene regulatornog okvira Unije za umjetnu inteligenciju trebalo biti primjereno, razmjerno i detaljno analizirano; budući da bi taj okvir trebao obuhvaćati širok raspon tehnologija i njihovih sastavnica, uključujući algoritme, računalne programe i podatke koje te tehnologije upotrebljavaju ili proizvode, te da je potrebno usvojiti ciljani pristup utemeljen na riziku kako bi se izbjeglo ometanje budućih inovacija i stvaranje nepotrebnog tereta, posebno za MSP-ove; budući da raznolikost aplikacija potaknutih umjetnom inteligencijom, robotikom i s njima povezanim tehnologijama komplicira pronalaženje jedinstvenog rješenja prikladnog za cijeli spektar rizika;

T. budući da analiza podataka i umjetna inteligencija sve više utječu na informacije koje se stavljaju na raspolaganje građanima; budući da takve tehnologije, ako se zloupotrijebe, mogu ugroziti temeljna prava na slobodu izražavanja i na informacije te slobodu medija i pluralizam;

U. budući da bi zemljopisnim područjem primjene regulatornog okvira za umjetnu inteligenciju trebalo obuhvatiti sve sastavnice umjetne inteligencije, robotike i s njima povezanih tehnologija koje se razvijaju, primjenjuju i upotrebljavaju u Uniji, uključujući slučajeve u kojima se dio tih tehnologija možda nalazi izvan Unije ili pak nema određenu lokaciju;

V. budući da bi regulatorni okvir Unije za umjetnu inteligenciju trebao obuhvaćati sve relevantne faze, posebno razvoj, uvođenje i upotrebu relevantnih tehnologija i njihovih sastavnica, za što je potrebno uzeti u obzir relevantne pravne obveze i etička načela, a njime bi se trebalo utvrditi i uvjete kojima se osigurava da su razvojni programeri, subjekti za uvođenje i korisnici u potpunosti usklađeni s tim obvezama i načelima;

W. budući da usklađeni pristup etičkim načelima koja pokrivaju područje umjetne inteligencije, robotike i s njima povezanih tehnologija zahtijeva da se diljem Unije ujednačeno razumije koncepte koji su temelj tih tehnologija, kao što su algoritmi, računalni programi, podaci ili biometrijsko prepoznavanje;

X. budući da se djelovanje na razini Unije objašnjava potrebom za izbjegavanjem regulatorne fragmentacije ili nizom nacionalnih regulatornih odredbi koje nisu svedene pod zajednički nazivnik te jamčenjem homogene primjene zajedničkih etičkih načela utvrđenih zakonom pri razvoju, uvođenju i upotrebi umjetne inteligencije, robotike i s njima povezanih tehnologija; budući da su potrebna jasna pravila kada su u pitanju značajni rizici;

Y. budući da je primjena zajedničkih etičkih načela učinkovita samo ako su utvrđena u okviru prava i ako su prije toga određena tijela s odgovornošću za osiguravanje, ocjenjivanje i praćenje usklađenosti;

Z. budući da su etičke smjernice, kao što su načela koja je usvojila Stručna skupina na visokoj razini za umjetnu inteligenciju, dobra polazišna točka, ali nisu dovoljne kako bi se osiguralo pravedno postupanje razvojnih programera, subjekata za uvođenje i korisnika te zajamčila učinkovita zaštita pojedinaca; budući da su takve smjernice još relevantnije u pogledu visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija;

AA. budući da bi svaka država članica trebala odrediti nacionalno nadzorno tijelo odgovorno za osiguravanje, ocjenjivanje i praćenje usklađenosti razvoja, uvođenja i upotrebe visokorizične umjetne inteligencije, robotike i tehnologija povezanih s regulatornim okvirom Unije za umjetnu inteligenciju, te za omogućavanje rasprava i razmjena gledišta u bliskoj suradnji s relevantnim dionicima i civilnim društvom; budući da bi nacionalna nadzorna tijela trebala međusobno surađivati;

AB. budući da bi, kako bi se osigurao usklađen pristup u cijeloj Uniji i optimalno funkcioniranje jedinstvenog digitalnog tržišta, koordinaciju Komisije na razini Unije i svih relevantnih institucija, tijela, ureda i agencija Unije koji bi mogli biti imenovani u tom kontekstu trebalo ocijeniti u pogledu novih mogućnosti i izazova, posebno onih prekogranične prirode, koji proizlaze iz tehnološkog razvoja koji je u tijeku; budući da bi u tu svrhu Komisiju trebalo zadužiti da pronađe odgovarajuće rješenje za strukturiranje takve koordinacije na razini Unije;

Umjetna inteligencija koja je usmjerena na čovjeka i koju je osmislio čovjek

1. smatra da je, ne dovodeći u pitanje sektorsko zakonodavstvo, potrebno donijeti učinkovit i usklađen regulatorni okvir koji se temelji na pravu Unije, Povelji Europske unije o temeljnim pravima („Povelja”) i međunarodnom pravu o ljudskim pravima, a posebno je mjerodavan za visokorizične tehnologije, na temelju čega će se moći uspostaviti jednaki standardi u cijeloj Uniji i djelotvorno zaštititi vrijednosti Unije;

2. smatra da bi se svakim novim regulatornim okvirom za umjetnu inteligenciju koji se sastoji od pravnih obveza i etičkih načela za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija trebalo u potpunosti poštovati Povelju, a time i ljudsko dostojanstvo, autonomiju i samoodređenje pojedinca, spriječiti nanošenje štete, promicati pravednost, uključivost i transparentnost, ukloniti pristranost i diskriminaciju, također u pogledu manjinskih skupina, te poštovati i držati se načela ograničavanja negativnih vanjskih učinaka tehnologije koja se upotrebljava, osigurati objašnjivost tehnologija i jamčiti da tehnologije služe ljudima i da ih ne zamjenjuju niti donose odluke za njih, uz krajnji cilj povećanja dobrobiti svakog ljudskog bića;

3. ističe asimetriju između onih koji se koriste tehnologijama umjetne inteligencije i onih koji s njima dolaze u doticaj i podložni su im; u tom kontekstu naglašava da se povjerenje građana u umjetnu inteligenciju može izgraditi samo na temelju okvira „zadane i integrirane etičnosti” kojim se osigurava da umjetna inteligencija koja se koristi u potpunosti poštuje Ugovore, Povelju i sekundarno pravo Unije te je s njima usklađena; smatra da bi sve radnje poduzete na temelju tog pristupa trebale biti u skladu s načelom predostrožnosti na kojem se temelji zakonodavstvo Unije i u središtu svakog okvira za umjetnu inteligenciju; u tom pogledu poziva na jasan i dosljedan model upravljanja kojim se poduzećima i inovatorima omogućuje daljnji razvoj umjetne inteligencije, robotike i povezanih tehnologija;

4. smatra da bi sve zakonodavne mjere koje se odnose na umjetnu inteligenciju, robotiku i povezane tehnologije trebale biti u skladu s načelima nužnosti i proporcionalnosti;

5.  smatra da će se takvim pristupom poduzećima omogućiti uvođenje inovativnih proizvoda na tržište i stvaranje novih mogućnosti te da će se istodobno zajamčiti zaštita vrijednosti Unije i razvoj sustava umjetne inteligencije u koje su od samog početka procesa izrade ugrađena etička načela Unije; smatra da bi takav regulatorni okvir utemeljen na vrijednostima predstavljao dodanu vrijednost kojom bi se Uniji pružila jedinstvena konkurentska prednost i kojom bi se znatno doprinijelo dobrobiti i blagostanju građana i poduzeća Unije te ojačalo unutarnje tržište; ističe da će takav regulatorni okvir za umjetnu inteligenciju također predstavljati dodanu vrijednost u pogledu promicanja inovacija na unutarnjem tržištu; smatra da, primjerice, u sektoru prometa takav pristup poduzećima iz Unije pruža priliku da postanu globalni predvodnici u tom području;

6. primjećuje da bi se pravni okvir Unije trebao primijeniti na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, što se odnosi i na računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode;

7. konstatira da se mogućnosti koje se temelje na umjetnoj inteligenciji, robotici i povezanim tehnologijama oslanjaju na „velike podatke” te im je potrebna kritična masa podataka radi usavršavanja algoritama i unapređivanja rezultata; u tom pogledu pozdravlja prijedlog Komisije za stvaranje zajedničkog podatkovnog prostora u Uniji kako bi se pojačala razmjena podataka i poduprla istraživanja, uz potpuno poštovanje europskih pravila o zaštiti podataka.

8. smatra da će se postojeći pravni okvir Unije, posebno u području zaštite privatnosti i osobnih podataka, morati u potpunosti primjenjivati na umjetnu inteligenciju, robotiku i s njima povezane tehnologije te da će ga biti potrebno redovito preispitivati i nadzirati te po potrebi ažurirati kako bi se učinkovito uklonili rizici koji proizlaze iz tih tehnologija te bi u tom pogledu taj okvir mogao imati koristi od toga da ga se dopuni čvrstim vodećim etičkim načelima; ističe da bi u slučajevima u kojima bi donošenje pravnih akata bilo preuranjeno trebalo uspostaviti neobvezujući pravni okvir;

9. očekuje od Komisije da u zakonodavni prijedlog zatražen u prilogu ovoj rezoluciji uključi snažan etički pristup kao nastavak Bijele knjige o umjetnoj inteligenciji, uključujući sigurnost, odgovornost i temeljna prava, čime se maksimalno povećavaju mogućnosti i smanjuju rizici tehnologija umjetne inteligencije; očekuje da će zatraženi zakonodavni prijedlog uključivati politička rješenja za glavne prepoznate rizike umjetne inteligencije, uključujući, među ostalim, etičko prikupljanje i upotrebu velikih podataka, pitanje algoritamske transparentnosti i algoritamske pristranosti; poziva Komisiju da osmisli kriterije i pokazatelje za označivanje tehnologije umjetne inteligencije kako bi se poticala transparentnost, objašnjivost i odgovornost te kako bi se poticalo poduzimanje dodatnih mjera opreza za razvojne programere; naglašava potrebu za ulaganjem u integraciju netehničkih disciplina u studije i istraživanja umjetne inteligencije uzimajući pritom u obzir socijalni kontekst;

10. smatra da se umjetna inteligencija, robotika i s njima povezane tehnologije moraju prilagoditi ljudskim potrebama u skladu s načelom prema kojem bi njihov razvoj, uvođenje i upotreba uvijek trebali biti u službi ljudi, a nikada obrnuto, te bi se njima trebalo nastojati poboljšati dobrobit i individualnu slobodu, očuvati mir, spriječiti sukobe i ojačati međunarodnu sigurnost, te istovremeno maksimalno iskoristiti njihove prednosti, a spriječiti i smanjiti rizike;

11. izjavljuje da bi se razvoj, uvođenje i upotreba visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, koji su, među ostalim, ali ne i isključivo, plod ljudskog djelovanja, uvijek trebali voditi etičkim načelima te bi se njima trebao poštovati i dopuštati ljudski faktor i demokratski nadzor, kao i uspostava ljudskog nadzora, ako je to potrebno, s pomoću provedbe odgovarajućih kontrolnih mjera;

Procjena rizika

12. ističe da bi u svim budućim propisima trebalo slijediti diferenciran pristup temeljen na riziku i usmjeren na budućnost u cilju reguliranja umjetne inteligencije, robotike i povezanih tehnologija, uključujući tehnološki neutralne standarde u svim sektorima, prema potrebi uz sektorske standarde; napominje da je, kako bi se zajamčila ujednačena provedba sustava procjene rizika i usklađenost s povezanim pravnim obvezama za jamčenje jednakih uvjeta među državama članicama i sprečavanje fragmentacije unutarnjeg tržišta, potreban iscrpan i kumulativni popis visokorizičnih sektora i visokorizičnih uporaba ili svrha; naglašava da se takav popis mora redovito iznova provjeravati i napominje da će, s obzirom na promjenjivu prirodu tih tehnologija, u budućnosti možda biti potrebno preispitati način na koji se provodi njihova procjena rizika;

13. smatra da bi se eventualna visokorizičnost umjetne inteligencije, robotike i s njima povezanih tehnologija u pogledu usklađenosti s pravnim obvezama i etičkim načelima kako su utvrđeni u regulatornom okviru za umjetnu inteligenciju uvijek trebala utvrđivati na temelju nepristrane, regulirane i vanjske ex ante procjene utemeljene na konkretnim i određenim kriterijima;

14. mišljenja je da bi se u tom pogledu umjetna inteligencija, robotika i s njima povezane tehnologije trebale smatrati visokorizičnima ako njihov razvoj, uvođenje i upotreba podrazumijevaju znatan rizik od nanošenja ozljede ili štete pojedincima ili društvu, čime se krše temeljna prava i sigurnosna pravila utvrđena pravom Unije; smatra da bi se, kako bi se procijenilo uključuju li tehnologije umjetne inteligencije takav rizik, u obzir trebao uzeti sektor u kojem se razvijaju, uvode ili upotrebljavaju, njihova konkretna uporaba ili svrha te ozbiljnost ozljede ili štete za koju se može očekivati da će nastati; prvi i drugi kriterij, odnosno sektor i konkretna uporaba ili svrha, trebali bi se razmatrati kumulativno;

15. naglašava da bi procjenu rizika tih tehnologija trebalo provesti na temelju iscrpnog i kumulativnog popisa visokorizičnih sektora te visokorizičnih uporaba i namjena; čvrsto vjeruje da bi unutar Unije trebala postojati dosljednost u pogledu procjene rizika tih tehnologija, posebno kada se one ocjenjuju u svjetlu njihove usklađenosti s regulatornim okvirom za umjetnu inteligenciju i u skladu s bilo kojim drugim mjerodavnim sektorskim zakonodavstvom;

16. smatra da bi taj pristup utemeljen na riziku trebalo razviti na način kojim se u najvećoj mogućoj mjeri ograničava administrativno opterećenje za poduzeća, a posebno mala i srednja poduzeća, korištenjem postojećih alata; ti alati uključuju, ali nisu ograničeni na, popis procjene učinka na zaštitu podataka predviđen Uredbom (EU) 2016/679;

Sigurnosne značajke, transparentnost i odgovornost

17. podsjeća da je pravo na informiranje potrošača temeljno načelo prava Unije te naglašava da bi ga stoga trebalo u potpunosti provesti u kontekstu umjetne inteligencije, robotike i povezanih tehnologija; smatra da bi to posebno trebalo obuhvaćati transparentnost u pogledu interakcije sa sustavima umjetne inteligencije, uključujući postupke automatizacije, te u pogledu njihova načina funkcioniranja, njihovih sposobnosti, primjerice načina na koji se informacije filtriraju i prikazuju, točnosti i ograničenja; smatra da bi takve informacije trebalo pružiti nacionalnim nadzornim tijelima i nacionalnim tijelima za zaštitu potrošača;

18. naglašava da je povjerenje potrošača ključno za razvoj i provedbu tih tehnologija koje mogu sadržavati inherentne rizike ako se temelje na netransparentnim algoritmima i pristranim skupovima podataka; smatra da bi potrošači trebali imati pravo biti odgovarajuće informirani, na razumljiv, pravodoban, standardiziran, točan i pristupačan način, o postojanju, logici i mogućim rezultatima algoritamskih sustava te njihovu učinku na potrošače, o načinu na koji se može doći do ljudskog bića s ovlastima odlučivanja i o tome kako se odluke sustava mogu provjeriti, smisleno osporiti i ispraviti; u tom pogledu ističe da je potrebno razmotriti i poštovati načela informiranja i objavljivanja na kojima je izgrađena pravna stečevina u području zaštite potrošača; smatra da je krajnjim korisnicima potrebno pružiti detaljne informacije o radu prometnih sustava i vozila koja funkcioniraju s pomoću umjetne inteligencije;

19. napominje da je ključno da algoritmi i skupovi podataka koje koriste ili proizvode umjetna inteligencija, robotika i povezane tehnologije budu objašnjivi i, ako je to nužno i uz potpuno poštovanje zakonodavstva Unije o zaštiti podataka, privatnosti i pravima intelektualnog vlasništva te o zaštiti poslovne tajne, dostupni javnim tijelima kao što su nacionalna nadzorna tijela i tijela za nadzor tržišta; nadalje napominje da bi, u skladu s najvišim primjenjivim industrijskim standardima tu dokumentaciju trebali pohranjivati oni koji su uključeni u različite faze razvoja visokorizičnih tehnologija; napominje da u tom pogledu tijela za nadzor tržišta mogu imati dodatne ovlasti; u tom smislu naglašava ulogu zakonitog obrnutog inženjeringa; smatra da bi moglo biti potrebno preispitati postojeće zakonodavstvo o nadzoru tržišta kako bi se osiguralo da ono nudi etički odgovor na pojavu umjetne inteligencije, robotike i povezanih tehnologija;

20. poziva na to da se od razvojnih programera i subjekata za uvođenje visokorizičnih tehnologija zatraži da, ako na to upućuje procjena rizika,  javnim tijelima omoguće pristup relevantnoj dokumentaciji o korištenju i uputama o konstrukciji i sigurnosti, uključujući, kad je to izričito potrebno i uz puno poštovanje zakonodavstva Unije o zaštiti podataka, privatnosti i pravima intelektualnog vlasništva te zaštiti poslovne tajne, izvorni kod, razvojne alate i podatke kojima se koristi sustav; konstatira da bi se takvom obvezom omogućila procjena njihove usklađenosti s pravom Unije i etičkim načelima te u tom pogledu kao primjer navodi pravnu obvezu dostave primjerka publikacije nacionalnoj knjižnici; napominje da postoji bitna razlika između transparentnosti algoritama i transparentnosti uporabe algoritama;

21. osim toga napominje da bi, kako bi se poštovali ljudsko dostojanstvo, autonomija i sigurnost, dužnu pažnju trebalo posvetiti životno važnim i naprednim medicinskim uređajima te potrebi da neovisna pouzdana tijela zadrže mogućnost pružanja usluga osobama koje takve uređaje koriste, ako izvorni razvojni programeri ili subjekti za uvođenje te usluge više ne pružaju; primjerice, te bi usluge uključivale održavanje, popravke i poboljšanja, uključujući ažuriranja računalnih programa kojima se ispravljaju nedostaci i slabe točke;

22. ističe da se visokorizična umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje te tehnologije upotrebljavaju ili proizvode, bez obzira na područje u kojem se razvijaju, uvode i upotrebljavaju, trebaju razvijati na siguran, sljediv, tehnički postojan, pouzdan, etički odgovoran i pravno obvezujući način te biti podložni neovisnoj kontroli i nadzoru; posebno smatra da bi svi akteri u cijelom lancu razvoja i opskrbe proizvodima i uslugama umjetne inteligencije trebali biti pravno odgovorni te ističe potrebu za uvođenjem mehanizama kojima bi se osigurala obveza i odgovornost;

23. ističe da su propisi i smjernice koji se odnose na objašnjivost, mogućnost revizije, sljedivost i transparentnost, kao i pristup javnih tijela tehnologiji, podacima i računalnim sustavima na kojima se temelje takve tehnologije, uz potpuno poštovanje prava Unije, primjerice prava na zaštitu podataka, privatnost, prava intelektualnog vlasništva i zaštitu poslovne tajne, ključni za osiguravanje povjerenja građana u te tehnologije, čak i ako je stupanj objašnjivosti u odnosu na složenost tehnologija relativan; ističe da nije uvijek moguće objasniti zašto je neki model doveo do određenog rezultata ili odluke, pri čemu su primjer tzv. algoritmi crne kutije; stoga smatra da je poštovanje tih načela preduvjet za jamčenje odgovornosti;

24. smatra da bi građani, uključujući potrošače, trebali biti informirani prilikom interakcije sa sustavom koji se koristi umjetnom inteligencijom, posebno za personalizaciju proizvoda ili usluge svojim korisnicima, bez obzira na to mogu li i na koji način tu personalizaciju isključiti ili ograničiti;

25. u tom pogledu ističe da umjetna inteligencija, robotika i s njima povezane tehnologije moraju biti tehnički postojane i precizne kako bi bile pouzdane;

26. ističe da je zaštita mreža međusobno povezane umjetne inteligencije i robotike važna i da se moraju poduzeti stroge mjere za sprečavanje povreda sigurnosti, curenja podataka, iskorištavanja ranjivosti ljudi i umjetne inteligencije (engl. data poisoning), kibernapada i zlouporabe osobnih podataka te da će za to biti potrebna međusobna suradnja relevantnih agencija, tijela i institucija na europskoj i nacionalnoj razini, kao i njihova suradnja s krajnjim korisnicima tih tehnologija; poziva Komisiju i države članice da se pobrinu za to da se pri razvoju i primjeni tehnologija umjetne inteligencije u svakom trenutku osigura poštovanje vrijednosti Unije i temeljnih prava kako bi se zajamčila sigurnost i otpornost digitalne infrastrukture Unije;

Nepristranost i nediskriminacija

27. podsjeća da umjetna inteligencija, ovisno o tome kako se razvija i koristi, može stvoriti i jačati pristranost, među ostalim kroz inherentnu pristranost u temeljnim skupovima podataka, te stoga dovesti do različitih oblika automatizirane diskriminacije, uključujući neizravnu diskriminaciju, što se posebno odnosi na skupine osoba sličnih obilježja; poziva Komisiju i države članice da poduzmu sve moguće mjere kako bi se izbjegla takva pristranost i da zajamče potpunu zaštitu temeljnih prava;

28. zabrinut je zbog rizika od pristranosti i diskriminacije u razvoju, uvođenju i upotrebi visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje upotrebljavaju ili proizvode takve tehnologije; podsjeća na to da bi se tim tehnologijama u svim okolnostima trebalo poštovati pravo Unije, kao i ljudska prava i dostojanstvo, autonomija i samoodređenje pojedinca te svima jamčiti jednako postupanje i nediskriminaciju;

29. naglašava da bi tehnologije umjetne inteligencije trebale biti osmišljene tako da poštuju, služe i štite vrijednosti Unije te fizički i mentalni integritet, promiču  kulturnu i jezičnu raznolikost Unije i pomažu u zadovoljavanju osnovnih potreba; ističe da je potrebno izbjeći svaku upotrebu koja bi mogla dovesti do nedopuštene izravne ili neizravne prisile, ugroziti psihološku autonomiju i mentalno zdravlje ili dovesti do neopravdanog nadzora, obmane ili nedopuštene manipulacije;

30. čvrsto je uvjeren da bi se temeljna ljudska prava sadržana u Povelji trebala strogo poštovati kako te nove tehnologije ne bi dovele do manjkavosti u pogledu zaštite;

31. potvrđuje da problem eventualne pristranosti i diskriminacije u okviru računalnih programa, algoritama i podataka može nanijeti očitu štetu pojedincima i društvu te da bi ga stoga trebalo riješiti poticanjem razvoja i dijeljenja strategija za borbu protiv tih pojava, kao što je uklanjanje pristranosti iz skupova podataka u istraživanju i razvoju te izradom pravila za obradu podataka; smatra da bi na temelju tog pristupa računalni programi, algoritmi i podaci mogli postati instrument u borbi protiv pristranosti i diskriminacije u određenim situacijama te imati ulogu zagovornika jednakih prava i pokretača pozitivnih društvenih promjena;

32. smatra da bi etičke vrijednosti pravednosti, točnosti, povjerljivosti i transparentnosti trebale biti temelj tih tehnologija, što u ovom kontekstu podrazumijeva da bi one trebale funkcionirati na način koji ne može dovesti do pristranih rezultata;

33. naglašava važnost kvalitete skupova podataka koji se koriste u sustavima umjetne inteligencije, robotike i povezanih tehnologija ovisno o njihovu kontekstu, posebno u pogledu reprezentativnosti podataka korištenih za testiranje, o uklanjanju pristranosti iz skupova podataka, o korištenim algoritmima te o standardima za podatke i njihovu agregaciju; naglašava da bi nacionalna nadzorna tijela trebala moći preispitati te skupove podataka kad god se od njih zatraži da osiguraju njihovu sukladnost s prethodno izloženim načelima;

34. naglašava da bi u kontekstu rasplamsanog rata dezinformacijama, na koji osobito potiču akteri izvan Europe, tehnologija umjetne inteligencije mogla imati etički štetne učinke zbog zlonamjerne uporabe predrasuda u podacima i algoritmima ili namjernom izmjenom podataka za učenje od strane trećih zemalja te bi mogla biti izložena drugim oblicima opasne i štetne manipulacije na nepredvidive načine i s nesagledivim posljedicama; stoga postoji povećana potreba da EU nastavi ulagati u istraživanje, analizu, inovacije i prekogranično i međusektorsko prenošenje znanja u cilju razvoja tehnologije umjetne inteligencije koja ne bi ni na kakav način profilirala, imala predrasude ili diskriminirala te bi se njome učinkovito pridonijelo borbi protiv lažnih vijesti i dezinformacija uz istovremeno poštovanje privatnosti podataka i pravnog okvira Unije;

35. podsjeća na važnost učinkovitih pravnih lijekova za pojedince i poziva države članice da se pobrinu za dostupnost pristupačnih, cjenovno prihvatljivih, neovisnih i učinkovitih postupaka te mehanizama preispitivanja u okviru kojih se jamči nepristrano ljudsko razmatranje svih navoda o kršenjima prava građana, primjerice prava potrošača ili građanskih prava, a koja su posljedica korištenja algoritamskih sustava, neovisno o tome dolaze li iz javnog ili privatnog sektora; ističe važnost Prijedloga direktive Europskog parlamenta i Vijeća o udružnim tužbama za zaštitu kolektivnih interesa potrošača i stavljanju izvan snage Direktive 2009/22/EZ, o kojoj je postignut politički sporazum 22. lipnja 2020., u pogledu budućih slučajeva za osporavanje uvođenja ili trajnog korištenja sustava umjetne inteligencije kojim bi se moglo kršiti prava potrošača ili ispraviti kršenje tih prava; traži od Komisije i država članica da se pobrinu za to da nacionalne i europske organizacije potrošača imaju dostatna financijska sredstva za pružanje pomoći potrošačima u ostvarivanju njihovih prava na pravni lijek u slučajevima u kojima se krše njihova prava;

36. stoga smatra da bi svaka fizička ili pravna osoba trebala moći tražiti pravnu zaštitu u vezi s odlukom koju je donio sustav umjetne inteligencije, robotike ili s njima povezanih tehnologija, a kojom joj je nanesena šteta te kojom je prekršeno pravo Unije ili nacionalno pravo;

37 smatra da bi potrošači, kao prvu kontaktnu točku u slučajevima sumnje na kršenje regulatornog okvira Unije u tom kontekstu, svoje zahtjeve za pravnu zaštitu mogli uputiti i nacionalnim nadzornim tijelima kako bi se osigurala učinkovita provedba prethodno navedenog okvira;

Društvena odgovornost i rodna ravnoteža

38. naglašava da društveno odgovorna umjetna inteligencija, robotika i s njima povezane tehnologije imaju ulogu u pronalaženju rješenja za zaštitu i promicanje temeljnih prava i vrijednosti našeg društva, kao što su demokracija, vladavina prava, raznovrsni i neovisni mediji te objektivne i slobodno dostupne informacije, zdravlje i gospodarski napredak, jednakost mogućnosti, prava radnika i socijalna prava, kvalitetno obrazovanje, zaštita djece, kulturna i jezična raznolikost, rodna jednakost, digitalna pismenost, inovacije i kreativnost; podsjeća da je važno pobrinuti se za to da interesi svih građana, uključujući one koji su marginalizirani ili u ranjivoj situaciji, poput osoba s invaliditetom, budu na odgovarajući način uzeti u obzir i zastupljeni;

39. naglašava važnost postizanja visoke razine opće digitalne pismenosti i osposobljavanja visokokvalificiranih stručnjaka u ovom području te uzajamnog priznavanja takvih kvalifikacija diljem Unije; naglašava potrebu za raznolikim sastavom skupina razvojnih programera i inženjera i njihovom suradnjom s ključnim društvenim akterima, kako bi se spriječilo nenamjerno uključivanje rodne i kulturne pristranosti u algoritme, sustave i aplikacije umjetne inteligencije; podržava izradu obrazovnih kurikuluma i aktivnosti za senzibilizaciju javnosti o društvenom, pravnom i etičkom učinku umjetne inteligencije;

40. naglašava da je od ključne važnosti zajamčiti slobodu mišljenja i izražavanja, čime se osigurava da se tim tehnologijama ne promiče govor mržnje ili nasilje te stoga smatra da je sprečavanje ili ograničavanje slobode izražavanja koja se ostvaruje digitalnim putem nezakonito u skladu s temeljnim načelima Unije, osim ako ostvarivanje tog temeljnog prava podrazumijeva nezakonite radnje;

41. ističe da umjetna inteligencija, robotika i povezane tehnologije mogu doprinijeti smanjenju društvenih nejednakosti i smatra da se europski model njihova razvoja mora temeljiti na povjerenju građana i jačanju socijalne kohezije;

42. naglašava da uvođenje bilo kojeg sustava umjetne inteligencije ne bi trebalo neopravdano ograničavati pristup korisnika javnim uslugama kao što je socijalna sigurnost; stoga poziva Komisiju da procijeni kako se taj cilj može postići;

43. naglašava važnost odgovornog istraživanja i razvoja čiji je cilj maksimalno iskorištavanje punog potencijala umjetne inteligencije, robotike i s njima povezanih tehnologija za građane i javno dobro; poziva na mobilizaciju sredstava Unije i njezinih država članica kako bi se razvile i poduprle odgovorne inovacije;

44. naglašava da će tehnološko stručno znanje biti sve važnije te će stoga biti potrebno neprestano ažurirati ponudu osposobljavanja, posebno za nove generacije, i poticati prekvalifikaciju onih koji su već na tržištu rada; u tom smislu smatra da bi trebalo poticati inovacije i osposobljavanje ne samo u privatnom nego i u javnom sektoru;

45. ustraje u tome da razvoj, uvođenje i upotreba tih tehnologija ni na koji način ne bi smjeli nauditi ili naštetiti pojedincima, društvu ili okolišu te da bi se, u skladu s time, razvojni programeri, subjekti za uvođenje i korisnici tih tehnologija trebali smatrati odgovornima u slučaju da se na bilo koji način naudi ili našteti pojedincima, društvu ili okolišu u skladu s relevantnim propisima Unije i nacionalnim propisima o odgovornosti;

46. poziva države članice da procijene bi li gubitak radnih mjesta uzrokovan uvođenjem tih tehnologija trebao dovesti do odgovarajućih javnih politika kao što je smanjenje radnog vremena;

47. smatra da je prilikom projektiranja vrlo važno imati pristup koji se temelji na vrijednostima Unije i etičkim načelima jer tako se mogu stvoriti uvjeti za široko društveno prihvaćanje umjetne inteligencije, robotike i s njima povezanih tehnologija; smatra da je pristup usmjeren na razvoj pouzdane, etički odgovorne i tehnički postojane umjetne inteligencije važan čimbenik održive i pametne mobilnosti koja je sigurna i dostupna;

48. skreće pozornost na veliku dodanu vrijednost autonomnih vozila za osobe sa smanjenom pokretljivošću, s obzirom na to da takva vozila tim osobama omogućuju učinkovitije sudjelovanje u individualnom cestovnom prometu, čime se olakšava i njihov svakodnevni život; naglašava važnost pristupačnosti, posebno pri osmišljavanju sustava MaaS (mobilnost kao usluga);

49. poziva Komisiju da nastavi podržavati razvoj pouzdanih sustava umjetne inteligencije kako bi se omogućio sigurniji, učinkovitiji, dostupniji, povoljniji i uključiviji promet, među ostalim za osobe sa smanjenom pokretljivošću, posebno osobe s invaliditetom, uzimajući u obzir Direktivu (EU) 2019/882 Europskog parlamenta i Vijeća te pravo Unije o pravima putnika;

50. smatra da umjetna inteligencija može pomoći u boljem iskorištavanju vještina i kompetencija osoba s invaliditetom te da primjena umjetne inteligencije na radnom mjestu može doprinijeti uključivosti tržišta rada i višim stopama zaposlenosti osoba s invaliditetom;

Okoliš i održivost

51. navodi da bi vlade i poduzeća trebale koristiti umjetnu inteligenciju, robotiku i s njima povezane tehnologije na način da se njima ostvaruje korist za ljude i planet, doprinosi ostvarivanju ciljeva održivog razvoja, očuvanja okoliša, klimatske neutralnosti i kružnog gospodarstva; razvoj, uvođenje i upotreba tih tehnologija trebala bi tijekom njihova životnog ciklusa i cijelog lanca opskrbe te u skladu s pravom Unije doprinositi zelenoj tranziciji, očuvanju okoliša te smanjenju i ublažavanju svih vrsta štete za okoliš;

52. s obzirom na njihov znatan utjecaj na okoliš, za potrebe prethodnog stavka, nadležna tijela sektora mogla bi, ako je to relevantno i primjereno, ocijeniti učinak razvoja, uvođenja i upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija na okoliš tijekom njihova životnog vijeka; ta bi ocjena mogla uključivati procjenu učinka vađenja potrebnih sirovina, potrošnje energije te ispuštanja stakleničkih plinova koji su rezultat njihova razvoja, uvođenja i uporabe;

53. predlaže da se potencijal umjetne inteligencije, robotike i s njima povezanih tehnologija ispita, potiče i maksimalno poveća u okviru odgovornih istraživanja i razvoja koji zahtijevaju mobilizaciju sredstava Unije i njezinih država članica u svrhu razvoja odgovornih i najnaprednijih rješenja u području umjetne inteligencije;

54. ističe činjenicu da razvoj, uvođenje i upotreba tih tehnologija pružaju mogućnosti za promicanje ciljeva održivog razvoja koje su utvrdili Ujedinjeni narodi, ciljeva globalne energetske tranzicije i dekarbonizacije;

55. smatra da se ciljevima društvene odgovornosti, rodne ravnoteže, zaštite okoliša i održivosti ne bi trebalo dovoditi u pitanje postojeće opće i sektorske obveze u tim područjima; smatra da bi trebalo utvrditi neobvezujuće provedbene smjernice za razvojne programere, subjekte za uvođenje i korisnike, posebno visokorizičnih tehnologija, a koje se tiču metodologije za procjenu njihove usklađenosti s ovom Uredbom i postizanja tih ciljeva;

56. poziva Uniju da promiče i financira razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija usmjerenih na čovjeka kojima se rješavaju okolišni i klimatski izazovi te kojima se s pomoću poreza, javne nabave ili drugih poticaja jamči poštovanje temeljnih prava;

57. naglašava da, unatoč trenutačnom visokom ugljičnom otisku razvoja, uvođenja i uporabe umjetne inteligencije, robotike i povezanih tehnologija, uključujući automatizirane odluke i strojno učenje, te tehnologije mogu doprinijeti smanjenju trenutačnog ekološkog otiska sektora IKT-a; ističe da bi te i druge pravilno regulirane povezane tehnologije trebale biti ključni čimbenici za postizanje ciljeva zelenog plana, ciljeva održivog razvoja UN-a i Pariškog sporazuma u mnogim različitim sektorima te da bi se zahvaljujući njima trebao pojačati učinak politika kojima se osigurava zaštita okoliša, npr. politika za smanjenje otpada i sprečavanje uništavanja okoliša;

58. poziva Komisiju da provede istraživanje o učinku ugljičnog otiska tehnologije umjetne inteligencije te pozitivnim i negativnim učincima prelaska potrošača na upotrebu tehnologije umjetne inteligencije;

59. napominje da bi, s obzirom na sve veći razvoj primjena umjetne inteligencije za koje su potrebni računalni, skladišni i energetski resursi, trebalo voditi računa o utjecaju sustava umjetne inteligencije na okoliš tijekom njihova cijelog životnog ciklusa;

60. smatra da u područjima kao što je zdravlje odgovornost u konačnici mora snositi fizička ili pravna osoba; ističe potrebu za sljedivim i javno dostupnim skupovima podataka za učenje kada je riječ o algoritmima;

61. snažno podupire stvaranje europskog prostora za zdravstvene podatke[12] koji je predložila Komisija i čiji je cilj promicanje razmjene zdravstvenih podataka i podupiranje istraživanja uz potpuno poštovanje zaštite podataka, uključujući obradu podataka tehnologijom umjetne inteligencije, te kojim se jačaju i proširuju upotreba i ponovna upotreba zdravstvenih podataka; potiče unapređenje prekogranične razmjene zdravstvenih podataka, njihovo povezivanje i upotrebu tih podataka s pomoću sigurnih, udruženih repozitorija, posebnih vrsta zdravstvenih informacija, kao što su europska zdravstvena evidencija, genomske informacije i digitalne zdravstvene slike kako bi se olakšali interoperabilni registri ili baze podataka na razini Unije u područjima kao što su istraživački, znanstveni i zdravstveni sektor;

62. ističe koristi koje umjetna inteligencija donosi u područjima sprečavanja, liječenja i kontrole bolesti, čemu svjedoči i to da je umjetna inteligencija predvidjela epidemiju bolesti COVID-19 prije Svjetske zdravstvene organizacije; apelira na Komisiju da ECDC-u osigura odgovarajući regulatorni okvir i resurse za neovisno prikupljanje potrebnih anonimiziranih globalnih zdravstvenih podataka u stvarnom vremenu u suradnji s državama članicama kako bi se, među ostalim, odgovorilo na probleme koje je razotkrila kriza uzrokovana pandemijom bolesti COVID-19;

Privatnost i biometrijsko prepoznavanje

63. primjećuje da se proizvodnja i upotreba podataka, uključujući osobne podatke poput biometrijskih podataka, koji proizlaze iz razvoja, uvođenja i upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija brzo povećavaju, zbog čega potreba za poštovanjem i provođenjem prava građana na privatnost i zaštitom osobnih podataka u skladu s pravom Unije postaje sve evidentnija;

64. ističe da je mogućnost upotrebe osobnih i neosobnih podataka za kategorizaciju i mikrociljanje osoba, utvrđivanje ranjivosti pojedinaca ili iskorištavanje precizno predvidivog znanja koju te tehnologije pružaju potrebno otkloniti učinkovitom primjenom načela zaštite podataka i privatnosti, kao što su minimalizacija podataka, pravo na protivljenje profiliranju i kontroliranje uporabe vlastitih podataka, pravo na dobivanje objašnjenja odluke koja se zasniva na automatiziranoj obradi i integriranoj privatnosti kao i načelima proporcionalnosti, nužnosti i ograničenja na temelju strogo utvrđene svrhe u skladu s Općom uredbom o zaštiti podataka;

65. ističe da, ako te tehnologije daljinskog prepoznavanja, kao što je prepoznavanje biometrijskih značajki, tj. prepoznavanje lica, koriste javna tijela, zbog velikog javnog interesa njihova bi upotreba uvijek trebala biti objavljena, razmjerna, ciljana i ograničena na posebne ciljeve, vremenski ograničena u skladu s pravom Unije, te provedena uz dužno poštovanje ljudskog dostojanstva i autonomije te temeljnih prava utvrđenih u Povelji. Kriteriji i ograničenja te uporabe trebali bi podlijegati sudskom preispitivanju te biti podvrgnuti demokratskom nadzoru te bi se njima u obzir trebao uzeti njihov psihološki i sociokulturni utjecaj na civilno društvo;

66. ističe da, iako uvođenje umjetne inteligencije, robotike i s njima povezanih tehnologija u područje donošenja odluka javnih vlasti ima prednosti, moguće su i ozbiljne zlouporabe, kao što su masovni nadzor, prediktivno postupanje policije i povrede prava na pravičan postupak;

67. smatra da bi s tehnologijama koje mogu donositi automatizirane odluke i time zamijeniti odluke javnih tijela trebalo postupati uz najveću moguću mjeru opreza, posebno u području pravosuđa i provedbe zakona;

68. smatra da bi se države članice takvim tehnologijama trebale koristiti samo ako postoje iscrpni dokazi o njihovoj pouzdanosti i ako je moguće provesti smislenu ljudsku intervenciju i provjeru ili je ona sustavna u slučajevima u kojima su temeljne slobode dovedene u pitanje; ističe da je važno da nacionalna tijela provedu strogu procjenu učinka na temeljna prava za sustave umjetne inteligencije koji se upotrebljavaju u tim slučajevima, posebno nakon što se takve tehnologije ocijene visokorizičnima;

69. smatra da bi sve odluke koje donose sustavi umjetne inteligencije, robotike ili s njima povezanih tehnologija u okviru ovlasti javnih tijela trebale podlijegati strogoj ljudskoj provjeri i zakonitom postupanju, posebno ako se takve tehnologije ocijene kao visokorizične;

70. smatra da tehnološki napredak ne bi trebao dovesti do upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija za samostalno donošenje odluka u području javnog sektora koje imaju izravan i znatan utjecaj na prava i obveze građana;

71. primjećuje da bi umjetna inteligencija, robotika i s njima povezane tehnologije u području kaznenog progona i granične kontrole mogle poboljšati javnu sigurnost i zaštitu, ali i da im je potreban opsežan i strog javni nadzor i najviša moguća razina transparentnosti, kako u pogledu procjene rizika pojedinačnih primjena, tako i općeg pregleda upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija u području kaznenog progona i granične kontrole; smatra da te tehnologije nose znatne etičke rizike koje je potrebno riješiti na odgovarajući način, uzimajući u obzir moguće negativne učinke na pojedince, osobito kad je riječ o njihovim pravima na privatnost, zaštitu podataka i nediskriminaciju; naglašava da njihova zlouporaba može postati izravna prijetnja demokraciji te da se pri njihovoj primjeni i uporabi moraju poštovati načela proporcionalnosti i nužnosti, Povelja o temeljnim pravima, kao i relevantno sekundarno zakonodavstvo Unije, kao što su propisi o zaštiti podataka; ističe da umjetna inteligencija nikada ne bi smjela zamijeniti ljude u donošenju presuda; smatra da odluke kao što su dobivanje jamčevine ili uvjetne kazne, koje se donose pred sudom, ili odluke koje se temelje isključivo na automatiziranoj obradi i koje imaju pravni učinak u pogledu pojedinaca ili koje na njih znatno utječu, uvijek moraju uključivati smislenu procjenu i prosudbu čovjeka;

Dobro upravljanje

72. ističe da primjereno upravljanje razvojem, uvođenjem i upotrebom umjetne inteligencije, robotike i s njima povezanih tehnologija, posebno onih visokorizičnih, te donošenje mjera usmjerenih na odgovornost i uklanjanje eventualnih rizika od pristranosti i diskriminacije, može povećati sigurnost građana i njihovo povjerenje u te tehnologije;

73. smatra da bi se zajedničkim okvirom za upravljanje tim tehnologijama, kojim koordiniraju Komisija i/ili bilo koje relevantne institucije, tijela, uredi ili agencije koji su u tom kontekstu određeni za tu zadaću, i za čiju su provedbu u svakoj državi članici odgovorna nacionalna nadzorna tijela, osigurao dosljedan europski pristup i spriječila fragmentacija jedinstvenog tržišta;

74. primjećuje da razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija podrazumijeva veliku količinu upotrebljavanih podataka te da se njihovom obradom, razmjenom i upotrebom te pristupom takvim podacima mora upravljati sukladno sa zakonom i zahtjevima u pogledu kvalitete, cjelovitosti, interoperabilnosti, transparentnosti, sigurnosti, privatnosti i kontrole koji su tamo navedeni;

75. podsjeća da je pristup podacima ključan faktor rasta digitalnog gospodarstva; u tom pogledu ističe da interoperabilnost podataka ograničavanjem učinaka ovisnosti o jednom dobavljaču (en. „lock-in”) ima ključnu ulogu u jamčenju pravednih tržišnih uvjeta i promicanju jednakih uvjeta na jedinstvenom digitalnom tržištu;

76. ističe da je potrebno zajamčiti da su osobni podaci zaštićeni na odgovarajući način, posebno podaci koji pripadaju ili su povezani s ranjivim skupinama, kao što su osobe s invaliditetom, pacijenti, djeca, pripadnici manjina i migranti i ostale skupine kojima prijeti rizik od isključenosti;

77. napominje da se razvoj, uvođenje i upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija od strane javnih tijela često eksternaliziraju privatnim stranama; smatra da to ni na koji način ne bi trebalo ugroziti zaštitu javnih vrijednosti i temeljnih prava; smatra da bi uvjeti javne nabave trebali odražavati etičke standarde nametnute javnim tijelima, kada je to moguće;

Potrošači i unutarnje tržište

78. naglašava da je važno da se regulatorni okvir za umjetnu inteligenciju primjenjuje kada su potrošači unutar Unije korisnici nekog algoritamskog sustava, obuhvaćeni njime ili usmjereni na njega, neovisno o tome gdje je poslovni nastan subjekata koji razvijaju, prodaju ili koriste takav sustav; nadalje, smatra da bi se u interesu pravne sigurnosti pravila utvrđena tim okvirom trebala primjenjivati na sve razvojne programere i u cijelom vrijednosnom lancu, što uključuje razvoj, uvođenje i upotrebu relevantnih tehnologija i njihovih sastavnih dijelova, i da bi se njima trebala zajamčiti najviša razina zaštite potrošača;

79. uviđa neodvojivu vezu između umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, i područja kao što su internet stvari, strojno učenje, poredak utemeljen na pravilima ili automatizirani i potpomognuti postupci donošenja odluka; nadalje napominje da bi se mogle razviti standardizirane oznake kako bi se potrošačima pomoglo objasniti te sustave, kad god su karakteristike tih sustava složenost ili donošenje odluka koje znatno utječu na živote potrošača;

80. podsjeća da bi Komisija trebala preispitati postojeći pravni okvir i njegovu primjenu, što se odnosi i na pravnu stečevinu o zaštiti potrošača te zakonodavstvo o sigurnosti proizvoda i nadzoru tržišta, kako bi se utvrdili pravni nedostaci te postojeće regulatorne obveze; smatra da je to nužno kako bi se utvrdilo može li se tim okvirom odgovoriti na nove izazove koje predstavlja pojava umjetne inteligencije, robotike i povezanih tehnologija te može li se njime zajamčiti visoka razina zaštite potrošača;

81. naglašava da je potrebno na učinkovit način riješiti izazove koje predstavljaju umjetna inteligencija, robotika i s njima povezane tehnologije te potrošačima dati više sigurnosti i bolju zaštitu; ističe da treba ići korak dalje od tradicionalnih načela informiranja i objavljivanja na kojima je izgrađena pravna stečevina u području zaštite potrošača jer će biti potrebno osnažiti prava potrošača i donijeti jasna ograničenja u pogledu razvoja, uvođenja i upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija kako bi se zajamčilo da se tom tehnologijom doprinosi poboljšanju života potrošača i da se razvija na način kojim se poštuju temeljna i potrošačka prava te vrijednosti Unije;

82. ističe da se zakonodavnim okvirom uvedenim Odlukom br. 768/2008/EZ predviđa usklađeni popis obveza za proizvođače, uvoznike i distributere, potiče korištenje normi i predviđa nekoliko razina kontrole ovisno o opasnosti proizvoda; smatra da bi se taj okvir trebao primjenjivati i na proizvode s ugrađenom umjetnom inteligencijom;

83. napominje da bi se za potrebe analize učinaka umjetne inteligencije, robotike i s njima povezanih tehnologija na potrošače pristup podacima mogao proširiti na nacionalna nadležna tijela uz puno poštovanje prava Unije, kao što je pravo koje se odnosi na zaštitu podataka, privatnosti i poslovne tajne; ističe važnost educiranja potrošača kako bi bili bolje informirani i stekli vještine u pogledu umjetne inteligencije, robotike i s njima povezanih tehnologija, radi njihove zaštite od mogućih rizika i očuvanja njihovih prava; 

84. poziva Komisiju da predloži mjere za sljedivost podataka, imajući na umu i pitanje zakonitosti prikupljanja podataka i zaštitu prava potrošača i temeljnih prava, uz potpuno poštovanje prava Unije, primjerice prava na zaštitu podataka, privatnosti, prava intelektualnog vlasništva i zaštitu poslovne tajne;

85. napominje da bi te tehnologije trebale biti usmjerene na korisnika i projektirane tako da svima omoguće upotrebu proizvoda ili usluga umjetne inteligencije, neovisno o njihovoj dobi, spolu, sposobnostima ili karakteristikama; konstatira da je posebno važno da toj tehnologiji mogu pristupiti osobe s invaliditetom; primjećuje da se pri projektiranju sustava umjetne inteligencije ne bi trebalo voditi jedinstvenim pristupom, nego bi trebalo uzeti u obzir univerzalna projektna načela koja obuhvaćaju najširi mogući raspon korisnika uz poštovanje relevantnih normi o pristupačnosti; ističe da će se tako svim pojedincima omogućiti pravedan pristup i aktivno sudjelovanje u postojećim i novim ljudskim aktivnostima kojima posreduju računala te asistivnim tehnologijama.

86. naglašava da bi u slučajevima u kojima su za razvoj, provedbu ili primjenu umjetne inteligencije, robotike i povezanih tehnologija, uz otvoreni postupak javne nabave i standarde otvorenog ugovaranja, korištena javna sredstva, trebalo razmotriti mogućnost da programski kod, generirani podaci (u onoj mjeri u kojoj to nisu podaci osobne prirode) i istrenirani model u dogovoru s razvojnim programerom automatizmom budu javni, kako bi se zajamčila transparentnost, pojačala kibersigurnost i omogućila njihova ponovna uporaba u cilju poticanja inovacija; naglašava da se na taj način može osloboditi puni potencijal jedinstvenog tržišta uz izbjegavanje fragmentacije tržišta;

87.  smatra da umjetna inteligencija, robotika i druge povezane tehnologije imaju golem potencijal da potrošačima pruže mogućnost da uz bolje proizvode i usluge imaju pristup brojnim pogodnostima u mnogim aspektima svojeg života te da ostvare koristi od boljeg nadzora tržišta, pod uvjetom da se i dalje primjenjuju sva primjenjiva načela, uvjeti (uključujući transparentnost i mogućnost revizije) i propisi;

Sigurnost i obrana

88. ističe da se Europska unija i njezine države članice u svojim sigurnosnim i obrambenim politikama vode načelima utvrđenima u Povelji Europske unije o temeljnim pravima i u Povelji Ujedinjenih naroda te zajedničkim shvaćanjem univerzalnih vrijednosti poštivanja nepovredivosti i neotuđivosti ljudskih prava, ljudskog dostojanstva, slobode, demokracije, jednakosti i vladavine prava; naglašava da se naporima koji se unutar okvira Unije ulažu u obranu moraju poštovati te univerzalne vrijednosti uz istovremeno promicanje mira, sigurnosti i napretka u Europi i svijetu;

89. pozdravlja činjenicu da je na sastanku visokih ugovornih stranaka Konvencije Ujedinjenih naroda o određenom konvencionalnom oružju (CCW) 2019. podržano 11 glavnih načela za razvoj i upotrebu autonomnih oružanih sustava; žali, međutim, zbog činjenice da se nije postigao dogovor o pravno obvezujućem instrumentu kojim se regulira smrtonosno autonomno oružje (LAWS) uz učinkoviti provedbeni mehanizam; pozdravlja i podržava „Etičke smjernice za pouzdanu umjetnu inteligenciju” Komisijine Stručne skupine na visokoj razini o umjetnoj inteligenciji objavljene 9. travnja 2019. i Komisijino stajalište o smrtonosnim autonomnim oružanim sustavima; apelira na države članice da osmisle nacionalne strategije za utvrđivanje definicije i statusa smrtonosnog autonomnog oružja u smjeru sveobuhvatne strategije na razini Unije, da zajedno s Visokim predstavnikom/potpredsjednikom Unije i Vijećem potiču raspravu o smrtonosnim autonomnim oružanim sustavima u okviru Konvencije Ujedinjenih naroda o određenom konvencionalnom oružju i drugih relevantnih foruma te uspostavu međunarodnih normi za etičke i pravne parametre razvoja i korištenja potpuno autonomnih oružanih sustava, poluautonomnih oružanih sustava i smrtonosnih oružanih sustava s upravljanjem na daljinu; podsjeća u tom smislu na svoju Rezoluciju o autonomnim oružanim sustavima od 12. rujna 2018. i ponovno poziva na hitan razvoj i usvajanje zajedničkog stajališta o smrtonosnim autonomnim oružanim sustavima, međunarodnu zabranu razvoja, proizvodnje i uporabe smrtonosnih autonomnih oružanih sustava kojima se vrše napadi bez smislenog ljudskog nadzora i bez poštivanja načela ljudske intervencije, u skladu s izjavom najpoznatijih svjetskih istraživača u području umjetne inteligencije iz njihovog otvorenog pisma iz 2015.; pozdravlja sporazum Vijeća i Parlamenta o isključivanju smrtonosnog autonomnog oružja „kod kojeg nije moguća smislena ljudska kontrola nad odlukama o odabiru i korištenju u napadima” iz djelovanja financiranih u okviru Europskog fonda za obranu; smatra da se ne smiju zanemariti etički aspekti kod ostalih načina primjene umjetne inteligencije u obrani, npr. u obavještajnim, nadzornim, izviđačkim ili kiberoperacijama, te da treba obratiti osobitu pozornost na razvoj i korištenje dronova u vojnim operacijama;

90 naglašava da bi u obrambenom i sigurnosnom sektoru tehnologije u nastajanju koje nisu obuhvaćene međunarodnim pravom trebalo prosuđivati uzimajući u obzir poštovanje načela humanosti i onako kako to nalaže ljudska savjest;

91. naglašava da se europskim okvirom kojim se uređuje uporaba sustava umjetne inteligencije u obrani, kako u borbenim tako i u neborbenim situacijama, mora poštovati sve primjenjive pravne sustave, posebno međunarodno humanitarno pravo i međunarodno pravo o ljudskim pravima te da taj okvir mora biti u skladu s pravom, načelima i vrijednostima Unije, uzimajući u obzir razlike u tehničkoj i sigurnosnoj infrastrukturi unutar Unije;

92. uviđa da bi, za razliku od obrambenih industrijskih baza, ključne inovacije u području umjetne inteligencije mogle doći iz malih država članica te bi stoga standardizirani pristup ZSOP-u trebao zajamčiti da manje države članice i MSP-ovi ne budu istisnuti; naglašava da se korištenjem skupa zajedničkih kapaciteta EU-a u području umjetne inteligencije i operativnih koncepata država članica mogu nadvladati tehnički nedostatci zbog kojih bi inače mogle biti isključene države koje nemaju relevantnu tehnologiju, znanje i iskustvo u toj industriji ili sposobnost primjene sustava umjetne inteligencije u okviru svojih ministarstava obrane;

93. smatra da će se trenutačne i buduće sigurnosne i obrambene aktivnosti unutar okvira Unije temeljiti na umjetnoj inteligenciji, robotici i autonomiji te povezanim tehnologijama te da bi se pouzdanim, izdržljivim i vjerodostojnim sustavom umjetne inteligencije moglo doprinijeti modernoj i učinkovitoj vojsci; stoga smatra da Unija mora preuzeti vodeću ulogu u istraživanju i razvoju sustava umjetne inteligencije u području sigurnosti obrane; vjeruje da bi korištenje aplikacija umjetne inteligencije u području sigurnosti i obrane moglo donijeti niz izravnih koristi, kao što su veća kvaliteta prikupljenih podataka, bolja informiranost o stanju, brže donošenje odluka, smanjena opasnost od kolateralne štete zahvaljujući boljem sustavu kablova, zaštita snaga na terenu te veća pouzdanost vojne opreme i stoga manja opasnost po ljude i opasnost od ljudskih žrtava; naglašava da je razvoj pouzdane umjetne inteligencije u području obrane ključan za jamčenje europske strateške autonomije u pogledu kapaciteta i operativnosti; podsjeća da sustavi umjetne inteligencije postaju i ključni elementi u borbi protiv nadolazećih sigurnosnih prijetnji, poput kibernetičkog i hibridnog ratovanja na internetu i izvan njega; istodobno naglašava sve rizike i probleme povezane s nereguliranim korištenjem umjetne inteligencije; primjećuje da bi se umjetnom inteligencijom moglo manipulirati, da bi mogla biti sklona greškama i netočnostima;

94. naglašava da je umjetna inteligencija suštinski dvojake prirode i da razvoju umjetne inteligencije u obrambenim aktivnostima pogoduje razmjena saznanja iz vojnih i civilnih tehnologija; naglašava da je umjetna inteligencija u obrambenim aktivnostima transverzalna disruptivna tehnologija čijim se razvojem mogu pružiti mogućnosti za konkurentnost i stratešku autonomiju EU-a;

95. uviđa da bi u današnjem kontekstu hibridnog i naprednog ratovanja količina i brzina prijenosa informacija tijekom ranih faza krize mogle preopteretiti analitičare i da bi te informacije mogao obraditi sustav umjetne inteligencije kako bi se donositeljima odluka osigurao puni raspon informacija unutar prikladnog vremenskog okvira radi mogućnosti brzog reagiranja;

96. ističe važnost ulaganja u razvoj ljudskog kapitala za umjetnu inteligenciju, razvijanje potrebnih vještina i poticanje obrazovanja u područjima umjetne inteligencije za obranu i sigurnost s naročitim naglaskom na etičnost poluautonomnih i autonomnih operativnih sustava koji počivaju na ljudskoj odgovornosti u svijetu podržanom umjetnom inteligencijom; osobito naglašava važnost toga da se etičarima specijalizirani za to polje zajamči odgovarajuća obuka i stjecanje prikladnih vještina; poziva Komisiju da što prije predstavi izvješće „Plan za osnaživanje vještinaˮ najavljeno u Bijeloj knjizi o umjetnoj inteligenciji 19. veljače 2020.;

97. ističe da bi kvantno računalstvo moglo predstavljati najrevolucionarniju promjenu u ratovanju od pojave atomskog oružja i stoga poziva Uniju i države članice da razvijanje tehnologija kvantnog računalstva učine prioritetom; uviđa da će činovi agresije, uključujući napade na kritičnu infrastrukturu, uz pomoć kvantnog računalstva stvoriti okruženje sukoba u kojem će vrijeme dostupno za donošenje odluka biti drastično skraćeno s dana i sati na minute i sekunde, što će natjerati države članice da razviju mogućnosti zaštite i da osposobe svoje donositelje odluka i vojno osoblje da učinkovito odgovaraju unutar takvih vremenskih okvira;

98. poziva na povećanje ulaganja u europsku umjetnu inteligenciju za obranu i u kritičnu infrastrukturu koja je podržava;

99. podsjeća da je većina trenutačnih svjetskih vojnih sila već poduzela znatne napore u pogledu istraživanja i razvoja povezanih s vojnom dimenzijom umjetne inteligencije; smatra da se Unija mora pobrinuti da ne zaostane u tom pogledu;

100. poziva Komisiju da uključi izgradnju kapaciteta u području kibersigurnosti u svoju industrijsku politiku kako bi se osigurao razvoj i primjena sigurnih, otpornih i izdržljivih sustava podržanih umjetnih inteligencijom i robotskih sustava; poziva Komisiju da razmotri korištenje i primjenu protokola za kibersigurnost koji se temelje na tehnologiji lanca blokova kako bi se ojačala otpornost, pouzdanost i stabilnost infrastruktura za umjetnu inteligenciju pomoću modela za šifriranje podataka bez posrednika; potiče europske dionike da istraže i razviju napredne značajke koje bi olakšale otkrivanje pokvarenih i zlonamjernih sustava podržanih umjetnom inteligencijom i robotskih sustava koji bi mogli ugroziti sigurnost Unije i njezinih građana;

101. naglašava da svi sustavi umjetne inteligencije u obrani moraju imati konkretan i dobro definiran okvir misije te da ljudi moraju zadržati mogućnost otkrivanja i isključivanja ili deaktiviranja onih korištenih sustava koji počnu djelovati izvan okvira misije koje je utvrdio i dodijelio čovjek ili na eskalirajući ili neželjeni način; smatra da bi sustavi podržani umjetnom inteligencijom, proizvodi i tehnologija koji su namijenjeni vojnoj uporabi trebali biti opremljeni „crnom kutijomˮ koja bi bilježila svaki prijenos podataka koji je obavio stroj;

102. ističe da se cjelokupna nadležnost i odgovornost za donošenje odluke o izradi, razvoju, primjeni i uporabi sustava umjetne inteligencije mora temeljiti na ljudskom upravljanju jer mora postojati značajan ljudski nadzor i kontrola nad bilo kojim oružanim sustavom te postojati ljudska namjera kod donošenja odluke o uporabi sile kada se oružjem podržanim umjetnom inteligencijom izvršava odluka koja bi mogla imati smrtonosne posljedice; naglašava da bi trebala i dalje biti prisutna ljudska kontrola nad upravljanjem i nadzorom sustava podržanih umjetnom inteligencijom, u skladu s načelima na razini vojnog vodstva za autonomne sustave gdje čovjek može preuzeti kontrolu, sustave pod stalnom ljudskom kontrolom i sustave kojima upravlja isključivo čovjek; naglašava da se vojnom vodstvu za izvršenje smrtonosnih ili razaračkih mjera velikog opsega u okviru sustava podržanih umjetnom inteligencijom mora omogućiti cjelovita nadležnost i odgovornost za uporabu smrtonosne sile te potrebna razina prosudbe koju strojevi ne mogu imati jer se takva prosudba mora temeljiti na razlikovanju, proporcionalnosti i predostrožnosti; ističe potrebu za uspostavom jasnih i sljedivih okvira autorizacije i odgovornosti za korištenje pametnog oružja i drugih sustava podržanih umjetnom inteligencijom uz primjenu jedinstvenih korisničkih obilježja poput biometrijskih specifikacija kako bi korištenje bilo omogućeno isključivo ovlaštenom osoblju;

Promet

103. naglašava potencijal umjetne inteligencije, robotike i povezanih tehnologija za sve autonomne oblike cestovnog, željezničkog, vodnog i zračnog prometa, kao i za poticanje izmjene modaliteta prijevoza i intermodalnosti jer te tehnologije mogu pridonijeti pronalasku optimalne kombinacije vrsta prijevoza robe i putnika; nadalje, naglašava njihov potencijal da povećaju učinkovitost prometa, logistike i prometnih tokova i da učine sve vrste prijevoza sigurnijima, pametnijima i ekološki prihvatljivijima; ističe da se etički pristup umjetnoj inteligenciji može smatrati i sustavom ranog upozoravanja na rizike, posebno u pogledu sigurnosti i učinkovitosti prometa;

104 ističe da radi globalnog tržišnog natjecanja među poduzećima i gospodarskim regijama Unija treba promicati ulaganja i ojačati međunarodnu konkurentnost poduzeća koja posluju u prometnom sektoru uspostavljanjem okoline povoljne za razvoj i primjenu rješenja zasnovanih na umjetnoj inteligenciji i dodatnih inovacija, u kojoj poduzeća iz Unije mogu postati svjetski predvodnici u razvoju tehnologija umjetne inteligencije;

105. naglašava da je prometnom sektoru Unije potrebno ažuriranje regulatornog okvira koji se odnosi na te nove tehnologije i njihovo korištenje u prometnom sektoru i jasan etički okvir za postizanje pouzdane umjetne inteligencije, uključujući aspekte sigurnosti, zaštite, poštovanja ljudske autonomije, nadzora i odgovornosti, koji će povećati koristi koje svi dijele te biti ključan u poticanju ulaganja u istraživanje i inovacije, razvoj vještina i početak uvođenja umjetne inteligencije u javne usluge, mala i srednja poduzeća, novoosnovana te velika poduzeća, uz istodobno osiguravanje zaštite podataka i interoperabilnosti, bez nametanja nepotrebnog administrativnog opterećenja poduzećima i potrošačima;

106. napominje da razvoj i implementacija umjetne inteligencije u prometnom sektoru neće biti mogući bez moderne infrastrukture koja je ključan dio inteligentnih prometnih sustava; naglašava da stalne razlike u stupnju razvoja među državama članicama stvaraju rizik od toga da najmanje razvijene regije i njihovi stanovnici budu uskraćeni za prednosti koje donosi razvoj autonomne mobilnosti; poziva na dodjelu odgovarajućih financijskih sredstava za modernizaciju prometne infrastrukture u EU-u, uključujući njezinu integraciju u mrežu 5G;

107. preporuča razvoj pouzdanih standarda za umjetnu inteligenciju na razini Unije, za sve vrste prijevoza, uključujući automobilsku industriju, te za testiranje vozila s umjetnom inteligencijom i povezanih proizvoda i usluga;

108. napominje da bi sustavi umjetne inteligencije mogli pridonijeti znatnom smanjenju broja poginulih na cestama, na primjer kraćim vremenom reakcije i boljim pridržavanjem pravila; međutim, smatra da uporaba autonomnih vozila neće moći dovesti do eliminiranja svih nesreća i ističe da je zbog toga objašnjivost odluka umjetne inteligencije sve važnija kako bi se opravdali nedostaci i neželjene posljedice odluka o umjetnoj inteligenciji;

Zapošljavanje, prava radnika, digitalne vještine i radna mjesta

109. napominje da primjena umjetne inteligencije, robotike i povezanih tehnologija na radnom mjestu može doprinijeti uključivim tržištima rada i utjecati na zdravlje i sigurnost na radu, a može se upotrebljavati i za praćenje, evaluaciju, predviđanje i usmjeravanje rada zaposlenika s izravnim i neizravnim posljedicama za njihove karijere; budući da bi umjetna inteligencija trebala imati pozitivan učinak na radne uvjete i biti vođena poštovanjem ljudskih prava kao i temeljnih prava i vrijednosti Unije; budući da bi umjetna inteligencija trebala biti usmjerena na ljude, poboljšati dobrobit ljudi i društva te doprinijeti pravednoj i pravičnoj tranziciji; te bi tehnologije stoga trebale imati pozitivan učinak na radne uvjete i biti vođena poštovanjem ljudskih prava kao i temeljnih prava i vrijednosti Unije;

110. ističe potrebu za razvojem kompetencija kroz osposobljavanje i obrazovanje radnika i njihovih predstavnika u području umjetne inteligencije na radnom mjestu kako bi bolje razumjeli implikacije rješenja umjetne inteligencije; naglašava da bi kandidati i radnici trebali biti propisno obaviješteni u pisanom obliku ako se umjetna inteligencija upotrebljava tijekom postupaka zapošljavanja i pri donošenju drugih odluka u vezi s ljudskim resursima te o tome da se u tom slučaju može zatražiti da čovjek preispita automatiziranu odluku radi njezina poništavanja;

111. ističe da treba osigurati da korist od rasta produktivnosti kao rezultat razvoja i upotrebe umjetne inteligencije i robotike nemaju samo vlasnici poduzeća i dioničari, već da od toga korist ostvaruju i poduzeća i radna snaga, zahvaljujući boljim uvjetima rada i zapošljavanja, uključujući plaće, kao i gospodarski rast i razvoj, te da to koristi društvu u cjelini, posebno ako se takav rast ostvaruje na račun radnih mjesta; poziva države članice da pažljivo prouče mogući utjecaj umjetne inteligencije na tržište rada i sustave socijalne sigurnosti te da razviju strategije za osiguravanje dugoročne stabilnosti preko reforme poreza i doprinosa, kao i drugih mjera u slučaju manjih javnih prihoda;

112. ističe važnost korporativnih ulaganja u formalno i neformalno osposobljavanje i cjeloživotno učenje kako bi se podržao pravedan prijelaz na digitalno gospodarstvo; u tom kontekstu naglašava da poduzeća koja se koriste umjetnom inteligencijom imaju odgovornost osigurati odgovarajuće prekvalificiranje i usavršavanje za sve zaposlenike kako bi oni mogli naučiti kako upotrebljavati digitalne alate i raditi s kobotovima i drugim novim tehnologijama, čime se prilagođavaju promjenjivim potrebama tržišta rada i ostaju zaposleni;

113. smatra da bi posebnu pozornost trebalo posvetiti novim oblicima rada, kao što su honorarni poslovi i rad preko platformi, koji su rezultat primjene novih tehnologija u tom kontekstu;  naglašava da se pri reguliranju uvjeta rada na daljinu u cijeloj Uniji i osiguravanju pristojnih uvjeta rada i zapošljavanja u digitalnom gospodarstvu također mora uzeti u obzir utjecaj umjetne inteligencije; poziva Komisiju da se u tom pogledu savjetuje sa socijalnim partnerima, razvojnim programerima u području umjetne inteligencije, istraživačima i drugim dionicima;

114. naglašava da umjetna inteligencija, robotika i povezane tehnologije ni na koji način ne smiju utjecati na ostvarivanje temeljnih prava priznatih u državama članicama i na razini Unije, uključujući pravo ili slobodu na štrajk ili poduzimanje drugih mjera obuhvaćenih posebnim sustavima industrijskih odnosa u državama članicama, u skladu s nacionalnim pravom i/ili praksom, niti utjecati na pravo na pregovaranje, sklapanje i provedbu kolektivnih ugovora ili na poduzimanje kolektivnih mjera u skladu s nacionalnim pravom i/ili praksom;

115. ponovno ističe važnost obrazovanja i kontinuiranog učenja kako bi se razvile kvalifikacije potrebne u digitalnom dobu i odgovorilo na problem digitalne isključenosti; poziva države članice da ulažu u visokokvalitetno, prilagodljivo i uključivo obrazovanje, strukovno osposobljavanje i sustave cjeloživotnog učenja, kao i politike prekvalifikacije i usavršavanja za radnike u sektorima na koje bi umjetna inteligencija mogla ozbiljno utjecati; ističe da je potrebno da se sadašnjoj i budućoj radnoj snazi pruže potrebne vještine pismenosti, matematičke pismenosti i digitalne vještine, kao i kompetencije u području znanosti, tehnologije, inženjerstva i matematike (STEM) te transverzalne meke vještine, kao što su kritičko razmišljanje, kreativnost i poduzetništvo; naglašava da se u tom pogledu posebna pozornost mora posvetiti uključivanju skupina u nepovoljnom položaju;

116. podsjeća da umjetna inteligencija, robotika i povezane tehnologije koje se koriste na radnom mjestu moraju biti dostupne svima na temelju načela „dizajn za sve“;

Obrazovanje i kultura

117. naglašava da je kriterije za razvoj, uvođenje i upotrebu umjetne inteligencije potrebno osmisliti vodeći računa o njihovom učinku u područjima obrazovanja, medija, mladih, istraživanja, sporta te u kulturnom i kreativnom sektoru na način da se utvrde referentna mjerila za etički odgovorne i prihvatljive upotrebe tehnologija umjetne inteligencije koja se mogu na odgovarajući način primijeniti u tim područjima, uključujući jasan režim odgovornosti za proizvode nastale uporabom umjetne inteligencije;

118. napominje da svako dijete ima pravo na kvalitetno javno obrazovanje na svim razinama; stoga poziva na razvoj, uvođenje i upotrebu kvalitetnih sustava umjetne inteligencije kojima se omogućuju i pružaju kvalitetni obrazovni alati za sve i na svim razinama te naglašava da uvođenje novih sustava umjetne inteligencije u škole ne bi smjelo dovesti do većeg digitalnog jaza u društvu; prepoznaje golemi potencijalni doprinos koji umjetna inteligencija i robotika mogu dati obrazovanju; napominje da personalizirani sustavi učenja koji se temelje na umjetnoj inteligenciji ne bi trebali zamijeniti obrazovne odnose u kojima sudjeluju nastavnici i da tradicionalni oblici obrazovanja ne bi smjeli biti zapostavljeni, istodobno ističući da se učiteljima koji žele steći odgovarajuće vještine u cilju prilagodbe tehnološkim promjenama i iskorištavanju potencijala umjetne inteligencije, uključujući specijalizirano osposobljavanje u području informacijskih i komunikacijskih tehnologija, mora pružiti financijska, tehnološka i obrazovna potpora, ne samo kako bi se iskoristio potencijal umjetne inteligencije, već i razumjela njezina ograničenja; poziva na razvoj strategije na razini Unije kako bi se pomogla transformacija i modernizacija naših obrazovnih sustava, kako bi se naše obrazovne institucije na svim razinama pripremile, a nastavnici i učenici stekli potrebne vještine i sposobnosti;

119. naglašava da bi obrazovne institucije trebale nastojati u obrazovne svrhe koristiti sustave umjetne inteligencije koji su dobili europsku potvrdu o sukladnosti s etičkim načelima;

120. naglašava da mogućnosti koje pružaju digitalizacija i nove tehnologije ne smiju dovesti do ukupnog gubitka radnih mjesta u kulturnom i kreativnom sektoru, zanemarivanja očuvanja originala i slabljenja tradicionalnog pristupa kulturnoj baštini, koju bi također trebalo poticati; napominje da bi sustavi umjetne inteligencije koji su razvijeni i uvedeni u Uniji te se u njoj koriste trebali odražavati njezinu kulturnu raznolikost i višejezičnost;

121. prepoznaje sve veći potencijal umjetne inteligencije u području informacijskih, medijskih i internetskih platformi, uključujući kao instrument za borbu protiv dezinformacija, u skladu s pravom Unije; ističe da bi tehnologije umjetne inteligencije, ako nisu regulirane, mogle imati etički štetne učinke zbog iskorištavanja pristranosti u podacima i algoritmima koji bi mogli dovesti do širenja dezinformacija i stvaranja informacijskih balona; ističe važnost transparentnosti i odgovornosti algoritama kojima se koriste platforme za razmjenu video sadržaja (VSP) i platforme za streaming kako bi se osigurao pristup kulturno i jezično raznolikom sadržaju;

Nacionalna nadzorna tijela

122. primjećuje dodanu vrijednost određivanja nacionalnih nadzornih tijela u svim državama članicama odgovornih za osiguravanje, ocjenjivanje i praćenje usklađenosti s pravnim obvezama i etičkim načelima razvoja, uvođenja i upotrebe visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, čime se doprinosi pravnoj i etičkoj sukladnosti tih tehnologija;

123. smatra da se od tih tijela mora zahtijevati da surađuju, a da se pritom njihove zadaće ne preklapaju, s tijelima nadležnima za provedbu sektorskog zakonodavstva kako bi se utvrdile tehnologije koje su visokorizične iz etičke perspektive te kako bi se nadzirala provedba potrebnih i adekvatnih mjera kada su takve tehnologije utvrđene;

124. ističe da bi se ta tijela trebala povezati ne samo međusobno već i s Europskom komisijom i drugim relevantnim institucijama, tijelima, uredima i agencijama Unije kako bi se zajamčilo usklađeno prekogranično djelovanje;

125. smatra da bi, u kontekstu takve suradnje, trebalo izraditi zajedničke kriterije i postupak prijave koji se odnose na izdavanje europske potvrde o sukladnosti s etičkim načelima, među ostalim i na temelju zahtjeva koje podnose razvojni programeri, subjekti za uvođenje ili korisnici tehnologija koje se ne smatraju visokorizičnima, a koji od nadležnog nadzornog tijela dotične države članice žele dobiti potvrdu o pozitivnoj ocjeni sukladnosti;

126. poziva da se ta tijela zaduže za promicanje redovitih razmjena gledišta s civilnim društvom i inovacija unutar Unije na način da pruže pomoć istraživačima, razvojnim programerima i ostalim zainteresiranim stranama, kao i poduzećima koja nisu toliko digitalno razvijena, posebno malim i srednjim ili start-up poduzećima; posebno u pogledu podizanja svijesti i potpore razvoju, uvođenju, osposobljavanju i stjecanju talenata kako bi se osigurao učinkovit prijenos tehnologije i pristup tehnologijama, projektima, rezultatima i mrežama;

127. poziva da svaka država članica dodijeli odgovarajuća financijska sredstva svojim nacionalnim nadzornim tijelima i naglašava da treba ojačati kapacitete, vještine i kompetencije nacionalnih tijela za nadzor tržišta u području umjetne inteligencije, robotike i povezanih tehnologija te njihova znanja o specifičnim rizicima tih tehnologija;

Koordinacija na razini Unije

128. ističe važnost koordinacije, na razini Unije, Komisije i/ili svih relevantnih institucija, tijela, ureda i agencija Unije koji bi mogli biti imenovani u tom kontekstu, kako bi se izbjegla fragmentacija i zajamčio usklađen pristup diljem Unije; smatra da bi koordinacija trebala biti usredotočena na mandate i aktivnosti nacionalnih nadzornih tijela u svakoj od država članica, kako je navedeno u prethodnom pododjeljku, kao i na razmjenu najboljih praksi među tim tijelima te na doprinos njihovoj suradnji u pogledu istraživanja i razvoja u tom području u cijeloj Uniji; poziva Komisija da da razmotri i pronađe odgovarajuće rješenje za strukturiranje takve koordinacije na razini Unije; primjeri relevantnih postojećih institucija tijela, ureda i agencija Unije su ENISA, EDPS i Europski ombudsman;

129. smatra da bi takva suradnja, kao i europska potvrda o sukladnosti s etičkim načelima, koristili ne samo razvoju europske industrije i inovacija u tom kontekstu nego i jačanju osviještenosti europskih građana o mogućnostima i rizicima svojstvenima tim tehnologijama;

130. predlaže stvaranje centra stručnosti koji bi okupljao akademsku zajednicu, istraživačku i industrijsku zajednicu te pojedinačne stručnjake na razini Unije, kako bi se potaknula razmjena znanja i tehničke stručnosti te olakšala suradnja unutar EU-a i izvan njega; nadalje poziva da u djelovanje tog centra stručnosti budu uključene i organizacije dionika, primjerice organizacije za zaštitu potrošača, kako bi se osigurala široka zastupljenost potrošača; smatra da bi, zbog potencijalnog nerazmjernog učinka algoritamskih sustava na žene i manjine, na razini odlučivanja unutar takve strukture trebalo postići raznolikost i zajamčiti rodnu ravnopravnost; naglašava da države članice u kontekstu svojih nacionalnih strategija nadzora tržišta moraju razviti strategije upravljanja rizicima u području umjetne inteligencije;

131.  predlaže da Komisija i/ili ostale relevantne institucije, tijela, uredi i agencije Unije koji bi mogli biti imenovani u tom kontekstu pruže svu potrebnu pomoć nacionalnim nadzornim tijelima u pogledu njihove uloge kao prvih kontaktnih točaka u slučajevima u kojima postoji sumnja o kršenju pravnih obveza i etičkih načela utvrđenih u regulatornom okviru Unije za umjetnu inteligenciju, što se odnosi i na načelo nediskriminacije; nacionalnim nadzornim tijelima trebalo bi pružiti svu potrebnu pomoć i u slučajevima kada ta tijela provode procjene sukladnosti radi podupiranja prava građana na prigovor i pravnu zaštitu, posebno pružanjem potpore, kada je to primjenjivo, za savjetovanje s drugim nadležnim tijelima u Uniji, posebno s Mrežom za suradnju u zaštiti potrošača te nacionalnim tijelima za zaštitu potrošača, organizacijama civilnog društva i socijalnim partnerima u drugim državama članicama;

132. potvrđuje vrijedne rezultate djelovanja Stručne skupine na visokoj razini za umjetnu inteligenciju, koja se sastoji od predstavnika akademske zajednice, civilnog društva i industrije, i Europskog saveza za umjetnu inteligenciju, s posebnim naglaskom na „Etičke smjernice za pouzdanu umjetnu inteligenciju”, te predlaže da bi ona mogla pružati stručno znanje Komisiji i/ili svim relevantnim institucijama, tijelima, uredima i agencijama Unije koji bi mogli biti imenovani u tom kontekstu;

133. primjećuje uključivanje projekata povezanih s umjetnom inteligencijom u okviru Europskog programa industrijskog razvoja u području obrane (EDIDP); vjeruje da budući Europski fond za obranu (EDF) i stalna strukturirana suradnja (PESCO) također mogu ponuditi okvire za buduće projekte povezane s umjetnom inteligencijom kojima bi se moglo pomoći boljoj koordinaciji napora Unije u tom području i istovremeno promicao cilj EU-a povezan s jačanjem ljudskih prava, međunarodnog prava i multilateralnih rješenja; ističe da bi projekte povezane s umjetnom inteligencijom trebalo uskladiti sa širim civilnim programima EU-a posvećenima umjetnoj inteligenciji; napominje da bi u skladu s Bijelom knjigom Europske komisije o umjetnoj inteligenciji od 19. veljače 2020. centri za izvrsnost i testiranje usmjereni na istraživanje i razvoj umjetne inteligencije u području sigurnosti i obrane trebali biti uspostavljeni uz stroge specifikacije o sudjelovanju i ulaganju privatnih dionika;

134. prima na znanje Bijelu knjigu Komisije od 19. veljače 2020. o umjetnoj inteligenciji i žali što vojni aspekti nisu uzeti u obzir; poziva Europsku komisiju i potpredsjednika Komisije/Visokog predstavnika Unije za vanjske poslove i sigurnosnu politiku da predstave, također kao dio sveobuhvatnog pristupa, sektorsku strategiju u pogledu umjetne inteligencije za aktivnosti obrane unutar okvira Unije kojom se osigurava poštovanje prava građana i strateških interesa EU-a i koja se temelji na dosljednom regulatorom pristupu koji obuhvaća kako uvođenje sustava podržanih umjetnom inteligencijom tako i njihovo korištenje u vojne svrhe, te da osnuju radnu skupinu za sigurnost i obranu unutar stručne skupine za umjetnu inteligenciju na visokoj razini koja bi se trebala baviti pitanjima politike i ulaganja, kao i etičkim aspektima umjetne inteligencije u sigurnosti i obrani; poziva Vijeće, Komisiju i potpredsjednika Komisije/Visokog predstavnika da u tu svrhu započnu strukturirani dijalog s Europskim parlamentom;

Europska potvrda o sukladnosti s etičkim načelima

135. predlaže da se u kontekstu koordinacije na razini Unije poduzmu mjere kako bi se razvili zajednički kriteriji i postupak prijave za izdavanje europske potvrde o sukladnosti s etičkim načelima, među ostalim i na temelju zahtjeva koje podnose razvojni programeri, subjekti za uvođenje ili korisnici tehnologija umjetne inteligencije koji od nadležnog nacionalnog nadzornog tijela žele dobiti potvrdu o pozitivnoj ocjeni sukladnosti;

136. smatra da bi se takvom europskom potvrdom o sukladnosti s etičkim načelima poticala etika već od samog dizajna pa kroz cijeli lanac opskrbe ekosustava umjetne inteligencije; stoga predlaže da bi te potvrde, u slučaju visokorizičnih tehnologija, mogle biti obvezan preduvjet za prihvatljivost u okviru postupaka javne nabave u području umjetne inteligencije, robotike i povezanih tehnologija;

Međunarodna suradnja

137. smatra da se učinkovita prekogranična suradnja i etički standardi mogu postići samo ako se svi dionici obvežu na to da će osigurati ljudsko djelovanje i nadzor, tehničku otpornost i sigurnost, transparentnost i odgovornost, raznolikost, nediskriminaciju i pravednost, socijalnu i okolišnu dobrobit te da će poštovati utvrđena načela privatnosti, upravljanja podacima i zaštite podataka, osobito ona utvrđena u Uredbi Europskog parlamenta i Vijeća (EU) 2016/679;

138. naglašava da bi pravne obveze i etička načela Unije za razvoj, uvođenje i uporabu tih tehnologija u cijelom svijetu trebalo promicati mogla od Europe učiniti predvodnika u sektoru umjetne inteligencije i da ih stoga trebalo globalno promicati na temelju suradnje s međunarodnim partnerima i nastavka kritičkog dijaloga temeljenog na etičkim načelima s trećim zemljama koje imaju alternativne modele regulative te razvoja i uvođenja umjetne inteligencije;

139. podsjeća na to da mogućnosti i rizici svojstveni tim tehnologijama imaju globalnu dimenziju jer se računalni program i podaci koji se upotrebljavaju za te sustave često uvoze u Europsku uniju i izvoze iz nje te je stoga potreban dosljedan pristup za suradnju na međunarodnoj razini; poziva Komisiju da pokrene inicijativu da se istraži koje bilateralne i multilateralne ugovore i sporazume bi trebalo prilagoditi kako bi se zajamčio dosljedan pristup i u cijelom svijetu promicao europski model usklađenosti s etičkim načelima;

140. skreće pozornost na dodanu vrijednost koordinacije na razini Unije i u ovom kontekstu;

141. poziva na uspostavljanje sinergija i mreža među različitim europskim istraživačkim centrima za umjetnu inteligenciju i ostalim multilateralnim forumima, kao što su Vijeće Europe, Organizacija Ujedinjenih naroda za obrazovanje, znanost i kulturu (UNESCO), Organizacija za gospodarsku suradnju i razvitak (OECD), Svjetska trgovinska organizacija i Međunarodna telekomunikacijska unija (ITU), kako bi se uskladio njihov rad i bolje koordinirao razvoj umjetne inteligencije, robotike i povezanih tehnologija;

142. ističe da Unija mora biti predvodnik u podršci multilateralnim nastojanjima u okviru Konvencije Ujedinjenih naroda o određenom konvencionalnom oružju (UN CCW) i ostalih relevantnih foruma, u raspravi o učinkovitom međunarodnom regulatornom okviru kojim se jamči smislena ljudska kontrola nad autonomnim oružanim sustavima u svrhu ovladavanja tim tehnologijama uspostavom dobro definiranih postupaka za njihovu uporabu na temelju referentnih vrijednosti, u razumijevanju povezanih etičkih aspekata, u ograničavanju rizika karakterističnih za te tehnologije i u sprječavanju njihovog korištenja u zlonamjerne svrhe; 

143. uviđa ulogu NATO-a u promicanju euroatlantske sigurnosti i poziva na suradnju unutar NATO-a kako bi se uspostavili zajednički standardi i postigla interoperabilnost sustava umjetne inteligencije u obrani; naglašava da su transatlantski odnosi važni za očuvanje zajedničkih vrijednosti i borbu protiv budućih i nadolazećih prijetnji;

144. naglašava važnost izrade etičkog kodeksa ponašanja na kojem bi se temeljila primjena oružanih sustava podržanih umjetnom inteligencijom u vojnim operacijama, slično postojećem regulatornom okviru kojim se zabranjuje primjena kemijskog i biološkog oružja; mišljenja je da bi Komisija trebala pokrenuti izradu standarda za uporabu oružanih sustava podržanih umjetnom inteligencijom u ratovanju u skladu s međunarodnim humanitarnim pravom te da bi Unija trebala uložiti napore da se takvi standardi usvoje na međunarodnoj razini; smatra da bi se Unija trebala uključiti u diplomatske aktivnosti povezane s umjetnom inteligencijom na međunarodnim forumima s partnerima sličnog razmišljanja kao što su OECD i skupine G7 i G20;

Završni aspekti

145. zaključuje, nakon ranije navedenih razmatranja aspekata povezanih s pravnom i etičkom dimenzijom umjetne inteligencije, robotike i s njima povezanih tehnologija, da bi pravnu i etičku dimenziju trebalo ugraditi u djelotvoran, budućnosti okrenut i sveobuhvatan regulatorni okvir na razini Unije, koji bi podržavala nadležna nacionalna tijela uz koordinaciju Komisije i/ili svih relevantnih institucija, tijela, ureda i agencija Unije koji bi mogli biti imenovani u tom kontekstu i, eventualno, redovitu potporu navedenog centra stručnosti, i čije bi se odredbe propisne provodile na unutarnje tržištu;

146. u skladu s postupkom iz članka 225. Ugovora o funkcioniranju Europske unije traži od Komisije da u skladu s člankom 114. Ugovora o funkcioniranju Europske unije i na temelju detaljne preporuke navedene u prilogu podnese prijedlog uredbe o etičkim načelima za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njom povezanih tehnologija; ističe da se tim prijedlog ne mi trebalo dovesti u pitanje sektorsko zakonodavstvo, već bi njime trebalo obuhvatiti samo utvrđene praznine u propisima;

147. preporučuje da Europska komisija, nakon, po potrebi, savjetovanja sa svim relevantnim dionicima, preispita postojeće pravo Unije koji se primjenjuju na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, kako bi se u skladu s preporukama navedenima u prilogu odgovorilo na brz razvoj tih tehnologija i pritom izbjegla prekomjerna regulacija, što se odnosi i na MSP-ove;

148. smatra da će periodično ocjenjivanje i preispitivanje regulatornog okvira Unije povezanog s umjetnom inteligencijom, robotikom i s njima povezanim tehnologijama biti nužno kako bi se osiguralo da važeće zakonodavstvo prati brzinu tehnološkog napretka;

149. smatra da bi zatraženi zakonodavni prijedlog mogao imati imao financijske posljedice ako se bilo kojem europskom tijelu povjere spomenute zadaće koordinacije, kako bi se pružila potrebna tehnička sredstva i ljudski resursi za ispunjavanje novododijeljenih zadaća;

150. nalaže svojem predsjedniku da ovu Rezoluciju i popratne detaljne preporuke proslijedi Vijeću i Komisiji.

 

PRILOG PRIJEDLOGU REZOLUCIJE: DETALJNE PREPORUKE O SADRŽAJU TRAŽENOG PRIJEDLOGA

A. NAČELA I CILJEVI TRAŽENOG PRIJEDLOGA

I. Glavna načela i ciljevi prijedloga su:

˗  izgraditi povjerenje na svim razinama među dionicima i društvom u cjelini u umjetnu inteligenciju, robotiku i s njima povezane tehnologije, posebno u slučajevima u kojima se njihova primjena smatra visokorizičnom;

˗  poduprijeti razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija u Uniji, među ostalim, pružanjem pomoći poduzećima, među kojima i novoosnovanim poduzećima te malim i srednjim poduzećima, pri razmatranju sadašnjih i budućih regulatornih zahtjeva i rizika tijekom procesa inovacije i razvoja poslovanja te tijekom sljedeće faze korištenja od strane stručnjaka i fizičkih osoba, minimiziranjem opterećenja i prekomjerne birokracije;

˗  poduprijeti uvođenje umjetne inteligencije, robotike i povezanih tehnologija u Uniji na temelju odgovarajućeg regulatornog okvira koji bi se trebao primijeniti ne dovodeći u pitanje postojeće ili buduće sektorsko zakonodavstvo, s ciljem stvaranja pravne sigurnosti i poticanja inovacija, uz istovremeno jamčenje temeljnih prava i zaštite potrošača;

˗  poduprijeti upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija u Uniji na način da se zajamči da njihov razvoje, uvođenje i upotreba budu u skladu s etičkim načelima;

˗  zahtijevati transparentnost i bolji protok informacija među građanima i u okviru organizacija koje razvijaju, uvode ili upotrebljavaju umjetnu inteligenciju, robotiku i s njima povezane tehnologije, čime bi se osiguralo da su te tehnologije sukladne s pravom Unije, temeljnim pravima i vrijednostima te etičkim načelima zatraženima za prijedlog uredbe;

II. Prijedlog čine sljedeći elementi:

˗  „Uredba o etičkim načelima za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija”; koordinacijska uloga Komisije i/ili relevantnih institucija, tijela, ureda i agencija Unije koji bi mogli biti imenovani u tom smislu te europska potvrda sukladnosti s etičkim načelima;

˗  potporna uloge Europske komisije;

˗  uloga „nadzornog tijela” u svakoj državi članici kako bi se osigurala primjena etičkih načela u području umjetne inteligencije, robotike i povezanih tehnologija;

 

˗  sudjelovanje odgovarajućeg istraživanja i razvoja te predmetnih dionika, uključujući novoosnovana poduzeća, mala i srednja poduzeća, socijalne partnere i druge predstavnike civilnog društva, savjetovanje s njima te osiguravanje potpore za njih;

˗  prilog kojim se utvrđuje iscrpan i kumulativni popis visokorizičnih sektora te visokorizičnih uporaba i namjena;

III. „Uredba o etičkim načelima za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija” temelji se na sljedećim načelima:

˗  antropogena, humanocentrična umjetna inteligencija koju kontrolira čovjek, robotika i s njima povezane tehnologije;

˗  obvezne procjena sukladnosti visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija;

˗  sigurnost, transparentnost i odgovornost;

˗  mjere zaštite i pravni lijekovi kod pristranosti i diskriminacije;

˗  pravo na pravnu zaštitu;

˗  društvena odgovornost i rodna ravnopravnost u području umjetne inteligencije, robotike i s njima povezanih tehnologija;

˗  umjetna inteligencija, robotika i s njima povezane tehnologije koje su ekološki održive;

˗  poštovanje privatnosti i ograničenja primjene biometrijskog prepoznavanja;

˗  dobro upravljanje u području umjetne inteligencije, robotike i s njima povezanih tehnologija, što se odnosi i na podatke koje takve tehnologije upotrebljavaju ili proizvode;

IV. U svrhu koordinacije na razini Unije, Komisija i/ili sve relevantne institucije, tijela, uredi i agencije Unije koji bi mogli biti imenovani u tom kontekstu izvršavaju sljedeće glavne zadaće:

˗  suradnja u praćenju provedbe zatraženog prijedloga provedbe i relevantnog sektorskog zakonodavstva Unije;

˗  suradnja u pogledu izdavanja smjernica za dosljednu primjenu zatraženog prijedloga uredbe, primjenom kriterija za umjetnu inteligenciju, robotiku i povezane tehnologije koje se smatraju visokorizičnima te izradom popisa visokorizičnih sektora, uporaba i svrha navedenih u prilogu Uredbi;

˗  suradnja s „nadzornim tijelom” u svakoj državi članici u pogledu razvoja europske potvrde o sukladnosti s etičkim načelima i pravnim obvezama, kako je utvrđeno u zatraženom prijedlogu uredbe i mjerodavnom pravu Unije, kao i razvoj postupka za podnošenje zahtjeva od strane razvojnih programera, subjekata za uvođenje ili korisnika tehnologija koje se ne smatraju visokorizičnima, a koji žele dobiti potvrdu o sukladnosti sa zatraženim prijedlogom uredbe;

˗  suradnja u pogledu potpore međusektorskoj i prekograničnoj suradnji kroz redovite razmjene gledišta s relevantnim dionicima i civilnim društvom u EU-u i svijetu, posebno s poduzećima, socijalnim partnerima, istraživačima i nadležnim tijelima, među ostalim i u pogledu razvoja tehničkih standarda na međunarodnoj razini;

˗  suradnja s „nadzornim tijelom” u svakoj državi članici u pogledu uspostave obvezujućim smjernicama za metodologiju koju treba primjenjivati pri ocjenama sukladnosti koje provode ta „nadzorna tijela“;

˗  suradnja u pogledu povezivanja s „nadzornim tijelom” u svakoj državi članici i koordiniranje njihovih ovlasti i zadaća;

˗  suradnja u pogledu podizanja razine svijesti, pružanja informacija i povezivanja s razvojnim programerima, subjektima za uvođenje i korisnicima u cijeloj Uniji;

˗  suradnja u pogledu podizanja razine svijesti, pružanja informacija, promicanja digitalne pismenosti, osposobljavanja i vještina te povezivanje s tvorcima, razvojnim programerima, subjektima za uvođenje, građanima, korisnicima i institucionalnim tijelima u cijeloj Uniji i na međunarodnoj razini;

˗  suradnja u pogledu koordinacije za zajednički okvir za upravljanje razvojem, uvođenjem i upotrebom umjetne inteligencije, robotike i povezanih tehnologija koji će provoditi „nadzorno tijelo“ u svakoj državi članici;

˗  suradnja u pogledu djelovanja centra za stručnost promicanjem razmjene informacija i podupiranjem razvoja zajedničkog razumijevanja unutar jedinstvenog tržišta;

˗  suradnja u pogledu organiziranja radne skupine za sigurnost i obranu.

V. Također, Komisija bi trebala izvršavati sljedeće zadaće:

˗  priprema i, kasnije, ažuriranje putem delegiranih akata zajedničkog popisa visokorizičnih tehnologija utvrđenih u Uniji, u suradnji s „nadzornim tijelom” u svakoj državi članici;

˗  ažuriranje, putem delegiranih akata, popisa iz priloga ovoj uredbi.

VI. „Nadzorno tijelo” u svakoj državi članici trebalo bi obavljati sljedeće glavne zadaće:

˗  doprinositi dosljednoj primjeni regulatornog okvira utvrđenog u zatraženom prijedlogu uredbe, u suradnji s „nadzornim tijelima“ u drugim državama članicama i drugim tijelima nadležnima za provedbu sektorskog zakonodavstva, Komisijom i/ili drugim relevantnim institucijama, tijelima, uredima i agencijama Unije koji bi mogli biti imenovani u tom kontekstu, konkretno u pogledu primjene kriterija za procjenu rizika navedenih u zatraženom prijedlogu uredbe i popisa visokorizičnih sektora i visokorizičnih uporaba ili svrha iz priloga, a zatim i nadzoru provedbe zatraženih i odgovarajućih mjera u slučajevima u kojima se na temelje takve primjene utvrde visokorizične tehnologije;

˗  utvrditi treba li umjetnu inteligenciju, robotiku i povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, koje se razvijaju, uvode i upotrebljavaju u Uniji, smatrati visokorizičnima u skladu s kriterijima navedenima u zatraženom prijedlogu uredbe i u popisu iz priloga;

˗  izdavati europske potvrde o sukladnosti s etičkim načelima i pravnim obvezama, kako je utvrđeno u zatraženom prijedlogu uredbe i mjerodavnom pravu Unije, uključujući kada proizlaze iz postupka podnošenja zahtjeva od strane razvojnih programera, subjekata za uvođenje ili korisnika tehnologija koje se ne smatraju visokorizičnima, a koji žele dobiti potvrdu o sukladnosti sa zatraženim prijedlogom uredbe, te kako su ih razvili Komisija i/ili bilo koje relevantne institucije, tijela, uredi i agencije Unije koji bi mogli biti imenovani u ovom kontekstu;

˗  ocjenjivati i pratiti njihovu sukladnost s etičkim načelima i pravnim obvezama, kako su utvrđeni u zatraženom prijedlogu uredbe i mjerodavnom pravu Unije;

˗  biti odgovorno za uspostavu i primjenu standarda za upravljanje umjetnom inteligencijom, robotikom i s njima povezanim tehnologijama, među ostalim, povezivanjem i održavanjem redovitog dijaloga sa svim uključenim dionicima i predstavnicima civilnog društva; u tom cilju surađivati s Komisijom i/ili bilo kojom relevantnom institucijom, tijelom, uredom i agencijom Unije koji bi mogli biti imenovani u tom kontekstu u pogledu koordinacije zajedničkog okvira na razini Unije;

˗  podizati razinu svijesti, pružati informacije o umjetnoj inteligenciji, robotici i s njima povezanim tehnologijama te poduprijeti osposobljavanje u relevantnim profesijama, uključujući pravosuđe, i na taj način osnažiti građane i radnike omogućavanjem digitalne pismenosti i pružanjem vještina i alata potrebnih za pravednu tranziciju;

˗  služiti kao prva kontaktna točka u slučajevima u kojima postoji sumnja o kršenju pravnih obveza i etičkih načela utvrđenih u zatraženom prijedlogu uredbe i provoditi ocjenu sukladnosti u tim slučajevima; u kontekstu te procjene sukladnosti Komisija obavijestiti druga nadležna tijela u Uniji, posebno Mrežu za suradnju u zaštiti potrošača, nacionalna tijela za zaštitu potrošača, organizacije civilnog društva i socijalne partnere i/ili savjetovati se s njima.

VII. Ključna uloga dionika trebala bi biti suradnja s Komisijom i/ili bilo kojom relevantnom institucijom, tijelom, uredom i agencijom koji bi mogli biti imenovani u ovom kontekstu te s „nadzornim tijelom” u svakoj državi članici.

B. TEKST TRAŽENOG ZAKONODAVNOG PRIJEDLOGA

Prijedlog

UREDBE EUROPSKOG PARLAMENTA I VIJEĆA

o etičkim načelima za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija

uzimajući u obzir Ugovor o funkcioniranju Europske unije, a posebno njegov članak 114.,

uzimajući u obzir prijedlog Europske komisije,

nakon prosljeđivanja nacrta zakonodavnog akta nacionalnim parlamentima,

uzimajući u obzir mišljenje Europskoga gospodarskog i socijalnog odbora,

u skladu s redovnim zakonodavnim postupkom,

budući da:

(1) Razvoj, uvođenje i upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, trebale bi se temeljiti na želji služenja društvu. Te tehnologije mogu uključivati mogućnosti i rizike, na koje bi trebalo odgovoriti te ih regulirati unutar sveobuhvatnog regulatornog okvira na razini Unije koji će odražavati etička načela koja treba poštovati u svim fazama, od razvoja i uvođenja takvih tehnologija do njihove upotrebe.

(2) Sukladnost s regulatornim okvirom u pogledu razvoja, uvođenja i upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje upotrebljavaju ili proizvode takve tehnologije u Uniji trebala bi biti na jednakoj razini u svim državama članicama kako bi se učinkovito iskoristile prilike i dosljedno obuhvatili rizici takvih tehnologija te izbjegla regulatorna fragmentacija. Trebalo bi osigurati ujednačenu primjenu pravila utvrđenih u ovoj uredbi u cijeloj Uniji.

(3) U tom kontekstu trenutačna raznolikost pravila i praksi koje se primjenjuju diljem Unije predstavlja velik rizik za fragmentaciju jedinstvenog tržišta i zaštitu dobrobiti i blagostanja pojedinaca i društva kao i za usklađeno istraživanje punog potencijala koji umjetna inteligencija, robotika i povezane tehnologije imaju za promicanje i očuvanje te dobrobiti i blagostanja. Razlike u poimanju etičke dimenzije svojstvene tim tehnologijama među razvojnim programerima, subjektima za uvođenje i korisnicima mogu spriječiti njihov slobodni razvoj, uvođenje ili upotrebu unutar Unije te, isto tako, mogu predstavljati prepreku ravnopravnim uvjetima natjecanja, tehnološkom napretku i provedbi gospodarskih aktivnosti na razini Unije, mogu narušiti tržišno natjecanje i spriječiti nadležna tijela u ispunjavanju njihovih obveza u skladu s pravom Unije. Osim toga, nepostojanje zajedničkog, etički utemeljenog, regulatornog okvira za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i povezanih tehnologija dovodi do pravne nesigurnosti za sve uključene, odnosno razvojne programere, subjekte za uvođenje i korisnike.

(4) Iako bi ovom uredbom trebalo doprinijeti dosljednom pristupu na razini Unije, ona bi unutar okvira koje postavlja državama članicama trebala pružiti manevarski prostor u pogledu provedbe, između ostalog, i kada je riječ o načinu na koji se mandat njihovih nacionalnih nadzornih tijela treba provoditi s obzirom na ciljeve koje treba ostvariti, a koji su zadani u uredbi.

(5) Ovom se uredbom ne dovodi u pitanje postojeće ili buduće sektorsko zakonodavstvo. U pogledu ostvarivanja njezina cilja ona bi se trebala voditi načelom proporcionalnosti, kako se ne bi neopravdano ometale inovacije u Uniji, i biti u skladu s pristupom koji se temelji na procjeni rizika.

(6) Geografsko područje primjene takvog okvira trebalo bi obuhvatiti sve sastavnice umjetne inteligencije, robotike i s njima povezanih tehnologija tijekom njihova cjelokupnog razvoja, uvođenja i upotrebe u Uniji, uključujući slučajeve u kojima je dio tih tehnologija izvan same Unije ili pak nema specifičnu ili jedinstvenu lokaciju, kao što su to npr. usluge računalstva u oblaku.

(7) Kako bi se omogućio usklađeni regulatorni pristup na razini Unije i time stvorila pravna sigurnost, i za građane i za poduzeća, potrebno je zajedničko razumijevanje pojmova poput umjetne inteligencije, robotike, s njima povezanih tehnologija i biometrijskog prepoznavanja. One bi trebale biti tehnološki neutralne i podlijegati preispitivanju kad god je to potrebno.

(8) Nadalje, treba uzeti u obzir i činjenicu da postoje tehnologije povezane s umjetnom inteligencijom i robotikom koje računalnim programima omogućuju da kontroliraju fizičke ili virtualne procese, s različitim stupnjem autonomije[13]. Primjerice, za automatiziranu vožnju vozila SAE International predložio je šest razina automatizacije vožnje u standardu J3016.

(9) Razvoj, uvođenje i upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje upotrebljavaju ili proizvode takve tehnologije, trebali bi biti komplementarni ljudskim sposobnostima , a ne zamjena za njih, i takvi da se njima jamči da njihovo izvršavanje nije suprotno najboljem interesu građana i trebali i da je u skladu s pravom Unije, temeljnim pravima utvrđenima u Povelji Europske unije o temeljnim pravima („Povelja”), ustaljenoj sudskoj praksi Suda Europske unije i drugim europskim i međunarodnim instrumentima koji se primjenjuju u Uniji.

(10) Odluke koje donose, ili za donošenje kojim podatke pružaju, umjetna inteligencija, robotika i s njima povezane tehnologije trebaju ostati podložne smislenom ljudskom preispitivanju, odlučivanju, intervenciji i kontroli. Tehnička i operativna složenost takvih tehnologija ne bi smjela značiti da subjekti za uvođenje i korisnici ne mogu, u najmanju ruku, pokrenuti zaštitno isključivanje, izmijeniti ili obustaviti njihovu primjenu, ili određene funkcije vratiti na prijašnje, sigurno stanje, u slučajevima u kojima je sukladnost s pravom Unije te načelima i pravnim obvezama utvrđenima u ovoj uredbi dovedena u pitanje.

(11) Umjetnu inteligenciju, robotiku i s njima povezane tehnologije kojih razvoj, uvođenje i upotreba podrazumijevaju znatan rizik od nanošenja ozljede ili štete pojedincima ili društvu, čime se krše temeljna prava i sigurnosna pravila utvrđena pravom Unije, treba smatrati visokorizičnim tehnologijama. Pri donošenju takve odluke, trebalo bi uzeti u obzir sektor u kojem se razvijaju, uvode ili upotrebljavaju, njihovu konkretnu uporabu ili svrha te ozbiljnost ozljede ili štete za koju se može očekivati da će nastati. Stupanj ozbiljnosti trebao bi se utvrditi na temelju opsega potencijalne štete ili ozljede, broja oštećenih osoba, ukupne vrijednosti prouzročene štete i štete za društvo u cjelini. Ozbiljne vrste ozljeda i štete su, primjerice, kršenja prava djece, potrošača ili radnika koji, s obzirom na njihov opseg, broj njima zahvaćene djece, potrošača ili radnika ili učinak na društvo u cjelini predstavljaju znatan rizik u pogledu kršenja temeljnih prava i sigurnosnih pravila utvrđenih pravom Unije. Ovom uredbom trebalo bi pružiti iscrpan i kumulativni popis visokorizičnih sektora te visokorizičnih uporaba i namjena.

(12) Obveze utvrđene ovom uredbom, posebno one koje se odnose na visokorizične tehnologije, trebale bi se primjenjivati samo na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, koje se razvijaju, uvode i upotrebljavaju u Uniji i koje se na temelju procjene rizika propisane ovom uredbom smatraju visokorizičnima. Navedene obveze treba ispuniti ne dovodeći u pitanje opću obvezu prema kojoj bi bilo koji oblik umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje upotrebljavaju ili proizvode takve tehnologije, u Uniji trebalo razvijati, uvoditi i upotrebljavati na antropocentričan način i na temelju načela ljudske autonomije i sigurnosti, u skladu s pravom Unije i uz potpuno poštovanje temeljnih prava kao što su ljudsko dostojanstvo, pravo na slobodu i sigurnosti i pravo na osobni integritet.

(13) Visokorizične tehnologije trebale bi poštovati načela sigurnosti, transparentnosti, odgovornosti, nepristranosti ili nediskriminacije, društvene odgovornosti i rodne ravnopravnosti, pravo na pravnu zaštitu, ekološku održivost, privatnost i dobro upravljanje, nakon nepristrane, objektivne i vanjske procjene rizika koju provodi nacionalno nadzorno tijelo u skladu s kriterijima predviđenima u ovoj uredbi i na popisu navedenom u njezinu prilogu. Pri toj procjeni treba uzeti u obzir stajališta i eventualnu samoprocjenu razvojnog programera ili subjekta za uvođenje.

(14) Komisija i/ili sve relevantne institucije, tijela, uredi i agencije Unije koji bi mogli biti imenovani u tu svrhu trebali bi pripremiti neobvezujuće smjernice za razvojne programere, subjekte za uvođenje i korisnike u pogledu metodologije za sukladnost s ovom uredbom. Pri tome bi se trebali savjetovati s relevantnim dionicima.

(15) Trebala bi postojati dosljednost u pogledu procjene rizika tih tehnologija, posebno kada se one ocjenjuju u svjetlu ove uredbe i u skladu s bilo kojim drugim mjerodavnim sektorskim zakonodavstvom. U skladu s tim, nacionalna nadzorna tijela trebala bi obavijestiti druga tijela koja provode procjene rizika u skladu s bilo kojim sektorskim zakonodavstvom ako te tehnologije bude procijenjene kao visokorizične nakon procjene rizika predviđene ovom uredbom.

(16) Da bi se smatrale pouzdanima, visokorizičnu umjetnu inteligenciju, robotiku i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje upotrebljavaju ili proizvode takve tehnologije, trebalo bi razvijati, uvoditi i upotrebljavati na siguran, transparentan i odgovoran način kojega su sigurnosne značajke robusnost, otpornost, sigurnost, točnost i mogućnost utvrđivanja pogreške, objašnjivost, mogućnost tumačenja i revizije, transparentnost i prepoznatljivost te tako da se u slučaju nezadovoljavanja tih kriterija određene funkcije mogu isključiti ili vratiti na prijašnje stanje. Transparentnost bi trebalo zajamčiti na način da se javnim tijelima omogući pristup tehnologiji, podacima i računalnim sustavima na kojima se temelje takve tehnologije.

(17) Razvojni programeri, subjekti za uvođenje i korisnici umjetne inteligencije, robotike i povezanih tehnologija, posebno visokorizičnih tehnologija, odgovorni su za usklađenost s načelima sigurnosti, transparentnosti i odgovornosti u mjeri u kojoj sudjeluju u dotičnoj tehnologiji, što se, među ostalim, odnosi i na računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode. Razvojni programeri trebali bi osigurati da se te tehnologije osmišljavaju i razvijaju u skladu sa sigurnosnim značajkama navedenima u ovoj uredbi, dok bi subjekti za uvođenje i korisnici te tehnologije trebali koristiti uz puno poštovanje tih značajki. U tu bi svrhu razvojni programeri visokorizičnih tehnologija trebali evaluirati i predvidjeti rizike koji se mogu razumno očekivati u pogledu tih tehnologija. Oni se također moraju pobrinuti da za sustave koje razvijaju na odgovarajući način, primjerice objavom odricanja od odgovornosti, bude naznačena vjerojatnost pogrešaka ili netočnosti.

(18) Razvojni programeri i subjekti za uvođenje trebali bi korisnicima tehnologije na raspolaganje staviti sva naknadna ažuriranja dotičnih tehnologija, posebno u obliku računalnih programa, u skladu s ugovorom ili kako je utvrđeno u pravu Unije ili nacionalnom pravu. Osim toga, ako na to upućuje procjena rizika, razvojni programeri i subjekti za uvođenje trebali bi tijelima javne vlasti dostaviti relevantnu dokumentaciju o uporabi predmetnih tehnologija i sigurnosne upute u tom pogledu, što se odnosi i na, kada je to uistinu potrebno i uz potpuno poštovanje prava Unije o zaštiti podataka, privatnosti i pravima intelektualnog vlasništva i poslovnim tajnama, izvorni kod, razvojne alate i podatke kojima se sustav koristi.

 (19) Pojedinci imaju pravo vjerovati da tehnologija kojom se koriste djeluje na razuman način i da se njome poštuje njihovo povjerenje. Povjerenje građana u umjetnu inteligenciju, robotiku i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, ovisi o razumijevanju i shvaćanju dotičnih tehničkih procesa. Stupanj objašnjivosti takvih procesa trebao bi ovisiti o kontekstu tih tehničkih procesa i o težini posljedica njihovih pogrešnih ili netočnih rezultata te biti dovoljan za njihovo osporavanje i traženje pravne zaštite. Provjerljivost, sljedivost i transparentnost potrebni su za rješavanje eventualne nerazumljivosti tih tehnologija.

(20) Povjerenje društva u umjetnu inteligenciju, robotiku i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode ovisi o tome u kojoj je mjeri omogućena procjena, revizija i sljedivost dotičnih tehnologija. Ako to zahtijeva opseg njihova sudjelovanja, razvojni programeri trebali bi se pobrinuti da su takve tehnologije osmišljene i razvijene tako da je moguća njihova procjena, revizija i sljedivost. U granicama tehničkih mogućnosti razvojni programeri, subjekti za uvođenje i korisnici trebali bi osigurati da se umjetna inteligencija, robotika i s njima povezane tehnologije uvode i upotrebljavaju uz potpuno poštovanje zahtjeva u pogledu transparentnosti, pri čemu su omogućene i revizija i sljedivost.

(21) Kako bi se zajamčila transparentnost i odgovornost, građani bi trebali biti informirani kad se neki sustav koristi umjetnom inteligencijom, kad sustavi umjetne inteligencije personaliziraju proizvod ili uslugu za svoje korisnike, bez obzira na to mogu li tu personalizaciju isključiti ili ograničiti, i kad je pred njima tehnologija s automatiziranim donošenjem odluka. Nadalje, mjere transparentnosti trebale biti popraćene, koliko je to tehnički moguće, jasnim i razumljivim objašnjenjima korištenih podataka te algoritma, njegove svrhe, rezultata i mogućih opasnosti.

(22) Pristranost i diskriminacija u okviru računalnih programa, algoritama i podataka nezakonite su te bi na taj problem trebalo odgovoriti regulacijom procesa njihova osmišljavanja i uvođenja. Pristranost može proizaći i iz odluka utemeljenih na informacijama i iz odluka koje donosi automatizirani sustav te iz skupova podataka na kojima se takvo odlučivanje temelji ili iz kojih sustav uči.

(23) Računalni programi, algoritmi i podaci koje proizvode ili upotrebljavaju umjetna inteligencija, robotika i s njima povezane tehnologije trebali bi se smatrati pristranim kada, na primjer, daju suboptimalne rezultate u odnosu na pojedinca ili skupinu pojedinaca na temelju neobjektivnih osobnih ili društvenih percepcija i naknadne obrade podataka koji se tiču njihovih osobnih obilježja.

(24) U skladu s pravom Unije, računalne programe, algoritme i podatke koje upotrebljava ili proizvodi umjetna inteligencija, robotika i s njima povezane tehnologije trebalo bi smatrati diskriminirajućima ako proizvedu ishode koji imaju nerazmjerne negativne učinke i dovode do različitog postupanja prema osobama ili skupinama osoba, među ostalim tako da ih se stavi u nepovoljan položaj u usporedbi s drugima, na temelju razloga kao što su njihova osobna obilježja, bez objektivnog ili razumnog opravdanja i bez obzira na tvrdnje o neutralnosti tehnologija.

(25) U skladu s pravom Unije u legitimne ciljeve koji bi u okviru ove Uredbe mogli objektivno opravdati svako različito postupanje prema osobama ili skupinama osoba ubrajaju se zaštita javne sigurnosti, sigurnost i zdravlje, sprečavanje kaznenih djela, zaštita temeljnih prava i sloboda, pravedna zastupljenost i objektivni zahtjevi za obavljanje profesionalne djelatnosti.

(26) Umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, trebale bi doprinositi održivom napretku. Takve tehnologije ne bi trebale biti u suprotnosti s očuvanjem okoliša ili prijelazom na zeleno gospodarstvo. One bi mogle imati važnu ulogu u postizanju ciljeva održivog razvoja Ujedinjenih naroda kako bi buduće generacije mogle ostvariti napredak. Te tehnologije mogu pomoći u praćenju primjerenog napretka na temelju pokazatelja održivosti i socijalne kohezije kao i upotrebe odgovornih alata za istraživanje i inovacije za koje je potrebna mobilizacija resursa iz Unije i država članica za potporu i ulaganje u projekte usmjerene na postizanje tih ciljeva.

(27) Razvoj, uvođenje i upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, ni na koji način ne bi smjeli namjerno nauditi ili naštetiti pojedincima i društvu. U skladu s tim, osobito bi se takve visokorizične tehnologije trebale razvijati, uvoditi ili upotrebljavati na društveno odgovoran način.

(28) Stoga bi programeri, subjekti za uvođenje i korisnici trebali biti odgovorni, u mjeri u kojoj sudjeluju u umjetnoj inteligenciji, robotici i s njima povezanim tehnologijama te u skladu s pravilima Unije i nacionalnim pravilima o odgovornosti, ako na bilo koji način naude ili naštete pojedincima i društvu.

(29) Konkretno, razvojne programere koji donose odluke kojima se utvrđuje i kontrolira smjer ili način razvoja umjetne inteligencije, robotike i s njima povezanih tehnologija te subjekte za uvođenje koji su uključeni u njihovo uvođenje donošenjem odluka o takvom uvođenju i izvršavanjem kontrole nad povezanim rizicima ili imaju koristi od takvog uvođenja, s kontrolnom ili upravljačkom funkcijom, trebalo bi općenito smatrati odgovornima kada je riječ o sprečavanju da se na bilo koji način naudi ili našteti pojedincima ili društvu te u tu svrhu uspostaviti odgovarajuće mjere tijekom razvojnog procesa i u potpunosti ih se pridržavati tijekom faze uvođenja.

(30) Društveno odgovorna umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje upotrebljavaju ili proizvode takve tehnologije, mogu se definirati kao tehnologije koje doprinose pronalaženju rješenja koja štite i promiču niz različitih ciljeva u pogledu društva, osobito demokracije, zdravlja i gospodarskog prosperiteta, jednakih mogućnosti, prava radnika i socijalnih prava, raznovrsnih i neovisnih medija te objektivnih i slobodno dostupnih informacija, na temelju kojih se omogućuju javna rasprava, kvalitetno obrazovanje, kulturna i jezična raznolikost, rodna ravnoteža, digitalna pismenost, inovacije i kreativnost. Pri njihovu razvoju, uvođenju i upotrebi propisno se uzima u obzir utjecaj koji u konačnici imaju na fizičku i mentalnu dobrobit građana i da ne promiču govor mržnje ili nasilje. Takvi bi se ciljevi trebali postići posebno s pomoću visokorizičnih tehnologija.

(31) Umjetnu inteligenciju, robotiku i s njima povezane tehnologije trebalo bi razviti, uvesti i upotrebljavati radi podupiranja socijalne uključenosti, demokracije, pluralnosti, solidarnosti, pravednosti, jednakosti i suradnje, a njihov potencijal u tom kontekstu trebalo bi maksimalno povećati i istražiti u okviru istraživačkih i inovacijskih projekata. Unija i njezine države članice trebale bi stoga mobilizirati svoje komunikacijske, administrativne i financijske resurse kako bi podupirale i ulagale u takve projekte.

(32) Projekti koji se bave potencijalom umjetne inteligencije, robotike i s njima povezanih tehnologija za rješavanje pitanja društvene dobrobiti trebali bi se provoditi na temelju odgovornih istraživačkih i inovacijskih alata kako bi se od samog početka zajamčilo da se tim projektima poštuju etička načela.

(33) Razvoj, uvođenje i upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, trebaju voditi računa o svom ekološkom otisku. U skladu s obvezama utvrđenima u primjenjivom pravu Unije takve tehnologije ne bi smjele štetiti okolišu tijekom svoga životnog ciklusa i duž cijelog opskrbnog lanca te bi ih trebalo razvijati, uvoditi i upotrebljavati na način kojim se čuva okoliš, smanjuje i uklanja njihov ekološki otisak, doprinosi prijelazu na zeleno gospodarstvo i podupire postizanje klimatske neutralnosti i ciljeva kružnog gospodarstva.

(34) Za potrebe ove Uredbe, razvojne programere, subjekte za uvođenje i korisnike trebalo bi smatrati odgovornima za bilo kakvu štetu nanesenu okolišu u mjeri u kojoj su uključeni u razvoj, uvođenje ili upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija koje se smatraju visokorizičnima, u skladu s primjenjivim pravilima o odgovornosti za okoliš.

(35) Te bi tehnologije trebalo razviti, uvesti i upotrebljavati kako bi se podupiralo ostvarivanje okolišnih ciljeva u skladu s obvezama utvrđenim primjenjivim pravom Unije, kao što su smanjenje stvaranja otpada, smanjenje ugljičnog otiska, borba protiv klimatskih promjena i očuvanje okoliša, a njihov potencijal u tom kontekstu trebalo bi maksimalno povećati i istražiti u okviru istraživačkih i inovacijskih projekata. Unija i države članice trebale bi stoga mobilizirati svoje komunikacijske, administrativne i financijske resurse kako bi podupirale i ulagale u takve projekte.

(36) Projekti koji se bave potencijalom umjetne inteligencije, robotike i s njima povezanih tehnologija za rješavanje okolišnih problema trebali bi se provoditi na temelju odgovornih istraživačkih i inovacijskih alata kako bi se od samog početka zajamčila usklađenost tih projekata s etičkim načelima.

(37) Sva umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, koji se razvijaju, uvode i upotrebljavaju u Uniji trebaju u potpunosti poštovati prava građana Unije na privatnost i zaštitu osobnih podataka. Ponajprije, njihov razvoj, uvođenje i upotreba trebaju biti u skladu s Uredbom (EU) 2016/679 Europskog parlamenta i Vijeća[14] i Direktivom 2002/58/EZ Europskog parlamenta i Vijeća[15].

(38) Osobito bi etičke granice upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, trebalo uzeti u obzir pri upotrebi tehnologija za daljinsko prepoznavanje, kao što je prepoznavanje biometrijskih identifikatora, a posebice prepoznavanje lica, radi automatske identifikacije pojedinaca. Kada javna tijela upotrebljavaju te tehnologije zbog znatnog javnog interesa, odnosno radi jamčenja sigurnosti pojedinaca i rješavanja nacionalnih izvanrednih situacija, a ne kako bi se zajamčila sigurnost imovine, uporaba bi uvijek trebala biti otvorena, razmjerna, usmjerena i ograničena na posebne ciljeve te vremenski ograničena u skladu s pravom Unije i uzimajući u obzir ljudsko dostojanstvo i autonomiju te temeljna prava utvrđena Poveljom. Kriteriji i ograničenja takvog korištenja trebali biti podložni sudskom preispitivanju te podvrgnuti demokratskom nadzoru i raspravi koja uključuje civilno društvo.

(39) Upravljanjem na temelju relevantnih normi povećava se sigurnost i promiče veće povjerenje građana u razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode.

(40) Javna tijela trebala bi provesti procjene učinka u pogledu temeljnih prava prije uvođenja visokorizičnih tehnologija kojima se pruža potpora odlukama koje se donose u javnom sektoru i koje imaju izravan i znatan utjecaj na prava i obveze građana.

(41) Među postojećim relevantnim normama upravljanja su, na primjer, „Etičke smjernice za pouzdanu umjetnu inteligenciju”, koje je sastavila Stručna skupina na visokoj razini Europske komisije o umjetnoj inteligenciji, te bilo koje druge tehničke norme kao one koje su, na europskoj razini, donijeli Europski odbor za normizaciju (CEN), Europski odbor za elektrotehničku normizaciju (CENELEC) i Europski institut za telekomunikacijske norme (ETSI) te, na međunarodnoj razini, Međunarodna organizacija za normizaciju (ISO) i Institut inženjera elektrotehnike i elektronike (IEEE).

(42) Kad podatke razmjenjuje i upotrebljava više sudionika dolazi do osjetljive situacije te bi stoga razvoj, uvođenje i upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija trebali biti uređeni relevantnim normama i protokolima koji odražavaju zahtjeve kvalitete, integriteta, sigurnosti, pouzdanosti, privatnosti i kontrole. Strategija upravljanja podacima trebala bi biti usmjerena na pristup takvim podacima te njihovu obradu i razmjenu, uključujući dobro upravljanje, mogućnost revizije i sljedivost, te jamčiti odgovarajuću zaštitu podataka koji pripadaju ugroženim skupinama, uključujući osobe s invaliditetom, pacijente, djecu, pripadnike manjina i migrante, ili druge skupine kojima prijeti socijalna isključenost; Povrh toga, razvojni programeri, subjekti za uvođenje i korisnici trebali bi se moći, kada je to relevantno, osloniti na ključne pokazatelje uspješnosti pri procjeni skupova podataka kojima se koriste, u cilju jačanja pouzdanosti tehnologija koje razvijaju, uvode i upotrebljavaju.

(43) Države članice trebale bi imenovati neovisno upravno tijelo koje će djelovati kao nadzorno tijelo. Konkretno, svako nacionalno nadzorno tijelo trebalo bi biti odgovorno za utvrđivanje umjetne inteligencije, robotike i s njima povezanih tehnologija koje se smatraju visokorizičnima s obzirom na kriterije za procjenu rizika predviđene ovom Uredbom te za ocjenjivanje i praćenje usklađenosti tih tehnologija s obvezama utvrđenima u ovoj Uredbi.

(44) Svako nacionalno nadzorno tijelo također bi trebalo biti odgovorno za dobro upravljanje tim tehnologijama u koordinaciji Komisije i/ili svih relevantnih institucija, tijela, ureda ili agencija Unije koji mogu biti imenovani u tu svrhu. Stoga imaju važnu ulogu u promicanju povjerenja i sigurnosti građana Unije te u omogućavanju demokratskog, pluralističkog i pravednog društva.

(45) Za potrebe procjene visokorizičnih tehnologija u skladu s ovom Uredbom i praćenja njihove usklađenosti s njom, nacionalna nadzorna tijela trebala bi, prema potrebi, surađivati s tijelima odgovornima za procjenu i praćenje tih tehnologija te za osiguravanje njihove usklađenosti sa sektorskim zakonodavstvom.

(46) Nacionalna nadzorna tijela trebala bi blisko i redovito surađivati međusobno te s Europskom komisijom i drugim relevantnim institucijama, tijelima, uredima i agencijama Unije kako bi se zajamčilo usklađeno prekogranično djelovanje i omogućio dosljedan razvoj, uvođenje i upotreba tih tehnologija unutar Unije u skladu s etičkim načelima i pravnim obvezama utvrđenima u ovoj Uredbi.

(47) U kontekstu takve suradnje i radi postizanja potpunog usklađivanja na razini Unije nacionalna nadzorna tijela trebala bi pomagati Komisiji u sastavljanju zajedničkog i iscrpnog popisa visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija u skladu s kriterijima iz ove Uredbe i njezina Priloga. Nadalje, trebalo bi razviti postupak dodjele za izdavanje europske potvrde o usklađenosti s etičkim načelima, uključujući dobrovoljni postupak podnošenja zahtjeva za sve razvojne programere, subjekte za uvođenje ili korisnike tehnologija koje se ne smatraju visokorizičnima i koji žele potvrditi svoju usklađenost s ovom Uredbom.

(48) Nacionalna nadzorna tijela trebala bi osigurati okupljanje maksimalnog broja dionika, kao što su industrija, poduzeća, socijalni partneri, istraživači, potrošači i organizacije civilnog društva, te omogućiti pluralistički forum za promišljanje i razmjenu mišljenja kako bi se postigli razumljivi i točni zaključci te pružile smjernice za regulaciju upravljanja.

(49) Nacionalna nadzorna tijela trebala bi osigurati okupljanje maksimalnog broja dionika, kao što su industrija, poduzeća, socijalni partneri, istraživači, potrošači i organizacije civilnog društva, te omogućiti pluralistički forum za promišljanje i razmjenu mišljenja u svrhu olakšavanja suradnje među dionicima, posebno iz akademske zajednice, sektora istraživanja, industrije, civilnog društva te pojedinačnih stručnjaka, kako bi se postigli razumljivi i točni zaključci te pružile smjernice za regulaciju upravljanja.

(50) Osim toga, ta nacionalna nadzorna tijela trebala bi pružati stručne administrativne smjernice i potporu razvojnim programerima, subjektima za uvođenje i korisnicima, posebno malim i srednjim poduzećima ili novoosnovanim poduzećima, koji nailaze na izazove u pridržavanju etičkih načela i pravnih obveza iz ove Uredbe.

(51) Komisija i/ili sve relevantne institucije, tijela, uredi i agencije Unije koji mogu biti imenovani u tu svrhu trebali bi utvrditi obvezujuće smjernice o metodologiji koju trebaju upotrebljavati nacionalna nadzorna tijela pri provedbi svoje procjene sukladnosti.

(52) Aktivnosti zviždača upozoravaju nadležna tijela na potencijalne i stvarne povrede prava Unije u cilju sprečavanja ozljede, povrede ili štete do kojih bi inače došlo. Osim toga, postupci prijavljivanja poboljšavaju protok informacija u poduzećima i organizacijama, čime se smanjuje rizik od razvijanja pogrešnih ili neispravnih proizvoda ili usluga. Poduzeća i organizacije koje razvijaju, uvode ili upotrebljavaju umjetnu inteligenciju, robotiku i s njima povezane tehnologije, uključujući podatke koje te tehnologije upotrebljavaju ili proizvode, trebali bi uspostaviti kanale za prijavljivanje, a osobe koje prijavljuju povrede trebale bi biti zaštićene od odmazde.

(53) Brzi razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, nepredvidiv je kao i razvoj tehničkog strojnog učenja, postupaka zaključivanja i drugih tehnologija na kojima se taj razvoj temelji. Stoga je primjereno i potrebno uspostaviti mehanizam preispitivanja u skladu s kojim će Komisija, uz izvješćivanje o primjeni ove Uredbe, redovito podnositi izvješće o mogućoj izmjeni njezina područja primjene.

(54) S obzirom na to države članice ne mogu dostatno ostvariti cilj ove Uredbe, a to je uspostava zajedničkog regulatornog okvira etičkih načela i pravnih obveza za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija u Uniji, nego se zbog opsega i učinka on može bolje ostvariti na razini Unije, Unija može donositi mjere u skladu s načelom supsidijarnosti iz članka 5. Ugovora o Europskoj uniji. U skladu s načelom proporcionalnosti utvrđenim u tom članku, ova Uredba ne prelazi ono što je potrebno za ostvarivanje tog cilja.

(55) Koordinaciju na razini Unije kako je utvrđena u ovoj Uredbi najbolje bi ostvarili Komisija i/ili bilo koje relevantne institucije, tijela, uredi i agencije Unije koji mogu biti imenovani u tom kontekstu kako bi se izbjegla fragmentacija i osigurala dosljedna primjena ove Uredbe. Komisija bi stoga trebala biti zadužena za pronalaženje odgovarajućeg rješenja za strukturiranje takve koordinacije na razini Unije u cilju koordinacije mandata i djelovanja nacionalnih nadzornih tijela u svakoj državi članici, posebno u pogledu procjene rizika umjetne inteligencije, robotike i s njima povezanih tehnologija, uspostave zajedničkog okvira za upravljanje razvojem, uvođenjem i upotrebom tih tehnologija, razvoja i izdavanja potvrda o usklađenosti s etičkim načelima i pravnim obvezama utvrđenima u ovoj Uredbi, pružanja potpore redovitim razmjenama znanja s relevantnim dionicima i civilnim društvom te stvaranja stručnog centra koji okuplja akademsku zajednicu, istraživačku i industrijsku zajednicu te pojedinačne stručnjake na razini Unije radi poticanja znanja i tehničke stručnosti te promicanja pristupa Unije putem međunarodne suradnje te osiguravanja dosljednog globalnog odgovora na prilike i rizike svojstvene tim tehnologijama.

 

DONIJELI SU OVU UREDBU:

 

Poglavlje I.

Opće odredbe

Članak 1.

Svrha

 

Svrhe je ove Uredbe uspostaviti sveobuhvatan regulatorni okvir etičkih načela i zakonskih obveza za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija u Uniji koji je otporan na buduće promjene.

Članak 2.

Područje primjene

 

Ova Uredba primjenjuje se na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, koje se razvijaju, uvode i upotrebljavaju u Uniji.

Članak 3.

Zemljopisno područje primjene

Ova Uredba primjenjuje se na umjetnu inteligenciju, robotiku i s njima povezane tehnologije ako se bilo koji njegov dio razvija, uvodi ili upotrebljava u Uniji, bez obzira na to jesu li računalni programi, algoritmi ili podaci koje takve tehnologije upotrebljavaju ili proizvode smješteni izvan Unije ili nemaju konkretnu geografsku lokaciju.

Članak 4.

Definicije

Za potrebe ove Uredbe primjenjuju se sljedeće definicije:

(a) „umjetna inteligencija” znači sustav koji se temelji na softveru ili je uključen u hardverske uređaje i koji pokazuje inteligentno ponašanje tako da, među ostalim, prikuplja, obrađuje, analizira i tumači svoje okruženje te uz određenu razinu autonomije poduzima korake za ostvarenje određenih ciljeva[16];

(b) „autonomija” znači sustav umjetne inteligencije koji funkcionira tako da tumači određene ulazne podatke i upotrebljava skup prethodno utvrđenih uputa, no nije ograničen tim uputama, unatoč tome što je ponašanje sustava ograničeno i usmjereno zadanim ciljem i drugim programiranim svojstvima koja mu je razvojni inženjer zadao;

(c) „robotika” znači tehnologije koje omogućuju višenamjenskim strojevima koji se mogu automatski kontrolirati i reprogramirati[17] izvoditi aktivnosti u fizičkom svijetu koje tradicionalno izvode ili pokreću ljudska bića, među ostalim putem umjetne inteligencije ili povezanih tehnologija;

(d) „povezane tehnologije” znači tehnologije koje računalnim programima omogućuju da s djelomičnom ili potpunom autonomijom kontroliraju fizičke ili virtualne procese, tehnologije koje mogu otkriti biometrijske, genetske ili druge podatke i tehnologije koje kopiraju ili na drugi način koriste ljudske osobine;

(e) „visok rizik” znači znatan rizik povezan s razvojem, uvođenjem i upotrebom umjetne inteligencije, robotike i s njima povezanih tehnologija kako bi se pojedincima ili društvu nanijela šteta, čime se krše temeljna prava i sigurnosna pravila utvrđena pravom Unije, uzimajući u obzir njihovu posebnu namjenu ili svrhu, sektor u kojem se razvijaju, uvode ili upotrebljavaju te ozbiljnost ozljede ili štete za koju se može očekivati da će nastati;

(f) „razvoj” znači izrada i dizajn algoritama, pisanje te dizajn računalnih programa ili prikupljanje i pohranjivanje podataka i upravljanje njima u svrhu stvaranja ili uvježbavanja umjetne inteligencije, robotike i s njima povezanih tehnologija ili u svrhu stvaranja novih primjena za postojeću umjetnu inteligenciju, robotiku i s njima povezanih tehnologija;

(g) „razvojni programer” znači svaka fizička ili pravna osoba koja donosi odluke kojima se utvrđuje i kontrolira smjer ili način razvoja umjetne inteligencije, robotike i s njima povezanih tehnologija;

(h) „uvođenje” znači rad umjetne inteligencije, robotike i s njima povezanih tehnologija i upravljanje njima te njihovo stavljanje na tržište ili omogućavanje njihove dostupnosti korisnicima na neki drugi način;

(i) „subjekt za uvođenje” znači svaka fizička ili pravna osoba koja je uključena u specifično uvođenje umjetne inteligencije, robotike i s njima povezanih tehnologija, a koja ima nadzornu ili upravljačku funkciju donošenjem odluka, koja provodi kontrolu nad rizikom i za koju to uvođenje predstavlja korist;

(j) „upotreba” znači svako djelovanje povezano s umjetnom inteligencijom, robotikom i s njima povezanim tehnologijama, osim razvoja ili uvođenja;

(k) „korisnik” znači svaka fizička ili pravna osoba koja upotrebljava umjetnu inteligenciju, robotiku i s njima povezane tehnologije, osim u svrhu razvoja ili uvođenja;

(l) „pristranost” znači svaka neobjektivna i osobna ili društvena percepcija osobe ili skupine osoba na temelju njihovih osobnih obilježja;

(m) „diskriminacija” znači svako različito postupanje prema osobi ili skupini osoba na temelju razloga koji nema objektivno ili razumno obrazloženje i stoga je zabranjeno pravom Unije;

(n) „povreda ili šteta” znači, među ostalim i ako je prouzročena govorom mržnje, predrasudama, diskriminacijom ili stigmatizacijom, fizička ili psihička povreda, materijalna ili nematerijalna šteta kao što su financijski ili ekonomski gubitak, gubitak radnog mjesta ili prilike za obrazovanje, neopravdano ograničavanje slobode izbora ili izražavanja ili gubitak privatnosti te svaka povreda prava Unije koja je štetna za osobu;

(o) „dobro upravljanje” znači način kojim se osigurava da razvojni programeri, subjekti za uvođenje i korisnici usvoje i primjenjuju adekvatne i razumne norme i protokole ponašanja koji se temelje na formalnom skupu pravila, procedura i vrijednosti te koji im omogućuje da na odgovarajući način pristupaju etičkim pitanjima kada se pojave ili prije nego se pojave.

Članak 5.

Etička načela umjetne inteligencije, robotike i s njima povezanih tehnologija

1. Svaka umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, razvijaju se, uvode i upotrebljavaju u Uniji u skladu s pravom Unije i uz potpuno poštovanje ljudskog dostojanstva, autonomije i sigurnosti te drugih temeljnih prava utvrđenih u Povelji.

2. Sva obrada osobnih podataka koja se provodi u okviru razvoja, uvođenja i upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući osobne podatke koji proizlaze iz neosobnih podataka i biometrijskih podataka, provodi se u skladu s Uredbom (EU) 2016/679 i Direktivom 2002/58/EZ.

3. Unija i njezine države članice potiču istraživačke projekte namijenjene pronalaženju rješenja koja se temelje na umjetnoj inteligenciji, robotici i s njima povezanim tehnologijama, kojima se nastoje promicati socijalna uključenost, demokracija, pluralizam, solidarnost, pravednost, jednakost i suradnja.

Poglavlje II.

Obveze koje se moraju poštovati za visokorizične tehnologije

Članak 6.

Obveze koje se moraju poštovati za visokorizične tehnologije

1. Odredbe iz ovog poglavlja primjenjuje se samo na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, koje se razvijaju, uvode i upotrebljavaju u Uniji, a koje se smatraju visokorizičnima.

 

2. Sva visokorizična umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode moraju se razvijati, uvoditi i upotrebljavati na način kojim se osigurava da neće doći do kršenja etičkih načela iz ove Uredbe.

Članak 7.

Umjetna inteligencija koja je usmjerena na čovjeka i koju je osmislio čovjek

1. Sve visokorizične umjetne tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, razvijaju se, uvode i upotrebljavaju na način koji u svakom trenutku jamči potpun ljudski nadzor.

2. Tehnologije navedene u stavku 1. razvijaju se, uvode i upotrebljavaju na način kojim se omogućuje ponovno preuzimanje potpune ljudske kontrole kada je to potrebno, uključujući izmjenom ili zaustavljanjem tih tehnologija.

 

Članak 8.

Sigurnost, transparentnost i odgovornost

1. Sva visokorizična umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, razvijaju se, uvode i upotrebljavaju na način kojim se osigurava da se:

(a) razvijaju, uvode i upotrebljavaju na otporan način kako bi osiguravali odgovarajuću razinu sigurnosti i to poštovanjem minimalnih referentnih zahtjeva u pogledu kibersigurnosti razmjerno utvrđenom riziku, kojom se sprečava iskorištavanje bilo kakvih tehničkih slabosti u zlonamjerne ili nezakonite svrhe;

(b) razvijaju, uvode i upotrebljavaju na siguran način kojim se osigurava postojanje zaštitnih mehanizama koji obuhvaćaju rezervni plan i djelovanje u slučaju rizika u pogledu sigurnosti ili zaštite;

(c) razvijaju, uvode i upotrebljavaju na način kojim se osigurava njihova pouzdanost koju korisnik može razumno očekivati u pogledu postizanja ciljeva i obavljanja aktivnosti za koje su osmišljeni, uključujući osiguravanjem mogućnosti reproduciranja svih operacija;

(d) razvijaju, uvode i upotrebljavaju na način kojim se osigurava točnost u provedbi ciljeva i aktivnosti tih tehnologija; ako se povremene netočnosti ne mogu izbjeći, sustav subjektima za uvođenje i korisnicima mora na odgovarajući način ukazati, u mjeri u kojoj je to moguće, na vjerojatnost pogrešaka i netočnosti;

(e) razvijaju, uvode i upotrebljavaju na lako razumljiv način kako bi se osigurala mogućnost preispitivanja tehničkih procesa tih tehnologija;

(f) razvijaju, uvode i upotrebljavaju na način da korisnike obavještavaju da su u interakciji sa sustavima umjetne inteligencije te razvojne programere, subjekte za uvođenje i korisnike umjetne inteligencije na odgovarajući i sveobuhvatan način obavještavaju o svojim sposobnostima, točnosti i ograničenjima;

(g) u skladu s člankom 6. stavkom 3., razvijaju, uvode i upotrebljavaju na način kojim se, u slučaju nesukladnosti sa sigurnosnim značajkama iz točaka od (a) do (g), omogućuje da se te funkcije privremeno onesposobe i vrate na prethodno stanje u kojem se ponovno uspostavljaju sigurne funkcije. 

2. U skladu s člankom 6. stavkom 1. tehnologije navedene u stavku 1., uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, moraju se razviti, uvesti i upotrebljavati na transparentan i sljediv način tako da se njihovi elementi, procesi i faze dokumentiraju u skladu s najvišim mogućim primjenjivim normama te da nacionalna nadzorna tijela iz članka 14. mogu procijeniti usklađenost tih tehnologija s obvezama iz ove Uredbe. Nadalje, razvojni programeri, subjekti za uvođenje ili korisnici tih tehnologija odgovorni su za sukladnost sa sigurnosnim značajkama iz stavka 1. i mogu je dokazati.

3. Razvojni programeri, subjekti za uvođenje ili korisnici tehnologija iz stavka 1. osiguravaju da nacionalna nadzorna tijela iz članka 14. ili, ako je primjenjivo, druga nacionalna ili europska sektorska nadzorna tijela mogu provesti reviziju mjera koje se poduzimaju kako bi se osigurala sukladnost sa sigurnosnim značajkama iz stavka 1.

Članak 9.

Nepristranost i nediskriminacija

 

1. Svi računalni programi, algoritmi ili podaci koje upotrebljavaju ili proizvode visokorizična umjetna inteligencija, robotika i s njima povezane tehnologije koje se razvijaju, uvode ili upotrebljavaju u Uniji moraju biti nepristrani i, ne dovodeći u pitanje stavak 3., ne smiju diskriminirati na temelju rase, roda, seksualne orijentacije, trudnoće, invaliditeta, fizičkih ili genetskih obilježja, dobi, nacionalne manjine, etničkog ili socijalnog podrijetla, jezika, vjere ili uvjerenja, političkih stavova ili građanskog sudjelovanja, državljanstva, bračnog ili ekonomskog statusa, obrazovanja ili kaznene evidencije.

 

2. Odstupajući od stavaka 1. i 2. i ne dovodeći u pitanje pravo Unije o nezakonitoj diskriminaciji, svako različito postupanje prema osobama ili skupinama osoba može se opravdati samo ako postoji objektivan, razuman i legitiman cilj koji je razmjeran i nužan jer ne postoji alternativa kojom bi se manje narušilo načelo jednakog postupanja.

Članak 10.

Društvena odgovornost i rodna ravnopravnost

Sva visokorizična umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, koji se razvijaju, uvode i upotrebljavaju u Uniji, razvijaju se, uvode i upotrebljavaju u skladu s relevantnim pravom, načelima i vrijednostima Unije, na način kojim se ne utječe na izbore niti doprinosi širenju dezinformacija, poštuju prava radnika, promiče kvalitetno obrazovanje i digitalna pismenost, ne povećava rodna neravnopravnost sprečavanjem jednakih mogućnosti za sve i ne krši prava intelektualnog vlasništva niti bilo kakva njihova ograničenja ili iznimke.

Članak 11.

Ekološka održivost

Nacionalna nadzorna tijela iz članka 14. ili, ako je primjenjivo, druga nacionalna ili Europska sektorska nadzorna tijela, procjenjuju svu visokorizičnu umjetnu inteligenciju, robotiku i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode s obzirom na njihovu ekološku održivost, osiguravajući pritom da su uspostavljene mjere za ublažavanje i otklanjanje njihova općeg učinka u pogledu prirodnih resursa, potrošnje energije, stvaranja otpada, ugljičnog otiska, kriza u pogledu klimatskih promjena i uništavanja okoliša kako bi se osigurala sukladnost s primjenjivim pravom Unije ili nacionalnim pravom, kao i bilo kojim drugim međunarodnim obvezama u pogledu okoliša koje je Unija preuzela.

Članak 12.

Poštovanje privatnosti i zaštita osobnih podataka

Upotreba i prikupljanje biometrijskih podataka za potrebe daljinske identifikacije u javnim prostorima, kao što je biometrijsko prepoznavanje ili prepoznavanje lica, predstavljaju poseban rizik za temeljna prava te ih upotrebljavaju samo javna tijela država članica u situacijama od znatnog javnog interesa. Ta tijela osiguravaju da takvo uvođenje ili upotreba budu javno obznanjeni, proporcionalni, ciljani i ograničeni na posebne ciljeve i lokaciju te vremenski ograničeni, u skladu s pravom Unije i nacionalnim pravom, posebno s Uredbom (EU) 2016/679 i Direktivom 2002/58/EZ, te uz dužno poštovanje ljudskog dostojanstva i autonomije te temeljnih prava utvrđenih u Povelji, odnosno prava na poštovanje privatnosti i zaštitu osobnih podataka.

 

Članak 13.

Pravo na obeštećenje

 Svaka fizička ili pravna osoba ima pravo tražiti naknadu štete uzrokovane razvojem, uvođenjem i upotrebom visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, čime se krši pravo Unije i obveze utvrđene u ovoj Uredbi.

Članak 14.

Procjena rizika

1. Za potrebe ove Uredbe umjetna inteligencija, robotika i s njima povezane tehnologije, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, smatraju se visokorizičnim tehnologijama ako, nakon procjene rizika na temelju objektivnih kriterija kao što su njihova posebna uporaba ili svrha, sektor u kojem se razvijaju, uvode ili upotrebljavaju te ozbiljnost moguće ozljede ili štete, njihov razvoj, uvođenje ili uporaba podrazumijevaju znatan rizik koji se može očekivati da naude ili naštete pojedincima ili društvu kršenjem temeljnih prava i pravila o sigurnosti Unije.

2. Ne dovodeći u pitanje primjenjivo sektorsko zakonodavstvo, procjenu rizika umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, provode, u skladu s objektivnim kriterijima iz stavka 1. ovog članka i na iscrpnom i kumulativnom popisu iz Priloga ovoj Uredbi, nacionalna nadzorna tijela iz članka 14. koja koordiniraju Komisija i/ili bilo koje druge relevantne institucije, tijela, uredi i agencije Unije koji mogu biti imenovani u tu svrhu u kontekstu suradnje.

3. U suradnji s nacionalnim nadzornim tijelima iz stavka 2. Komisija delegiranim aktima u skladu s člankom 15.a sastavlja i naknadno ažurira zajednički popis visokorizičnih tehnologija utvrđenih u Uniji.

4. Komisija također putem delegiranih akata u skladu s člankom 15.a redovito ažurira popis predviđen u Prilogu ovoj Uredbi.

Članak 15.

Procjena sukladnosti

1. Visokorizična umjetna inteligencija, robotika i s njima povezane tehnologije podliježu procjeni sukladnosti s obvezama utvrđenima u člancima od 6. do 12. ove Uredbe, kao i naknadnom praćenju, koje provode nacionalna nadzorna tijela iz članka 17. u koordinaciji Komisije i/ili drugih relevantnih institucija, tijela, ureda i agencija Unije koji mogu biti imenovani u tu svrhu.

 

2. Softver, algoritmi i podaci koje upotrebljavaju ili proizvode visokorizične tehnologije koje su ocijenjene kao sukladne s obvezama iz ove Uredbe u skladu sa stavkom 1. također se smatraju sukladnima s tim obvezama, osim u slučaju da nacionalno nadzorno tijelo odluči provesti procjenu na vlastitu inicijativu ili na zahtjev razvojnog programera, subjekta za uvođenje ili korisnika.

 

3. Ne dovodeći u pitanje sektorsko zakonodavstvo, Komisija i/ili bilo koje relevantne institucije, tijela, uredi i agencije Unije koji mogu biti posebno imenovani u tu svrhu izrađuju obvezujuće smjernice o metodologiji koju nacionalna nadzorna tijela trebaju upotrebljavati za procjenu sukladnosti iz stavka 1. do datuma stupanja na snagu ove Uredbe.

 

Članak 16.

Europska potvrda o sukladnosti s etičkim načelima

1. Ako je u skladu s člankom 7.a pozitivno ocijenjena usklađenost visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, odgovarajuće nacionalno nadzorno tijelo izdaje europsku potvrdu o sukladnosti s etičkim načelima.

 

2. Svaki razvojni programer, subjekt za uvođenje ili korisnik umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, koji se ne smatraju visokorizičnima i koji stoga ne podliježu obvezama utvrđenima u člancima od 6. do 12. te procjeni rizika i sukladnosti iz članaka 13. i 14., također mogu nastojati potvrditi usklađenost s obvezama utvrđenima u ovoj Uredbi ili dijelom njih, ako je to opravdano prirodom dotične tehnologije u skladu s odlukom nacionalnih nadzornih tijela. Potvrda se izdaje samo ako je relevantno nacionalno nadzorno tijelo provelo procjenu sukladnosti i ako je njezina ocjena pozitivna.

 

3. Za potrebe izdavanja potvrde iz stavka 2. Komisija i/ili druge relevantne institucije, tijela, uredi i agencije Unije koji mogu biti imenovani u tu svrhu razvijaju postupak podnošenja zahtjeva.

 

Poglavlje III.

Institucionalni nadzor

Članak 17.

Norme upravljanja i smjernice za provedbu

1. Umjetna inteligencija, robotika i s njima povezane tehnologije koje se razvijaju, uvode ili upotrebljavaju u Uniji moraju biti u skladu s relevantnim normama upravljanja koje su u skladu s pravom, načelima i vrijednostima Unije utvrdila nacionalna nadzorna tijela iz članka 17., u koordinaciji Komisije i/ili relevantnih institucija, tijela, ureda i agencija Unije koji mogu biti imenovani u tu svrhu i uz savjetovanje s relevantnim dionicima.

 

2. Norme iz stavka 1. uključuju neobvezujuće provedbene smjernice o metodologiji za usklađenost razvojnih programera, subjekata za uvođenje i korisnika s ovom Uredbom te se objavljuju do datuma stupanja na snagu ove Uredbe.

 

3. Podacima koje upotrebljava ili proizvodi umjetna inteligencija, robotika i s njima povezane tehnologije koje se razvijaju, uvode ili upotrebljavaju u Uniji upravljaju razvojni programeri, subjekti za uvođenje i korisnici u skladu s relevantnim nacionalnim normama te normama Unije i drugih europskih organizacija i međunarodnim pravilima i normama te relevantnim sektorskim i poslovnim protokolima. Konkretno, ako je to izvedivo, razvojni programeri i subjekti za uvođenje provode provjere kvalitete vanjskih izvora podataka koje upotrebljavaju umjetna inteligencija, robotika i s njima povezane tehnologije te uspostavljaju mehanizme nadzora njihova prikupljanja, pohrane, obrade i upotrebe.

 

3. Ne dovodeći u pitanje pravo na prenosivost i prava osoba čija je upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija stvorila podatke, prikupljanje, pohrana, obrada i dijeljenje podataka te pristup podacima koje upotrebljava ili proizvodi umjetna inteligencija, robotika i s njima povezane tehnologije koje se razvijaju, uvode ili upotrebljavaju u Uniji moraju biti u skladu s relevantnim nacionalnim normama te normama Unije i drugih europskih organizacija, međunarodnim pravilima i normama te relevantnim sektorskim i poslovnim protokolima. Konkretno, razvojni programeri i subjekti za uvođenje osiguravaju primjenu tih protokola tijekom razvoja i uvođenja umjetne inteligencije, robotike i s njima povezanih tehnologija, tako da jasno definiraju zahtjeve za obradu i odobravanje pristupa podacima koje te tehnologije upotrebljavaju ili proizvode, kao i svrhu, opseg i adresate obrade i odobravanja pristupa takvim podacima, pri čemu u svakom trenutku nad svim tim mora biti moguće provesti reviziju i pratiti sljedivost.

 

Članak 18.

Nadzorna tijela

1. Svaka država članica imenuje neovisno javno tijelo koje će biti odgovorno za praćenje primjene ove Uredbe („nadzorno tijelo”) te za provedbu procjena rizika i sukladnosti te certifikacije iz članaka 13., 14. i 15., ne dovodeći u pitanje sektorsko zakonodavstvo. 

 

2. Svako nacionalno nadzorno tijelo doprinosi dosljednoj primjeni ove Uredbe u cijeloj Uniji. U tu svrhu nadzorna tijela u svakoj državi članici surađuju međusobno, s Komisijom i drugim relevantnim institucijama, tijelima, uredima i agencijama Unije koji mogu biti imenovani u tu svrhu.

 

3. Svako nacionalno nadzorno tijelo služi kao prva kontaktna točka u slučajevima sumnje na kršenje etičkih načela i pravnih obveza utvrđenih u ovoj Uredbi, uključujući diskriminirajuće postupanje ili kršenje drugih prava, kao rezultat razvoja, uvođenja ili upotrebe umjetne inteligencije, robotike i s njima povezanih tehnologija. U takvim slučajevima odgovarajuće nacionalno nadzorno tijelo provodi procjenu sukladnosti s ciljem podupiranja prava građana na osporavanje i pravnu zaštitu.

 

4. Svako nacionalno nadzorno tijelo odgovorno je za nadzor primjene relevantnih nacionalnih, europskih i međunarodnih pravila i normi upravljanja iz članka 13. na umjetnu inteligenciju, robotiku i s njima povezane tehnologije, među ostalim povezivanjem s najvećim mogućim brojem relevantnih dionika. U tu svrhu nadzorna tijela u svakoj državi članici osiguravaju forum za redovitu razmjenu informacija i suradnju među dionicima iz akademske zajednice, sektora istraživanja, industrije i civilnog društva.

 

5. Svako nacionalno nadzorno tijelo pruža stručne i administrativne smjernice i potporu za opću provedbu prava Unije u pogledu umjetne inteligencije, robotike i s njima povezanih tehnologija te etičkih načela utvrđenih u ovoj Uredbi, osobito organizacijama u području relevantnih istraživanja i razvoja, te malim i srednjim poduzećima i start-up poduzećima.

 

6. Svaka država članica obavješćuje Europsku komisiju o pravnim odredbama koje donosi u skladu s ovim člankom do [SL: unijeti datum jedne godine nakon stupanja na snagu] te bez odgode o svim naknadnim izmjenama koje na njih utječu.

 

7. Države članice poduzimaju sve potrebne mjere kako bi osigurale provedbu etičkih načela i pravnih obveza utvrđenih u ovoj Uredbi. Države članice podupiru relevantne dionike i civilno društvo, i na razini Unije i na nacionalnoj razini, u njihovim naporima da osiguraju pravovremen, etički i informiran odgovor na nove prilike i izazove, posebno na one koji su prekogranične prirode, a koji proizlaze iz tehnološkog razvoja u području umjetne inteligencije, robotike i s njima povezanih tehnologija.

 

Članak 19.

Prijava povreda i zaštita prijavitelja

 

Direktiva (EU) 2019/1937 Europskog parlamenta i Vijeća[18] primjenjuje se na prijavljivanje povreda ove Uredbe i na zaštitu osoba koje prijavljuju te povrede.

 

Članak 20.

Koordinacija na razini Unije

1. Komisija i/ili sve relevantne institucije, tijela, uredi i agencije Unije koji mogu biti imenovani u tom kontekstu imaju sljedeće zadaće:

 

- osiguravanje dosljedne procjene rizika umjetne inteligencije, robotike i s njima povezanih tehnologija iz članka 13. koju provode nacionalna nadzorna tijela iz članka 17. na temelju zajedničkih objektivnih kriterija iz članka 7. stavka 1. i iz popisa visokorizičnih sektora i visokorizičnih uporaba ili svrha iz Priloga ovoj Uredbi;

 

- primanje na znanje procjene sukladnosti i naknadnog praćenja visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija iz članka 14. koje provode nacionalna nadzorna tijela iz članka 17.;

 

- razvoj postupka podnošenja zahtjeva za certifikat iz članka 15. koji izdaju nacionalna nadzorna tijela iz članka 17.;

 

- ne dovodeći u pitanje sektorsko zakonodavstvo, pripremanje obvezujućih smjernica iz članka 14. stavka 3. o metodologiji koju trebaju upotrebljavati nacionalna nadzorna tijela iz članka 17.;

 

- koordiniranje uspostave relevantnih standarda upravljanja iz članka 16. od strane nacionalnih nadzornih tijela iz članka 17., uključujući neobvezujuće provedbene smjernice za razvojne programere, subjekte za uvođenje i korisnike u pogledu metodologije za usklađenost s ovom Uredbom;

 

- suradnja s nacionalnim nadzornim tijelima iz članka 17. u pogledu njihova doprinosa dosljednoj primjeni ove Uredbe u cijeloj Uniji u skladu s člankom 17. stavkom 2.;

 

- djelovanje kao centar za stručnost promicanjem razmjene informacija povezanih s umjetnom inteligencijom, robotikom i s njima povezanim tehnologijama te podupiranjem razvoja zajedničkog razumijevanja na jedinstvenom tržištu, izdavanjem dodatnih smjernica, mišljenja i stručnog znanja nacionalnim nadzornim tijelima iz članka 17., praćenjem provedbe relevantnog prava Unije, utvrđivanjem standarda za najbolju praksu i, prema potrebi, davanjem preporuka za regulatorne mjere; pritom bi se trebali povezati s najvećim mogućim brojem relevantnih dionika i osigurati da je sastav njegovih razina odlučivanja raznolik i da se njime osigurava rodna ravnopravnost;

 

- organiziranje radne skupine za sigurnost i obranu čiji je cilj razmatranje pitanja politike i ulaganja koja se posebno odnose na etičku upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija u području sigurnosti i obrane.

 

Članak 21.

Izvršavanje delegiranja ovlasti

1. Ovlast za donošenje delegiranih akata dodjeljuje se Komisiji podložno uvjetima utvrđenima u ovom članku.

 

2. Ovlast za donošenje delegiranih akata iz članka 7. stavka 3. i 4. dodjeljuje se Komisiji na razdoblje od pet godina počevši od [datum stupanja na snagu ove Uredbe].

 

3. Europski parlament ili Vijeće u svakom trenutku mogu opozvati delegiranje ovlasti iz članka 7. stavaka 3. i 4. Odlukom o opozivu prekida se delegiranje ovlasti koje je u njoj navedeno. Opoziv počinje proizvoditi učinke sljedećeg dana od dana objave spomenute odluke u Službenom listu Europske unije ili na kasniji dan naveden u spomenutoj odluci. On ne utječe na valjanost delegiranog akta koji je već na snazi.

 

4. Prije donošenja delegiranog akta Komisija se savjetuje sa stručnjacima koje je imenovala svaka država članica u skladu s načelima utvrđenima u Međuinstitucijskom sporazumu o boljoj izradi zakonodavstva od 13. travnja 2016.

 

5. Čim donese delegirani akt, Komisija ga istodobno priopćuje Europskom parlamentu i Vijeću.

 

6. Delegirani akt donesen na temelju članka 7. stavaka 3. i 4. stupa na snagu samo ako Europski parlament ili Vijeće u roku od tri mjeseca od obavješćivanja Europskog parlamenta i Vijeća o tom aktu na njega ne ulože nikakav prigovor ili ako su prije isteka tog roka i Europski parlament i Vijeće obavijestili Komisiju da neće uložiti prigovore. Taj se rok produljuje za tri mjeseca na inicijativu Europskog parlamenta ili Vijeća.

 

Članak 22.

Izmjena Direktive (EU) br. 2019/1937

 

Direktiva (EU) 2019/1937 mijenja se kako slijedi:

 

(1) u članku 2. stavku 1. dodaje se sljedeća točka:

 

„xi. razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija;”

 

(2) u dijelu I. Priloga dodaje se sljedeća točka:

 

„K. Članak 2. stavak 1. točka (a) podtočka xi. razvoj, uvođenje i upotreba umjetne inteligencije, robotike i s njima povezanih tehnologija.ˮ

 

„Uredba [XXX] Europskog parlamenta i Vijeća o etičkim načelima za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija.”

Članak 23.

Preispitivanje

Komisija redovito preispituje razvoj umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode, te do [SL: unijeti datum tri godine nakon stupanja na snagu] i zatim svake tri godine Europskom parlamentu, Vijeću te Gospodarskom i socijalnom odboru podnosi izvješće o primjeni ove Uredbe, uključujući procjenu mogućnosti da se izmijeni njezino područje primjene.

Članak 24.

Stupanje na snagu

1. Ova Uredba stupa na snagu dvadesetog dana od dana objave u Službenom listu Europske unije. Primjenjuje se od XX.

2. Ova je Uredba u cijelosti obvezujuća i izravno se primjenjuje u državama članicama u skladu s Ugovorom o Europskoj uniji.

Ova je Uredba u cijelosti obvezujuća i izravno se primjenjuje u svim državama članicama.

 

PRILOG

 

Iscrpan i kumulativni popis visokorizičnih sektora i visokorizičnih uporaba ili namjena koje uključuju rizik od kršenja temeljnih prava i sigurnosnih pravila.

 

Visokorizični sektori

• Zapošljavanje • Obrazovanje. • Zdravstvena skrb • Promet • Energetika • Javni sektor (azil, migracije, granične kontrole, pravosuđe i usluge socijalne sigurnosti) • Obrana i sigurnost • Financije, bankarstvo, osiguranje

Visokorizične uporabe ili svrhe

• Zapošljavanje • Ocjenjivanje učenika • Dodjela javnih sredstava • Odobravanje zajmova • Trgovanje, posredovanje, oporezivanje itd. • Liječenje i medicinski postupci • Izborni procesi i političke kampanje • Odluke javnog sektora koje imaju znatan i izravan učinak na prava i obveze fizičkih ili pravnih osoba • Automatizirana vožnja • Upravljanje prometom • Autonomni vojni sustavi • Proizvodnja i distribucija energije • Gospodarenje otpadom • Kontrola emisija

 

OBRAZLOŽENJE

 

U filmu Blade Runner iz 1982. Rachael, „replikant” koji radi za poduzeće koje proizvodi druge replikante – čuvstvene humanoidne robote – kaže Deckardu, lovcu na glave čiji je posao eliminirati odmetnute replikante:

 

– „Čini se da mislite da naš rad ne donosi korist društvu.”

 

Deckard odgovara:

 

– „Replikanti su kao i svi drugi strojevi – korist ili opasnost. Ako su korist, to nije moj problem.”

 

Korist i opasnosti

Masovna ugradnja umjetne inteligencije u sve strojeve s kojima komuniciramo u javnosti, na radnom mjestu i u društvu značit će – već znači – temeljitu tehnološku promjenu usporedivu samo s preobrazbom koju je u prošlosti donijela industrijska revolucija. Život više nikada neće biti isti te će doći do korjenitih promjena na tržištu rada, u odnosima ljudi s javnim tijelima, u osobnim odnosima, pa čak i u kućnom okruženju – razmislite o tome što zapravo znači „internet stvari” u svim uređajima u našim domovima. Temeljita tehnološka promjena takve veličine dovodi nas u dilemu koju spominje Blade Runner: svaka tehnologija donosi koristi i opasnosti. A kada postavljamo pitanje o umjetnoj inteligenciji, govorimo o koristima i/ili opasnostima u mjeri koja je prethodno bila nezamisliva, s obzirom na njezinu inherentnu moć.

 

Uloga EU-a u uspostavi pravnog okvira

 

Međutim, kada se javne uprave uhvate u koštac s tom pojavom, ne možemo usvojiti Deckardov profesionalni cinicizm. Za Europski parlament jednako je važno iskoristiti potencijalne prednosti tih tehnologija za dobrobit i konkurentnost Europe kao i pratiti njihove inherentne rizike ili sprječavati posljedice bilo kojeg od tih rizika. Stoga želimo biti predvodnici u zakonskom uspostavljanju etičkog praga koji štiti europske građane od mogućih nedostataka tog tehnološkog pomaka i pruža dodanu vrijednost u pogledu povjerenja u europsku umjetnu inteligenciju u cijelom svijetu. Riječ je o etičkom pragu koji je u skladu s našim europskim načelima i vrijednostima sadržanima u Povelji Europske unije o temeljnim pravima i potpuno u skladu s civilizacijskom misijom našeg projekta. Naša se regulativa mora temeljiti na humanističkom pristupu tehnološkom razvoju usmjerenom na čovjeka. To je skup pravila koji se ne primjenjuju samo na umjetnu inteligenciju razvijenu u Europi, već predstavlja i zahtjevan regulatorni imperativ za sve koji namjeravaju djelovati u EU-u.

 

Ključno je da se tako utvrđena prava i obveze dijele u svim državama članicama Europske unije. Niz nacionalnih propisa bez zajedničkog mjerila mogao bi značiti raspad jedinstvenog tržišta i potkopati naše zajedničke napore za postizanje tehnološkog vodstva u svijetu. Osnivanje europske agencije odgovorne za nadzor razvoja ove Uredbe dovest će do usklađivanja pravnih i tehničkih okvira razvijenih u svakoj državi članici.

 

Fleksibilna Uredba okrenuta prema budućnosti

 

Kao odgovor onima koji zagovaraju napuštanje samoregulacije ovog sektora, početni dijalog također može poslužiti kao primjer potrebe za uključivanjem javnosti u cilju postizanja ciljeva koji nadilaze puku gospodarsku profitabilnost: Europske javne institucije moraju nastojati izbjeći diskriminaciju (bez obzira na njezinu osnovu) u postupku donošenja odluka i iskoristiti potencijal tih tehnologija za promjene kako bi se, među ostalim ciljevima, napredovalo prema pravednijem i ekološki održivijem društvu, s posebnim naglaskom na uklanjanju rodno uvjetovane diskriminacije. U tekstu se europskim javnim tijelima daju izričiti mandati za rješavanje tih pitanja.

 

Ovom se Uredbom također nastoji kombinirati vrlo ambiciozan skup zahtjeva s regulatornom jednostavnošću, izbjegavajući nametanje složenih regulatornih sustava i/ili velikih birokratskih opterećenja za uključene subjekte. Njime se također nastoji uspostaviti dovoljno fleksibilan okvir kako bi se uzeo u obzir napredak u okviru situacije koja se neprestano mijenja, uz istodobno omogućavanje razvojnih pravila u tom sektoru koja će oblikovati sve konkretnije okolnosti.

 

Sveobuhvatan pristup, uključujući uspostavu nacionalnih nadzornih tijela

 

Cilj je ove Uredbe proširiti nadzor na sva područja vrlo složene tehnologije. Uključuje odredbe o razvoju, provedbi i evoluciji tehnologije putem strojnog učenja ili dubokog učenja. Poseban naglasak stavlja se na prevenciju kada se radi o tehnologijama koje su definirane kao „visokorizične”, to jest tehnologijama za koje je vrlo vjerojatno da će uzrokovati negativne vanjske učinke i/ili onima koje traže upotrebu osjetljivih materijala koji zahtijevaju posebnu zaštitu (koje su također definirane u Uredbi). Njome se uređuju i vrlo osjetljiva pitanja individualnih prava i tehnologije daljinskog prepoznavanja, čime se uspostavljaju mnoge zaštitne mjere za njihovu upotrebu. Utvrđen je i vrlo strog privremeni materijalni okvir za iznimne okolnosti kako bi ga javna tijela mogla koristiti u slučaju izvanrednih situacija velikih razmjera.

 

Drugi je cilj Uredbe potaknuti sve građane, posebno osobe i skupine koje su najviše uključene u te tehnologije ili na koje one utječu, da sudjeluju u oblikovanju, razvoju, kontroli i nadzoru tog regulatornog okvira. U tekstu se utvrđuje mandat, koji je izričito naveden, za sva nacionalna nadzorna tijela, čime se osigurava potrebna i stalna potpora civilnog društva. Slično tome, njome se utvrđuju ambiciozni zahtjevi u pogledu transparentnosti i odgovornosti za dizajnere, operatere i korisnike umjetne inteligencije. Također su obuhvaćene i obveze za korisnike da se ponašaju u skladu s građanskom dužnošću te potreba da se osigura da se koriste tehnologijama u dobroj vjeri.

 

Razumljivost, transparentnost, odgovornost, nadležnost i upravljanje

 

Još smo daleko od razvoja algoritma koji može dovesti do „psihopovijesti”, izmišljene znanosti u serijalu romana Isaaca Asimova „Zaklada”. Čini se da koncept slobodne volje, neotuđive značajke čovječanstva, trenutačno nije u opasnosti. To je i dalje slučaj, iako je u pitanju u biti predviđanje velikih povijesnih događaja. Naša demokratska tijela morat će osigurati da sve odluke, velike i male, donesene uz pomoć tehnologija umjetne inteligencije ne budu rezultat nejasnih i nedostupnih matematičkih formula. Razumljivost, transparentnost, odgovornost i nadležnost bit će neizostavne značajke umjetne inteligencije koja se razvija i upotrebljava u Europskoj uniji.

 

Ukratko, Europska unija mora biti područje koje održava nužnu ravnotežu između zaštite prava građana i poticanja tehnološkog razvoja. Naša Uredba i način na koji je primjenjuju nadzorno tijelo ili nadzorna tijela moraju biti primjer ostatku svijeta i prvi korak prema osiguravanju odgovarajućeg upravljanja tom pojavom na globalnoj razini.

 

 

 

 

 

MIŠLJENJE ODBORA ZA VANJSKE POSLOVE (24.6.2020)

upućeno Odboru za pravna pitanja

s preporukama Komisiji o okviru za etičke aspekte umjetne inteligencije, robotike i povezanih tehnologija

(2020/2012(INL))

Izvjestitelj za mišljenje (*): Urmas Paet(*) Pridruženi odbor – članak 57. Poslovnika

(Inicijativa – članak 47. Poslovnika)

 

 

PRIJEDLOZI

Odbor za vanjske poslove poziva Odbor za pravna pitanje da kao nadležni odbor:

– u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

1. ističe da se Europska unija i njezine države članice u svojim sigurnosnim i obrambenim politikama vode načelima utvrđenima u Povelji Europske unije o temeljnim pravima i u Povelji Ujedinjenih naroda te zajedničkim shvaćanjem univerzalnih vrijednosti poštivanja nepovredivosti i neotuđivosti ljudskih prava, ljudskog dostojanstva, slobode, demokracije, jednakosti i vladavine prava; naglašava da se obrambenim naporima unutar okvira Unije moraju poštovati te univerzalne vrijednosti uz istovremeno promicanje mira, sigurnosti i napretka u Europi i svijetu; mišljenja je da bi se korištenje umjetne inteligencije trebalo temeljiti na zajedničkom skupu etičkih načela tako da ono bude: odgovorno, pravično, sljedivo, pouzdano i upravljivo;

2. pozdravlja činjenicu da je na sastanku visokih ugovornih stranaka Konvencije Ujedinjenih naroda o određenom konvencionalnom oružju (CCW) 2019. podržano 11 glavnih načela za razvoj i upotrebu autonomnih oružanih sustava; žali, međutim, zbog činjenice da se nije postigao dogovor o pravno obvezujućem instrumentu kojim se regulira smrtonosno autonomno oružje (LAWS) uz učinkoviti provedbeni mehanizam; pozdravlja i podržava „Etičke smjernice za pouzdanu umjetnu inteligenciju” Komisijine Stručne skupine na visokoj razini o umjetnoj inteligenciji objavljene 9. travnja 2019. i Komisijino stajalište o smrtonosnim autonomnim oružanim sustavima; apelira na države članice da osmisle nacionalne strategije za utvrđivanje definicije i statusa smrtonosnog autonomnog oružja u smjeru sveobuhvatne strategije na razini Unije, da zajedno s Visokim predstavnikom/potpredsjednikom Unije i Vijećem potiču raspravu o smrtonosnim autonomnim oružanim sustavima u okviru Konvencije Ujedinjenih naroda o određenom konvencionalnom oružju i drugih relevantnih foruma te uspostavu međunarodnih normi za etičke i pravne parametre razvoja i korištenja potpuno autonomnih oružanih sustava, poluautonomnih oružanih sustava i smrtonosnih oružanih sustava s upravljanjem na daljinu; podsjeća u tom smislu na svoju Rezoluciju o autonomnim oružanim sustavima od 12. rujna 2018. i ponovno poziva na hitan razvoj i usvajanje zajedničkog stajališta o smrtonosnim autonomnim oružanim sustavima, međunarodnu zabranu razvoja, proizvodnje i uporabe smrtonosnih autonomnih oružanih sustava kojima se vrše napadi bez smislenog ljudskog nadzora i bez poštivanja načela ljudske intervencije, u skladu s izjavom najpoznatijih svjetskih istraživača u području umjetne inteligencije iz njihovog otvorenog pisma iz 2015.; pozdravlja sporazum Vijeća i Parlamenta o isključivanju smrtonosnog autonomnog oružja „kod kojeg nije moguća smislena ljudska kontrola nad odlukama o odabiru i korištenju u napadima” iz djelovanja financiranih u okviru Europskog fonda za obranu; smatra da se ne smiju zanemariti etički aspekti kod ostalih načina primjene umjetne inteligencije u obrani, npr. u obavještajnim, nadzornim, izviđačkim ili kiberoperacijama, te da treba obratiti osobitu pozornost na razvoj i korištenje dronova u vojnim operacijama;

3. naglašava da se europskim okvirom kojim se uređuje uporaba sustava umjetne inteligencije u obrani, kako u borbenim tako i u neborbenim situacijama, mora poštovati sve primjenjive pravne sustave, posebno međunarodno humanitarno pravo i međunarodno pravo o ljudskim pravima te da taj okvir mora biti u skladu s pravom, načelima i vrijednostima Unije; ističe da bi Unija trebala biti globalni predvodnik na putu prema uspostavi vjerodostojnog i obvezujućeg regulatornog okvira za umjetnu inteligenciju koji počiva na demokratskim vrijednostima i pristupu usmjerenom na korisnika; poziva Uniju i njezine države članice da razviju zajedničke mehanizme za brzu i temeljitu procjenu rizika i mogućnosti karakterističnih za umjetnu inteligenciju u pogledu primjene prava Unije vodeći se najboljim praksama naprednijih država članica te da prema potrebi zajamči potrebnu prilagodbu i provedbu uzimajući u obzir razlike u tehničkoj i sigurnosnoj infrastrukturi unutar Unije;

4. uviđa da bi, za razliku od obrambenih industrijskih baza, ključne inovacije u području umjetne inteligencije mogle doći iz malih država članica te bi stoga standardizirani pristup ZSOP-u trebao zajamčiti da manje države članice i MSP-ovi ne budu istisnuti; naglašava da se korištenjem skupa zajedničkih kapaciteta EU-a u području umjetne inteligencije i operativnih koncepata država članica mogu nadvladati tehnički nedostatci zbog kojih bi inače mogle biti isključene države koje nemaju relevantnu tehnologiju, znanje i iskustvo u toj industriji ili sposobnost primjene sustava umjetne inteligencije u okviru svojih ministarstava obrane;

5. naglašava da bi se zemljopisnim područjem primjene takvog okvira trebalo obuhvatiti sve sastavnice umjetne inteligencije, robotike i s njima povezanih tehnologija koje se razvijaju, primjenjuju i upotrebljavaju u Uniji, uključujući slučajeve u kojima se dio tih tehnologija možda nalazi izvan Unije ili pak nema određenu lokaciju;

6. naglašava da bi se o tehnologijama u nastajanju koje nisu obuhvaćene međunarodnim pravom trebalo prosuđivati na temelju načela humanosti i onako kako nalaže ljudska savjest; naglašava da se korištenje i etičnost sustava umjetne inteligencije u obrani moraju stalno procjenjivati u pogledu ljudskih prava, osobito ljudske sigurnosti, zdravlja i zaštite, slobode, privatnosti, integriteta i dostojanstva, te stalno nadzirati, osobito u pogledu njihovih prednosti i nedostataka, kao i učinka na zaštitu univerzalnih ljudskih prava; drži da tehnološke prednosti iz područja sustava umjetne inteligencije u obrani moraju biti popraćene i dostatnom raspravom o korištenju umjetne inteligencije, njezinu učinku na društva i zajednice te mogućim gospodarskim i društvenim koristima, dok se o rizicima povezanima s korištenjem umjetne inteligencije mora prikladno obavještavati;

7. smatra da će se trenutačne i buduće sigurnosne i obrambene aktivnosti unutar okvira Unije temeljiti na umjetnoj inteligenciji, robotici i autonomiji te povezanim tehnologijama te da bi se pouzdanim, izdržljivim i vjerodostojnim sustavom umjetne inteligencije moglo doprinijeti modernoj i učinkovitoj vojsci; stoga smatra da Unija mora preuzeti vodeću ulogu u istraživanju i razvoju sustava umjetne inteligencije u području sigurnosti obrane; vjeruje da bi korištenje aplikacija umjetne inteligencije u području sigurnosti i obrane moglo donijeti niz izravnih koristi, kao što su veća kvaliteta prikupljenih podataka, bolja informiranost o stanju, brže donošenje odluka, smanjena opasnost od kolateralne štete zahvaljujući boljem sustavu kablova, zaštita snaga na terenu te veća pouzdanost vojne opreme i stoga manja opasnost po ljude i opasnost od ljudskih žrtava; naglašava da je razvoj pouzdane umjetne inteligencije u području obrane ključan za jamčenje europske strateške autonomije u pogledu kapaciteta i operativnosti; podsjeća da sustavi umjetne inteligencije postaju i ključni elementi u borbi protiv nadolazećih sigurnosnih prijetnji, poput kibernetičkog i hibridnog ratovanja na internetu i izvan njega; istodobno naglašava sve rizike i probleme povezane s nereguliranim korištenjem umjetne inteligencije; primjećuje da bi se umjetnom inteligencijom moglo manipulirati, da bi mogla biti sklona greškama i netočnostima;

8. poziva na uspostavljanje sinergija i mreža među različitim europskim istraživačkim centrima za umjetnu inteligenciju i ostalim multilateralnim forumima, kao što su Vijeće Europe, Organizacija Ujedinjenih naroda za obrazovanje, znanost i kulturu (UNESCO), Organizacija za gospodarsku suradnju i razvitak (OECD), Svjetska trgovinska organizacija i Međunarodna telekomunikacijska unija (ITU), kako bi se uskladio njihov rad i bolje koordinirao razvoj umjetne inteligencije;

9. naglašava da je umjetna inteligencija suštinski dvojake prirode i da razvoju umjetne inteligencije u obrambenim aktivnostima pogoduje razmjena saznanja iz vojnih i civilnih tehnologija; naglašava da je umjetna inteligencija u obrambenim aktivnostima transverzalna disruptivna tehnologija čijim se razvojem mogu pružiti mogućnosti za konkurentnost i stratešku autonomiju EU-a;

10. ističe da na temelju Komunikacije Komisije od 8. travnja 2019. „Izgradnja povjerenja u antropocentričnu umjetnu inteligenciju“, sukladno kojoj se tehnologijom u potpunosti poštuje ljudska prava, a ljudi zadržavaju autoritet nad automatiziranim sustavima odlučivanja uz nadopunu i podršku ljudskoj autonomiji i odlučivanju, Unija treba čvrst regulatorni okvir za umjetnu inteligenciju koji je usredotočen na sigurnost i obranu uz poštivanje odgovornosti i transparentnosti, zaštitu naših građana i njihovih podataka, obranu naših vrijednosti, politike usmjerene na očuvanje mira, sprječavanje sukoba i jačanje međunarodne sigurnosti te iskorištavanje prilika koje spomenute tehnologiju nude, kao i osviještenost o sustavima podržanima umjetnom inteligencijom kao ključnoj sastavnici budućeg razvoja u obrani i obrambenim kapacitetima;

11. poziva države članice i Europsku komisiju da zajamče da algoritmi koji se koriste u obrambenim sustavima istodobno osiguravaju nužnu povjerljivost i budu uređeni prema načelu transparentnosti, uključujući jasan sustav odgovornosti za rezultate korištenja umjetne inteligencije; naglašava da se ti algoritmi moraju stalno prilagođavati napretku tehnologija umjetne inteligencije:

12. ističe da Unija mora biti predvodnik u podršci multilateralnim nastojanjima u okviru Konvencije Ujedinjenih naroda o određenom konvencionalnom oružju (UN CCW) i ostalih relevantnih foruma, u raspravi o učinkovitom međunarodnom regulatornom okviru kojim se jamči smislena ljudska kontrola nad autonomnim oružanim sustavima u svrhu ovladavanja tim tehnologijama uspostavom dobro definiranih postupaka za njihovu uporabu na temelju referentnih vrijednosti, u razumijevanju povezanih etičkih aspekata, u ograničavanju rizika karakterističnih za te tehnologije i u sprječavanju njihovog korištenja u zlonamjerne svrhe; to se posebno odnosi na neželjenu štetu osobama, bilo materijalnu ili nematerijalnu, kao što je kršenje temeljnih prava ili ozljeđivanje; Unija mora zajedno s državama članicama odrediti odgovarajuće sustave odgovornosti primjenjive na inovacije u umjetnoj inteligenciji i ostale imerzivne tehnologije u području sigurnosti i obrane te tako uspostaviti pravnu osnovu za mehanizme odgovornosti i praćenja; ističe da zakonodavstvo i normativni okviri Unije ne smiju zaostajati za budućim tehnološkim napretkom i napretkom u umjetnoj inteligenciji i novim metodama ratovanja te ih se mora podržati smislenim programima praćenja koji se moraju stalno prilagođavati kako bi se uklonile pravne rupe ili siva područja; ističe da bi se daljnjim istraživanjem i razvojem umjetne inteligencije moralo osigurati da sustavi podržani umjetnom inteligencijom budu bolje osposobljeni za razumijevanje jedinstvenog konteksta;

13. odobrava ključni princip „integrirane etike”, prema kojem se od samog početka postupka izrade proizvoda i usluga podržanih umjetnom inteligencijom u njih ugrađuju etička načela;

14. podsjeća da je većina trenutačnih svjetskih vojnih sila već poduzela znatne napore u pogledu istraživanja i razvoja povezanih s vojnom dimenzijom umjetne inteligencije; smatra da EU mora uložiti napore da ne zaostane u tom pogledu; naglašava da bi za bilo koju primjenu sustava podržanih umjetnom inteligencijom Unija trebala utvrditi tehničke i organizacijske standarde, sukladno načelu integrirane sigurnosti koji uključuje određeni ljudski nadzor, kako bi zajamčila otpornost tih sustava na izloženost vanjskim napadima, kibernetičkim napadima i digitalnom utjecaju na podatke, model ili temeljnu infrastrukturu, kako softversku tako i hardversku, te zajamčila njihovu usklađenost s najvišim mogućim standardima pouzdanosti u pogledu prikupljanja, čuvanja i iskorištavanja operativnih podataka tijekom cijelog životnog ciklusa sustava; naglašava važnost transparentnosti i odgovornosti u pogledu algoritama umjetne inteligencije; napominje da postoji bitna razlika između transparentnosti algoritama i transparentnosti uporabe algoritama; sustavi umjetne inteligencije i njezine primjene čija je namjena izvlačenje i sinteza podataka te posljedičnog dobivanja rezultata u svrhu donošenja argumentiranih odluka o pitanjima povezanima s obranom i nacionalnom sigurnosti moraju imati točno određeno područje primjene i biti usklađeni s odredbama utvrđenima u trenutačnom regulatornom okviru koje se tiču prikupljanja i obrade podataka; ističe da bi primjena umjetne inteligencije čija je namjena obrada podataka za potrebe obavještajnih službi u obrambenim aktivnostima trebala biti u skladu sa standardima obrade podataka kako bi se izbjegli rizici od neželjenog nadzora ili povrede prava pojedinca; smatra da Unija mora zajamčiti zaštitu prava pojedinaca te pravičan i proporcionalan razvoj i korištenje visokorizičnih primjena tehnologija podržanih umjetnom inteligencijom, poput prepoznavanja lica, kojima nedostaje utvrđeni regulatorni okvir na razini EU-a; ističe da nadležna nacionalna tijela za provedbu zakona moraju poštivati primjenjivo zakonodavstvo pri razvoju i korištenju sustava i tehnologija podržanih umjetnom inteligencijom koji se koriste za održavanje javnog reda i mira kako bi se umanjili nerazmjerni rizici povezani s prognostičkim policijskim aktivnostima; uviđa da je NATO glavni jamac euroatlantske sigurnosti i poziva na povećanu suradnju unutar NATO-a kako bi se uspostavili zajednički standardi i međudjelovanje sustava umjetne inteligencije u obrani; naglašava da su transatlantski odnosi ključni za očuvanje zajedničkih vrijednosti i borbu protiv budućih i nadolazećih prijetnji;

15. ističe potrebu za usvajanjem jasnih odredbi o pouzdanosti, sigurnosti i zaštiti te zahtjeva za sustave umjetne inteligencije u sigurnosti i obrani, za uvođenjem kriterija transparentnosti u različitim fazama, tj. tijekom projektiranja, proizvodnje i korištenja, te za provedbom redovitih ispitivanja i provjera tijekom cijelog životnog ciklusa; naglašava potrebu za jamčenjem usklađenosti s primjenjivim standardima i dobivenim certifikatima u slučajevima kada umjetna inteligencija mijenja funkcionalnost i ponašanje sustava u koje je integrirana, na primjer pomoću strojnog učenja, kako bi se osigurala potpuna sljedivost, objašnjivost i odgovornost u pogledu odluka donesenih uz korištenje umjetne inteligencije i njihovih posljedica te smislena ljudska kontrola u slučajevima kad bi takvi sustavi mogli dovesti do smrti ljudi;

16. poziva Komisiju da uključi izgradnju kapaciteta u području kibersigurnosti u svoju industrijsku politiku kako bi se osigurao razvoj i primjena sigurnih, otpornih i izdržljivih sustava podržanih umjetnih inteligencijom i robotskih sustava; poziva Komisiju da razmotri korištenje i primjenu kibersigurnosti koja počiva na tehnologiji lanca blokova kako bi se ojačala otpornost, pouzdanost i stabilnost infrastruktura za umjetnu inteligenciju pomoću modela za šifriranje podataka bez posrednika; potiče europske dionike da istraže i razviju napredne značajke koje bi olakšale otkrivanje pokvarenih i zlonamjernih sustava podržanih umjetnom inteligencijom i robotskih sustava koji bi mogli ugroziti sigurnost Unije i njezinih građana;

17. naglašava da svi sustavi umjetne inteligencije u obrani moraju imati konkretan i dobro definiran okvir misije te da ljudi moraju zadržati mogućnost otkrivanja i isključivanja ili deaktiviranja onih korištenih sustava koji počnu djelovati izvan okvira misije koje je utvrdio i dodijelio čovjek ili na eskalirajući ili neželjeni način; smatra da bi sustavi podržani umjetnom inteligencijom, proizvodi i tehnologija koji su namijenjeni vojnoj uporabi trebali biti opremljeni „crnom kutijomˮ koja bi bilježila svaki prijenos podataka koji je obavio stroj;

18. ističe da se cjelokupna nadležnost i odgovornost za donošenje odluke o izradi, razvoju, primjeni i uporabi sustava umjetne inteligencije mora temeljiti na ljudskom upravljanju jer mora postojati značajan ljudski nadzor i kontrola nad bilo kojim oružanim sustavom te postojati ljudska namjera kod donošenja odluke o uporabi sile kada se oružjem podržanim umjetnom inteligencijom izvršava odluka koja bi mogla imati smrtonosne posljedice; naglašava da bi trebala i dalje biti prisutna ljudska kontrola nad upravljanjem i nadzorom sustava podržanih umjetnom inteligencijom, u skladu s načelima na razini vojnog vodstva za autonomne sustave gdje čovjek može preuzeti kontrolu, sustave pod stalnom ljudskom kontrolom i sustave kojima upravlja isključivo čovjek; naglašava da se vojnom vodstvu za izvršenje smrtonosnih ili razaračkih mjera velikog opsega u okviru sustava podržanih umjetnom inteligencijom mora omogućiti cjelovita nadležnost i odgovornost za uporabu smrtonosne sile te potrebna razina prosudbe koju strojevi ne mogu imati jer se takva prosudba mora temeljiti na razlikovanju, proporcionalnosti i predostrožnosti; ističe potrebu za uspostavom jasnih i sljedivih okvira autorizacije i odgovornosti za korištenje pametnog oružja i drugih sustava podržanih umjetnom inteligencijom uz primjenu jedinstvenih korisničkih obilježja poput biometrijskih specifikacija kako bi korištenje bilo omogućeno isključivo ovlaštenom osoblju;

19. poziva Komisiju na suradnju s nadležnim nacionalnim tijelima država članica i drugim dionicima koji sudjeluju u razvoju i korištenju sustava, proizvoda i tehnologija podržanih umjetnom inteligencijom kako bi se uspostavio siguran, zaštićen i izdržljiv okvir u kojem se dijele, prate i provjeravaju izvorni kodovi sustava podržanih umjetnom inteligencijom kako bi se smanjila moguća odstupanja od vodećih načela i etičkog okvira na kojem se temelji tehnologija umjetne inteligencije u području sigurnosti i obrane; predlaže Komisiji da EU zadrži intelektualno vlasništvo nad istraživanjima financiranim sredstvima EU-a o sustavima, proizvodima i tehnologijama koji se temelje na umjetnoj inteligenciji u sigurnosti i obrani;

20. ističe da Unija suradnjom s vojnim dužnosnicima mora promicati bolje razumijevanje vojnih posljedica prednosti, mana i mogućnosti umjetne inteligencije, robotskih sustava i autonomnih funkcija i značajki, među ostalim potencijala za europsku obrambenu industriju; smatra da Unija treba promicati stjecanje potrebnih vještina i znanja o procesima razvoja tehnologije i operativnim metodama u cijelom opskrbnom lancu te tijekom cijelog životnog ciklusa vojnih kapaciteta podržanih umjetnom inteligencijom; ističe hitnu potrebu za uspostavom veće europske strateške i tehnološke neovisnosti u području sustava podržanih umjetnom inteligencijom, uključujući ključnu infrastrukturu na kojoj to počiva;

21. smatra da je potrebna pojačana suradnja država članica i Komisije kako bi se zajamčila usklađenost prekograničnih pravila u Uniji u cilju poticanja suradnje među europskim industrijama te omogućavanja razvoja i uvođenja tehnologija podržanih umjetnom inteligencijom u skladu s propisanim standardima sigurnosti i zaštite i etičkim okvirom kojim se uređuje razvoj i korištenje tehnologije umjetne inteligencije;

22. uviđa da bi u današnjem kontekstu hibridnog i naprednog ratovanja količina i brzina prijenosa informacija tijekom ranih faza krize mogle preopteretiti analitičare i da bi te informacije mogao obraditi sustav umjetne inteligencije kako bi se donositeljima odluka osigurao puni raspon informacija unutar prikladnog vremenskog okvira radi mogućnosti brzog reagiranja;

23. ističe važnost ulaganja u razvoj ljudskog kapitala za umjetnu inteligenciju, razvijanje potrebnih vještina i poticanje obrazovanja u područjima umjetne inteligencije za obranu i sigurnost s naročitim naglaskom na etičnost poluautonomnih i autonomnih operativnih sustava koji počivaju na ljudskoj odgovornosti u svijetu podržanom umjetnom inteligencijom; osobito naglašava važnost toga da se etičarima specijalizirani za to polje zajamči odgovarajuća obuka i stjecanje prikladnih vještina; poziva Komisiju da što prije predstavi izvješće „Plan za osnaživanje vještinaˮ najavljeno u Bijeloj knjizi o umjetnoj inteligenciji 19. veljače 2020.;

24. ističe da bi kvantno računalstvo moglo predstavljati najrevolucionarniju promjenu u ratovanju od pojave atomskog oružja i stoga poziva Uniju i države članice da razvijanje tehnologija kvantnog računalstva učine prioritetom; uviđa da će činovi agresije, uključujući napade na kritičnu infrastrukturu, uz pomoć kvantnog računalstva stvoriti ratno okruženje u kojem će vrijeme za donošenje odluka biti drastično skraćeno s dana i sati na minute i sekunde, što će natjerati države članice da razviju mogućnosti zaštite i da osposobe svoje donositelje odluka i vojno osoblje da učinkovito odgovaraju unutar takvih vremenskih okvira;

25. naglašava potrebu da se prevlada trenutačna fragmentacija unutar Unije u pogledu nacionalnog prava povezanog s umjetnom inteligencijom, istraživanja, inovacija i stručnog znanja u području umjetne inteligencije, kojim se ugrožava funkcioniranje unutarnjeg tržišta i cilj osiguravanja pouzdanog i sigurnog razvoja umjetne inteligencije u Europi; u tom pogledu pozdravlja uključivanje projekata povezanih s umjetnom inteligencijom u okviru Europskog programa industrijskog razvoja u području obrane (EDIDP); vjeruje da budući Europski fond za obranu (EDF) i stalna strukturirana suradnja (PESCO) također nude dobro prilagođene okvire za buduće projekte povezane s umjetnom inteligencijom kojima bi se pomoglo boljoj koordinaciji napora Unije u tom području i istovremeno promicao cilj EU-a povezan s jačanjem ljudskih prava, međunarodnog prava i multilateralnih rješenja; ističe da bi projekte povezane s umjetnom inteligencijom trebalo uskladiti sa širim civilnim programima EU-a posvećenima umjetnoj inteligenciji; napominje da bi u skladu s Bijelom knjigom Europske komisije o umjetnoj inteligenciji centri za izvrsnost i testiranje usmjereni na istraživanje i razvoj umjetne inteligencije u području sigurnosti i obrane trebali biti uspostavljeni uz stroge specifikacije o sudjelovanju i ulaganju privatnih dionika;

26. ističe da Europska unija treba težiti strateškoj otpornosti kako više nikad ne bi bila nepripremljena u vrijeme krize i naglašava da je to od ključne važnosti, posebno u pogledu umjetne inteligencije i njezine primjene u obrani i sigurnosti; naglašava da bi opskrbne lance za sustave umjetne inteligencije u obrani i sigurnosti koji mogu dovesti do tehnološke ovisnosti trebalo nanovo prilagoditi i da bi takvu ovisnost trebalo postupno ukloniti; poziva na povećanje ulaganja u europsku umjetnu inteligenciju za obranu i u kritičnu infrastrukturu koja je podržava;

27. naglašava da razvoj umjetne inteligencije kojom se poštuju temeljna prava i podupire javni interes zahtijeva strateško udruživanje i dijeljenje podataka unutar EU-a između privatnih i javnih subjekata te ojačavanje ekosustava umjetne inteligencije EU-a, koji uključuje javne i privatne dionike i dionike civilnog društva; poziva Europsku komisiju da potiče dijalog država članica, istraživača, pripadnika akademske zajednice, aktera civilnog društva i privatnog sektora, osobito vodećih trgovačkih društava i poduzeća, kako bi procesi donošenja politika za propise u pogledu umjetne inteligencije povezane s obranom bili uključivi te kako bi se potencijal umjetne inteligencije iskoristio u najvećoj mogućoj mjeri uz razvijanje boljeg razumijevanja rizika i pogodnosti i jamčenje najveće moguće operativne sigurnosti;

28. naglašava da bi u kontekstu rasplamsanog rata dezinformacijama, na koji osobito potiču akteri izvan Europe, tehnologija umjetne inteligencije mogla imati etički štetne učinke zbog zlonamjerne uporabe predrasuda u podacima i algoritmima ili namjernom izmjenom podataka za učenje od strane trećih zemalja te bi mogla biti izložena drugim oblicima opasne i štetne manipulacije na nepredvidive načine i s nesagledivim posljedicama; stoga postoji povećana potreba da EU nastavi ulagati u istraživanje, analizu, inovacije i prekogranično i međusektorsko prenošenje znanja u cilju razvoja tehnologije umjetne inteligencije koja ne bi ni na kakav način profilirala, imala predrasude ili diskriminirala te bi se njome učinkovito pridonijelo borbi protiv lažnih vijesti i dezinformacija uz istovremeno poštovanje privatnosti podataka i europskog pravnog okvira;

29. naglašava važnost izrade etičkog kodeksa ponašanja na kojem bi se temeljila primjena oružanih sustava podržanih umjetnom inteligencijom u vojnim operacijama, slično postojećem regulatornom okviru kojim se zabranjuje primjena kemijskog i biološkog oružja; mišljenja je da bi Komisija trebala pokrenuti izradu standarda za uporabu oružanih sustava podržanih umjetnom inteligencijom u ratovanju u skladu s međunarodnim humanitarnim pravom te da bi Unija trebala uložiti napore da se takvi standardi usvoje na međunarodnoj razini; smatra da bi se Unija trebala uključiti u diplomatske aktivnosti povezane s umjetnom inteligencijom na međunarodnim forumima s partnerima sličnog razmišljanja kao što su OECD i skupine G7 i G20;

30. prima na znanje Bijelu knjigu Europske komisije o umjetnoj inteligenciji od 19. veljače 2020. i žali što nisu uzeti u obzir vojni aspekti; poziva Europsku komisiju i potpredsjednika Komisije/Visokog predstavnika Unije za vanjske poslove i sigurnosnu politiku da predstave, također kao dio sveobuhvatnog pristupa, sektorsku strategiju u pogledu umjetne inteligencije za aktivnosti obrane unutar okvira Unije kojom se osigurava poštovanje prava građana i strateških interesa EU-a i koja se temelji na dosljednom regulatorom pristupu koji obuhvaća kako uvođenje sustava podržanih umjetnom inteligencijom tako i njihovo korištenje u vojne svrhe, te da osnuju radnu skupinu za sigurnost i obranu unutar stručne skupine za umjetnu inteligenciju na visokoj razini koja bi se trebala baviti pitanjima politike i ulaganja, kao i etičkim aspektima umjetne inteligencije u sigurnosti i obrani; poziva Vijeće, Komisiju i potpredsjednika Komisije/Visokog predstavnika da u tu svrhu započnu strukturirani dijalog s Europskim parlamentom.

 

 

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	22.6.2020
Rezultat konačnog glasovanja	+: –: 0:	60 7 2
Zastupnici nazočni na konačnom glasovanju	Alviina Alametsä, Maria Arena, Petras Auštrevičius, Traian Băsescu, Lars Patrick Berg, Anna Bonfrisco, Reinhard Bütikofer, Fabio Massimo Castaldo, Susanna Ceccardi, Włodzimierz Cimoszewicz, Katalin Cseh, Tanja Fajon, Anna Fotyga, Michael Gahler, Kinga Gál, Sunčana Glavak, Raphaël Glucksmann, Klemen Grošelj, Bernard Guetta, Márton Gyöngyösi, Sandra Kalniete, Karol Karski, Dietmar Köster, Stelios Kouloglou, Andrius Kubilius, Ilhan Kyuchyuk, David Lega, Miriam Lexmann, Nathalie Loiseau, Antonio López-Istúriz White, Claudiu Manda, Lukas Mandl, Thierry Mariani, David McAllister, Vangelis Meimarakis, Sven Mikser, Francisco José Millán Mon, Javier Nart, Gheorghe-Vlad Nistor, Urmas Paet, Kostas Papadakis, Tonino Picula, Manu Pineda, Kati Piri, Giuliano Pisapia, Diana Riba i Giner, María Soraya Rodríguez Ramos, Nacho Sánchez Amor, Isabel Santos, Jacek Saryusz-Wolski, Andreas Schieder, Radosław Sikorski, Sergei Stanishev, Tineke Strik, Hermann Tertsch, Hilde Vautmans, Harald Vilimsky, Idoia Villanueva Ruiz, Thomas Waitz, Witold Jan Waszczykowski, Charlie Weimers, Isabel Wiseler-Lima, Željana Zovko
Zamjenici nazočni na konačnom glasovanju	Katarina Barley, Nicolas Bay, Arnaud Danjean, Katrin Langensiepen, Hannah Neumann, Mick Wallace

 

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

60	+
EPP	Traian Băsescu, Arnaud Danjean, Michael Gahler, Kinga Gál, Sunčana Glavak, Sandra Kalniete, Andrius Kubilius, David Lega, Miriam Lexmann, Antonio López-Istúriz White, Lukas Mandl, David McAllister, Vangelis Meimarakis, Francisco José Millán Mon, Gheorghe-Vlad Nistor, Radosław Sikorski, Isabel Wiseler-Lima, Željana Zovko
S&D	Maria Arena, Katarina Barley, Włodzimierz Cimoszewicz, Tanja Fajon, Raphaël Glucksmann, Dietmar Köster, Claudiu Manda, Sven Mikser, Tonino Picula, Kati Piri, Giuliano Pisapia, Nacho Sánchez Amor, Isabel Santos, Andreas Schieder, Sergei Stanishev
RENEW	Petras Auštrevičius, Katalin Cseh, Klemen Grošelj, Bernard Guetta, Ilhan Kyuchyuk, Nathalie Loiseau, Javier Nart, Urmas Paet, María Soraya Rodríguez Ramos, Hilde Vautmans
ID	Anna Bonfrisco, Susanna Ceccardi
VERTS	Alviina Alametsä, Reinhard Bütikofer, Katrin Langensiepen, Hannah Neumann, Diana Riba i Giner, Tineke Strik, Thomas Waitz
ECR	Anna Fotyga, Karol Karski, Jacek Saryusz-Wolski, Hermann Tertsch, Witold Jan Waszczykowski, Charlie Weimers
NI	Fabio Massimo Castaldo, Márton Gyöngyösi

 

7	-
GUE	Stelios Kouloglou, Manu Pineda, Idoia Villanueva Ruiz, Mick Wallace
ID	Nicolas Bay, Thierry Mariani
NI	Kostas Papadakis

 

2	0
ID	Lars Patrick Berg, Harald Vilimsky

 

Objašnjenje korištenih znakova:

+ : za

- : protiv

0 : suzdržani

 

 

 

 

 

MIŠLJENJE ODBORA ZA UNUTARNJE TRŽIŠTE I ZAŠTITU POTROŠAČA (8.7.2020)

upućeno Odboru za pravna pitanja

s preporukama Komisiji o okviru za etičke aspekte umjetne inteligencije, robotike i povezanih tehnologija

(2020/2012(INL))

Izvjestiteljica za mišljenje: Alexandra Geese

(Inicijativa – članak 47. Poslovnika)

 

(*) Pridruženi odbor – članak 57. Poslovnika

 

PRIJEDLOZI

Odbor za unutarnje tržište i zaštitu potrošača poziva Odbor za pravna pitanja da kao nadležni odbor:

– u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

 

A. budući da su etičke smjernice, kao što su načela koja je usvojila Stručna skupina na visokoj razini za umjetnu inteligenciju, dobra polazišna točka, ali nisu dovoljne kako bi se osiguralo pravedno postupanje poduzeća i zajamčila učinkovita zaštita potrošača;

 

Područje primjene

1. naglašava da je važno da se regulatorni okvir EU-a usmjeren na etičke aspekte umjetne inteligencije, robotike i povezanih tehnologija primjenjuje kada su potrošači unutar Unije korisnici nekog algoritamskog sustava, obuhvaćeni njime ili usmjereni na njega, neovisno o tome gdje je poslovni nastan subjekata koji razvijaju, prodaju ili koriste takav sustav; nadalje, smatra da bi se u interesu pravne sigurnosti utvrđena pravila trebala primjenjivati na sve razvojne programere i u cijelom vrijednosnom lancu, što uključuje razvoj, uvođenje i upotrebu relevantnih tehnologija i njihovih sastavnih dijelova, i da bi se njima trebala zajamčiti najviša razina zaštite potrošača; ponovno ističe važnost vrijednosti Unije u pogledu važnosti zaštite osobnih podataka i izričitog informiranog pristanka koje su utvrđene Ugovorima te predlaže da se u novim pravilima uzmu u obzir iskustva stečena provedbom Uredbe (EU) br. 2016/679[19] (GDPR), koja se smatra globalnim mjerilom; smatra da je za provedbu budućeg regulatornog okvira EU-a važna uloga pravnog zastupnika s poslovnim nastanom u Uniji kojem bi se mogli uputiti zahtjevi radi, primjerice, pravne zaštite potrošača;

 

2. napominje da bi se regulatorni okvir EU-a trebao primjenjivati na algoritamske sustave, među kojima i one u području umjetne inteligencije, interneta stvari, strojnog učenja, sustava temeljenih na pravilima, automatiziranih i potpomognutih postupaka donošenja odluka i robotike; nadalje napominje da bi se mogle razviti standardizirane oznake kako bi se pomoglo potrošačima objasniti te sustave, kad god su karakteristike tih sustava složenost ili donošenje odluka koje znatno utječu na živote potrošača;

 

3. naglašava da se regulatorni okvir EU-a mora temeljiti na pristupu usmjerenom na čovjeka i dovesti do toga da europske etičke vrijednosti budu automatski integrirane u razvoj sustava; smatra da bi regulatorni okvir EU-a usmjeren na vrijednosti Unije utvrđene Ugovorima predstavljao dodanu vrijednost kojom bi se Europi pružila jedinstvena prednost u odnosu na konkurenciju i da bi se njime znatno doprinijelo dobrobiti i blagostanju građana i poduzeća Unije te ojačalo unutarnje tržište; ističe da etički okvir za umjetnu inteligenciju također predstavlja dodanu vrijednost u pogledu promicanja inovacija na unutarnjem tržištu;

 

4. ističe da se zakonodavnim okvirom uvedenim Odlukom br. 768/2008/EZ[20] predviđa usklađeni popis obveza za proizvođače, uvoznike i distributere, potiče korištenje normi i predviđa nekoliko razina kontrole ovisno o opasnosti proizvoda; smatra da bi se taj okvir trebao primjenjivati i na proizvode s ugrađenom umjetnom inteligencijom;

 

5. ističe da bi u svim budućim propisima trebalo slijediti diferenciran pristup temeljen na riziku kako bi se omogućio razvoj i uvođenje sigurnih i pouzdanih sustava, s jasnim kriterijima i pokazateljima, uz nepristranu pravnu procjenu temeljenu na ocjeni potencijalne štete i povrede prava za pojedinca i društvo u cjelini, pri čemu treba voditi računa o specifičnom kontekstu u kojem se određeni algoritamski sustav koristi; naglašava da pravne obveze i uvjeti za certifikaciju trebaju rasti postupno i u skladu s utvrđenom razinom rizika; ističe da za najnižu kategoriju rizika ne bi trebalo propisivati dodatne pravne obveze; napominje da se algoritamski sustavi koji mogu naštetiti pojedincu ili potencijalno uzrokovati povrede njegovih prava ili utjecati na njegov pristup javnim naknadama ne smatraju sustavima najniže kategorije rizika; napominje da bi se pristup temeljen na riziku trebao voditi jasnim i transparentnim pravilima te pružati dovoljnu pravnu sigurnost i istodobno biti otporan na buduće promjene; poziva na ujednačenu provedbu sustava klasifikacije rizika i povezanih pravnih obveza kako bi se osigurali jednaki uvjeti u svim državama članicama i spriječila fragmentacija unutarnjeg tržišta; ističe da se procjena rizika konkretnih sustava mora provoditi redovito;

 

6. podsjeća da bi Komisija trebala preispitati postojeći pravni okvir EU-a i njegovu primjenu, što se odnosi i na pravnu stečevinu o zaštiti potrošača te zakonodavstvo o sigurnosti proizvoda i nadzoru tržišta, kako bi se utvrdili pravni nedostaci te postojeće regulatorne obveze; smatra da je to nužno kako bi se utvrdilo može li se kroz postojeći pravni okvir EU-a odgovoriti na pojavu umjetne inteligencije, robotike i povezanih tehnologija te može li njime zajamčiti visoka razina zaštite potrošača;

 

Upravljanje podatcima

7. naglašava važnost etičkog i regulatornog okvira EU-a koji bi konkretno sadržavao odredbe kojima se zahtijeva visoka kvaliteta podataka za učenje algoritamskih sustava, s obzirom na svrhu njihove uporabe; u tom smislu ističe da je, kako bi se poboljšali rezultati algoritamskih sustava i povećalo povjerenje i prihvaćanje potrošača, potrebno zajamčiti reprezentativnost podataka korištenih za strojno učenje te uklanjanje pristranosti iz skupova podataka i standarda koji se primjenjuju na podatke i njihovu agregaciju; naglašava da bi nadležna tijela trebala moći preispitati te skupove podataka kad god se od njih zatraži da osiguraju njihovu sukladnost s prethodno izloženim načelima;

 

Zaštita potrošača: transparentnost i objašnjivost algoritama

8. naglašava da je povjerenje potrošača ključno za razvoj i provedbu umjetne inteligencije, robotike i povezanih tehnologija koje mogu sadržavati inherentne rizike ako se temelje na netransparentnim algoritmima i pristranim skupovima podataka; smatra da bi potrošači trebali imati pravo biti odgovarajuće informirani, na razumljiv, pravodoban, standardiziran, točan i pristupačan način, o postojanju, logici, mogućim rezultatima i učinku na potrošače algoritamskih sustava, o načinu na koji se može doći do ljudskog bića s ovlastima odlučivanja i o tome kako se odluke sustava mogu provjeriti, smisleno osporiti i ispraviti; podsjeća da ljudi uvijek moraju moći poništiti automatizirane odluke; smatra da bi potrošači također trebali biti zaštićeni pravom na isključivanje ili ograničavanje sustava umjetne inteligencije i korištenje, kada je to moguće, personaliziranog pristupa; naglašava da je u razvoju okvira transparentnosti važna proporcionalnost kako bi se izbjeglo stvaranje nepotrebnog opterećenja za start-upove i mala i srednja poduzeća (MSP) koja posluju u niskorizičnim sektorima;

 

9. naglašava potrebu za učinkovitim rješavanjem izazova koje predstavljaju algoritamski sustavi i osiguravanjem osnaživanja i odgovarajuće zaštite potrošača; ističe da treba ići korak dalje od tradicionalnih načela informiranja i objavljivanja na kojima je izgrađena pravna stečevina u području zaštite potrošača jer će biti potrebna snažnija prava potrošača i jasna ograničenja u pogledu razvoja i upotrebe algoritamskih sustava kako bi se zajamčilo da tehnologija doprinosi poboljšanju života potrošača i da se razvija na način kojim se poštuju temeljna i potrošačka prava te europske vrijednosti;

 

10. smatra da je pri projektiranju prijeko potreban pristup koji se temelji na vrijednostima kako bi se stvorili uvjeti za široko društveno prihvaćanje umjetne inteligencije među potrošačima; smatra da bi etičke vrijednosti pravednosti, točnosti, povjerljivosti i transparentnosti trebale biti temelj umjetne inteligencije, što u ovom kontekstu podrazumijeva da bi rad tih sustava trebao biti takav da ne može dovesti do nepravedno pristranih rezultata;

 

11. ističe važnost omogućavanja učinkovitog pravnog lijeka potrošačima i poziva države članice i nacionalna tijela za nadzor tržišta da se pobrinu za dostupnost pristupačnih, cjenovno prihvatljivih, neovisnih i učinkovitih postupaka i struktura za preispitivanje kako bi se zajamčilo nepristrano ljudsko razmatranje svih navoda o kršenjima prava potrošača koji su posljedica korištenja algoritamskih sustava, neovisno o tome dolaze li iz javnog ili privatnog sektora; poziva na to da se, u skladu s Direktivom Europskog parlamenta i Vijeća o udružnim tužbama za zaštitu kolektivnih interesa potrošača i stavljanju izvan snage Direktive 2009/22/EZ[21], stave na raspolaganje mehanizmi rješavanja sporova i kolektivne pravne zaštite kako bi se moglo osporiti uvođenje ili trajno korištenje sustava koji bi mogao kršiti prava potrošača ili ispraviti kršenje tih prava; traži od Komisije da se pobrine za to da nacionalne i europske organizacije potrošača imaju dostatna financijska sredstva za pružanje pomoći potrošačima u ostvarivanju njihova prava na pravni lijek u slučajevima u kojima se odlukama koje se temelje na primjeni umjetne inteligencije krše prava potrošača;

 

12. naglašava da bi u slučajevima u kojima su za razvoj ili primjenu algoritamskog sustava, uz otvoreni postupak javne nabave i standarde otvorenog ugovaranja, korištena javna sredstva, programski kod, generirani podaci (u onoj mjeri u kojoj to nisu podaci osobne prirode) i istrenirani model u dogovoru s razvojnim programerom automatizmom mogli biti javni, kako bi se zajamčila transparentnost, pojačala kibersigurnost i omogućila njihova ponovna uporaba u cilju poticanja inovacija; naglašava da se na taj način može osloboditi puni potencijal jedinstvenog tržišta uz izbjegavanje fragmentacije tržišta;

 

Unutarnje tržište: informiranje i podizanje svijesti potrošača

13. naglašava da je važno pobrinuti se za to da interesi potrošača, uključujući onih koji su marginalizirani ili u ranjivoj situaciji, poput osoba s invaliditetom, budu uzeti u obzir i zastupljeni u budućem regulatornom okviru EU-a; napominje da bi se, u svrhu analize učinka algoritamskih sustava na potrošače, pristup podacima mogao proširiti i na odgovarajuće subjekte, konkretno na neovisne istraživače, medije i organizacije civilnog društva, po mogućnosti putem sučelja za programiranje aplikacija (API), uz puno poštovanje zakonodavstva Unije o zaštiti podataka i privatnosti te zakonodavstva o zaštiti poslovne tajne; ističe važnost educiranja potrošača kako bi bili bolje informirani i stekli vještine u pogledu algoritamskih sustava, radi njihove zaštite od mogućih rizika i očuvanja njihovih prava; smatra da umjetna inteligencija, internet stvari i druge tehnologije u nastajanju imaju golem potencijal da potrošačima omoguće pristup pogodnostima koje bi im na različite načine mogle olakšati svakodnevnicu, bolje proizvode i usluge te ostvarivanje koristi od boljeg nadzora tržišta, pod uvjetom da se i dalje primjenjuju sva primjenjiva načela, uvjeti (uključujući transparentnost i mogućnost revizije) i propisi;

 

14. naglašava važnost postizanja visoke razine opće digitalne pismenosti i osposobljavanja visokokvalificiranih stručnjaka u ovom području te uzajamnog priznavanja takvih kvalifikacija diljem Unije; naglašava potrebu za raznolikim sastavom skupina programera i inženjera i njihovom suradnjom s ključnim društvenim akterima, kako bi se spriječilo nenamjerno uključivanje rodne i kulturne pristranosti u algoritme, sustave i aplikacije umjetne inteligencije. podržava izradu obrazovnih kurikuluma i aktivnosti za senzibilizaciju javnosti o društvenom, pravnom i etičkom učinku umjetne inteligencije;

 

15. poziva Komisiju da promiče i financira razvoj umjetne inteligencije, robotike i povezanih tehnologija usmjerenih na čovjeka kojima se rješavaju okolišni i klimatski izazovi te kojima se upotrebom različitih poticaja, od fiskalnih do onih u području javne nabave, jamči jednak pristup temeljnim pravima i njihovo uživanje;

 

16. naglašava da bi umjetna inteligencija i algoritamski sustavi trebali biti osmišljeni tako da budu pravno usklađeni, stabilni, pouzdani i sigurni; poziva Komisiju da se pobrine da regulatorni pristup Unije algoritamskim sustavima sadrži odgovarajuće mjere kako bi se omogućilo da ti sustavi podliježu neovisnoj kontroli i nadzoru;

 

Nadzor tržišta

17. poziva na uspostavu Europskog centra znanja kojim bi se pojačali kapaciteti Unije i koji bi se u najvećoj mogućoj mjeri temeljio na već postojećim strukturama, u cilju promicanja razmjene informacija o algoritamskim sustavima među nadležnim tijelima država članica i potpore razvoju zajedničkog stajališta na jedinstvenom tržištu pružanjem smjernica, mišljenja i stručnog znanja tijelima država članica, praćenjem provedbe relevantnog zakonodavstva EU-a, rješavanjem potencijalnih problema u području zaštite potrošača, utvrđivanjem standarda za najbolje prakse i, po potrebi, izdavanjem preporuka za regulatorne mjere; nadalje poziva da tu strukturu na odgovarajući način savjetuju organizacije dionika, primjerice organizacije za zaštitu potrošača, kako bi se osigurala široka zastupljenost potrošača; smatra da bi, zbog nerazmjernog učinka algoritamskih sustava na žene i manjine, na razini odlučivanja unutar takve strukture trebalo postići raznolikost i rodnu ravnotežu; naglašava da države članice u kontekstu svojih nacionalnih strategija nadzora tržišta moraju razviti strategije upravljanja rizicima u području umjetne inteligencije;

 

18. poziva Komisiju da predloži mjere za sljedivost podataka, imajući na umu i pitanje zakonitosti prikupljanja podataka i zaštitu prava potrošača i temeljnih prava; istovremeno naglašava da bi skupove podataka, algoritme i procese koji se upotrebljavaju u razvoju i uvođenju algoritamskih sustava, što se odnosi i na prikupljanje i označivanje podataka, trebalo evidentirati u skladu s priznatim normama; napominje da je od ključne važnosti da dokumentacija o procjeni rizika, dokumentacija o softveru, algoritmi i skupovi podataka koje koristi ili proizvodi umjetna inteligencija, robotika i povezane tehnologije budu dostupni i objašnjivi tijelima za nadzor tržišta, uz poštovanje zakonodavstva Unije i poslovne tajne; nadalje napominje da bi tu dokumentaciju trebali pohranjivati oni koji su uključeni u različite faze razvoja algoritamskih sustava; napominje da u tom pogledu tijelima za nadzor tržišta treba dodijeliti dodatne ovlasti; smatra da bi moglo biti potrebno preispitati postojeće zakonodavstvo o nadzoru tržišta kako ono ne bi postalo zastarjelo i kako bi se osiguralo da pruža etički odgovor na pojavu umjetne inteligencije, robotike i povezanih tehnologija;

 

19. poziva na to da svaka država članica odredi i dostatno financira nadležno nacionalno tijelo za praćenje provedbe odredbi koje se odnose na algoritamske sustave; naglašava da treba ojačati kapacitete, vještine i kompetencije nacionalnih tijela za nadzor tržišta u području umjetne inteligencije te njihova znanja o specifičnim rizicima;

 

20. poziva na snažnu koordinaciju tijela država članica i osnivanje Europskog odbora za nadzor nad tržištem algoritamskih sustava, koje bi činila nacionalna tijela, kako bi se zajamčili djelotvoran nadzor, jednaki uvjeti za sve u Europi i izbjegla fragmentacija unutarnjeg tržišta;

 

21. prima na znanje vrijedan doprinos Stručne skupine na visokoj razini o umjetnoj inteligenciji, posebno „Etičke smjernice za pouzdanu umjetnu inteligenciju”; stajališta je da bi ta skupina, sastavljena od predstavnika akademske zajednice, civilnog društva i sektora, te Europski savez za umjetnu inteligenciju mogli pružiti stručno znanje Europskom savjetodavnom odboru za nadzor nad tržištem algoritamskih sustava;

 

22. napominje da bi osobito u područjima interakcije poduzeća i potrošača sustavi trebali biti usmjereni na korisnika i projektirani tako da svima omoguće upotrebu proizvoda ili usluga umjetne inteligencije, neovisno o njihovoj dobi, spolu, sposobnostima ili karakteristikama. napominje da je posebno važno da toj tehnologiji mogu pristupiti osobe s invaliditetom;. napominje da se pri projektiranju sustava umjetne inteligencije ne bi trebalo voditi jedinstvenim pristupom, nego bi trebalo uzeti u obzir univerzalna projektna načela koja obuhvaćaju najširi mogući raspon korisnika uz poštovanje relevantnih normi o pristupačnosti; ističe da će se tako svim pojedincima omogućiti pravedan pristup i aktivno sudjelovanje u postojećim i novim ljudskim aktivnostima kojima posreduju računala te asistivnim tehnologijama.

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	7.7.2020
Rezultat konačnog glasovanja	+: –: 0:	39 1 4
Zastupnici nazočni na konačnom glasovanju	Alex Agius Saliba, Andrus Ansip, Alessandra Basso, Brando Benifei, Adam Bielan, Hynek Blaško, Biljana Borzan, Vlad-Marius Botoş, Markus Buchheit, Dita Charanzová, Deirdre Clune, David Cormand, Petra De Sutter, Carlo Fidanza, Evelyne Gebhardt, Alexandra Geese, Sandro Gozi, Maria Grapini, Svenja Hahn, Virginie Joron, Eugen Jurzyca, Arba Kokalari, Marcel Kolaja, Kateřina Konečná, Andrey Kovatchev, Jean-Lin Lacapelle, Maria-Manuel Leitão-Marques, Adriana Maldonado López, Antonius Manders, Beata Mazurek, Leszek Miller, Kris Peeters, Anne-Sophie Pelletier, Christel Schaldemose, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Kim Van Sparrentak, Marion Walsmann, Marco Zullo
Zamjenici nazočni na konačnom glasovanju	Pascal Arimont, Maria da Graça Carvalho, Edina Tóth, Stéphanie Yon-Courtin

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

39

+

EPP S&D RENEW GREENS/EFA ECR EUL/NGL NI

Pascal Arimont, Maria da Graça Carvalho, Deirdre Clune, Arba Kokalari, Andrey Kovatchev, Antonius Manders, Kris Peeters, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Edina Tóth, Marion Walsmann Alex Agius Saliba, Brando Benifei, Biljana Borzan, Evelyne Gebhardt, Maria Grapini, MariaManuel LeitãoMarques, Adriana Maldonado López, Leszek Miller, Christel Schaldemose Andrus Ansip, VladMarius Botoş, Dita Charanzová, Sandro Gozi, Svenja Hahn, Stéphanie YonCourtin David Cormand, Petra De Sutter, Alexandra Geese, Marcel Kolaja, Kimvan Sparrentak Adam Bielan, Carlo Fidanza, Eugen Jurzyca, Beata Mazurek Kateřina Konečná, AnneSophie Pelletier Marco Zullo

 

1	-
ID	Hynek Blaško

 

4	0
ID	Alessandra Basso, Markus Buchheit, Virginie Joron, JeanLin Lacapelle

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

 

 

 

MIŠLJENJE ODBORA ZA PROMET I TURIZAM (16.7.2020)

upućeno Odboru za pravna pitanja

s preporukama Komisiji o okviru za etičke aspekte umjetne inteligencije, robotike i povezanih tehnologija

(2020/2012(INL))

Izvjestitelj za mišljenje: Valter Flego

(*) Pridruženi odbor – članak 57. Poslovnika

 

 

(Inicijativa – članak 47. Poslovnika)

 

PRIJEDLOZI

Odbor za promet i turizam poziva Odbor za pravna pitanja da, kao nadležni odbor, u prijedlog rezolucije koji će usvojiti uključi sljedeće prijedloge:

A. budući da je umjetna inteligencija oblik tehnologije od strateške važnosti za prometni sektor i očekuje se da će koristiti građanima i društvu poboljšanjem kvalitete života, povećanjem sigurnosti u svim oblicima prijevoza te stvaranjem novih prilika za zapošljavanje i više održivih poslovnih modela; budući da umjetna inteligencija ima potencijal da znatno promijeni društvo, posebno ako je široko dostupna;

B. budući da se puni potencijal umjetne inteligencije u prometnom sektoru može iskoristiti samo ako korisnici budu svjesni potencijalnih prednosti i izazova koje donosi ta tehnologija; budući da je to pitanje potrebno tematizirati u području obrazovanja i osposobljavanja, uključujući u pogledu promicanja digitalne uključenosti, te provesti informativne kampanje na razini Unije kojima se točno prikazuju svi aspekti razvoja umjetne inteligencije;

C. budući da europski pristup umjetnoj inteligenciji, robotici i povezanim tehnologijama treba biti u skladu s etičkim načelima kako bi zajamčio usmjerenost umjetne inteligencije, robotike i povezanih tehnologija na čovjeka, kako bi se poboljšala ljudska dobrobit, sigurnost te dobrobit društva i okoliša, kako bi se riješile odgovarajuće etičke dileme, u potpunosti poštovala temeljna prava, vrijednosti i načela Unije te osigurala potpuna usklađenost sa zakonodavstvom Unije o zaštiti privatnosti i podataka; budući da će se tim pristupom morati riješiti i pitanja u pogledu kvalitete skupova podataka koji se upotrebljavaju u algoritamskim sustavima, kao i samih algoritama te standarda za podatke i njihovu agregaciju;

D. budući da se pouzdana umjetna inteligencija mora temeljiti na četiri etička načela: poštovanje čovjekove samostalnosti, sprječavanje štete, pravednost i objašnjivost; budući da poštovanje tih etičkih načela iziskuje donošenje posebnih pravila za prometni sektor EU-a;

E. budući da je ljudska pogreška još uvijek prisutna u oko 95 % svih prometnih nesreća u EU-u; budući da je cilj Unije bio smanjiti godišnji broj poginulih na cestama u Uniji za 50% do 2020. u usporedbi s 2010., ali je s obzirom na stagnirajući napredak ponovo počeo ulagati napore u „Okvir politike cestovne sigurnosti od 2021. do 2030. – Sljedeći koraci prema ostvarenju „Vizije nula“; budući da u tom pogledu umjetna inteligencija, automatizacija i druge nove tehnologije imaju veliki potencijal i ključnu ulogu za povećanje cestovne sigurnosti smanjenjem mogućnosti ljudske pogreške;

F. budući da umjetna inteligencija, automatizacija i druge nove tehnologije mogu doprinijeti i smanjenju prometne gužve te emisija stakleničkih plinova i onečišćivača zraka;

G. budući da je proizvodnja etički odgovorne, antropocentrične i tehnološki otporne umjetne inteligencije, robotike i povezanih tehnologija u sektoru prometa poslovna prilika za poduzeća iz Unije, uključujući MSP-ove, da postanu globalni predvodnici u tom području;

H. budući da takve nove poslovne prilike mogu pridonijeti oporavku industrije u Uniji nakon aktualne zdravstvene i gospodarske krize te većem korištenju tehnologija umjetne inteligencije u sektoru prometa; budući da će takve prilike stvoriti nova radna mjesta jer početak uvođenja umjetne inteligencije i povezanih tehnologija ima potencijal da poveća razine produktivnosti poduzeća i pridonese povećanju učinkovitosti; budući da inovacijski programi u tom području mogu omogućiti napredak regionalnih klastera;

I. budući da europski pristup razvoju umjetne inteligencije, robotike i povezanih tehnologija u prometu ima potencijal za povećanje globalne konkurentnosti i strateške autonomije gospodarstva Unije;

J. budući da se u sektorima kao što je javni prijevoz sustavi umjetne inteligencije za inteligentne prometne sustave mogu upotrebljavati kako bi se smanjilo čekanje u redovima, optimiziralo usmjeravanje, omogućila veća neovisnost osoba s invaliditetom te povećala energetska učinkovitost i tako poboljšali napori za dekarbonizaciju i smanjio ekološki otisak;

1. naglašava potencijal umjetne inteligencije, robotike i povezanih tehnologija za sve autonomne oblike cestovnog, željezničkog, vodnog i zračnog prometa, kao i za poticanje izmjene modaliteta prijevoza i intermodalnosti jer te tehnologije mogu pridonijeti pronalasku optimalne kombinacije vrsta prijevoza robe i putnika; nadalje, naglašava njihov potencijal da povećaju učinkovitost prometa, logistike i prometnih tokova i da učine sve vrste prijevoza sigurnijima, pametnijima i ekološki prihvatljivijima; ističe da se etički pristup umjetnoj inteligenciji može smatrati i sustavom ranog upozoravanja na rizike, posebno u pogledu sigurnosti i učinkovitosti prometa;

2 ističe da radi globalnog tržišnog natjecanja među poduzećima i gospodarskim regijama Unija treba promicati ulaganja i ojačati međunarodnu konkurentnost poduzeća koja posluju u prometnom sektoru uspostavljanjem okoline povoljne za razvoj i primjenu rješenja zasnovanih na umjetnoj inteligenciji i dodatnih inovacija, u kojoj poduzeća iz Unije mogu postati svjetski predvodnici u razvoju tehnologija umjetne inteligencije;

3. naglašava da je prometnom sektoru EU-a potrebno ažuriranje regulatornog okvira koji se odnosi na te nove tehnologije i njihovo korištenje u prometnom sektoru i jasan etički okvir za postizanje pouzdane umjetne inteligencije, uključujući aspekte sigurnosti, zaštite, poštovanja ljudske autonomije, nadzora i odgovornosti, koji će povećati koristi koje svi dijele te biti ključan u poticanju ulaganja u istraživanje i inovacije, razvoj vještina i početak uvođenja umjetne inteligencije u javne usluge, mala i srednja poduzeća, novoosnovana te velika poduzeća, uz istodobno osiguravanje zaštite podataka i interoperabilnosti, bez nametanja nepotrebnog administrativnog opterećenja poduzećima i potrošačima; smatra da je od ključne važnosti osigurati da se svako ažuriranje regulatornog okvira u pogledu tih tehnologija u nastajanju uvijek temelji na stvarnoj potrebi te da je u skladu s načelom bolje izrade zakonodavstva i u tom smislu

a) poziva Komisiju da uspostavi jasan okvir etičkih načela za razvoj, uvođenje i uporabu umjetne inteligencije, robotike i povezanih tehnologija u prometnom sektoru; sve vrste umjetne inteligencije, robotike i povezanih tehnologija u prometnom sektoru moraju se razvijati, primjenjivati i upotrebljavati u skladu s tim etičkim načelima;

b) preporučuje izradu smjernica za usklađenu klasifikaciju rizika tehnologija umjetne inteligencije u svim vrstama prometa, kojima se pokrivaju funkcije vozila dodijeljene čovjeku i umjetnoj inteligenciji, te pojašnjavaju odgovornosti i zahtjevi u pogledu sigurnosti;

c) poziva Komisiju da istraži upotrebu postojeće europske strukture za nadzor nad tržištem algoritamskih sustava, uključujući povezane odredbe o zaštiti podataka, koja će tijelima država članica pružati smjernice, mišljenja i stručno znanje, uključujući u pogledu interoperabilnosti;

d) poziva Komisiju da uspostavi sustav klasifikacije rizika umjetne inteligencije za inteligentne prometne sustave, u skladu s procjenama Stručne skupine na visokoj razini, kako bi se bolje odgovorilo na nove potrebe prometnog sektora;

e) poziva Komisiju da posebnu pozornost posveti položaju malih i srednjih poduzeća te da buduće zakonodavstvo osmisli tako da se poboljšaju prilike za ta poduzeća u pogledu razvoja i korištenja tehnologija umjetne inteligencije;

f) smatra da je krajnjim korisnicima potrebno pružiti detaljne informacije o radu prometnih sustava i vozila koja funkcioniraju na temelju umjetne inteligencije;

4. ističe da bi se europskim pristupom tehnologiji umjetne inteligencije trebalo steći povjerenje stanovništva, služiti javnom interesu i ojačati zajedničku društvenu odgovornost; smatra razvoj pouzdane, etički odgovorne i tehnički otporne umjetne inteligencije važnim čimbenikom održive i pametne mobilnosti koja je sigurna i dostupna; u tom pogledu, poziva Komisiju da nastavi promicati početak uvođenja umjetne inteligencije u prometni sektor i da, kako bi se osiguralo da se poštuju temeljna prava u Uniji, predloži odgovarajuće izmjene u zakonodavstvu Unije bez odgode i u bliskoj suradnji sa svim dionicima u prometnom sektoru;

5. naglašava da će se razvojem i širenjem umjetne inteligencije omogućiti sigurne i dostupne usluge prijevoza;

6. preporučuje razvoj pouzdanih standarda umjetne inteligencije na razini Unije za sve vrste prometa, uključujući automobilsku industriju, u pogledu sigurnosti, interoperabilnosti, tehničke otpornosti, mogućnosti popravka i recikliranja povezanog hardvera, uključujući rješavanje problema povezanih s učinkovitošću resursa, privatnosti, zaštitom podataka i transparentnošću te za testiranje vozila s umjetnom inteligencijom i povezanih proizvoda i usluga;

7. poziva Komisiju da blisko surađuje s državama članicama na osmišljavanju, izvršenju i provedbi pouzdanih standarda za umjetnu inteligenciju na razini Unije; napominje da Unija ima potencijal postati globalni predvodnik u promicanju društveno odgovornog i održivog pristupa tehnologiji umjetne inteligencije i njezinoj uporabi;

8. poziva Komisiju da istraži mogućnost da se jednoj ili više relevantnih postojećih agencija, institucija ili tijela na razini Unije povjere mehanizmi praćenja, provedbe i sankcioniranja te da istraži kako se postojeći instrumenti nadzora i kontrole u prometnom sektoru mogu opremiti i upotrijebiti za poduzimanje mjera kako bi se osigurao nadzor na razini Unije i omogućilo Komisiji da poduzme mjere ako se sustavom umjetne inteligencije koji se koristi u prometu krše temeljna prava ili europski etički i sigurnosni okvir;

9. poziva Komisiju da nastavi podržavati razvoj pouzdanih sustava umjetne inteligencije kako bi se omogućio sigurniji, učinkovitiji, dostupniji, povoljniji i uključiviji promet, među ostalim za osobe sa smanjenom pokretljivošću, posebno osobe s invaliditetom, uzimajući u obzir Direktivu (EU) 2019/882 Europskog parlamenta i Vijeća[22] te pravom Unije o pravima putnika;

10. usmjerava pozornost na visoku dodanu vrijednost koju autonomna vozila pružaju osobama sa smanjenom pokretljivošću jer im takva vozila omogućuju učinkovitije sudjelovanje u individualnom cestovnom prijevozu i tako olakšavaju njihove svakodnevne živote;

 

11. naglašava važnost pristupačnosti, posebno pri osmišljavanju sustava MaaS (mobilnost kao usluga);

 

12. naglašava ključnu važnost podatkovne znanosti u osmišljavanju sustava umjetne inteligencije bez diskriminacije i sprječavanju uporabe oštećenih podataka; nadalje, preporučuje da se slijede postupci za obradu podataka u skladu s Općom uredbom o zaštiti podataka te da se poštuju načela povjerljivosti i nediskriminacije;

 

13. napominje da bi sustavi umjetne inteligencije mogli pridonijeti znatnom smanjenju broja poginulih na cestama, na primjer kraćim vremenom reakcije i boljim pridržavanjem pravila; međutim, smatra da uporaba autonomnih vozila neće moći dovesti do uklanjanja svih nesreća i ističe da je zbog toga objašnjivost odluka o umjetnoj inteligenciji sve važnija kako bi se opravdali nedostaci i neželjene posljedice odluka o umjetnoj inteligenciji;

 

14. smatra da uvijek mora biti moguće krajnjim korisnicima i drugim dionicima na razumljiv način objasniti odluke o umjetnoj inteligenciji i bilo koje relevantne podatke na kojima se te odluke temelje;

 

15. napominje da razvoj i provedba umjetne inteligencije u prometnom sektoru neće biti mogući bez moderne infrastrukture koja je ključan dio inteligentnih prometnih sustava; naglašava da stalne razlike u stupnju razvoja među državama članicama stvaraju rizik od toga da najmanje razvijene regije i njihovi stanovnici budu uskraćeni za prednosti koje donosi razvoj autonomne mobilnosti; poziva na procjenu izazova za budućnost tržišta rada zbog razvoja tehnologija umjetne inteligencije u prometnom sektoru te na odgovarajuće financiranu modernizaciju infrastrukture u Uniji, uključujući njezinu integraciju u mrežu 5G.

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	14.7.2020
Rezultat konačnog glasovanja	+: –: 0:	49 0 0
Zastupnici nazočni na konačnom glasovanju	Magdalena Adamowicz, Andris Ameriks, José Ramón Bauzá Díaz, Izaskun Bilbao Barandica, Marco Campomenosi, Ciarán Cuffe, Jakop G. Dalunde, Johan Danielsson, Andor Deli, Karima Delli, Anna Deparnay-Grunenberg, Ismail Ertug, Gheorghe Falcă, Giuseppe Ferrandino, Mario Furore, Søren Gade, Isabel García Muñoz, Jens Gieseke, Elsi Katainen, Kateřina Konečná, Elena Kountoura, Julie Lechanteux, Bogusław Liberadzki, Benoît Lutgen, Elżbieta Katarzyna Łukacijewska, Marian-Jean Marinescu, Tilly Metz, Giuseppe Milazzo, Cláudia Monteiro de Aguiar, Caroline Nagtegaal, Jan-Christoph Oetjen, Philippe Olivier, Rovana Plumb, Dominique Riquet, Dorien Rookmaker, Massimiliano Salini, Barbara Thaler, Elissavet Vozemberg-Vrionidi, Lucia Vuolo, Roberts Zīle, Kosma Złotowski
Zamjenici nazočni na konačnom glasovanju	Leila Chaibi, Angel Dzhambazki, Markus Ferber, Carlo Fidanza, Maria Grapini, Roman Haider, Alessandra Moretti

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

49	+
ECR Group	Angel Dzhambazki, Carlo Fidanza, Roberts Zīle, Kosma Złotowski
GUE/NGL Group	Leila Chaibi, Kateřina Konečná, Elena Kountoura
ID Group	Marco Campomenosi, Roman Haider, Julie Lechanteux, Philippe Olivier, Lucia Vuolo
NI	Dorien Rookmaker, Mario Furore,
PPE Group	Magdalena Adamowicz, Andor Deli, Gheorghe Falcă, Markus Ferber, Jens Gieseke, Benoît Lutgen, Marian-Jean Marinescu, Giuseppe Milazzo, Cláudia Monteiro de Aguiar, Massimiliano Salini, Barbara Thaler, Elissavet Vozemberg-Vrionidi, Elżbieta Katarzyna Łukacijewska
Renew Group	José Ramón Bauzá Díaz, Izaskun Bilbao Barandica, Søren Gade, Elsi Katainen, Caroline Nagtegaal, Jan-Christoph Oetjen, Dominique Riquet
S&D Group	Andris Ameriks, Johan Danielsson, Ismail Ertug, Giuseppe Ferrandino, Isabel García Muñoz, Maria Grapini, Bogusław Liberadzki, Alessandra Moretti, Rovana Plumb, István Ujhelyi
Verts/ALE Group	Ciarán Cuffe, Jakop G. Dalunde, Karima Delli, Anna Deparnay-Grunenberg, Tilly Metz

 

0	-

 

0	0

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

 

 

 

MIŠLJENJE ODBORA ZA GRAĐANSKE SLOBODE, PRAVOSUĐE I UNUTARNJE POSLOVE (22.9.2020)

upućeno Odboru za pravna pitanja

s preporukama Komisiji o okviru etičkih aspekata umjetne inteligencije, robotike i s njima povezanih tehnologija

(2020/2012(INL))

Izvjestiteljica za mišljenje: Assita Kanko

(*) Pridruženi odbor – članak 57. Poslovnika

 

(Inicijativa – članak 47. Poslovnika)

 

 

PRIJEDLOZI

Odbor za građanske slobode, pravosuđe i unutarnje poslove poziva Odbor za pravna pitanja da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

– uzimajući u obzir članke 2. i 3. Ugovora o Europskoj uniji (UEU),

– uzimajući u obzir članke 10., 19., 21. i 167. Ugovora o funkcioniranju Europske unije (UFEU),

– uzimajući u obzir pravo na podnošenje predstavki iz članaka 20. i 227. UFEU -a i članka 44. Povelje Europske unije o temeljnim pravima,

– uzimajući u obzir članke 21. i 22. Povelje Europske unije o temeljnim pravima,

– uzimajući u obzir preambulu UEU-a,

– uzimajući u obzir Okvirnu konvenciju Vijeća Europe za zaštitu nacionalnih manjina, Protokol br. 12 Europske konvencije za zaštitu ljudskih prava i temeljnih sloboda i Europsku povelju o regionalnim ili manjinskim jezicima,

– uzimajući u obzir Direktivu Vijeća 2000/43/EZ od 29. lipnja 2000. o provedbi načela jednakog postupanja prema osobama bez obzira na njihovo rasno ili etničko podrijetlo[23] (Direktiva o rasnoj jednakosti),

– uzimajući u obzir Direktivu Vijeća 2000/78/EZ od 27. studenoga 2000. o uspostavi općeg okvira za jednako postupanje pri zapošljavanju i obavljanju zanimanja[24] (Direktiva o jednakom postupanju pri zapošljavanju),

– uzimajući u obzir Uredbu (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka)[25] i Direktivu (EU) 2016/680 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka od strane nadležnih tijela u svrhe sprečavanja, istrage, otkrivanja ili progona kaznenih djela ili izvršavanja kaznenih sankcija i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Okvirne odluke Vijeća 2008/977/PUP[26],

– uzimajući u obzir Komunikaciju Komisije Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija od 11. prosinca 2019. o europskom zelenom planu,

– uzimajući u obzir svoju Rezoluciju od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici[27],

– uzimajući u obzir Preporuku Vijeća OECD-a o umjetnoj inteligenciji donesenu 22. svibnja 2019.,

A. budući da razvoj i dizajn takozvane „umjetne inteligencije”, robotike i povezanih tehnologija obavljaju ljudi, a njihovi odabiri određuju potencijal tehnologije za dobrobit društva;

B. budući da bi algoritamska odgovornost trebala značiti provedbu tehničkih i operativnih mjera kojima se osiguravaju transparentnost, jasno dodijeljeni lanci odgovornosti, nediskriminacija automatiziranim donošenjem odluka ili izračunom vjerojatnosti ponašanja pojedinca; budući da se transparentnošću pojedincima trebaju pružiti smislene informacije o logici, značenju i predviđenim posljedicama; budući da to treba obuhvaćati informacije o podacima korištenima za usavršavanje umjetne inteligencije te omogućiti pojedincima da razumiju i nadziru odluke koje na njih utječu;

C.  budući da postoji ozbiljna zabrinutost da trenutačni pravni okvir EU-a, uključujući pravnu stečevinu o zaštiti potrošača, zakonodavstvo o sigurnosti proizvoda i nadzoru tržišta, kao i zakonodavstvo o suzbijanju diskriminacije, nije uvijek prikladan za učinkovito rješavanje rizika koji proizlaze iz umjetne inteligencije, robotike i povezanih tehnologija;

D. budući da umjetna inteligencija, robotika i povezane tehnologije mogu imati ozbiljne posljedice na materijalnu i nematerijalnu robu pojedinaca, skupina i društva u cjelini te da se te pojedinačne i kolektivne štete moraju odražavati u zakonodavnim odgovorima;

E. budući da se pitanja upravljanja u vezi s uvođenjem umjetne inteligencije u javnom sektoru moraju propisno razmotriti u pogledu njezinih posljedica za demokraciju, posebno demokratske legitimnosti, odgovornosti, smislenog javnog angažmana i nadzora;

F. budući da analiza podataka i umjetna inteligencija sve više utječu na informacije koje se stavljaju na raspolaganje građanima; budući da takve tehnologije, ako se zloupotrijebe, mogu ugroziti temeljna prava na informacije te slobodu medija i pluralizam;

G. budući da su etičke smjernice, kao što su načela koja je usvojila Stručna skupina na visokoj razini za umjetnu inteligenciju, dobra polazišna točka, ali nisu dovoljne kako bi se osiguralo pravedno postupanje poduzeća i zajamčila učinkovita zaštita pojedinaca;

1. ističe da građani, javni i privatni sektor, sveučilišta i znanstvena zajednica mogu u potpunosti iskoristiti perspektive i mogućnosti koje pruža umjetna inteligencija samo ako se čvrstim jamčenjem temeljnih prava, sukladnosti s trenutačnim zakonodavstvom EU-a u području zaštite podataka i pravne sigurnosti za sve sudionike osigura povjerenje javnosti u te tehnologije; ističe da se obrada osobnih podataka može obavljati samo u skladu s bilo kojom od pravnih osnova utvrđenih u članku 6. Uredbe (EU) 2016/679; smatra da je od presudne važnosti da transparentnost i pravilno pružanje informacija relevantnim korisnicima budu ključ izgradnje povjerenja javnosti i zaštite prava pojedinaca;

2. naglašava da je usklađenost s postojećim zakonodavstvom o zaštiti podataka, zajedno sa snažnim znanstvenim, etičkim i pravnim standardima te metodama demokratskog nadzora, ključna za uspostavu povjerenja u rješenja umjetne inteligencije i njihovu pouzdanost; nadalje ističe da informacije dobivene korištenjem umjetne inteligencije ne pružaju nepristran pregled bilo kojeg predmeta i da su pouzdane samo u onoj mjeri u kojoj to dopuštaju podaci na kojima se temelje; ističe da prognostička analiza utemeljena na umjetnoj inteligenciji može samo ponuditi statističku vjerojatnost te se njome stoga ne može uvijek precizno predvidjeti pojedinačno ponašanje; stoga ističe da su za upravljanje prikupljanjem podataka i prosuđivanje rezultata takve analize umjetne inteligencije presudne čvrste znanstvene, etičke i pravne norme;

3. smatra da bi se svakim okvirom etičkih načela za razvoj, uvođenje i upotrebu umjetne inteligencije, robotike i s njima povezanih tehnologija trebalo u potpunosti poštovati Povelju EU-a o temeljnim pravima, a time i ljudsko dostojanstvo, autonomiju i samoodređenje pojedinca, spriječiti nanošenje štete, promicati pravednost, uključivost i transparentnost, ukloniti pristranost i diskriminaciju, također i manjinskih skupina, te poštovati i držati se načela ograničavanja negativnih vanjskih učinaka tehnologije koja se upotrebljava, objašnjivosti tehnologija i jamstva da tehnologije služe ljudima i da ih ne zamjenjuju niti donose odluke za njih, uz krajnji cilj povećanja dobrobiti za sve;

4. ističe asimetriju između onih koji se koriste tehnologijama umjetne inteligencije i onih koji s njima dolaze u doticaj i podložni su im; u tom kontekstu naglašava da se povjerenje građana u umjetnu inteligenciju može izgraditi samo na temelju okvira „zadane i integrirane etičnosti” kojim se osigurava da umjetna inteligencija koja se koristi u potpunosti poštuje Povelju Europske unije o temeljnim pravima, pravo Unije i Ugovore te je usklađena s njima; smatra da bi to trebalo biti u skladu s načelom predostrožnosti na kojem se temelji zakonodavstvo EU-a i u središtu svakog okvira za umjetnu inteligenciju; u tom pogledu poziva na jasan i dosljedan model upravljanja kojim se poduzećima i inovatorima omogućuje daljnji razvoj umjetne inteligencije, robotike i povezanih tehnologija;

5. poziva Europsku uniju i države članice da promiču osviještenost javnosti o rizicima i mogućnostima upotrebe umjetne inteligencije kao etičkog zahtjeva;

6. smatra da će se postojeći pravni okvir Unije, posebno u području zaštite privatnosti i osobnih podataka, morati u potpunosti primjenjivati na umjetnu inteligenciju, robotiku i s njima povezane tehnologije te da će ga se redovito preispitivati i nadzirati te po potrebi ažurirati kako bi se učinkovito uklonili rizici koji proizlaze iz umjetne inteligencije, robotike i s njima povezanih tehnologija te bi u tom pogledu taj okvir mogao imati koristi od toga da ga se dopuni čvrstim vodećim etičkim načelima; ističe da bi u slučajevima u kojima bi donošenje pravnih akata bilo preuranjeno trebalo uspostaviti neobvezujući pravni okvir;

7. očekuje od Komisije da u predstojeći zakonodavni prijedlog uključi snažan etički okvir kao nastavak Bijele knjige o umjetnoj inteligenciji, uključujući sigurnost, odgovornost i temeljna prava, čime se maksimalno povećavaju mogućnosti i smanjuju rizici tehnologija umjetne inteligencije; očekuje da će predstojeći zakonodavni prijedlog uključivati politička rješenja za glavne prepoznate rizike umjetne inteligencije, uključujući, među ostalim, etičko prikupljanje i upotrebu velikih podataka, pitanje algoritamske transparentnosti i algoritamske pristranosti; poziva Komisiju da osmisli kriterije i pokazatelje za označivanje tehnologije umjetne inteligencije kako bi se poticala transparentnost, objašnjivost i odgovornost te kako bi se poticale dodatne mjere opreza za programere; naglašava potrebu za ulaganjem u integraciju netehničkih disciplina prilagođenih društvenom kontekstu u studije i istraživanja o umjetnoj inteligenciji;

8. podsjeća da umjetna inteligencija, ovisno o tome kako se razvija, upotrebljava i primjenjuje, može stvoriti i jačati pristranost, među ostalim kroz inherentnu pristranost u temeljnim skupovima podataka, te stoga dovesti do različitih oblika automatizirane diskriminacije, uključujući neizravnu diskriminaciju, što se posebno odnosi na skupine osoba sličnih obilježja; poziva Komisiju i države članice da poduzmu sve moguće mjere kako bi se izbjegla takva pristranost i da zajamče potpunu zaštitu temeljnih prava;

9. napominje da je područje umjetne inteligencije, robotike i povezanih tehnologija izrazito homogeno i nedovoljno raznoliko; prepoznaje potrebu da se osigura da timovi koji osmišljavaju, razvijaju, testiraju, održavaju, uvode i nabavljaju te sustave odražavaju raznolikost njihove upotrebe i društva općenito kako bi se osiguralo da pristranost ne bude nenamjerno „ugrađena” u te tehnologije;

10. smatra da se učinkovita prekogranična suradnja i etički standardi mogu postići samo ako se svi dionici obvežu na to da će osigurati ljudsko djelovanje i nadzor, tehničku otpornost i sigurnost, transparentnost i odgovornost, raznolikost, nediskriminaciju i pravednost, socijalnu i okolišnu dobrobit te da će poštovati utvrđena načela privatnosti, upravljanja podacima i zaštite podataka, osobito ona utvrđena u Uredbi (EU) 2016/679 (GDPR);

11. poziva na primjenu pristupa utemeljenom na riziku i usmjerenom na budućnost u cilju reguliranja umjetne inteligencije, robotike i povezanih tehnologija, uključujući tehnološki neutralne standarde u svim sektorima, prema potrebi uz sektorske standarde; čvrsto vjeruje da bi se funkcionalan etički okvir na razini EU-a trebao primjenjivati na sve osobe koje namjeravaju razviti aplikacije umjetne inteligencije ili njima upravljati u Uniji kako bi se izbjegla fragmentacija; poziva Uniju da promiče snažnu i transparentnu suradnju i razmjenu znanja između javnog i privatnog sektora kako bi se ostvarile najbolje prakse i prepoznale visokorizične primjene umjetne inteligencije;

12. promiče digitalnu odgovornost korporacija na dobrovoljnoj osnovi; Unija bi trebala podupirati korporacije koje se po izboru koriste digitalnim tehnologijama i umjetnom inteligencijom u svojim poduzećima; Unija bi trebala poticati korporacije da postanu proaktivne uspostavom platforme koja će poduzećima omogućiti razmjenu iskustava s etičkom digitalizacijom, kao i koordiniranjem mjera i strategija poduzeća koja sudjeluju;

13. ističe da je zaštita mreža međusobno povezane umjetne inteligencije i robotike važna i da se moraju poduzeti stroge mjere za sprečavanje povreda sigurnosti, curenja podataka, iskorištavanja ranjivosti ljudi i umjetne inteligencije (engl. data poisoning), kibernapada i zlouporabe osobnih podataka te da će za to biti potrebna međusobna suradnja relevantnih agencija, tijela i institucija na europskoj i nacionalnoj razini, kao i njihova suradnja s krajnjim korisnicima tih tehnologija; poziva Komisiju i države članice da se pobrinu za to da se pri razvoju i primjeni tehnologije umjetne inteligencije u svakom trenutku osiguraju europske vrijednosti i poštovanje temeljnih prava kako bi se zajamčila sigurnost i otpornost digitalne infrastrukture EU-a;

14. u tom pogledu prima na znanje odredbe utvrđene u Uredbi 2019/881 Europskog parlamenta i Vijeća o ENISA-i i Aktu o kibersigurnosti, posebno ulogu ENISA-e u promicanju javne svijesti i edukativnih kampanja usmjerenih na krajnje korisnike, među ostalim o mogućim kiberprijetnjama i kriminalnim aktivnostima na internetu, te u promicanju ključnih mjera za zaštitu podataka; prima na znanje dodanu vrijednost te agencije EU-a u tom pogledu;

15. naglašava da zlonamjerna upotreba umjetne inteligencije može ugroziti vrijednosti naših demokracija i temeljna prava građana Europske unije; poziva Komisiju da predloži okvir kojim se kažnjavaju oni koji uporabom te tehnologije narušavaju predodžbu o stvarnosti putem kampanja dezinformiranja ili koji izazivaju kibernapade kako bi ugrozili digitalnu kibernetičku sigurnost;

16. primjećuje da bi umjetna inteligencija, robotika i s njima povezane tehnologije u području kaznenog progona i granične kontrole mogle poboljšati javnu sigurnost i zaštitu, ali i da im je potreban opsežan i strog javni nadzor i najviša moguća razina transparentnosti, kako u pogledu procjene rizika pojedinačnih primjena, tako i općeg pregleda upotrebe umjetne inteligencije, robotike i povezanih tehnologija u području kaznenog progona i granične kontrole;  smatra da te tehnologije nose znatne etičke rizike koje je potrebno riješiti na odgovarajući način, uzimajući u obzir moguće negativne učinke na pojedince, osobito kad je riječ o njihovim pravima na privatnost, zaštitu podataka i nediskriminaciju; naglašava da njihova zlouporaba može postati izravna prijetnja demokraciji te da se pri njihovoj primjeni i uporabi moraju poštovati načela proporcionalnosti i nužnosti, Povelja o temeljnim pravima, kao i relevantno sekundarno zakonodavstvo Unije, kao što su pravila EU-a o zaštiti podataka; ističe da umjetna inteligencija nikada ne bi smjela zamijeniti ljude u donošenju presuda; odluke kao što su dobivanje jamčevine ili uvjetne kazne ili pravo saslušanja pred sudom, ili odluke koje se temelje isključivo na automatiziranoj obradi i koje imaju pravni učinak u pogledu pojedinaca ili koje na njih znatno utječu, uvijek moraju uključivati smislenu procjenu i prosudbu čovjeka;

17. upozorava da je zbog zadiranja odluka i mjera koje poduzimaju tijela kaznenog progona, uključujući s pomoću obrade podataka i umjetne inteligencije, u živote i prava građana potreban maksimalan oprez kako bi se spriječila nezakonita diskriminacija i usmjerenost na određene pojedince ili skupine osoba definirane na temelju rase, boje kože, etničkog ili socijalnog podrijetla, genetskih obilježja, jezika, vjere ili uvjerenja, političkog ili bilo kojeg drugog mišljenja, imovine, rođenja, invaliditeta, dobi, roda, rodnog izražavanja ili identiteta, spolne orijentacije, statusa rezidentnosti, zdravlja ili pripadnosti nacionalnoj manjini, što često podliježe etničkom profiliranju ili intenzivnijem policijskom postupanju, kao i na pojedince definirane određenim obilježjima; poziva na odgovarajuće osposobljavanje osoba koje prikupljaju podatke na terenu i korisnika podataka dobivenih umjetnom inteligencijom;

18. ističe da je mogućnost upotrebe osobnih i neosobnih podataka za kategorizaciju i mikrociljanje osoba, utvrđivanje ranjivosti pojedinaca ili iskorištavanje precizno predvidivog znanja koju te tehnologije pružaju potrebno otkloniti učinkovitom primjenom načela zaštite podataka i privatnosti, kao što su minimalizacija podataka, pravo na protivljenje profiliranju i kontroliranje vlastitih podataka, pravo na dobivanje objašnjenja odluke koja se zasniva na automatiziranoj obradi i integriranoj privatnosti kao i načelima proporcionalnosti, nužnosti i ograničenja na temelju strogo utvrđene svrhe; ističe da su određeni modeli predviđanja policijskog nadzora pogodniji za privatnost od drugih, na primjer kada se izrađuju prognoze vjerojatnosti o mjestima ili događajima, a ne o pojedincima, ali se pokazalo da sustavi predviđanja policijskog nadzora zbog postojeće pristranosti, na primjer u obliku rasnog profiliranja ili izrade profila na temelju migrantske pozadine ili skupine radničke klase, čak i ako to ne odgovara stvarnim razinama kriminala, dovode do još većeg broja policijskih intervencija;

19. ističe da građani imaju pravo na povjerenje u tehnologiju kojom se koriste, kao i u tehnologiju kojom se koriste drugi; naglašava da umjetna inteligencija i robotika nisu otporne na pogreške te stoga ističe važnost prava na objašnjenje kada su osobe podvrgnute algoritamskom donošenju odluka, kao i potrebu za transparentnošću algoritama, s obzirom na to da je transparentnost u pogledu temeljne logike algoritma vrlo važna za one koji su pogođeni, kako bi njihova temeljna prava bila u potpunosti zaštićena; smatra da zakonodavci trebaju analizirati složeno pitanje odgovornosti i da bi odgovornost pri primjenama umjetne inteligencije uvijek trebala snositi osoba, bilo fizička ili pravna;

20. naglašava da su umjetna inteligencija, robotika i povezane tehnologije globalne tehnologije i da te standarde treba usvojiti diljem svijeta kako bi se zajamčilo da njihov budući razvoj bude usklađen s europskim vrijednostima i etičkim standardima; poziva Komisiju da se uključi u diplomaciju u području umjetne inteligencije na međunarodnim forumima s partnerima u sličnom položaju kao što su Sjedinjene Američke Države, G7, G20 i OECD radi uspostave zajedničkih etičkih standarda i smjernica za razvoj umjetne inteligencije, robotike i povezanih tehnologija;

21 naglašava da je potrebno uvesti jasan okvir za uporabu umjetne inteligencije na platformama društvenih medija, kao i zahtjeve u pogledu transparentnosti za algoritme koji se koriste i njihovu kalibraciju, kako bi se spriječilo prekomjerno uklanjanje sadržaja i svaki oblik filtriranja ili cenzure interneta;

22 primjećuje da se umjetna inteligencija može upotrebljavati za manipulaciju činjeničnim i audiovizualnim značajkama, što se često naziva uvjerljivim krivotvorenim sadržajem (engl. deep fakes); podsjeća da se ta tehnika može upotrijebiti za manipuliranje izbora, širenje dezinformacija i druge nepoželjne radnje; stoga traži od Komisije da iskoristi svoj etički okvir da uvede obvezu prema kojoj uz sav uvjerljivi krivotvoreni sadržaj ili bilo koji drugi realno izrađen sintetički videozapis mora biti navedeno da taj materijal nije izvornik te da uvede strogo ograničenje njegove uporabe u izborne svrhe;

23. predlaže stvaranje centra stručnosti koji bi okupljao akademsku zajednicu, istraživačku i industrijsku zajednicu te pojedinačne stručnjake na razini Unije, kao sastavni dio takve agencije ili samo povezan s njom, kako bi se potaknula razmjena znanja i tehničke stručnosti te olakšala suradnja diljem EU-a i izvan njega;

24. podsjeća na važnost jezične i kulturne raznolikosti; stoga poziva Komisiju da iskoristi svoj etički okvir da ne dopusti da se zbog umjetne inteligencije smanji raznolikost, već da i dalje bude moguć pristup širokom spektru sadržaja, pri čemu ni jedan jezik i/ili kulturni model neće biti prekomjerno zastupljen, te da osudi sve pokušaje da se pomoću algoritama ograniči ta raznolikost i nude samo sadržaji koji odgovaraju nekim već postojećim obrascima ili koji bi mogli djelovati kao „komora jeke”, čime bi se spriječio pristup većoj raznolikosti;

25. preporučuje da Komisija pokaže da je jasno preispitala, ocijenila i prilagodila svoj koordinirani plan za umjetnu inteligenciju kako bi se odgovorilo na ozbiljne posljedice umjetne inteligencije na temeljna prava te da navede kako će se takvi rizici ublažiti u zakonodavnom pristupu EU-a i u provedbi nacionalnih strategija država članica;

 

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	22.9.2020
Rezultat konačnog glasovanja	+: –: 0:	55 5 7
Zastupnici nazočni na konačnom glasovanju	Magdalena Adamowicz, Malik Azmani, Katarina Barley, Pernando Barrena Arza, Pietro Bartolo, Nicolas Bay, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Patrick Breyer, Saskia Bricmont, Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Damien Carême, Anna Júlia Donáth, Lena Düpont, Cornelia Ernst, Laura Ferrara, Nicolaus Fest, Jean-Paul Garraud, Maria Grapini, Sylvie Guillaume, Andrzej Halicki, Balázs Hidvéghi, Evin Incir, Sophia in ‘t Veld, Patryk Jaki, Lívia Járóka, Marina Kaljurand, Assita Kanko, Fabienne Keller, Peter Kofod, Moritz Körner, Alice Kuhnke, Jeroen Lenaers, Juan Fernando López Aguilar, Nuno Melo, Roberta Metsola, Nadine Morano, Javier Moreno Sánchez, Maite Pagazaurtundúa, Nicola Procaccini, Paulo Rangel, Diana Riba i Giner, Ralf Seekatz, Michal Šimečka, Birgit Sippel, Sylwia Spurek, Tineke Strik, Ramona Strugariu, Annalisa Tardino, Tomas Tobé, Dragoş Tudorache, Milan Uhrík, Tom Vandendriessche, Bettina Vollath, Jadwiga Wiśniewska, Elena Yoncheva
Zamjenici nazočni na konačnom glasovanju	Delara Burkhardt, Gwendoline Delbos-Corfield, Kostas Papadakis, Kris Peeters, Anne-Sophie Pelletier, Sira Rego, Rob Rooken, Paul Tang, Tomáš Zdechovský
Zamjenici nazočni na konačnom glasovanju prema čl. 209. st. 7.	Isabel Benjumea Benjumea

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

55	+
EPP	Magdalena Adamowicz, Isabel Benjumea Benjumea, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Lena Düpont, Andrzej Halicki, Balázs Hidvéghi, Lívia Járóka, Jeroen Lenaers, Nuno Melo, Roberta Metsola, Nadine Morano, Kris Peeters, Paulo Rangel, Ralf Seekatz, Tomas Tobé, Tomáš Zdechovský
S&D	Katarina Barley, Pietro Bartolo, Delara Burkhardt, Maria Grapini, Sylvie Guillaume, Evin Incir, Marina Kaljurand, Juan Fernando López Aguilar, Javier Moreno Sánchez, Birgit Sippel, Sylwia Spurek, Paul Tang, Bettina Vollath, Elena Yoncheva
RENEW	Malik Azmani, Anna Júlia Donáth, Sophia In 'T Veld, Fabienne Keller, Moritz Körner, Maite Pagazaurtundúa, Michal Šimečka, Ramona Strugariu, Dragoş Tudorache
ID	Peter Kofod
GREENS/EFA	Patrick Breyer, Saskia Bricmont, Damien Carême, Gwendoline Delbos-Corfield, Alice Kuhnke, Diana Riba I Giner, Tineke Strik
ECR	Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Assita Kanko, Nicola Procaccini, Jadwiga Wiśniewska
NI	Laura Ferrara

 

5	-
EUL/NGL	Pernando Barrena Arza, Cornelia Ernst, Anne-Sophie Pelletier, Sira Rego
NI	Kostas Papadakis

 

7	0
ID	Nicolas Bay, Nicolaus Fest, Jean-Paul Garraud, Annalisa Tardino, Tom Vandendriessche
ECR	Rob Rooken
NI	Milan Uhrík

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

 

 

 

MIŠLJENJE ODBORA ZA ZAPOŠLJAVANJE I SOCIJALNA PITANJA (7.9.2020)

upućeno Odboru za pravna pitanja

s preporukama Komisiji o okviru za etičke aspekte umjetne inteligencije, robotike i povezanih tehnologija

(2020/2012(INL))

Izvjestiteljica za mišljenje: Lina Gálvez Muño

(Inicijativa – članak 47. Poslovnika)

 

 

PRIJEDLOZI

Odbor za zapošljavanje i socijalna pitanja poziva Odbor za pravna pitanja da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da se primjena umjetne inteligencije, robotike i s njima povezanih tehnologija u svakodnevnom životu i na radnom mjestu stalno povećava, čime se znatno mijenjaju postojeće socioekonomske strukture; budući da bi umjetna inteligencija trebala koristiti građanima i društvu na način da poboljšava kvalitetu života, stvara nove mogućnosti zapošljavanja i jača konkurentnosti Unije; budući da je umjetna inteligencija ključan dio digitalnog gospodarstva i da ima potencijal za poticanje blagostanja i olakšavanje prijelaza na održivo gospodarstvo, ako se dobro iskoristi;

B. budući da se izrazom umjetna inteligencija (UI) označavaju sustavi koji pokazuju inteligentno ponašanje tako što analiziraju svoje okruženje i izvode radnje, uz određeni stupanj autonomije, radi postizanja određenih ciljeva; budući da sustavi temeljeni na umjetnoj inteligenciji mogu biti samo softverski i djelovati u virtualnom svijetu, kao npr. u obliku glasovnog asistenta, softvera za analizu slike, tražilica, sustava prepoznavanja glasa i lica ili mogu biti ugrađeni u hardverske uređaje, kao npr. u obliku naprednih robota, autonomnih automobila, dronova ili aplikacija za internet stvari);[28]

C. budući da je umjetna inteligencija strateški prioritet čiji se puni potencijal može iskoristiti samo ako su korisnici i potrošači svjesni mogućih koristi i izazova koje ona donosi; budući da poduzeća, kao i radnici i njihovi predstavnici, često nisu upoznati ni s primjenama umjetne inteligencije ni s njenim temeljnim funkcijama i podacima; budući da postoje slučajevi u kojima se primjenom umjetne inteligencije krše propisi koji su na snazi, kao što je zaštita podataka;

D. budući da umjetna inteligencija može donijeti gospodarske i društvene koristi kao i nove prilike za poduzeća i radnike, ali u isto vrijeme dovesti do niza etičkih i pravnih izazova i izazova povezanih sa zapošljavanjem; budući da primjena umjetne inteligencije na radnom mjestu može doprinijeti uključivim tržištima rada i utjecati na zdravlje i sigurnost na radu, a može se upotrebljavati i za praćenje, evaluaciju, predviđanje i usmjeravanje rada zaposlenika s izravnim i neizravnim posljedicama za njihove karijere; budući da bi umjetna inteligencija trebala imati pozitivan učinak na radne uvjete i biti vođena poštovanjem ljudskih prava kao i temeljnih prava i vrijednosti Unije; budući da bi umjetna inteligencija trebala biti usmjerena na ljude, poboljšati dobrobit ljudi i društva te doprinijeti pravednoj i pravičnoj tranziciji;

E. budući da umjetna inteligencija znatno utječe na tržište rada[29]; budući da bi ona mogla zamijeniti radnike koji obavljaju repetitivne radnje, olakšati primjenu radnih sustava u kojima čovjek i stroj surađuju, povećati konkurentnost i blagostanje te stvoriti nove mogućnosti zapošljavanja za kvalificirane radnike; budući da se radna okruženja brzo razvijaju te se procjenjuje da će 65 % današnje djece u budućnosti biti zaposleno na potpuno novim vrstama radnih mjesta, te da postoji potreba za prekvalifikacijom i usavršavanjem radnika, posebno u pogledu digitalnih vještina, kako bi se osiguralo da nitko neće ostati po strani i da će specijalizirana radna snaga biti u dovoljnoj mjeri dostupna[30];

F. budući da je prema CEDEFOP-u oko 43 % odraslih zaposlenika u Uniji na radnome mjestu došlo u doticaj s novim tehnologijama; budući da otprilike sedam od deset radnika u Uniji treba imati barem određenu razinu digitalnih vještina kako bi mogli obavljati svoj posao[31]; budući da otprilike četvrtina građana Unije ne posjeduje digitalne vještine ili je razina njihovih vještina niska; budući da digitalni jaz karakteriziraju specifični socioekonomski, rodni, dobni i zemljopisni aspekti te aspekti pristupačnosti, na koje je nužno odgovoriti; budući da 42 % radnika u poduzećima koja primjenjuju umjetnu inteligenciju u svojim poslovnim procesima smatra da takve aktivnosti otvaraju etička pitanja koja se moraju riješiti; budući da 28 % poslodavaca smatra da se primjena umjetne inteligencije nije razvila u punom opsegu zbog izostanka etičkih pravila o tom pitanju;[32]

G. budući da je pandemija bolesti COVID-19 ukazala na važnost digitalnih rješenja, uključujući rada na daljinu, kao i na njihove tehničke i društvene implikacije; budući da ne postoje zajedničke odredbe na razini Unije u pogledu primjene umjetne inteligencije na radnom mjestu, što bi moglo dovesti do narušavanja tržišta i negativnih posljedica za tržišno natjecanje; budući da bi umjetna inteligencija trebala podlijegati odgovarajućem regulatornom okviru;

H. budući da je OECD izdao preporuke o umjetnoj inteligenciji[33];

I. budući da Vijeće Europske unije potiče promicanje etičkog i antropocentričnog pristupa umjetnoj inteligenciji[34];

J. budući da su socijalni partneri na razini Unije sklopili okvirni sporazum o digitalizaciji, koji među ostalim uključuje poglavlje o „umjetnoj inteligenciji i jamčenju načela ljudske kontrole”[35];

K. budući da su neke države članice već oformile posebna tijela za praćenje i procjenu utjecaja umjetne inteligencije na radnom mjestu;

L. budući da su napori u borbi protiv rodne pristranosti i nejednakosti u digitalnom sektoru nedovoljni; budući da rodno uvjetovane razlike i dalje postoje u svim područjima digitalne tehnologije, a posebno umjetne inteligencije, čime se za digitalni sektor u doglednoj budućnosti učvršćuje putanja u kojoj muškarci dominiraju;

1. ističe da je potrebno temeljito proučiti mogućnosti i izazove koje donose primjene umjetne inteligencije u privatnim i javnim poduzećima te u javnoj upravi u pogledu radnih mjesta i radnika, uključujući njihov učinak na ravnotežu između poslovnog i privatnog života, organizaciju rada i radne procedure; smatra da je neophodno da se socijalni dijalog ne zaobiđe i da se provede savjetovanje s radnicima i njihovim predstavnicima te da im se od samog početka postupka donošenja odluka daje dovoljno informacija; ističe da uvođenje umjetne inteligencije treba biti transparentno i da sustavi umjetne inteligencije na radnom mjestu moraju biti takvi da se poštuje privatnost i dostojanstvo radnika;

2. ističe da bi se prije razvoja, uvođenja i primjene sustava umjetne inteligencije trebala provesti sveobuhvatna procjena rizika, uz procjenu njihova utjecaja na temeljna prava i radne uvjete, među ostalim u pogledu zdravlja i sigurnosti na radu, kao i njihovih društvenih posljedica; tim bi procjenama trebalo obuhvatiti rizike povezane s odlukama koje donose ljudi i sa socijalnom diskriminacijom, kao i ocjenu profesionalnih rizika;

3. ističe da rješenja utemeljena na umjetnoj inteligenciji imaju potencijal za poboljšanje radnih uvjeta i kvalitete života, uključujući bolju ravnotežu između poslovnog i privatnog života i bolju pristupačnost za osobe s invaliditetom, zatim za predviđanja o kretanjima na tržištu rada i podupiranje upravljanja ljudskim resursima kada je riječ o sprečavanju ljudske pristranosti, ali da isto tako mogu biti problematična u pogledu privatnosti te zdravlja i sigurnosti na radu, primjerice u slučaju prava na isključivanje, te dovesti do nerazmjernog i nezakonitog nadzora i praćenja radnika, kršenja njihova dostojanstva i privatnosti, kao i diskriminirajućeg postupanja, među ostalim u postupcima zapošljavanja, zbog pristranosti algoritama, uključujući rodno ili rasno i etnički pristrane algoritme[36] te algoritme koji su pristrani na štetu ranjivih skupina; zabrinut je, nadalje, da bi umjetna inteligencija mogla ugroziti slobodu i autonomiju ljudi i doprinijeti mentalnim zdravstvenim problemima radnika, kao što su sindrom izgaranja na poslu, „tehnološka preopterećenost”, psihološko preopterećenje i umor; naglašava da rješenja umjetne inteligencije na radnom mjestu moraju biti transparentna, pravedna te izbjegavati bilo kakve negativne posljedice za radnike;

4. naglašava da bi nadležna tijela trebala imati pristup svim informacijama koje se odnose na podatke koji se upotrebljavaju za osposobljavanje, statističke modele i teorijska načela povezana s rješenjima umjetne inteligencije, kao i empiričkoj valjanosti njihovih rezultata;

5. smatra da umjetna inteligencija može pomoći u boljem iskorištavanju vještina i kompetencija osoba s invaliditetom te da primjena umjetne inteligencije na radnom mjestu može doprinijeti uključivosti tržišta rada i višim stopama zaposlenosti osoba s invaliditetom;

6. naglašava da nove tehnološke mogućnosti, kao što je umjetna inteligencija, i pridavanje važnosti radnoj učinkovitosti ne smiju dovesti do neravnopravnih tehnološki unaprijeđenih kapaciteta i dehumanizirane digitalne budućnosti; naglašava da etičnost inovacija mora slijediti humanistički pristup;

7. smatra da bi trebalo biti obavezno da se korisnike, uključujući radnike, i potrošače obavijesti ako određeni sustav upotrebljava umjetnu inteligenciju, posebno u pogledu personaliziranih proizvoda ili usluga, te da im se daju smislene informacije, u lako razumljivom i pristupačnom obliku, o svim etičkim aspektima primjena umjetne inteligencije koji su za njih relevantni pri donošenju informiranih odluka; ističe da je važno razumjeti način na koji algoritmi obrađuju i vrednuju podatke te način na koji se to može ograničiti ili zaustaviti; ističe potrebu za razvojem kompetencija kroz osposobljavanje i obrazovanje radnika i njihovih predstavnika u području umjetne inteligencije na radnom mjestu kako bi bolje razumjeli implikacije rješenja umjetne inteligencije;

8. naglašava da kandidati i radnici moraju biti propisno obaviješteni u pisanom obliku ako se umjetna inteligencija upotrebljava tijekom postupaka zapošljavanja i pri donošenju drugih odluka u vezi s ljudskim resursima te o tome da se u tom slučaju može zatražiti da čovjek preispita automatiziranu odluku radi njezina poništavanja;

9. ističe da treba osigurati da korist od rasta produktivnosti kao rezultat razvoja i upotrebe umjetne inteligencije i robotike nemaju samo vlasnici poduzeća i dioničari, već da od toga korist ostvaruju i poduzeća i radna snaga, zahvaljujući boljim uvjetima rada i zapošljavanja, uključujući plaće, kao i gospodarski rast i razvoj, te da to koristi društvu u cjelini, posebno ako se takav rast ostvaruje na račun radnih mjesta; poziva države članice da pažljivo prouče mogući utjecaj umjetne inteligencije na tržište rada i sustave socijalne sigurnosti te da razviju strategije za osiguravanje dugoročne stabilnosti preko reforme poreza i doprinosa, kao i drugih mjera u slučaju manjih javnih prihoda;

10. ističe važnost korporativnih ulaganja u formalno i neformalno osposobljavanje i cjeloživotno učenje kako bi se podržao pravedan prijelaz na digitalno gospodarstvo; u tom kontekstu naglašava da poduzeća koja se koriste umjetnom inteligencijom imaju odgovornost osigurati odgovarajuće prekvalificiranje i usavršavanje za sve zaposlenike kako bi oni mogli naučiti kako upotrebljavati digitalne alate i raditi s kobotovima i drugim novim tehnologijama, čime se prilagođavaju promjenjivim potrebama tržišta rada i ostaju zaposleni;

11. poziva na primjenu načela predostrožnosti u pogledu novih tehnologija koje se temelje na umjetnoj inteligenciji; ističe temeljno načelo da ljudi uvijek moraju imati kontrolu nad strojevima i umjetnom inteligencijom te da mora postojati odgovornost za donošenje odluka koje je utemeljeno na umjetnoj inteligenciji te da je ono podložno osporavanju i, prema potrebi, reverzibilno; naglašava da se standardi sigurnosti i zaštite za umjetnu inteligenciju moraju poštovati te ističe važnost redovitih provjera i kontrola u tom pogledu kako bi se spriječili pogrešni rezultati dobiveni primjenom umjetne inteligencije; podsjeća da odgovornost u pogledu upotrebe umjetne inteligencije mora biti jasno definirana, kako u slučaju nesreća na radu tako i u slučaju štete nanesene trećim stranama;

12. naglašava da umjetna inteligencija mora biti antropocentrična, transparentna, sigurna i osigurana zaštitnim mjerama te da mora biti u skladu s temeljnim pravima i primjenjivim zakonima i propisima, uključujući Opću uredbu o zaštiti podataka (GDPR), tijekom cijelog životnog ciklusa sustava, posebno kada se primjenjuje na radnom mjestu; poziva da se razvije pouzdani sustav certifikacije koji se temelji na postupcima ispitivanja i vodi se načelom predostrožnosti, a koji bi poduzećima omogućio da dokažu da su njihovi proizvodi umjetne inteligencije u skladu s temeljnim pravima i standardima Unije;

13. podsjeća da se pravna stečevina Unije u području zapošljavanja i socijalnih pitanja u potpunosti primjenjuje na umjetnu inteligenciju i poziva Komisiju i države članice da osiguraju pravilnu provedbu i pronađu rješenja za moguće zakonodavne nedostatke; napominje da Unija može postati globalni predvodnik u promicanju društveno odgovorne upotrebe umjetne inteligencije;

14. ističe važnost zajedničkog europskog pristupa etičkim aspektima umjetne inteligencije; naglašava da bilo kakav regulatorni okvir u tom pogledu mora biti primjeren i temeljiti se na sveobuhvatnoj procjeni učinka kako bi se izbjeglo ometanje budućih inovacija i otvaranja radnih mjesta; u tom kontekstu poziva na uspostavu europskog regulatornog okvira za etičke aspekte umjetne inteligencije koji je razmjeran i posebno usmjeren na svijet rada, što uključuje prava radnika i radne uvjete; smatra da bi posebnu pozornost trebalo posvetiti novim oblicima rada, kao što su honorarni poslovi i rad preko platformi, koji su rezultat primjene novih tehnologija u tom kontekstu; smatra da se u zakonodavnom okviru čiji je cilj regulirati uvjete rada na daljinu u cijeloj Uniji i osigurati pristojne uvjete rada i zapošljavanja u digitalnom gospodarstvu također mora uzeti u obzir utjecaj umjetne inteligencije; poziva Komisiju da se u tom pogledu savjetuje sa socijalnim partnerima, razvojnim programerima u području umjetne inteligencije, istraživačima i drugim dionicima;

15. naglašava da umjetna inteligencija i bilo kakvo s njome povezano zakonodavstvo ni na koji način ne smiju utjecati na ostvarivanje temeljnih prava priznatih u državama članicama i na razini Unije, uključujući pravo ili slobodu na štrajk ili poduzimanje drugih mjera obuhvaćenih posebnim sustavima industrijskih odnosa u državama članicama, u skladu s nacionalnim pravom i/ili praksom, niti utjecati na pravo na pregovaranje, sklapanje i provedbu kolektivnih ugovora ili na poduzimanje kolektivnih mjera u skladu s nacionalnim pravom i/ili praksom;

16. ističe da se posebna pozornost mora posvetiti podacima koji se prikupljaju na radnom mjestu uz pomoć umjetne inteligencije, posebno ako se upotrebljavaju za donošenje odluka u vezi s ljudskim resursima; poziva socijalne partnere na razini poduzeća da zajednički analiziraju i prate primjenjivanje umjetne inteligencije; poziva Komisiju i socijalne partnere da analiziraju potrebu za posebnim odredbama o zaštiti podataka na radnom mjestu u kontekstu umjetne inteligencije; naglašava da su radnici vlasnici svojih podataka, čak i nakon prestanka radnog odnosa;

17. smatra da se novi program vještina za Europu mora pozabaviti izazovima prilagodbe i stjecanja kvalifikacija i znanja u pogledu ekološke i digitalne tranzicije, uključujući etičke aspekte umjetne inteligencije; ističe da je potrebno da etički aspekti umjetne inteligencije i razvoj vještina u etičke svrhe postanu sastavni dio svakog kurikuluma obrazovanja i osposobljavanja za programere i osobe koje rade s umjetnom inteligencijom; podsjeća da razvojni programeri, programeri, donositelji odluka i poduzeća koja se bave umjetnom inteligencijom moraju biti svjesni svoje etičke odgovornosti; također smatra da je važno osigurati da se krajnjim korisnicima i potrošačima pružaju sveobuhvatne informacije i da se u tom pogledu redovito razmjenjuju informacije među svim relevantnim dionicima;

18. ponovno ističe važnost obrazovanja i kontinuiranog učenja kako bi se razvile kvalifikacije potrebne u digitalnom dobu i odgovorilo na problem digitalne isključenosti; poziva države članice da ulažu u visokokvalitetno, prilagodljivo i uključivo obrazovanje, strukovno osposobljavanje i sustave cjeloživotnog učenja, kao i politike prekvalifikacije i usavršavanja za radnike u sektorima na koje bi umjetna inteligencija mogla ozbiljno utjecati; ističe da je potrebno da se sadašnjoj i budućoj radnoj snazi pruže potrebne vještine pismenosti, matematičke pismenosti i digitalne vještine, kao i kompetencije u području znanosti, tehnologije, inženjerstva i matematike (STEM) te transverzalne meke vještine, kao što su kritičko razmišljanje, kreativnost i poduzetništvo; naglašava da se u tom pogledu posebna pozornost mora posvetiti uključivanju skupina u nepovoljnom položaju;

19. naglašava da se umjetnom inteligencijom ne smiju jačati rodne nejednakosti i stereotipi pretvaranjem analognih pristranosti i predrasuda u digitalne s pomoću algoritama;

20. ističe da je potrebno osigurati da ljudi različitog podrijetla, uključujući žene, mlade, nebijelce i osobe s invaliditetom, budu uključeni u razvoj, uvođenje i upotrebu umjetne inteligencije; podsjeća da tehnologije temeljene na umjetnoj inteligenciji na radnom mjestu moraju biti dostupne svima na temelju načela „dizajn za sve“;

21. ističe da je pristup rješenjima umjetne inteligencije usko povezan s pristupom brzom internetu te bi stoga širokopojasna pokrivenost trebala biti prioritet kako bi se izbjegla diskriminacija i nejednak pristup tim tehnologijama;

22. konstatira da se mogućnosti koje nude rješenja umjetne inteligencije temelje na „velikim podacima” te im je potrebna kritična masa podataka radi usavršavanja algoritama i unapređivanja rezultata; u tom pogledu pozdravlja prijedlog Komisije za stvaranje zajedničkog podatkovnog prostora u Uniji kako bi se pojačala razmjena podataka i poduprla istraživanja, uz potpuno poštovanje europskih pravila o zaštiti podataka.

 

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	7.9.2020
Rezultat konačnog glasovanja	+: –: 0:	46 6 1
Zastupnici nazočni na konačnom glasovanju	Atidzhe Alieva-Veli, Abir Al-Sahlani, Marc Angel, Dominique Bilde, Gabriele Bischoff, Vilija Blinkevičiūtė, Andrea Bocskor, Milan Brglez, Sylvie Brunet, David Casa, Leila Chaibi, Margarita de la Pisa Carrión, Özlem Demirel, Klára Dobrev, Jarosław Duda, Estrella Durá Ferrandis, Lucia Ďuriš Nicholsonová, Rosa Estaràs Ferragut, Nicolaus Fest, Loucas Fourlas, Cindy Franssen, Heléne Fritzon, Elisabetta Gualmini, France Jamet, Agnes Jongerius, Radan Kanev, Ádám Kósa, Stelios Kympouropoulos, Katrin Langensiepen, Miriam Lexmann, Elena Lizzi, Radka Maxová, Kira Marie Peter-Hansen, Dragoș Pîslaru, Manuel Pizarro, Dennis Radtke, Elżbieta Rafalska, Guido Reil, Daniela Rondinelli, Mounir Satouri, Monica Semedo, Beata Szydło, Eugen Tomac, Romana Tomc, Yana Toom, Marie-Pierre Vedrenne, Nikolaj Villumsen, Marianne Vind, Maria Walsh, Stefania Zambelli, Tomáš Zdechovský
Zamjenici nazočni na konačnom glasovanju	Lina Gálvez Muñoz, Eugenia Rodríguez Palop

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

46	+
ECR	Lucia Ďuriš Nicholsonová, Elżbieta Rafalska, Beata Szydło, Margarita de la Pisa Carrión
GUE/NGL	Leila Chaibi, Özlem Demirel, Eugenia Rodríguez Palop, Nikolaj Villumsen
NI	Daniela Rondinelli
PPE	Andrea Bocskor, David Casa, Jarosław Duda, Rosa Estaràs Ferragut, Loucas Fourlas, Cindy Franssen, Radan Kanev, Ádám Kósa, Stelios Kympouropoulos, Miriam Lexmann, Dennis Radtke, Eugen Tomac, Romana Tomc, Maria Walsh, Tomáš Zdechovský
Renew	Abir Al-Sahlani, Atidzhe Alieva-Veli, Sylvie Brunet, Dragoș Pîslaru, Monica Semedo, Yana Toom, Marie-Pierre Vedrenne
S&D	Marc Angel, Gabriele Bischoff, Vilija Blinkevičiūtė, Milan Brglez, Klára Dobrev, Estrella Durá Ferrandis, Heléne Fritzon, Lina Gálvez Muñoz, Elisabetta Gualmini, Agnes Jongerius, Manuel Pizarro, Marianne Vind
Verts/ALE	Katrin Langensiepen, Kira Marie Peter-Hansen, Mounir Satouri

 

6	-
ID	Dominique Bilde, Nicolaus Fest, France Jamet, Elena Lizzi, Guido Reil, Stefania Zambelli

 

1	0
Renew	Radka Maxová

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

 

 

 

MIŠLJENJE ODBORA ZA OKOLIŠ, JAVNO ZDRAVLJE I SIGURNOST HRANE (16.9.2020)

upućeno Odboru za pravna pitanja

s preporukama Komisiji o okviru za etičke aspekte umjetne inteligencije, robotike i povezanih tehnologija

(2020/2012(INL))

Izvjestitelj za mišljenje: Adam Jarubas

(Inicijativa – članak 47. Poslovnika)

 

 

PRIJEDLOZI

Odbor za okoliš, javno zdravlje i sigurnost hrane poziva Odbor za pravna pitanja da kao nadležni odbor:

– u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

A. budući da je Unija utemeljena na vrijednostima navedenima u članku 2. Ugovora o Europskoj uniji te u skladu s načelom opreznosti utvrđenom u članku 191. stavku 2. Ugovora o funkcioniranju Europske unije;

B. budući da se u članku 16. UFEU-a navodi da svatko ima pravo na zaštitu svojih osobnih podataka; budući da se u članku 22. Uredbe (EU) 2016/679 Europskog parlamenta i Vijeća[37] upućuje na situaciju u kojoj se podaci upotrebljavaju samo za automatiziranu obradu te se priznaje pravo osobe čiji se podaci obrađuju da ne podliježe odluci koja se temelji isključivo na automatiziranoj obradi;

C. budući da je globalno natjecanje za vodeći položaj u razvoju umjetne inteligencije (UI), koje će utjecati na izvor etičkih vrijednosti i standarda koji oblikuju taj sektor u cijelom svijetu, sve jače te bi Europska unija trebala biti primjer ostatku svijeta s primjerenim regulatornim okvirom kako bi se spriječila moguća trka prema dnu u pogledu nacionalnih propisa;

D. budući da to globalno natjecanje ne bi smjelo biti odvojeno od etičkih vrijednosti i standarda;

E.  budući da je ubrzani napredak u istraživanjima i inovacijama iznjedrio niz važnih etičkih, pravnih i socijalnih pitanja koja utječu na odnos između znanosti i društva; budući da ta istraživanja i inovacije moraju biti u skladu s etičkim načelima i relevantnim nacionalnim, Unijinim i međunarodnim zakonodavstvom, uključujući Povelju Europske unije o temeljnim pravima i Europsku konvenciju za zaštitu ljudskih prava i temeljnih sloboda, u skladu s odredbama europskih istraživačkih programa;

F. budući da integracija velikih podataka i tehnologija umjetne inteligencije u sustave javnog zdravstva i druge sektore mora biti popraćena odgovarajućim pravilima, standardima i zakonodavstvom kojima se štite temeljna prava pojedinaca i uzimaju u obzir ti novi etički izazovi;

G. budući da trenutačno postoji primjetan manjak kada je riječ o patentima i ulaganjima u Uniji u usporedbi s drugim dijelovima svijeta;

H. budući da umjetna inteligencija i druga nova digitalna rješenja mogu koristiti društvu u, među ostalim, područjima zelene tranzicije, zaštite okoliša i biološke raznolikosti, povećanja učinkovitosti poljoprivrede, gospodarenja otpadom, kružnog gospodarstva, ublažavanja klimatskih promjena i prilagodbe tim promjenama, ekologizacije raznih industrijskih procesa, upravljanja energijom i prometom, kvalitete vode i zraka (npr. pametne mreže i elektromobilnost), upravljanja rizicima i promatranja Zemlje, s Unijinim programom Copernicus kao jednim od najboljih;

I. budući da se umjetna inteligencija može primijeniti u gotovo svim područjima medicine, kao što su biomedicinska istraživanja, o čemu svjedoči pronalazak antibiotika halicina s pomoću umjetne inteligencije ili njezin doprinos u prevenciji raka, ranije i preciznije dijagnosticiranje i nove terapije s pomoću metoda kao što su prediktivna ili genomska medicina, obrazovanje u području medicine, pomoć pružateljima skrbi, potpora skrbi za starije osobe, praćenje stanja pacijenata, učinkovitiji razvoj lijekova, usmjerenije liječenje, donošenje odluka u kliničkoj medicini, personalizirana medicina, psihijatrijska dijagnostika i liječenje, revolucionarna primjena robotskih proteza i sustava podrške, telemedicina, telekirurgija i unapređenje opće učinkovitosti i interoperabilnosti zdravstvenih sustava;

J.  budući da digitalni napredak iziskuje odgovarajuće osposobljavanje i pripremu za zdravstveno i administrativno osoblje kako bi se spriječio digitalni jaz, imajući pritom na umu da naša društva stare i vodeći računa o potencijalnim izazovima za zdravstvene sustave;

K. budući da postoje ozbiljne etičke dvojbe u pogledu autonomije strojeva;

L. budući da digitalno zdravlje ne bi smjelo dehumanizirati skrb niti oslabiti odnos liječnika i pacijenta, već liječnicama pružati pomoć u svrhu učinkovitijeg dijagnosticiranja i/ili liječenja pacijenta;

M. budući da će tehnologija umjetne inteligencije ubrzati digitalnu transformaciju industrije i imati ključnu ulogu u uspjehu digitalnog gospodarstva u sve povezanijem svijetu;

N. budući da su se postojeći pravni okvir Unije i etičke smjernice već dotaknuli nekih etičkih izazova povezanih s primjenama umjetne inteligencije koji su navedeni u Komisijinoj Bijeloj knjizi o umjetnoj inteligenciji, npr. postojeći postupci procjene rizika za zdravstvena rješenja koja se temelje na umjetnoj inteligenciji na jedinstvenom tržištu; budući da ostala područja zaostaju za etičkim izazovima koji se moraju identificirati i ublažiti jer umjetna inteligencija može predstavljati veliku prijetnju preferencijama, sigurnosti i privatnosti pacijenata; budući da je potrebno utvrditi granice između uloge medicinskog osoblja i osoblja u području skrbi i uloge strojeva kada je riječ o skrbi za pacijente, uključujući načelo nadzirane autonomije robota, te je potrebno obrazovati i zdravstvene radnike i pacijente;

O. budući da bi pravila Unije u području zaštite podataka trebalo prilagoditi kako bi se u obzir uzela sve veća složenost i međupovezanost robota njegovatelja i medicinskih robota koji mogu raspolagati vrlo osjetljivim osobnim i zdravstvenim podacima te ih uskladiti s integriranom zaštitom privatnosti, kako je utvrđeno u Uredbi (EU) 2016/670 o zaštiti podataka;

P. budući da rješenja u kojima je istaknuta potreba za uključivanjem znanstvenog istraživanja kao temelja za razvojne strategije stvaranjem repozitorija medicinskih podataka (npr. neurološki i kardiološki podaci) i razmjenom podataka iz tog istraživanja mogu donijeti konkretnu društvenu korist u kontekstu javne sigurnosti i zdravlja;

Q. budući da rješenja umjetne inteligencije mogu koristiti društvu u području sigurnosti hrane, među ostalim preko smanjenja upotrebe pesticida, podupiranja precizne poljoprivrede ili općenitije poljoprivrede 2.0, pri čemu je Unija među vodećim akterima u primjeni umjetne inteligencije (npr. za automatizirane prilagodbe strojeva za predviđanje vremenskih prilika ili identifikaciju bolesti), što će omogućiti da se djelotvornija proizvodnja kombinira s višim ekološkim standardima i boljom upotrebom resursa, posebno u područjima u kojima su vodni resursi oskudni, a klimatske promjene imaju ozbiljne posljedice, u skladu s prioritetima zelenog plana;

R. budući da bi područje primjene tog okvira trebalo biti primjereno, razmjerno i detaljno analizirano; budući da bi trebalo obuhvatiti širok raspon tehnologija i njihovih sastavnica, uključujući algoritme, računalne programe i podatke koje tehnologije umjetne inteligencije upotrebljavaju ili proizvode; budući da je potreban ciljani pristup koji se temelji na konceptu visokog rizika kako bi se izbjeglo da se buduće inovacije koči u ostvarivanju koristi od primjena umjetne inteligencije, npr. u zdravstvenoj skrbi, zaštiti okoliša i kvaliteti hrane za građane;

S. budući da je ključno utvrditi učinkovit način jamčenja pouzdanosti digitalnih tehnologija, što će omogućiti da se iskoriste njihove prednosti i istodobno zaštite temeljna prava te potakne razvoj neformalnih, otvorenih, tolerantnih i pravednih društava; budući da je to posebno važno u slučaju hibridnih sustava ljudske/umjetne inteligencije;

T. budući da robotski strojevi zamagljuju granice između ljudskih subjekata i tehnoloških objekata; budući da oni ne samo da imaju društvene implikacije koje treba ocijeniti iz etičke perspektive, već postavljaju izazove čak i za etičke okvire na temelju kojih ih se treba ocijeniti; budući da posebnu pozornost treba posvetiti upotrebi medicinskih robota, robota koji obavljaju funkciju medicinskih sestara, robota za skrb o starijim osobama i robota za pratnju, kao što se navodi u izvješću Svjetske komisije za etiku znanstvenih spoznaja i tehnologije (COMEST);

U. budući da se upotreba društvenih robota i robota za pratnju brzo širi u području zdravstvene skrbi, a osobito skrbi za starije osobe; budući da roboti za skrb o starijim osobama i roboti za pratnju mogu preuzeti funkcionalnu i emocionalnu ulogu; budući da ti roboti mogu pomoći u ublažavanju usamljenosti starijih osoba, sprečavanju uzoraka ponašanja povezanih s demencijom, poticanju kognitivnih aktivnosti pacijenata koji pate od neurodegenerativnih bolesti ili obavljanju određenih svakodnevnih zadaća koje su starijim osobama teške; budući da roboti za pratnju mogu tako potaknuti lažne, iluzorne i neuzvraćene osjećaje, zavaravajući i infantilizirajući starije osobe;

V. budući da bi se roboti za pratnju mogli sve više koristiti u seksualne svrhe; budući da su posebno zabrinjavajuće etičke implikacije upotrebe seksualnih robota koji izgledaju kao djeca ili su programirani da budu zlostavljani;

Pravni i etički okvir za umjetnu inteligenciju:

1. ističe da Unija mora poduzeti sve potrebne korake kako bi zajamčila da se njezine etičke vrijednosti, kako su izražene u pravnoj stečevini, učinkovito primjenjuju na sva područja umjetne inteligencije na njezinu teritoriju i kako bi promicala svoje standarde diljem svijeta; naglašava u tom pogledu da tehnološki razvoj u području umjetne inteligencije uvijek mora biti u korist čovječanstva;

2. naglašava da Unija mora poduzeti sve potrebne korake kako bi povećala povjerenje društva u razvoj i primjenu umjetne inteligencije, robotike i povezanih tehnologija; s obzirom na znatan utjecaj koji te tehnologije mogu imati na građane; poziva Komisiju da slijedi etičke smjernice o pouzdanoj umjetnoj inteligenciji i predloži odgovarajuće mjere kako bi se osiguralo da te tehnologije ne stvaraju nepravedno pristrane rezultate za građane;

3. naglašava da će se europskim pravno utemeljenim ekosustavom umjetne inteligencije od povjerenja, bilo da se odnosi na primjenu u području zaštite okoliša, zdravlja ili sigurnosti hrane, koji je proširen etičkim okvirom Unije za umjetnu inteligenciju, ojačati pravna sigurnost i predvidljivost, potaknuti sudjelovanje dionika, povećati količina povjerenih podataka i prihvaćanje na tržištu, omogućiti ekonomije razmjera i poduprijeti ekosustav izvrsnosti u tim sektorima; smatra da će se time ojačati globalna konkurentnost sektora umjetne inteligencije Unije i potencijal za promicanje vrijednosti i standarda Unije;

4 napominje da, zbog činjenice da pravni propisi bolje odgovaraju trenutačnim dobro definiranim izazovima te zbog brzog razvoja umjetne inteligencije, što dovodi do nesigurnosti u pogledu onoga je pred nama, zajednički, pravno dobro utemeljen, provediv etički okvir Unije za umjetnu inteligenciju proširit će ekosustav povjerenja za sve dionike kako je definiran u Bijeloj knjizi Komisije, posebno u primjenama u području zaštite okoliša ili javnog zdravlja, stvaranju zdravijih okruženja, boljih resursa i usluga u zdravstvu ili sigurnosti hrane, čime će se poduprijeti ekosustav izvrsnosti u području pravne sigurnosti i predvidljivosti te pružiti učinkovit odgovor na izazove koji još nisu definirani, među ostalim, u sudnicama, na sastancima rukovodstva ili u znanstvenim laboratorijima;

5. napominje da na definiciji umjetne inteligencije još treba raditi; stoga naglašava važnost antropocentričnog pristupa i redovitih revizija napretka umjetne inteligencije i etičkog okvira kako bi se promicala proaktivna regulativa i zajamčila njezina primjenjivost tijekom vremena i novih razvoja; ističe da postoje brojne razine rizika koji se s vremenom razvijaju kako tehnologije umjetne inteligencije napreduju; naglašava potrebu za razmjernim zakonodavnim okvirom koji bi se trebao razvijati u skladu s brzinom tehnološkog napretka; ističe da program Copernicus može poslužiti kao primjer najbolje prakse u razvoju visokokvalitetnih velikih skupova podataka kao input modelima umjetne inteligencije;

6. naglašava potrebu za regulatornim okvirom kojim bi se utvrdila etička načela koja će se primjenjivati na oblikovanje, razvoj, primjenu i rad te tehnologije, od pristupa podacima do strogog praćenja rezultata;

7. naglašava da se mora pronaći uravnotežen pristup regulaciji, prije svega kako se ne bi ugrozile naše vrijednosti, pri čemu se treba izbjegavati stvaranje nepotrebnog administrativnog opterećenja, posebno za MSP-ove i start-upove; u tom pogledu ističe da globalno tržišno natjecanje u području umjetne inteligencije ne slijedi uvijek ista etička načela kao Unija; ističe da se umjetnu inteligenciju i povezane tehnologije ne bi smjelo prepustiti „laganoj“ samoregulaciji; smatra ključnim da se zahtijeva razmjeran zakonodavni okvir Unije kojim se pruža podrška; ističe da mnoge treće zemlje rade na svojim etičkim okvirima i da postoje brojni prijedlozi na globalnoj razini; svjestan je da glavna poteškoća u pogledu etičkih načela vjerojatno primjena tih načela, a ne njihovo postojanje;

8. podupire stajalište da sedam zahtjeva u pogledu umjetne inteligencije utvrđenih u Etičkim smjernicama za pouzdanu umjetnu inteligenciju koje je sastavila skupina stručnjaka na visokoj razini za umjetnu inteligenciju predstavljaju čvrste sastavnice zajedničkog etičkog okvira Unije za umjetnu inteligenciju s odgovarajućom pravnom osnovom koji, među ostalim, obuhvaća etičke aspekte primjene umjetne inteligencije u područjima okoliša, zdravlja i zaštite hrane; poziva na poboljšanje pravne stečevine o transparentnosti, sljedivosti i ljudskom nadzoru, područjima u kojima je utvrđena potreba za daljnjim poboljšanjima u okviru povratnih informacija o smjernicama koje je dostavilo 350 organizacija; nadalje, potiče stvaranje etičkog okvira Unije za umjetnu inteligenciju u duhu otvorenosti prema radu drugih međunarodnih partnera koji dijele vrijednosti Unije, npr. UN-a, Vijeća Europe s njegovim „Smjernicama o umjetnoj inteligenciji i zaštiti podataka”[38] iz 2019., Europskom etičkom poveljom o uporabi umjetne inteligencije u pravosudnim sustavima i radom njegova pravnog istraživačkog centra, Ad hoc odbora za umjetnu inteligenciju (CAHAI), Načela o umjetnoj inteligenciji[39] koje su članovi OECD-a potpisali u svibnju 2019., ministarske izjave skupine G20 o trgovini i digitalnom gospodarstvu, čiji prilog sadrži načela za umjetnu inteligenciju, te Globalne inicijative IEEE-a za etiku autonomnih i inteligentnih sustava[40];

9.  snažno podupire Komisiju u uspostavi zajedničkog etičkog okvira Unije za umjetnu inteligenciju kako bi se uklonili nedostaci uzrokovani fragmentiranošću unutarnjeg tržišta u pogledu umjetne inteligencije, uključujući u istraživanju, inovacijama i stručnom znanju u primjenama u području okoliša, javnog zdravlja, zdravstvene skrbi i sigurnosti hrane, te kako bi se izbjegli dvostruki standardi među državama članicama u pogledu umjetne inteligencije razvijene u Uniji i izvan nje, između ostalog u područjima kao što su upravljanje podacima o potrošačima u pametnim mrežama te zaštita i privatnost tih podataka, gospodarenje otpadom, jednak pristup uslugama i tehnologijama, standardi odnosa između pacijenata i liječnika, zakonodavstvo o zaštiti podataka i privatnosti, uključujući međuodnos s istraživačkim aktivnostima i razvojem lijekova, građanska odgovornost u javnom zdravstvu potpomognutom umjetnom inteligencijom, građanska odgovornost u pogledu autonomnih vozila ili strojeva; napominje da na nacionalnoj razini zakonodavstva država članica ne sadrže usklađena pravila o odgovornosti koja se primjenjuju na štete ili ozljede koje bi mogla nastati zbog digitalnih i bihevioralnih tehnologija; poziva da se takav etički okvir Unije za umjetnu inteligenciju dobro pravno učvrsti i pozicionira;

10. u tom pogledu podsjeća da je Europski parlament u svojoj Rezoluciji od 16. veljače 2017. o pravilima građanskog prava o robotici[41] zatražio od Komisije da razmotri osnivanje Europske agencije za umjetnu inteligenciju kako bi se osigurao usklađen pristup diljem Unije, razvili zajednički kriteriji i postupak podnošenja zahtjeva koji se odnose na izdavanje europske potvrde o etičkoj usklađenosti te kako bi se odgovorilo na nove mogućnosti i izazove, posebno one prekogranične prirode, koji proizlaze iz aktualnog tehnološkog razvoja; traži od Komisije da razmotri jesu li postojeća tijela i institucije Unije dovoljni za te zadaće ili je potrebno osnovati novo tijelo za umjetnu inteligenciju;

11. smatra da se za sve primjene umjetne inteligencije koje su razvijene u Uniji i izvan nje mora osigurati ista razina zaštite kao i za sve druge tehnologije, uključujući učinkovitu sudsku zaštitu za strane na koje sustavi umjetne inteligencije negativno utječu, no istovremeno se mora dopustiti razvoj tehnoloških inovacija; nadalje, smatra da je to područje rizika umjetne inteligencije ključno za, primjerice, zdravstvene usluge, prijevoz koji uključuje autonomna vozila i sigurnost hrane; poziva na jasnu raspodjelu obveza, prava i odgovornosti među gospodarskim subjektima uključenima u realizaciju primjena umjetne inteligencije, na pripisivanje svake obveze sudionicima koji su u najboljem položaju za rješavanje mogućih rizika, bilo da je riječ o razvojnom programeru, subjektu za uvođenje, proizvođaču, distributeru ili uvozniku, pružatelju usluga, ili profesionalnom ili privatnom korisniku, te u tom pogledu poziva na odgovarajuću reviziju relevantnog zakonodavstva EU-a, npr. Direktive o odgovornosti za proizvode i na usklađivanje nacionalnog zakonodavstva; podržava stajalište Komisije izraženo u Bijeloj knjizi da zbog složenosti sustava umjetne inteligencije osiguravanje učinkovite razine zaštite i pravne zaštite može iziskivati prilagodbu tereta dokazivanja koji se zahtijeva nacionalnim pravilima o odgovornosti za štetu prouzročenu primjenom umjetne inteligencije; smatra da će se jasnoćom u pogledu pravne odgovornosti u sektoru umjetne inteligencije ojačati provedba etičkih vrijednosti Unije ugrađenih u njezinu pravnu stečevinu, pravna sigurnost i predvidljivost te društveno prihvaćanje, čime će se poduprijeti razvoj ekosustava izvrsnosti umjetne inteligencije Unije udruživanjem ulagača i povećanjem prihvaćenosti na tržištu;

12. ističe da se mnogi prijedlozi zemalja koje nisu članice Unije i međunarodnih organizacija odnose na zajednička načela ili koncepte umjetne inteligencije, a to su: antropocentričnost, pouzdanost, poštovanje ljudske autonomije, sprečavanje nanošenja štete, pravednost, načelo da „nitko ne smije biti zapostavljen” i objašnjivost; smatra da bi međunarodni etički okvir u vezi s tim načelima bio vrlo poželjan; zabrinut je da bi napredak i inovacije u području umjetne inteligencije mogli proizvesti društvenu nejednakost ako se ne poduzmu nikakve mjere; stoga poziva Komisiju i države članice da poduzmu potrebne mjere kako nitko ne bi ostao zapostavljen u prijelazu na digitalnu Europu te da zajamče pravedan, pristupačan i jednak pristup tim inovacijama, posebno u područjima kao što je zdravstvena skrb;

13. preporučuje da se pristup temeljen na riziku dopuni procjenom učinka algoritama na temelju informacija, primjerice, iz analize regulatornog učinka, postupka procjene rizika iz Opće uredbe o zaštiti podataka, procjene učinka na ljudska prava, i da rezultati budu javno dostupni;

14. pozdravlja činjenicu da su u okviru metodologije koja uključuje pristup temeljen na riziku i koja je definirana u Bijeloj knjizi Komisije od 19. veljače 2020.[42] zdravstvo, promet i energija automatski prepoznati kao visokorizični sektori i da se uz postojeća pravila Unije u tim sektorima uvodi lista zahtjeva za umjetnu inteligenciju, osim ako način na koji se umjetna inteligencija koristi ne predstavlja znatan rizik; naglašava da bi se etički okvir Unije za umjetnu inteligenciju trebao posebno odnositi na navedene visokorizične sektore;

15. poziva na jasne, objektivne i transparentne postupke na razini Unije za uspostavu javnog kataloga visokorizičnih primjena umjetne inteligencije koji uključuje mehanizam periodičnog preispitivanja i ažuriranja; poziva na razmatranje mogućnosti da se u takvim postupcima teret dokazivanja za sve primjene umjetne inteligencije u svim područjima stavi na subjekt koji želi razviti ili uvesti sustav umjetne inteligencije kako bi katalog ostao otvoren za inovacije i kako bi se izbjeglo zanemarivanje rizika klasificiranja primjena umjetne inteligencije kao primjena bez visokog rizika;

16. smatra da postoje rizici od nepristranosti i diskriminacije u razvoju, uvođenju i uporabi visokorizične umjetne inteligencije, robotike i s njima povezanih tehnologija, uključujući računalne programe, algoritme i podatke koje takve tehnologije upotrebljavaju ili proizvode; podsjeća na to da bi takve tehnologije u svim okolnostima trebale poštovati ljudsko dostojanstvo i jamčiti jednako postupanje prema svima; smatra da bi se problem mogućih pristranosti mogao riješiti utvrđivanjem pravila o obradi podataka i uspostavom odgovarajućih zaštitnih mjera protiv pristranosti i diskriminacije na temelju, među ostalim, socijalnih, ekonomskih, etničkih, rasnih, spolnih ili rodnih čimbenika te invaliditeta; upozorava na moguću zlouporabu dijagnostičke primjene umjetne inteligencije i poziva na mjere zaštite u pogledu sposobnosti i motivacije za umjetnu inteligenciju;

17 pozdravlja inicijativu dobrovoljnog označivanja za umjetnu inteligenciju koja nije visokog rizika;

18. preporučuje mjere za poticanje uključivanja svih dionika u području etičnosti umjetne inteligencije iz privatnog sektora, skupina za zaštitu potrošača i akademske zajednice, u cilju izrade etičkog kodeksa prilagođenog tehnološkom, društvenom i političkom razvoju;

19. podsjeća da roboti pri donošenju odluka koriste algoritme koji imaju ulogu vrijednosti i etičkih okvira, te da njihovo uvođenje ima važne etičke implikacije za zdravstvenu skrb i društvene odnose; posebno je zabrinut zbog upotrebe osobnih robota u svrhu pedofilije ili seksualnog zlostavljanja; smatra da bi pri dizajniranju robotike trebalo uzeti u obzir etička pitanja; traži da se u procesu razvoja tih strojeva vodi računa o etičnosti, uz primjenu pristupa kao što je etički dizajn (value-sensitive design), posebno kada je riječ o robotima za skrb o starijim osobama i o robotima za pratnju; naglašava da bi taj pristup trebalo prilagoditi tako da se vodi računa i o dobrobiti životinja;

20. ističe da je, uz jasne regulatorne zahtjeve u pogledu odgovornosti, potrebno osigurati i algoritamsku transparentnost kako bi se mogao utvrditi trenutak u kojem su „stvari krenule po zlu” i omogućiti pravovremenu intervenciju stručnjaka; smatra da je algoritamska transparentnost ključna za sprečavanje situacija u kojima se medicinske odluke donose u uvjetima „crne kutije”; ističe da su algoritmi tipa „crna kutija“ koji donose neobjašnjive odluke neprihvatljivi u svim sektorima, no u kontekstu u kojem je donošenje odluka uporabom umjetne inteligencije pitanje života ili smrti, posljedice algoritamske greške mogu biti vrlo ozbiljne; poziva Komisiju i države članice da stupe u dijalog s ključnim dionicima iz područja medicine, informacijskih tehnologija, matematike, fizike, tehnologije medicinskih podataka, kliničke psihologije, bioinženjerstva i farmacije kako bi se uspostavile platforme za izgradnju dijaloga i ocijenio utjecaj na odnos liječnika i pacijenta i dehumanizaciju medicinske skrbi.

21. poziva na to da Unija pripremi inicijative kojima se promiču objašnjivi algoritmi, objašnjiva umjetna inteligencija (xAI), simboličko rezoniranje u umjetnoj inteligenciji te tehnike testiranja umjetne inteligencije prema metodi bijele kutije, čime će pokazati da se te tehnologije mogu kombinirati s dubokim neuralnim mrežama te istaknuti njihove pravne, etičke i često poslovne prednosti, kao i da promiče metode za utvrđivanje rizika povezanih s različitim tehnološkim mogućnostima koristeći se, među ostalim, iskustvom Ureda povjerenika Ujedinjene Kraljevine za informacije te smjernicama Instituta Alan Turing o objašnjavanju odluka donesenih uz pomoć umjetne inteligencije, kojima se dokazuje da se čak i vrlo složeni neuralni sustavi umjetne inteligencije mogu interpretirati u dovoljnoj mjeri;

22. poziva na to da se zajamči transparentnost, odgovornost, mogućnost revizije, predvidljivost i preuzimanje odgovornosti jer bi građani, pacijenti i korisnici trebali biti obaviješteni da su u interakciji sa sustavom koji se koristi umjetnom inteligencijom na način da im se pruže jasna i razumljiva objašnjenja korištenih podataka, funkcioniranja algoritma, njegove svrhe i ishoda te mogućih opasnosti; naglašava da su transparentnost i objašnjivost ključ za jamčenje povjerenja u te tehnologije; smatra da bi uz objašnjenje trebala ići i mogućnost preispitivanja i sljedivost s obzirom na to da je poštovanje tih načela način jamčenja odgovornosti; ističe da primijenjena umjetna inteligencija može nadmašiti ljude u usko specijaliziranim zadaćama, a u isto vrijeme podbaciti u sveobuhvatnoj analizi; poziva na ljudski nadzor, profesionalnu odgovornost i predvidljivost sustava uz mogućnost poništenja odluka koje donese sustav umjetne inteligencije;

23. smatra da bi svaka fizička ili pravna osoba trebala moći tražiti pravnu zaštitu u vezi s odlukom na njezinu štetu koju je donijela visokorizična umjetna inteligencija, robotika ili povezana tehnologija te da bi svaka odluka koju donese umjetna inteligencija trebala podlijegati strogoj ljudskoj provjeri i pravičnom postupku; predlaže da se u okvir odluka javne ovlasti uvedu zaštitne mjere povezane s upotrebom visokorizične umjetne inteligencije, robotike i povezanih tehnologija, uključujući periodično ocjenjivanje i moguću reviziju regulatornog okvira kako bi se održao korak s tehnološkim razvojem, predlaže da se uvedu obvezujuće smjernice za metodologiju ocjene sukladnosti koje trebaju slijediti nacionalna nadzorna tijela te neobvezujuće smjernice za programske inženjere, subjekte za uvođenje i korisnike;

24. pozdravlja europsku strategiju za podatke, kojom se odgovara na izazove koji su pred Unijom u tom području, ključnom za napredak umjetne inteligencije, te kojom se traže europske mogućnosti za konkurentnu prednost u novom podatkovnom gospodarstvu, posebno u rastućem sektoru decentraliziranih i neosobnih podataka koji dolaze iz industrije, poslovnog i javnog sektora te uređaja na rubu mreže, za koji se očekuje da će 2025. činiti 80 % od 175 zetabajtova, čime će se promijeniti trenutačni udio;

25. traži da se osiguraju dostatna financijska sredstva za preobrazbu Unije u području umjetne inteligencije; podržava ambicije iznesene u Bijeloj knjizi Komisije da se u sljedećih 10 godina u Uniji privuče 200 milijardi EUR javnih i privatnih ulaganja u području umjetne inteligencije; pozdravlja pozornost koja se pridaje deficitu ekosustava umjetne inteligencije u manje razvijenim regijama te potrebama malih i srednjih poduzeća i start-upova; poziva Komisiju da utvrdi nedostatke u javnoj infrastrukturi i olakša financiranje za umjetnu inteligenciju u području ublažavanja klimatskih promjena i prilagodbe tim promjenama, obnovljivih izvora energije i zdravlja te da olakša geografski uravnotežen pristup cjelokupnom financiranju za umjetnu inteligenciju, uključujući za MSP-ove i start-upove; naglašava da novi ciljevi Unije ne smiju umanjiti njezin angažman u pogledu njezinih stalnih prioriteta, među kojima su zajednička poljoprivredna politika, kohezijska politika, zeleni plan i plan oporavka nakon krize prouzročene bolešću COVID-19 (Next Generation EU);

26 poziva Komisiju da promiče i financira razvoj umjetne inteligencije, robotike i povezanih tehnologija usmjerenih na čovjeka kojima se rješavaju okolišni i klimatski izazovi te kojima se primjenom poreza, zelene javne nabave ili drugih poticaja jamči jednak pristup temeljnim pravima i njihovo uživanje;

Ugljični otisak umjetne inteligencije:

27. napominje da Komisija u svojem digitalnom paketu objavljenom 19. veljače 2020. navodi da na IKT danas otpada između 5 % i 9 % globalne potrošnje električne energije i 2 % emisija CO2 i da će količina prenesenih i pohranjenih podataka u narednim godinama i dalje eksponencijalno rasti te da je za to potrebno pronaći rješenja; također napominje da se u istraživanju Zajedničkog istraživačkog centra iz 2018. naslovljenom „Umjetna inteligencija/europska perspektiva” procjenjuje da bi se na podatkovne centre i prijenos podataka moglo odnositi 3 do 4 % ukupne potrošnje energije u Uniji;

28. pozdravlja činjenicu da se u europskoj digitalnoj strategiji predlažu mjere zelene transformacije za digitalne sektore;

29. naglašava da, unatoč trenutačnom visokom ugljičnom otisku dubokog učenja i same umjetne inteligencije, te tehnologije mogu doprinijeti smanjenju trenutačnog ekološkog otiska sektora IKT-a i razvoju umjetne inteligencije, robotike, automatiziranih odluka, strojnog učenja; ističe da bi te i druge pravilno regulirane povezane tehnologije trebale biti ključni čimbenici za postizanje ciljeva zelenog plana, ciljeva održivog razvoja UN-a i Pariškog sporazuma u mnogim različitim sektorima te da bi se zahvaljujući njima trebao pojačati učinak politika kojima se osigurava zaštita okoliša, npr. za smanjenje otpada i sprečavanje uništavanja okoliša;

30. poziva Komisiju da provede istraživanje o učinku ugljičnog otiska tehnologije umjetne inteligencije te pozitivnim i negativnim učincima prelaska potrošača na upotrebu tehnologije umjetne inteligencije;

31. napominje da bi, s obzirom na sve veći razvoj primjena umjetne inteligencije za koje su potrebni računalni, skladišni i energetski resursi, trebalo voditi računa o utjecaju sustava umjetne inteligencije na okoliš tijekom njihova cijelog životnog ciklusa;

Utjecaj umjetne inteligencije na zdravstveni sektor i prava pacijenata:

32. prepoznaje značajnu ulogu koju umjetna inteligencija može imati u području zdravlja i naglašava da bi primjena umjetne inteligencije u zdravstvu uvijek trebala imati za cilj maksimalno povećanje mogućnosti koje pruža, kao što su poboljšanje zdravlja pacijenata i uspješnosti sustava javnog zdravstva država članica, bez snižavanja etičkih standarda i bez ugrožavanja privatnosti ili sigurnosti građana;

33. pozdravlja obvezu Komisije izraženu u Bijeloj knjizi da ispita izazove u pogledu sigurnosti i odgovornosti koji su karakteristični za zdravstvenu skrb, npr. sustavi umjetne inteligencije koji pružaju specijalizirane medicinske informacije liječnicima ili izravno pacijentu, sustavi umjetne inteligencije koji sami obavljaju medicinske radnje izravno na pacijentu; poziva na odgovarajuće ispitivanje ostalih navedenih sektora koji su po definiciji visokorizični;

34. smatra da u područjima kao što je zdravlje odgovornost u konačnici mora snositi fizička ili pravna osoba; ističe potrebu za sljedivim i javno dostupnim skupovima podataka za učenje za algoritme;

35. poziva Komisiju da pokrene otvoren i transparentan sektorski dijalog s prioritetnom temom zdravstvene skrbi, nakon kojeg će predstaviti akcijski plan za olakšavanje razvoja, testiranja i uvođenja umjetne inteligencije u istraživanje i inovacije te njezine široke primjene u uslugama javnog zdravstva;

36. upozorava da nisu primjereni pokušaji da se strojevima prida neka vrsta „osobnosti”, što bi moglo dovesti do uklanjanja ljudske odgovornosti u slučaju pogrešaka u liječenju;

37. snažno podupire stvaranje europskog prostora za zdravstvene podatke[43] koji je predložila Komisija i čiji je cilj promicanje razmjene zdravstvenih podataka i podupiranje istraživanja uz potpuno poštovanje zaštite podataka, uključujući obradu podataka tehnologijom umjetne inteligencije, te kojim se jačaju i proširuju upotreba i ponovna upotreba zdravstvenih podataka; poziva na unapređenje prekogranične razmjene zdravstvenih podataka, njihovo povezivanje i upotrebu s pomoću sigurnih, udruženih repozitorija, posebnih vrsta zdravstvenih informacija, kao što su europska zdravstvena evidencija, genomske informacije i digitalne zdravstvene slike kako bi se olakšali interoperabilni registri ili baze podataka na razini Unije u područjima kao što su istraživački, znanstveni i zdravstveni sektor;

38. naglašava da bi pacijenti trebali znati kada i kako komuniciraju sa stručnjakom koji je čovjek, a kada to nije slučaj; ustraje u tome da bi pacijenti trebali imati slobodu da odluče o toj interakciji i da bi im trebalo ponuditi jednakovrijednu alternativu;

39. smatra da, posebno u zdravstvenom sektoru, mobilne aplikacije mogu pomoći u praćenju bolesti te da je korisna prisutnost robota kao potpore radu liječnika i ostalog zdravstvenog osoblja u cilju poboljšanja dijagnoze i liječenja, pri čemu se jamči da se prakticiranje medicine i liječenje pacijenata neće dehumanizirati;

40. poziva na standardiziranu interoperabilnost aplikacija e-zdravlja na razini Unije i na uspostavu zajedničkog europskog pristupa podacima za recepte, dijagnoze i liječničke nalaze, koji bi bili na jednostavan način dostupni svim građanima Unije i u svim državama članicama;

41. ponovno ističe da mogućnosti i rizici povezani s tim tehnologijama imaju globalnu dimenziju koja iziskuje dosljedan i usklađen pristup na međunarodnoj razini; poziva Komisiju da u bilateralnim i multilateralnim okruženjima radi na promicanju i jamčenju usklađenosti s etičkim načelima;

42. ističe koristi koje umjetna inteligencija donosi u područjima sprečavanja, liječenja i kontrole bolesti, čemu svjedoči i to da je umjetna inteligencija predvidjela epidemiju bolesti COVID-19 prije Svjetske zdravstvene organizacije; apelira na Komisiju da ECDC-u osigura odgovarajući pravni okvir i resurse za neovisno prikupljanje potrebnih anonimiziranih globalnih zdravstvenih podataka u stvarnom vremenu u suradnji s državama članicama kako bi se, među ostalim, odgovorilo na probleme koja je razotkrila pandemija bolesti COVID-19;

43. ističe da bi korištenje tehnologija za slijeđenje i praćenje kontakata od strane javnih tijela tijekom pandemije bolesti COVID-19 i drugih mogućih zdravstvenih kriza moglo biti u suprotnosti sa zaštitom podataka; u tom pogledu podsjeća na Komunikaciju Komisije od 17. travnja 2020. o smjernicama za zaštitu podataka u aplikacijama kojima se podupire suzbijanje pandemije bolesti COVID-19[44] te na potrebu za proporcionalnošću, vremenskim ograničenjem, usklađivanjem s europskim vrijednostima te poštovanjem ljudskog dostojanstva i temeljnih prava;

44. smatra da umjetna inteligencija i robotika mogu znatno poboljšati kontrolu medicinskih proizvoda i olakšati svakodnevni rad zdravstvenih djelatnika; smatra da je za ključne medicinske proizvode potrebno uspostaviti rezervni sustav za praćenje i osiguravanje funkcionalnosti tih proizvoda u svakoj mogućoj situaciji kada je njihov rad ometan te da je potrebno uzeti u obzir i spriječiti moguće kiberprijetnje pri kontroli takvih uređaja; naglašava da, osim hakera i vanjskih prijetnji, kiberprijetnje mogu podrazumijevati i ljudske pogreške ili pogreške u sustavu te da je potrebno imati na raspolaganju adekvatne i funkcionalne sigurnosne sustave; nadalje, smatra da bi Unija trebala izraditi plan za razvoj dodatnih sigurnosnih mjera za umjetnu inteligenciju kako bi se mogli riješiti mogući problemi u slučaju da sustav umjetne inteligencije napravi pogrešku;

45. ističe da sigurnosni standardi utvrđeni u Uredbi (EU) 2017/745 Europskog parlamenta i Vijeća[45] možda nisu dovoljni za izazove koji se odnose na sustave umjetne inteligencije; poziva Komisiju da prati izazove u tom području i da po potrebi iznese prijedloge;

46. naglašava da je potrebno osigurati da medicinski proizvodi temeljeni na umjetnoj inteligenciji budu usklađeni sa zahtjevima sigurnosti i učinkovitosti iz Uredbe (EU) 2017/745; poziva Komisiju i države članice da se pobrinu za provedbu Uredbe (EU) 2017/745 kada je riječ o tim tehnologijama; smatra da su potrebne nove smjernice i specifikacije za ocjenjivanje sigurnosti i učinkovitosti softvera, umjetne inteligencije i uređaja koji se temelje na dubokom učenju tijekom cijelog ciklusa uporabe;

47. poziva na to da se zajamči jasnija pravna nadležnost i dostatno financiranje EMA-e i nacionalnih nadležnih tijela zaduženih za lijekove kako bi se poduprle inovacije i aspekti javnog zdravlja povezani s umjetnom inteligencijom u životnom ciklusu lijekova, a posebno kako bi se prikupili i analizirali stvarni zdravstveni podaci na temelju kojih se može doći do dodatnih spoznaja o lijekovima radi potpore istraživanju i razvoju te optimizacije sigurne i učinkovite uporabe postojećih lijekova u interesu pacijenata i europskih zdravstvenih sustava;

48. ustraje u tome da osiguravajuća društva ili drugi pružatelji usluga ne bi smjeli imati ovlasti za upotrebu podataka iz aplikacija e-zdravstva u svrhu diskriminacije pri određivanju cijena, s obzirom na to da bi to bilo u suprotnosti s temeljnim pravom pristupa najvišoj mogućoj razini zdravstvene skrbi;

Umjetna inteligencija i zaštita podataka

49.  pozdravlja Komisijinu nedavno objavljenu reviziju[46] Uredbe (EU) 2016/679, primjećuje da zakonodavstvo država članica slijedi različite pristupe pri primjeni odstupanja od opće zabrane obrade posebnih kategorija osobnih podataka u pogledu razine specifikacije i zaštitnih mjera, uključujući u zdravstvene svrhe; stoga smatra da bi odgovornost za donošenje odluka u konačnici trebala biti na čovjeku, posebno u sektorima u kojima su ulozi i rizici visoki, kao što je zdravlje;

50. pozdravlja namjeru Komisije da prati primjenu Uredbe (EU) 2016/679 na nove tehnologije, među ostalim u mogućim budućim inicijativama u području umjetne inteligencije i u okviru Strategije za podatke, te podržava poziv Komisije Europskom odboru za zaštitu podataka da izda smjernice o primjeni Uredbe (EU) 2016/679 u području znanstvenog istraživanja, umjetne inteligencije, lanaca blokova i drugih mogućih tehnoloških razvoja;

51. traži da se građane i pacijente osnaži u pogledu njihovih osobnih podataka radi osiguravanja potpune provedbe i ujednačenog tumačenja pravnog okvira Unije za zaštitu i privatnost podataka, posebno u primjeni umjetne inteligencije u zdravstvu i drugim povezanim osjetljivim podacima, kako bi se u potpunosti poštovalo „pravo na zaborav“ iz članka 17. Uredbe (EU) 2016/679 i ojačalo „pravo na objašnjenje” predviđeno člankom 22. Uredbe (EU) 2016/679 kao i veći zahtjevi u pogledu mogućnosti tumačenja visokorizične umjetne inteligencije;

52. ističe da bi etički okvir o umjetnoj inteligenciji trebao sadržavati pravo da osobe koje su predmet odluka donesenih na temelju automatizirane obrade imaju pravo dobiti objašnjenje za takve odluke;

53. poziva na uspostavu dobre ravnoteže između privatnosti i zaštite podataka te korisnosti podataka; smatra da je za znanstveni napredak važno osigurati da se zdravstveni podaci mogu dijeliti i dovoljno iscrpno i detaljno obrađivati; poziva na jamčenje anonimizacije podataka uz izbjegavanje prekomjernog smanjenja količine podataka; poziva na uspostavu interoperabilnih, prikladnih baza podataka, registara i repozitorija na razini Unije kako bi se olakšala upotreba zdravstvenih podataka u sektorima zdravlja, okoliša i sigurnosti hrane;

54. ističe da je potrebno osigurati zaštitu zdravstvenih podataka i podataka koji pripadaju ranjivim skupinama te ističe da, ako se u sklopu primjene umjetne inteligencije zdravstveni podaci obrađuju na temelju suglasnosti ispitanika, uvjeti utvrđeni u članku 7. Uredbe (EU) 2016/679 moraju biti ispunjeni;

55. ističe da dobiveni podaci ni u kojem slučaju ne bi smjeli pridonositi bilo kakvoj vrsti diskriminacije; poziva da se zajamči da su prikupljanje i dostupnost podataka uvijek u skladu s pravnim okvirom Unije;

56. ističe da rizik od zlonamjernih izmjena podataka i manipulacije podacima te mogućih hakerskih napada ili krađe podataka može biti posebno ozbiljan u zdravstvenom sektoru i da se navedeno može koristiti za nanošenje štete, diskreditiranje ili izvlačenje koristi od pojedinaca; ističe da bi trebalo utvrditi najviše standarde kibersigurnosti za relevantne mreže;

Utjecaj umjetne inteligencije na radno i društveno okruženje:

57. podsjeća se u okviru etičkog okvira OECD-a uzimaju u obzir korjenite promjene na tržištu rada; naglašava da će automatizacija u kombinaciji s umjetnom inteligencijom dovesti do povećanja produktivnosti, a time i većeg outputa; napominje da će, kao i tijekom prethodnih tehnoloških revolucija, neka radna mjesta biti zamijenjena; ističe da bi se povećanom uporabom robotike i umjetne inteligencije također trebala smanjiti izloženost ljudi štetnim i opasnim uvjetima te da bi se njima također trebalo pomoći u stvaranju kvalitetnijih i dostojanstvenih radnih mjesta i poboljšanju produktivnosti; podsjeća da je OECD u svojem radu istaknuo da automatizacija može društvu omogućiti da se odluči za smanjenje broja radnih sati, čime bi se poboljšali uvjeti života i zdravlje radnika;

58. dodatno skreće pozornost na preporuke OECD-a u kojima se poziva na blisku suradnju javnih vlasti s dionicima u cilju promicanja odgovorne upotrebe umjetne inteligencije na radnom mjestu, jačanja sigurnosti radnika i kvalitete radnih mjesta i rada na tome da se koristi od umjetne inteligencije široko i pravedno dijele; u tom kontekstu naglašava da se suradnjom raznolikih timova razvojnih programera i inženjera i ključnih aktera može doprinijeti izbjegavanju rodne i kulturne pristranosti te jamčenju poštovanja fizičke i mentalne dobrobiti radnika u algoritmima, sustavima i primjenama umjetne inteligencije;

59. naglašava da bi se razvojem primjena umjetne inteligencije mogli smanjiti troškovi i povećati količina dostupnih usluga, npr. zdravstvenih usluga, javnog prijevoza i poljoprivrede 2.0, što bi ih učinilo pristupačnijima širem spektru društva; ističe da bi primjene umjetne inteligencije također mogle dovesti do povećanja nezaposlenosti, pritiska na sustave socijalne skrbi i povećanja siromaštva; naglašava, u skladu s vrijednostima sadržanima u članku 3. Ugovora o Europskoj uniji, potrebu da se preobrazba Unije u pogledu umjetne inteligencije uskladi sa socioekonomskim kapacitetima, odgovarajućom socijalnom zaštitom, obrazovanjem i otvaranjem alternativnih radnih mjesta; poziva na to da se razmotri uspostava fonda Unije za prilagodbu umjetnoj inteligenciji na temelju iskustva s Europskim fondom za prilagodbu globalizaciji ili nedavno uspostavljenim Fondom za pravednu tranziciju;

60. ističe i važnost socijalnog dijaloga za omogućivanje pravedne i uključive tranzicije za radnike na nove radne stvarnosti na koje utječe umjetna inteligencija te potrebu da poduzeća ulažu u osposobljavanje i prekvalifikaciju svoje radne snage;

61. poziva države članice da se pobrinu za to da obrazovanje za stručnjake u području zaštite okoliša, zdravlja i sigurnosti hrane prati razvoj u području umjetne inteligencije te da podignu razinu osviještenosti o rizicima i etičkim izazovima povezanima s umjetnom inteligencijom;

62. pozdravlja zahtjeve predložene u Bijeloj knjizi za skupove podataka za učenje za visokorizičnu umjetnu inteligenciju, kojima se uzima u obzir i sigurnost, odnosno dovoljno široki podaci koji pokrivaju sve relevantne scenarije kako bi se izbjegle opasne situacije kao što je diskriminacija te koji su dovoljno reprezentativni i na primjeren način odražavaju društveno okruženje na koje će se primjenjivati;

63. naglašava da bi se javni sektor trebao usredotočiti na rješavanje socijalnih problema, a ne na uvođenje primjena umjetne inteligencije samo po sebi; poziva na poboljšanje propisa i smjernica Unije o javnoj nabavi, uključujući zelenu javnu nabavu EU-a, kako bi se tijekom relevantnih postupaka evaluacije ponuda preispitalo zahtijeva li određeno pitanje primjenu sustava umjetne inteligencije i kako bi se omogućilo korištenje drugih kanala za postizanje rezultata kada evaluacija pokaže da se rješenjem koje ne uključuje umjetnu inteligenciju kvalitetnije odgovara na određeni društveni problem;

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	10.9.2020
Rezultat konačnog glasovanja	+: –: 0:	77 2 2
Zastupnici nazočni na konačnom glasovanju	Nikos Androulakis, Bartosz Arłukowicz, Margrete Auken, Simona Baldassarre, Marek Paweł Balt, Traian Băsescu, Aurelia Beigneux, Monika Beňová, Sergio Berlato, Alexander Bernhuber, Malin Björk, Simona Bonafè, Delara Burkhardt, Pascal Canfin, Sara Cerdas, Mohammed Chahim, Tudor Ciuhodaru, Nathalie Colin-Oesterlé, Miriam Dalli, Esther de Lange, Christian Doleschal, Marco Dreosto, Bas Eickhout, Eleonora Evi, Agnès Evren, Fredrick Federley, Pietro Fiocchi, Andreas Glück, Catherine Griset, Jytte Guteland, Teuvo Hakkarainen, Martin Hojsík, Pär Holmgren, Jan Huitema, Yannick Jadot, Adam Jarubas, Petros Kokkalis, Athanasios Konstantinou, Ewa Kopacz, Joanna Kopcińska, Ryszard Antoni Legutko, Peter Liese, Sylvia Limmer, Javi López, César Luena, Fulvio Martusciello, Liudas Mažylis, Joëlle Mélin, Tilly Metz, Silvia Modig, Dolors Montserrat, Alessandra Moretti, Dan-Ștefan Motreanu, Ville Niinistö, Ljudmila Novak, Jutta Paulus, Stanislav Polčák, Jessica Polfjärd, Luisa Regimenti, Frédérique Ries, María Soraya Rodríguez Ramos, Sándor Rónai, Rob Rooken, Silvia Sardone, Christine Schneider, Günther Sidl, Ivan Vilibor Sinčić, Linea Søgaard-Lidell, Nicolae Ştefănuță, Nils Torvalds, Edina Tóth, Véronique Trillet-Lenoir, Alexandr Vondra, Mick Wallace, Pernille Weiss, Michal Wiezik, Tiemo Wölken, Anna Zalewska
Zamjenici nazočni na konačnom glasovanju	Michael Bloss, Manuel Bompard, Christel Schaldemose

 

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

77	+
#PPE#	Bartosz Arłukowicz, Alexander Bernhuber, Traian Băsescu, Nathalie Colin-Oesterlé, Christian Doleschal, Agnès Evren, Adam Jarubas, Ewa Kopacz, Peter Liese, Fulvio Martusciello, Liudas Mažylis, Dolors Montserrat, Dan-Ștefan Motreanu, Ljudmila Novak, Jessica Polfjärd, Stanislav Polčák, Christine Schneider, Edina Tóth, Pernille Weiss, Michal Wiezik, Esther de Lange
S&D	Nikos Androulakis, Marek Paweł Balt, Monika Beňová, Simona Bonafè, Delara Burkhardt, Sara Cerdas, Mohammed Chahim, Tudor Ciuhodaru, Miriam Dalli, Jytte Guteland, César Luena, Javi López, Alessandra Moretti, Sándor Rónai, Christel Schaldemose, Günther Sidl, Tiemo Wölken
Renew	Pascal Canfin, Fredrick Federley, Andreas Glück, Martin Hojsík, Jan Huitema, Frédérique Ries, María Soraya Rodríguez Ramos, Linea Søgaard-Lidell, Nils Torvalds, Véronique Trillet-Lenoir, Nicolae Ştefănuță
ID	Simona Baldassarre, Aurelia Beigneux, Marco Dreosto, Catherine Griset, Joëlle Mélin, Luisa Regimenti, Silvia Sardone
Verts/ALE	Margrete Auken, Michael Bloss, Bas Eickhout, Pär Holmgren, Yannick Jadot, Tilly Metz, Ville Niinistö, Jutta Paulus
ECR	Sergio Berlato, Pietro Fiocchi, Joanna Kopcińska, Ryszard Antoni Legutko, Alexandr Vondra, Anna Zalewska
GUE/NGL	Malin Björk, Manuel Bompard, Petros Kokkalis, Silvia Modig, Mick Wallace
NI	Eleonora Evi, Athanasios Konstantinou

 

2	-
ID	Sylvia Limmer
ECR	Rob Rooken

 

2	0
ID	Teuvo Hakkarainen
NI	Ivan Vilibor Sinčić

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

 

 

 

MIŠLJENJE ODBORA ZA KULTURU I OBRAZOVANJE (3.9.2020)

upućeno Odboru za pravna pitanja

s preporukama Komisiji o okviru za etičke aspekte umjetne inteligencije, robotike i povezanih tehnologija

(2020/2012(INL))

Izvjestitelj za mišljenje: Łukasz Kohut

(Inicijativa – članak 47. Poslovnika)

 

 

PRIJEDLOZI

Odbor za kulturu i obrazovanje poziva Odbor za pravna pitanja da kao nadležni odbor:

- u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

1. podsjeća na to da razvoj, uvođenje i upotreba umjetne inteligencije u kulturnom i kreativnom sektoru, na području obrazovanja, medija, mladih i u politici informiranja ima potencijal, ali isto tako otvara i nastavit će otvarati brojna etička pitanja koja je potrebno riješiti; naglašava da bi Unija trebala biti predvodnikom na putu k etičkoj umjetnoj inteligenciji utemeljenoj na europskim vrijednostima, uz jamčenje zaštite ljudskog dostojanstva i temeljnih prava u demokratskoj, pravednoj i održivoj Europi; poziva institucije EU-a da se uključe u dugoročno promišljanje o utjecaju umjetne inteligencije na naše demokratske rasprave, naša društva i samu ljudsku prirodu kako bi na taj način utrle put tehnologiji koja poštuje našu slobodu i ne remeti inovacije niti suzbija slobodu izražavanja;

2. čvrsto vjeruje da je potrebno ispitati kako okviri i obveze u području ljudskih prava mogu usmjeravati djelovanja i politike povezane s novim digitalnim tehnologijama i onima u nastajanju kako bi se zajamčio njihov antropocentričan pristup i kako bi bile svima dostupne i korisne; prepoznaje potrebu da se osigura da razvoj, uvođenje i upotreba umjetne inteligencije bude bez diskriminacije i pristranog profiliranja te da odražava sve ključne elemente društva; uviđa da bi umjetna inteligencija i automatizacija mogle utjecati na globalizirano gospodarstvo, što je štetno u smislu ukorjenjivanja postojećih nejednakosti;

3. naglašava kako je potrebno donijeti prilagođene kriterije za razvoj, uvođenje i upotrebu umjetne inteligencije na područjima obrazovanja, medija, mladih, istraživanja te u kulturnom i kreativnom sektoru određivanjem referentnih mjerila za etički odgovorne i prihvatljive upotrebe tehnologija umjetne inteligencije u tim područjima, uključujući jasan režim odgovornosti za proizvode nastale uporabom umjetne inteligencije; ističe da takvi kriteriji moraju biti prilagodljivi i stalno pratiti napredak tehnologija umjetne inteligencije i tako na odgovoran način pomoći u iskorištavanju punog potencijala umjetne inteligencije; posebno ističe da je potrebno riješiti pitanja prikupljanja osobnih podataka o korisnicima i privatnosti, kao i pitanja odgovornosti u slučajevima u kojima automatizirani postupci dovode do neželjenih ishoda; podsjeća da je za stvaranje takvih kriterija na zdravim temeljima potrebno zahtijevati poštovanje načela usklađenosti sustava s njegovim specifikacijama, s transparentnošću, dobrom vjerom i pravičnošću, uz konzultacije s nadležnim etičkim odborima odgovornim za pomoć u postavljanju temelja u skladu s kulturnim vrijednostima Europske unije i odredbama pravnog okvira; napominje da su sustavi umjetne inteligencije utemeljeni na softveru i da se ponašaju inteligentno na temelju analize svojeg okružja; naglašava da se ta analiza temelji na statističkim modelima čiji su neizbježni dio pogreške; naglašava da postoji potreba da se osigura postojanje sustava i metoda kojima se omogućuje provjera algoritma, njegova objašnjivost i pristup pravnim lijekovima; ističe da je potrebno zajamčiti da postoje obvezujuća pravila kojima se jamči očuvanje načela transparentnosti, odgovornosti i nediskriminacije; ponavlja etičke smjernice za pouzdanu umjetnu inteligenciju iz 2019. i sedam ključnih zahtjeva za pouzdanost umjetne inteligencije;

4. napominje da svako dijete ima pravo na kvalitetno javno obrazovanje na svim razinama; stoga poziva na razvoj, uvođenje i upotrebu kvalitetnih sustava umjetne inteligencije kojima se omogućuju i pružaju kvalitetni obrazovni alati za sve i na svim razinama te naglašava da uvođenje novih sustava umjetne inteligencije u škole ne bi smjelo dovesti do većeg digitalnog jaza u društvu;

5. primjećuje da se u školama i na sveučilištima sve više uvode personalizirani sustavi učenja s pomoću umjetne inteligencije, čime se uloga učitelja u procesu učenja postupno mijenja; naglašava da taj zaokret valja temeljito ispitati te odraziti u nastavnom planu i programu, s tim da treba biti utemeljen na vrijednostima usredotočenima na čovjeka; prepoznaje golemi potencijalni doprinos koji umjetna inteligencija i robotika mogu dati obrazovanju; napominje da personalizirani sustavi učenja koji se temelje na umjetnoj inteligenciji ne bi trebali zamijeniti obrazovne odnose u kojima sudjeluju nastavnici i da tradicionalni oblici obrazovanja ne bi smjeli biti zapostavljeni, istodobno ističući da se učiteljima koji žele steći odgovarajuće vještine u cilju prilagodbe tehnološkim promjenama i iskorištavanju potencijala umjetne inteligencije, uključujući specijalizirano osposobljavanje u području informacijskih i komunikacijskih tehnologija, mora pružiti financijska, tehnološka i obrazovna potpora, ne samo kako bi se iskoristio potencijal umjetne inteligencije, već i razumjela njezina ograničenja;

6. naglašava da se, ako se u procedurama za odabir budućih učenika upotrebljava strojno učenje, moraju primijeniti odgovarajuće zaštitne mjere, uključujući informiranje prijavljenih o tim procedurama i njihovim pravima u tom pogledu; napominje da se relevantni algoritmi moraju osposobiti za široke skupove podataka kako bi se spriječilo da algoritmi diskriminiraju određene skupine; smatra da se relevantne odluke donesene uz pomoć automatiziranih postupaka moraju moći objasniti, među ostalim, ako je to potrebno, i učenicima koji su odbijeni;

7. poziva na razvoj strategije u području umjetne inteligencije, robotike i povezanih tehnologija na razini Unije kako bi se pomogla transformacija i modernizacija naših obrazovnih sustava, kako bi se naše obrazovne institucije na svim razinama pripremile, a nastavnici i učenici stekli potrebne vještine i sposobnosti; smatra da je potrebno stvoriti okvir o etici u obrazovanju; preporučuje da se u izradu tog okvira uključe civilno društvo, sveučilišta, sindikati i udruge poslodavaca; napominje da sustavi umjetne inteligencije koji su razvijeni i uvedeni u Uniji te se u njoj koriste moraju odražavati njezinu kulturnu raznolikost i višejezičnost; ističe da bi posebnu potporu trebalo pružiti razvojnim programerima i korisnicima iz ugroženih skupina i skupina osoba s invaliditetom;

8. smatra da je potrebno posvetiti posebnu pozornost i zaštititi prava maloljetnika s obzirom na to da obrazovno okružje uvelike utječe na njihovu budućnost, a posebno očuvanju prava na privatnost i promicanju pristupa kvalitetnom obrazovanju uz istovremeno jamčenje jednakih prilika za sve; naglašava da bi obrazovne institucije trebale koristiti sustave umjetne inteligencije isključivo u obrazovne svrhe koje su provjerene i certificirane kao etičke, korisne i u skladu s načelima ljudskih prava; poziva Komisiju i države članice da promiču suradnju između javnog i privatnog sektora te akademske zajednice kako bi se ojačala razmjena znanja i otvoreni izvori;

9. napominje da postoji potreba za pojašnjenjem pojma umjetnosti te kulturnih i kreativnih djela, kao i uloge ljudi kao stvaratelja i umjetnika; naglašava da mogućnosti koje pružaju digitalizacija i nove tehnologije ne smiju dovesti do ukupnog gubitka radnih mjesta u kulturnom i kreativnom sektoru, zanemarivanja očuvanja originala i slabljenja tradicionalnog pristupa kulturnoj baštini, koju bi također trebalo poticati;

10. prepoznaje sve veći potencijal umjetne inteligencije u području informacijskih, medijskih i internetskih platformi, uključujući kao moćan alat za borbu protiv dezinformacija; međutim, zabrinut je zbog mogućnosti zlouporabe umjetne inteligencije kako bi se manipuliralo javnim mišljenjem na internetu; ističe da bi tehnologije umjetne inteligencije, ako nisu regulirane, mogle imati etički štetne učinke zbog iskorištavanja pristranosti u podacima i algoritmima koji mogu dovesti do širenja dezinformacija, stvaranja informacijskih balona i iskorištavanja pristranosti ugrađenih u algoritme umjetne inteligencije; podsjeća da je odgovarajuće obrazovanje nužan uvjet za zaštitu prava građana u pogledu slobode informiranja, mišljenja i izražavanja te poziva na etičku upotrebu tehnologija umjetne inteligencije u području medija; upozorava na rizike povezane s cenzurom utemeljenom na tehnologiji i ističe potrebu za etičkim okvirom za zaštitu slobode govora;

11. smatra da bi upotreba određenih vrsta umjetne inteligencije, kao što su sustavi za prepoznavanje lica i otkrivanje emocija i ponašanja, mogla štetno utjecati osobito na ulogu medija i novinara kao čuvara demokracije pa stoga i na demokratske procese; stoga naglašava da bi uporabu tih sustava u javnim prostorima trebalo ograničiti ili zabraniti kad god je to potrebno; naglašava potrebu za nastavkom borbe protiv lažnih vijesti, uključujući tehnike kao što su „deepfake”, protiv cenzure i automatiziranog nadzora;

12. naglašava da je u široj javnosti potrebno podići osviještenost i razumijevanje o ulozi i utjecaju umjetne inteligencije kroz formalno i neformalno obrazovanje, uključujući humanističke studije, osobito o upotrebi algoritama i njihovu utjecaju, među ostalim, na zapošljavanje i privatnost, na razumijevanje mjesta koje informatički sustavi imaju u odabiru, interpretaciji, skladištenju i predstavljanju podataka; zalaže se za uspostavu alata za digitalnu pismenost na svim razinama obrazovanja te stoga poziva države članice i institucije EU-a da ulažu u informativnu i medijsku pismenost, obrazovanje i osposobljavanje; smatra da su informacijske i medijske kompetencije ključne za sve građane, uključujući ranjive društvene skupine, kako bi mogli kritički procijeniti i razumjeti nova kretanja, među ostalim razumijevanje funkcioniranja umjetne inteligencije i njezine inherentne pristranosti te tako razviti nove oblike kritičkog razmišljanja; preporučuje Komisiji da promiče formate obrazovanja i kontinuiranog obrazovanja povezane s umjetnom inteligencijom, robotikom i tehnologijom;

13. napominje da postoji bitna razlika između transparentnosti algoritama i transparentnosti uporabe algoritama; ističe važnost transparentnosti i odgovornosti algoritama kojima se koriste platforme za razmjenu video sadržaja (VSP) i platforme za streaming kako bi se osigurao pristup kulturno i jezično raznolikom sadržaju te izbjeglo davanje prednosti određenim sadržajima; smatra da svaki korisnik treba biti propisno obaviješten da se za preporučivanje sadržaja koristi algoritam te ih treba moći optimizirati prema svojem izboru, a ti algoritmi ne smiju ograničavati korisnikov odabir; smatra da svaki korisnik treba imati opciju ukidanja preporuke sadržaja generirane umjetnom inteligencijom; ističe da bi se ti algoritmi trebali izrađivati tako da odražavaju kulturnu raznolikost naših društava, pružaju istinsku kulturnu otvorenost i jamče kreativnu slobodu; ustraje u tome da se podaci o korisnicima koje prikuplja umjetna inteligencija, kao što su kulturne preferencije ili obrazovni rezultati, ne smiju prenositi ili koristiti bez znanja vlasnika;

14. primjećuje da su tehnološke inovacije u sportu uvijek bile dobro prihvaćene; međutim, smatra da upotreba tehnologija umjetne inteligencije u sportu koja se brzo širi na sportska natjecanja, sve više dovodi u pitanje pošteno natjecanje iz razloga što timovi s najviše financijskih sredstava mogu nabaviti najbolju tehnologiju te tako potencijalno imati nepoštenu prednost; naglašava da se taj razvoj događaja mora strogo nadzirati i naglašava da je za to područje potreban regulatorni okvir koji u razvoju tehnologija umjetne inteligencije primjenjuje etičke i antropocentrične kriterije; poziva na potpunu transparentnost algoritama i tehnologija koji se koriste u sportu kako bi se zajamčili pravedni natjecateljski uvjeti;

 

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	31.8.2020
Rezultat konačnog glasovanja	+: –: 0:	28 0 2
Zastupnici nazočni na konačnom glasovanju	Isabella Adinolfi, Christine Anderson, Ilana Cicurel, Gilbert Collard, Gianantonio Da Re, Laurence Farreng, Tomasz Frankowski, Romeo Franz, Hannes Heide, Irena Joveva, Petra Kammerevert, Niyazi Kizilyürek, Predrag Fred Matić, Dace Melbārde, Victor Negrescu, Peter Pollák, Marcos Ros Sempere, Andrey Slabakov, Massimiliano Smeriglio, Michaela Šojdrová, Sabine Verheyen, Salima Yenbou, Milan Zver
Zamjenici nazočni na konačnom glasovanju	Isabel Benjumea Benjumea, Christian Ehler, Ibán García Del Blanco, Bernard Guetta, Marcel Kolaja, Elżbieta Kruk, Martina Michels

 

 

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

28	+
PPE	Isabel Benjumea Benjumea, Christian Ehler, Tomasz Frankowski, Peter Pollák, Michaela Šojdrová, Sabine Verheyen, Milan Zver
S&D	Ibán García del Blanco, Hannes Heide, Petra Kammerevert, Predrag Fred Matić, Victor Negrescu, Marcos Ros Sempere, Massimiliano Smeriglio
RENEW	Ilana Cicurel, Laurence Farreng, Bernard Guetta, Irena Joveva
ID	Gilbert Collard
VERTS/ALE	Romeo Franz, Marcel Kolaja, Salima Yenbou
ECR	Elżbieta Kruk, Dace Melbārde, Andrey Slabakov
GUE/NGL	Niyazi Kizilyürek, Martina Michels
NI	Isabella Adinolfi

 

0	-
-	-

 

2	0
ID	Christine Anderson, Gianantonio Da Re

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

INFORMACIJE O USVAJANJU U NADLEŽNOM ODBORU

Datum usvajanja	1.10.2020
Rezultat konačnog glasovanja	+: –: 0:	20 0 4
Zastupnici nazočni na konačnom glasovanju	Manon Aubry, Gunnar Beck, Geoffroy Didier, Angel Dzhambazki, Ibán García Del Blanco, Jean-Paul Garraud, Esteban González Pons, Mislav Kolakušić, Gilles Lebreton, Karen Melchior, Jiří Pospíšil, Franco Roberti, Marcos Ros Sempere, Liesje Schreinemacher, Stéphane Séjourné, Raffaele Stancanelli, József Szájer, Marie Toussaint, Adrián Vázquez Lázara, Axel Voss, Tiemo Wölken, Javier Zarzalejos
Zamjenici nazočni na konačnom glasovanju	Patrick Breyer, Evelyne Gebhardt

 

 

 

POIMENIČNO KONAČNO GLASOVANJE U NADLEŽNOM ODBORU

20	+
EPP	Geoffroy Didier, Esteban González Pons, Jiří Pospíšil, József Szájer, Axel Voss, Javier Zarzalejos
S&D	Ibán García Del Blanco, Evelyne Gebhardt, Franco Roberti, Marcos Ros Sempere, Tiemo Wölken
RENEW	Karen Melchior, Liesje Schreinemacher, Stéphane Séjourné, Adrián Vázquez Lázara
VERTS/ALE	Patrick Breyer, Marie Toussaint
ECR	Angel Dzhambazki, Raffaele Stancanelli
NI	Mislav Kolakušić

 

0	-

 

4	0
ID	Gunnar Beck, Jean Paul Garraud, Gilles Lebreton
GUE/NGL	Manon Aubry

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

• [1] SL L 252, 8.10.2018., str. 1.
• [2] SL L 180, 19.7. 2000., str. 22.
• [3] SL L 303, 2.12.2000., str. 16.
• [4] SL L 119, 4.5.2016., str. 1.
• [5] SL L 119, 4.5.2016., str. 89.
• [6] SL L 123, 12.5.2016., str. 1.
• [7] SL C 252, 18.7.2018., str. 239.
• [8] SL C 307, 30.8.2018., str. 163.
• [9] SL C 433, 23.12.2019., str. 86.
• [10] Usvojeni tekstovi, P8_TA(2018)0332.
• [11] Usvojeni tekstovi, P8_TA(2019)0081.
• [12] Komunikacija Komisije upućena Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija naslovljena „Europska strategija za podatke”, COM(2020)0066
• [13] Za automatiziranu vožnju vozila SAE International predložio je šest razina automatizacije vožnje u standardu J3016, koji je posljednji put ažuriran 2018. i nosi naziv J3016_201806. https://www.sae.org/standards/content/j3016_201806/
• [14]  Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
• [15]  Direktiva 2002/58/EZ Europskog parlamenta i Vijeća od 12. srpnja 2002. o obradi osobnih podataka i zaštiti privatnosti u području elektroničkih komunikacija (Direktiva o privatnosti i elektroničkim komunikacijama) (SL L 201, 31.7.2002., str. 37.).
• [16] Definicija kao u Komunikaciji Europske komisije COM(2018)237 final, 25.04.2018., str. 1., prilagođeno.
• [17] Iz definicije industrijskih robota u normi ISO 8373.
• [18]  Direktiva (EU) 2019/1937 Europskog parlamenta i Vijeća od 23. listopada 2019. o zaštiti osoba koje prijavljuju povrede prava Unije (SL L 305, 26.11.2019., str. 17.).
• [19]  Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
• [20]  Odluka br. 768/2008/EZ Europskog parlamenta i Vijeća od 9. srpnja 2008. o zajedničkom okviru za stavljanje na tržište proizvoda i o stavljanju izvan snage Odluke Vijeća 93/465/EEZ (SL L 218, 13.8.2008., str. 82.).
• [21]  COD (2018)0089, objava u tijeku.
• [22]  Direktiva (EU) 2019/882 Europskog parlamenta i Vijeća od 17. travnja 2019. o zahtjevima za pristupačnost proizvoda i usluga (SL L 151, 7.6.2019., str. 70.).
• [23]  SL L 180, 19.7. 2000., str. 22.
• [24]  SL L 303, 2.12.2000., str. 16.
• [25]  SL L 119, 4.5.2016., str. 1.
• [26]  SL L 119, 4.5.2016., str. 89.
• [27] SL C 252, 18.7.2018., str. 239.
• [28] Komunikacija Komisije o umjetnoj inteligenciji za Europu, COM(2018)237 final
• [29] STOA, “The ethics of artificial intelligence: issues and initiatives” (Etički aspekti umjetne inteligencije: pitanja i inicijative), ožujak 2020.
• [30] Europski parlament “Encouraging STEM Studies for the labour market” (Poticanje studija u području znanosti, tehnologije, inženjerstva i matematike (STEM) za tržište rada), ožujak 2015.
• [31] CEDEFOP, „European Skills and Jobs survey“ (Istraživanje o vještinama i radnim mjestima u Europi)
• [32] Capgemini Research Institute, “Why addressing ethical questions in AI will benefit organisations” (Zašto je rješavanje etičkih pitanja u području umjetne inteligencije korisno za organizacije), srpanj 2019.
• [33] OECD, „Recommendation of the Council on Artificial Intelligence” (Preporuka Vijeća o umjetnoj inteligenciji), 2019., https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
• [34] Vijeće Europske unije „Zaključci Vijeća o oblikovanju digitalne budućnosti Europe”, lipanj 2020.
• [35] „European Social Partners Framework Agreement on Digitalisation“ (Okvirni sporazum europskih socijalnih partnera o digitalizaciji), lipanj 2020.
• [36] Europski parlament: „Education and employment of women in science, technology and the digital economy, including AI and its influence on gender equality” (Obrazovanje i zapošljavanje žena u znanosti, tehnologiji i digitalnom gospodarstvu, uključujući UI i njegov utjecaj na rodnu ravnopravnost), travanj 2020.
• [37] Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
• [38] 1https://rm.coe.int/guidelines-on-artificial-intelligence-and-data-protection/168091f9d8
• [39] 2https://legalinstruments.oecd.org/api/print?ids=648⟨=en
• [40] 3https://ethicsinaction.ieee.org
• [41] SL C 252, 18.7.2018., str. 239.
• [42] Bijela knjiga Komisije o umjetnoj inteligenciji – Europski pristup izvrsnosti i izgradnji povjerenja, COM(2020)0065
• [43]  Komunikacija Komisije upućena Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija naslovljena „Europska strategija za podatke”, COM(2020)0066
• [44] SL C 124I , 17.4.2020., str. 1.
• [45] Uredba (EU) 2017/745 Europskog parlamenta i Vijeća od 5. travnja 2017. o medicinskim proizvodima, o izmjeni Direktive 2001/83/EZ, Uredbe (EZ) br. 178/2002 i Uredbe (EZ) br. 1223/2009 te o stavljanju izvan snage direktiva Vijeća 90/385/EEZ i 93/42/EEZ (SL L 117, 5.5.2017., str. 1.)
• [46] Komunikacija Komisije Europskom parlamentu i Vijeću: Zaštita podataka kao jedan od stupova jačanja položaja građana i pristupa EU-a digitalnoj tranziciji – dvije godine primjene Opće uredbe o zaštiti podataka (COM(2020)264 final)