Indeks 
 Prethodno 
 Sljedeće 
 Cjeloviti tekst 
Postupak : 2015/2103(INL)
Faze dokumenta na plenarnoj sjednici
Odabrani dokument : A8-0005/2017

Podneseni tekstovi :

A8-0005/2017

Rasprave :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Glasovanja :

PV 16/02/2017 - 6.9
Objašnjenja glasovanja

Doneseni tekstovi :

P8_TA(2017)0051

Usvojeni tekstovi
PDF 509kWORD 77k
Četvrtak, 16. veljače 2017. - Strasbourg Završno izdanje
Pravila građanskog prava o robotici
P8_TA(2017)0051A8-0005/2017
Rezolucija
 Prilog

Rezolucija Europskog parlamenta od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici (2015/2103(INL))

Europski parlament,

–  uzimajući u obzir članak 225. Ugovora o funkcioniranju Europske unije,

–  uzimajući u obzir Direktivu Vijeća 85/374/EEZ(1),

–  uzimajući u obzir studiju pod nazivom „Etički aspekti kibernetičko-fizičkih sustava” koja je provedena u ime Odjela Parlamenta za ocjenjivanje znanstvenih i tehnoloških odabira (STOA) i kojom upravlja Odjel za znanstvena predviđanja (STOA) Glavne uprave za usluge parlamentarnih istraživanja;

–  uzimajući u obzir članke 46. i 52. Poslovnika,

–  uzimajući u obzir izvješće Odbora za pravna pitanja i mišljenja Odbora za promet i turizam, Odbora za građanske slobode, pravosuđe i unutarnje poslove, Odbora za zapošljavanje i socijalna pitanja, Odbora za okoliš, javno zdravlje i sigurnost hrane, Odbora za industriju, istraživanje i energetiku te Odbora za unutarnje tržište i zaštitu potrošača (A8-0005/2017),

Uvod

A.  budući da su od vremena Frankensteina Mary Shelley, klasičnog mita o Pigmalionu i praškog Golema do robota Karela Čapeka, koji je i skovao tu riječ, ljudi sanjali o mogućnosti da proizvedu inteligentne strojeve, a najčešće je riječ bila o androidima s ljudskim obilježjima;

B.  budući da u trenutku kad se ljudska vrsta nalazi na pragu razdoblja u kojem je sve više sofisticiranih robota, botova, androida i drugih oblika umjetne inteligencije spremno za novu industrijsku revoluciju, koja će vrlo vjerojatno utjecati na sve slojeve društva, od ključne je važnosti da zakonodavac razmotri pravne i etičke implikacije i učinke toga bez kočenja inovacija;

C.  budući da je potrebno donijeti opće prihvaćene definicije pojmova „robot” i „umjetna inteligencija” koje su fleksibilne i kojima se ne koče inovacije;

D.  budući da je od 2010. do 2014. prodaja robota u prosjeku porasla za 17 % godišnje, a u 2014. za 29 %, što predstavlja najveći godišnji porast dosad, te da su dobavljači automobilskih dijelova, elektroindustrija i elektronička industrija glavni pokretači rasta; budući da se tijekom posljednjeg desetljeća broj prijavljenih patenata u području robotike utrostručio;

E.  budući da je stopa zaposlenosti trajno rasla tijekom posljednjih 200 godina zbog tehnološkog razvoja; budući da razvoj robotike i umjetne inteligencije može potencijalno preobraziti živote i radne prakse, povećati učinkovitost, uštedu i razine sigurnosti te pružiti poboljšanu razinu usluga; dok se u kratkoročnom do srednjoročnom razdoblju od robotike i umjetne inteligencije očekuje korist u smislu učinkovitosti i uštede, ne samo u proizvodnji i trgovini već i u područjima kao što su prijevoz, medicinska njega, spašavanje, obrazovanje i poljoprivreda, te istovremeno i mogućnost da se ljudi prestanu izlagati opasnim uvjetima, primjerice pri čišćenju područja zagađenih otrovnim tvarima;

F.  budući da je starenje rezultat dužeg očekivanog životnog vijeka zbog napretka u pogledu životnih uvjeta i u modernoj medicini te je ono jedno od najvećih političkih, socijalnih i gospodarskih izazova za europska društva u 21. stoljeću; budući da će do 2025. više od 20 % Europljana biti u dobi od 65 godina ili starije, uz posebno brz porast broja osoba starijih od 80 godina, što će dovesti do potpuno različite ravnoteže među generacijama u našim društvima, te budući da je u interesu društva i obitelji da starije osobe ostanu zdrave i aktivne što je dulje moguće;

G.  budući da aktualni trend vodi prema razvoju pametnih i autonomnih strojeva koje je moguće obučavati i koji mogu samostalno donositi odluke te da to dugoročno donosi ne samo gospodarske koristi nego i otvara niz pitanja povezanih s izravnim i neizravnim učincima na cjelokupno društvo;

H.  budući da strojno učenje nudi izrazito velike gospodarske i inovativne koristi za društvo jer se njime uvelike poboljšava mogućnost analize podataka te da ono predstavlja nove izazove u pogledu jamčenja nediskriminacije, pravičnosti, transparentnosti i razumljivosti u postupcima donošenja odluka;

I.  budući da je slično tome potrebno ocijeniti gospodarske pomake i učinak na zapošljavanje kao rezultat razvoja robotike i strojnog učenja; budući da, unatoč njezinim neosporivim prednostima, primjena robotike može rezultirati transformacijom tržišta rada i potrebom da se u skladu s time razmotri budućnost obrazovanja, zapošljavanja i socijalnih politika;

J.  budući da široko rasprostranjena uporaba robota možda neće automatski dovesti do toga da oni zamjenjuju radna mjesta, međutim, niskokvalificirana radna mjesta u radno intenzivnim sektorima bit će podložnija automatizaciji; budući da bi taj trend mogao vratiti proizvodne procese natrag u EU; budući da je istraživanje pokazalo da zaposlenost znatno brže raste u profesijama u kojima se češće koriste računala; budući da se automatizacijom poslova može potencijalno osloboditi ljude od monotonog fizičkog rada i usmjeriti ih prema kreativnijim i značajnijim zadaćama; budući da automatizacija zahtijeva da vlade ulažu u reforme obrazovanja i drugih područja kako bi se poboljšalo preusmjeravanje na one vještine koje će biti potrebne radnicima u budućnosti;

K.  budući da je, s obzirom na sve veće podjele u društvu i smanjivanje srednje klase, važno imati na umu da razvoj robotike može dovesti do visoke koncentracije bogatstva i moći u rukama manjine;

L.  budući da će se razvojem robotike i umjetne inteligencije definitivno utjecati na radno okruženje, što može stvoriti nove probleme povezane s odgovornošću, ali i ukloniti druge probleme; budući da je potrebno razjasniti pravnu odgovornost u pogledu poslovnog modela i obilježja radnika u slučaju da dođe do hitnih slučajeva ili problema;

M.  budući da trend usmjeren prema automatizaciji zahtijeva da subjekti uključeni u razvoj i stavljanje na tržište aplikacija umjetne inteligencije od samog početka razmišljaju o sigurnosti i etici, čime se priznaje da oni moraju biti spremni prihvatiti pravnu odgovornost za kvalitetu tehnologije koju proizvode;

N.  budući da je u Uredbi (EU) 2016/679 Europskog parlamenta i Vijeća(2) (Opća uredba o zaštiti podataka) utvrđen pravni okvir za zaštitu osobnih podataka; budući da će se možda trebati dodatno rješavati pitanje daljnjih aspekata povezanih s pristupom podacima i zaštitom osobnih podataka i privatnosti s obzirom na to da se mogu javiti problemi zbog međusobne komunikacije aplikacija i uređaja te njihove komunikacije s bazama podataka bez ljudske intervencije;

O.  budući da se napredak u području robotike i umjetne inteligencije može i treba ostvariti na način kojim se štiti dostojanstvo, autonomnost i samoodređenje pojedinca, posebno u području ljudske skrbi i interakcije te u kontekstu medicinskih uređaja koji „popravljaju” ili poboljšavaju ljude;

P.  budući da naposljetku postoji mogućnost da bi umjetna inteligencija dugoročno mogla nadići ljudsku intelektualnu sposobnost;

Q.  budući da daljnji razvoj i povećano korištenje automatiziranog i algoritamskog odlučivanja nesumnjivo utječe na konačne odluke koje donosi privatna osoba (poput poslovnog subjekta ili internetskog korisnika) ili administrativno, pravosudno ili drugo javno tijelo, a koje su potrošačke, poslovne ili administrativne prirode; budući da je u postupak automatiziranog i algoritamskog odlučivanja potrebno uvrstiti zaštitne mjere i mogućnost ljudske kontrole i verifikacije;

R.  budući da nekoliko stranih jurisdikcija, kao što su SAD, Japan, Kina i Južna Koreja, razmatra regulatorne mjere u području robotike i umjetne inteligencije, a do određene su ih mjere već i poduzele, te budući da su neke države članice počele razmatrati mogućnost osmišljavanja pravnih normi ili promjene zakonodavstva kako bi se uzele u obzir nove aplikacije iz područja takvih tehnologija;

S.  budući da bi europskoj industriji mogao koristiti učinkovit, usklađen i transparentan pristup regulaciji na razini Unije kojim bi se utvrdili predvidljivi i dovoljno jasni uvjeti pod kojima poduzeća mogu razvijati aplikacije i planirati svoje poslovne modele u europskim razmjerima, a istovremeno bi se zajamčilo da Unija i njezine države članice zadrže kontrolu nad regulatornim normama koje treba uspostaviti kako ne bi bile prisiljene usvojiti i poštovati norme koje su im nametnuli drugi, odnosno treće zemlje koje su također predvodnice u razvoju robotike i umjetne inteligencije;

Opća načela

T.  budući da Asimove zakone(3) treba smatrati upućenima projektantima, proizvođačima i operatorima robota, uključujući robote s integriranom autonomijom i mogućnošću samostalnog učenja, s obzirom na to da ih se ne može prevesti u strojni kod;

U.  budući da su korisna i nužna pravila kojima se uređuju, prije svega, odgovornost i transparentnost te koja odražavaju suštinski europske i univerzalne humanističke vrijednosti koje obilježavaju doprinos Europe društvu; budući da se takvim pravilima ne smije utjecati na postupak istraživanja, inovacija i razvoja u području robotike;

V.  budući da bi Europska unija mogla imati ključnu ulogu u uspostavljanju temeljnih etičkih načela koja treba poštovati pri razvoju, programiranju i upotrebi robota i umjetne inteligencije te u uključivanju tih načela u europske propise i kodekse ponašanja u cilju utjecanja na tehnološku revoluciju na način da ona služi čovječanstvu te da koristi od napredne robotike i umjetne inteligencije budu široko rasprostranjene, a da se pritom u najvećoj mogućoj mjeri izbjegnu potencijalne zamke;

W.  budući da je ovoj rezoluciji priložena Povelja o robotici koja je izrađena s pomoću Odjela za znanstvena predviđanja (STOA) Glavne uprave za usluge parlamentarnih istraživanja, a njome se predlaže kodeks etičkog ponašanja za inženjere robotike, kodeks za povjerenstva za istraživačku etiku te dozvola za projektante i korisnike;

X.  budući da je za Uniju potrebno usvojiti postupan, pragmatičan i oprezan pristup kakav je zagovarao Jean Monnet(4) u pogledu budućih inicijativa povezanih s robotikom i umjetnom inteligencijom kako bi se zajamčilo da ne kočimo inovacije;

Y.  budući da je s obzirom na razvojni stadij robotike i umjetne inteligencije vrijeme da se započne s radom na pitanjima građanskopravne odgovornosti;

Odgovornost

Z.  budući da današnji roboti, zahvaljujući impresivnim tehnološkim naprecima iz prošlog desetljeća, nisu samo sposobni za obavljanje radnji koje su ranije bile tipične i rezervirane isključivo za ljude već su, zahvaljujući razvoju određenih autonomnih i kognitivnih obilježja, kao što su primjerice sposobnost za učenje iz iskustva i donošenje donekle neovisnih odluka, sve sličniji agentima koji su u interakciji sa svojom okolinom i sposobni su je znatno mijenjati; budući da je u tom kontekstu ključno pitanje pravna odgovornost koja proizlazi iz štetnog djelovanja robota;

AA.  budući da se autonomija robota može definirati kao sposobnost da donosi odluke i da ih provodi u stvarnom svijetu, neovisno o vanjskoj kontroli i utjecajima; budući da je ta autonomija isključivo tehnološke prirode i da njezin stupanj ovisi o tome za koliko je sofisticiranu interakciju s okolinom robot dizajniran;

AB.  budući da što su roboti autonomniji, to ih se manje može smatrati jednostavnim alatom u rukama drugih aktera (kao što su proizvođač, operater, vlasnik, korisnik itd.); budući da se time otvara pitanje jesu li dostatna obična pravila o odgovornosti ili to zahtijeva uvođenje novih načela i pravila kojima se omogućuje jasnoća u pogledu pravne odgovornosti različitih aktera kada je riječ o odgovornosti za djelovanja i propuste robota u slučajevima kada se kao uzrok ne može odrediti specifični ljudski akter te je li bilo moguće izbjeći djelovanja ili propuste robota koji su prouzročili štetu;

AC.  budući da se u posljednje vrijeme zbog autonomije robota postavlja pitanje njihove prirode u svjetlu postojećih pravnih kategorija ili bi pak za njih trebalo stvoriti novu kategoriju s posebnim obilježjima i implikacijama;

AD.  budući da se prema trenutačnom pravnom okviru roboti ne mogu smatrati odgovornima per se za svoja djela i propuste kojima su oštećene treće osobe; budući da postojeća pravila o odgovornosti pokrivaju slučajeve u kojima se uzrok djelovanja ili propusta robota u konačnici može naći u djelovanju konkretnog ljudskog agenta, kao što je primjerice proizvođač, operater, vlasnik ili korisnik koji je mogao predvidjeti i izbjeći štetno ponašanje robota; budući da se, osim toga, proizvođači, operateri, vlasnici ili korisnici mogu smatrati strogo odgovornima za djelovanja i propuste robota;

AE.  budući da se aktualni pravni okvir za odgovornost za proizvode, prema kojem je proizvođač odgovoran za neispravnost proizvoda, i propisi kojima se uređuje odgovornost za štetno djelovanje, prema kojima je korisnik proizvoda odgovoran za ponašanje koje vodi do štete, primjenjuju na štetu uzrokovanu robotima ili umjetnom inteligencijom;

AF.  budući da u scenariju u kojem robot donosi samostalne odluke tradicionalna pravila neće biti dovoljna za rješavanje pitanja pravne odgovornosti za štetu uzrokovanu robotom jer prema tim pravilima ne bi bilo moguće utvrditi koja je strana odgovorna za odštetu i zahtijevati od nje da ispravi štetu koju je uzrokovala;

AG.  budući da su tradicionalna pravila neprimjenjiva zbog nedostataka aktualnog pravnog okvira koji se najbolje vide i u području ugovorne odgovornosti u slučajevima kad su strojevi dizajnirani na način da sami mogu birati partnere, pregovarati o ugovornim uvjetima, sklapati ugovore i odlučivati hoće li i kako će primjenjivati te ugovore te da zbog toga do izražaja dolazi potreba za novim, učinkovitim i ažuriranim pravilima koja trebaju biti usklađena s nedavnim tehnološkim razvojem i inovacijama koje se koriste na tržištu;

AH.  budući da je u pogledu izvanugovorne odgovornosti Direktivom 85/374/EEC obuhvaćena samo šteta koja nastane zbog greške u proizvodnji robota i pod uvjetom da oštećena osoba može dokazati stvarnu štetu, neispravnost proizvoda i uzročnu vezu između štete i neispravnosti, stoga možda neće biti dostatan okvir koji uključuje strogu odgovornost ili odgovornost bez krivnje;

AI.  budući da usprkos području primjene Direktive 85/374/EEZ trenutačni pravni okvir ne bi bio dovoljan da se pokrije šteta koju je uzrokovao robot nove generacije jer on može imati sposobnost prilagodbe i učenja, što sa sobom povlači određen stupanj nepredvidljivosti njegova ponašanja s obzirom na to da bi takvi roboti mogli samostalno učiti iz vlastitih i promjenjivih iskustava te biti u interakciji sa svojom okolinom na jedinstven i nepredvidljiv način;

Opća načela razvoja robotike i umjetne inteligencije za civilnu upotrebu

1.  poziva Komisiju da predloži zajedničku europsku definiciju kiberfizičkih sustava, autonomnih sustava, pametnih autonomnih robota i njihovih potkategorija uzimajući u obzir sljedeća obilježja pametnih robota:

   sposobnost autonomnog rada s pomoću senzora i/ili razmjene podataka s okolinom (međusobna povezivost) te dijeljenja i analize tih podataka
   samostalno učenje iz iskustva ili s pomoću interakcije (fakultativni kriterij)
   barem manja fizička potpora
   prilagodba ponašanja i djelovanja u odnosu na okolinu
   nedostatak života u biološkom smislu;

2.  smatra da treba uvesti sveobuhvatni sustav Unije za registraciju naprednih robota u okviru unutarnjeg tržišta Unije kada je to relevantno i potrebno za specifične kategorije robota te poziva Komisiju da uspostavi kriterije za klasifikaciju robota koje bi trebalo registrirati; u tom kontekstu poziva Komisiju da istraži bi li bilo poželjno da takvim sustavom za registraciju i registrom upravlja Agencija EU-a za robotiku i umjetnu inteligenciju koja bi bila imenovana za taj zadatak;

3.  ističe da bi se razvoj robotike trebao usredotočiti na dopunjavanje ljudskih sposobnosti, a ne na njihovo zamjenjivanje; smatra da je u razvoju robotike i umjetne inteligencije ključno zajamčiti da ljudi uvijek imaju kontrolu nad inteligentnim strojevima; smatra da je potrebno usmjeriti posebnu pozornost na mogući razvoj emotivne veze između ljudi i robota, posebno u osjetljivim skupinama kako što su djeca, starije osobe i osobe s invaliditetom, te ističe pitanja koja se otvaraju zbog mogućeg ozbiljnog emotivnog i fizičkog utjecaja takve emotivne veze na ljude;

4.  naglašava da se jedinstvenim pristupom na razini Unije može olakšati razvoj jer se na taj način izbjegava fragmentacija na unutarnjem tržištu i istovremeno naglašava važnost načela međusobnog priznavanja u prekograničnoj upotrebi robota i robotskih sustava; podsjeća da bi se testiranja, izdavanje certifikata i odobrenje za stavljanje na tržište trebali zahtijevati u samo jednoj državi članici; naglašava da bi taj pristup trebao biti popraćen djelotvornim nadzorom tržišta;

5.  ističe važnost mjera za pomoć malim i srednjim poduzećima te novoosnovanim (start-up) poduzećima u sektoru robotike, koja stvaraju nove tržišne segmente u tom sektoru i koriste robote;

Istraživanja i inovacije

6.  ističe da su mnoge robotske aplikacije još uvijek u eksperimentalnoj fazi; pozdravlja činjenicu da države članice i Unija financiraju sve više istraživačkih projekata; smatra da je ključno da Unija, zajedno s državama članicama s pomoću javnog financiranja, ostane predvodnik u istraživanju u području robotike i umjetne inteligencije; poziva Komisiju i države članice da ojačaju financijske instrumente za istraživačke projekte u području robotike i informacijsko-komunikacijske tehnologije, uključujući javno-privatna partnerstva, te da u svoje politike u području istraživanja uvrste načela otvorene znanosti i odgovorne etičke inovacije; naglašava da treba uložiti dovoljno sredstava u pronalazak rješenja za društvene, etičke, pravne i gospodarske izazove koji proizlaze iz tehnološkog razvoja i njegovih primjena;

7.  poziva Komisiju i države članice da potaknu istraživačke programe, istraživanja o mogućim dugoročnim opasnostima i mogućnostima koje proizlaze iz tehnologija umjetne inteligencije i robotike te da čim prije potaknu pokretanje strukturiranog javnog dijaloga o posljedicama razvoja takvih tehnologija; poziva Komisiju da poveća potporu u okviru revizije višegodišnjeg financijskog okvira na sredini razdoblja za program SPARC koji se financira iz programa Obzor 2020.; poziva Komisiju i države članice da usmjere zajedničke napore u pažljivo praćenje i jamčenje jednostavnijeg prijelaza tih tehnologija iz faze istraživanja u fazu stavljanja na tržište i korištenja na tržištu nakon provođenja prikladnih sigurnosnih procjena u skladu s načelom predostrožnosti;

8.  ističe da inovacije u području robotike i umjetne inteligencije te integracija tehnologije robotike i umjetne inteligencije u gospodarstvo i društvo zahtijevaju digitalnu infrastrukturu kojom se omogućava univerzalna povezivost; poziva Komisiju da uspostavi okvir kojim će se zadovoljiti uvjeti u pogledu povezivosti za digitalnu budućnost Unije i da se pobrine za to da pristup širokopojasnoj i 5G mreži bude potpuno u skladu s načelom mrežne neutralnosti;

9.  čvrsto je uvjeren da je interoperabilnost među sustavima, uređajima i uslugama u oblaku, utemeljena na integriranoj sigurnosti i privatnosti, nužna za protok podataka u stvarnom vremenu, kojim se omogućava veća fleksibilnost i autonomnost robota i umjetne inteligencije; poziva Komisiju da promiče otvoreno okružje, od otvorenih standarda i inovativnih modela licenciranja do otvorenih platformi i transparentnosti, kako bi se izbjegla ovisnost o vlasničkim sustavima kojima se ograničava interoperabilnost;

Etička načela

10.  napominje da je potencijal za napredak s pomoću primjene robotike obilježen nizom napetosti ili rizicima koje je potrebno ozbiljno razmotriti u pogledu sigurnosti, zdravlja i zaštite ljudi, slobode, privatnosti, integriteta i digniteta te samoodređenja, nediskriminacije i zaštite osobnih podataka;

11.  smatra da je aktualni pravni okvir Unije potrebno ažurirati i nadopuniti, kada je to prikladno, usmjerenim etičkim načelima koja odražavaju složenost područja robotike i njenih brojnih društvenih, medicinskih i bio-etičkih implikacija; smatra da su potrebne jasne, stroge i učinkovite okvirne etičke smjernice za razvoj, projektiranje, proizvodnju, upotrebu i izmjenu robota kojima će se nadopuniti pravne preporuke iz ovog izvješća te postojeća pravna stečevina država članica i Unije; u prilogu Rezoluciji predlaže okvir u obliku povelje koja bi sadržavala kodeks ponašanja za inženjere robotike, kodeks za povjerenstva koji se bave istraživačkom etikom koji bi se koristio pri preispitivanju protokola robotike te obrasce dozvola za dizajnere i korisnike;

12.  ističe načelo transparentnosti, tj. da treba uvijek biti moguće opravdati sve odluke koje se donose s pomoću umjetne inteligencije i koje mogu znatno utjecati na život jedne ili više osoba; smatra da treba uvijek biti moguće prevesti izračune sustava umjetne inteligencije u oblik razumljiv ljudima; smatra da napredni roboti moraju biti opremljeni „crnom kutijom” u kojoj su pohranjeni podaci o svim transakcijama koje stroj izvršava, uključujući logika koja je dovela do njegovih odluka;

13.  ističe da bi okvirne etičke smjernice trebale biti utemeljene na načelima djelovanja u interesu dobrobiti, neštetnosti, autonomije i pravde, kao i na načelima i vrijednostima utvrđenima u članku 2. Ugovora o Europskoj uniji i u Povelji o temeljnim pravima, kao što su ljudsko dostojanstvo, ravnopravnost, pravda i jednakost, nediskriminacija, informirani pristanak, zaštita privatnog i obiteljskog života i podataka, kao i na drugim temeljnim načelima i vrijednostima zakonodavstva Unije poput nestigmatizacije, transparentnosti, autonomije, individualne i društvene odgovornosti, te na postojećoj etičkoj praksi i kodeksima;

14.  smatra da je potrebno posebnu pozornost usmjeriti na robote koji predstavljaju znatnu opasnost u pogledu povjerljivosti zbog njihova postavljanja u tradicionalno zaštićena i privatna okruženja te zbog njihove mogućnosti izvlačenja i slanja osobnih i osjetljivih podataka;

Europska agencija

15.  smatra da je potrebna pojačana suradnja između država članica i Komisije kako bi se zajamčila usklađena prekogranična pravila u Uniji kojima se potiče suradnja među europskim industrijama i omogućuje diljem Unije stavljanje u upotrebu robota koji su usklađeni s potrebnom razinom zaštite i sigurnosti, kao i s etičkim načelima iz zakonodavstva Unije;

16.  traži od Komisije da razmotri osnivanje Europske agencije za robotiku i umjetnu inteligenciju u cilju pružanja tehničkog, etičkog i regulatornog stručnog znanja koje je potrebno kako bi se na razini EU-a i na razini država članica pružila podrška relevantnim javnim akterima u njihovim naporima da zajamče pravodoban, etički i informiran odgovor na nove prilike i izazove, posebno na one koji su prekogranične prirode, koji proizlaze iz tehnološkog razvoja robotike, primjerice u prometnom sektoru;

17.  smatra da je zbog potencijala i problema povezanih s upotrebom robotike i zbog aktualne dinamike ulaganja opravdano da Europska agencija raspolaže odgovarajućim proračunom i osobljem koje čine regulatori i vanjski tehnički i etički stručnjaci, koji po sektorima i multidisciplinarno prate robotske aplikacije, utvrđuju norme za najbolje prakse i, prema potrebi, predlažu regulatorne mjere, utvrđuju nova načela te se bave potencijalnim problemima u vezi sa zaštitom potrošača i sistemskim izazovima; poziva Komisiju (i Europsku agenciju, ako se osnuje) da svake godine izvještavaju Europski parlament o novostima u razvoju robotike i o svim mjerama koje je potrebno poduzeti;

Prava intelektualnog vlasništva i prijenos podataka

18.  napominje da ne postoje posebne pravne odredbe za robotiku, ali da se postojeći pravni režimi i doktrine mogu primijeniti na robotiku, s time da neke aspekte treba posebno razmotriti; poziva Komisiju da podrži horizontalan i tehnološki neutralan pristup intelektualnom vlasništvu koji se primjenjuje na različite sektore u kojima se bi se mogla koristiti robotika;

19.  poziva Komisiju i države članice da zajamče usklađenost građanskopravnih propisa u sektoru robotike s Općom uredbom o zaštiti podataka te s načelima nužnosti i proporcionalnosti; poziva Komisiju i države članice da uzmu u obzir brz tehnološki razvoj u području robotike, uključujući razvoj kiberfizičkih sustava, te da zajamče da zakonodavstvo Unije ne zaostaje za krivuljom tehnološkog razvoja i stavljanja tehnologije u upotrebu;

20.  naglašava da se pravo na poštovanje privatnog života i zaštitu osobnih podataka u skladu s člancima 7. i 8. Povelje i člankom 16. Ugovora o funkcioniranju Europske unije (UFEU) primjenjuje na sva područja robotike te da je potrebno u potpunosti poštovati pravni okvir Unije; u tom pogledu poziva na to da se propisi i kriteriji u vezi s upotrebom kamera i senzora u robotima razjasne u sklopu provedbenog okvira Opće uredbe o zaštiti podataka; poziva Komisiju da zajamči poštovanje načela o zaštiti podataka kao što su integrirana i zadana privatnost, smanjenje količine podataka i ograničavanje svrhe te transparentnih kontrolnih mehanizama za osobe čiji se podaci obrađuju i prikladnih pravnih lijekova u skladu sa zakonodavstvom Unije o zaštiti podataka, te da zajamči poticanje prikladnih preporuka i normi i njihovu integraciju u politike Unije;

21.  naglašava da je slobodan protok podataka iznimno važan za digitalno gospodarstvo i razvoj sektora robotike i umjetne inteligencije; ističe da je visoka razina sigurnosti robotskih sustava, uključujući njihove interne sustave podataka i protok podataka, ključna za primjerenu upotrebu robota i umjetne inteligencije; naglašava da je potrebno zajamčiti zaštitu mreža međusobno povezanih robota i umjetne inteligencije kako bi se spriječile moguće povrede sigurnosti; ističe da je ključna visoka razina sigurnosti i zaštite osobnih podataka, uzimajući u obzir privatnost u komunikaciji između ljudi, robota i umjetne inteligencije; ističe odgovornost dizajnera sustava robotike i umjetne inteligencije da razvijaju proizvode na način da budu sigurni i prilagođeni svrsi; poziva Komisiju i države članice da osiguraju podršku i poticaje za razvoj potrebne tehnologije, uključujući integriranu sigurnost;

Normizacija, sigurnost i zaštita

22.  ističe da je pitanje utvrđivanja normi i omogućavanja interoperabilnosti ključno za buduću konkurentnost u području tehnologija umjetne inteligencije i robotike; poziva Komisiju da nastavi s radom na međunarodnom usklađivanju tehničkih normi, posebno u suradnji s europskim organizacijama za normizaciju i Međunarodnom organizacijom za normizaciju, kako bi se potaknule inovacije, izbjegla fragmentacija unutarnjeg tržišta i zajamčila visoka razina sigurnosti proizvoda i zaštite potrošača, uključujući kada je to prikladno minimalne norme o sigurnosti na radu; ističe važnost zakonitog obrnutog inženjeringa i otvorenih standarda u cilju postizanja maksimalne vrijednosti inovacija i jamčenja da roboti mogu međusobno komunicirati; u tom smislu pozdravlja osnivanje posebnih tehničkih odbora, poput ISO/TC 299 Robotika, čiji je cilj isključivo raditi na razvoju standarda u području robotike;

23.  naglašava da je testiranje robota u stvarnim uvjetima ključno za utvrđivanje i ocjenu rizika koje bi roboti mogli uzrokovati te za ocjenu stadija tehnološkog razvoja robota izvan isključivo eksperimentalnih laboratorijskih uvjeta; u tom pogledu ističe da je testiranje robota u stvarnim uvjetima, posebno u gradovima i na cestama, višestruko problematično i nailazi na prepreke kojima se usporava razvoj tih faza testiranja, te da je u tom pogledu potrebna djelotvorna strategija i kontrolni mehanizam; poziva Komisiju da izradi jedinstvene kriterije za sve države članice koje bi one pojedinačno trebale primjenjivati kako bi utvrdile u kojim je područjima dozvoljeno eksperimentiranje s robotima, u skladu s načelom predostrožnosti;

Autonomna prijevozna sredstva

a) Autonomna vozila

24.  ističe da autonomni prijevoz obuhvaća sve vrste daljinski upravljanog, automatiziranog, umreženog i autonomnog cestovnog, željezničkog, vodenog i zračnog prijevoza, uključujući vozila, vlakove, plovila, trajekte, zrakoplove, bespilotne letjelice, kao i sve buduće oblike razvoja i inovacija u tom sektoru;

25.  smatra da je potrebno hitno uvesti učinkovita europska i globalna pravila u automobilski sektor kako bi se zajamčio prekogranični razvoj automatiziranih i autonomnih vozila i u potpunosti iskoristio njihov ekonomski potencijal te dobila najveća moguća korist od pozitivnih učinaka tehnoloških trendova; ističe da fragmentiranost regulatornih pristupa otežava provedbu autonomnih prometnih sustava i može ugroziti europsku konkurentnost;

26.  skreće pozornost na činjenicu da je vrijeme reakcije vozača u slučaju neplaniranog preuzimanja nadzora nad vozilom iznimno važno te stoga poziva odgovarajuće dionike da utvrde realne vrijednosti koje su odlučujuće za pitanja sigurnosti i odgovornosti;

27.  smatra da će prelazak na autonomna vozila imati učinak na sljedeće aspekte: građanskopravnu odgovornost (odgovornost i osiguranje), sigurnost na cestama, sva pitanja povezana s okolišem (npr. energetska učinkovitost, korištenje obnovljivih tehnologija i izvora energije), pitanja povezana s podacima (npr. pristup podacima, zaštita podataka i privatnosti, dijeljenje podataka), pitanja povezana s infrastrukturom informacijsko-komunikacijske tehnologije (npr. velika koncentracija učinkovite i pouzdane komunikacije) i zapošljavanje (npr. otvaranje i gubitak radnih mjesta, obuka vozača teretnih vozila za rukovanje automatiziranim vozilima); naglašava da će biti potrebna znatna ulaganja u cestovnu i energetsku infrastrukturu te u infrastrukturu povezanu s informacijskim i komunikacijskim tehnologijama; poziva Komisiju da u svojem radu povezanom s autonomnim vozilima u obzir uzme spomenute aspekte;

28.  naglašava da su pouzdane informacije o položaju i vremenu koje pružaju europski satelitski navigacijski programi Galileo i EGNOS od ključne važnosti za uvođenje autonomnih vozila te u tom pogledu potiče na finalizaciju i lansiranje satelita potrebnih za dovršetak europskog sustava pozicioniranja Galileo;

29.  skreće pozornost na veliku dodanu vrijednost autonomnih vozila za osobe sa smanjenom pokretljivošću, s obzirom na to da im takva vozila omogućuju učinkovitije sudjelovanje u individualnom cestovnom prometu, čime se olakšava i njihov svakodnevni život;

b) Bespilotne letjelice (RPAS)

30.  priznaje pozitivan napredak u području tehnologije bespilotnih letjelica, posebno u području traganja i spašavanja; ističe važnost okvira Unije za bespilotne letjelice kako bi se očuvale sigurnost, zaštita i privatnost građana Unije te poziva Komisiju da postupi na temelju preporuka iz Rezolucije Europskog parlamenta od 29. listopada 2015. o sigurnoj upotrebi zrakoplovnih sustava na daljinsko upravljanje (RPAS), opće poznatih kao bespilotne letjelice, u civilnom zrakoplovstvu(5); potiče Komisiju da izvrši procjene u pogledu sigurnosnih pitanja povezanih s raširenom upotrebom bespilotnih letjelica; poziva Komisiju da razmotri potrebu za uvođenjem obveznog sustava praćenja i identifikacije za zrakoplovne sustave na daljinsko upravljanje, kojim se omogućuje utvrđivanje položaja letjelica u stvarnom vremenu tijekom njihove upotrebe; podsjeća da bi homogenost i sigurnost zrakoplova bez posade trebalo zajamčiti mjerama utvrđenima u Uredbi (EZ) br. 216/2008 Europskog parlamenta i Vijeća(6);

Roboti za njegu

31.  naglašava da su istraživanje i razvoj u području robotike za skrb za starije osobe s vremenom postali rašireniji i jeftiniji te nastaju proizvodi bolje funkcionalnosti koje potrošači bolje prihvaćaju; napominje da takve tehnologije, koje starijim osobama, osobama s invaliditetom i osobama koje pate od demencije, kognitivnih poremećaja i gubitka pamćenja pružaju usluge prevencije, pomoći, praćenja, poticanja i socijalne interakcije, imaju široku primjenu;

32.  ističe da je ljudski kontakt jedan od temeljnih aspekata ljudske njege; vjeruje da bi se zamjenom ljudskog faktora robotima mogle dehumanizirati prakse njege, međutim, prima na znanje da bi roboti mogli izvršavati automatizirane zadaće njege i pomoći njegovateljima u njihovom radu, uz poboljšanje ljudske njege i bolje usmjeravanje procesa rehabilitacije, zbog čega bi medicinsko osoblje i njegovatelji mogli posvetiti više vremena dijagnostici i bolje isplaniranim opcijama liječenja; ističe da, iako se robotikom može poboljšati mobilnost i integracija osoba s invaliditetom i starijih osoba, ljudski njegovatelji će i dalje biti potrebni te nastaviti imati važnu ulogu koja nije u potpunosti zamjenjiva u socijalnoj interakciji;

Medicinski roboti

33.  naglašava važnost odgovarajućeg obrazovanja, osposobljavanja i pripreme zdravstvenih djelatnika poput doktora i njegovatelja kako bi se zajamčila najviša moguća razina stručne sposobnosti i zaštitilo zdravlje pacijenata; ističe da je potrebno odrediti minimalne stručne uvjete na temelju kojih će se kirurzima dopuštati rukovanje kirurškim robotima i njihova upotreba; smatra da je od temeljne važnosti poštovanje načela nadzirane autonomije robota na temelju kojega početno planiranje liječenja i konačan odabir načina izvršenja ostaju uvijek u domeni odluke ljudskog kirurga; naglašava posebnu važnost obuke za korisnike kojom će im se omogućiti bolje upoznavanje s tehnološkim zahtjevima u tom području; usmjerava pozornost na sve veći trend samodijagnosticiranja korištenjem mobilnog robota i, kao posljedica toga, na potrebu da se liječnike osposobi za rješavanje samodijagnosticiranih slučajeva; smatra da upotreba takvih tehnologija ne smije umanjiti odnos liječnik-pacijent niti mu naštetiti, već treba pružati pomoć liječnicima pri dijagnosticiranju i/ili liječenju pacijenta u cilju smanjenja opasnosti od ljudske greške i povećanja kvalitete života i očekivanog životnog vijeka;

34.  smatra da medicinski roboti imaju sve veću ulogu u operacijama visoke preciznosti i u izvođenju postupaka koji se ponavljaju te da oni mogu poboljšati rezultate u rehabilitaciji i pružati vrlo učinkovitu logističku potporu u bolnicama; napominje da se robotima mogu potencijalno smanjiti troškove zdravstvene skrbi jer će se zdravstvenim djelatnicima omogućiti da se usredotoče na prevenciju umjesto na liječenje, a više proračunskih sredstava namijenit će se za bolju prilagodbu različitim potrebama pacijenata, stalnom osposobljavanju zdravstvenih djelatnika i istraživanju;

35.  poziva Komisiju da prije datuma početka primjene Uredbe (EU) 2017/745 o medicinskim uređajima zajamči da su postupci za ispitivanje novih medicinskih robota sigurni, posebno ako je riječ o uređajima koji se implantiraju u ljudsko tijelo;

Popravljanje” organa i „poboljšavanje” ljudskog tijela

36.  ističe važan razvoj i daljnji potencijal robotike u području „popravljanja” i nadomještanja oštećenih ljudskih organa i funkcija, ali i kompleksna pitanja koja se otvaraju zbog mogućnosti „poboljšanja” ljudskog tijela jer medicinski roboti i posebno kiberfizički sustavi mogu izmijeniti naša razmišljanja o zdravom ljudskom tijelu budući da ih je moguće nositi izravno na ljudskom tijelu ili mogu biti ugrađeni u ljudsko tijelo; naglašava da je važno da se u bolnicama i drugim ustanovama zdravstvene skrbi hitno uspostave povjerenstva za etiku u robotici s prikladnim osobljem radi razmatranja neuobičajenih i kompliciranih etičkih problema povezanih s pitanjima njege i liječenja pacijenata te radi pomaganja pri rješavanju tih problema; poziva Komisiju i države članice da osmisle smjernice za pomoć pri uspostavi i radu takvih povjerenstava;

37.  smatra da je u području životno važne medicinske primjene, poput robotskih proteza, nužno pružiti stalnu i održivu mogućnost održavanja i poboljšanja te, posebice, softverskih ažuriranja kojima se ispravljaju nedostaci i slabe točke;

38.  preporučuje osnivanje neovisnih tijela kako bi se zajamčilo pružanje usluga osobama koje imaju životno važne i napredne medicinske uređaje, kao što su održavanje, popravci i poboljšanja, uključujući softversko ažuriranje, posebno u slučajevima kada originalni pružatelj više ne pruža takve usluge; predlaže da se uvede obveza za proizvođače da tim neovisnim tijelima pružaju kompletne upute za projektiranje, uključujući izvorni kod, slično pravnoj obvezi pružanja publikacija nacionalnoj knjižnici;

39.  skreće pozornost na rizike povezane s mogućnošću da kibernetičko-fizički sustavi integrirani u ljudsko tijelo budu hakirani, isključeni ili da im se izbrišu računalne memorije jer bi se tako moglo ugroziti ljudsko zdravlje, a u krajnjim slučajevima i ljudski životi, te stoga ističe da zaštita tih sustava mora biti prioritet;

40.  ističe važnost jamčenja jednakog pristupa za sve osobe takvim tehnološkim inovacijama, alatima i intervencijama; traži od Komisije i država članica da promiču razvoj pomoćnih tehnologija kako bi se potaknuo razvoj tih tehnologija i kako bi ih osobe kojima su potrebne usvojile, u skladu s člankom 4. Konvencije UN-a o pravima osoba s invaliditetom koju je potpisala Unija;

Obrazovanje i zapošljavanje

41.  skreće pozornost na predviđanja Komisije prema kojima bi do 2020. Europi moglo nedostajati do 825 000 stručnjaka za informacijske i komunikacijske tehnologije (ICT), a za 90 % poslova bit će potrebne barem osnovne digitalne vještine; pozdravlja inicijativu Komisije da predloži plan za moguću upotrebu i reviziju Okvira digitalne kompetencije i opisa digitalnih kompetencija za sve razine učenja te poziva Komisiju da pruži znatnu potporu razvoju digitalnih vještina u svim dobnim skupinama i neovisno o radnom statusu, kao prvi korak prema boljem usklađivanju nedostataka i potražnje na tržištu rada; naglašava da rast sektora robotike zahtijeva da države članice razviju fleksibilnije sustave za osposobljavanje i obrazovanje kako bi se zajamčila usklađenost strategija povezanih s vještinama i potreba gospodarstva u području robotike;

42.  smatra da bi poticanje interesa mladih žena za karijeru u digitalnom sektoru i zapošljavanje više žena na digitalnim radnim mjestima bilo korisno za digitalnu industriju, žene i europsko gospodarstvo; poziva Komisiju i države članice da pokrenu inicijative za pružanje podrške ženama u sektoru ICT-a i za poboljšavanje njihovih e-vještina;

43.  poziva Komisiju da počne pomnije analizirati i pratiti srednjoročne i dugoročne trendove u području zapošljavanja i da pritom posebno obrati pažnju na otvaranje, premještanje i gubitke radnih mjesta u različitim područjima stručnosti kako bi se saznalo u kojim se područjima otvaraju nova radna mjesta, a u kojima nestaju zbog povećane upotrebe robota;

44.  ističe važnost predviđanja društvenih promjena, imajući na umu moguće posljedice razvoja i primjene robotike i umjetne inteligencije; traži od Komisije da analizira različite moguće scenarije i njihove posljedice na održivost sustava socijalne zaštite u državama članicama;

45.  ističe važnost fleksibilnosti vještina te društvenih, kreativnih i digitalnih vještina u obrazovanju; uvjeren je da se, osim školama koje pružaju akademsko znanje, potrebe za cjeloživotnim učenjem trebaju ostvarivati cjeloživotnim aktivnostima;

46.  napominje da se robotikom uvelike može poboljšati sigurnost na radu preusmjeravanjem brojnih opasnih i štetnih zadataka od ljudi na robote, međutim, istovremeno napominje da se time može stvoriti novi niz opasnosti zbog povećanog broja interakcija između ljudi i robota na radnom mjestu; u tom pogledu ističe važnost primjenjivanja strogih i naprednih pravila za interakcije između ljudi i robota kako bi se zajamčilo zdravlje, sigurnost i poštovanje temeljnih prava na radnom mjestu;

Utjecaj na okoliš

47.  napominje da se robotika i umjetna inteligencija trebaju razvijati na način kojim se utjecaj na okoliš ograničava učinkovitom energetskom potrošnjom, energetskom učinkovitošću promicanjem korištenja obnovljive energije i rijetkih materijala, minimalnim otpadom, poput električnog i elektroničkog otpada, te mogućnošću popravljanja; stoga potiče Komisiju da načela kružne ekonomije uvrsti u svaku politiku Unije o robotici; također primjećuje da će primjena robotike imati pozitivan utjecaj na okoliš, posebno u područjima poljoprivrede, opskrbe hranom i prometa, konkretno zahvaljujući smanjenoj veličini strojeva, smanjenoj uporabi gnojiva, energije i vode te preciznoj poljoprivredi i optimizacije ruta;

48.  ističe da će kibernetičko-fizički sustavi dovesti do stvaranja energetskih i infrastrukturnih sustava koji mogu nadzirati protok električne energije od proizvođača do potrošača te će također dovesti do nastanka „proizvođača-potrošača” električne energije, koji i proizvode i troše energiju, čime će se omogućiti velike koristi za okoliš;

Odgovornost

49.  smatra da je građanskopravna odgovornost za štetu prouzročenu robotima ključno pitanje koje je potrebno analizirati i riješiti na razini Unije kako bi se postigao jednak stupanj učinkovitosti, transparentnosti i usklađenosti pri jamčenju pravne sigurnosti u cijeloj Europskoj uniji, u korist građana, potrošača i poduzeća;

50.  napominje da će razvoj tehnologije u području robotike zahtijevati bolje razumijevanje temelja potrebnog za zajedničko djelovanje ljudi i robota koje bi se trebalo osnivati na dvjema međuovisnim značajkama, naime na predvidivosti i usmjerenosti; ističe da su te dvije međuovisne značajke ključne za utvrđivanje koje je informacije potrebno podijeliti između ljudi i robota te načina na koji se može postići zajednička osnova između ljudi i robota kako bi se omogućilo glatko zajedničko djelovanje ljudi i robota;

51.  traži od Komisije da na temelju članka 114. UFEU-a podnese prijedlog zakonodavnog instrumenta za pravna pitanja povezana s razvojem i korištenjem robotike i umjetne inteligencije koji se predviđa za sljedećih 10-15 godina, zajedno s nezakonodavnim instrumentima kao što su smjernice i kodeksi ponašanja, u skladu s preporukama iz Priloga;

52.  smatra da se, koje god se pravno rješenje primijeni u pogledu građanskopravne odgovornosti za štetu prouzročenu robotima u slučajevima koji nisu povezani s materijalnom štetom, budućim pravnim instrumentom ni na koji način ne smiju ograničavati vrsta ili opseg štete koju je moguće nadoknaditi, kao ni oblici naknade koji se mogu ponuditi oštećenoj strani samo na temelju činjenice da je šteta prouzročena neljudskim čimbenikom;

53.  smatra da bi se budući zakonodavni instrument trebao temeljiti na detaljnoj procjeni Komisije o tome treba li se primjenjivati pristup stroge odgovornosti ili pristup upravljanja rizicima;

54.  istovremeno napominje da pristup stroge odgovornosti zahtijeva samo dokaz o šteti i uspostavljanje uzročne veze između štetnog djelovanja robota i štete koju je pretrpjela oštećena strana;

55.  napominje da pristup upravljanja rizicima nije usmjeren na osobu „koja je postupala nemarno” i koja je pojedinačno odgovorna već na osobu koja može, pod određenim okolnostima, svesti rizike na najmanju moguću mjeru i rješavati negativne učinke;

56.  smatra da, kad se utvrdi koje strane snose krajnju odgovornost, ta odgovornost u načelu treba biti razmjerna stvarnoj razini uputa danih robotu i autonomije robota, tako da je odgovornost „učitelja” robota veća što je sposobnost učenja ili autonomija robota veća i što je dulje trajala „obuka” robota; posebno napominje da pri utvrđivanju tko je odgovoran za štetno ponašanje robota treba razlikovati vještine koje proizlaze iz „obuke” robota i one koje ovise isključivo o sposobnosti robota za samostalno učenje; napominje da barem u aktualnoj fazi odgovornost mora biti u rukama čovjeka, a ne robota;

57.  ističe da je obvezni sustav osiguranja kakav se koristi, primjerice, za automobile, moguće rješenje za složenost utvrđivanja odgovornosti za štetu koju prouzroče sve autonomniji roboti; ipak, napominje da bi se, za razliku od sustava osiguranja za cestovni promet kojim se pokrivaju ljudsko djelovanje i propusti, sustavom osiguranja za robotiku trebale uzeti u obzir sve moguće odgovornosti u lancu;

58.  smatra da bi se, kao i u slučaju osiguranja motornih vozila, takav sustav osiguranja mogao nadopuniti fondom kojim će se zajamčiti naknada štete kad osiguranje ne postoji; poziva sektor osiguranja da osmisli nove proizvode i vrste ponuda prilagođene napretku u području robotike;

59.  poziva Komisiju da pri provedbi procjene učinka budućeg zakonodavnog instrumenta istraži, analizira i razmotri posljedice svih mogućih pravnih rješenja, kao što su:

   a) uspostava sustava obveznog osiguranja, kada je to prikladno i potrebno za specifične kategorije robota, prema kojem bi, slično kao kod osiguranja automobila, proizvođači ili vlasnici robota bili dužni ugovoriti osiguranje za štetu koju bi mogli uzrokovati njihovi roboti;
   b) jamstvo da fond za naknadu štete ne bi služio samo za jamčenje naknade štete u slučaju da je štetu uzrokovao neosigurani robot;
   c) omogućavanje proizvođaču, programeru, vlasniku ili korisniku da imaju koristi od stroge odgovornosti ako doprinose fondu za naknadu štete te ako zajedno imaju osiguranje kojim se jamči naknada u slučajevima kada robot uzrokuje štetu;
   d) odluka treba li osnovati opći fond za sve pametne autonomne robote ili posebne fondove za svaku kategoriju robota te treba li se doprinos plaćati jednokratno kad se robot stavi na tržište ili periodično tijekom životnog vijeka robota;
   e) uvođenje individualnog registarskog broja u posebnom registru Unije zahvaljujući kojem bi se robota lako moglo povezati s njegovim fondom, a osobe u interakciji s robotom mogle bi dobiti informacije o prirodi fonda, granicama odgovornosti u slučaju materijalne štete, imenima i funkcijama doprinositelja te sve druge relevantne pojedinosti;
   f) stvaranje posebnog dugoročnog pravnog statusa za robote kako bi barem najsofisticiraniji autonomni roboti mogli imati status elektroničkih osoba s odgovornošću ispravljanja štete koju su uzrokovali te moguća primjena statusa elektroničke osobe u slučajevima kad roboti donesu pametnu autonomnu odluku ili na neki drugi način neovisno međudjeluju s trećim stranama;

Međunarodni aspekti

60.  napominje da bi se, iako nije potrebna hitna izmjena aktualnih općih pravila međunarodnog privatnog prava o prometnim nezgodama primjenjivih u Uniji radi njihove prilagodbe razvoju autonomnih vozila, pojednostavljenjem trenutačnog dualnog sustava za definiranje mjerodavnog prava (na temelju Uredbe (EZ) br. 864/2007 Europskog parlamenta i Vijeća(7) i Haške konvencije od 4. svibnja 1971. o mjerodavnom pravu za prometne nezgode) poboljšala pravna sigurnost i ograničile mogućnosti traženja najpovoljnijeg pravnog sustava („forum shopping”);

61.  napominje da je potrebno razmotriti izmjenjivanje međunarodnih sporazuma kao što su Bečka konvencija od 8. studenog 1968. o cestovnom prometu i Haška konvencija o mjerodavnom pravu za prometne nezgode;

62.  očekuje od Komisije da zajamči da države članice na ujednačen način provode međunarodno pravo, kao što je Bečka konvencija o cestovnom prometu koju je potrebno izmijeniti, kako bi se omogućila vožnja bez vozača i poziva Komisiju, države članice i industriju na što bržu provedbu ciljeva Deklaracije iz Amsterdama;

63.  snažno potiče međunarodnu suradnju u pogledu rješavanja društvenih, etičkih i pravnih izazova te uspostavljanje regulatornih standarda pod okriljem Ujedinjenih naroda;

64.  ističe da bi i na robotiku trebalo primijeniti ograničenja i uvjete iz Uredbe (EZ) br. 428/2009 Europskog parlamenta i Vijeća(8) o trgovini robom dvojne namjene – dobrima, kompjuterskim programima i tehnologijom koja se može koristiti u civilne i u vojne svrhe i/ili može pridonijeti širenju oružja za masovno uništavanje;

Završni aspekti

65.  traži na temelju članka 225. UFEU-a od Komisije da na temelju članka 114. UFEU-a podnese prijedlog direktive o građanskom pravu o robotici slijedeći preporuke iz Priloga ovom dokumentu;

66.  potvrđuje da se preporukama poštuju temeljna prava i načelo supsidijarnosti;

67.  smatra da bi traženi prijedlog imao financijske posljedice ako se uspostavi nova europska agencija;

o
o   o

68.  nalaže svojem predsjedniku da ovu Rezoluciju i popratne preporuke proslijedi Vijeću i Komisiji.

(1) Direktiva Vijeća 85/374/EEZ od 25. srpnja 1985. o približavanju zakona i drugih propisa država članica u vezi s odgovornošću za neispravne proizvode (SL L 210, 7.8.1985., str. 29.)
(2) Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
(3) (1) Robot ne smije naškoditi ljudskom biću ili svojom pasivnošću dopustiti da mu se naškodi. (2) Robot mora slušati ljudske naredbe, osim kad su one u suprotnosti s prvim zakonom. (3) Robot mora štititi svoju egzistenciju, osim kad je to u suprotnosti s prvim ili drugim zakonom (vidi „Izmotavanje” I. Asimov, 1943.) i (0) Robot ne smije naškoditi čovječanstvu ili svojom pasivnošću dopustiti da mu se naškodi.
(4) vidi Schumanovu deklaraciju iz 1950.: „Europa se neće stvoriti odjednom niti prema jedinstvenom planu. Izgradit će se konkretnim postignućima koja će najprije stvoriti istinsku solidarnost.”
(5) Usvojeni tekstovi, P8_TA(2015)0390.
(6) Uredba (EZ) br. 216/2008 Europskog parlamenta i Vijeća od 20. veljače 2008. o zajedničkim pravilima u području civilnog zrakoplovstva i osnivanju Europske agencije za sigurnost zračnog prometa i stavljanju izvan snage Direktive Vijeća 91/670/EEZ, Uredbe (EZ) br. 1592/2002 i Direktive 2004/36/EZ (SL L 79, 19.3.2008., str. 1.).
(7) Uredba (EZ) br. 864/2007 Europskog parlamenta i Vijeća od 11. srpnja 2007. o pravu koje se primjenjuje na izvanugovorne obveze („Rim II”) (SL L 199, 31.7.2007., str. 40.).
(8) Uredba Vijeća (EZ) br. 428/2009 od 5. svibnja 2009. o uspostavljanju režima Zajednice za kontrolu izvoza, prijenosa, brokeringa i provoza robe s dvojnom namjenom (SL L 134, 29.5.2009., str. 1.).


PRILOG REZOLUCIJI:

PREPORUKE O SADRŽAJU TRAŽENOG PRIJEDLOGA

Definicija i klasifikacija pametnih robota

Potrebno je utvrditi zajedničku europsku definiciju pametnih autonomnih robota, uključujući, kada je to potrebno, prikladne definicije njihovih potkategorija te uzimajući u obzir sljedeće značajke:

–  Sposobnost autonomnog rada s pomoću senzora i/ili razmjene podataka s okolinom (međusobna povezivost) i analize tih podataka

–  Sposobnost učenja kroz iskustvo i interakciju

–  Oblik fizičke potpore robota

–  Sposobnost prilagodbe ponašanja i djelovanja u odnosu na okolinu

Registriranje pametnih robota

U cilju sljedivosti i olakšavanja provedbe daljnjih preporuka, potrebno je uvesti sustav registriranja naprednih robota koji se temelji na kriterijima utvrđenima za klasifikaciju robota. Sustav registracije i sam registar trebali bi se voditi na razini Unije i pokrivati unutarnje tržište te bi njima mogla upravljati Agencija EU-a za robotiku i umjetnu inteligenciju u slučaju da se takva agencija osnuje.

Građanskopravna odgovornost

Sva odabrana pravna rješenja koja se primjenjuju na odgovornost robota i umjetne inteligencije u slučajevima koji nisu povezani s materijalnom štetom ne smiju ni na koji način ograničavati vrstu ili opseg štete koju je moguće nadoknaditi, niti se takvim rješenjima ne smiju ograničavati oblici naknade koji se mogu ponuditi oštećenoj strani isključivo na temelju toga da je šteta prouzročena neljudskim čimbenikom.

Budući zakonodavni instrument trebao bi se temeljiti na detaljnoj procjeni Komisije o tome treba li se primjenjivati pristup stroge odgovornosti ili pristup upravljanja rizicima.

Potrebno je uvesti plan obveznog osiguranja koji bi se mogao temeljiti na obvezi proizvođača da osigura autonomne robote koje proizvodi.

Osiguranje bi se trebalo nadopuniti fondom kojim će se jamčiti nadoknada štete u slučaju da osiguranje ne postoji.

Sve političke odluke o pravilima građanskopravne odgovornosti koja se primjenjuju na robote i umjetnu inteligenciju trebaju se donositi uzimajući u obzir rezultate projekta na razini Europe u području istraživanja i razvoja robotike i neuroznanosti kako bi znanstvenici i stručnjaci mogli procijeniti sve povezane rizike i posljedice.

Interoperabilnost, pristup kodu i prava intelektualnog vlasništva

Potrebno je zajamčiti interoperabilnost autonomnih robota povezanih mrežom koji međusobno komuniciraju. Pristup izvornom kodu, ulazni podaci i podaci o projektiranju trebaju biti dostupni po potrebi kako bi se istražile nesreće i šteta uzrokovane pametnim robotima te zajamčio njihov trajni rad, dostupnost, pouzdanost, zaštita i sigurnost.

Povelja o robotici

Komisija bi pri predlaganju zakonodavnih akata povezanih s robotikom trebala uzeti u obzir načela utvrđena u sljedećoj Povelji o robotici.

POVELJA O ROBOTICI

Predloženim kodeksom etičkog ponašanja u području robotike postavit će se temelji za utvrđivanje temeljnih etičkih načela i nadzor njihova poštovanja te za usklađenost s njima već u fazi projektiranja i razvoja.

Potrebno je izraditi promišljeni okvir, uzimajući u obzir rezultate projekta na razini Europe u području istraživanja i razvoja robotike i neuroznanosti, kojim će se omogućiti pojedinačna prilagodba od slučaja do slučaja kako bi se utvrdila ispravnost ili neispravnost određenog ponašanja u određenoj situaciji te donošenje odluka u skladu s ranije utvrđenim nizom vrijednosti.

Taj kodeks ne zamjenjuje potrebu za rješavanjem svih velikih pravnih problema u tom području i on bi trebao služiti kao nadopuna. Njime će se omogućiti etička kategorizacija u području robotike, osnažiti odgovorna inovativnost u tom području i odgovoriti na zabrinutost javnosti.

Potrebno je posebno naglasiti faze istraživanja i razvoja u relevantom tehnološkom procesu (postupak projektiranja, revizija etičkih načela, revizorske kontrole, itd.). Cilj je kodeksa odgovoriti na potrebe za usklađenosti djelovanja istraživača, stručnjaka, korisnika i projektanata s etičkim normama, kao i uvođenje postupka za rješavanje relevantnih etičkih dvojbi i omogućavanje tim sustavima da djeluju uz poštovanje etičkih načela.

KODEKS ETIČKOG PONAŠANJA ZA INŽENJERE ROBOTIKE

PREAMBULA

Kodeksom ponašanja pozivaju se svi istraživači i projektanti na odgovorno djelovanje, uzimajući u potpunosti u obzir potrebu za poštovanjem dostojanstva, privatnosti i sigurnosti ljudi.

Kodeks poziva na blisku suradnju svih disciplina kako bi se zajamčilo da se istraživanja u području robotike u Europskoj uniji provode na siguran, etički i učinkovit način.

Kodeksom ponašanja pokrivene su sve aktivnosti istraživanja i razvoja u području robotike.

Kodeks ponašanja djeluje na dobrovoljnoj osnovi i njime se nudi niz općih načela i smjernica za djelovanje svih dionika.

Tijela za financiranje istraživanja u području robotike, istraživačke organizacije, istraživači i povjerenstva za istraživačku etiku pozivaju se da u najranijim fazama razmotre buduće posljedice tehnologija ili predmeta o kojima se provodi istraživanje te da razviju kulturu odgovornosti, uzimajući u obzir izazove i prilike do kojih bi moglo doći u budućnosti.

Javna i privatna tijela za financiranje istraživanja u području robotike trebala bi zatražiti provedbu procjene rizika koja će se potom prezentirati zajedno sa svakim prijedlogom za financiranje istraživanja u području robotike. U okviru takvog kodeksa odgovornim subjektima moraju se smatrati ljudi, a ne roboti.

Istraživači u području robotike trebaju se obvezati na najviši stupanj etičkog i profesionalnog ponašanja te poštovati sljedeća načela:

Djelovanje u najboljem interesu – roboti trebaju djelovati u najboljem interesu ljudi;

Nenanošenje štete – prvo načelo „nenanošenja zla” prema kojem roboti ne smiju naškoditi ljudima;

Autonomija – sposobnost donošenja informirane odluke bez prisile o uvjetima interakcije s robotima;

Pravednost – pravedna raspodjela koristi povezanih s robotikom, posebno u pogledu cjenovne dostupnosti robota za skrb u domu i robota za zdravstvenu skrb.

Temeljna prava

Istraživačkim aktivnostima u području robotike trebaju se poštovati temeljna prava te ih je u fazama njihova projektiranja, provođenja, širenja i korištenja potrebno provoditi u interesu dobrobiti i samoodređenja pojedinaca i općeg društva. Potrebno je uvijek poštovati ljudsko dostojanstvo, kako fizičko tako i psihološko.

Predostrožnost

Istraživačke aktivnosti u području robotike trebaju se provoditi u skladu s načelom predostrožnosti, uz predviđanje mogućih sigurnosnih posljedica rezultata i poduzimanje potrebnih mjera opreza koje su razmjerne razini zaštite te istovremeno poticanje napretka za društvo i okoliš.

Uključivost

Inženjeri robotike jamče transparentnost i poštovanje legitimnog prava na pristup informacijama za sve dionike. Uključivost omogućuje sudjelovanje u postupku odlučivanja svih dionika koji su obuhvaćeni ili sudjeluju u istraživačkim aktivnostima u području robotike.

Odgovornost

Inženjeri robotike trebaju i dalje biti odgovorni za društvene i ekološke posljedice robotike, kao i za njezine posljedice za ljudsko zdravlje sadašnjih i budućih generacija.

Sigurnost

Projektanti robota trebaju uzeti u obzir i poštovati fizičku dobrobit, sigurnost, zdravlje i prava ljudi. Inženjeri robotike trebaju očuvati ljudsku dobrobit uz poštovanje ljudskih prava te pravovremeno objaviti čimbenike koji bi mogli naškoditi javnosti ili okolišu.

Reverzibilnost

Reverzibilnost je, kao nužan preduvjet za mogućnost kontrole, temeljni koncept pri programiranju sigurnog i pouzdanog ponašanja robota. Modelom reverzibilnosti robotu se pružaju informacije o tome koja je radnja reverzibilna i kako primijeniti tu reverzibilnost. Mogućnost brisanja posljednje radnje ili posljednjeg niza radnji omogućuje korisnicima da izbrišu neželjene radnje i da se vrate na „dobru” fazu rada.

Privatnost

Potrebno je uvijek poštovati pravo na privatnost. Inženjeri robotike trebaju zajamčiti sigurnost privatnih informacija i njihovo ispravno korištenje. Štoviše, inženjeri robotike trebaju zajamčiti nemogućnost osobnog identificiranja pojedinaca, osim u slučaju izvanrednih okolnosti, ali čak i tada uz jasan, nedvojben i informirani pristanak pojedinca. Informirani pristanak osobe potrebno je zatražiti i dobiti prije bilo kakve interakcije između osobe i robota. Projektanti robota su kao takvi odgovorni za razvijanje i poštovanje postupaka za valjan pristanak, povjerljivost, anonimnost, pravedno postupanje i pravičan postupak. Projektanti će izvršiti sve zahtjeve za uništavanje svih relevantnih podataka ili za njihovo uklanjanje iz skupova podataka.

Maksimalna korist i minimalna šteta

Istraživači bi trebali stremiti ostvarivanju maksimalne koristi od njihova rada u svim fazama, od osmišljavanja do objave rezultata. Potrebno je izbjegavati nanošenje štete sudionicima u istraživanju, ljudskim subjektima ili sudionicima u eksperimentu, ispitivanju ili studiji. U slučaju kada je opasnost neizbježan i sastavni dio istraživanja, potrebno je sastaviti i poštovati stroge protokole za procjenu rizika i upravljanje njima. U normalnim okolnostima, opasnost od štete ne bi trebala biti veća od one u svakodnevnom životu, tj. ljudi ne bi trebali biti izloženi dodatnim opasnostima ili opasnostima većima od onih kojima su ionako izloženi u njihovom uobičajenom načinu života. Djelovanje sustava robotike treba se uvijek temeljiti na temeljitom postupku procjene rizika koji treba pratiti načela predostrožnosti i proporcionalnosti.

KODEKS ZA POVJERENSTVA ZA ISTRAŽIVAČKU ETIKU

Načela

Neovisnost

Postupak preispitivanja etičnosti treba biti neovisan o samom istraživanju. Ovim se načelom ističe potreba za izbjegavanjem sukoba interesa između istraživača i osoba koje se bave preispitivanjem protokola o etičnosti, kao i između tih osoba i struktura organizacijskog upravljanja.

Nadležnost

Postupak preispitivanja etičnosti trebaju provoditi osobe prikladne stručnosti, pri čemu treba pažljivo razmotriti opseg članstva i stručno osposobljavanje povjerenstava za istraživačku etiku u području etike.

Transparentnost i odgovornost

Postupak preispitivanja treba biti odgovoran i podložan nadzoru. Povjerenstva za istraživačku etiku trebaju biti svjesna svoje odgovornosti i imati odgovarajuće mjesto u organizacijskim strukturama koje jamče transparentnost djelovanja povjerenstava za istraživačku etiku i postupaka za očuvanje i preispitivanje normi.

Uloga povjerenstva za istraživačku etiku

Povjerenstvo za istraživačku etiku obično je odgovorno za preispitivanje svih istraživanja koja uključuju ljudske sudionike, a koja provode pojedinci zaposleni u okviru relevantnih institucija ili koje takve institucije zapošljavaju, jamči da je preispitivanje etičnosti neovisno, kompetentno i pravovremeno, štiti dostojanstvo, prava i dobrobit sudionika u istraživanju, uzima u obzir sigurnost istraživača, uzima u obzir legitimne interese drugih dionika, donosi informirane odluke o znanstvenoj vrijednosti prijedloga i donosi informirane preporuke za istraživača ako se utvrdi da je prijedlog manjkav.

Uspostava povjerenstva za istraživačku etiku

Povjerenstvo za istraživačku etiku obično je multidisciplinarno, uključuje i muškarce i žene te se sastoji od članova sa širokim iskustvom i stručnosti u području istraživanja robotike. Mehanizmom imenovanja treba se zajamčiti da sastav članova povjerenstva omogućuje prikladnu ravnotežu između znanstvene stručnosti, filozofske, pravne ili etičke pozadine te laičkih mišljenja te da se povjerenstvo sastoji od barem jednog člana sa specijalističkim znanjem u području etike i od korisnika specijalističkih zdravstvenih, obrazovnih ili socijalnih usluga ako su istraživačke aktivnosti na njih usmjerene te pojedinaca sa specifičnom metodološkom stručnosti koje se odnosi na istraživanje koje preispituju te mora biti uspostavljeno na način da se izbjegavaju sukobi interesa.

Praćenje

Sve istraživačke organizacije trebaju uspostaviti prikladne postupke za praćenje provođenja istraživanja koje je dobilo odobrenje o etičnosti sve do njegova završetka te zajamčiti trajno praćenje u slučajevima kada su u fazi projektiranja istraživanja predviđene moguće promjene kroz vrijeme koje će se možda trebati rješavati. Praćenje treba biti proporcionalno prirodi i stupnju rizika povezanog s istraživanjem. Ako povjerenstvo za istraživačku etiku smatra da izvješće o praćenju ukazuje na znatne probleme u pogledu etičnosti studije, ono mora zatražiti puno i detaljno preispitivanje etičnosti istraživanja. Ako se procijeni da se studija provodi na neetičan način, potrebno je razmotriti povlačenje njezina odobrenja te obustavu ili ukidanje njezina istraživanja.

DOZVOLA ZA PROJEKTANTE

–  Trebate uzeti u obzir europske vrijednosti dostojanstva, autonomije, samoodređenja, slobode i pravde prije, tijekom i nakon postupka projektiranja, razvoja i provedbe takvih tehnologija, uključujući potrebu za nenanošenjem štete ili ozljeda te nedovođenjem u zabludu i neiskorištavanjem (osjetljivih) korisnika.

–  Trebate uvesti pouzdana načela za projektiranje sustava za sve aspekte rada robota, uključujući opremu i programe te svaku obradu podataka koja se na platformi ili izvan nje vrši iz sigurnosnih razloga.

–  Trebate značajkama u fazi projektiranja omogućiti privatnost kako bi se zajamčila sigurnost privatnih informacija i njihova prikladna primjena.

–  Trebate integrirati jasne mehanizme za dobrovoljni izlazak iz sustava (prekidači za prestanak rada) koji bi trebali biti u skladu s razumnim ciljevima projektiranja.

–  Trebate zajamčiti usklađenost rada robota s lokalnim, nacionalnim i međunarodnim etičkim i pravnim načelima.

–  Trebate zajamčiti da je korake robota pri donošenju odluka moguće rekonstruirati i slijediti.

–  Trebate zajamčiti maksimalnu transparentnost u programiranju robotskih sustava, kao i predvidljivost ponašanja robota.

–  Trebate analizirati predvidljivost funkcioniranja sustava čovjek-robot uzimajući u obzir nesigurnost pri tumačenju i djelovanju, kao i moguće kvarove robota ili ljudske pogreške.

–  Trebate razviti alate za sljedivost u fazi projektiranja robota. Tim će se alatima stručnjacima, operatorima i korisnicima omogućiti praćenje i razjašnjenje, pa makar i ograničeno, ponašanja robota na različitim razinama.

–  Trebate osmisliti protokole za projektiranje i procjenu te surađivati s potencijalnim korisnicima i dionicima pri ocjenjivanju koristi i rizika robotike, uključujući kognitivne, psihološke i ekološke koristi i rizike.

–  Trebate osigurati da se pri interakciji s ljudima robote može identificirati kao takve.

–  Trebate štititi sigurnost i zdravlje osoba koje su u interakciji i dodiru s robotima s obzirom na to da se prilikom projektiranja robota kao proizvoda trebaju primijeniti procesi kojima se jamči njihova zaštita i sigurnost. Inženjer robotike mora štititi dobrobit ljudi uz istovremeno poštovanje ljudskih prava te ne smije pokrenuti robote bez jamčenja sigurnosti, učinkovitosti i reverzibilnosti djelovanja sustava.

–  Trebate dobiti pozitivno mišljenje povjerenstva za istraživačku etiku prije testiranja robota u stvarnom okruženju ili uključivanja ljudi u njegove postupke projektiranja i razvoja.

DOZVOLA ZA KORISNIKE

–  Smijete se koristiti robotom bez opasnosti ili straha od fizičke ili psihološke štete.

–  Imate pravo očekivati od robota da će provesti svaki zadatak za koji je izričito projektiran.

–  Trebate biti svjesni da svaki robot može imati perceptivna, kognitivna i aktivacijska ograničenja.

–  Trebate poštovati fizičku i psihološku osjetljivost ljudi, kao i njihove emocionalne potrebe.

–  Trebate uzeti u obzir prava pojedinaca na privatnost, uključujući deaktiviranje video nadzora tijekom intimnih postupaka.

–  Ne smijete prikupljati, koristiti ili objavljivati osobne informacije bez izričitog pristanka subjekta o čijim je podacima riječ.

–  Ne smijete se koristiti robotom ni na koji način koji je suprotan etičkim ili pravnim načelima ili normama.

–  Ne smijete modificirati robot kako bi on mogao funkcionirati kao oružje.

Pravna napomena