Postopek : 2015/2103(INL)
Potek postopka na zasedanju
Potek postopka za dokument : A8-0005/2017

Predložena besedila :

A8-0005/2017

Razprave :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Glasovanja :

PV 16/02/2017 - 6.9
Obrazložitev glasovanja

Sprejeta besedila :

P8_TA(2017)0051

POROČILO     
PDF 776kWORD 110k
27.1.2017
PE 582.443v03-00 A8-0005/2017

s priporočili Komisiji o pravilih civilnega prava o robotiki

(2015/2103(INL))

Odbor za pravne zadeve

Poročevalka: Mady Delvaux

(Pobuda – člen 46 Poslovnika)

Pripravljavca mnenja (*):

Georg Mayer, Odbor za promet in turizem

Michał Boni, Odbor za državljanske svoboščine, pravosodje in notranje zadeve

(*)  Pridruženi odbori – člen 54 Poslovnika

PREDLOG RESOLUCIJE EVROPSKEGA PARLAMENTA
 OBRAZLOŽITEV
 MNENJE Odbora za promet in turizem (*)
 MNENJE Odbora za državljanske svoboščine, pravosodje in notranje zadeve (*)
 MNENJE Odbora za zaposlovanje in socialne zadeve
 MNENJE Odbora za okolje, javno zdravje in varnost hrane
 MNENJE Odbora za industrijo, raziskave in energetiko
 MNENJE Odbora za notranji trg in varstvo potrošnikov
 IZID KONČNEGA GLASOVANJAV PRISTOJNEM ODBORU

PREDLOG RESOLUCIJE EVROPSKEGA PARLAMENTA

s priporočili Komisiji o pravilih civilnega prava o robotiki

(2015/2103(INL))

Evropski parlament,

–  ob upoštevanju člena 225 Pogodbe o delovanju Evropske unije,

–  ob upoštevanju Direktive Sveta 85/374/ES o odgovornosti za proizvode,

–  ob upoštevanju členov 46 in 52 Poslovnika,

–  ob upoštevanju poročila Odbora za pravne zadeve in mnenj Odbora za promet in turizem, Odbora za državljanske svoboščine, pravosodje in notranje zadeve, Odbora za zaposlovanje in socialne zadeve, Odbora za okolje, javno zdravje in varnost hrane, Odbora za industrijo, raziskave in energetiko in Odbora za notranji trg in varstvo potrošnikov (A8-0005/2017),

Uvod

A.  ker so ljudje od romana Mary Shelley o Frankensteinovi pošasti do klasičnega mita o Pigmalionu, prek zgodbe o praškem Golemu in robotu Karla Čapka, ki je besedo robot tudi skoval, sanjarili o možnosti izdelave inteligentnih strojev, ki so bili pogosto kar androidi s človeškimi značilnostmi;

B.   ker je človeštvo zdaj na pragu obdobja, ko se vedno bolj napredni roboti, boti, androidi in druge oblike umetne inteligence zdijo pripravljeni, da povzročijo novo industrijsko revolucijo, ki bo verjetno vplivala na celotno družbo, in je zelo pomembno, da zakonodajalci obravnavajo vse njene morebitne pravne in etične posledice in vplive, ne da bi dušili inovacijo;

C.  ker je treba oblikovati splošno sprejemljivo opredelitev za robote in umetno inteligenco, ki bo prožna in ne bo preprečevala inovacij;

D.   ker se je med letoma 2010 in 2014 prodaja robotov v povprečju povečala za 17 % na leto, leta 2014 pa je prodaja zrasla za 29 %, kar je najvišje povečanje na letni ravni do zdaj, pri čemer so glavni nosilci rasti dobavitelji avtomobilskih delov in električna/elektronska industrija; ker se je v zadnjem desetletju število letnih prijav patentov za robotsko tehnologijo povečalo za trikrat;

E.  ker je v zadnjih 200 letih število zaposlenih zaradi tehnološkega napredka neprestano naraščalo; ker ima razvoj robotike in umetne inteligence potencial, da spremeni življenja in delovno prakso, poveča učinkovitost, prihranke in raven varnosti ter okrepi raven storitev, in ker naj bi v kratkoročnem do srednjeročnem obdobju robotika in umetna inteligenca zagotovili prednosti in prihranke ne le v proizvodnji in trgovini, ampak tudi na področjih, kot so prevoz, medicinska oskrba, reševanje, izobraževanje in kmetovanje, hkrati pa bo mogoče preprečiti izpostavljenost ljudi nevarnim razmeram, kot so na primer pri čiščenju območij, onesnaženih s strupenimi snovmi;

F.  ker postaja zaradi napredka življenjskih pogojev in sodobne medicine pričakovana življenjska doba vse daljša, kar vodi v staranje družbe, ki pomeni za evropske družbe enega od največjih političnih, družbenih in gospodarskih izzivov 21. stoletja; ker bo do leta 2025 več kot 20 % Evropejcev starih 65 let ali več, zlasti pa se bo hitro povečalo število starejših od 80 let, kar bo bistveno spremenilo medgeneracijsko ravnovesje v naših družbah, in ker je v interesu družbe, da ostanejo starejši ljudje čim dlje zdravi in aktivni;

G.  ker bo sedanji trend, ki se nagiba k razvoju pametnih in avtonomnih strojev s sposobnostjo učenja in neodvisnega sprejemanja odločitev, dolgoročno prinesel gospodarske koristi, pa tudi pomisleke glede neposrednih in posrednih vplivov na družbo kot celoto;

H.  ker strojno učenje ponuja ogromne gospodarske in inovativne koristi za družbo, saj izjemno izboljša zmožnost analize podatkov, vendar se bodo zaradi tega pojavili tudi izzivi, in sicer kako zagotoviti nediskriminacijo, dolžno pravno postopanje, preglednost in razumljivost pri sprejemanju odločitev;

I.  ker je, podobno, treba oceniti, kako robotika in strojno učenje vplivata na gospodarske spremembe in na zaposlovanje; ker lahko uporaba robotike kljub neizpodbitnim prednostim vendarle vpliva tudi na spremembe na trgu dela, zato bo treba razmisliti o prihodnosti izobraževanja, zaposlovanja in socialne politike;

J.  ker splošna uporaba robotov morda ne bo samodejno vodila do nadomestitve delovnih mest, temveč bodo za avtomatizacijo bolj občutljiva nizkokvalificirana delovna mesta v delovno intenzivnih sektorjih; ker bi se lahko zaradi tega trenda proizvodni procesi vrnili v EU; ker so raziskave dokazale, da zaposlovanje raste občutno hitreje v poklicih, v katerih se bolj uporabljajo računalniki; ker ima avtomatizacija delovnih mest potencial, da ljudi odreši monotonega fizičnega dela in jim omogoči, da se usmerijo v ustvarjalnejše in pomembne naloge; ker bodo morale vlade zaradi avtomatizacije vlagati v izobraževanje in druge reforme, da bi izboljšale preusmeritev v vrste znanj in spretnosti, ki jih bodo potrebovali delavci v prihodnosti;

K.  ker lahko razvoj robotike in umetne inteligence hkrati povzroči, da bodo velik obseg dela, ki ga zdaj opravijo ljudje, prevzeli roboti, izgubljena delovna mesta pa ne bodo v celoti obnovljena, kar povzroča zaskrbljenost glede prihodnosti zaposlovanja in možnosti ohranjanja sistemov socialne varnosti ter stalni zaostanek pri pokojninskih prispevkih, če se ohrani sedanja osnova za davek, s čimer bi lahko nastale razmere za vse večjo neenakost pri porazdelitvi bogastva in vpliva, hkrati pa bi bilo treba za ohranjanje socialne kohezije in blaginje preučiti možnost, da se za financiranje podpore in preusposabljanja za brezposelne delavce, katerih delovna mesta se bodo skrčila ali bodo ukinjena, obdavči delo, ki ga opravijo roboti, ali zaračuna prispevek za uporabo in vzdrževanje robota;

L.  ker se je treba ob čedalje večjih družbenih razlikah in krčenju srednjega sloja zavedati, da lahko razvoj robotike privede do visoke zgoščenosti bogastva in vpliva v rokah manjšine;

M.  ker bo razvoj robotike in umetne inteligence dokončno spremenil delovno okolje, zaradi česar se lahko pojavijo nova vprašanja glede odgovornosti in odpravijo druga; ker je treba razjasniti pravno odgovornost v poslovnem modelu ter pri opredelitvi dela za nujne primere in primere, kadar pride do težav;

N.  ker trend vse večje avtomatizacije od tistih, ki se ukvarjajo z razvojem in trženjem aplikacij umetne inteligence, zahteva, da že od začetka vgrajujejo varnost in etiko, s tem pa se priznava, da morajo biti pripravljeni nositi pravno odgovornost za kakovost tehnologije, ki jo proizvajajo;

O.  ker Uredba (EU) 2016/679 Evropskega parlamenta in Sveta(1) (Splošna uredba o varstvu podatkov) določa pravni okvir za varstvo podatkov; ker bo morda treba obravnavati dodatne vidike dostopa do podatkov ter varstva osebnih podatkov in zasebnosti, glede na to, da se lahko pojavijo vprašanja v zvezi z zasebnostjo, ker bodo aplikacije in naprave komunicirale druga z drugo ter z zbirkami podatkov brez posredovanja ljudi;

P.  ker se razvoj robotike in umetne inteligence lahko načrtuje in mora načrtovati tako, da bo ohranil dostojanstvo, samostojnost in samoodločanje posameznikov, zlasti na področju nege ljudi in druženja ter pri zdravstvenih napravah, ki „popravljajo“ ali izboljšujejo ljudi;

Q.  ker bi lahko končno umetna inteligenca dolgoročno presegla človeško intelektualno zmožnost;

R.  ker imata nadaljnji razvoj in pogostejša uporaba avtomatiziranega in algoritemskega sprejemanja odločitev nedvomno vpliv na odločitve zasebnih subjektov (na primer podjetij ali internetnih uporabnikov) in izbiro upravnih, sodnih ali drugih javnih organov pri izdajanju končnih odločitev potrošniške, poslovne ali uradne narave; ker morajo biti zaščitni mehanizmi ter možnost človeškega nadzora in preverjanja vgrajeni v postopek avtomatiziranega in algoritemskega sprejemanja odločitev;

S.  ker več tretjih držav, kot so ZDA, Japonska, Kitajska in Južna Koreja, razmišlja o uvedbi regulativnih ukrepov v zvezi z robotiko in umetno inteligenco in so jih deloma že sprejele ter ker so nekatere države članice že začele proučevati pripravo pravnih standardov ali izvajati zakonodajne spremembe, da bi upoštevale vse večjo uporabo takšnih tehnologij;

T.  ker bi lahko evropska industrija imela koristi od učinkovitega, usklajenega in preglednega pristopa k ureditvi na ravni Unije, ki bi zagotovila predvidljive in dovolj jasne pogoje, pod katerimi bi lahko podjetja razvijala aplikacije in načrtovala svoje poslovne modele na evropski ravni, ter hkrati zagotovila, da bi Unija in njene države članice ohranile nadzor nad regulativnimi standardi, ki jih je treba določiti, ter tako ne bi bile prisiljene sprejeti standardov, ki bi jih določili drugi, tj. tretje države, ki imajo prav tako vodilno vlogo pri razvoju robotike in umetne inteligence, in živeti v skladu z njimi;

Splošna načela

U.   ker je treba Asimove zakone(2) obravnavati, kot da so namenjeni načrtovalcem, proizvajalcem in upravljavcem robotov, tudi robotov, ki imajo vgrajeno avtonomijo in samoučenje, saj teh zakonov ni mogoče pretvoriti v strojno kodo;

V.  ker je koristen in nujen sklop pravil, ki bodo urejala zlasti krivdno odgovornost, preglednost in odgovornost ter izražala prave evropske in humanistične vrednote, ki so značilne za prispevek Evrope k družbi; ker ta pravila ne smejo vplivati na proces raziskav, inovacij in razvoja robotike;

W.   ker bi Unija lahko imela pomembno vlogo pri uveljavljanju osnovnih etičnih načel, ki bi jih bilo treba spoštovati pri razvoju, programiranju in uporabi robotov in umetne inteligence ter pri vključitvi takih načel v predpise in kodekse ravnanja Unije, pri čemer bi bil njen cilj zasnovati tehnološko revolucijo, ki bo uporabna za človeštvo ter bo zagotavljala široko dostopnost koristi napredne robotike in umetne inteligence, hkrati pa bi se čim bolj preprečevale morebitne nevarnosti takega razvoja;

X.   ker bi bilo treba za Unijo na področju prihodnjih pobud s področja robotike in umetne inteligence, da ne bi zavirali inovativnosti, sprejeti postopen, pragmatičen in previden pristop v takšnem smislu, kot ga je zagovarjal Jean Monnet(3);

Y.   ker je glede na doseženo stopnjo razvoja robotike in umetne inteligence primerno, da se začnejo obravnavati vprašanja civilne odgovornosti;

Odgovornost

Z.  ker današnji roboti zaradi izrednega tehnološkega napredka v zadnjem desetletju ne le, da lahko izvajajo dejavnosti, ki so bile značilno in izključno človeške, ampak so z razvojem določenih avtonomnih in kognitivnih značilnosti, npr. sposobnosti učenja na podlagi izkušenj in sprejemanja skoraj neodvisnih odločitev, postali tudi vse bolj podobni agentom, ki vzajemno delujejo s svojim okoljem in ga lahko močno spreminjajo; ker v takih okoliščinah pravna odgovornost, ki izhaja iz robotovega škodljivega delovanja, postane ključno vprašanje;

AA.   ker je avtonomnost robotov mogoče opredeliti kot sposobnost sprejemati odločitve in jih izvajati v zunanjem svetu neodvisno od zunanjega nadzora ali vpliva; ker je ta avtonomnost povsem tehnološka, njena stopnja pa je odvisna od tega, kako dovršena interakcija robota z okoljem je bila predvidena pri njegovem načrtovanju;

AB.   ker bolj kot so roboti avtonomni, tem manj jih je mogoče obravnavati kot preprosta orodja v rokah drugih akterjev (kot so proizvajalci, upravljavci, lastniki, uporabniki itd.); ker se zato postavlja vprašanje, ali zadostujejo običajni predpisi o odgovornosti ali bo treba z novimi načeli in predpisi pojasniti pravno odgovornost različnih akterjev na področju odgovornosti za dejanja in opustitve dejanj robotov, kadar zanje ni mogoče izslediti človeškega faktorja, in določiti, ali bi se dejanjem ali opustitvam dejanj robotov, ki so povzročili škodo, lahko izognili;

AC.   ker se v zvezi z avtonomnostjo robotov nenazadnje pojavlja vprašanje o njihovi naravi glede na zdajšnje pravne kategorije, oziroma ali bi bilo treba uvesti novo kategorijo, ki bi imela svoje posebne značilnosti in posledice;

AD.   ker se po veljavnem pravnem okviru sami roboti ne morejo šteti za odgovorne za dejanja ali opustitve dejanj, ki povzročijo škodo tretjim osebam; ker veljavna pravila o odgovornosti zajemajo primere, ko se lahko vzrok za robotovo dejanje ali opustitev dejanja poveže z določenim človeškim agentom, kot je na primer proizvajalec, upravljavec, lastnik ali uporabnik, pri čemer bi ta agent lahko predvidel in preprečil robotovo škodljivo vedenje; ker bi se poleg tega lahko proizvajalci, upravljavci, lastniki ali uporabniki šteli za objektivno odgovorne za robotova dejanja ali opustitve dejanj;

AE.  ker v skladu z veljavnim pravnim okvirom za škodo, ki jo povzročijo roboti ali umetna inteligenca, veljajo odgovornost za proizvode (v skladu s katero je proizvajalec odgovoren za slabo delovanje proizvoda) in pravila glede odgovornosti pri škodljivih dejanjih (v skladu s katerimi je uporabnik proizvoda odgovoren za vedenje, zaradi katerega pride do škode);

AF.   ker v primeru, v katerem bi robot lahko sprejemal avtonomne odločitve, običajna pravila ne bodo zadostna za uveljavitev pravne odgovornosti za škodo, ki jo povzroči robot, ker na podlagi teh pravil ne bi bilo mogoče opredeliti stranke, ki je odgovorna za zagotovitev odškodnine, in od te stranke zahtevati, da nadomesti škodo, ki jo je robot povzročil;

AG.  ker ima veljavni pravni okvir očitne pomanjkljivosti tudi v zvezi s pogodbeno odgovornostjo, saj običajnih pravil ni mogoče uporabiti za stroje, ki so zasnovani tako, da si izbirajo svoje nasprotne stranke, se pogajajo o pogodbenih pogojih, sklepajo pogodbe ter se odločajo, ali in kako jih bodo izvajali, kar kaže na potrebo po novih, sodobnejših pravilih, ki bi morala biti skladna s tehnološkim razvojem in nedavnimi inovacijami, ki se uporabljajo na trgu;

AH.   ker se lahko v zvezi z nepogodbeno odgovornostjo Direktiva Sveta 85/374/ES(4) uporablja le za škodo, nastalo zaradi tovarniške napake robota, in pod pogojem, da lahko oškodovanec dokaže dejansko škodo, napako na izdelku ter vzročno zvezo med škodo in napako, zato okvir objektivne odgovornosti morda ne bo zadostoval;

AI.   ker ne glede na področje uporabe Direktive 85/374/ES veljavni pravni okvir ne bi zadoščal za pokrivanje škode, ki bi jo povzročili roboti nove generacije, če bi lahko imeli sposobnosti prilagajanja in učenja, ki bi pri njihovem vedenju vključevale nekaj nepredvidljivosti, ker bi se takšni roboti samostojno učili na podlagi lastnih raznovrstnih izkušenj ter vzajemno delovali s svojim okoljem na edinstven in nepredvidljiv način;

Splošna načela v zvezi z razvojem robotike in umetne inteligence za civilno uporabo

1.  poziva Komisijo, naj predlaga skupno opredelitev kibernetsko-fizičnih sistemov, avtonomnih sistemov, pametnih avtonomnih robotov in njihovih podkategorij na ravni Unije, pri čemer naj upošteva naslednje značilnosti pametnega robota:

–  pridobitev avtonomnosti prek senzorjev in/ali z izmenjavo podatkov z lastnim okoljem (medsebojna povezanost) ter trženje in analiza teh podatkov,

–  samoučenje na podlagi izkušenj in interakcije (izbirno merilo),

–  vsaj manjša fizična podpora,

–  prilagoditev vedenja in dejanj okolju,

–  neobstoj življenja v biološkem pomenu;

2.  meni, da bi bilo treba uvesti celovit sistem za registracijo naprednih robotov na notranjem trgu Unije, kjer je to ustrezno in nujno za posebne kategorije robotov, in poziva Komisijo, naj določi merila za razvrstitev robotov, ki bi jih bilo treba registrirati; v zvezi s tem poziva Komisijo, naj razišče, ali bi bilo za sistem registracije in evidenco zaželeno, da ju upravlja za to določena agencija EU za robotiko in umetno inteligenco;

3.  poudarja, da bi bilo treba razvoj robotske tehnologije usmeriti v dopolnjevanje človeških zmožnosti, ne pa njihovo nadomestitev; meni, da je pri razvoju robotike in umetne inteligence bistveno zagotoviti, da bodo imeli ljudje vedno nadzor nad inteligentnimi stroji; meni, da je treba posebno pozornost posvetiti mogočemu razvoju čustvene vezi med človekom in robotom, zlasti pri ranljivih skupinah, kot so otroci, starejši in invalidi, ter poudarja vprašanja, ki jih zbuja resen čustveni in fizični vpliv, ki bi ga lahko imela ta čustvena vez na človeškega uporabnika;

4.   poudarja, da lahko pristop na ravni Unije olajša razvoj, saj bi preprečil razdrobljenost notranjega trga, in hkrati opozarja, da je pri čezmejni uporabi robotov in robotskih sistemov pomembno načelo vzajemnega priznavanja; želi spomniti, da bi morali biti testiranje, certifikacija in pridobitev tržnega dovoljenja potrebni le v eni državi članici; poudarja, da bi moral ta pristop spremljati učinkovit tržni nadzor;

5.  poudarja, kako pomembni so ukrepi za pomoč malim in srednjim ter zagonskim podjetjem v sektorju robotike, saj ustvarjajo nove tržne segmente v tem sektorju ali uporabljajo robote;

Raziskave in inovacije

6.  poudarja, da so številne robotske uporabe šele v poskusni fazi; pozdravlja, da se s sredstvi držav članic ali Unije financira vse več raziskovalnih projektov; meni, da je za Unijo nujno, da skupaj z državami članicami s pomočjo javnih sredstev ostane vodilna pri raziskavah s področja robotike in umetne inteligence; poziva Komisijo in države članice, naj povečajo obseg finančnih instrumentov za raziskovalne projekte na področju robotike in IKT, vključno z javno-zasebnimi partnerstvi, in naj v svoji raziskovalni politiki izvajajo načeli odprte znanosti in odgovornih etičnih inovacij; poudarja, da je treba iskanju rešitev za družbene, etične, pravne in gospodarske izzive, ki se lahko pojavijo zaradi tehnološkega razvoja in njegovih uporab, nameniti zadostna sredstva;

7.   poziva Komisijo in države članice, naj spodbujajo raziskovalne programe, s katerimi bodo stimulirale raziskovanje možnih dolgoročnih tveganj in priložnosti, ki jih prinašajo tehnologije s področja umetne inteligence in robotike, ter naj spodbujajo čimprejšnjo vzpostavitev strukturiranega javnega dialoga o posledicah razvoja teh tehnologij; poziva Komisijo, naj v okviru vmesnega pregleda večletnega finančnega okvira poveča podporo za program SPARC, ki se financira iz Obzorja 2020; poziva Komisijo in države članice, naj s skupnimi prizadevanji te tehnologije pozorno spremljajo in jim zagotovijo preprostejši prehod iz raziskovalne faze v komercializacijo ter uporabo na trgu po ustreznih ocenah varnosti v skladu s previdnostnim načelom;

8.  poudarja, da je za inovacije na področju robotike in umetne inteligence ter vključitev tehnologij robotike in umetne inteligence v gospodarstvo in družbo potrebna digitalna infrastruktura, ki bo zagotavljala vseprisotno povezljivost; poziva Komisijo, naj vzpostavi okvir, ki bo izpolnjeval zahteve glede povezljivosti za digitalno prihodnost Unije, in zagotovi, da bo dostop do širokopasovnih povezav in omrežij 5G povsem skladen z načelom internetne nevtralnosti;

9.    je trdno prepričan, da je interoperabilnost med sistemi, napravami in storitvami v oblaku, temelječa na vgrajeni varnosti in zasebnosti, nujno potrebna za pretok podatkov v realnem času, ki robotom in umetni inteligenci omogoča večjo prilagodljivost in avtonomnost; poziva Komisijo, naj spodbuja odprto okolje (od odprtih standardov in inovativnih modelov izdajanja dovoljenj do odprtih platform in preglednosti), da bi preprečili odvisnost od lastniških sistemov, ki omejujejo interoperabilnost;

Etična načela

10.  ugotavlja, da potencial za krepitev moči z uporabo robotike spremljajo razni pomisleki ali tveganja, ki bi jih bilo treba resno preučiti s stališča varnosti, zdravja in varstva ljudi; svobode, zasebnosti, integritete in dostojanstva; samoodločanja in nediskriminacije ter varstva osebnih podatkov;

11.  meni, da bi morali veljavni pravni okvir Unije, kjer je ustrezno, posodobiti in dopolniti s splošnimi etičnimi načeli, ki naj odražajo zapletenost področja robotike in številne posledice, ki jih lahko ima na družbenem, zdravstvenem in bioetičnem področju; meni, da je potreben jasen, strog in učinkovit etični okvir, ki bo usmerjal razvoj, načrtovanje, proizvodnjo, uporabo in spreminjanje robotov, ki bo dopolnjeval pravna priporočila iz poročila ter veljavni nacionalni pravni red in pravni red Unije; v prilogi k resoluciji predlaga okvir v obliki listine, ki jo sestavljajo kodeks ravnanja za inženirje robotike, kodeks za odbore za raziskovalno etiko, ki bi se uporabljal pri pregledovanju robotskih protokolov, ter vzorci dovoljenj za načrtovalce in uporabnike;

12.  poudarja načelo preglednosti, in sicer da mora biti možno utemeljiti vsako odločitev, ki se sprejme s pomočjo umetne inteligence in ki lahko občutno vpliva na življenje ene ali več oseb; meni, da mora biti vedno možno, da se izračuni sistema umetne inteligence omejijo na ljudem razumljivo obliko; meni, da bi morali imeti napredni roboti „črno skrinjico“, ki bi beležila podatke o vsaki transakciji, ki jo izvede stroj, vključno z logiko, ki je prispevala k njegovim odločitvam;

13.  poudarja, da bi moral etični okvir za usmerjanje temeljiti na načelih dobronamernosti, neškodovanja, avtonomnosti in pravičnosti ter na načelih in vrednotah iz člena 2 Pogodbe o delovanju Evropske unije in Listine EU o temeljnih pravicah, kot so človekovo dostojanstvo, enakost, sodno varstvo in pravičnost, nediskriminacija, informirana privolitev, zasebno in družinsko življenje ter varstvo podatkov, pa tudi drugih temeljnih načelih in vrednotah iz prava Unije, kot so nestigmatizacija, preglednost, samostojnost, osebna in družbena odgovornost, ter na zdajšnjih etičnih praksah in veljavnih kodeksih;

14.  meni, da bi bilo treba posebno pozornost nameniti robotom, ki lahko zelo ogrozijo zaupnost, ker so nameščeni na tradicionalno zaščitenih in zasebnih območjih in ker lahko pridobivajo in posredujejo osebne in občutljive podatke;

Evropska agencija

15.  meni, da je nujno okrepljeno sodelovanje med državami članicami in Komisijo, da se v Uniji zagotovijo skladna čezmejna pravila, ki bodo spodbujala sodelovanje znotraj evropske industrije in po vsej Uniji omogočala uporabo robotov, ki bodo ustrezali zahtevanim stopnjam varnosti in varovanja ter etičnim načelom, vsebovanim v pravu Unije;

16.  poziva Komisijo, naj preuči možnost za ustanovitev evropske agencije za robotiko in umetno inteligenco, ki bi zagotovila tehnično, etično in regulativno znanje, potrebno za podporo ustreznim javnim akterjem na ravni Unije in držav članic pri njihovih prizadevanjih za zagotovitev pravočasnega, etičnega in dobro obveščenega odziva na nove priložnosti in izzive, zlasti čezmejne, ki se bodo pojavili s tehnološkim razvojem robotike, na primer v prometnem sektorju;

17.  meni, da potencial za uporabo robotike in težave, povezane z njo, ter sedanja naložbena dinamika upravičujejo, da se evropski agenciji nameni ustrezen proračun ter da zanjo delajo regulativno osebje in zunanji strokovnjaki za tehnična in etična področja, ki se bodo ukvarjali z medsektorskim in večdisciplinarnim spremljanjem robotskih aplikacij, pri čemer bodo določali standarde za najboljšo prakso ter po potrebi priporočali regulativne ukrepe, opredelili nova načela ter obravnavali morebitna vprašanja v zvezi z varstvom potrošnikov in sistemske izzive; poziva Komisijo (in evropsko agencijo, če bo ustanovljena), naj Evropskemu parlamentu letno poroča o najnovejšem razvoju v robotiki in ukrepih, ki bi jih bilo treba izvesti;

Pravice intelektualne lastnine in podatkovni tok

18.  ugotavlja, da ni predpisov, ki bi se uporabljali izrecno za robotiko, se pa lahko veljavne pravne ureditve in doktrine uporabijo tudi za robotiko, čeprav bi bilo verjetno treba nekatere vidike posebej obravnavati; poziva Komisijo, naj podpira horizontalen in tehnološko nevtralen pristop do intelektualne lastnine, veljavne v sektorjih, v katerih bi se lahko uporabljala robotika;

19.  poziva Komisijo in države članice, naj zagotovijo, da bodo predpisi civilnega prava v sektorju robotike v skladu s splošno uredbo o varstvu podatkov ter načeloma nujnosti in sorazmernosti; poziva Komisijo in države članice, naj upoštevajo hiter tehnološki razvoj na področju robotike, vključno z razvojem kibernetsko-fizičnih sistemov, in zagotovijo, da zakonodaja Unije ne bo zaostajala za tehnološkim razvojem in uporabo tehnologije;

20.  ponavlja, da pravici do varstva zasebnega življenja in osebnih podatkov, zapisani v členih 7 in 8 Listine EU o temeljnih pravicah ter členu 16 Pogodbe o delovanju Evropske unije, veljata za vsa področja robotike ter da je treba v celoti spoštovati pravni okvir Unije za varstvo podatkov; v zvezi s tem poziva k pregledu predpisov in meril za uporabo kamer in senzorjev v robotih; poziva Komisijo, naj zagotovi, da se bodo spoštovala načela za varstvo podatkov, kot so vgrajena in privzeta zasebnost, zmanjšanje količine podatkov, omejitev namena, ter pregledni nadzorni mehanizmi za posameznike in ustrezna pravna sredstva v skladu z zakonodajo Unije s področja varstva podatkov; zagotovi naj tudi spodbujanje in vključevanje ustreznih priporočil in standardov v politike Unije;

21.  poudarja, da je prost pretok podatkov bistven za digitalno gospodarstvo ter razvoj sektorja robotike in umetne inteligence; poudarja, da je visoka raven varnosti v robotskih sistemih, vključno z notranjimi podatkovnimi sistemi in podatkovnimi tokovi, ključna za ustrezno uporabo robotov in umetne inteligence; poudarja, da je treba zagotoviti varnost omrežij povezanih robotov in umetne inteligence, da bi preprečili morebitne kršitve varnosti; poudarja, da sta temeljnega pomena visoka stopnja varnosti in varstva osebnih podatkov skupaj z ustreznim spoštovanjem zasebnosti v komunikaciji med ljudmi, roboti in umetno inteligenco; poudarja, da imajo načrtovalci na področju robotike in umetne inteligence odgovornost, da razvijajo varne, zaščitene in namenu prilagojene izdelke; poziva Komisijo in države članice, naj podprejo in spodbudijo razvoj potrebne tehnologije, tudi vgrajene varnosti;

Standardizacija in varnost

22.  poudarja, da je vprašanje določanja standardov in zagotavljanja interoperabilnosti bistveno za prihodnjo konkurenčnost na področju tehnologij umetne inteligence in robotike; poziva Komisijo, naj si še naprej prizadeva za mednarodno uskladitev tehničnih standardov, zlasti skupaj z evropskimi organizacijami za standardizacijo in Mednarodno organizacijo za standardizacijo, da bi se spodbujale inovacije, preprečila razdrobljenost notranjega trga in zagotovila visoka stopnja varnosti proizvodov in varstva potrošnikov, vključno z minimalnimi varnostnimi standardi v delovnem okolju, če so potrebni; poudarja pomen zakonitega obratnega inženiringa in odprtih standardov, da bi kar najbolje izkoristili vrednost inovacij in zagotovili komunikacijo med roboti; v zvezi s tem pozdravlja ustanovitev posebnih tehničnih odborov, kot je ISO/TC 299 za robotiko, ki so namenjeni izključno razvijanju standardov za robotiko;

23.  poudarja, da je preizkušanje robotov v scenarijih resničnega življenja poglavitno za opredelitev in oceno tveganj, ki se lahko pojavijo, in njihovega tehnološkega razvoja zunaj izključno laboratorijskega preizkušanja; v zvezi s tem poudarja, da je preizkušanje robotov v scenarijih resničnega življenja, zlasti v mestih in na cestah, povezano s številnimi vprašanji, tudi ovirami, ki upočasnjujejo razvoj teh faz preizkušanja, in bi bil zanj potreben učinkovit mehanizem za strategijo in spremljanje; poziva Komisijo, naj oblikuje enotna merila za vse države članice, ki bi jih morale posamezne države članice uporabljati, da bi opredelile območja, na katerih so poskusi z roboti dovoljeni, v skladu s previdnostnim načelom;

Avtonomna prevozna sredstva

a)  Avtonomna vozila

24.  poudarja, da avtonomni promet zajema vse oblike daljinsko vodenih, avtomatiziranih, povezanih in avtonomnih oblik cestnega, železniškega, vodnega in zračnega prometa, vključno z vozili, vlaki, plovili, trajekti, letali in brezpilotnimi zrakoplovi, ter vse prihodnje oblike razvoja in inovacij v tem sektorju;

25.  meni, da avtomobilski sektor najbolj nujno potrebuje pravila na ravni Unije in svetovna pravila, ki bodo zagotovila, da bo čezmejni razvoj avtomatiziranih in avtonomnih vozil v celoti izkoristil svoj gospodarski potencial in pozitivne učinke tehnoloških trendov; poudarja, da bi razdrobljeni regulativni pristopi ovirali izvajanje avtonomnih prometnih sistemov in ogrožali evropsko konkurenčnost;

26.  opozarja, da je pri nenačrtovanem prevzemu nadzora nad vozilom bistven reakcijski čas voznika, zato deležnike poziva, naj predvidijo realistične vrednosti pri odločanju o vprašanjih varnosti in odgovornosti;

27.  meni, da bo prehod na avtonomna vozila vplival na naslednja področja: civilno odgovornost (odgovornost in zavarovanje), prometno varnost, vse teme, povezane z okoljem (npr. energetska učinkovitost, uporaba obnovljive tehnologije in obnovljivih virov energije), vprašanja, povezana s podatki (tj. dostop do podatkov, varstvo podatkov, zasebnost in izmenjava podatkov), vprašanja, povezana z infrastrukturo IKT (npr. učinkovite in zanesljive komunikacijske zmogljivosti) ter zaposlovanje (npr. ustvarjanje in izguba delovnih mest, usposabljanje voznikov težkih tovornih vozil za uporabo avtomatiziranih vozil); poudarja, da bodo potrebne precejšnje naložbe v cestno, energetsko in telekomunikacijsko infrastrukturo; poziva Komisijo, naj pri svojem delu glede avtonomnih vozil preuči naštete vidike;

28.  poudarja, da so za uveljavitev avtonomnih vozil izjemno pomembne zanesljive informacije o položaju in času, ki jih zagotavljata evropska programa za satelitsko navigacijo Galileo in EGNOS; v zvezi s tem poziva, naj se čim prej dokončajo in izstrelijo sateliti, ki so potrebni za dokončanje evropskega navigacijskega sistema Galileo;

29.  želi poudariti visoko dodano vrednost, ki jo imajo avtonomna vozila za osebe z omejeno mobilnostjo, saj jim omogočajo boljšo udeležbo v individualnem cestnem prometu in jim s tem olajšajo vsakdan;

b)  Brezpilotni zrakoplovi (daljinsko vodeni zračni sistemi – RPAS)

30.  priznava pozitiven napredek na področju tehnologije brezpilotnih zrakoplovov, zlasti na področju iskanja in reševanja; poudarja, da je treba z okvirom Unije za brezpilotne zrakoplove zagotoviti varnost, varovanje in zasebnost državljanov Unije, ter poziva Komisijo k nadaljnjemu ukrepanju v zvezi s priporočili iz resolucije Evropskega parlamenta z dne 29. oktobra 2015 o varni uporabi daljinsko vodenih zrakoplovnih sistemov (RPAS), splošno znanih kot brezpilotna zračna plovila, na področju civilnega letalstva(5); poziva Komisijo, naj pripravi oceno varnosti v zvezi z množično uporabo brezpilotnih zrakoplovov; poziva jo tudi, naj prouči možnost obvezne opremljenosti RPAS s sistemom za sledljivost in identifikacijo, ki bo v realnem času omogočal ugotavljanje položaja delujočih RPAS; opozarja, da bi morali za poenotenost in varnost brezpilotnih zrakoplovov poskrbeti ukrepi iz Uredbe (ES) št. 216/2008 Evropskega parlamenta in Sveta(6);

Roboti za nego

31.  poudarja, da so sčasoma postale raziskave in razvoj na področju robotov za nego in oskrbo starejših pogostejše in cenejše, izdelki pa vse bolj funkcionalni in širše sprejeti med potrošniki; ugotavlja, da imajo take tehnologije, ki zagotavljajo preprečevanje, pomoč, spremljanje, spodbujanje in družbo starejšim ljudem, invalidom in ljudem z demenco, kognitivnimi motnjami ali izgubo spomina, široko področje uporabe;

32.  poudarja, da je človeški stik eden od temeljnih vidikov nege ljudi; meni, da bi prakse nege ob nadomestitvi človeškega dejavnika z roboti izgubile človeško toplino, vendar na drugi strani priznava, da bi lahko roboti opravljali avtomatizirane naloge nege in olajšali delo negovalnih pomočnikov, hkrati pa okrepili človeško nego in bolj ciljno usmerili proces rehabilitacije, s čimer bi zdravstvenemu osebju in negovalcem omogočili, da bi več časa posvetili diagnozi in bolje načrtovanim možnostim zdravljenja; poudarja, da bodo kljub potencialu robotike, da izboljša mobilnost in vključevanje invalidov in starejših, človeški negovalci še vedno potrebni ter bodo še naprej pomemben in ne popolnoma nadomestljiv vir družbene interakcije;

Medicinski roboti

33.  poudarja pomen ustreznega izobraževanja, usposabljanja in priprav za zdravstvene delavce, kot so zdravniki in negovalni pomočniki, da bi zagotovili kar najboljšo strokovno usposobljenost in varovali ter zaščitili zdravje bolnikov; poudarja, da je treba določiti minimalne poklicne zahteve, ki jih mora izpolnjevati kirurg, da bi operiral in bi se mu dovolila uporaba kirurških robotov; meni, da je temeljnega pomena spoštovati načelo nadzorovane avtonomnosti robotov, na podlagi katerega so začetno programiranje zdravljenja in končne odločitve o njegovem poteku vedno v rokah kirurga človeka; poudarja, da je za uporabnike posebno pomembno usposabljanje, pri katerem bodo lahko spoznali tehnološke zahteve na tem področju; opozarja na naraščajoči trend samodiagnoz z uporabo mobilnega robota in, posledično, na potrebo, da se zdravniki usposobijo za obravnavo samodiagnosticiranih primerov; meni, da uporaba take tehnologije ne sme omejevati odnosa med zdravnikom in bolnikom ali mu škodovati, temveč mora zdravniku pomagati pri postavljanju diagnoze in/ali zdravljenju z namenom zmanjšanja tveganja za človeške napake ter izboljšanja kakovosti življenja in pričakovane življenjske dobe;

34.  meni, da so medicinski roboti čedalje bolj prisotni pri izvajanju izredno preciznih kirurških posegov in repetitivnih postopkov, da imajo potencial za izboljšanje rezultatov pri rehabilitaciji in da zagotavljajo zelo učinkovito logistično podporo v bolnišničnih ustanovah; ugotavlja, da bi medicinski roboti lahko tudi zmanjšali stroške zdravstvenega varstva, tako da bi zdravstvenim delavcem omogočili, da se z zdravljenja preusmerijo na preprečevanje, in tako da bi bilo več proračunskih sredstev na voljo za boljše prilagajanje raznolikim potrebam bolnikov, stalno usposabljanje zdravstvenih delavcev in raziskave;

35.  poziva Komisijo, naj še pred datumom začetka uporabe uredbe o medicinskih pripomočkih(7) zagotovi, da bodo postopki preskušanja novih medicinskih robotskih pripomočkov varni, še posebej kadar se pripomočki vsadijo v človeško telo;

Popravljanje in izboljšanje človeka

36.  se zaveda dosedanjega velikega napredka in bodočih možnosti robotike na področju popravljanja in nadomeščanja poškodovanih organov in človeških funkcij, pa tudi zapletenih vprašanj, ki se pojavljajo v zvezi s tem, zlasti glede možnosti izboljšanja človeka, saj utegnejo medicinski roboti, zlasti kibernetsko-fizični sistemi, spremeniti naše pojmovanje, kaj je zdravo človeško telo, ker se lahko nosijo neposredno na telesu ali se vsadijo vanj; poudarja, da je treba nemudoma ustanoviti odbore za robotsko etiko v bolnišnicah in drugih zdravstvenih ustanovah, ki bodo sestavljeni iz ustreznega osebja in bodo obravnavali neobičajna in zapletena etična vprašanja, ki vplivajo na nego in zdravljenje bolnikov, ter pomagali pri reševanju teh vprašanj; poziva Komisijo in države članice, naj razvijejo smernice v podporo ustanovitvi in delovanju takih odborov;

37.  poudarja, da je treba za področje življenjsko nujne medicinske uporabe robotike, kot so robotske proteze, zagotoviti stalen in trajen dostop do vzdrževanja, izboljšav, zlasti pa nadgradenj programske opreme, da se bodo odpravile motnje v delovanju in pomanjkljivosti;

38.  priporoča vzpostavitev neodvisnih zaupanja vrednih ustanov, ki bodo ohranjale potrebna sredstva, da bi osebam, ki nosijo življenjsko nujne in napredne medicinske naprave, omogočile vzdrževanje, popravila in izboljšanja, vključno z nadgradnjo programske opreme, zlasti če teh storitev prvotni ponudnik ne izvaja več; priporoča uvedbo obveznosti za proizvajalce, da omenjenim neodvisnim zaupanja vrednim ustanovam v ta namen dostavijo celovito dokumentacijo o zasnovi in sestavi naprav, vključno z izvorno kodo, podobno kot poteka zbiranje obveznega izvoda publikacij v nacionalni knjižnici;

39.  opozarja na tveganja, povezana z možnostjo vdora v kibernetsko-fizične sisteme, povezane s človeškim telesom, njihovega izklopa ali izbrisa njihovega spomina, kar bi lahko ogrozilo človeško zdravje, v skrajnih primerih pa celo življenje, in zato poudarja, da mora biti zaščita teh sistemov prednostna naloga;

40.  poudarja pomen zagotavljanja enakega dostopa do takih tehnoloških inovacij, orodij in posegov za vse ljudi; poziva Komisijo in države članice, naj spodbujajo razvoj podpornih tehnologij, da se bosta olajšala njihov razvoj in sprejemanje pri ljudeh, ki jih potrebujejo, v skladu s členom 4 konvencije OZN o pravicah invalidov, ki jo je podpisala tudi Unija;

Izobraževanje in zaposlovanje

41.  opozarja na napoved Komisije, da bi lahko do leta 2020 v Evropi primanjkovalo do 825 000 strokovnjakov na področju IKT in da bodo za 90 % delovnih mest potrebne vsaj osnovne digitalne kompetence; pozdravlja pobudo Komisije, da predlaga načrt za morebitno uporabo in pregled okvira za digitalne kompetence in deskriptorjev digitalnih kompetenc za vse ravni učečih se posameznikov, ter jo poziva, naj zagotovi precejšnjo podporo za razvoj digitalnih spretnosti v vseh starostnih skupinah in ne glede na zaposlitveni status, saj je to prvi korak k boljši uskladitvi primanjkljajev in povpraševanja na trgu dela; poudarja, da razvoj na področju robotike od držav članic zahteva oblikovanje prožnejšega usposabljanja in izobraževalnega sistema, da bi zagotovili usklajenost strategij usposabljanj in potreb gospodarske panoge robotike;

42.  meni, da bi povečanje zanimanja mladih žensk za kariero na digitalnem področju in večja zaposljivost žensk na delovnih mestih na digitalnem področju koristili digitalni industriji, ženskam samim in evropskemu gospodarstvu; poziva Komisijo in države članice, naj začnejo pobude za podporo ženskam na področju IKT in za izboljšanje njihovih e-kompetenc;

43.  poziva Komisijo, naj začne analizirati in spremljati srednje- in dolgoročne trende zaposlovanja, pri čemer naj se posebej osredotoči na ustvarjanje novih delovnih mest, njihovo premeščanje in izgubo na različnih področjih kvalifikacij, da bo jasno, na katerih področjih se ustvarjajo nova delovna mesta in na katerih se delovna mesta odpravljajo zaradi vse večje uporabe robotov;

44.  poudarja, kako pomembno je predvideti družbene spremembe, obenem pa upoštevati učinke, ki bi jih lahko imela razvoj in uporaba robotike in umetne inteligence; poziva Komisijo, naj analizira različne možne scenarije in njihove posledice na vzdržnost sistemov socialne varnosti v državah članicah; meni, da bi morali začeti vključujočo razpravo o novih modelih zaposlovanja in vzdržnosti naših davčnih sistemov in sistemov socialne varnosti na podlagi zadostnega dohodka, tudi o možnosti uvedbe splošnega temeljnega dohodka; ;

45.  poudarja, da je pomembna prilagodljivost veščin, obenem pa so v izobraževanju pomembne socialne, ustvarjalne in digitalne veščine; je prepričan, da morajo šole sicer posredovati akademsko znanje, vseživljenjsko učenje pa je treba doseči z dejavnostmi, ki potekajo celo življenje;

46.  se zaveda ogromnega potenciala robotike za izboljšanje varnosti pri delu, in sicer s prenosom več nevarnih in škodljivih nalog z ljudi na robote, obenem pa se zaveda, da bi se zaradi vse večjega števila interakcij med človekom in roboti na delovnem mestu pojavila nova tveganja; v zvezi s tem poudarja, da je pomembno uveljaviti stroga in v prihodnost usmerjena pravila za interakcije med človekom in robotom, da bi zagotovili zdravje, varnost in spoštovanje temeljnih pravic na delovnem mestu;

Vpliv na okolje

47.  ugotavlja, da bi morali pri razvoju robotike in umetne inteligence omejiti vplive na okolje, in sicer z učinkovito porabo energije, energetsko učinkovitostjo, spodbujanjem uporabe energije iz obnovljivih virov in redkih surovin, minimalnimi odpadki, na primer električnimi in elektronskimi, ter popravljivostjo; zato poziva Komisijo, naj v vse politike Unije na področju robotike vključi načela krožnega gospodarstva; ugotavlja, da bo imela uporaba robotike tudi pozitiven učinek na okolje, zlasti na področju kmetijstva, preskrbe s hrano in prometa, predvsem zaradi zmanjšanja velikosti strojev in manjše porabe gnojil, energije in vode, pa tudi zaradi preciznega kmetovanja in optimizacije poti;

48.  poudarja, da bodo kibernetsko-fizični sistemi privedli do oblikovanja energetskih in infrastrukturnih sistemov, s katerimi bo mogoče nadzorovati pretok električne energije od proizvajalca do odjemalca, obenem pa bodo privedli do oblikovanja t. i. proizvajalcev-odjemalcev, ki proizvajajo in porabljajo energijo; to bo omogočilo velike okoljske koristi;

Odgovornost

49.  meni, da je civilna odgovornost za škodo, ki jo povzročijo roboti, ključno vprašanje, ki ga je treba preučiti in obravnavati na ravni EU, da se zagotovijo enakovredna učinkovitost, preglednost in doslednost pri uresničevanju pravne gotovosti v celotni Evropski uniji, ki bodo v korist tako državljanom in potrošnikom kot podjetjem;

50.  ugotavlja, da bo razvoj robotske tehnologije zahteval večje razumevanje potrebne podlage za dejavnost, ki jo skupaj izvajata človek in robot, ki mora temeljiti na dveh osnovnih soodvisnih razmerjih, kot sta predvidljivost in vodljivost; želi poudariti, da sta ti dve vrsti soodvisnega razmerja ključni za določitev, katere informacije je treba razdeliti med robote in ljudi ter kako vzpostaviti skupno osnovo med človekom in roboti, da bi omogočili njihovo nemoteno skupno delovanje;

51.  poziva Komisijo, naj na podlagi člena 114 PDEU in v skladu s priporočili iz priloge predloži predlog zakonodajnega instrumenta o pravnih vprašanjih v zvezi z razvojem robotike in umetne inteligence ter njuno uporabo, kot ju je mogoče predvideti v naslednjih 10 do 15 letih, skupaj z nezakonodajnimi instrumenti, kot so smernice in pravila ravnanja;

52.  meni, da ne glede na to, katera pravna rešitev se bo uporabljala za civilno odgovornost za škodo, ki jo povzročijo roboti, v primerih, ko ni povzročena materialna škoda, prihodnji zakonodajni instrument nikakor ne bi smel omejevati vrste ali obsega škode, ki bi jo bilo morda treba nadomestiti, niti ne bi smel omejevati oblik nadomestila za škodo, ki bi se ponudilo oškodovancu, le zato, ker je škodo povzročil nečloveški povzročitelj;

53.  meni, da bi moral prihodnji zakonodajni instrument temeljiti na poglobljeni oceni, v kateri bi Komisija odločila, ali bi se moral uporabljati pristop objektivne odgovornosti ali pristop obvladovanja tveganja;

54.  se obenem zaveda, da so za objektivno odgovornost potrebni samo dokazi o nastanku škode in vzročna povezava med škodljivim delovanjem robota in škodo, ki je bila povzročena oškodovancu;

55.  ugotavlja, da se pristop obvladovanja tveganja ne osredotoča na odgovornost posameznika, ki je ravnal malomarno, temveč na osebo, ki lahko pod določenimi pogoji zmanjša tveganje in obravnava negativne vplive;

56.  meni, da bi morala biti potem, ko bi se opredelile stranke, ki so končno odgovorne, njihova odgovornost sorazmerna z dejanskimi navodili, danimi robotu, in njegovo samostojnostjo, torej večja kot bi bila robotova sposobnost učenja ali samostojnost in daljše kot bi bilo usposabljanje robota, večja bi morala biti odgovornost njegovega učitelja; zlasti ugotavlja, da se pri opredeljevanju osebe, ki ji je mogoče dejansko pripisati robotovo škodljivo vedenje, spretnosti, ki so posledica usposabljanja robota, ne bi smele zamenjevati s spretnostmi, ki so odvisne izključno od robotove sposobnosti samoučenja; ugotavlja, da mora vsaj za zdaj odgovornost nositi človek in ne robot;

57.  poudarja, da bi lahko bila morebitna rešitev za zapleteno pripisovanje odgovornosti za škodo, ki bi jo povzročili vse bolj samostojni roboti, obvezen sistem zavarovanja, kot se že uporablja na primer pri avtomobilih; kljub temu ugotavlja, da bi moral, drugače kot pri sistemu zavarovanja za cestni promet, pri katerem zavarovanje krije človekova dejanja in napake, sistem zavarovanja za robote upoštevati vse morebitne odgovornosti v verigi;

58.  meni, da bi se, kot je to praksa pri zavarovanju motornih vozil, tak sistem zavarovanja lahko dopolnil s skladom, ki bi omogočil povrnitev škode v primerih, kadar zavarovanje ne obstaja; poziva zavarovalniški sektor, naj razvije nove produkte in vrste ponudb, ki bodo sledili napredku v robotiki;

59.  poziva Komisijo, naj pri presojanju učinka prihodnjega zakonodajnega instrumenta preuči, analizira in pretehta posledice vseh možnih pravnih rešitev, kot so:

a)  vzpostavitev sistema obveznega zavarovanja, kjer je to ustrezno in potrebno za posebne kategorije robotov, pri katerem bi morali podobno kot pri sistemu zavarovanja za avtomobile proizvajalci ali lastniki robotov skleniti zavarovanje za škodo, ki bi jo lahko povzročili njihovi roboti;

b)  zagotovitev, da namen kompenzacijskega sklada ne bi bil le zagotavljanje nadomestila, če škoda, ki bi jo povzročil robot, ne bi bila krita z zavarovanjem;

c)  omogočanje, da bi lahko za proizvajalca, programerja, lastnika ali uporabnika veljala omejena odgovornost, če prispevajo v kompenzacijski sklad, pa tudi če sklenejo skupno zavarovanje, da bi zagotovili nadomestilo, v primeru da robot povzroči škodo;

d)  odločanje o tem, ali bi se ustanovil splošni sklad za vse pametne avtonomne robote ali posamezni skladi za vsako kategorijo robotov ter ali bi bilo treba prispevek plačati kot enkratno pristojbino ob dajanju robota na trg oziroma ali bi bilo treba plačevati redne prispevke skozi celotno življenjsko dobo robota;

e)  zagotovitev, da bi bila povezava med robotom in njegovim skladom razvidna iz posamezne registracijske številke, ki bi bila evidentirana v posebnem registru Unije, ki bi vsakomur, ki bi deloval v povezavi z robotom, omogočil pridobitev informacij o vrsti sklada, omejitvah njegove odgovornosti v primeru materialne škode, imenih in funkcijah plačnikov prispevkov ter o vseh drugih ustreznih podrobnostih;

f)  vzpostavitev posebnega pravnega statusa za robote na dolgi rok, tako da bi vsaj najbolj napredni avtonomni roboti lahko pridobili status elektronskih oseb in bili tako odgovorni za nadomestitev škode, ki bi jo morebiti povzročili, in morebitna uporaba elektronske osebnosti v primerih, ko bi roboti sprejemali samostojne odločitve ali drugače neodvisno vzajemno delovali s tretjimi osebami;

g)  uvedba ustreznega instrumenta za potrošnike, ki želijo od odgovornih proizvodnih podjetij skupaj zahtevati odškodnino za škodo, ki izhaja iz nepravilnega delovanja inteligentnih strojev;

Mednarodni vidiki

60.  opozarja, da veljavnih pravil mednarodnega zasebnega prava o prometnih nesrečah, ki se uporabljajo v EU, ni nujno vsebinsko spreminjati zaradi prilagoditve razvoju avtonomnih vozil, vendar bi se s poenostavitvijo sedanjega dvojnega sistema za določitev prava, ki se uporablja (na podlagi Uredbe (ES) št. 864/2007 Evropskega parlamenta in Sveta(8) ter Haaške konvencije z dne 4. maja 1971 o zakonu, ki velja za prometne nesreče), izboljšala pravna gotovost in omejile možnosti za izbiranje najugodnejšega sodišča;

61.  ugotavlja, da je treba razmisliti o spremembah mednarodnih sporazumov, kot sta Dunajska konvencija z dne 8. novembra 1968 o cestnem prometu in Haaška konvencija o zakonu, ki velja za prometne nesreče;

62.  pričakuje, da bo Komisija poskrbela, da države članice enotno izvajajo mednarodno zakonodajo, na primer Dunajsko konvencijo, ki jo je treba spremeniti, da bi omogočili vožnjo brez voznika, in poziva Komisijo, države članice in industrijo, naj čim prej uresničijo cilje Amsterdamske izjave;

63.  močno spodbuja mednarodno sodelovanje pri nadzoru družbenih, etičnih in pravnih izzivov ter pri določanju regulativnih standardov pod okriljem Združenih narodov;

64.  poudarja, da bi morale omejitve in pogoji iz Uredbe (ES) št. 428/2009 Evropskega parlamenta in Sveta(9) o trgovini z blagom z dvojno rabo, tj. blagom, programsko opremo in tehnologijo, ki se lahko uporabljajo v civilne in vojaške namene in/ali lahko prispevajo k širjenju orožja za množično uničevanje, veljati tudi za uporabe v robotiki;

Končni vidiki

65.  na podlagi člena 225 PDEU zahteva, naj Komisija na podlagi člena 114 PDEU predloži predlog direktive o pravilih civilnega prava o robotiki, ki upošteva podrobna priporočila v prilogi;

66.  potrjuje, da ta priporočila spoštujejo temeljne pravice in načelo subsidiarnosti;

67.  meni, da bi imel zahtevani predlog finančne posledice, če bi se ustanovila nova evropska agencija;

68.  naroči svojemu predsedniku, naj posreduje to resolucijo in priložena podrobna priporočila Komisiji in Svetu.

PRILOGA K PREDLOGU RESOLUCIJE:

PODROBNA PRIPOROČILA O VSEBINI ZAHTEVANEGA PREDLOGA

Opredelitev in razvrstitev „pametnih robotov“

Določiti bi bilo treba skupno evropsko opredelitev pametnega avtonomnega robota, ki bo po potrebi vključevala opredelitve njegovih podkategorij in upoštevala naslednje značilnosti:

–  zmogljivost za pridobitev avtonomnosti prek senzorjev in/ali z izmenjavo podatkov z lastnim okoljem (medsebojna povezanost) in analizo teh podatkov,

–  zmogljivost za učenje na podlagi izkušenj in interakcije,

–  obliko robotove fizične podpore,

–  zmogljivost za prilagoditev vedenja in dejanj okolju.

Registracija pametnih robotov

Za namene sledljivosti in spodbujanje izvajanja nadaljnjih priporočil bi bilo treba uvesti sistem za registracijo naprednih robotov, ki bi temeljil na merilih, določenih za razvrstitev robotov. Sistem registracije in evidenca bi morala biti vzpostavljena za celotno Unijo in njen notranji trg, upravljala pa bi ju lahko pooblaščena agencija EU za robotiko in umetno inteligenco, če se ustanovi.

Civilna odgovornost

Katera koli izbrana pravna rešitev, ki bi se uporabljala za odgovornost robotov in umetne inteligence v primerih, ko ni povzročena materialna škoda, nikakor ne bi smela omejevati vrste ali obsega škode, ki bi jo bilo treba nadomestiti, niti ne bi smela omejevati oblik nadomestila za škodo, ki bi se ponudilo oškodovancu, le zato, ker je škodo povzročil nečloveški povzročitelj.

Prihodnji zakonodajni instrument bi moral temeljiti na poglobljeni oceni, v kateri bi Komisija odločila, ali bi se moral uporabljati pristop objektivne odgovornosti ali pristop obvladovanja tveganja.

Uvesti bi bilo treba sistem obveznega zavarovanja, ki bi lahko temeljil na obveznosti proizvajalca, da sklene zavarovanje za samostojne robote, ki jih izdeluje.

Sistem zavarovanja bi moral biti dopolnjen s skladom, ki bi omogočil nadomestitev škode v primerih, v katerih zavarovanje ne obstaja.

Vsakršna politična odločitev o pravilih civilnega prava za robote in umetno inteligenco bi se morala sprejeti z ustreznim upoštevanjem vseevropskega raziskovalnega in razvojnega projekta, posvečenega robotiki in nevroznanosti, v okviru katerega bi znanstveniki in strokovnjaki lahko ocenili vsa povezana tveganja in posledice.

Interoperabilnost, dostop do kode in pravice intelektualne lastnine

Zagotoviti bi bilo treba interoperabilnost avtonomnih robotov, ki delujejo vzajemno in so povezani v mrežo. Po potrebi bi morali omogočiti dostop do izvorne kode, vhodnih podatkov in podrobnosti o konstrukciji, na primer v primeru preiskav nesreč in škode, ki jih povzročijo pametni roboti, pa tudi za zagotovitev njihovega nadaljnjega delovanja, dostopnosti, zanesljivosti, varnosti in zaščite.

Listina o robotiki

Komisija bi morala pri predlogih pravnih aktov o robotiki upoštevati načela, ki so vsebovana v naslednji Listini o robotiki.

LISTINA O ROBOTIKI

Predlagani kodeks etičnega ravnanja v robotiki bo temelj za opredelitev etičnih načel, njihov nadzor in skladnost z njimi od faze načrtovanja in razvoja.

Okvir, pripravljen ob upoštevanju vseevropskega raziskovalnega in razvojnega projekta, posvečenega robotiki in umetni inteligenci, bi moral biti zasnovan tako, da omogoča razmišljanje in posamične prilagoditve za vsak primer posebej, da bi se tako ugotovilo, ali je neko vedenje v danih okoliščinah ustrezno ali neustrezno, in da bi se odločitve sprejemale na podlagi predhodno določene hierarhije vrednot.

Kodeks ne bi odpravil potrebe po obravnavanju vseh pomembnih pravnih izzivov na tem področju, ampak bi morala biti njegova vloga dopolnilna. S kodeksom se bo predvsem pospešila etična kategorizacija robotike, povečala se bodo prizadevanja za odgovorne inovacije na tem področju in obravnavali se bodo pomisleki javnosti.

Poseben poudarek bi bilo treba nameniti raziskovalnim in razvojnim fazam na ustrezni tehnološki poti (postopek načrtovanja, etična presoja, revizijski nadzori itd.). Kodeks bi moral obravnavati skladnost delovanja raziskovalcev, strokovnjakov, uporabnikov in načrtovalcev z etičnimi standardi, uvesti pa bi moral postopek, ki bi vzpostavil načine za reševanje ustreznih etičnih dvomov in omogočil, da bi ti sistemi delovali na etično odgovoren način.

KODEKS ETIČNEGA RAVNANJA ZA INŽENIRJE ROBOTIKE

PREAMBULA

S kodeksom ravnanja se vse raziskovalce in načrtovalce poziva, naj ravnajo odgovorno in v celoti upoštevajo potrebo po spoštovanju dostojanstva, zasebnosti in varnosti ljudi.

S kodeksom se poziva k tesnemu sodelovanju med vsemi panogami, da bi zagotovili varno, etično in učinkovito izvajanje raziskav v robotiki v Evropski uniji.

Kodeks ravnanja velja za vse raziskovalne in razvojne dejavnosti v robotiki.

Kodeks ravnanja je prostovoljen ter obsega sklop splošnih načel in smernic za ukrepe, ki naj bi jih sprejeli vsi deležniki.

Organe za financiranje raziskav v robotiki, raziskovalne organizacije, raziskovalce in odbore za etiko se spodbuja, naj v čim zgodnejših fazah proučijo prihodnje posledice tehnologij ali objektov, ki jih raziskujejo, ter naj razvijejo kulturo odgovornosti zaradi izzivov in priložnosti, ki bi se lahko pojavili v prihodnosti.

Javni in zasebni organi, pristojni za financiranje raziskav v robotiki, morajo zahtevati izvedbo in predložitev ocene tveganja ob vsaki vložitvi predloga za financiranje raziskav v robotiki. Tak kodeks mora kot odgovorne povzročitelje obravnavati ljudi, ne robote.

Raziskovalci v robotiki se morajo zavezati k spoštovanju najvišjih etičnih vrednot in najboljšemu poklicnemu ravnanju ter morajo spoštovati naslednja načela:

dobronamernost – roboti morajo delovati v korist ljudi;

neškodovanje – doktrina „predvsem ne škoduj“, po kateri roboti ne smejo škodovati človeku;

avtonomija – sposobnost sprejetja obveščene, neprisiljene odločitve o pogojih interakcije z roboti;

pravičnost – poštena porazdelitev koristi, povezanih z robotiko, ter cenovna dostopnost zlasti robotov za domačo nego in zdravstveno oskrbo.

Temeljne pravice

Pri raziskovalnih dejavnostih v robotiki je treba spoštovati temeljne pravice, načrtovanje, izvajanje, razširjanje in uporaba robotov pa morajo biti v interesu dobrega počutja in samoodločanja posameznika in celotne družbe. Vedno je treba spoštovati človekovo dostojanstvo in avtonomijo, tako v fizičnem kot psihološkem smislu.

Previdnostni ukrepi

Raziskovalne dejavnosti v robotiki je treba izvajati v skladu s previdnostnim načelom, tj. s predvidevanjem morebitnih varnostnih vplivov, ki bi jih lahko prinesli njihovi rezultati, in s sprejetjem ustreznih previdnostnih ukrepov, sorazmernih z varstvom, ki hkrati spodbujajo napredek v korist družbe in okolja.

Vključenost

Inženirji robotike zagotavljajo preglednost in spoštovanje zakonite pravice dostopa do informacij za vse deležnike. Vključenost omogoča, da vsi deležniki, ki so vključeni v raziskovalne dejavnosti v robotiki ali jih te dejavnosti zadevajo, sodelujejo v postopkih odločanja.

Odgovornost

Inženirji robotike morajo ostati odgovorni za družbene in okoljske vplive ter vplive na zdravje ljudi, ki bi jih robotika lahko imela na sedanje in prihodnje generacije.

Varnost

Načrtovalci robotov morajo upoštevati in spoštovati dobro telesno počutje, varnost, zdravje in pravice ljudi. Inženirji robotike morajo ohranjati dobro počutje ljudi ob hkratnem spoštovanju človekovih pravic ter morajo nemudoma razkriti dejavnike, ki bi lahko ogrozili splošno javnost ali okolje.

Povratnost

Povratnost je kot nujni pogoj za možnost nadzora temeljni koncept pri programiranju robotov, da se ti vedejo varno in zanesljivo. Model povratnosti robotu pove, katera dejanja so povratna in, če so, kako jih je mogoče povrniti. Sposobnost razveljavitve zadnjega dejanja ali zaporedja dejanj uporabnikom omogoča, da prekličejo neželena dejanja in se vrnejo v „dobro“ fazo svojega dela.

Zasebnost

Pravico do zasebnosti je treba vedno spoštovati. Inženirji robotike morajo zagotoviti, da se zasebne informacije varujejo in uporabljajo le na ustrezen način. Poleg tega morajo zagotoviti, da posameznikov ni mogoče osebno prepoznati, razen v izjemnih okoliščinah in še takrat le na podlagi jasne in nedvoumne informirane privolitve. Za informirano privolitev človeka je treba zaprositi in jo pridobiti pred vsako interakcijo med človekom in strojem. Inženirji robotike so odgovorni za razvoj in spoštovanje postopkov za veljavno privolitev, zaupnost, anonimnost, pošteno obravnavanje in skrbno ravnanje. Načrtovalci bodo izpolnili vsako zahtevo po uničenju kakršnih koli povezanih podatkov in njihovi odstranitvi iz podatkovnega niza.

Povečanje koristi in zmanjšanje škode

Raziskovalci si morajo prizadevati, da s svojim delom zagotavljajo čim večje koristi v vseh fazah, od zasnove do razširjanja. Izogibati se morajo povzročanju škode udeležencem raziskav, preiskovancem, udeležencem ali objektom poskusa, kliničnega preizkušanja ali študije. Kadar se kot neizogiben in sestavni element raziskav pojavijo tveganja, je treba razviti zanesljiva pravila za oceno in upravljanje tveganja ter delovati v skladu z njimi. Praviloma tveganje za škodo ne sme biti večje, kot se lahko pojavi v običajnem življenju, tj. ljudje ne smejo biti izpostavljeni tveganjem, ki so večja od takšnih, ki so jim izpostavljeni v svojem običajnem načinu življenja, ali ki so takšnim tveganjem dodana. Delovanje robotskega sistema mora vedno temeljiti na celoviti oceni tveganja, ki mora izhajati iz načel previdnosti in sorazmernosti.

KODEKS ZA ODBORE ZA RAZISKOVALNO ETIKO

Načela

Neodvisnost

Postopek etične presoje mora biti neodvisen od raziskave same. S tem načelom se poudarja potreba po preprečevanju nasprotja interesov med raziskovalci in tistimi, ki presojajo pravila etike, ter med izvajalci presoje in upravljalnimi strukturami organizacije.

Pristojnost

Postopek etične presoje morajo izvajati osebe z ustreznim strokovnim znanjem in izkušnjami, pri čemer je treba skrbno upoštevati različna članstva in usposabljanje odborov za raziskovalno etiko na področju etike.

Preglednost in odgovornost

Postopek presoje mora potekati odgovorno in tako, da omogoča nadzor. Odbori za raziskovalno etiko se morajo zavedati svoje odgovornosti in biti ustrezno umeščeni v organizacijske strukture, ki omogočajo, da ti odbori delujejo pregledno ter da se pri postopkih spoštujejo in preverjajo standardi.

Vloga odbora za raziskovalno etiko

Odbor za raziskovalno etiko je praviloma odgovoren za presojanje vseh raziskav, ki vključujejo ljudi in jih izvajajo posamezniki, ki so zaposleni pri zadevni ustanovi ali jih ta zaposluje; pri tem zagotavlja, da je etična presoja neodvisna, ustrezna in pravočasna; varuje dostojanstvo, pravice in dobro počutje udeležencev raziskave; preveri varnost raziskovalca oz. raziskovalcev; preuči legitimne interese drugih deležnikov; izvaja informirane presoje znanstvene vrednosti predlogov; poda informirana priporočila za raziskovalca, če za predlog ugotovi, da je v nekaterih vidikih pomanjkljiv.

Sestava odbora za raziskovalno etiko

Odbor za raziskovalno etiko mora biti praviloma mutidisciplinaren in vključevati moške in ženske; biti mora sestavljen iz članov z obsežnimi izkušnjami in strokovnim znanjem na področju robotskih raziskav. Mehanizem imenovanja mora biti tak, da je odbor ustrezno uravnoteženo sestavljen iz članov, ki imajo znanstveno strokovno znanje, ozadje s področja filozofije, prava ali etike, obenem pa vključujejo laična mnenja, ter da vključuje vsaj enega člana s specialističnim znanjem etike, uporabnike specialističnih zdravstvenih, izobraževalnih ali socialnih storitev, kadar so te glavni predmet raziskovalnih dejavnosti, in posameznike s posebnim metodološkim strokovnim znanjem v zvezi z raziskavo, ki jo presojajo; sestavljen mora biti tako, da se prepreči nasprotje interesov.

Spremljanje

Vse raziskovalne organizacije morajo uvesti ustrezne postopke za spremljanje izvajanja raziskav, ki jih je odobril odbor za raziskovalno etiko, dokler te niso končane, ter zagotoviti stalne preglede, kadar se v skladu z načrtom raziskave sčasoma predvidijo spremembe, ki bi jih bilo treba obravnavati. Spremljanje mora biti sorazmerno z vrsto in stopnjo tveganja, povezanega z raziskavo. Kadar odbor za raziskovalno etiko meni, da poročilo o spremljanju odpira pomembna vprašanja o etičnem izvajanju študije, mora zahtevati popolno in podrobno poročilo o raziskavi, da se izvede celovita etična presoja. Kadar se ugotovi, da je izvajanje študije neetično, je treba razmisliti o umiku dovoljenja zanjo, raziskave pa začasno prekiniti ali ustaviti.

DOVOLJENJE ZA NAČRTOVALCE

–  Pred postopkom načrtovanja, razvoja in izvedbe takih tehnologij, med njim in po njem morate spoštovati evropske vrednote dostojanstva, avtonomije in samoodločanja, svobode in pravičnosti, vključno s potrebo po tem, da se (ranljivim) uporabnikom ne škoduje ter se jih ne poškoduje, zavaja ali izkorišča.

–  Pri vseh vidikih delovanja robota je treba vključiti načela zanesljivega sistemskega načrtovanja, tako za načrtovanje strojne kot programske opreme in za vsako obdelavo podatkov na platformi ali zunaj nje za varnostne namene.

–  Vključiti je treba značilnosti vgrajene zasebnosti za zagotovitev, da se zasebne informacije varujejo in uporabljajo le na ustrezen način.

–  Vključiti je treba očitne mehanizme za zavrnitev (stikala za izklop v sili), ki morajo biti v skladu z razumnimi cilji načrtovanja.

–  Zagotoviti je treba, da robot deluje na način, ki je skladen z lokalnimi, nacionalnimi in mednarodnimi etičnimi in pravnimi načeli.

–  Zagotoviti je treba, da je mogoče korake robotovega odločanja rekonstruirati in izslediti.

–  Zagotoviti je treba, da se pri programiranju robotskih sistemov zahtevata največja mogoča preglednost in predvidljivost robotovega vedenja.

–  Analizirati je treba predvidljivost sistema človek-robot, in sicer tako da se preučijo negotovosti pri razlagi in dejanjih ter morebitne robotske ali človeške napake.

–  V fazi načrtovanja robota je treba razviti orodja za sledenje. Ta orodja bodo strokovnjakom, upravljavcem in uporabnikom olajšala pripisovanje odgovornosti in razlago za vedenje robota, pa čeprav omejeno, na različnih ravneh.

–  Oblikovati je treba pravila načrtovanja in vrednotenja ter skupaj z morebitnimi uporabniki in deležniki ovrednotiti koristi in tveganja robotike, tudi v kognitivnem, psihološkem in okoljskem smislu.

–  Zagotoviti je treba, da je mogoče robote v interakciji z ljudmi prepoznati kot robote.

–  Zagotoviti je treba varnost in varovati zdravje tistih, ki imajo interakcijo in so v stiku z roboti, saj morajo biti roboti kot izdelki načrtovani na podlagi postopkov, ki zagotavljajo njihovo varnost. Inženir robotike mora varovati dobro počutje ljudi, pri čemer mora spoštovati človekove pravice, ter ne sme razviti robota brez zagotavljanja varnosti, učinkovitosti in reverzibilnosti delovanja sistema.

–  Pred preizkušanjem robota v resničnem okolju ali vključitvijo ljudi v postopke njegovega načrtovanja in razvoja je treba pridobiti pozitivno mnenje odbora za raziskovalno etiko.

DOVOLJENJE ZA UPORABNIKE

–  Robota je dovoljeno uporabljati, ne da bi tvegali povzročitev fizične ali psihološke škode ali skrbeli, da bi do nje prišlo.

–  Morali bi imeti pravico, da od robota pričakujete, da bo izvajal vse naloge, za katere je bil izrecno načrtovan.

–  Zavedati se je treba, da ima lahko vsak robot omejene sposobnosti dojemanja, kognitivnega zaznavanja in aktiviranja.

–  Spoštovati je treba človeško ranljivost, tako fizično kot psihološko, in čustvene potrebe ljudi.

–  Upoštevati je treba pravice posameznikov do zasebnosti, vključno z izklopom zaslonov med izvajanjem intimnih postopkov.

–  Osebnih podatkov ni dovoljeno zbirati, uporabljati ali razkrivati brez izrecnega soglasja osebe, na katero se nanašajo.

–  Robota ni dovoljeno uporabljati na način, ki bi bil v nasprotju z etičnimi ali pravnimi načeli in standardi.

–  Nobenega robota ni dovoljeno spremeniti tako, da bi lahko deloval kot orožje.

(1)

Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (splošna uredba o varstvu podatkov) (UL L 119, 4.5.2016, str. 1).

(2)

Trije zakoni robotike: (1) Robot človeka ne sme poškodovati oziroma mu škodovati s svojim nedelovanjem. (2) Robot mora ubogati ukaze ljudi, razen če so v nasprotju s prvim zakonom. (3) Robot mora zaščititi sebe, razen če je to v nasprotju s prvima zakonoma (glej Neubogljivi Speedy, I. Asimov, 1943). Pozneje dodani ničti zakon: (0) Robot ne sme škodovati človeštvu oziroma mu škodovati s svojim nedelovanjem.

(3)

Glej Schumanovo deklaracijo (1950): „Evropa ne bo nastala naenkrat ali v skladu z enotnim načrtom. Gradila se bo s pomočjo konkretnih dosežkov, ki bodo najprej oblikovali dejansko solidarnost.“

(4)

Direktiva Sveta 85/374/ES z dne 25. julija 1985 o približevanju zakonov in drugih predpisov držav članic v zvezi z odgovornostjo za proizvode z napako (UL L 210, 7.8.1985, str. 29).

(5)

Sprejeta besedila, P8_TA(2015)0390.

(6)

Uredba (ES) št. 216/2008 Evropskega parlamenta in Sveta z dne 20. februarja 2008 o skupnih predpisih na področju civilnega letalstva in ustanovitvi Evropske agencije za varnost v letalstvu in razveljavitvi Direktive Sveta 91/670/EGS, Uredbe (ES) št. 1592/2002 in Direktive 2004/36/ES (UL L 79, 19.3.2008, str. 1).

(7)

Glej zakonodajno resolucijo Evropskega parlamenta z dne 2. aprila 2014 o predlogu uredbe Evropskega parlamenta in Sveta o medicinskih pripomočkih in spremembi Direktive 2001/83/ES, Uredbe (ES) št. 178/2002 in Uredbe (ES) št. 1223/2009 (COM(2012)0542 – C7-0318/2012 – 2012/0266(COD)).

(8)

Uredba (ES) št. 864/2007 Evropskega parlamenta in Sveta z dne 11. julija 2007 o pravu, ki se uporablja za nepogodbene obveznosti („Rim II“) (UL L 199, 31.7.2007, str. 40).

(9)

Uredba Sveta (ES) št. 428/2009 o vzpostavitvi režima Skupnosti za nadzor izvoza, prenosa, posredovanja in tranzita blaga z dvojno rabo (UL L 341, 29.5.2009, str. 1).


OBRAZLOŽITEV

Ozadje

Odbor za pravne zadeve je v skladu s Prilogo VI k Poslovniku med drugim odgovoren za civilno in gospodarsko pravo, pravo gospodarskih družb in pravo intelektualne lastnine ter razlago in uporabo mednarodnega prava, če to vpliva na Evropsko unijo, in etična vprašanja, povezana z novimi tehnologijami. Z razvojem robotike in umetne inteligence se odpirajo pravna in etična vprašanja, ki so jasno povezana z vsemi temi področji in zahtevajo takojšnje posredovanje na ravni EU. Čeprav bo končno odločitev o predložitvi enega ali več zakonodajnih predlogov v zvezi z robotiko in umetno inteligenco sprejela Komisija, se je Evropski parlament odločil, da z uporabo svojih pravic v skladu s členom 225 Pogodbe o delovanju Evropske unije in členom 46 Poslovnika začrta pot takim pobudam.

Tako je 20. januarja 2015 Odbor za pravne zadeve (JURI) sprejel sklep o ustanovitvi Delovne skupine o pravnih vprašanjih v zvezi z razvojem robotike in umetne inteligence v Evropski uniji. Glavni cilj delovne skupine je bil priprava osnutkov pravil civilnega prava v zvezi s tem področjem.

Delovna skupina je poleg članov Odbora JURI vključevala člane, ki so zastopali Odbor za industrijo, raziskave in energetiko (ITRE), Odbor za notranji trg in varstvo potrošnikov (IMCO) ter Odbor za zaposlovanje in socialne zadeve (EMPL).

Delovna skupina se je posvetovala s strokovnjaki z raznih področij, od katerih je dobila pomembne prispevke, ki so vključeni v to resolucijo.

Splošno

Robotika in umetna inteligenca sta postali eden od najizrazitejših tehnoloških trendov našega stoletja. S hitrim povečanjem njune uporabe in razvoja prihajajo tudi novi in težki izzivi za našo družbo. Premik iz industrijskega sektorja v okolje civilne družbe zahteva drugačen pristop k tem tehnologijam, saj se bo interakcija robotov in umetne inteligence z ljudmi povečala na raznovrstnih področjih.

Odbor JURI meni, da je treba tveganja, ki jih prinašajo te nove interakcije, čim prej obravnavati ter zagotoviti, da se sklop glavnih temeljnih vrednot vključi v vsako fazo stika med roboti, umetno inteligenco in ljudmi. V tem procesu je treba poseben poudarek nameniti varnosti, zasebnosti, integriteti, dostojanstvu in samostojnosti ljudi.

Drugi pomembni vidiki, obravnavani v tej resoluciji, so: standardizacija, pravice intelektualne lastnine, lastništvo podatkov, zaposlovanje in odgovornost. Poglavitno je, da se s predpisi določijo predvidljivi in dovolj jasni pogoji za spodbujanje evropskih inovacij na področju robotike in umetne inteligence.

Pravna podlaga in subsidiarnost

Ukrepi Komisije za prilagoditev veljavne zakonodaje resničnosti robotov in umetne inteligence morajo temeljiti na členu 114 PDEU. V skladu s členom 5(3) PEU načelo subsidiarnosti določa, da Unija deluje na področjih, ki niso v njeni izključni pristojnosti le, če in kolikor države članice ciljev predlaganih ukrepov ne morejo zadovoljivo doseči na nacionalni, regionalni ali lokalni ravni, temveč se zaradi obsega ali učinkov predlaganih ukrepov lažje dosežejo na ravni Unije. Razvoj robotike trenutno poteka v celotni Uniji. Države članice kot odziv na to inovacijo razvijajo različne nacionalne zakonodaje. Pričakuje se, da bodo te razlike ovirale učinkovit razvoj robotike. Ker ima ta tehnologija čezmejne posledice, je najbolje, da se zakonodaja sprejme na evropski ravni.

Splošna in etična načela

Resolucija določa splošna in etična načela v zvezi z razvojem robotike in umetne inteligence za civilno uporabo. Za ustrezno obravnavanje tega razvoja je ključno, da se najprej določi skupna opredelitev pametnih avtonomnih robotov. Poleg tega je treba povečati raziskave na področju robotike in IKT ter raziskave o njunih posledicah.

Za obravnavanje etičnih načel k tej resoluciji je priložena še Listina o robotiki. Listina je sestavljena iz Kodeksa etičnega ravnanja za inženirje robotike, Kodeksa za odbore za raziskovalno etiko ter dovoljenj za načrtovalce in uporabnike. Predlagani okvir je v celoti skladen z Listino EU o temeljnih pravicah.

Predlaga se tudi ustanovitev evropske agencije za robotiko in umetno inteligenco, ki naj bi zagotovila tehnično, etično in regulativno znanje, potrebno za podporo ustreznih javnih akterjev.

Pravice intelektualne lastnine, varstvo in lastništvo podatkov

Z resolucijo se Komisijo poziva, naj predlaga uravnotežen pristop k pravicam intelektualne lastnine, kadar se uporabljajo za standarde strojne in programske opreme, ter kodekse, ki bodo varovali inovacije in jih hkrati tudi spodbujali. Poleg tega se poziva k oblikovanju meril za „lastno intelektualno stvaritev“ za dela, ki se lahko zaščitijo z avtorskimi pravicami in jih proizvedejo računalniki ali roboti.

Sedanji nezadostni pravni okvir za varstvo in lastništvo podatkov vzbuja močno skrb zaradi (pričakovanega ogromnega) podatkovnega toka, ki ga bo povzročila uporaba robotike in umetne inteligence.

Standardizacija in varnost

Zaradi naraščajoče uporabe robotov in umetne inteligence je potrebna evropska standardizacija, da se preprečijo razlike med državami članicami in razdrobljenost notranjega trga Evropske unije.

Poleg tega je treba obravnavati pomisleke potrošnikov glede varnosti pri uporabi robotov in umetne inteligence. V tej resoluciji je posebno poudarjeno, da je preizkušanje robotov v scenarijih resničnega življenja ključno za opredelitev in oceno tveganj, ki se lahko pojavijo.

Pravila za posebno uporabo robotov in umetne inteligence

Ta resolucija vključuje določbe, ki se uporabljajo za posebne vrste robotov. Za avtonomna vozila, robote za nego, medicinske robote, popravljanje in izboljšanje človeka ter brezpilotne zrakoplove (daljinsko vodene zračne sisteme – RPAS) je treba sprejeti ločena pravila.

Pravila o odgovornosti

Tveganja, ki se lahko pojavijo, so neločljivo povezana z uporabo avtonomnih strojev v naši družbi. Vedenje robota ima lahko civilnopravne posledice, tako v smislu pogodbene kot nepogodbene odgovornosti. Zato je treba razjasniti, kdo nosi odgovornost za dejanja robotov, ter, končno, ali bi se lahko določila pravna sposobnost in/ali status robota in umetne inteligence, da se zagotovita preglednost in pravna gotovost za proizvajalce in potrošnike v celotni Evropski uniji.

Komisijo se poziva, naj izvede ocene učinka prihodnjih zakonodajnih instrumentov, da tako preuči posledice vseh možnih pravnih rešitev, kot sta med drugim vzpostavitev sistema obveznega zavarovanja in kompenzacijski sklad.

Robotika in umetna inteligenca v družbenem okolju

Vse večja komunikacija in interakcija z roboti lahko močno vpliva na fizične in moralne odnose v naši družbi. To velja zlasti v primeru robotov za nego, do katerih lahko predvsem ranljivi ljudje razvijejo posebna čustva in navezanost, kar poraja zaskrbljenost glede človekovega dostojanstva in drugih moralnih vrednot.

Roboti in umetna inteligenca že zdaj vplivajo na izobraževanje in zaposlovanje, zato je treba skrbno spremljati trende zaposlovanja, da se preprečijo neželeni učinki na trg zaposlovanja.

Mednarodni vidiki

Glede na razvoj robotike in umetne inteligence po vsem svetu je treba po potrebi preučiti možnosti in začeti pobude za spremembo ustreznih veljavnih mednarodnih sporazumov ali za pripravo novih instrumentov, da se uvedejo posebna sklicevanja na robotiko in umetno inteligenco. Mednarodno sodelovanje na tem področju je zelo zaželeno.


MNENJE Odbora za promet in turizem (*) (16.11.2016)

za Odbor za pravne zadeve

s priporočili Komisiji o pravilih civilnega prava o robotiki

(2015/2103(INL))

Pripravljavec mnenja: Georg Mayer

(Pobuda – člen 46 Poslovnika)

POBUDE

Odbor za promet in turizem poziva Odbor za pravne zadeve kot pristojni odbor, da

–  ob upoštevanju Amsterdamske izjave Sveta z dne 14. in 15. aprila 2016 o sodelovanju na področju povezane in avtomatizirane vožnje (v nadaljnjem besedilu Amsterdamska izjava),

A.  ker je Evropska komisija nedavno ustanovila skupino na visoki ravni Gear 2030 za pripravo časovnega načrta za pravilno uvedbo avtonomnih vozil;

B.  ker je treba za namene civilne odgovornosti razlikovati med avtomatiziranimi vozili (ki omogočajo samodejno opravljanje določenih nalog pri vožnji) in avtonomnimi vozili (ki pri vožnji opravljajo vse naloge). V prvem primeru mora vozilo med vožnjo ostati pod stalnim nadzorom voznika, ki je zanj tudi v celoti odgovoren. V drugem primeru stalni nadzor ali kakršen koli poseg uporabnika med vožnjo ni več potreben. Ureditev civilne odgovornosti ostaja v prvem primeru nespremenjena v primerjavi s konvencionalnimi vozili, medtem ko jo je treba v drugem primeru prilagoditi;

1.  poudarja, da avtonomni promet zajema vse oblike daljinsko vodenih, avtomatiziranih, povezanih in avtonomnih oblik cestnega, železniškega, vodnega in zračnega prometa, vključno z vozili, vlaki, plovili, trajekti, letali in brezpilotnimi zrakoplovi, ter vse prihodnje oblike razvoja in inovacij v tem sektorju (v nadaljnjem besedilu „avtonomna prevozna sredstva“);

2.  poziva Komisijo, naj pri svojem delu glede avtonomnih prevoznih sredstev preuči naslednje vidike: civilno odgovornost (odgovornost in zavarovanje), vse teme, povezane z okoljem (npr. energetska učinkovitost, uporaba obnovljive tehnologije in obnovljivih virov energije) in vprašanja, povezana s podatki (dostop do podatkov, varstvo osebnih podatkov in zasebnosti, izmenjava podatkov o nesrečah in tveganjih, finančna vrednost podatkov in njihova porazdelitev);

3.  opozarja, da bi lahko avtonomna prevozna sredstva bistveno prispevala k izboljšanju prometne varnosti, saj so človeške napake danes vzrok za približno 90 % prometnih nesreč; vendar ugotavlja, da bo z avtonomnimi vozili nemogoče odpraviti vse nesreče, s čimer se v primeru nesreč zastavlja vprašanje odgovornosti zadevnih strani in odškodnine za žrtve;

4.  opozarja, da v sektorju javnega prometa že dolgo obstajajo avtonomni prometni sistemi (podzemna železnica), ki so dokazali svojo zanesljivost ter visoko raven sprejemanja v javnosti;

5.  meni, da bi lahko prehod na avtonomna vozila poleg pozitivnega vpliva na prometno varnost, porabo goriva, okolje in ustvarjanje novih možnosti za zaposlitev v telekomunikacijskem in avtomobilskem sektorju privedel tudi do izgube delovnih mest v prometnem sektorju in vplival na zavarovalniški sektor;

6.  opozarja, da je pri nenačrtovanem prevzemu nadzora nad vozilom bistven reakcijski čas voznika, zato deležnike poziva, naj predvidijo realistične vrednosti pri odločanju o vprašanjih varnosti in odgovornosti;

7.  poudarja posebni pomen, ki ga ima osnutek poročila Odbora za pravne zadeve o prometnem sektorju glede na tehnološki napredek in na dejstvo, da so polavtonomna prevozna sredstva že na trgu, kmalu pa bodo na trgu tudi povsem avtonomna prevozna sredstva;

8.  poudarja, da je pomembno podpirati nadaljnje inovacije v robotiki, na primer povezana in avtomatizirana vozila in brezpilotne zrakoplove, da bi okrepili položaj industrije EU na svetovnem trgu;

9.  ugotavlja, da imajo avtonomna prevozna sredstva pomembno vlogo pri razvoju trajnostnega prometa; ugotavlja, da bi lahko avtonomna prevozna sredstva pripomogla k zmanjšanju prometnih zastojev, ter poziva Komisijo in države članice, naj pravočasno in v celoti upoštevajo tehnični napredek, vplive na okolje in varnost ter spodbujanje inovacij;

10.  pričakuje, da bo Komisija poskrbela za enoten prenos veljavne zakonodaje, na primer Dunajske konvencije o cestnem prometu z dne 8. novembra 1968, v državah članicah, da bi omogočili vožnjo brez voznika, in poziva Komisijo, države članice in industrijo, naj čim prej uresničijo cilje Amsterdamske izjave;

11.  poziva Komisijo, naj pripravi oceno varnosti v zvezi z množično uporabo brezpilotnih zrakoplovov; poziva Komisijo, naj izvede študije o vplivu avtonomnih prevoznih sredstev za izboljšanje prometne varnosti in trajnosti;

12.  poudarja, da bodo avtonomna vozila z optimizacijo potovalnih poti, prizadevanjem za odpravo zastojev, optimizacijo uporabe pogonskega sistema in sporazumevanjem s sistemi za urejanje tokov prispevali k izboljšanju okoljskih dejavnikov, zlasti v urbanih vozliščih;

13.  poudarja, da bosta komuniciranje med avtonomnimi prevoznimi sredstvi, sistemi za upravljanje prometa in infrastrukturo ter njeno upravljanje zahtevala učinkovite in zanesljive komunikacijske zmogljivosti za varen prenos velikih količin podatkov v realnem času; poudarja, da bodo potrebne precejšnje naložbe v cestno, energetsko in telekomunikacijsko infrastrukturo ob zagotavljanju zasebnosti in varstva podatkov;

14.  opozarja, kako pomembna je inteligentna in povezana prometna infrastruktura, in zato poziva Komisijo in države članice, naj poskrbijo za ustrezno splošno, čezmejno in interoperabilno infrastrukturo;

15.  poziva Komisijo, naj uredi civilno odgovornost, vključno z dokaznim bremenom, ki bo prilagojena razvoju avtonomnih vozil; poudarja, da je treba jasno zamejiti odgovornost načrtovalcev, izdelovalcev posameznih sestavnih delov in sestavljavcev avtonomnih vozil, ponudnikov storitev (storitve prevoza ali storitve, potrebne za delovanje avtonomnega vozila) in končnih uporabnikov, da bi zagotovili varnost in pravice potnikov, varstvo podatkov in zaščito pred piratstvom;

16.  poudarja, da so za uporabo avtonomnih vozil izjemno pomembne zanesljive informacije o položaju in času, ki jih zagotavljata evropska programa za satelitsko navigacijo Galileo in EGNOS, zlasti za navigacijske in varnostne sisteme v avtonomnih vozilih, pa tudi za inteligentne prometne sisteme in sisteme za upravljanje prometa;

17.  želi izpostaviti visoko dodano vrednost, ki jo imajo avtonomna vozila za osebe z omejeno mobilnostjo, saj jim omogočajo boljšo udeležbo v individualnem cestnem prometu in jim s tem olajšajo vsakdan;

18.  poziva Komisijo, naj do leta 2019 predlaga skupno evropsko strategijo (vključno z enotnim načrtom) za avtonomna prevozna sredstva in za tesnejše sodelovanje vseh ustreznih deležnikov, vključno s podrobno analizo in priporočili glede dinamike in razvoja trga; poziva Komisijo, naj pregleda in po potrebi prilagodi regulativni okvir Unije, da bi podprla razvoj in uporabo avtonomnih prevoznih sredstev; odločno poziva k čimprejšnjemu dokončanju in izstrelitvi satelitov, ki so potrebni za dokončanje evropskega navigacijskega sistema Galileo, da bi ga lahko uporabljali kot privzeti sistem za določanje položaja v avtonomnih prevoznih sredstvih;

19.  ugotavlja, da je za razvoj avtonomnih vozil potreben proaktiven in predan institucionalni pristop Unije in držav članic, pa tudi sodelovanje tehnoloških centrov in avtomobilske industrije;

20.  poziva Komisijo, naj oblikuje evropske infrastrukturne standarde, ki bodo omogočali širitev avtonomnih vozil, in časovni načrt za njihovo izvajanje;

21.  poziva Komisijo in države članice, naj vključijo upravljanje avtomatiziranih vozil v katalog izobraževanja in nadaljnjega usposabljanja voznikov tovornjakov ter ga vključijo v izobraževanje za pridobitev vozniškega dovoljenja;

22.  opozarja, da bi morali za poenotenost in varnost brezpilotnih zrakoplovov poskrbeti ukrepi iz Uredbe (ES) št. 216/2008 Evropskega parlamenta in Sveta(1);

IZID KONČNEGA GLASOVANJAV ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja

10.11.2016

 

 

 

Izid končnega glasovanja

+:

–:

0:

22

5

0

Poslanci, navzoči pri končnem glasovanju

Daniela Aiuto, Marie-Christine Arnautu, Georges Bach, Izaskun Bilbao Barandica, Deirdre Clune, Michael Cramer, Luis de Grandes Pascual, Andor Deli, Karima Delli, Jacqueline Foster, Bruno Gollnisch, Merja Kyllönen, Peter Lundgren, Marian-Jean Marinescu, Cláudia Monteiro de Aguiar, Renaud Muselier, Markus Pieper, Salvatore Domenico Pogliese, Massimiliano Salini, Claudia Schmidt, Jill Seymour, Pavel Telička, Wim van de Camp, Roberts Zīle, Elżbieta Katarzyna Łukacijewska

Namestniki, navzoči pri končnem glasovanju

Ramona Nicole Mănescu, Matthijs van Miltenburg

(1)

Uredba (ES) št. 216/2008 Evropskega parlamenta in Sveta z dne 20. februarja 2008 o skupnih predpisih na področju civilnega letalstva in ustanovitvi Evropske agencije za varnost v letalstvu in razveljavitvi Direktive Sveta 91/670/EGS, Uredbe (ES) št. 1592/2002 in Direktive 2004/36/ES (UL L 79, 19.3.2008, str. 1).


MNENJE Odbora za državljanske svoboščine, pravosodje in notranje zadeve (*) (23.11.2016)

za Odbor za pravne zadeve

s priporočili Komisiji o pravilih civilnega prava o robotiki

(2015/2103(INL))

Pripravljavec mnenja: Michał Boni

(Pobuda – člen 46 Poslovnika)

(*)  Pridruženi odbor – člen 54 Poslovnika

POBUDE

Odbor za državljanske svoboščine, pravosodje in notranje zadeve poziva Odbor za pravne zadeve kot pristojni odbor:

–  naj v predlog resolucije vključi naslednje pobude:

A.  ker bo tehnološki napredek na področju robotike pozitivno vplival na gospodarstvo Unije, pa tudi na vsakodnevno življenje posameznikov, vendar bi lahko prinesel tudi tveganja, ki jih je treba obravnavati; ker je treba pri razvoju vseh novih tehnoloških in proizvodnih paradigem v okviru programa Obzorje 2020 ali zunaj njega spoštovati etična načela in ustrezno upoštevati temeljne pravice iz Listine EU o temeljnih pravicah;

B.   ker je več tretjih držav že sprejelo smernice in zakonodajo na področju robotike ter so tudi nekatere države članice začele razmišljati o tem; ker bi regulativni okvir, ki bi na ravni Unije urejal razvoj in uporabo robotike in umetne inteligence ter nadgradil veljavna pravila, na primer Splošno uredbo Unije o varstvu podatkov(1), lahko preprečil fragmentacijo pravil na enotnem trgu in zagotovil varstvo temeljnih pravic vseh državljanov EU do dostojanstva, zasebnosti in družinskega življenja, varstva osebnih podatkov in intelektualne lastnine, svobode izražanja in obveščanja, enakosti in nediskriminacije, solidarnosti ter državljanskih pravic in pravnega varstva, pa tudi varnosti in varovanja, ob upoštevanju načela sorazmernosti;

Etična načela

1.  meni, da bi morali veljavni pravni okvir Unije, kjer je ustrezno, posodobiti in dopolniti s splošnimi etičnimi načeli za načrtovanje, izdelavo, preizkušanje in uporabo robotov in umetne inteligence, da bi tako zagotovili, da bodo te tehnologije resnično izboljšale kakovost življenja ljudi; poziva, naj se pri njihovem razvoju in uporabi vedno upošteva previdnostno načelo;

2.  meni, da bi morali zlasti za robote in umetno inteligenco z vgrajeno avtonomijo in zmožnostjo neodvisnega črpanja, zbiranja in širjenja občutljivih informacij, ki vključuje različne deležnike, ter z možnostjo samostojnega učenja ali celo razvoja do samostojnega spreminjanja veljati strogi konceptualni zakoni ali načela, na primer, da robot ne sme ubiti človeka ali mu škodovati, da mora človeka ubogati in da ga mora človek nadzorovati; meni, da morajo biti procesi, s katerimi roboti zbirajo, uporabljajo in obdelujejo osebne podatke, pregledni in razumljivi; meni, da morajo biti ta načela tehnološko nevtralna in temeljiti na empiričnih raziskavah; podpira oblikovanje okvira za raziskovalce, akademsko srenjo in inženirje, ki bo temeljil na etiki in zagotavljal, da te tehnološke rešitve ne bodo ovirale raziskav in tehnološkega razvoja, temveč bodo v skladu z veljavno etično prakso in kodeksi Unije in držav članic ter s pravicami in načeli iz Listine EU o temeljnih pravicah (zlasti človekovim dostojanstvom, spoštovanjem in varovanjem zasebnega in družinskega življenja, varovanjem in varnostjo, varstvom osebnih podatkov, varstvom intelektualne lastnine, svobodo izražanja in obveščanja, enakosti in nediskriminacije, solidarnosti ter državljanskih pravic in pravnega varstva), ob upoštevanju načela sorazmernosti;

3.  priznava, da je za opredelitev teh zakonov in načel ter njihovega praktičnega izvajanja potrebnih več raziskav na področju etike umetne inteligence; meni, da bi navsezadnje lahko Evropska skupina za etiko v znanosti in novih tehnologijah sodelovala pri opredelitvi etičnih smernic in standardov, ki bodo usmerjeni v prihodnost in bodo omogočali odzivanje na prihodnji tehnološki napredek;

4.  poudarja, da je treba obravnavati psihološke in družbene učinke interakcije ljudi in robotov, pa tudi dvojni učinek, ki ga ima tehnologija na človeške zmogljivosti, s posebnim poudarkom na ranljivih skupinah, zlasti otrocih, da bi preprečili škodljivo odvisnost od robotov, na primer z vzbujanjem čustvenih odzivov ali izolacijo teh oseb od resničnosti;

5.  poudarja, da bodo imeli roboti in umetna inteligenca, zlasti roboti za medicinsko, oskrbovalno in domačo uporabo ter medicinski kibernetsko-fizični sistemi, katerih določene sestavne dele je mogoče vsaditi v telo ali nositi na njem, velik učinek na življenje ljudi, zlasti invalidnih oseb; ugotavlja, da je zato bistveno, da se zagotovi vključujoč in enak dostop do teh tehnologij; želi izpostaviti tudi učinek takšnih robotskih sistemov na zasebnost uporabnikov, saj imajo roboti dostop do navadno zavarovanih prostorov in občutljivih osebnih podatkov; meni, da je treba zagotoviti spoštovanje načel medicinske etike, varnosti bolnikov in celovitosti oskrbe;

Zasebnost in varstvo podatkov

6.  ponavlja, da pravici do varstva zasebnega življenja in do varstva osebnih podatkov, zapisani v členih 7 in 8 Listine EU o temeljnih pravicah ter členu 16 Pogodbe o delovanju Evropske unije, veljata za vsa področja robotike in umetne inteligence ter da je treba v celoti spoštovati pravni okvir Unije za varstvo podatkov; poudarja, da imajo načrtovalci na področju robotike in umetne inteligence odgovornost, da razvijajo varne, zaščitene in namenu prilagojene izdelke in da sledijo postopkom obdelave podatkov, ki so skladni z veljavno zakonodajo, zaupnostjo, anonimnostjo, pravično obravnavo in dolžnim pravnim postopanjem;

7.  poziva Komisijo, naj zagotovi, da bo vsa zakonodaja Unije o robotiki in umetni inteligenci vključevala ukrepe in pravila, ki bodo upoštevala hiter tehnološki razvoj na teh področjih, vključno z razvojem kibernetsko-fizičnih sistemov, da bi zagotovili, da zakonodaja Unije ne bo zaostajala za tehnološkim razvojem in uporabo tehnologije; poudarja, da mora biti ta zakonodaja skladna s pravili o zasebnosti in varstvu podatkov, na primer glede obveznosti obveščanja, pravico do pojasnila o odločitvi, sprejeti na podlagi avtomatizirane obdelave, obveznega spoštovanja vgrajene in privzete zasebnosti, načel sorazmernosti, potrebnosti, zmanjšanja količine podatkov, omejitve namena, pa tudi preglednih nadzornih mehanizmov za posameznike, na katere se osebni podatki nanašajo, in organe za varstvo podatkov ter ustrezna pravna sredstva, v skladu z veljavno zakonodajo; poziva k pregledu pravil, načel in meril za uporabo kamer in senzorjev v robotih in umetni inteligenci v skladu s pravnim okvirom Unije za varstvo podatkov;

8.  poziva, naj se v regulativnem okviru Unije za robotiko in umetno inteligenco uporablja enoten horizontalni pristop, ki bo tehnološko nevtralen in bo veljal za različne sektorje, v katerih bi lahko uporabljali robotiko, na primer prometu, zdravstvu, industrijski proizvodnji, telekomunikacijah, kazenskem pregonu in mnogih drugih; poudarja, da bi morali veljavni pravni okvir, kjer je ustrezno, posodobiti in dopolniti, da bi zagotovili enotno raven varstva podatkov, zasebnosti in varnosti;

9.  poudarja, da je pomembno preprečiti množični nadzor s tehnologijami robotike in umetne inteligence;

10.  poziva Komisijo in države članice, naj spodbujajo tesno in pregledno sodelovanje med javnostjo, zasebnim sektorjem in akademskim svetom, s katerim bi okrepili širjenje znanja ter izobraževanje in usposabljanje načrtovalcev o etičnih posledicah, varnosti in spoštovanju temeljnih pravic, pa tudi potrošnikov o uporabi robotike in umetne inteligence, s posebnim poudarkom na varnosti in zasebnosti podatkov;

Varnost podatkov in podatkovnih sistemov ter pretok podatkov

11.  poudarja, da je prost pretok podatkov ključen za digitalno gospodarstvo ter nujen za razvoj robotike in umetne inteligence; poudarja, da je visoka raven varnosti v sistemih robotike in umetne inteligence kot celoti, vključno z notranjimi podatkovnimi sistemi in pretokom podatkov, bistvena za ustrezno uporabo robotov in umetne inteligence; poudarja, da je treba zagotoviti varnost omrežij povezanih robotov in umetne inteligence, da bi preprečili morebitne kršitve varnosti, kibernetske napade ali zlorabo osebnih podatkov, zlasti pri zbiranju in obdelavi velikih količin podatkov; poudarja, da je treba oblikovati mehanizem, ki bo uporabniku omogočil, da v primeru kršitve varnosti zaustavi obdelavo svojih osebnih podatkov; poudarja, kako pomembne so raziskovalne in razvojne dejavnosti na področju tehnik za varstvo podatkov, in želi izpostaviti skupno odgovornost javnega in zasebnega sektorja, da sodelujeta pri zagotavljanju visoke ravni varnosti, varovanja in zasebnosti podatkov, ki se uporabljajo pri komunikaciji med ljudmi ter roboti in umetno inteligenco, skupaj z visoko kakovostjo sistemov za prepoznavanje govora in znakovnega jezika; meni, da bi morali v primerih resnih kršitev varnosti podatkov zaradi malomarnosti komercialnih proizvajalcev strojne in programske opreme, ti zanje tudi odgovarjati; poziva Komisijo in države članice, naj podprejo in spodbudijo razvoj potrebne tehnologije, tudi vgrajene varnosti in komunikacijskih kanalov;

Brezpilotni zrakoplovi (sistemi daljinsko pilotiranih zrakoplovov, RPAS)

12.  poudarja, da veljajo pri obdelavi osebnih podatkov v sistemih daljinsko pilotiranih zrakoplovov s strani javnih organov za namene kazenskega pregona ali s strani zasebnih ali javnih subjektov za druge pravno dovoljene namene pravica do svobode in varnosti in pravica do spoštovanja zasebnega življenja, kot sta zapisani v členih 6 in 7 Listine EU o temeljnih pravicah, ter pravica do varstva osebnih podatkov, določena v členu 8 Listine EU o temeljnih pravicah in členu 16 Pogodbe o delovanju Evropske unije, v celoti pa je treba spoštovati pravni okvir Unije za varstvo podatkov; poziva Komisijo, naj prouči možnost obvezne opremljenosti RPAS s sistemom za sledljivost in identifikacijo, ki bo v realnem času omogočal ugotavljanje položaja delujočih RPAS;

13.  ponovno poziva Svet, naj pripravi strog in učinkovit skupni okvir Unije o uporabi oboroženih brezpilotnih zrakoplovov, v katerem naj največjo pozornost nameni spoštovanju etičnih načel, človekovih pravic in mednarodnega humanitarnega prava ter obravnava vprašanja, kot so pravni okvir, sorazmernost, odgovornost, preglednost in zaščita civilistov, vključno s sprejetjem vseh uresničljivih ukrepov za izogibanje napačnim tarčam in nenamernim civilnim žrtvam ter zagotavljanjem, da ima končni nadzor in odgovornost človek; ponovno zahteva prepoved proizvodnje, razvoja in uporabe popolnoma avtonomnega orožja, ki omogoča izvedbo napadov brez človekovega posredovanja; poziva Komisijo in države članice, naj začnejo obsežen mednarodni dialog za oblikovanje splošnih pravnih standardov ter pravnih in etičnih omejitev razvoja, širjenja in uporabe vse bolj avtonomnih orožnih sistemov, na primer v obliki zavezujočih mednarodnih sporazumov;

14.  priznava pozitiven napredek na področju tehnologije daljinsko pilotiranih zrakoplovov, zlasti na področju iskanja in reševanja, ter vztraja, da bi se tehnologija daljinsko pilotiranih zrakoplovov v Uniji morala razvijati v tej smeri;

Kodeks ravnanja

15.  meni, da je na posebnih področjih, kjer ustrezne študije kažejo, da bi bilo oblikovanje zakonodaje preuranjeno, poleg ustrezne zakonodaje treba spodbujati tudi okvir mehkega prava, kodeks ravnanja ali javno-zasebna partnerstva, po možnosti na ravni Unije, s čimer bi spodbudili sodelovanje med industrijo in načrtovalci robotike ter javnimi organi in vsemi ostalimi ustreznimi deležniki; meni, da se je treba pri takih instrumentih osredotočiti na praktične rešitve za zagotavljanje zasebnosti in varstva podatkov, človekovega dostojanstva, nediskriminacije, varnosti in etike v industriji robotike ter za ustrezno vsakodnevno rabo robotov in umetne inteligence.

IZID KONČNEGA GLASOVANJAV ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja

17.11.2016

 

 

 

Izid končnega glasovanja

+:

–:

0:

47

0

2

Poslanci, navzoči pri končnem glasovanju

Heinz K. Becker, Malin Björk, Michał Boni, Caterina Chinnici, Ignazio Corrao, Frank Engel, Tanja Fajon, Lorenzo Fontana, Marija Gabriel (Mariya Gabriel), Kinga Gál, Ana Gomes, Nathalie Griesbeck, Sylvie Guillaume, Jussi Halla-aho, Monika Hohlmeier, Filiz Hjusmenova (Filiz Hyusmenova), Sylvia-Yvonne Kaufmann, Cécile Kashetu Kyenge, Marju Lauristin, Juan Fernando López Aguilar, Monica Macovei, Roberta Metsola, Claude Moraes, József Nagy, Péter Niedermüller, Judith Sargentini, Birgit Sippel, Branislav Škripek, Csaba Sógor, Helga Stevens, Traian Ungureanu, Bodil Valero, Harald Vilimsky, Josef Weidenholzer, Tomáš Zdechovský

Namestniki, navzoči pri končnem glasovanju

Daniel Dalton, Anna Hedh, Teresa Jiménez-Becerril Barrio, Ska Keller, Jeroen Lenaers, Andrejs Mamikins, Maite Pagazaurtundúa Ruiz, Christine Revault D’Allonnes Bonnefoy, Barbara Spinelli

Namestniki (člen 200(2)), navzoči pri končnem glasovanju

Lynn Boylan, Verónica Lope Fontagné, Mylène Troszczynski, Tom Vandenkendelaere, Rainer Wieland

(1)

Uredba (EU) 2016/679 Evropskega parlamenta in Sveta o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (UL L 119, 4.5.2016, str. 1).


MNENJE Odbora za zaposlovanje in socialne zadeve (9.11.2016)

za Odbor za pravne zadeve

s priporočili Komisiji o pravilih civilnega prava o robotiki

(2015/2103(INL))

Pripravljavec mnenja: Ádám Kósa

(Pobuda – člen 46 Poslovnika)

POBUDE

Odbor za zaposlovanje in socialne zadeve poziva Odbor za pravne zadeve kot pristojni odbor:

–  naj v predlog resolucije vključi naslednje pobude:

1.  poziva Komisijo, naj nujno opravi poglobljeno oceno učinka robotike na število in vrste delovnih mest ter na kakovost in profile usposobljenosti za obstoječa delovna mesta; zbere naj informacije o novih oblikah zaposlovanja, da bi kar se da učinkovito predvideli, prvič, ali širitev uporabe robotov sama po sebi pomeni blaginjo in napredek, ali zaradi nje človeško delo v tradicionalni proizvodni in storitveni strukturi postaja nepotrebno in, če je tako, kateri pogoji morajo biti izpolnjeni poleg finančne varnosti, da bodo ljudje še naprej zdravi v smislu dobrega duševnega in telesnega počutja, srečni in dejavni državljani, ter ali teoretične koristi simbioze med ljudmi in stroji učinkovito prispevajo k dobremu počutju in razvoju, in, drugič, ali razvoj trga dela držav članic, zakonodaja in praksa lahko zagotovijo socialno pravičen, vključujoč in trajnosten način za zmanjšanje neenakosti, revščine in socialne izključenosti ter okolje, v katerem bi imeli vsi ljudje enake možnosti za razvoj nadarjenosti, spretnosti ter občutka individualnosti;

2.  poudarja, da se razvoj robotike in umetne inteligence pospešuje, zato ga je nujno treba usmerjati in predvideti morebitne posledice za zaposlovanje in socialno politiko, ker pogostejša in splošna uporaba robotov na področju proizvodnje blaga in storitev vodi do tega, da je mogoče z manj delovne sile doseči večjo storilnost, zato bodo v naslednjem desetletju nekatera delovna mesta popolnoma izginila, na mnogih drugih pa bo avtomatizacija pustila posledice; zato poziva Komisijo, naj opravi analizo izzivov in priložnosti v zaposlovanju in razvije metodo, s katero bo lahko spremljala število in vrste odpravljenih ter ustvarjenih delovnih mest zaradi robotizacije in avtomatizacije, pa tudi vpliv tega pojava na izgube za sisteme socialne varnosti; nadalje poziva Komisijo, naj redno in v dialogu s socialnimi partnerji ocenjuje, za koliko bi se lahko skrajšal tedenski, letni in življenjski delovni čas brez izgube dohodkov, naj začne raziskovati nove možnosti financiranja za prihodnje sisteme socialne zaščite in razmisli o tem, kako delavci sprejemajo svoje službe in kako lahko digitalne delovne platforme bolje povežejo posameznike, ekipe in projekte;

3.  opozarja, da bomo z robotizacijo na eni strani izgubili veliko delovnih mest, na drugi strani pa se bo delovni čas posameznikov skrajšal, s pomočjo večje storilnosti pa bo mogoče financirati izenačitev dohodkov;

4.  meni, da bi bilo treba robote načrtovati na podlagi procesov, v katerih bo zagotovljen človeški nadzor in reverzibilnost robotovih dejanj, ter da bi morala čedalje večjo avtonomnost robotov spremljati prilagoditev predpisov o odgovornosti za posledice, povezane z njihovimi dejanji ali nedejavnostjo; je zaskrbljen zaradi pomanjkanja splošnega okvira in pravnih določb v zvezi z avtomatizacijo dela v tej novi industrijski revoluciji ter meni, da mora Unija določiti zakonodajni okvir, ki bo odražal zapletenost področja robotike in številne posledice, ki jih lahko ima za družbo; zato poziva Komisijo, naj predlaga enotno opredelitev pametnih avtonomnih robotov in njihovih podkategorij na delovnem mestu ter preuči dobre in slabe strani obveznega zavarovanja, ki bo pokrivalo morebitno škodo in pomanjkljivosti, ki jih povzročili roboti;

5.  poudarja, da se morajo sistemi izobraževanja in usposabljanja nujno prilagoditi razvoju poklicev in načinov proizvodnje z večjim poudarkom na ustvarjalnem in neponavljajočem se delu, da bi ohranili vrednost človeškega dela in vsem generacijam dali vsa orodja, potrebna za kar najboljšo pripravo na trg dela v svetu, ki se zaradi robotizacije in avtomatizacije stalno spreminja; poudarja, da je pomembna prilagodljivost veščin, in opozarja na pomen življenjskih spretnosti in socialnih veščin v izobraževanju; je prepričan, da morajo otroci poleg akademskega znanja, ki ga pridobijo v šoli, pridobiti tudi veščine kritičnega razmišljanja, da si bodo znali postavljati vprašanja in bodo sprejemali informirane odločitve, ter ustvarjalne veščine, da bodo lahko ideje prelili v dejanja ter razvili samoiniciativnost, potrebno pa je tudi vseživljenjsko učenje, ki se udejanji z vseživljenjskimi dejanji; poudarja, da so digitalne spretnosti nujne v današnji pospešeni avtomatizaciji in digitalizaciji dela ter storitev, zaradi česar je treba razviti digitalno usposobljenost in spretnosti, da bi zagotovili visoko stopnjo zaposlenosti, odpravili čedalje večjo digitalno nepismenost ter s tem povezano tveganje socialne izključenosti; poudarja, da je treba posebno pozornost nameniti digitalizaciji poučevanja ter rabi robotizacije pri poučevanju in učenju, pri izobraževanju pa bi moral biti poudarek tudi na humanistiki, ki prinaša koristi v obliki ustvarjalnih, inovativnih, umetniških in kulturnih veščin na spreminjajočem se trgu dela, da bodo ljudje imeli še naprej primerjalno prednost pred stroji;

6.  priznava, da nudi robotika veliko možnosti za podporo in razbremenitev predvsem invalidov in starejših v vsakdanjem življenju in bi lahko veliko prispevala tudi k samostojnemu odločanju o njihovem življenju ter k njihovemu vključevanju na trg dela; meni, da je treba temeljito obravnavati vprašanje, katere določbe zaposlovanja bo morda treba uvesti za urejanje delovne sile, če bodo rezultat umetnega ali genetskega razvoja ali dopolnjevanja obstoječih človekovih sposobnosti ljudje z izjemnimi sposobnostmi, s čimer se bo spremenil pomen pojma invalidnosti, osebe z dostopom do teh tehnoloških inovacij, orodij in posegov pa bodo imele nedosegljivo prednost, zaradi česar se bodo seveda pojavila etična in moralna vprašanja, ki bi jih bilo treba temeljito obravnavati;

7.  poudarja, da posameznikova odločitev, na podlagi katere izbere ali zavrne vsadek, protezo ali podaljšek človeškega telesa, ne sme nikoli privesti do zapostavljanja ali groženj v zvezi z zaposlitvijo, izobraževanjem, zdravstveno nego, socialno varnostjo ali drugimi koristmi; poudarja tudi, da morajo imeti vsi državljani enak in neoviran dostop do koristi, ki jih prinaša nova tehnologija; v zvezi s tem opozarja, da je spoštovanje človekovega dostojanstva v središču evropskega in mednarodnega prava o človekovih pravicah, zato je treba preučiti, kako zagotoviti, da se ljudje, ki še niso uvrščeni v kategorijo invalidov, ne bodo v primerjavi z ljudmi s povečanimi zmogljivostmi znašli v podobnem slabšem položaju kot osebe z motnjo v duševnem razvoju, ter da bodo lahko osebe z motnjo v duševnem razvoju v prihodnje s pomočjo robotov sprejemale samostojne odločitve v obliki podprtega odločanja, opredeljenega v Konvenciji o pravicah invalidov, in kako se bo v tem primeru porazdelila odgovornost;

8.  opozarja, da uporaba robotov s seboj prinaša tveganja, ki jih je treba natančno pretehtati v povezavi z morebitnimi koristmi; ugotavlja, da je treba imeti v mislih delovne poškodbe, ki jih lahko povzročijo roboti, in s tem povezane zahtevke; ugotavlja, da lahko nosljiva robotska tehnologija, kot so zunanji skeleti, katerih namen je zaščita pred poškodbami na delovnem mestu, poveča storilnost, vendar lahko privede tudi do večjih pričakovanj delodajalca od svojih človeških delavcev, s tem pa do večjega tveganja poškodb; poudarja, da morajo denimo zakonodajalci, delodajalci, sindikati in zaposleni vse to upoštevati v notranjih pravilnikih in kolektivnih pogodbah ter da bi lahko bila druga tveganja v zvezi z delovanjem robotov povezana z diskriminacijo, do katere lahko pride po razgovoru za delo, če bi pridobljene informacije pripeljale do nenamerne analize; ugotavlja, da se lahko zaradi uporabe robotike pojavijo novi izzivi na področju trgovine in zasebnosti;

9.  poudarja, da se je treba ob čedalje večjih družbenih razlikah in krčenju srednjega sloja zavedati, da lahko razvoj robotike privede do visoke zgoščenosti bogastva in vpliva v rokah manjšine;

10.  ugotavlja, da se je z učinkom tehnološkega napredka in trajne robotizacije na zaposlovanje in socialno politiko korenito spremenil način, kako ljudje dostopamo do informacij in jih zagotavljamo, kako komuniciramo, se družimo in delamo, s tem pa se ustvarjajo nove priložnosti in izzivi, ter da se odpirajo nove možnosti z morebitnim povečanjem učinkovitosti dejavnosti ter prihrankom energije in materialov; opozarja, da čeprav se z robotiko in umetno inteligenco obetajo dejanske kratkoročne in srednjeročne prednosti v zvezi z učinkovitostjo in prihranki, ne le pri produktivnosti in trgovini, temveč tudi na področjih, kjer je bila doslej potrebna človeška interakcija, inteligenca in ustvarjalnost, ker je avtomatizacija težko izvedljiva, zato so lahko delo opravljali le ljudje (na primer v sektorjih, ki zaposlujejo veliko število pogosto nizkokvalificiranih oseb), hkrati obstaja nevarnost, da število delovnih mest na področju robotike ne bo naraslo sorazmerno s številom delovnih mest, ki bodo predvidoma izgubljena, denimo v prometu, logistiki in pisarniškem delu; zato poziva Komisijo in države članice, naj v sodelovanju s socialnimi partnerji, po potrebi pa tudi regionalnimi in lokalnimi organi, razvijejo nove mehanizme za varstvo, prilagojene delovnim in poklicnim vzorcem, ki so se oblikovali z digitalizacijo in večjo uporabo robotike, ter naj poskrbijo za ustrezno izobrazbo in usposabljanje za vse;

11.  opozarja, da bi lahko imela zaradi razvoja in rabe pametnih in sodelujočih robotov ter umetne inteligence razlika med ustvarjanjem in izgubo delovnih mest posledice za finančno trajnost sistemov socialne varnosti, pokojninskih sistemov in sistemov zavarovanja za primer brezposelnosti v državah članicah, ter poudarja, da bi lahko bilo srednje- in dolgoročno zmanjšanje zaposlenosti zavoljo robotizacije povezano tudi s tveganjem, da se zmanjša zmogljivost potrošnje; poudarja, da bi morala večina koristi zaradi avtomatizacije in robotizacije pri zaposlovanju nastati ne samo zaradi zmanjšanja stroškov dela, temveč tudi zaradi večje storilnosti, ki bi bila posledica manjšega števila napak, večjega obsega proizvodnje ter večje kakovosti, varnosti in hitrosti; poziva Komisijo in države članice, naj se redno posvetujejo s socialnimi partnerji in jih vključijo v proces prilagajanja regulativnega okvira robotiki in digitalnemu gospodarstvu, naj opredelijo morebitna tveganja tehnoloških inovacij za varnost in zdravje pri delu ter naj ustrezno ukrepajo proti njim, in naj preučijo možnost uvedbe sistema obveščanja pred uvedbo robotov in njihovim sorazmernim prispevkom k prihodkom podjetja za namene obdavčitve in socialnih prispevkov;

12.  poziva Komisijo, naj predloži smernice za etična in socialna načela, ki bodo spremljale bodoče zakonodajne akte s področja robotike, zlasti za opredelitev naprednih standardov, prilagojenih za bodoče tehnološke spremembe;

13.  opozarja na t.i. crowdworking (delegiranje dela internetni množici); poziva Komisijo, naj razišče to novo obliko zaposlitve in preuči, v kolikšni meri je treba prilagoditi sisteme socialnega varstva in veljavno delovno zakonodajo, da bi ustrezno zaščitili delavce internetne množice („crowdworker“);

14.    poudarja, da sicer ni mogoče ustaviti tehnološkega napredka, da pa ima naša generacija priložnost in dolžnost, da usmerja njegov tok tako, da bo koristil ljudem in planetu; meni, da bi morala Unija prispevati k celoviti strategiji na področjih socialne politike, gospodarske rasti in tehnologije, da bi se v okviru svetovnega razvoja uvrstila v ospredje; poziva države članice in Komisijo, naj izjemno podrobno preučijo posledice večje uporabe sistemov robotike v bližnji prihodnosti na delo in zagotovijo okvir za ta razvoj z zakonodajo, namenjeno čim enostavnejšemu tehnološkemu prehodu za zaposlene, ter trdno verjame, da je treba nujno poiskati odgovor na vprašanje, ali bodo z nadaljnjim razvojem v robotiki in s cenejšimi rešitvami obstajala delovna mesta, pri katerih bodo človeške sposobnosti zakonsko omejene zaradi škodljivosti ali nevarnosti za človekovo zdravje (kot v primeru predpisov, ki veljajo za nosečnice) ali iz drugih razlogov, ter na vprašanje, na katerih področjih bi morda bilo treba omejiti ali prepovedati delno ali popolno avtomatizacijo, da bi ohranili varnost in spoštovanje temeljnih pravic, ki ju ogroža čedalje večja avtomatizacija celotnih panog, ob upoštevanju demografskih sprememb ter trajnosti in za preprečitev morebitnih neželenih družbenih posledic;

15.  meni, da bi si morali glede na hitrost tehnološkega napredka prizadevati za sprejetje zakonodaje o robotiki v bližnji prihodnosti; meni tudi, da bi morala zakonodaja ustrezati svojemu namenu, da bi se odzivala na znanstvene in tehnološke spremembe; je prepričan, da je treba predvideti pojav novih poslovnih področij, ki bi se lahko razvila zaradi dodatnega napredka na področju robotike in umetne inteligence; vendar poudarja, da roboti niso le delovni stroji, temveč na področju proizvodnje blaga in storitev delujejo čedalje bolj samostojno, zato poziva k celovitim sistemom zaščite, ki bodo zagotovili, da sta zdravje in varnost delavcev enako zaščitena pri delu z roboti ali ob njih ali z drugimi oblikami umetne inteligence, in predpisom o odgovornosti, s katerimi bo zagotovljeno, da se vprašanja škode, ki jo povzročijo avtonomni roboti, vselej enoznačno razrešijo v korist zaposlenih; zato poziva Unijo in države članice, naj spodbudijo čimprejšnjo vzpostavitev strukturiranega javnega dialoga o posledicah razvoja teh tehnologij, deležnike na področju raziskav pa, naj oblikujejo kritični pristop ter zagotovijo konstruktivne prispevke k javnemu dialogu;

16.  poudarja, da mora biti vsakršna dejavnost obdelave, ki jo izvajajo robotski sistemi in sistemi z umetno inteligenco, v celoti skladna s pravom Unije o varstvu podatkov in mora vključevati načeli vgrajene zasebnosti in privzete zasebnosti;

17.  poudarja, da lahko robotizacija bistveno prispeva k vrnitvi proizvodne industrije v Unijo in s tem ustvarja nove zaposlitvene možnosti, zlasti za nizkokvalificirane delavce;

18.  meni, da uvedba robotov v proizvodnjo prinaša velike izzive na področju zdravja in varnosti na delovnem mestu; poudarja, da lahko robotizacija po eni strani fizično razbremeni delavce, obenem pa lahko privede do večje psihične obremenitve zaradi večje odgovornosti posameznika v zapletenejših proizvodnih procesih; poziva Komisijo in njene agencije, zlasti EU-OSHA, naj raziščejo posledice, ki jih imajo procesi digitalizacije, robotike in umetne inteligence na psihične napore, ter pripravi predloge za protiukrepe; zahteva, da se delavcem omogoči dejavna udeležba pri oblikovanju delovnega okolja in da so socialni partnerji in sindikati udeleženi na vseh ravneh;

19.  opozarja na znanstvene študije, ki so opredelile štiri glavne težave, ki se pojavljajo pri poskusih sprejemanja zakonodaje o uporabi robotov: diskrecija v zvezi s platformami in proizvajalci, ki sodelujejo pri razvoju in raziskavah umetne inteligence in morda niso vedno vidni regulativnim organom; razpršenost, ki nastane, ko sisteme umetne inteligence razvijajo ekipe raziskovalcev, ki so organizacijsko, geografsko in pravno ločene; diskrecija se nanaša na dejstvo, da bi lahko sistemi umetne inteligence vsebovali mnoge ločene in različne že obstoječe sestavne dele strojne in programske opreme; poudarja, da bomo učinke združenja vseh teh sestavnih delov morda v celoti razumeli šele po združitvi ter da nepreglednost pomeni, da je lahko način delovanja sistemov umetne inteligence manj razumljiv v primerjavi s predhodnimi tehnologijami; ugotavlja, da bi to znala biti težava za regulativne organe, saj ni jasno, kakšne težave bi lahko predstavljali takšni sistemi in kako bi bilo takšne težave mogoče reševati.

IZID KONČNEGA GLASOVANJAV ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja

8.11.2016

 

 

 

Izid končnega glasovanja

+:

–:

0:

36

7

9

Poslanci, navzoči pri končnem glasovanju

Laura Agea, Guillaume Balas, Brando Benifei, Vilija Blinkevičiūtė, Enrique Calvet Chambon, David Casa, Ole Christensen, Martina Dlabajová, Labros Fundulis (Lampros Fountoulis), Arne Gericke, Sergio Gutiérrez Prieto, Marian Harkin, Danuta Jazłowiecka, Agnes Jongerius, Rina Ronja Kari, Jan Keller, Ádám Kósa, Jean Lambert, Patrick Le Hyaric, Jeroen Lenaers, Verónica Lope Fontagné, Javi López, Morten Løkkegaard, Thomas Mann, Dominique Martin, Anthea McIntyre, Joëlle Mélin, Elisabeth Morin-Chartier, Emilian Pavel, João Pimenta Lopes, Georgi Pirinski, Marek Plura, Terry Reintke, Sofia Ribeiro, Maria João Rodrigues, Claude Rolin, Sven Schulze, Siôn Simon, Jutta Steinruck, Yana Toom, Renate Weber, Tatjana Ždanoka, Jana Žitňanská

Namestniki, navzoči pri končnem glasovanju

Daniela Aiuto, Georges Bach, Amjad Bashir, Heinz K. Becker, Csaba Sógor, Helga Stevens, Neoklis Silikiotis (Neoklis Sylikiotis), Flavio Zanonato

Namestniki (člen 200(2)), navzoči pri končnem glasovanju

David Coburn


MNENJE Odbora za okolje, javno zdravje in varnost hrane (14.10.2016)

za Odbor za pravne zadeve

s priporočili Komisiji o pravilih civilnega prava o robotiki

(2015/2103(INL))

Pripravljavec mnenja: Cristian-Silviu Buşoi

(Pobuda – člen 46 Poslovnika)

POBUDE

Odbor za okolje, javno zdravje in varnost hrane poziva Odbor za pravne zadeve kot pristojni odbor, naj v predlog resolucije vključi naslednje pobude:

A.  ker postaja zaradi napredka življenjskih pogojev in sodobne medicine pričakovana življenjska doba vse daljša, kar vodi v staranje družbe, ki pomeni za evropske družbe enega od največjih političnih, družbenih in gospodarskih izzivov 21. stoletja; ker bo do 2025 več kot 20 % Evropejcev starih 65 let ali več, zlasti pa se bo hitro povečalo število starejših od 80 let, kar bo bistveno spremenilo medgeneracijsko ravnovesje v naših družbah, in ker je v interesu družbe, da ostanejo starejši ljudje čim dlje zdravi in aktivni;

B.  ker je proizvodnja in prodaja robotov v letih 2010–2014 močno narasla, samo v letu 2014 skoraj za 30 %, zlasti na področju zdravstva in oskrbe;

C.  ker se zaradi staranja družbe povečuje prevalenca in pojavnost invalidnosti, kroničnih obolenj, tveganja za kap, možganskih poškodb in okrnjenih sposobnosti;

D.  ker se bodo družbe in zdravstveni sistemi morali prilagoditi procesu staranja in zahtevam na področju zdravstvenega varstva starejših, da bodo lahko omogočali ustrezno nego in oskrbo ter ostali finančno vzdržni;

E.  ker so kibernetsko-fizični sistemi tehnična omrežja računalnikov, robotov in umetne inteligence, ki komunicirajo s fizičnim svetom in se lahko na številne načine uporabljajo v sektorju zdravstvene oskrbe;

F.  ker je treba zaradi značilnosti kibernetsko-fizičnih sistemov uvesti posebne in bolj natančne standarde, ki bodo enaki za vso Unijo;

G.  ker bodo takšni sistemi temelj in osnova nastajajočih in prihodnjih pametnih storitev ter bodo prinesli napredek na področja osebnega zdravstvenega varstva, odzivanja v urgentnih primerih in telemedicine;

H.  ker ne sme uporaba tehnološko naprednih instrumentov ali robotskih instrumentov za postavljanje diagnoze ali zdravljenje v nobenem primeru povečati odgovornosti zdravnikov ali zdravstvenega osebja, ki jih morajo uporabljati, je treba povečati odgovornost zadevnih zdravstvenih ustanov ali proizvajalcev;

I.  ker je gospodarski in družbeni potencial kibernetsko-fizičnih sistemov veliko večji, kot si je bilo doslej mogoče predstavljati, po svetu pa se v razvoj te tehnologije veliko vlaga;

J.  ker uporaba tehnologije ne sme omejevati odnosa med zdravnikom in bolnikom ali mu škodovati, ampak zdravniku nuditi pomoč pri določanju diagnoze in/ali zdravljenju;

K.  ker so s kibernetsko-fizičnimi sistemi povezana visoka pričakovanja in imajo velik potencial, vplivov na novo uvedenih tehnologij pa ne bo nikoli mogoče v celoti napovedati, bodo te tehnologije uspešno integrirane le, če se lahko družba prilagodi novemu načinu interakcije s tehnologijo;

1.  ugotavlja, da bo sprejetje novih tehnologij na področju zdravstvenega varstva, če bo poudarek na odnosu med zdravnikom in bolnikom in na svobodni volji, najverjetneje prineslo velike koristi za nego in oskrbo bolnikov ter učinkovitost in usmerjenost zdravljenja, ter bo zmanjšalo tveganje za človeške napake, s tem pa izboljšalo kakovost življenja in prispevalo k daljši pričakovani življenjski dobi;

2.  meni, da lahko robotika koristi družbi, obenem pa lahko temeljito spremeni način interakcije med ljudmi in zato pomembno vpliva na obstoječe družbene strukture; zato poudarja, da je potrebna obsežna in obveščena javna razprava o tej novi tehnološki revoluciji;

3.  meni, da mora Unija razviti zakonodajni okvir na podlagi etičnih načel, ki naj odražajo zapletenost področja robotike in številne posledice, ki jih lahko ima na družbenem, zdravstvenem in bioetičnem področju;

4.  poudarja, da inovacije, ki omogočajo boljše diagnosticiranje in pregled nad možnostmi zdravljenja, nege in oskrbe ter rehabilitacije, omogočajo pravilnejše zdravniške odločitve in hitrejše okrevanje, tako da bi utegnile ublažiti posledice pomanjkanja zdravstvenih delavcev v procesu nege in oskrbe ter rehabilitacije;

5.  poudarja, da bi lahko povečano povpraševanje po enotah s kibernetsko-fizičnimi sistemi ustvarilo večje število visokokvalificiranih delovnih mest v Uniji;

6.  meni, da so roboti koristni kot pomoč pri delu zdravnikov ali drugega zdravstvenega osebja, da se izboljšajo pridobljene izkušnje pri postavljanju diagnoz in zdravljenju, vendar ne smemo pozabiti, da se medicinska praksa in oskrba bolnika ne smeta razčlovečiti;

Roboti za nego in oskrbo

7.  ugotavlja, da bi lahko kibernetsko-fizični sistemi spremenili življenje invalidnih oseb na bolje, saj se lahko pametne tehnologije uporabljajo za spremljanje, preprečevanje, pomoč in družbo;

8.  ugotavlja, da bodo kibernetsko-fizični sistemi verjetno pomembno vplivali na sektor zdravstvenega varstva, saj bi lahko zmanjšali skupne stroške zdravstvenega varstva, tako da bi zdravstvenim delavcem omogočili preusmeritev pozornosti od zdravljenja k preventivi;

9.  poudarja, da so sčasoma postale raziskave in razvoj na področju robotov za nego in oskrbo starejših pogostejše in cenejše, izdelki pa vse bolj funkcionalni in širše sprejeti med potrošniki; ugotavlja, da imajo take tehnologije, ki zagotavljajo preprečevanje, pomoč, spremljanje, spodbujanje in družbo starejšim ljudem in ljudem, ki trpijo za demenco, kognitivnimi motnjami ali izgubo spomina, široko področje uporabe;

10.  poudarja, da bodo človeški negovalci še vedno potrebni ter bodo še naprej pomemben in ne popolnoma nadomestljiv vir družbene interakcije, kljub potencialu kibernetsko-fizičnih sistemov, da izboljšajo mobilnost in družabnost invalidov in starejših; ugotavlja, da lahko kibernetsko-fizične tehnologije ali roboti zgolj precej izboljšajo človeško nego in oskrbo ter da lahko naredijo proces rehabilitacije bolj ciljno usmerjen, da bodo lahko zdravstveno osebje in negovalci več kakovostnega časa namenili diagnostiki in izboljšanim možnostim zdravljenja;

Medicinski roboti

11.  ugotavlja, da se v zdravstvenem varstvu že zdaj uporabljajo zgodnje oblike robotov in pametnih kibernetsko-fizičnih naprav, kot so pripomočki za e-zdravje in kirurški roboti in da se bo v bližnji bodočnosti ta tehnologija še naprej razvijala, saj bi lahko tudi zmanjšala stroške zdravstvenega varstva, tako da bi zdravstvenim delavcem omogočili preusmeritev pozornosti od zdravljenja k preventivi in tako da bi bilo več sredstev na voljo za boljše prilagajanje raznolikim potrebam bolnikov, stalno usposabljanje zdravstvenih delavcev in raziskave;

12.  poudarja, da bi lahko pogostejša uporaba kibernetsko-fizičnih sistemov privedla do bolj zdrave družbe, saj bi postali postopki manj invazivni, okrevanje hitrejše, zmanjšale pa bi se tudi bolniške odsotnosti;

13.  ugotavlja, da se medicinski robotski pripomočki še naprej razvijajo in se bodo najbrž vse pogosteje uporabljali v kirurških postopkih, s čimer bodo premaknili meje medicine;

14.  priznava, da so bili kirurški roboti načrtovani za razširitev zmogljivosti človeških kirurgov prek meja konvencionalne laparoskopije in da razvoj kirurških robotov izhaja iz želje, da bi premostili takšne omejitve in razširili koristi minimalno invazivnih kirurških posegov, drobnih gibov in natančnosti;

15.  poudarja, da kibernetsko-fizični sistemi omogočajo telekirurgijo, ki ima številne prednosti, kot so večja natančnost ročnih gibov, odprava tresenja zaradi ročnih gibov, povečana slika, ki jo lahko nemudoma razčlenijo in ocenijo, večja spretnost in kirurgija na daljavo, hkrati pa mora biti temeljna zahteva, da zdravniki usvojijo znanje in pridobijo akreditacijo za izvajanje medicinskih posegov s posameznimi kibernetsko-fizičnimi sistemi;

16.  ugotavlja, da je prišlo v zadnjih letih do pomembnih sprememb na področju zdravstvenega izobraževanja in usposabljanja; nadalje ugotavlja, da zdravstveno varstvo postaja vse bolj zapleteno, ozračje v akademskih zdravstvenih središčih pa je tako, da omogoča krepitev celostnega pristopa k zdravju in ponoven razmislek o načinu izobraževanja in vseživljenjskega učenja v zdravstvu ter ohranitvi temeljne pristojnosti zdravnikov, da zadržijo svoje strokovno znanje, izkušnje in avtoriteto nad roboti; poziva Komisijo in države članice, naj spodbujajo visoke standarde za usposabljanje in specializacijo zdravstvenega in pomožnega osebja, ki uporabljajo ali nameravajo uporabljati novo robotsko tehnologijo, ter spodbujajo prosto gibanje kirurgov, ki nameravajo pri operacijah uporabljati to tehnologijo;

17.  poziva Komisijo in države članice, naj povečajo obseg finančnih instrumentov za raziskovalne projekte na področju robotike za potrebe socialne in zdravstvene pomoči;

18.  meni, da je temeljnega pomena spoštovati načelo nadzorovane samostojnosti robotov, na podlagi katerega so začetno programiranje zdravljenja in končne odločitve o njegovem poteku vedno v rokah kirurga/človeka;

Klinična ocena in klinične raziskave

19.  poudarja, da bi morali medicinski kibernetsko-fizični sistemi izpolnjevati visoke standarde, ki se uporabljajo za medicinsko opremo, in sicer z učinkovitimi postopki preverjanja in certifikacije, ki ustrezno usposobljenemu osebju omogočajo oceno varnosti in učinkovitosti predlagane tehnologije, tudi v fazi načrtovanja;

20.  poudarja pomen ločevanja med kirurškimi roboti in protezami ter eksoskeleti od robotov spremljevalcev, ki se uporabljajo kot pomoč invalidom ali začasnim invalidom; poudarja, da je treba obe vrsti robotov pregledovati na podlagi čim natančnejših in podrobnejših standardov;

21.  pozdravlja politično soglasje o uredbi o medicinskih pripomočkih (2012/0266(COD)), ki sta ga sozakonodajalca dosegla junija 2016; poziva Komisijo, naj še pred datumom začetka uporabe omenjene uredbe zagotovi, da so postopki preskušanja novih medicinskih robotskih pripomočkov varni, še posebej kadar se pripomočki vsadijo v človeško telo; nadalje ugotavlja, da mora biti bolnikom zagotovljena popolna preglednost v zvezi z njihovimi podatki, javnosti pa popolna preglednost v zvezi z neuspešnimi in uspešnimi preskušanji, ter da mora biti bolnikom in javnosti povsem jasna odgovornost za neuspešna preskušanja in kibernetsko-fizične sisteme;

Etika

22.  poudarja, da se socialni sistemi v Uniji ne morejo dovolj hitro odzivati na skokovit razvoj tehnologije, sistemi zdravstvenega varstva pa so še manj odzivni; poudarja, da ta razvoj znatno vpliva na civilizacijo, kot jo poznamo danes, in je zato nujno, da hkrati s tehnološkim napredkom poteka tudi ocenjevanje dolgoročnih moralnih in etičnih posledic novih tehnologij pred in med njihovim razvojem;

23.  poudarja, da je glede etičnih standardov pomembno, da se na ravni Unije zagotovi, da robotski proizvodi spoštujejo temeljne pravice posameznika in socialne pravice, s pomočjo morebitnih tehničnih rešitev, ki zagotavljajo njihovo spoštovanje že v fazi načrtovanja na podlagi tako imenovanega pristopa vgrajene zasebnosti;

24.  opozarja na tveganja, povezana z možnostjo vdora v kibernetsko-fizične sisteme, povezane s človeškim telesom, njihovega izklopa ali izbrisa njihovega spomina, kar bi lahko ogrozilo človeško zdravje, v skrajnih primerih pa celo življenje, in zato poudarja, da mora biti zaščita teh sistemov prednostna naloga;

25.  priznava, da so bolniki s posebnimi potrebami, vključno z otroki, starejšimi ljudmi in invalidi, ranljivi, in poudarja, da bi lahko vsi uporabniki razvili čustvene vezi s kibernetsko-fizičnimi sistemi in roboti; poudarja etične pomisleke, ki jih prinaša njihova morebitna navezanost; spodbuja Komisijo, naj začne razmišljati, kako zagotoviti, da kibernetsko-fizični sistemi ne bodo negativno vplivali na avtonomijo in samostojnost ranljivih oseb;

26.  poziva Komisijo in države članice, naj spodbujajo razvoj podporne tehnologije s pomočjo shem odgovornosti, drugačnih od tistih v uporabi, za spodbujanje razvoja in sprejemanja tovrstne tehnologije s strani ljudi, ki jo potrebujejo, v skladu s členom 4 konvencije OZN o pravicah invalidov, ki jo je podpisala tudi Unija;

27.  poudarja pomembnost ohranjanja odnosa nege in oskrbe med bolnikom in zdravnikom, zlasti pri sporočanju zdravstvene diagnoze in načina zdravljenja;

28.   ugotavlja, da se z uporabo kibernetsko-fizičnih sistemov odpira vprašanje izboljšanja človeka, ki je opredeljeno kot izboljšanje obstoječih naravnih človekovih sposobnosti ali podelitev novih sposobnosti, ki posamezniku omogočajo, da preseže invalidnost;

Vpliv na okolje

29.  priznava, da je treba zmanjšati morebitni okoljski ali ekološki odtis robotike, ker naj bi po pričakovanjih uporaba kibernetsko-fizičnih sistemov in robotov povečala skupno porabo energije ter količino električnih in elektronskih odpadkov; poudarja, da je treba okrepiti potencial procesov za učinkovitejšo uporabo virov, povečati energetsko učinkovitost s spodbujanjem uporabe obnovljivih virov energije na področju robotike, spodbujati uporabo in ponovno uporabo sekundarnih surovin in zmanjšati količino odpadkov; zato poziva Komisijo, naj v vse politike Unije na področju robotike vključi načela krožnega gospodarstva;

30.  ugotavlja, da bo imela uporaba kibernetsko-fizičnih sistemov pozitiven učinek na okolje, zlasti na področju kmetijstva in preskrbe s hrano, predvsem zaradi zmanjšanja velikosti strojev in manjše porabe gnojil, energije in vode, pa tudi zaradi preciznega kmetovanja;

31.  poudarja, da bodo kibernetsko-fizični sistemi privedli do oblikovanja energetskih in infrastrukturnih sistemov, s katerimi bo mogoče nadzorovati pretok električne energije od proizvajalca do odjemalca, obenem pa bodo privedli do oblikovanja proizvajalcev-odjemalcev, ki proizvajajo in porabljajo energijo; to bo omogočilo velike okoljske koristi;

–  naj v prilogo predloga resolucije vključi naslednja priporočila:

Varnost

  Prvi pogoj za vključevanje robotskih medicinskih pripomočkov v zdravstveni sektor je njihova varnost. Učinkovitost in varnost nege in oskrbe ter medicinske robote je treba presojati na podlagi posebnih, zelo natančnih varnostnih zaščitnih ukrepov in standardnih certifikacijskih postopkov, pri tem pa je treba nameniti posebno pozornost vprašanju, kako jih uporabljajo prizadete osebe in kako se uporabljajo v urgentnih razmerah; poziva Komisijo, naj sprejme natančne skupne specifikacije za robotske medicinske pripomočke; posebno pozornost je treba nameniti varnosti kibernetsko-fizičnih mrež, da se onemogoči vdor vanje in kraja občutljivih osebnih podatkov;

  Varnost kibernetsko-fizičnih sistemov, vsajenih v človeško telo, je temeljna zahteva, ker je lahko vsaka napaka v njihovem delovanju usodna, pri tem pa je pomembno še zagotavljanje informacij in nedvoumna ureditev vprašanj odgovornosti, tudi tega, čigava lastnina so ti vsajeni kibernetsko-fizični sistemi, kdo ima nad njimi pravice in kdo lahko spreminja njihovo vsaditev, pri čemer je treba strogo prepovedati vse poskuse na ljudeh brez njihove privolitve.

Zasebnost

  Medicinski kibernetsko-fizični sistemi in uporaba robotov za vodenje elektronskih zdravstvenih zapisov bolnikov prinašajo vprašanja v zvezi z zakonodajo o varovanju zasebnosti bolnikov, dolžnosti poklicne molčečnosti zdravnikov in varstvu osebnih podatkov na področju javnega zdravja. Predpise Unije o varstvu osebnih podatkov bi bilo treba prilagoditi, da bodo upoštevali vse večjo zapletenost in medsebojno povezanost nege in oskrbe ter medicinskih robotov, ki lahko ravnajo z zelo občutljivimi osebnimi in zdravstvenimi podatki. Predpisi bi morali biti v skladu z načelom vgrajene zasebnosti, kot je določeno v Uredbi (EU) 2016/679 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov. Izboljšati bi bilo treba kodeks poklicne molčečnosti zdravnikov glede zdravstvenih podatkov, shranjenih v kibernetsko-fizičnih sistemih, ki so lahko dostopni tretjim osebam;

  zavarovalnicam ali drugim ponudnikom storitev bi morali prepovedati uporabo podatkov e-zdravja za uvedbo diskriminatornih razlik pri določanju cen, saj bi bilo to v nasprotju s temeljno pravico dostopa do najvišjega dosegljivega standarda zdravstva.

Odbori za raziskovalno etiko

  Odbori za raziskovalno etiko bi morali upoštevati etična vprašanja, ki jih razvoj medicinskih robotskih pripomočkov in kibernetsko-fizičnih sistemov odpira na številnih področjih zdravstvenega varstva ter pomoči invalidom in starejšim. Potrebna je ustrezna obravnava vprašanj, kot so enakost dostopa do robotskega preventivnega zdravstvenega varstva, privilegiranost odnosa med bolnikom in zdravnikom ter dovzetnost predvsem bolnikov s posebnimi potrebami (na primer invalidov), pa tudi drugih (kot so otroci, osamljeni ljudje idr.) za razvitje čustvene navezanosti na robote.

  Odbore za raziskovalno etiko in Komisijo spodbujamo, naj začnejo razmišljati o oblikovanju kodeksa ravnanja za raziskovalce/razvijalce in uporabnike medicinskih kibernetsko-fizičnih sistemov, ki bi moral temeljiti na načelih iz Listine Evropske unije o temeljnih pravicah (na primer človekovo dostojanstvo in človekove pravice, enakost, sodno varstvo in pravičnost, koristi in škodljivi učinki, nediskriminacija in nestigmatizacija, samostojnost in osebna odgovornost, informirana privolitev, zasebnost in družbena odgovornost, pa tudi pravice starejših, vključevanje invalidnih oseb, pravica do zdravstvenega varstva in pravica do varstva potrošnikov) ter na obstoječih etičnih praksah in veljavnih kodeksih.

  Treba je priznati, da je z uvedbo robotike povezana visoka raven negotovosti v zvezi z vprašanji pristojnosti in odgovornosti.

IZID KONČNEGA GLASOVANJAV ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja

13.10.2016

 

 

 

Izid končnega glasovanja

+:

–:

0:

61

0

0

Poslanci, navzoči pri končnem glasovanju

Marco Affronte, Margrete Auken, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Nessa Childers, Birgit Collin-Langen, Mireille D’Ornano, Miriam Dalli, Angélique Delahaye, Stefan Eck, Bas Eickhout, Eleonora Evi, José Inácio Faria, Elisabetta Gardini, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Anneli Jäätteenmäki, Jean-François Jalkh, Josu Juaristi Abaunz, Karin Kadenbach, Kateřina Konečná, Giovanni La Via, Peter Liese, Norbert Lins, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Bolesław G. Piecha, Frédérique Ries, Michèle Rivasi, Daciana Octavia Sârbu, Annie Schreijer-Pierik, Davor Škrlec, Dubravka Šuica, Tibor Szanyi, Claudiu Ciprian Tănăsescu, Jadwiga Wiśniewska, Damiano Zoffoli

Namestniki, navzoči pri končnem glasovanju

Guillaume Balas, Paul Brannen, Nicola Caputo, Michel Dantin, Mark Demesmaeker, Luke Ming Flanagan, Elena Gentile, Martin Häusling, Krzysztof Hetman, Gesine Meissner, James Nicholson, Marijana Petir, Gabriele Preuß, Christel Schaldemose, Jasenko Selimovic, Mihai Ţurcanu

Namestniki (člen 200(2)), navzoči pri končnem glasovanju

Nicola Danti, Anna Hedh


MNENJE Odbora za industrijo, raziskave in energetiko (15.11.2016)

za Odbor za pravne zadeve

s priporočili Komisiji o pravilih civilnega prava o robotiki

(2015/2103(INL))

Pripravljavka mnenja: Kaja Kallas

(Pobuda – člen 46 Poslovnika)

POBUDE

Odbor za industrijo, raziskave in energetiko poziva Odbor za pravne zadeve kot pristojni odbor:

–  naj v predlog resolucije vključi naslednje pobude:

A.  ker bi lahko bile ekipe robotov in ljudi 85 %(1) bolj produktivne kot roboti ali ljudje sami; ker se bo s pomočjo robotov, ki bodo krepili zmogljivosti ljudi, zmanjšalo tveganje za človeške napake;

B.  ker Unija s tržnim deležem ponudbe in porabe, ki znaša več kot 25 %(2), zavzema vodilni položaj na področju industrijske robotike, rast na tem trgu pa po ocenah znaša 8 do 9 % na leto, zaradi česar ima ta panoga industrijsko strateško prednost;

1.  meni, da imata robotika in umetna inteligenca pomembno vlogo pri izboljševanju konkurenčnosti in produktivnosti evropskega gospodarstva in bi lahko srednjeročno bolj vplivala na konkurenčnost neproizvodne industrije, kot je kmetijstvo, promet, zdravstvo, varnost in javne storitve; poziva Komisijo, naj spodbuja ambiciozne in medpanožne inovacijam prijazne politike na področju robotike in umetne inteligence, ki bodo omogočale vključevanje tehnologij v vrednostne verige, razvoj inovativnih poslovnih modelov in skrajšanje časa, ki preteče med inovacijo in industrializacijo; poziva Komisijo, naj oceni, ali je treba posodobiti zakonodajo ali pripraviti evropske smernice, s katerimi bi zagotovili skupen pristop k robotiki in umetni inteligenci, kar je bistvenega pomena za širitev podjetij v Uniji;

2  ugotavlja, da so tretje države prepoznale strateški pomen robotike in da ogrožajo vodilno vlogo Unije na svetovnem trgu, npr. s prevzemi proizvajalcev v Uniji; poziva Komisijo, naj oblikuje industrijsko strategijo, s katero bo opredelila vlogo strateško pomembnih panog, kot je robotika, in pojasni, kako bo mogoče v Uniji obdržati delovna mesta, rast, znanje in izkušnje ter velik delež vrednostne verige;

3.  poudarja, da je za inovacije na področju robotike in umetne inteligence ter njuno vključitev v gospodarstvo in družbo potrebna digitalna infrastruktura, ki bo zagotavljala vseprisotno povezljivost; poziva Komisijo, naj vzpostavi okvir, ki bo izpolnjeval zahteve glede povezljivosti za digitalno prihodnost Unije, in zagotovi, da bo dostop do širokopasovnih povezav in omrežij 5G povsem skladen z načelom internetne nevtralnosti;

4.  je trdno prepričan, da je interoperabilnost med sistemi, napravami in storitvami v oblaku, temelječa na vgrajeni varnosti in zasebnosti, nujno potrebna za pretok podatkov v realnem času, ki robotom in umetni inteligenci omogoča večjo prilagodljivost in samostojnost; poziva Komisijo, naj spodbuja odprto okolje (od odprtih standardov in inovativnih modelov izdajanja dovoljenj do odprtih platform in preglednosti), da bi preprečili odvisnost od lastniških sistemov, ki omejujejo interoperabilnost; poleg tega poudarja, da je treba zagotoviti visoko raven varnosti, varovanja in zasebnosti podatkov, ki se uporabljajo za komunikacijo ljudi z roboti ter umetno inteligenco; zato poziva Komisijo in države članice, naj načela vgrajene varnosti in zasebnosti vključijo v svoje politike, povezane z robotiko in umetno inteligenco, in strategijo o kibernetski varnosti ter vključijo robotiko in umetno inteligenco v razprave svetovalne skupine na visoki ravni o kibernetski varnosti, ki jo bo ustanovila Komisija;

5.  ugotavlja, da je dostop do podatkov ključnega pomena za inovacije na področju algoritmov za strojno učenje; poziva Komisijo, naj v skladu z zakonodajo o varstvu podatkov in reformiranim pravom intelektualne lastnine uvede ambiciozen okvir in strategijo za odprt in prost pretok podatkov, zlasti s pobudo o prostem pretoku podatkov; poudarja, da bi morali s pobudo o prostem pretoku podatkov razčistiti vprašanja lastništva, uporabnosti in dostopnosti podatkov, kar je pomembno za nadaljnji razvoj in uporabo robotske tehnologije;

6.  poziva Komisijo, naj v okviru vmesnega pregleda večletnega finančnega okvira poveča podporo za program SPARC, ki se financira iz Obzorja 2020, kot strateški cilj spodbuja odprte inovacije in podpira ugodne razmere za sodelovanje med nacionalnimi in evropskimi institucijami, raziskovalno skupnostjo, organi za standardizacijo, ki privabljajo talente, pa tudi zasebnim sektorjem, med globalnimi družbami, malimi in srednjimi ter zagonskimi podjetji, ki so bistvena za inovacije in odpiranje novih trgov na področju robotske tehnologije na svetovni ravni; poudarja vlogo, ki jo lahko imajo pri tem javno-zasebna partnerstva;

7.  poudarja, da bi bilo treba razvoj robotske tehnologije usmeriti v dopolnjevanje človeških zmožnosti, ne pa njihovo nadomestitev; poudarja, da bo z rastjo robotike in umetne inteligence avtomatiziranih veliko število delovnih mest, zmanjšana izpostavljenost ljudi škodljivim in nevarnim pogojem ter spremenila življenja in načini dela, zaradi česar so potrebni dolgoročna ocena in ukrepi za zagotovitev pravilne obravnave socialnih, okoljskih, etičnih in izobraževalnih vidikov ter vidika odgovornosti; meni, da je treba predvsem potrebo po digitalnih kompetencah, vključno s kodiranjem, vključiti na vse ravni izobraževanja in usposabljanja, od zgodnjih let šolanja do vseživljenjskega učenja;

8.  meni, da so roboti v medicini čedalje bolj prisotni pri izvajanju izredno preciznih kirurških posegov in repetitivnih postopkov; meni, da je z njimi mogoče izboljšati rezultate rehabilitacije in zagotavljati zelo učinkovito logistično podporo v bolnišnicah;

–  naj v prilogo k predlogu resolucije vključi naslednja priporočila:

9.  meni, da bi morale vse bodoče zakonodajne pobude na področju robotike in umetne inteligence po posvetovanju z različnimi ustreznimi deležniki in na podlagi stalnega dialoga zagotavljati pravno varnost, ne da bi zavirali inovativnost na tem tehnološkem področju, ki se hitro razvija;

10.  meni, da bi morala Komisija skupaj s končnimi uporabniki, inženirji robotike, raziskovalno skupnostjo in drugimi deležniki pripraviti kodeks etičnega ravnanja, ki bi usmerjal razvojne dejavnosti na področju robotike in umetne inteligence;

11.  meni, da bi bilo treba pri priporočilih v zvezi z licencami spoštovati pogodbeno svobodo in dopustiti možnost inovativne ureditve izdajanja licenc; opozarja pred uvedbo novih pravic intelektualne lastnine na področju robotike in umetne inteligence, ki bi lahko ovirale inovacije ter izmenjavo strokovnega znanja in izkušenj;

IZID KONČNEGA GLASOVANJAV ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja

13.10.2016

 

 

 

Izid končnega glasovanja

+:

–:

0:

54

1

3

Poslanci, navzoči pri končnem glasovanju

Bendt Bendtsen, Xabier Benito Ziluaga, José Blanco López, David Borrelli, Jerzy Buzek, Angelo Ciocca, Edward Czesak, Jakop Dalunde, Pilar del Castillo Vera, Christian Ehler, Fredrick Federley, Ashley Fox, Adam Gierek, Theresa Griffin, Hans-Olaf Henkel, Eva Kaili, Kaja Kallas, Barbara Kappel, Krišjānis Kariņš, Seán Kelly, Jaromír Kohlíček, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Janusz Lewandowski, Ernest Maragall, Edouard Martin, Angelika Mlinar, Nadine Morano, Dan Nica, Carolina Punset, Herbert Reul, Paul Rübig, Algirdas Saudargas, Sergej Stanišev (Sergei Stanishev), Neoklis Silikiotis (Neoklis Sylikiotis), Dario Tamburrano, Patrizia Toia, Evžen Tošenovský, Claude Turmes, Vladimir Uručev (Vladimir Urutchev), Henna Virkkunen, Martina Werner, Lieve Wierinck, Anna Záborská, Flavio Zanonato, Carlos Zorrinho

Namestniki, navzoči pri končnem glasovanju

Michał Boni, Rosa D’Amato, Esther de Lange, Jens Geier, Benedek Jávor, Olle Ludvigsson, Vladimír Maňka, Marian-Jean Marinescu, Clare Moody, Maria Spiraki (Maria Spyraki)

Namestniki (člen 200(2)), navzoči pri končnem glasovanju

Salvatore Cicu, Albert Deß

(1)

To izhaja iz raziskav univerze MIT, izvedenih na podlagi skupnih izkušenj proizvajalcev avtomobilov BMW in Mercedes-Benz.

(2)

http://ec.europa.eu/programmes/horizon2020/en/h2020-section/robotics.


MNENJE Odbora za notranji trg in varstvo potrošnikov (12.10.2016)

za Odbor za pravne zadeve

Pravila civilnega prava o robotiki

(2015/2103(INL))

Pripravljavka mnenja: Dita Charanzová

(Pobuda – člen 46 Poslovnika)

POBUDE

Odbor za notranji trg in varstvo potrošnikov poziva Odbor za pravne zadeve kot pristojni odbor, da v svoj predlog resolucije vključi naslednje pobude:

A.  ker robotika ni nekaj novega; ker ima lahko pomembno vlogo pri spreminjanju naše družbe na bolje, in to vlogo dejansko tudi opravlja; ker lahko robotika in umetna inteligenca aktivno prispevata k digitalizaciji gospodarstva v številnih sektorjih, kot so industrija, zdravstvo, gradbeništvo in aeronavtika, ter pripomoreta k inovacijam, zmanjšata izpostavljenost nevarnim delovnim razmeram in ustvarita nove poslovne modele, Unija pa mora razvoj na tem področju dejavno podpreti, če želi doseči napredek pri oblikovanju enotnega digitalnega trga;

B.  ker roboti vedno pogosteje delujejo v neposredni bližini ljudi in se trg za tovrstne storitve nenehno povečuje, kar omogoča nove koristi za družbo, seveda pa ne smemo zanemariti vprašanj varnosti in odgovornosti;

C.  ker lahko uporaba robotike kljub neizpodbitnim prednostim vendarle vpliva tudi na spremembe na trgu dela, zato bo treba razmisliti o prihodnosti izobraževanja, zaposlovanja in socialne politike;

D.  ker je proizvodnja in prodaja robotov med letoma 2010 in 2014 močno narasla, samo v letu 2014 za skoraj 30 %, in to zlasti v elektroniki;

E.  ker bi lahko digitalna preobrazba evropske proizvodne industrije, ki ustvarja 15 % BDP vse Unije, leta 2025 ustvarila dodano vrednost v višini 1,25 bilijona EUR(1), s sprejetjem robotske in avtonomne tehnologije pa bi pomagali povečati evropsko industrijsko proizvodnjo in Evropi zagotovili veliko konkurenčno prednost;

F.  ker strojno učenje ponuja ogromne gospodarske in inovativne koristi za družbo, saj izjemno izboljša zmožnost analize podatkov, vendar se bodo zaradi tega pojavili tudi izzivi, in sicer kako zagotoviti nediskriminacijo, zakonitost postopkov, dostop do informacij in razumljivost pri sprejemanju odločitev;

G.  ker bodo zaradi napredka pri uporabi robotike v medicini, kot so robotske proteze in vsadki, uporabniki močno odvisni od dostopnosti vzdrževanja, popravil in izboljšav;

H.  ker je treba pri razvijanju vseh novih tehnoloških in proizvodnih prototipov upoštevati varstvo podatkov in spoštovanje intelektualne lastnine;

I.  ker so mnoge tretje države že sprejele ustrezne smernice in zakonodajo na področju robotike in ker so tudi nekatere države članice že začele resno razmišljati o tem;

1.  poudarja, da lahko pristop na ravni Unije olajša razvoj, saj bi preprečil razdrobljenost notranjega trga, in da je pri čezmejni uporabi robotov in robotskih sistemov pomembno načelo vzajemnega priznavanja; želi spomniti, da bi morali biti testiranje, certifikacija in pridobitev tržnega dovoljenja potrebni le v eni državi članici;

2.  poudarja, da bi morali ob tem pristopu zagotoviti tudi učinkovit tržni nadzor, pravna sredstva in pooblastila za države članice, da bi smele določiti odpoklic in sankcije za kršitve;

3.  poudarja, kako pomembni so ukrepi za pomoč malim in srednjim ter zagonskim podjetjem v sektorju robotike, saj ustvarjajo nove tržne segmente v tem sektorju ali uporabljajo robote;

4.  spodbuja, da bi razvili ambiciozno evropsko strategijo za raziskave in inovacije na področju robotike, da bi dodobra izkoristili potencial tega sektorja za rast in zaposlovanje v Evropi;

5.  priznava, da obstaja že veliko število mednarodnih standardov o vprašanjih, kot sta interoperabilnost in varnost, in se v tej panogi že uporabljajo, meni, da je nadaljnja harmonizirana standardizacija za robotiko in umetno inteligenco potrebna ter bi morala biti zajeta v prednostnih nalogah Unije glede standardizacije, zato da bi spodbujali inovacije in zagotovili visoko raven varstva potrošnikov; poudarja, da je bistvenega pomena razviti skupne, varne in visoke standarde na tem področju, usmerjenem v prihodnost;

6.  poziva Komisijo, naj se v sodelovanju z evropskimi organi za standardizacijo še naprej dejavno povezuje z mednarodnimi organi za standardizacijo in izboljša sodelovanje z mednarodnimi partnerji, da bi še naprej izpopolnjevali standarde na tem področju; v zvezi s tem pozdravlja ustanovitev posebnih tehničnih odborov, kot je ISO/TC 299 za robotiko, ki so namenjeni izključno razvijanju standardov za robotiko;

7.  ponavlja, da veliko večino standardov razvijejo kot odziv na potrebe posameznih panog, ter spodbuja evropske in mednarodne organe za standardizacijo, naj redno pregledujejo svoje standarde in tako zagotovijo, da bodo ustrezali tem potrebam;

8.  meni, da bi morala tako za robote za proizvodnjo kot individualno uporabo veljati pravila o varstvu potrošnikov, saj bi tako po potrebi zagotovili minimalne varnostne standarde in upoštevali tveganje nesreč zaradi stika z robotom ali njegovega delovanja v bližini človeka; meni, da bi bilo treba vprašanja etičnosti, varstva podatkov (tudi podatkov tretjih strani in osebnih podatkov), civilne odgovornosti, vplivov na zaposlovanje in usposabljanje ter vprašanja kibernetske varnosti obravnavati na vseh področjih politike o robotiki;

9.  poudarja, da je pri razvoju robotov pomembna vgrajena zasebnost in varnost ter da so za varstvo potrošnikov pomembna pravila za testiranje odzivanja robotov;

10.  poudarja, da mora biti pri uporabi robotov v središču vedno človekovo dostojanstvo, zlasti pri negi bolnikov;

11.  poudarja, da je treba za področje nujne medicinske uporabe robotike, kot so robotske proteze, zagotoviti stalen in trajen dostop do vzdrževanja, izboljšav, zlasti pa nadgradenj programske opreme, da se bodo odpravile motnje v delovanju in pomanjkljivosti;

12.  meni, da bi bilo treba v politikah držav članic – na področju zaposlovanja, izobraževanja in socialne politike – bolj upoštevati učinke robotizacije; poziva Komisijo, naj pomaga pri prizadevanjih za enoten regulativni okvir in tesnejše sodelovanje med državami članicami; poziva države članice, naj vzpostavijo prilagojen okvir za usposabljanje, da bi preprečili pomanjkanje strokovnega kadra na področju informacijske in komunikacijske tehnologije;

13.  se zaveda, da se tehnologija na področju robotike in umetne inteligence čedalje bolj uporablja na področju avtonomnih vozil, kot so avtonomni avtomobili in brezpilotni zrakoplovi za civilne namene; ugotavlja, da nekatere države članice že izvajajo ali obravnavajo zakonodajo prav za to področje, kar bi lahko privedlo do različnih nacionalnih zakonov, to pa bi oviralo razvoj avtonomnih vozil; zato poziva k enotnemu naboru predpisov EU, s katerimi bomo poiskali pravo ravnovesje med interesi uporabnikov, podjetij in drugih zainteresiranih strani, obenem pa se izognili pretiranemu urejanju na področju robotike in robotskih sistemov;

14.  poziva k okrepljenemu regulativnemu sodelovanju, da bi spremenili nekatere mednarodne sporazume, kot sta Dunajska konvencija o cestnem prometu z dne 8. novembra 1968 in Haaška konvencija o prometnih nesrečah z dne 4. maja 1971;

15.  meni, da v primeru avtonomnih vozil morda ne bo treba spremeniti pravne ureditve v zvezi z zavarovanjem, saj se lahko sedanja praksa in razmerja med voznikom, proizvajalcem in zavarovalnico ustrezno prilagodijo na uvedbo novih tehnologij, tako kot se je v preteklosti že zgodilo;

16.  poudarja, da je uporaba robotike v zdravstvu že rastoč trg, zlasti telerobotski operacijski posegi, kjer je Evropa na vodilnem mestu; poziva Komisijo, naj zagotovi, da bo mogoče povečati uporabo tovrstne prakse;

17.  poziva Komisijo, naj poveča financiranje za interdisciplinarne študije o tem, kako umetna inteligenca in procesi strojnega učenja vplivajo na družbo.

IZID KONČNEGA GLASOVANJAV ODBORU, ZAPROŠENEM ZA MNENJE

Datum sprejetja

11.10.2016

 

 

 

Izid končnega glasovanja

+:

–:

0:

35

1

1

Poslanci, navzoči pri končnem glasovanju

Catherine Bearder, Dita Charanzová, Carlos Coelho, Lara Comi, Anna Maria Corazza Bildt, Daniel Dalton, Nicola Danti, Dennis de Jong, Vicky Ford, Ildikó Gáll-Pelcz, Evelyne Gebhardt, Maria Grapini, Sergio Gutiérrez Prieto, Robert Jarosław Iwaszkiewicz, Liisa Jaakonsaari, Antonio López-Istúriz White, Marlene Mizzi, Eva Paunova, Jiří Pospíšil, Virginie Rozière, Christel Schaldemose, Andreas Schwab, Olga Sehnalová, Igor Šoltes, Ivan Štefanec, Catherine Stihler, Richard Sulík, Róża Gräfin von Thun und Hohenstein, Mylène Troszczynski, Mihai Ţurcanu, Anneleen Van Bossuyt, Marco Zullo

Namestniki, navzoči pri končnem glasovanju

Birgit Collin-Langen, Morten Løkkegaard, Julia Reda, Marc Tarabella

Namestniki (člen 200(2)), navzoči pri končnem glasovanju

John Stuart Agnew

(1)

STOA, Ethical Aspects of Cyber-Physical Systems (Etični vidiki kibernetsko-fizičnih sistemov), študija o znanstvenih napovedih (maj 2016), Priloga 1, str. 37.


IZID KONČNEGA GLASOVANJAV PRISTOJNEM ODBORU

Datum sprejetja

12.1.2017

 

 

 

Izid končnega glasovanja

+:

–:

0:

17

2

2

Poslanci, navzoči pri končnem glasovanju

Max Andersson, Joëlle Bergeron, Marie-Christine Boutonnet, Jean-Marie Cavada, Therese Comodini Cachia, Mady Delvaux, Lidia Joanna Geringer de Oedenberg, Mary Honeyball, Gilles Lebreton, António Marinho e Pinto, Julia Reda, Evelyn Regner, József Szájer, Tadeusz Zwiefka

Namestniki, navzoči pri končnem glasovanju

Daniel Buda, Sergio Gaetano Cofferati, Angel Džambazki (Angel Dzhambazki), Heidi Hautala, Constance Le Grip, Victor Negrescu

Namestniki (člen 200(2)), navzoči pri končnem glasovanju

Eleonora Evi, Andrej Novakov (Andrey Novakov)

Pravno obvestilo