Seznam 
 Předchozí 
 Další 
 Úplné znění 
Postup : 2015/2103(INL)
Průběh na zasedání
Stadia projednávání dokumentu : A8-0005/2017

Předložené texty :

A8-0005/2017

Rozpravy :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Hlasování :

PV 16/02/2017 - 6.9
Vysvětlení hlasování

Přijaté texty :

P8_TA(2017)0051

Přijaté texty
PDF 601kWORD 72k
Čtvrtek, 16. února 2017 - Štrasburk Konečné znění
Občanskoprávní pravidla pro robotiku
P8_TA(2017)0051A8-0005/2017
Usnesení
 Příloha

Usnesení Evropského parlamentu ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku (2015/2103(INL))

Evropský parlament,

–  s ohledem na článek 225 Smlouvy o fungování Evropské unie,

–  s ohledem na směrnici Rady 85/374/EHS(1),

–  s ohledem na studii o etických aspektech kyberneticko-fyzikálních systémů vypracovanou jménem výboru pro Hodnocení vědecko-technických možností (STOA) a pod vedením oddělení vědeckých prognóz (STOA) GŘ Výzkumné služby Evropského parlamentu,

–  s ohledem na články 46 a 52 jednacího řádu,

–  s ohledem na zprávu Výboru pro právní záležitosti a stanoviska Výboru pro dopravu a cestovní ruch, Výboru pro občanské svobody, spravedlnost a vnitřní věci, Výboru pro zaměstnanost a sociální věci, Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin, Výboru pro průmysl, výzkum a energetiku a Výboru pro vnitřní trh a ochranu spotřebitelů (A8-0005/2017),

Úvod

A.  vzhledem k tomu, že od Frankensteinova monstra Mary Shelleyové po klasický mýtus o Pygmalionovi, přes příběh o pražském Golemovi až po roboty Karla Čapka, který slovo „robot“ použil poprvé, lidé snili o stvoření myslících strojů, které měly většinou podobu androidů s lidskými rysy;

B.  vzhledem k tomu, že lidstvo nyní stojí na prahu věku, kdy se zdá, že stále složitější „roboti“, „boti“, „androidi“ a jiné projevy umělé inteligence zažehnou novou průmyslovou revoluci, kterou pravděpodobně pocítí všechny vrstvy společnosti, a proto je nesmírně důležité, aby zákonodárce zvážil její právní a etické důsledky, aniž by však omezoval inovace;

C.  vzhledem k tomu, že je třeba stanovit obecně přijatelnou definici robota a umělé inteligence, která bude pružná a nebude bránit inovacím;

D.  vzhledem k tomu, že zatímco mezi roky 2010 až 2014 stoupal prodej robotů každý rok průměrně o 17 %, v roce 2014 prodej vzrostl o 29 %, což je historicky nejvyšší meziroční nárůst; tento skok byl způsoben zejména poptávkou výrobců automobilových dílů a elektrických resp. elektronických zařízení; vzhledem k tomu, že za poslední desetiletí se ztrojnásobil počet žádostí o patentovou ochranu robotických technologií;

E.  vzhledem k tomu, že zaměstnanost se za posledních 200 let díky technologickému vývoji setrvale zvyšovala; vzhledem k tomu, že robotika a umělá inteligence mohou potenciálně proměnit životy a pracovní návyky, zvýšit efektivitu a úspory posílit bezpečnost a poskytovat kvalitnější služby; vzhledem k tomu, že v krátkodobém až střednědobém horizontu nese robotika a umělá inteligence příslib zvyšování efektivity a úspor, a to nejen v průmyslové výrobě a obchodu, ale také v dopravě, zdravotní péči, záchranných službách, vzdělávání, zemědělství a dalších oblastech, a současně umožní, aby lidé nemuseli být vystaveni nebezpečným podmínkám, například při sanaci zamořených oblastí;

F.  vzhledem k tomu, že stárnutí populace je výsledkem prodlužování života, jehož bylo dosaženo díky zlepšení životních podmínek a pokroku v moderní medicíně, a je jednou z největších politických, sociálních a hospodářských výzev, před nimiž stojí evropské společnosti ve 21. století; vzhledem k tomu, že do roku 2025 bude více než 20 % Evropanů věku 65 a více let, přičemž obzvlášť rychle poroste počet osob starších 80 let, což způsobí v naší společnosti podstatně jiný poměr mezi generacemi, a vzhledem k tomu, že je v zájmu společnosti, aby starší lidé zůstali co nejdéle zdraví a aktivní;

G.  vzhledem k tomu, že v dlouhodobém výhledu míří současné trendy k vývoji inteligentních a autonomních strojů, které budou schopny zlepšovat se na základě výcviku a nezávisle se rozhodovat, což s sebou nese nejen hospodářské výhody, ale rovněž celou řadu obav týkajících se přímých i nepřímých důsledků pro společnost jako celek;

H.  vzhledem k tomu, že strojové učení může mít dalekosáhlé hospodářské a inovativní přínosy pro společnost, neboť prudce zvýší schopnost analyzovat údaje, zároveň však vyvolává otázky týkající se zajištění nediskriminace, dodržování řádných postupů, transparentnosti a srozumitelnosti rozhodovacích procesů;

I.  vzhledem k tomu, že podobně musejí být provedena posouzení hospodářských změn a dopadů na zaměstnanost, které s sebou robotika a strojové učení přinesou; vzhledem k tomu, že i přes nepopiratelné výhody, které robotika nabízí, může její zavádění vést k přeměně pracovního trhu a k potřebě náležitě reagovat na budoucí vývoj v oblasti vzdělávání, zaměstnanosti a sociálních politik;

J.  vzhledem k tomu, že široké využívání robotů sice nemusí automaticky vést k úbytku pracovních míst, je nicméně pravděpodobné, že pracovních míst vyžadujících nižší kvalifikaci v odvětvích, která jsou náročná na pracovní sílu, se automatizace dotkne citelněji; vzhledem k tomu, že tento trend by mohl vrátit výrobní procesy zpět do EU; vzhledem k tomu, že výzkum prokázal, že zaměstnanost roste výrazně rychleji v oborech, kde se ve větší míře používá počítačů; vzhledem k tomu, že automatizace práce může osvobodit lidi od jednotvárné ruční práce a umožnit jim přesměrovat své síly na tvořivější a smysluplnější úkoly; vzhledem k tomu, že automatizace vyžaduje, aby vlády investovaly do vzdělávání a dalších reforem, které umožní lepší rozložení ve prospěch těch typů dovedností, které budou pracovníci do budoucna potřebovat;

K.  vzhledem k tomu, že s vědomím prohlubujících se rozdílů ve společnosti, v níž se zmenšuje střední třída,  je nezbytnési uvědomit, že rozvoj robotiky může vést k vyšší koncentraci bohatství a vlivu v rukou menšiny;

L.  vzhledem k tomu, že rozvoj robotiky a umělé inteligence rozhodně ovlivní podobu pracoviště, takže mohou vzniknout nové obavy týkající se odpovědnosti, zatímco k určitým dalším obavám již nebude důvod; vzhledem k tomu, že pro případ, že by vznikla nebezpečná situace nebo nastaly problémy, musí být vyjasněna právní odpovědnost z hlediska obchodního modelu i z hlediska modelů zaměstnanosti;‎‎

M.  vzhledem k tomu, že trend směřující k automatizaci s sebou nese požadavek, aby ti, kteří se podílejí na vývoji aplikací umělé inteligence a jejich uvádění na trh, měli již od fáze návrhu na zřeteli bezpečnost a etiku, a byli si tak vědomi toho, že musejí být připraveni přijmout právní odpovědnost za kvalitu technologie, kterou vytvářejí;

N.  vzhledem k tomu, že nařízení Evropského parlamentu a Rady (EU) 2016/679(2) (obecné nařízení o ochraně osobních údajů) stanoví právní rámec ochrany osobních údajů; vzhledem k tomu, že bude pravděpodobně potřeba se zabývat dalšími aspekty přístupu k údajům a ochrany osobních údajů a soukromí, protože aplikace a přístroje schopné komunikovat mezi sebou navzájem a s různými databázemi, aniž by do této komunikace vstupovali lidé, mohou být stále zdrojem obav týkajících se ochrany soukromí;

O.  vzhledem k tomu, že rozvoj robotiky a umělé inteligence může a měl by být koncipován takovým způsobem, aby robotika i umělá inteligence zachovávaly důstojnost, autonomii a sebeurčení jednotlivce, zvláště pak při vykonávání práce pečovatelů a společníků a v souvislosti s používáním lékařských zařízení a „opravami“ nebo vylepšováním lidského těla;

P.  vzhledem k tomu, že existuje možnost, že by v dlouhodobém horizontu umělá inteligence mohla překonat lidské duševní schopnosti;

Q.  vzhledem k tomu, že další rozvoj a širší využívání automatizovaných a algoritmických rozhodovacích procesů má nezpochybnitelný dopad na to, k čemu se nakonec přikloní soukromé osoby (například podniky či uživatelé internetu) a správní, soudní či jiné veřejné orgány v rámci svého rozhodování v záležitostech spotřebitelského, obchodního či úředního rázu; vzhledem k tomu, že nedílnou součástí procesu automatizovaného a algoritmického rozhodování musí být určité ochranné prvky a možnost lidské kontroly a lidského ověřování;

R.  vzhledem k tomu, že několik zahraničních jurisdikcí, například USA, Japonsko, Čína a Jižní Korea, uvažuje o vytvoření právní úpravy v oblasti robotiky a umělé inteligence a učinilo již určité kroky tímto směrem, a vzhledem k tomu, že některé členské státy rovněž začaly uvažovat o možnosti vypracovat právní normy nebo provést legislativní změny, které by zohlednily nové způsoby uplatnění těchto technologií;

S.  vzhledem k tomu, že evropskému průmyslu by mohl prospět účinný, konzistentní a transparentní regulační přístup na úrovni EU, který by vytvářel předvídatelné a dostatečně jasné podmínky, za nichž by podniky mohly vyvíjet aplikace a plánovat své obchodní modely na evropské úrovni, a současně by zajistil, že si Unie a její členské státy zachovají kontrolu nad novými regulačními standardy, a nebudou tedy nuceny přijímat a uplatňovat standardy stanovené někým jiným, totiž třetími státy, které rovněž stojí v čele vývoje robotiky a umělé inteligence;

Obecné zásady

T.  vzhledem k tomu, že Asimovovy zákony(3) je třeba chápat tak, že jsou určeny konstruktérům, výrobcům a provozovatelům robotů, neboť tyto zákony nelze převést do strojového kódu;

U.  vzhledem k tomu, že je nezbytné stanovit soubor pravidel, která budou upravovat zejména otázky odpovědnosti a transparentnosti a budou v souladu s bytostně evropskými a univerzálními humanistickými hodnotami, jimiž se vyznačuje příspěvek Evropy ke společnosti; vzhledem k tomu, že tato pravidla nesmí ovlivňovat proces výzkumu, inovací a rozvoje v oblasti robotiky;

V.  vzhledem k tomu, že Unie by mohla sehrát zásadní úlohu při vytváření základních etických zásad, jimiž by se měl řídit vývoj, programování a používání robotů a umělé inteligence, a při začleňování těchto zásad do evropských právních předpisů a kodexů chování s cílem utvářet technickou revoluci tak, aby sloužila lidstvu, aby užitek z pokročilých robotických systémů a umělé inteligence byl co nejšířeji sdílen a aby sev nejvyšší možné míře zamezilo potenciálním rizikům;

W.  vzhledem k tomu, že přílohu legislativního usnesení tvoří Charta robotiky, která byla vypracována za pomoci oddělení vědeckých prognóz (STOA) GŘ Výzkumné služby Evropského parlamentu a která předkládá etický kodex inženýrů robotiky, kodex pro komise pro etiku výzkumu, „licenci“ konstruktérů a „licenci“ uživatelů;

X.  vzhledem k tomu, že k budoucím iniciativám v oblasti robotiky a umělé inteligence by měla Unie zaujmout postupný, pragmatický a obezřetný přístup hlásaný Jeanem Monnetem(4), aby nebyly zadušeny inovace;

Y.  vzhledem k tomu, že s ohledem na současný stupeň rozvoje robotiky a umělé inteligence je vhodné začít s otázkami občanskoprávní odpovědnosti;

Odpovědnost

Z.  vzhledem k tomu, že díky pozoruhodnému technickému pokroku, k němuž došlo v posledním desetiletí, dokáží dnešní roboti nejen vykonávat činnosti, které bývaly výlučnou doménou člověka, nýbrž získávají také určité autonomní a kognitivní schopnosti – např. schopnost učit se na základě zkušeností a činit kvazi samostatná rozhodnutí – takže se stále více podobají subjektům, které interagují se svým okolím a jsou je schopny výrazně ovlivňovat; vzhledem k tomu, že v této souvislosti se může jednou ze stěžejních otázek stát problém právní odpovědnosti v případě, že robot svou činností způsobí újmu;

AA.  vzhledem k tomu, že autonomii robota lze definovat jako schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku; vzhledem k tomu, že tato autonomie je čistě technické povahy a její stupeň závisí na tom, jak byl robot konstruován, pokud jde o komplexitu jeho interakce s prostředím;

AB.  vzhledem k tomu, že čím je robot autonomnější, tím méně jej lze považovat za pouhý nástroj v rukou jiných subjektů (výrobců, provozovatelů, vlastníků, uživatelů atd.); vzhledem k tomu, že s tím je spojena otázka, zda jsou dostačující obvyklá pravidla pro odpovědnost, nebo zda je zapotřebí stanovit nové zásady a pravidla, které vyjasní právní odpovědnost různých subjektů, pokud jde o jejich odpovědnost za jednání a opomenutí ze strany robotů, jejichž příčinu nelze vysledovat zpět k určitému lidskému činiteli, a zda takovému jednání či opomenutí ze strany robotů, jímž byla způsobena určitá újma, bylo možné zamezit;

AC.  vzhledem k tomu, že autonomie robotů nás v konečném důsledku staví před otázku jejich povahy s ohledem na stávající právní kategorie, tj. zda by měla být vytvořena nová kategorie s vlastními specifickými rysy a důsledky;

AD.  vzhledem k tomu, že současný právní rámec neumožňuje, aby robot nesl sám o sobě odpovědnost za jednání nebo opomenutí, jimiž způsobí škodu třetí straně; vzhledem k tomu, že platná pravidla pro odpovědnost se vztahují na případy, kdy za jednání nebo opomenutí robota lze činit odpovědným konkrétního lidského činitele, například výrobce, provozovatele, vlastníka nebo uživatele, pokud tato osoba mohla předvídat škodlivé jednání robota a zabránit mu; vzhledem k tomu, že výrobci, provozovatelé, vlastníci nebo uživatelé by také mohli nést absolutní odpovědnost za jednání či opomenutí robota;

AE.  vzhledem k tomu, že podle současného právního rámce se na škody, které způsobí robot nebo umělá inteligence, vztahuje jednak odpovědnost za výrobky (kdy za nesprávné fungování určitého výrobku nese odpovědnost jeho výrobce) a jednak pravidla, jimiž se řídí odpovědnost za způsobenou újmu (kdy za chování, jehož následkem byla způsobena újma, zodpovídá uživatel výrobku);

AF.  vzhledem k tomu, že pokud by robot byl schopen činit samostatná rozhodnutí, tradiční pravidla by již nestačila k určení odpovědnosti za škodu způsobenou robotem, protože by nebylo možné určit stranu, která má poskytnout odškodnění a napravit škodu, kterou robot způsobil;

AG.  vzhledem k tomu, že v oblasti smluvní odpovědnosti se jasně projevují nedostatky současné právní úpravy, neboť pokud budou stroje konstruovány tak, aby si vybíraly své smluvní partnery, vyjednávaly smluvní podmínky, uzavíraly smlouvy a rozhodovaly o tom, zda a jak je budou uplatňovat, nebude již možné se řídit tradičními pravidly; vzhledem k tomu, že bude nutné vytvořit pravidla nová, účinná a aktuální, která by odpovídala technologickému vývoji a nejnovějším inovacím, které našly uplatnění na trhu;

AH.  vzhledem k tomu, že pokud jde o mimosmluvní odpovědnost, směrnice 85/374/EHS se vztahuje pouze na škodu způsobenou výrobními vadami robota, a to navíc pod podmínkou, že poškozená osoba prokáže škodu, vadu a příčinnou souvislost mezi vadou a škodou, takže je možné, že právní rámec absolutní odpovědnosti či odpovědnosti bez zavinění nebude dostačující;

AI.  vzhledem k tomu, že bez ohledu na oblast působnosti směrnice 85/374/EHS není platná právní úprava dostačující k tomu, aby zajistila odpovědnost za škodu způsobenou roboty nové generace, pokud by tito roboti měli schopnost adaptace a učení, která by způsobila, že by jejich jednání bylo do určité míry nepředvídatelné, neboť tito roboti by se samostatně učili na základě vlastních variabilních zkušeností a interagovali by s prostředím jedinečným, nepředvídatelným způsobem;

Obecné principy rozvoje robotiky a umělé inteligence pro civilní účely

1.  vyzývá Komisi, aby navrhla jednotné unijní definice kyberneticko-fyzikálních systémů, autonomních systémů, inteligentních autonomních robotů a jejich podkategorií, přičemž by vzala v úvahu níže uvedené vlastnosti, jimiž se vyznačuje inteligentní robot:

   je autonomní díky senzorům nebo výměně dat s okolním prostředím (propojenost) a je schopen tato data předávat a analyzovat;
   má schopnost samostatného učení na základě zkušeností a interakce (volitelné kritérium);
   má alespoň menší fyzickou strukturu;
   má schopnost přizpůsobit své jednání a svou činnost okolnímu prostředí;
   není v biologickém smyslu živý;

2.  domnívá se, že pro určité konkrétní podkategorie robotů by měl být ve vhodných a nezbytných případech na vnitřním trhu Unie zaveden všeobecný unijní systém registrace pokročilých robotů, a vyzývá Komisi, aby stanovila kritéria pro klasifikaci robotů s cílem určit, kteří roboti by měli být registrováni; v této souvislosti vyzývá Komisi, aby posoudila, zda je žádoucí, aby takový registrační systém a registr spravovala zvláštní agentura EU pro robotiku a umělou inteligenci;

3.  zdůrazňuje, že rozvoj robotických technologií by se měl zaměřit na to, aby doplňoval, a nikoli nahrazoval schopnosti člověka; domnívá se, že ve vývoji robotiky a umělé inteligence je zcela zásadní, aby bylo zaručeno, že lidé budou mít nad inteligentními stroji neustálou kontrolu; domnívá se, že je třeba věnovat zvláštní pozornost tomu, že mezi člověkem a robotem může vzniknout emoční vazba – zejména v případě zranitelných skupin (děti, starší osoby a osoby se zdravotním postižením), a poukazuje na problémy spojené s vážnými emočními či fyzickými dopady, které by toto emoční pouto mohlo mít na člověka;

4.  zdůrazňuje, že postup na úrovni Unie by zamezil tříštění vnitřního trhu a napomohl tak rozvoji, a zároveň vyzdvihuje důležitost zásady vzájemného uznávání při přeshraničním využívání robotů a robotických systémů; připomíná, že testování, certifikace a souhlas s uvedením na trh by měly být vyžadovány pouze v jednom členském státě; zdůrazňuje, že by tento postup měl být doprovázen účinným dozorem nad trhem;

5.  zdůrazňuje význam opatření na podporu malých a středních podniků a začínajících podniků v odvětví robotiky, které v tomto odvětví vytvářejí nové tržní segmenty či využívají roboty;

Výzkum a inovace

6.  poukazuje na to, že řada robotických aplikací se dosud nachází v experimentální fázi; vítá, že z vnitrostátních i unijních prostředků je financováno stále více výzkumných projektů; považuje za velmi důležité, aby Unie, spolu s členksými státy díky veřejnému financování, byla i nadále v čele výzkumu robotiky a umělé inteligence; vyzývá Komisi a členské státy, aby posílily finanční nástroje, z nichž jsou financovány výzkumné projekty v oblasti robotiky a informačních a komunikačních technologií, včetně partnerství veřejného a soukromého sektoru, a aby ve svých výzkumných politikách uplatňovaly zásady otevřené vědy a odpovědných etických inovací; zdůrazňuje, že je třeba vyčlenit dostatek prostředků na řešení sociálních a etických, právních a hospodářských výzev, před něž nás staví rozvoj a uplatnění nových technologií;

7.  vyzývá Komisi a členské státy, aby rozvíjely výzkumné programy, podporovaly výzkum dlouhodobých rizik a příležitostí, které skýtají technologie robotiky a umělé inteligence, a vybízely k co nejrychlejšímu zahájení strukturovaného veřejného dialogu o důsledcích rozvoje těchto technologií; vyzývá Komisi, aby v rámci přezkumu víceletého finančního rámce v polovině období posílila svou podporu programu SPARC financovanému v rámci programu Horizont 2020; vyzývá Komisi a členské státy, aby spojily své úsilí ve snaze zajistit důkladné monitorování přechodu těchto technologií z výzkumu na trh a jejich tržní využití a zaručit, že tento přechod bude probíhat lépe, přičemž musí být nejprve provedeno jejich hodnocení z hlediska bezpečnosti v souladu se zásadou předběžné opatrnosti;

8.  zdůrazňuje, že inovace v oblasti robotiky a umělé inteligence a integrace robotiky a umělé inteligence do ekonomiky a společnosti si žádají digitální infrastrukturu poskytující možnost připojení odkudkoli; vyzývá Komisi, aby stanovila rámec, který naplní potřeby v oblasti konektivity pro digitální budoucnost Unie, a zajistila, že širokopásmový přístup a přístup na síť 5G budou plně v souladu se zásadou neutrality sítě;

9.  je pevně přesvědčen, že pro umožnění toků dat v reálném čase, díky nimž budou moci roboti a umělé inteligence zvyšovat svou flexibilitu a autonomii, je klíčová interoperabilita systémů, zařízení a cloudových služeb, založená na bezpečnosti a ochraně soukromí jakožto konstrukčních principech; žádá Komisi, aby propagovala otevřené prostředí od otevřených standardů a inovativních modelů udělování licencí až po otevřené platformy a transparentnost, neboť tím se zamezí závislosti na soukromých systémech, které omezují interoperabilitu;

Etické zásady

10.  konstatuje, že emancipační potenciál robotiky je třeba vnímat na pozadí různých napětí a rizik a je třeba ho důsledně posoudit z hlediska bezpečnosti osob, zdraví a bezpečnosti, svobody, soukromí, integrity a důstojnosti, sebeurčení a nediskriminace a ochrany osobních údajů;

11.  domnívá se, že současný právní rámec Unie je třeba modernizovat a ve vhodných případech doplnit o etické zásady, jež by odrážely složitost robotické problematiky a její dopady v sociální, zdravotní a bioetické oblasti; domnívá se, že je zapotřebí jasný, přísný a efektivní etický rámec pro vývoj, výrobu, používání a úpravy robotů, který by doplnil právní doporučení obsažená v této zprávě a ve vnitrostátním acquis a acquis Unie; přikládá k tomuto usnesení návrh rámce v podobě charty spočívající v etickém kodexu pro inženýry v oblasti robotiky, kodexu pro komise pro etiku výzkumu, které přezkoumávají robotické protokoly, a vzorových licencích pro konstruktéry a uživatele;

12.  vyzdvihuje zásadu transparentnosti, podle níž by mělo být vždy možné podat odůvodnění každého rozhodnutí učiněného s pomocí umělé inteligence, které může mít významný dopad na život jedné nebo více osob; domnívá se, že výpočetní činnost systémů umělé inteligence by mělo být vždy možné převést do formy pochopitelné pro člověka; domnívá se, že pokročilí roboti by měli být vybaveni „černou skříňkou“, kde budou zaznamenávány údaje o každé operaci, kterou daný stroj provede, včetně logiky, na níž se jeho rozhodnutí zakládají;

13.  zdůrazňuje, že tento etický rámec by měl vycházet ze zásad prospěšnosti, neškodlivosti, autonomie a spravedlnosti, z principů a hodnot zakotvených v článku 2 Smlouvy o Evropské unii a v z Listině základních práv, jimiž jsou lidská důstojnost, rovnost, spravedlnost a rovnoprávnost, nediskriminace, informovaný souhlas, soukromý a rodinný život a ochrana dat, jakož i z dalších základních principů a hodnot práva Unie, jako jsou zákaz stigmatizace, transparentnost, autonomie, osobní odpovědnost a sociální odpovědnost, a ze stávajících etických postupů a norem;

14.  domnívá se, že zvláštní pozornost je třeba věnovat robotům, kteří fungují v tradičně chráněných a soukromých oblastech, a představují tak významnou hrozbu pro zachování důvěrnosti, protože jsou schopni získávat a odesílat osobní a citlivé údaje;

Evropská agentura

15.  je přesvědčen, že je nezbytné prohloubení spolupráce mezi členskými státy a Komisí, aby byla v Unii zaručena koherentní přeshraniční pravidla, která budou napomáhat spolupráci mezi evropskými ekonomikami a která umožní, aby bylo v celé Unii možné používat roboty, kteří budou splňovat požadované bezpečnostní normy a budou v souladu s etickými principy zakotvenými v právu Unie;

16.  vyzývá Komisi, aby zvážila vytvoření evropské agentury pro robotiku a umělou inteligenci, která by vypracovávala odborné posudky týkající se technických, etických a regulačních otázek pro relevantní veřejné činitele na unijní a vnitrostátní úrovni, s cílem podpořit jejich snahu včas, eticky a na základě správných informací reagovat na nové příležitosti a výzvy, které přináší rozvoj robotických technologií, např. v odvětví dopravy, zejména pokud mají tyto příležitosti a výzvy přeshraniční rozměr;

17.  domnívá se, že vzhledem k velkému potenciálu robotiky a problémům s ní spojeným a vzhledem k současné dynamice investic by měla být tato evropská agentura vybavena dostatečným rozpočtem a měla by zaměstnávat odborníky na regulaci a externí odborníky v oblasti techniky a etiky, kteří by se zabývali meziodvětvovým a multidisciplinárním sledováním robotických aplikací, zjišťovali osvědčené postupy a případně doporučovali regulační opatření, definovali nové zásady a řešili potenciální otázky ochrany spotřebitele a systémové výzvy; žádá Komisi (a evropskou agenturu, pokud vznikne), aby každoročně informovaly Evropský parlament o nejnovějším vývoji v robotice a o veškerých opatřeních, která je třeba přijmout;

Práva duševního vlastnictví a předávání údajů

18.  poukazuje na to, že ačkoli neexistují žádná právní ustanovení, která by se specificky týkala robotiky, lze na robotiku snadno uplatnit některé stávající právní režimy a doktríny, ačkoli některým aspektům bude pravděpodobně třeba věnovat zvýšenou pozornost; vyzývá Komisi, aby podporovala horizontální, technologicky neutrální přístup k duševnímu vlastnictví, který by se vztahoval na různá odvětví,v nichž by mohla být robotika uplatněna;

19.  vyzývá Komisi a členské státy, aby zajistily, že občanskoprávní předpisy v odvětví robotiky budou slučitelné s všeobecným nařízením o ochraně údajů a budou v souladu se zásadou nezbytnosti a proporcionality; vyzývá Komisi a členské státy, aby braly v úvahu rychlý technologický vývoj v oblasti robotiky, včetně vývoje kyberneticko-fyzikálních systémů, a aby zajistily, že právo Unie nebude za vývojem a využíváním těchto technologií zaostávat;

20.  zdůrazňuje, že právo na respektování soukromého života a právo na ochranu osobních údajů, jak jsou zakotvena v článcích 7 a 8 Listiny a v článku 16 Smlouvy o fungování Evropské unie (Dále jen „Smlouva o fungování EU“), se uplatňují na všechny oblasti robotiky a umělé inteligence a že musí být plně dodržován unijní právní rámec ochrany údajů; v této souvislosti požaduje, aby byla v rámci pro provádění obecného nařízení o ochraně osobních údajů vyjasněna pravidla a kritéria týkající se používání kamer a senzorů v robotech; vyzývá Komisi, aby zajistila dodržování zásad ochrany údajů, jako je ochrana soukromí již od návrhu (privacy by design) a ochrana soukromí jako výchozí nastavení (privacy by default), minimalizace dat, omezení účelu, jakož i transparentní kontrolní mechanismy a přiměřené možnosti nápravy v souladu s právními předpisy Unie na ochranu údajů, a aby dbala na to, že přiměřená doporučení a standardy budou podporovány a začleňovány do politik Unie;

21.  zdůrazňuje, že volný pohyb údajů má obrovský význam pro digitální ekonomiku a rozvoj odvětví robotiky a umělé inteligence; zdůrazňuje, že vysoká úroveň bezpečnosti robotických systémů, včetně jejich interních datových systémů a datových toků, je pro přiměřené využívání robotů a umělé inteligence klíčová; klade důraz na to, že musí být zajištěna ochrana sítí vzájemně propojených robotů a umělé inteligence, aby se zabránilo možnému narušení bezpečnosti; zdůrazňuje, že zcela zásadní význam má vysoký stupeň bezpečnosti a ochrany osobních údajů, spolu s náležitým ohledem na ochranu soukromí v komunikaci mezi lidmi, roboty a umělou inteligencí; zdůrazňuje, že konstruktéři robotických systémů a systémů umělé inteligence nesou odpovědnost za to, že jimi vyvíjené výrobky budou bezpečné, spolehlivé a vhodné pro daný účel; vyzývá Komisi a členské státy, aby podporovaly vývoj potřebných technologií, včetně koncepce vestavěné bezpečnosti (security by design);

Standardizace a bezpečnost

22.  zdůrazňuje, že otázka stanovení norem a zajištění interoperability má klíčový význam pro budoucí soutěž v oblasti technologií využívajících umělé inteligence a robotiky; vyzývá Komisi, aby pokračovala ve své práci na mezinárodní harmonizaci technických norem, zejména ve spolupráci s evropskými normalizačními organizacemi a s Mezinárodní organizací pro normalizaci, s cílem podporovat inovace, zamezit tříštění jednotného trhu a zaručit vysokou úroveň bezpečnosti produktů a ochrany spotřebitelů, ve vhodných případech také stanovením minimálních norem bezpečnosti na pracovišti; poukazuje na význam legálního zpětného inženýrství (reverse engineering) a otevřených standardů, aby bylo možné maximálně využít inovací a zajistit, aby roboti mohli navzájem komunikovat; vítá proto zřízení zvláštních technických výborů, jako je ISO/TC 299 Robotics, které se věnují výhradně vypracovávání norem v oblasti robotiky;

23.  zdůrazňuje, že pro zjištění a posouzení rizik, které by roboti mohli přinášet, jakož i jejich technologického vývoje nad rámec čistě experimentální laboratorní fáze je nutné provádět jejich testování v reálných podmínkách; v této souvislosti zdůrazňuje, že testování robotů v reálných podmínkách, zejména ve městech a na silnicích, je spojeno s velkým množstvím problémů, včetně s překážkami, které zpomalují postup těchto testovacích fází a vyžadují účinné strategie a účinný mechanismus sledování; vyzývá Komisi, aby v souladu se zásadou předběžné opatrnosti vypracovala jednotná kritéria pro všechny členské státy, která by jednotlivé členské státy měly používat k určení oblastí, v nichž jsou pokusy s roboty povoleny;

Autonomní dopravní prostředky

a)Autonomní vozidla

24.  zdůrazňuje, že autonomní doprava zahrnuje veškeré formy dálkově řízených, automatizovaných, propojených a autonomních dopravních prostředků, a to silničních, železničních, vodních a leteckých, včetně vozidel, vlaků, plavidel, trajektů, letadel, dronů, jakož i všech budoucích forem vývoje a inovací v tomto odvětví;

25.  domnívá se, že automobilový průmysl akutně potřebuje účinná unijní a celosvětová pravidla k zajištění přeshraničního rozvoje automatických a autonomních vozidel, má-li být plně rozvinut jejich ekonomický potenciál a mají-li mít technologické trendy pozitivní účinky; zdůrazňuje, že roztříštěná regulace by bránila implementaci autonomních dopravních systémů a snižovala evropskou konkurenceschopnost;

26.  upozorňuje na skutečnost, že v případě neplánovaného převzetí kontroly nad vozidlem má zásadní význam reakční doba řidiče, a vyzývá tudíž k tomu, aby zúčastněné strany zajistily, že budou při řešení problémů spojených s bezpečností a odpovědností vycházet z realistických hodnot;

27.  domnívá se, že přechod na autonomní vozidla bude mít dopad na tyto oblasti: občanská odpovědnost (odpovědnost a pojištění), bezpečnost silničního provozu, veškeré aspekty ochrany životního prostředí (např. energetická účinnost, používání obnovitelných technologií a energetických zdrojů), otázky spojené s daty (např. přístup k datům, ochrana dat, soukromí a sdílení dat), otázky spojené s infrastrukturou IKT (např. vysoká hustota efektivních a spolehlivých komunikací) a zaměstnanost (např. tvorba a zánik pracovních míst, výcvik řidičů těžkých nákladních vozidel, aby uměli používat automatická vozidla); zdůrazňuje, že bude nezbytné výrazně investovat do silniční, energetické a IKT infrastruktury; vyzývá Komisi, aby ve své práci týkající se autonomních vozidel tyto aspekty zohlednila;

28.  poukazuje na to, že při zavádění autonomních vozidel mají zásadní význam polohovací a časové informace, které poskytují evropské programy družicové navigace Galileo a EGNOS, a vyzývá proto, aby byly dokončeny a vypuštěny satelity nutné k dokončení evropského geolokačního systému Galileo;

29.  upozorňuje na to, že autonomní vozidla mají velký přinos pro osoby se sníženou pohyblivostí, protože těmto osobám umožňují lépe se podílet na individuální silniční dopravě, a usnadňují tak jejich každodenní život;

b) Drony (dálkově řízené letadlové systémy)

30.  poukazuje na pozitivní vývoj technologie dronů, zejména pokud jde o pátrací a záchranné akce; vyzdvihuje význam unijního rámce pro používání dronů na ochranu bezpečnosti a soukromí občanů Unie a vyzývá Komisi, aby učinila patřičné kroky v návaznosti na usnesení Evropského parlamentu ze dne 29. října 2015 o bezpečném využívání dálkově řízených letadlových systémů (RPAS), obecně známých jako bezpilotní vzdušné prostředky, v oblasti civilního letectví(5); žádá Komisi, aby vypracovala hodnocení bezpečnostních otázek spojených s širokým využíváním dronů; vyzývá Komisi, aby posoudila, zda by systémy RPAS neměly být povinně vybaveny systémem pro sledování a identifikaci, který by umožňoval okamžitě zjistit pozici letounu v době letu; připomíná, že homogenita a bezpečnost bezpilotních letounů by měla být zajištěna prostřednictvím opatření stanovených v nařízení Evropského parlamentu a Rady (ES) č. 216/2008(6);

Roboti v pečovatelských službách

31.  zdůrazňuje, že výzkum a vývoj robotů pro péči o seniory se stává běžnějším a levnějším a jeho výsledkem jsou lépe fungující produkty, které spotřebitelé více přijímají; bere na vědomí širokou škálu využití těchto technologií, které poskytují prevenci, asistenci, monitorování, stimulaci a doprovod starším osobám a zdravotně postiženým osobám a osobám trpícím demencí, kognitivními poruchami či ztrátou paměti;

32.  poukazuje na to, že jedním z elementárních aspektů péče o člověka je lidský kontakt; je přesvědčen, že nahrazení lidského faktoru robotem by mohlo způsobit odlidštění pečovatelských služeb, na druhé straně však uznává, že roboti by mohli provádět automatizované pečovatelské úkony a díky nim by bylo možné ulehčit práci aisstentů pečovatelských služeb, přičemž by byla současně zlpešena lidská péče a proces rehabilitace by byl cílenější, tudíž by lékařům a ošetřovatelům bylo umožněno více času na diagnostiku a lepší plánování léčby; zdůrazňuje, že i když má robotika potenciál zvýšit mobilitu a integraci osob se zdravotním postižením a starších osob, lidé zůstanou i nadále v pečovatelské péči potřební a budou i nadále důležitým zdrojem sociální interakce, kterou nelze zcela nahradit;

Roboti ve zdravotní péči

33.  zdůrazňuje, že pro zajištění co nejvyšší profesní způsobilosti., jakož i zajištění a ochrany zdraví pacientů je důležité vhodné vzdělání, odborná průprava a příprava zdravotnického personálu, jako například lékařů a ošetřovatelů,; klade důraz na to, že je nutné definovat minimální odborné požadavky, které musí chirurg splňovat, aby mohl operovat a bylo mu povoleno používat chirurgické roboty; považuje za velmi důležité dodržovat zásadu autonomní činnosti robotů pod dohledem, podle níž počáteční plánování léčby a konečné rozhodnutí o jejím provedení vždy příslušelo lidskému chirurgovi; vyzdvihuje zvláštní význam vzdělávání uživatelů, které jim umožní obeznámit se s technologickými požadavky v této oblasti; upozorňuje na sílící trend samovyšetření za použití mobilního robota a s ním tak spojenou potřebu, aby lékaři byli na tyto případy, kdy se pacient vyšetří sám, odborně připraveni; domnívá se, že používání těchto technologií by nemělo omezovat nebo poškozovat vztah mezi lékařem a pacientem, nýbrž musí lékaři poskytovat pomoc při diagnostice nebo léčbě pacienta s cílem snižovat riziko lidského selhání a zvyšovat kvalitu a délku života;

34.  je přesvědčen, že lékařští roboti stále více pronikají do poskytování precizní chirurgie a provádějí opakující se úkony, a mohou zlepšovat výsledky při rehabilitaci, a že poskytují vysoce efektivní logistickou podporu v nemocnicích; poukazuje na to, že lékařští roboti mají potenciál snižovat náklady na zdravotní péči tím, že umožňují zdravotnickým pracovníkům zaměřit pozornost na prevenci místo léčby a že díky nim bude možné použít více rozpočtových prostředků na to, aby se péče lépe přizpůsobila potřebám pacientů a aby bylo možné zajistit průběžné vzdělávání zdravotnického personálu a financovat výzkum;

35.  vyzývá Komisi, aby  do datem použitelnosti nařízení (EU) 2017/745 zajistila, aby stávající postupy testování nových robotických zdravotnických prostředků byly bezpečné, zejména pokud jsou implantovány do lidského těla;

Opravy a vylepšování lidského těla

36.  poukazuje na značný pokrok a další potenciál robotiky v oblasti oprav a kompenzace poškozených orgánů a životních funkcí lidí, ale také na komplexní otázky týkající se zejména možností vylepšování lidského těla, protože lékařští roboti a zejména kyberneticko-fyzikální systémy mohou změnit naše představy o zdravém lidském těle, neboť mohou být připevněny přímo na lidském těle nebo do něho implantovány; zdůrazňuje, že je důležité, aby nemocnice a ostatní zdravotnická zařízení urgentně zřizovaly přiměřeně personálně zajištěné komise pro etiku robotiky, které by posuzovaly neobvyklé a složité etické problémy ovlivňující léčbu a péči o pacienty a pomáhaly při jejich řešení; vyzývá Komisi a členské státy, aby vypracovaly pokyny, které by napomáhaly zřizování a fungování těchto komisí;

37.  zdůrazňuje, že v oblasti životně důležitých lékařských přístrojů, jako jsou robotické protézy, musí být zajištěn permanentní a udržitelná dostupnost údržby, úprav ke zlepšení funkčnosti a zejména aktualizace softwarových aktualizací, které odstraňují závady a rizika;

38.  doporučuje, aby byly vytvářeny nezávislé důvěryhodné subjekty, které budou vybaveny tak, aby mohly osobám, které mají na těle nebo v těle životně důležitá lékařská zařízení využívající pokročilých technologií, poskytovat služby spočívající v údržbě, opravách či zlepšování funkcí, včetně aktualizací softwaru, a to zejména v případě, kdy údržbu již neprovádí původní dodavatel; navrhuje, aby byla výrobcům uložena povinnost dodávat těmto nezávislým důvěryhodným subjektům úplnou konstrukční dokumentaci včetně zdrojového kódu, podobně jako se zasílá povinný výtisk publikací národním knihovnám;

39.  poukazuje na rizika spojená s možností neoprávněného ovládnutí nebo vypnutí kyberneticko-fyzikálních systémů v lidském těle či ke smazání jejich paměti, protože to by mohlo způsobit ohrožení lidského zdraví a v nejhorším případě i lidského života, a zdůrazňuje proto, že ochrana těchto systémů musí být prioritou;

40.  poukazuje na to, že je důležité zajistit, aby k těmto technickým inovacím, nástrojům a zákrokům měli rovný přístup všichni lidé; žádá Komisi a členské státy, aby podporovaly vývoj asistenčních technologií s cílem napomoci vývoji těchto technologií a jejich přijetí osobami, které je potřebují, v souladu s článkem 4 Úmluvy OSN o právech osob se zdravotním postižením, jejíž smluvní stranou Unie je;

Vzdělání a zaměstnanost;

41.  upozorňuje na to, že podle prognózy Komise bude v Evropě v roce 2020 chybět až 825 000 odborníků na IKT a že 90 % pracovních míst bude vyžadovat alespoň základní digitální dovednosti; vítá, že Komise hodlá předložit plán možného použití a revize rámce digitálních schopností a deskriptorů digitálních schopností pro studenty všech úrovní, a vyzývá Komisi, aby poskytovala podporu rozvoji digitálních schopností ve všech věkových skupinách bez ohledu na pracovní status, což by mělo být prvním krokem k vyrovnání nedostatků a poptávky na trhu práce; zdůrazňuje, že růst v odvětví robotiky vyžaduje, aby členské státy vytvořily pružnější systémy odborné přípravy a vzdělávání s cílem zajistit, aby strategie pro rozvoj dovedností odpovídaly potřebám hospodářství využívajícího robotů;

42.  domnívá se, že digitálnímu odvětví,samotným ženám i evropské ekonomice by prospělo probudit ve více mladých ženách zájem o kariéru v počítačovém oboru a zaměstnávat v tomto odvětví více žen; vyzývá Komisi a členské státy, aby zahájily iniciativy na podporu žen v oboru IKT a na rozvoj jejich dovedností v této oblasti;

43.  vyzývá Komisi, aby začala důsledněji monitorovat a analyzovat střednědobé a dlouhodobé trendy zaměstnanosti a zaměřila se přitom zvláště na tvorbu, přemísťování a zánik pracovních míst v různých oblastech či oborech s cílem zjistit, ve kterých oblastech místa vznikají a ve kterých naopak zanikají v důsledku většího používání robotů;

44.  zdůrazňuje důležitost předvídání změn ve společnosti s ohledem na dopady, které by mohl mít rozvoj a používání robotů a umělé inteligence; žádá Komisi, aby analyzovala různé scénáře a jejich dopady na dlouhodobé fungování systémů sociálního zabezpečení členských států;

45.  poukazuje na význam flexibility dovedností a sociálních, kreativních a digitálních dovedností ve vzdělávání; je jisté, že kromě toho, že školy zprostředkovávají akademické znalosti, je třeba se celý život účastnit celoživotního učení;

46.  poukazuje na to, že robotika má velký potenciál pro zlepšování bezpečnosti na pracovišti díky tomu, že přenáší velké množství nebezpečných a rizikových úkonů z člověka na roboty, ale současně upozorňuje na jejich potenciál k vytváření nových rizik způsobené zvýšením míry interakcí mezi člověkem a roboty na pracovišti; poukazuje tudíž na to, že pokud má být zajištěno zdraví, bezpečnost a dodržování základních práv na pracovišti, je třeba na interakce mezi člověkem a robotem uplatňovat přísná pravidla orientovaná na budoucnost;

Dopad na životní prostředí

47.  poukazuje na to, že vývoj robotiky a umělé inteligence by měl probíhat tak, aby měl co nejmenší dopad na životní prostředí, čehož lze dosáhnout efektivním využíváním energie, energetickou účinností díky podpoře využívání energie z obnovitelných zdrojů a vzácných materiálů, vytvářením co nejmenšího množství odpadu, zejména elektrického a elektronického odpadu, a opravitelností; vyzývá proto Komisi, aby začlenila zásady oběhového hospodářství do veškerých politik Unie v oblasti robotiky; podotýká, že využívání robotiky bude mít pozitivní dopad na životní prostředí, především v oblasti zemědělství, dodávek potravin a dopravy, zejména díky snížení objemu strojních zařízení a omezeného využívání hnojiv, energie i vody, jakož i díky přesnému zemědělství a optimalizaci cest;

48.  zdůrazňuje, že kyberneticko-fyzikální systémy povedou k vytvoření systémů energetiky a infrastruktury, které jsou schopné kontrolovat tok elektřiny od výrobce ke spotřebiteli, a rovněž povedou ke vzniku „spotřebitelů-výrobců“, kteří energii vyrábějí i využívají, což přinese velké výhody pro životní prostředí;

Odpovědnost

49.  domnívá se, že občanskoprávní odpovědnost za škody způsobené roboty je otázkou velkého významu, kterou je třeba analyzovat a řešit na úrovni Unie, neboť pouze tak bude možné zajistit v celé Unii stejnou úroveň účinnosti, transparentnosti a jednoty při zajišťování právní jistoty v celé Evropské unii ve prospěch občanů, spotřebitelů i podniků;

50.  konstatuje, že rozvoj robotických technologií bude vyžadovat, abychom lépe porozuměli potřebnému společnému základu společné aktivity člověka a robotů, která by měla vycházet ze dvou základních vzájemně provázaných vztahů, konkrétně předvídatelnosti a ovladatelnosti; poukazuje na to, že tyto dva vzájemně provázané vztahy mají zásadní význam pro určení toho, jaké informace by měly být mezi člověkem a roboty sdíleny a jak se dobrat společného základu mezi člověkem a roboty, aby bylo možné zajistit hladký průběh společné činnosti člověka a robotů;

51.  žádá Komisi, aby na základě článku 114 Smlouvy o fungování EU předložila návrh legislativního nástroje řešícího právní otázky vývoje robotiky a umělé inteligence a jejich používání, jaké lze předvídat v následujících 10 až 15 letech, spolu s nelegislativními nástroji, jako například pokyny a etické kodexy zmiňované v doporučeních uvedených v příloze;

52.  domnívá se, že ať bude zvoleno jakékoli právní řešení problému občanskoprávní odpovědnosti za škody způsobené roboty v případech, které se netýkají škody na majetku, neměl by budoucí legislativní nástroj žádným způsobem omezovat druh nebo rozsah škody, jejíž nahrazení lze vymáhat, a neměl by ani omezovat formu náhrady, jež může být nabídnuta poškozené straně, pouze na základě toho, že škodu nezpůsobil člověk;

53.  domnívá se, že tento budoucí legislativní nástroj by měl vycházet z důkladné analýzy, kterou provede Komise s cílem stanovit, zda má být uplatňován přístup absolutní odpovědnosti, nebo přístup založený na řízení rizik;

54.  zároveň konstatuje, že absolutní odpovědnost vyžaduje pouze důkaz, že došlo ke vzniku škody a že existuje příčinná souvislost mezi škodlivým jednáním robota a škodou způsobenou poškozené straně;

55.  konstatuje, že přístup založený na řízení rizik se nezaměřuje na osobu, „která se dopustila nedbalosti“ a která nese osobní odpovědnost, nýbrž na osobu, která je za určitých okolností schopna minimalizovat rizika a řešit negativní dopady;

56.  domnívá se, že jakmile by byly zjištěny strany, které nesou konečnou odpovědnost, měla by být odpovědnost těchto stran úměrná skutečnému rozsahu příkazů daných robotovi a míře jeho autonomie, takže by platilo, že čím má robot větší schopnost učení nebo vyšší autonomii a čím delší je doba jeho učení, tím větší by měla být odpovědnost jeho „učitele“; upozorňuje zejména na to, že při určování osoby, která je odpovědná za škodlivé jednání robota, by neměly být dovednosti, které robot získá formou „výcviku“, zaměňovány s dovednostmi nabytými výhradně prostřednictvím jeho schopnosti samostatného učení; podotýká, že alespoň v nynější fázi by měl odpovědnost nést člověk, a nikoli robot;

57.  poukazuje na to, že složitou otázku určení odpovědnost za škodu způsobenou roboty s vyšší mírou autonomie by bylo možné vyřešit vytvořením povinného systému pojištění, jako je tomu již dnes v případě automobilů; konstatuje však, že na rozdíl od systému pojištění používaného v silničním provozu, kde se toto pojištění vztahuje na jednání a chyby lidského činitele, by pojištění v oblasti robotiky mělo zohledňovat veškerou potenciální odpovědnost v rámci celého řetězce;

58.  domnívá se, že jako je tomu v případě pojištění motorových vozidel, mohl by být tento systém pojištění doplněn fondem, který by zajistil, aby bylo možné kompenzovat škodu i v případech, kdy pojistné krytí neexistuje; vyzývá odvětví pojišťovnictví, aby vytvářelo nové produkty a typy nabídek, které by byly v souladu s pokrokem v robotice;

59.  vyzývá Komisi, aby se při posuzování dopadu svého budoucího legislativního nástroje věnovala ve svém zkoumání a ve svých analýzách a úvahách důsledkům všech možných právních řešení, jako například:

   a) vznik případného povinného systému pojištění pro jednotlivé kategorie robotů, v němž budou mít výrobci nebo vlastníci robotů povinnost uzavřít pojištění odpovědnosti za škodu způsobenou jejich roboty, podobně jako je tomu u pojištění automobilů,
   b) zajištění toho, aby kompenzační fond nesloužil pouze k poskytování kompenzací za škody způsobené robotem, na něž se nevztahuje pojistné krytí;
   c) umožnění toho, aby výrobce, programátor, vlastník nebo uživatel měli omezenou odpovědnost, pokud přispívají do kompenzačního fondu, jakož i pokud společně uzavřou pojištění, z něhož bude kompenzována škoda způsobená robotem;
   d) rozhodnutí, zda vytvořit všeobecný fond pro všechny inteligentní autonomní roboty nebo zvláštní fond pro každou jednotlivou kategorii robotů, a zda by byl příspěvek do fondu placen buď jednorázově při uvedení robota na trh, nebo pravidelně po celý životní cyklus robota;
   e) zajištění toho, aby byl viditelně patrný vztah mezi robotem a jeho fondem prostřednictvím individuálního registračního čísla vedeného ve zvláštním rejstříku Unie, které umožní komukoli, kdo přijde do kontaktu s robotem, zjistit, jakou povahu má příslušný fond, jak je omezena jeho odpovědnost za škody na majetku, jméno a funkce přispěvatele do fondu a další užitečné údaje;
   f) vytvoření zvláštního právního statutu robota v dlouhodobém výhledu, aby alespoň ti nejsložitější autonomní roboti mohli mít status elektronické osoby odpovědné za náhradu jimi způsobené škody, a možné použití elektronické osoby v případech, kdy roboti činí autonomní rozhodnutí nebo jsou jiným způsobem samostatně v kontaktu se třetími stranami;

Mezinárodní aspekty

60.  poukazuje na to, že vývoj autonomních vozidel zatím naléhavě nevyžaduje podstatnou změnu stávajících obecných pravidel mezinárodního práva soukromého o dopravních nehodách platných v Unii, nicméně zjedodušení současného duálního systému pro určování rozhodného práva (vycházejícího z nařízení Evropského parlamentu a Rady (ES) č. 864/2007(7) a Haagské úmluvy o právu použitelném pro dopravní nehodyze dne 4. května 1971) by zvýšilo právní jistotu a omezilo možnosti spekulativního výběru nejpříznivější jurisdikce;

61.  poukazuje na to, že je třeba uvažovat o změnách mezinárodních dohod, jako jsou Vídeňská úmluva o silničním provozu ze dne 8. listopadu 1968 a Haagská úmluva o právu použitelném pro dopravní nehody;

62.  očekává, že Komise zajistí, aby členské státy jednotným způsobem prováděly mezinárodní právo, jako napříkla Vídeňskou úmluva o silničním provozu, kterou je třeba pozměnit, s cílem učinit vozidla bez řidiče možnými, a vyzývá Komisi, členské státy a průmysl, aby co nejdříve realizovaly cíle Amsterodamského prohlášení;

63.  důrazně vybízí k mezinárodní spolupráci při zkoumání společenských, etických a právních otázek a následně i při vytváření regulačních standardů pod záštitou OSN;

64.  poukazuje na to, že omezení a podmínky stanovené v nařízení Evropského parlamentu a Rady (ES) č. 428/2009 o obchodu se zbožím dvojího užití(8) - zbožím, softwarem a technologiemi, které lze použít pro civilní i vojenské účely nebo které mohou přispívat k šíření zbraní hromadného ničení - by se měly vztahovat i na robotické aplikace;

Závěr

65.  žádá v souladu s článkem 225 Smlouvy o fungování EU Komisi, aby na základě článku 114 Smlouvy o fungování EU předložila návrh směrnice o občanskoprávních pravidlech pro robotiku a řídila se přitom doporučeními uvedenými v příloze k tomuto usnesení;

66.  potvrzuje, že doporučení ctí základní práva a zásadu subsidiarity;

67.  domnívá se, že požadovaný návrh bude mít finanční dopady, bude-li zřízena nová evropská agentura;

o
o   o

68.  pověřuje svého předsedu, aby předal toto usnesení a připojená doporučení Komisi a Radě.

(1) Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky (Úř. věst. L 210, 7.8.1985, s. 29).
(2) Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).
(3) (1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo. (2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem. (3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním nebo druhým zákonem (viz Hra na honěnou, I. Asimov, 1943, česky 1981). (0) Robot nesmí ublížit lidstvu nebo svou nečinností dopustit, aby mu bylo ublíženo.
(4) Schumanova deklarace z roku 1950: „Evropa se nevytvoří najednou, nebo podle jednoho plánu. Uskuteční se naplňováním konkrétních cílů, vytvářejíc nejprve skutečnou solidaritu.“
(5) Přijaté texty, P8_TA(2015)0390.
(6) Nařízení Evropského parlamentu a Rady (ES) č. 216/2008 ze dne 20. února 2008 o společných pravidlech v oblasti civilního letectví a o zřízení Evropské agentury pro bezpečnost letectví, kterým se ruší směrnice Rady 91/670/EHS, nařízení (ES) č. 1592/2002 a směrnice 2004/36/ES (Úř. věst. L 79, 19.3.2008, s. 1).
(7) Nařízení Evropského parlamentu a Rady (ES) č. 864/2007 ze dne 11. července 2007 o právu rozhodném pro mimosmluvní závazkové vztahy (Řím II) (Úř. věst. L 199, 31.7.2007, s. 40).
(8) Nařízení Rady (ES) č. 428/2009 ze dne 5. května 2009, kterým se zavádí režim Společenství pro kontrolu vývozu, přepravy, zprostředkování a tranzitu zboží dvojího užití (Úř. věst. L 134, 29.5.2009, s. 1).


PŘÍLOHA K USNESENÍ:

DOPORUČENÍ K OBSAHU POŽADOVANÉHO NÁVRHU

Definice a klasifikace „inteligentních robotů“

Měla by být zavedena společná evropská definice inteligentních autonomních robotů, která by případně zahrnovala definice příslušných podkategorií a zohledňovala by tyto jejich vlastnosti:

–  schopnost nabýt autonomie díky senzorům nebo výměně dat s okolním prostředím (propojenost) a analýza těchto dat;

–  schopnost učit se prostřednictvím zkušenosti a interakce;

–  podoba fyzické struktury robota;

–  schopnost přizpůsobit své jednání a svou činnost okolnímu prostředí.

Registrace „inteligentních robotů“

Pro účely dohledatelnosti a s cílem usnadnit provádění dalších doporučení by měl být zaveden systém registrace pokročilých robotů založený na kritériích pro klasifikaci robotů. Systém registrace a rejstřík by měly být celounijní a pokrývat celý vnitřní trh, a mohla by je spravovat zvláštní agentura EU pro robotiku a umělou inteligenci, bude-li taková agentura vytvořena.

Občanskoprávní odpovědnost

Zvolené právní řešení problému odpovědnosti robotů a umělé inteligence v případech, které se netýkají škody na majetku, by nemělo žádným způsobem omezit druh nebo rozsah náhrady škody, kterou lze vymáhat, a nemělo by ani omezit podobu náhrady, jež může být nabídnuta poškozené straně, pouze na základě toho, že škodu nezpůsobil člověk.

Budoucí legislativní nástroj by měl vycházet z důkladného posouzení provedeného Komisí, vymezujícího to, zda má být uplatňován přístup absolutní odpovědnosti nebo přístup založený na řízení rizik.

Měl by být zaveden systém povinného pojištění, který by mohl být založen na povinnosti výrobce pojistit autonomní roboty, které vyrábí.

Systém pojištění by měl být doplněn fondem s cílem zajistit, aby bylo možné kompenzovat škodu v případech, ve kterých pojištění škodu nepokrývá.

Jakékoliv rozhodnutí o politice týkající se pravidel občanskoprávní odpovědnosti robotů a umělé inteligence by mělo být v každém případě přijato po řádné konzultaci s celoevropským projektem výzkumu a vývoje robotiky a neurovědy za účasti vědců a odborníků schopných posoudit veškerá související rizika a důsledky;

Interoperabilita, přístup ke zdrojovému kódu a práva duševního vlastnictví

Měla by být zajištěna interoperabilita autonomních robotů, kteří jsou vzájemně síťově propojeni a jsou spolu v kontaktu. V případě potřeby by měl být poskytnut přístup ke zdrojovému kódu a ke vstupním datům a konstrukčním údajům, aby bylo možné vyšetřovat nehody a škody způsobené inteligentními roboty, jakož i zajistit jejich další provoz, dostupnost, spolehlivost a bezpečnost.

Charta robotiky

Při navrhování právních aktů v oblasti robotiky by Komise měla zohlednit zásady zakotvené v této Chartě robotiky.

CHARTA ROBOTIKY

Navrhovaný kodex etického jednání v oblasti robotiky stanoví základ pro určení a dodržování základních etických principů a pro dohled nad nimi, počínaje fází návrhu a rozvoje,.

Rámec vytvořený po konzultaci s celoevropským projektem výzkumu a vývoje robotiky a neurovědy musí být reflexivní povahy, aby umožňoval individuální přizpůsobení v daném konkrétním případě s cílem vyhodnotit, zda je určité jednání v dané situaci správné či nesprávné, a učinit rozhodnutí odpovídající předem stanovené hierarchii hodnot.

Tento kodex by neměl nahradit potřebu řešit veškeré zásadní právní problémy v této oblasti, nýbrž by měl mít doplňující úlohu. Kodex spíše napomůže etické kategorizaci robotiky, zvýší zodpovědné úsilí o inovace v této oblasti a odpovědět na otázky, které si klade veřejnost.

Je třeba obzvláště zdůraznit výzkumné a vývojové fáze příslušné technologické trajektorie (navrhování, etický přezkum, auditní kontrola atd.). Kodex by měl usilovat o to, aby práce výzkumných pracovníků, provozovatelů, uživatelů a konstruktérů byla v souladu s etickými standardy, ale rovněž by měl stanovit postup pro hledání způsobu, jak vyřešit příslušná etická dilemata a umožnit těmto systémům fungovat eticky odpovědným způsobem.

KODEX ETICKÉHO CHOVÁNÍ INŽENÝRŮ ROBOTIKY

PREAMBULE

Tento kodex chování vybízí všechny výzkumné pracovníky a projektanty, aby jednali zodpovědně a aby za všech okolností přihlíželi k tomu, že je třeba ctít lidskou důstojnost, soukromí a bezpečnost.

Kodex požaduje úzkou spolupráci napříč všemi obory s cílem zajistit, aby byl výzkum v oblasti robotiky v Evropské unii prováděn bezpečným, etickým a účinným způsobem.

Kodex chování se vztahuje na všechny aktivity výzkumu a vývoje v oblasti robotiky.

Kodex chování je dobrovolný a nabízí soubor obecných zásad a pokynů pro kroky, které mají činit všechny zainteresované strany.

Orgány financující výzkum v oblasti robotiky, výzkumné organizace, výzkumní pracovníci a etické komise se vybízejí, aby již od počátečních fází zvažovali budoucí dopady technologií či výrobků, kterých se výzkum týká, a aby rozvíjeli kulturu odpovědnosti vůči výzvám a příležitostem, které se mohou objevit v budoucnu.

Veřejné i soukromé subjekty financující výzkum v oblasti robotiky by měly požadovat, aby s každým podaným návrhem na financování výzkumu v této oblasti bylo vypracováno a předloženo posouzení rizik. Tento kodex by měl za odpovědné osoby považovat lidské bytosti a nikoli roboty.

Výzkumní pracovníci v oblasti robotiky by se měli zavázat, že budou dodržovat nejpřísnější standardy etického a profesního jednání a uplatňovat následující zásady:

Prospěšnost - roboti by měli jednat v nejlepším zájmu lidí.

Neškodlivost - doktrína „především nepáchat škodu“, podle níž by roboti neměli způsobovat újmu lidem.

Autonomie - schopnost přijímat informovaná a nevynucená rozhodnutí ohledně pravidel interakce s roboty.

Spravedlivost - spravedlivá distribuce přínosů spojených s robotikou a cenová dostupnost, především u robotů specializovaných na domácí a zdravotní péči.

Základní práva

Výzkum v oblasti robotiky by měl ctít základní práva a při navrhování, provádění, šíření a využívání by měl být prováděn v zájmu dobrých životních podmínek a sebeurčení jednotlivců i celé společnosti. Lidská důstojnost a autonomie - po fyzické i duševní stránce - má být vždy respektována.

Opatrnost

Výzkumné činnosti v oblasti robotiky by měly být prováděny v souladu se zásadou předběžné opatrnosti, měly by předvídat potenciální bezpečnostní dopady svých výsledků a měly by přijímat vhodná preventivní opatření úměrná potřebné úrovni ochrany, přičemž by zároveň měly podporovat pokrok ve prospěch společnosti i životního prostředí.

Inkluzivita

Inženýři v robotice zaručí transparentnost a dodržování legitimního práva na přístup k informacím ze strany všech zainteresovaných stran. Inkluzivita umožňuje, aby se všechny zatinteresované strany, které jsou zapojeny do výzkumných činností v robotice nebo se jich tyto činnosti týkají, podílely na rozhodovacích procesech.

Odpovědnost

Inženýři v robotice by měli i nadále zodpovídat za sociální a environmentální dopday a na dopady na lidské zdraví, jež může robotika přinést dnešním i budoucím generacím.

Bezpečnost

Konstruktéři robotů by měli zohledňovat a respektovat dobré fyzické životní podmínky, bezpečnost, zdraví a práva lidí. Inženýr v robotice musí chránit dobré životní podmínky lidí a současně též dodržovat lidská práva a neprodleně oznámit faktory, které by mohly ohrozit veřejnost či životní prostředí.

Reverzibilita

Reverzibilita, která je základním předpokladem pro kontrolu, je klíčovým konceptem při programování robotů, mají-li jednat bezpečně a spolehlivě. Model reverzibility robotovi sděluje, které činnosti jsou reverzibilní a jak je vrátit, pokud je to možné. Schopnost anulovat poslední krok nebo sekvenci kroků umožňuje uživatelům zrušit nežádoucí činnosti a vrátit se zpět do žádoucí fáze jejich práce.

Soukromí

Právo na soukromí musí být vždy dodržováno. Inženýr v robotice by měl zajistit, aby byly soukromé informace zabezpečeny a využívány výlučně řádným způsobem. Inženýr v robotice by měl mimoto zaručit, aby nebyli jednotlivci osobně identifikovatelní, kromě výjimečných situací, a i v těchto situacích jedině s jejich jednoznačným a nesporným informovaným souhlasem. Před jakoukoli interakcí mezi člověkem a strojem by měl být požadován a získán informovaný souhlas člověka. Konstruktéři v robotice jako takoví zodpovídají za vývoj a dodržování postupů pro platný souhlas, důvěrnost, anonymitu, spravedlivé zacházení a náležitý postup. Konstruktéři vyhoví veškerým žádostem o to, aby byly příslušné údaje smazány a odstraněny ze všech souborů dat.

Maximalizace přínosů a minimalizace škod

Výzkumní pracovníci by měli usilovat o maximalizaci přínosů své práce ve všech fázích, od nápadu až po šíření výsledku. Nesmí dojít k tomu, aby byla kterémukoli účastníkovi výzkumu, lidskému subjektu či účastníkovi experimentu, testu nebo studie způsobena újma. V případech, kdy jsou určitá rizika nevyhnutelnou a nedílnou součástí výzkumu, by měly být vypracovány a následně i dodržovány přísné protokoly pro vyhodnocování rizik a jejich řízení. Riziko újmy by v normálním případě nemělo převyšovat riziko, s nímž se setkáváme v běžném životě, což znamená, že by lidé neměli být vystaveni větším rizikům, než jakým jsou vystaveni v rámci svého běžného životního stylu, ani žádným dalším rizikům. Fungování robotického systému by se mělo vždy zakládat na podrobném postupu vyhodnocování rizik, který by se měl řídit zásadami předběžné opatrnosti a proporcionality.

KODEX PRO KOMISE PRO ETIKU VÝZKUMU

Zásady

Nezávislost

Postup posuzování etické správnosti by měl být nezávislý na samotném výzkumu. Tato zásada vychází z nutnosti vyhnout se střetům zájmů mezi výzkumnými pracovníky a osobami, které posuzují etický protokol, a mezi těmito osobami a vedením organizací.

Způsobilost

Posuzování etické správnost by měly provádět osoby s přiměřenou odbornou způsobilostí s přihlédnutím k tomuz, že členové komise by měli pokrývat dostatečně širokou škálu a měli by být řádně proškoleni v etických otázkách.

Transparentnost a odpovědnost

Monitorovací proces by měl probíhat odpovědným způsobem a podléhat kontrole. Komise pro etiku výzkumu musejí řádně vykonávat své úkoly a musejí se nacházet na vhodném místě v rámci organizační struktury, aby byla jejich činnost a postupy pro dodržování a přezkum standardů transparentní.

Úloha komisí pro etiku výzkumu

Komise pro etiku výzkumu obvykle zodpovídá za přezkum veškerého výzkumu zahrnujícího lidské účastníky a vedeného jednotlivci zaměstnanými v rámci dotčené instituce nebo touto institucí; zajišťuje, aby byl etický přezkum nezávislý, kompetentní a proběhl včas; chrání lidskou důstojnost, práva a dobré životní podmínky účastníků výzkumu; dbá na bezpečnost výzkumných pracovníků; chrání legitimní zájmy dalších zainteresovaných stran; vypracovává informovanározhodnutí o tom, zda jsou předložené návrhy dostatečně vědecky podložené; a adresuje výzkumným pracovníkům informovaná doporučení, dospěje-li k závěru, že daný návrh má v některém ohledu nedostatky.

Složení komisí pro etiku výzkumu

Komise pro etiku výzkumu by měla být obvykle multidisciplinární, měla by být složena z mužů i žen, její členové by měli mít rozsáhlé zkušenosti a odborné znalosti v oblasti výzkumu robotiky. Mechanismus jmenování by měl zajistit, aby složení komise odráželo vhodnou rovnováhu mezi vědeckými znalostmi, filozofickým, právním či etickým zázemím a laickými postoji a aby komise zahrnovala přinejmenším jednoho člena se specializovanými znalostmi etiky, uživatele specializovaných zdravotnických, vzdělávacích nebo sociálních služeb v případech, kdy se na tyto služby zaměřuje daný výzkum, a jednotlivce se specifickými metodologickými znalostmi relevantními pro výzkum, který je předmětem přezkumu; složení komise musí rovněž bránit střetům zájmů.

Monitorování

Všechny výzkumné organizace by měly zavést vhodné postupy monitorování způsobu, jímž je veden výzkum, schválený etickou komisí až do jeho dokončení, a zajistit setrvalý dohled v případech, kdy plán daného výzkumu předvídá do budoucna možné změny, jimiž bude možná třeba se zabývat. Monitorování by mělo odpovídat povaze a míře rizika spojeného s daným výzkumem. Pokud se komise domnívá, že monitorovací zpráva identifikovala významné problémy týkající se etického aspektu provádění dané studie, měla by si vyžádat plnohodnotný a podrobný souhrn výzkumu pro účely plného etického přezkumu. Domnívá-li se, že je určitá studie vedena neetickým způsobem, měla by komise zvážit odnětí souhlasu a požadovat, aby byl tento výzkum dočasně nebo úplně zastaven.

LICENCE KONSTRUKTÉRŮ

–  Měli byste zohledňovat evropské hodnoty důstojnosti, autonomie a sebeurčení, svobody a spravedlnosti, a to v průběhu postupu navrhování, vývoje a dodávání takových technologií i po jeho skončení, včetně nutnosti nepoškodit, nezranit, neklamat a nevykořisťovat (zranitelné) uživatele.

–  Měli byste ve všech aspektech fungování daného robota uplatnit důvěryhodné systémové konstrukční principy, a to pro jeho hardware i software, a pro veškeré zpracovávání údajů v rámci i mimo platformy pro bezpečnostní účely.

–  Měli byste uplatňovat ochranu soukromí již od návrhu, a tím zajistit, že budou soukromé informace zabezpečeny a využívány výlučně řádným způsobem.

–  Měli byste používat jednoznačné mechanismy umožňující vypnutí, které by měly být v souladu s přiměřenými konstrukčními cíli.

–  Měli byste zajistit, aby robot fungoval způsobem, který je v souladu s místními, vnitrostátními a mezinárodními etickými a právními zásadami.

–  Měli byste zajistit, aby rozhodovací kroky robota umožňovaly rekonstrukci a sledovatelnost.

–  Měli byste zajistit, aby byla u programování robotických systémů požadována maximální transparentnost, jakož i předvídatelnost jednání robota.

–  Měli byste analyzovat předvídatelnost systému interakce člověka a robota, přičemž zohledníte nejistotu výkladu a činnosti a možná selhání na straně robota či člověka.

–  Měli byste vypracovat nástroje na sledování, a to již ve fázi návrhu. Tyto nástroje usnadní sledování a vysvětlování robotova jednání, byť jen do určité míry, na různých úrovních odborníkům, provozovatelům a uživatelům.

–  Měli byste vypracovat konstrukční a hodnotící protokoly a při vyhodnocování přínosů a rizik robotiky, včetně kognitivních, psychologických a environmentálních,se spojit s potenciálními uživateli a zainteresovanými stranami.

–  Měli byste zajistit, aby byli roboti při interakci s člověkem rozpoznatelní jakožto roboti.

–  Měli byste chránit bezpečnost a zdraví osob, které jsou v kontaktu s roboty a dostávají se do styku s robotikou, vzhledem k tomu, že roboti jakožto výrobky by měli být konstruováni za využití postupů, které zajistí jejich bezpečnost a ochranu. Inženýr v robotice musí chránit životní podmínky osob a současně dodržovat lidská práva a nesmí uvést do provozu robota, aniž by předtím zajistil bezpečnost, účinnost a reverzibilitu fungování systému.

–  Než začnete testovat robota v reálném prostředí nebo zapojíte lidské účastníky do postupů jeho navrhování a rozvoje, měli byste získat kladné stanovisko komise pro etiku výzkumu.

LICENCE UŽIVATELŮ

–  Máte právo využívat roboty, aniž byste riskovali fyzickou či psychickou újmu, nebo z ní museli mít strach.

–  Měli byste mít právo očekávat, že robot bude vykonávat úkoly, pro něž byl výslovně konstruován.

–  Měli byste si být vědomi toho, že robot může mít omezené vnímání, chápání a reakce.

–  Měli byste respektovat lidskou zranitelnost, a to fyzickou i psychickou, a emoční potřeby lidských bytostí.

–  Měli byste zohlednit lidské právo na ochranu soukromí, a to včetně deaktivace videomonitorů v průběhu intimních vztahů.

–  Nemáte právo shromažďovat, využívat ani zveřejňovat osobní informace bez výslovného souhlasu subjektu údajů.

–  Nemáte právo využívat robota jakýmkoliv způsobem, který by byl v rozporu s etickými nebo právními zásadami a standardy.

–  Nemáte právo pozměnit robota tak, aby mohl fungovat jako zbraň.

Právní upozornění