Postup : 2015/2103(INL)
Průběh na zasedání
Stadia projednávání dokumentu : A8-0005/2017

Předložené texty :

A8-0005/2017

Rozpravy :

PV 15/02/2017 - 14
CRE 15/02/2017 - 14

Hlasování :

PV 16/02/2017 - 6.9
Vysvětlení hlasování

Přijaté texty :

P8_TA(2017)0051

ZPRÁVA     
PDF 782kWORD 124k
27.1.2017
PE 582.443v03-00 A8-0005/2017

obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku

(2015/2013(INL))

Výbor pro právní záležitosti

Zpravodajka: Mady Delvaux

(Podnět – článek 46 jednacího řádu)

Navrhovatelé stanovisek (*):

Georg Mayer, Výbor pro dopravu a cestovní ruch

Michał Boni, Výbor pro občanské svobody, spravedlnost a vnitřní věci

(*)  Postup s přidruženými výbory – článek 54 jednacího řádu

PR_INL

NÁVRH USNESENÍ EVROPSKÉHO PARLAMENTU
 PŘÍLOHA K NÁVRHU USNESENÍ:PODROBNÁ DOPORUČENÍ K OBSAHU POŽADOVANÉHO NÁVRHU
 VYSVĚTLUJÍCÍ PROHLÁŠENÍ
 STANOVISKO Výboru pro dopravu a cestovní ruch
 STANOVISKO Výboru pro občanské svobody, spravedlnost a vnitřní věci
 STANOVISKO Výboru pro zaměstnanost a sociální věci
 STANOVISKO Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin
 STANOVISKO Výboru pro průmysl, výzkum a energetiku
 STANOVISKO Výboru pro vnitřní trh a ochranu spotřebitelů
 VÝSLEDEK KONEČNÉHO HLASOVÁNÍ VE VÝBORU POŽÁDANÉM O STANOVISKO

NÁVRH USNESENÍ EVROPSKÉHO PARLAMENTU

obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku

(2015/2103(INL))

Evropský parlament,

–  s ohledem na článek 225 Smlouvy o fungování Evropské unie,

–  s ohledem na směrnici o odpovědnosti za vadné výrobky 85/374/EHS,

–  s ohledem na články 46 a 52 jednacího řádu,

–  s ohledem na zprávu Výboru pro právní záležitosti a stanoviska Výboru pro dopravu a cestovní ruch, Výboru pro občanské svobody, spravedlnost a vnitřní věci, Výboru pro zaměstnanost a sociální věci, Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin, Výboru pro průmysl, výzkum a energetiku a Výboru pro vnitřní trh a ochranu spotřebitelů (A8-0005/2017),

Úvod

A.   vzhledem k tomu, že od Frankensteinova monstra Mary Shelleyové po klasický mýtus o Pygmalionovi, přes příběh o pražském Golemovi až po roboty Karla Čapka, který poprvé použil samotné slovo „robot“, lidé snili o stvoření myslících strojů, které měly většinou podobu androidů s lidskými rysy;

B.   vzhledem k tomu, že lidstvo nyní stojí na prahu věku, kdy se zdá, že stále složitější „roboti“, „boti“, „androidi“ a jiné projevy umělé inteligence zažehnou novou průmyslovou revoluci, kterou pravděpodobně pocítí všechny vrstvy společnosti, a proto je nesmírně důležité, aby zákonodárný orgán zvážil její právní a etické důsledky, aniž by však omezoval inovace;

C.  vzhledem k tomu, že je třeba stanovit obecně přijatelnou definici robota a umělé inteligence, která bude pružná a nebude bránit inovacím;

D.   vzhledem k tomu, že zatímco mezi roky 2010 až 2014 stoupal prodej robotů každý rok průměrně o 17 %, v roce 2014 prodej vzrostl o 29 %, což je historicky nejvyšší meziroční nárůst; tento skok byl způsoben zejména poptávkou výrobců automobilových dílů a elektrických resp. elektronických zařízení; vzhledem k tomu, že za poslední desetiletí se ztrojnásobil počet žádostí o patentovou ochranu robotických technologií;

E.   vzhledem k tomu, že zaměstnanost se za posledních 200 let díky technologickému rozvoji setrvale zvyšovala; vzhledem k tomu, že robotika a umělá inteligence mohou potenciálně proměnit životy a pracovní návyky, zvýšit efektivitu a úspory posílit bezpečnost a poskytovat kvalitnější služby a že v krátkodobém až střednědobém horizontu nese robotika a umělá inteligence příslib zvyšování efektivity a úspor, a to nejen v průmyslové výrobě a obchodu, ale také v dopravě, zdravotní péči, záchranných službách, vzdělávání, zemědělství a dalších oblastech, a současně umožní, aby lidé nemuseli být vystaveni nebezpečným podmínkám, například při sanaci zamořených oblastí;

F.  vzhledem k tomu, že stárnutí populace je výsledkem prodlužování života, jehož bylo dosaženo díky zlepšení životních podmínek a pokroku v moderní medicíně, a je jednou z největších politických, sociálních a hospodářských výzev, před nimiž stojí evropské společnosti ve 21. století; vzhledem k tomu, že do roku 2025 bude více než 20 % Evropanů věku 65 a více let, přičemž obzvlášť rychle poroste počet osob starších 80 let, což způsobí v naší společnosti podstatně jiný poměr mezi generacemi, a vzhledem k tomu, že je v zájmu společnosti, aby starší lidé zůstali co nejdéle zdraví a aktivní;

G.  vzhledem k tomu, že v dlouhodobém výhledu míří současné trendy k vývoji inteligentních a autonomních strojů, které budou schopny zlepšovat se na základě výcviku a nezávisle se rozhodovat, což s sebou nese nejen hospodářské výhody, ale také celou řadu obav týkajících se přímých i nepřímých důsledků pro společnost jako celek;

H.  vzhledem k tomu, že strojové učení může mít dalekosáhlé hospodářské a inovativní přínosy pro společnost, protože prudce zvýší schopnost analyzovat údaje, zároveň však vyvolává otázky týkající se zajištění nediskriminace, dodržování řádných postupů, transparentnosti a srozumitelnosti rozhodovacích procesů;

I.  vzhledem k tomu, že podobně musejí být provedena posouzení hospodářských změn a dopadů na zaměstnanost, které s sebou robotika a strojové učení přinesou; vzhledem k tomu, že i přes nepopiratelné výhody, které robotika nabízí, může její zavádění vést k přeměně pracovního trhu a k potřebě náležitě reagovat na budoucí vývoj v oblasti vzdělávání, zaměstnanosti a sociálních politik;

J.  vzhledem k tomu, že široké využívání robotů sice nemusí automaticky vést k úbytku pracovních míst, je nicméně pravděpodobné, že pracovních míst vyžadujících nižší kvalifikaci v odvětvích, která jsou náročná na pracovní sílu, se automatizace dotkne citelněji; vzhledem k tomu, že tento trend by mohl vrátit výrobní procesy zpět do EU; vzhledem k tomu, že výzkum prokázal, že zaměstnanost roste výrazně rychleji v oborech, kde se ve větší míře používá počítačů; vzhledem k tomu, že automatizace práce může osvobodit lidi od jednotvárné ruční práce a umožnit jim přesměrovat své síly na tvořivější a smysluplnější úkoly; vzhledem k tomu, že automatizace vyžaduje, aby vlády investovaly do vzdělávání a dalších reforem, které umožní lepší rozložení ve prospěch těch typů dovedností, které budou pracovníci do budoucna potřebovat;

K.  vzhledem k tomu, že rozvoj robotiky a umělé inteligence může současně vést k tomu, že práci, kterou dnes vykonávají lidé, převezmou do značné míry roboti, aniž by došlo k úplné náhradě ztracených pracovních míst, takže vznikají obavy o budoucnost zaměstnanosti a udržitelnost sociálních služeb a systémů sociálního zabezpečení a z dalšího relativního snižování objemu vybraných příspěvků na důchod, pokud bude zachován současný daňový základ, čímž vzniká potenciál pro zvyšování nerovnosti v distribuci bohatství a vlivu, přičemž v zájmu zachování sociální soudržnosti a prosperity je třeba uvážit, nakolik je pravděpodobné, že by v souvislosti s financováním podpory a rekvalifikace nezaměstnaných pracovníků, jejichž pracovní místa byla početně omezena nebo zcela zrušena, bylo možné zdanit práci vykonávanou robotem nebo vybírat poplatek za jeho používání či držení;

L.  vzhledem k tomu, že na prohlubujícím se rozdílu ve společnosti, v níž se zmenšuje střední třída, nás nutí k tomu, abychom si uvědomili, že rozvoj robotiky může vést k vyšší koncentraci bohatství a vlivu v rukou menšiny;

M.  vzhledem k tomu, že rozvoj robotiky a umělé inteligence rozhodně ovlivní podobu světa práce, takže mohou vzniknout nové obavy týkající se odpovědnosti, zatímco k určitým dalším obavám již nebude důvod; vzhledem k tomu, že pro případ, že by vznikla nebezpečná situace nebo nastaly problémy, musí být vyjasněna právní odpovědnost z hlediska obchodního modelu i z hlediska modelů zaměstnanosti;‎‎

N.  vzhledem k tomu, že trend směřující k automatizaci s sebou nese požadavek, aby ti, kteří se podílejí na vývoji aplikací umělé inteligence a jejich uvádění na trh, měli již od fáze návrhu na zřeteli bezpečnost a etiku, a byli si tak vědomi toho, že musejí být připraveni přijmout právní odpovědnost za kvalitu technologie, kterou vytvářejí;

O.   vzhledem k tomu, že nařízení Evropského parlamentu a Rady (EU) 2016/679(1) (obecné nařízení o ochraně osobních údajů) stanoví právní rámec ochrany osobních údajů; vzhledem k tomu, že bude pravděpodobně potřeba se zabývat dalšími aspekty přístupu k údajům a ochrany osobních údajů a soukromí, protože aplikace a přístroje schopné komunikovat mezi sebou navzájem a s různými databázemi, aniž by do této komunikace vstupovali lidé, mohou být stále zdrojem obav týkajících se ochrany soukromí;

P.   vzhledem k tomu, že rozvoj robotiky a umělé inteligence může a měl by být koncipován takovým způsobem, aby robotika i umělá inteligence zachovávaly důstojnost, autonomii a sebeurčení jednotlivce, zvláště pak při vykonávání práce pečovatelů a společníků a v souvislosti s používáním lékařských zařízení a „opravami“ nebo vylepšováním lidského těla;

Q.   vzhledem k tomu, že existuje možnost, že by v dlouhodobém horizontu umělá inteligence mohla překonat lidské duševní schopnosti;

R.  vzhledem k tomu, že další rozvoj a širší využívání automatizovaných a algoritmických rozhodovacích procesů má nezpochybnitelný dopad na to, k čemu se nakonec přikloní soukromé osoby (například podniky či uživatelé internetu) a správní, soudní či jiné veřejné orgány v rámci svého rozhodování v záležitostech spotřebitelského, obchodního či úředního rázu; vzhledem k tomu, že nedílnou součástí procesu automatizovaného a algoritmického rozhodování musí být určité ochranné prvky a možnost lidské kontroly a lidského ověřování;

S.  vzhledem k tomu, že několik zahraničních jurisdikcí, například USA, Japonsko, Čína a Jižní Korea, uvažuje o vytvoření právní úpravy v oblasti robotiky a umělé inteligence a učinilo již určité kroky tímto směrem, a vzhledem k tomu, že některé členské státy rovněž začaly uvažovat o možnosti vypracovat právní normy nebo provést legislativní změny, které by zohlednily nové způsoby uplatnění těchto technologií;

T.   vzhledem k tomu, že evropskému průmyslu by mohl prospět účinný, konzistentní a transparentní regulační přístup na úrovni EU, který by vytvářel předvídatelné a dostatečně jasné podmínky, za nichž by podniky mohly vyvíjet aplikace a plánovat své obchodní modely na evropské úrovni, a současně by zajistil, že si Unie a její členské státy zachovají kontrolu nad novými regulačními standardy, a nebudou tedy nuceny přijímat a uplatňovat standardy stanovené někým jiným, totiž třetími státy, které rovněž stojí v čele vývoje robotiky a umělé inteligence;

Obecné zásady

U.   vzhledem k tomu, že Asimovovy zákony(2) je třeba chápat tak, že jsou určeny konstruktérům, výrobcům a provozovatelům robotů, neboť tyto zákony nelze převést do strojového kódu;

V.  vzhledem k tomu, že je nezbytné stanovit soubor pravidel, která budou upravovat zejména otázky odpovědnosti a transparentnosti a budou v souladu s bytostně evropskými a univerzálními humanistickými hodnotami, jimiž se vyznačuje příspěvek Evropy ke společnosti; vzhledem k tomu, že tato pravidla nesmí nepříznivě ovlivňovat proces výzkumu, inovací a rozvoje v oblasti robotiky;

W.   vzhledem k tomu, že Unie by mohla sehrát zásadní úlohu při vytváření základních etických zásad, jimiž by se měl řídit vývoj, programování a používání robotů a umělé inteligence, a při začleňování těchto zásad do evropských právních předpisů a kodexů chování s cílem utvářet technickou revoluci tak, aby sloužila lidstvu, aby užitek z pokročilých robotických systémů a umělé inteligence byl co nejšířeji sdílen a aby se v nejvyšší možné míře zamezilo potenciálním rizikům;

X.   vzhledem k tomu, že k budoucím iniciativám v oblasti robotiky a umělé inteligence by měla Evropa zaujmout postupný, pragmatický a obezřetný přístup v duchu Jeana Monneta(3), aby nebyly zadušeny inovace;

Y.   vzhledem k tomu, že s ohledem na současný stupeň rozvoje robotiky a umělé inteligence je vhodné začít s otázkami občanskoprávní odpovědnosti;

Odpovědnost

Z.  vzhledem k tomu, že díky pozoruhodnému technickému pokroku, k němuž došlo v posledním desetiletí, dokáží dnešní roboti nejen vykonávat činnosti, které bývaly výlučnou doménou člověka, nýbrž získávají také určité autonomní a kognitivní schopnosti – např. schopnost učit se na základě zkušeností a činit kvazi samostatná rozhodnutí – takže se stále více podobají subjektům, které interagují se svým okolím a jsou je schopny výrazně ovlivňovat; vzhledem k tomu, že v této souvislosti se může jednou ze stěžejních otázek stát problém právní odpovědnosti v případě, že robot svou činností způsobí újmu;

AA.   vzhledem k tomu, že autonomii robota lze definovat jako schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku; vzhledem k tomu, že tato autonomie je čistě technické povahy a její stupeň závisí na tom, jak byl robot konstruován, pokud jde o komplexitu jeho interakce s prostředím;

AB.   vzhledem k tomu, že čím je robot autonomnější, tím méně jej lze považovat za pouhý nástroj v rukou jiných subjektů (výrobců, provozovatelů, vlastníků, uživatelů atd.); s tím je ovšem spojena otázka, zda jsou dostačující obvyklá pravidla pro odpovědnost, nebo zda je zapotřebí stanovit nové zásady a pravidla, které vyjasní právní odpovědnost různých subjektů, pokud jde o jejich odpovědnost za jednání a opomenutí ze strany robotů, jejichž příčinu nelze vysledovat zpět k určitému lidskému činiteli, a zda takovému jednání či opomenutí ze strany robotů, jímž byla způsobena určitá újma, bylo možné zamezit;

AC.   vzhledem k tomu, že autonomie robotů nás v konečném důsledku staví před otázku jejich povahy s ohledem na stávající právní kategorie, tj. zda by měla být vytvořena nová kategorie s vlastními specifickými rysy a důsledky;

AD.   vzhledem k tomu, že současný právní rámec neumožňuje, aby robot nesl sám o sobě odpovědnost za jednání nebo opomenutí, jimiž způsobí škodu třetí straně; vzhledem k tomu, že platná pravidla pro odpovědnost se vztahují na případy, kdy za jednání nebo opomenutí robota lze činit odpovědným konkrétního lidského činitele, například výrobce, provozovatele, vlastníka nebo uživatele, pokud tato osoba mohla předvídat škodlivé jednání robota a zabránit mu; vzhledem k tomu, že výrobci, provozovatelé, vlastníci nebo uživatelé by také mohli nést absolutní odpovědnost za jednání či opomenutí robota;

AE.  vzhledem k tomu, že podle současného právního rámce se na škody, které způsobí robot nebo umělá inteligence, vztahuje jednak odpovědnost za výrobky (kdy za nesprávné fungování určitého výrobku nese odpovědnost jeho výrobce) a jednak pravidla, jimiž se řídí odpovědnost za způsobenou újmu (kdy za chování, jehož následkem byla způsobena újma, zodpovídá uživatel výrobku);

AF.   vzhledem k tomu, že pokud by robot byl schopen činit samostatná rozhodnutí, tradiční pravidla by již nestačila k určení odpovědnosti za škodu způsobenou robotem, protože by nebylo možné určit stranu, která má poskytnout odškodnění a napravit škodu, kterou robot způsobil;

AG.  vzhledem k tomu, že v oblasti smluvní odpovědnosti se jasně projevují nedostatky současné právní úpravy, neboť pokud budou stroje konstruovány tak, aby si vybíraly své smluvní partnery, vyjednávaly smluvní podmínky, uzavíraly smlouvy a rozhodovaly o tom, zda a jak je budou uplatňovat, nebude již možné se řídit tradičními pravidly a bude nutné vytvořit pravidla nová, účinná a aktuální, která by odpovídala technickému vývoji a nejnovějším inovacím, které našly uplatnění na trhu;

AH.   vzhledem k tomu, že pokud jde o mimosmluvní odpovědnost, směrnice Rady 85/374/EHS(4) se vztahuje pouze na škodu způsobenou výrobními vadami robota, a to navíc pod podmínkou, že poškozená osoba prokáže škodu, vadu a příčinnou souvislost mezi vadou a škodou, takže je možné, že právní rámec absolutní odpovědnosti či odpovědnosti bez zavinění nebude dostačující;

AI.   vzhledem k tomu, že bez ohledu na oblast působnosti směrnice 85/374/EHS není platná právní úprava dostačující k tomu, aby zajistila odpovědnost za škodu způsobenou roboty nové generace, pokud by tito roboti měli schopnost adaptace a učení, která by způsobila, že by jejich jednání bylo do určité míry nepředvídatelné, neboť tito roboti by se samostatně učili na základě vlastních variabilních zkušeností a interagovali by s prostředím jedinečným, nepředvídatelným způsobem;

Obecné principy rozvoje robotiky a umělé inteligence pro civilní účely

1.  vyzývá Komisi, aby navrhla jednotné unijní definice kyberneticko-fyzikálních systémů, autonomních systémů, inteligentních autonomních robotů a jejich podkategorií, přičemž by vzala v potaz níže uvedené vlastnosti, jimiž se vyznačuje inteligentní robot:

–  robot je autonomní díky senzorům nebo výměně dat s okolním prostředím (propojenost) a je schopen tato data předávat a analyzovat;

–  robot má schopnost samostatného učení na základě zkušeností a interakce (volitelné kritérium);

–  robot má alespoň menší fyzickou strukturu

–  robot má schopnost přizpůsobit své jednání a svou činnost okolnímu prostředí;

–  robot není v biologickém smyslu živý;

2.  domnívá se, že pro určité konkrétní podkategorie robotů by měl být ve vhodných a nezbytných případech na vnitřním trhu Unie zaveden všeobecný unijní systém registrace pokročilých robotů, a vyzývá Komisi, aby stanovila kritéria pro klasifikaci robotů s cílem určit, kteří roboti by měli být registrováni; v této souvislosti vyzývá Komisi, aby posoudila, zda je žádoucí, aby takový registrační systém a registr spravovala zvláštní agentura EU pro robotiku a umělou inteligenci;

3.  zdůrazňuje, že rozvoj robotických technologií by se měl zaměřit na to, aby doplňoval, a nikoli nahrazoval schopnosti člověka; domnívá se, že ve vývoji robotiky a umělé inteligence je zcela zásadní, aby bylo zaručeno, že lidé budou mít nad inteligentními stroji neustálou kontrolu; domnívá se, že je třeba věnovat zvláštní pozornost tomu, že mezi člověkem a robotem může vzniknout emoční vazba – zejména v případě zranitelných skupin (děti, starší osoby a osoby se zdravotním postižením) –, a poukazuje na problémy spojené s vážnými emočními či fyzickými dopady, které by toto emoční pouto mohlo mít na člověka;

4.   zdůrazňuje, že postup na úrovni Unie by zamezil tříštění vnitřního trhu a napomohl tak rozvoji, a zároveň vyzdvihuje důležitost zásady vzájemného uznávání při přeshraničním využívání robotů a robotických systémů; připomíná, že testování, certifikace a souhlas s uvedením na trh by měly být vyžadovány pouze v jednom členském státě; zdůrazňuje, že by tento postup měl být doprovázen účinným dozorem nad trhem;

5.  zdůrazňuje význam opatření na podporu malých a středních podniků a začínajících podniků v odvětví robotiky, které v tomto odvětví vytvářejí nové tržní segmenty či využívají roboty;

Výzkum a inovace

6.  poukazuje na to, že řada robotických aplikací se dosud nachází v experimentální fázi; vítá, že z vnitrostátních i evropských prostředků je financováno stále více výzkumných projektů; považuje za velmi důležité, aby Unie zůstala – díky veřejnému financování – spolu s členskými státy v čele výzkumu robotiky a umělé inteligence; vyzývá Komisi a členské státy, aby posílily finanční nástroje, z nichž jsou financovány výzkumné projekty v oblasti robotiky a informačních a komunikačních technologií, včetně partnerství veřejného a soukromého sektoru, a aby ve svých výzkumných politikách uplatňovaly zásady otevřené vědy a odpovědných etických inovací; zdůrazňuje, že je třeba vyčlenit dostatek prostředků na řešení sociálních a etických, právních a hospodářských výzev, před něž nás staví rozvoj a uplatnění nových technologií;

7.   vyzývá EU a členské státy, aby rozvíjely výzkumné programy, podporovaly výzkum dlouhodobých rizik a příležitostí, které skýtá umělá inteligence a robotické technologie, a vybízely k co nejrychlejšímu zahájení strukturovaného veřejného dialogu o důsledcích rozvoje těchto technologií; vyzývá Komisi, aby v rámci přezkumu víceletého finančního rámce v polovině období posílila svou podporu programu SPARC financovanému v rámci programu Horizont 2020; vyzývá Komisi a členské státy, aby spojily své úsilí ve snaze zajistit důkladné monitorování přechodu těchto technologií z výzkumu na trh a jejich tržní využití a zaručit, že tento přechod bude probíhat lépe, přičemž musí být nejprve provedeno jejich hodnocení z hlediska bezpečnosti v souladu se zásadou předběžné opatrnosti;

8.  zdůrazňuje, že inovace v oblasti robotiky a umělé inteligence a integrace robotiky a umělé inteligence do ekonomiky a společnosti si žádají digitální infrastrukturu poskytující možnost připojení odkudkoli; vyzývá Komisi, aby stanovila rámec, který naplní potřeby v oblasti konektivity pro digitální budoucnost Unie, a zajistila, že širokopásmový přístup a přístup na síť 5G budou plně v souladu se zásadou neutrality sítě;

9.  je pevně přesvědčen, že pro umožnění toků dat v reálném čase, díky nimž budou moci roboti a systémy umělé inteligence zvyšovat svou flexibilitu a autonomii, je klíčová interoperabilita systémů, zařízení a cloudových služeb, založená na bezpečnosti a ochraně soukromí jakožto konstrukčních principech; žádá Komisi, aby propagovala otevřené prostředí od otevřených standardů a inovativních modelů udělování licencí až po otevřené platformy a transparentnost, neboť tím se zamezí závislosti na soukromých systémech, které omezují interoperabilitu;

Etické zásady

10.  konstatuje, že emancipační potenciál robotiky je třeba vnímat na pozadí různých napětí a rizik a je třeba ho důsledně posoudit z hlediska bezpečnosti osob, zdraví a bezpečnosti, svobody, soukromí, integrity a důstojnosti, sebeurčení a nediskriminace a ochrany osobních údajů;

11.  domnívá se, že současný právní rámec Unie je třeba modernizovat a ve vhodných případech doplnit o etické zásady, jež by odrážely složitost robotické problematiky a její dopady v sociální, zdravotní a bioetické oblasti; domnívá se, že je zapotřebí jasný, přísný a efektivní etický rámec pro vývoj, výrobu, používání a úpravy robotů, který by doplnil právní doporučení obsažená v této zprávě a v acquis Unie a členských států; přikládá k tomuto usnesení návrh rámce v podobě charty spočívající v etickém kodexu pro inženýry v oblasti robotiky, kodexu pro komise pro etiku výzkumu, které přezkoumávají robotické protokoly, a vzorových licencích pro konstruktéry a uživatele;

12.  vyzdvihuje zásadu transparentnosti, podle níž by mělo být vždy možné podat odůvodnění každého rozhodnutí učiněného s pomocí umělé inteligence, které může mít významný dopad na život jedné nebo více osob; domnívá se, že výpočetní činnost systémů umělé inteligence by mělo být vždy možné převést do formy pochopitelné pro člověka; domnívá se, že pokročilí roboti by měli být vybaveni „černou skříňkou“, kde budou zaznamenávány údaje o každé operaci, kterou daný stroj provede, včetně logiky, na níž se jeho rozhodnutí zakládají;

13.  zdůrazňuje, že tento etický rámec by měl vycházet ze zásad „prospěšnosti“, „neškodlivosti“, „autonomie“ a „spravedlnosti“, z principů a hodnot zakotvených v článku 2 Smlouvy o Evropské unii a v z Listině základních práv EU (lidská důstojnost, rovnost, spravedlnost, nediskriminace, lidská práva, rovnost, spravedlnost a rovnoprávnost, zákaz diskriminace, informovaný souhlas ad.), ze základních principů a hodnot práva Unie (zákaz stigmatizace, transparentnost, autonomie, osobní odpovědnost a sociální odpovědnost ad.) a ze stávajících etických postupů a norem;

14.  domnívá se, že zvláštní pozornost je třeba věnovat robotům, kteří fungují v tradičně chráněných a soukromých oblastech, a představují tak významnou hrozbu pro zachování důvěrnosti, protože jsou schopni získávat a odesílat osobní a citlivé údaje;

Evropská agentura

15.  je přesvědčen, že členské státy a Komise musí prohloubit vzájemnou spolupráci, aby byla v Unii zaručena koherentní přeshraniční pravidla, která budou napomáhat spolupráci mezi evropskými ekonomikami a umožní, aby bylo v celé Unii možné používat roboty, kteří budou splňovat požadované bezpečnostní normy a budou v souladu s etickými principy zakotvenými v právu Unie;

16.  vyzývá Komisi, aby zvážila vytvoření „evropské agentury pro robotiku a umělou inteligenci“, která by vypracovávala odborné posudky týkající se technických, etických a regulačních otázek pro potřeby relevantních veřejných činitelů na vnitrostátní a unijní úrovni, kteří musí mít dostatek informací, aby mohli včas a eticky reagovat na nové příležitosti a výzvy, které přináší rozvoj robotických technologií, např. v odvětví dopravy, zejména pokud mají tyto příležitosti a výzvy přeshraniční rozměr;

17.  domnívá se, že vzhledem k velkému potenciálu robotiky a problémům s ní spojeným a vzhledem k současné dynamice investic by měla být tato evropská agentura vybavena dostatečným rozpočtem a měla by zaměstnávat odborníky na regulaci a externí odborníky v oblasti techniky a etiky, kteří by se zabývali meziodvětvovým a mezioborovým sledováním robotických aplikací, zjišťovali osvědčené postupy a případně doporučovali regulační opatření, definovali nové zásady a řešili potenciální otázky ochrany spotřebitele a systémové výzvy; žádá Komisi (a evropskou agenturu, pokud vznikne), aby každoročně informovaly Evropský parlament o nejnovějším vývoji v robotice a o veškerých opatřeních, která je třeba přijmout;

Práva duševního vlastnictví a předávání údajů

18.  poukazuje na to, že ačkoli neexistují žádná právní ustanovení, která by se specificky týkala robotiky, lze na robotiku snadno uplatnit některé stávající právní režimy a doktríny, ačkoli některým aspektům bude pravděpodobně třeba věnovat zvýšenou pozornost; vyzývá Komisi, aby rozvíjela horizontální, technologicky neutrální přístup k duševnímu vlastnictví, který by se vztahoval na různá odvětví, v nichž by mohla být robotika uplatněna;

19.  vyzývá Komisi a členské státy, aby zajistily, že občanskoprávní předpisy v odvětví robotiky budou slučitelné s všeobecným nařízením o ochraně údajů a budou v souladu se zásadou nezbytnosti a proporcionality; vyzývá Komisi a členské státy, aby braly v potaz rychlý technický vývoj v oblasti robotiky, včetně vývoje kyberneticko-fyzikálních systémů, a aby zajistily, že právo Unie nebude za vývojem a využíváním těchto technologií zaostávat;

20.  zdůrazňuje, že právo na ochranu soukromého života a právo na ochranu osobních údajů, jak jsou zakotvena v článcích 7 a 8 Listiny a v článku 16 Smlouvy o fungování EU, se uplatňují na všechny oblasti robotiky a umělé inteligence a že musí být plně dodržován unijní právní rámec ochrany údajů; v této souvislosti požaduje, aby byla přezkoumána pravidla a kritéria týkající se používání kamer a senzorů v robotech; vyzývá Komisi, aby zajistila dodržování zásad ochrany údajů, jako je ochrana soukromí již od návrhu (privacy by design) a ochrana soukromí jako výchozí nastavení (privacy by default), minimalizace dat, omezení účelu a přiměřené možnosti nápravy v souladu s právními předpisy Unie na ochranu údajů, a aby dbala na to, že budou podporována přiměřená doporučení a standardy, které by měly začleněny do politik Unie;

21.  zdůrazňuje, že volný pohyb údajů má obrovský význam pro digitální ekonomiku a rozvoj odvětví robotiky a umělé inteligence; poukazuje na to, že vysoká úroveň bezpečnosti robotických systémů, včetně jejich interních datových systémů a datových toků, je pro přiměřené využívání robotů a umělé inteligence klíčová; zdůrazňuje, že je nutné zajistit ochranu sítí vzájemně propojených robotů a umělé inteligence, aby se zabránilo možnému narušení bezpečnosti; v této souvislosti zdůrazňuje, že zcela zásadní význam má vysoký stupeň bezpečnosti, ochrany osobních údajů a patřičný ohled na ochranu soukromí v komunikaci mezi lidmi, roboty a umělou inteligencí; zdůrazňuje, že konstruktéři robotických systémů a systémů umělé inteligence nesou odpovědnost za to, že jimi vyvíjené výrobky budou bezpečné, spolehlivé a vhodné pro daný účel; vyzývá Komisi a členské státy, aby podporovaly vývoj potřebných technologií, včetně koncepce vestavěné bezpečnosti (security by design);

Standardizace a bezpečnost

22.  zdůrazňuje, že otázka stanovení norem a zajištění interoperability má klíčový význam pro budoucí konkurenceschopnost v oblasti technologií využívajících umělé inteligence a robotiky; vyzývá Komisi, aby pokračovala ve své práci na mezinárodní harmonizaci technických norem, zejména ve spolupráci s evropskými normalizačními organizacemi a s Mezinárodní organizací pro normalizaci, s cílem podporovat inovace, zamezit tříštění jednotného trhu a zaručit vysokou úroveň bezpečnosti produktů a ochrany spotřebitelů, ve vhodných případech také stanovením minimálních norem bezpečnosti na pracovišti; poukazuje na význam legálního zpětného inženýrství (reverse engineering) a otevřených standardů, aby bylo možné maximálně využít inovací a zajistit, aby roboti mohli navzájem komunikovat; vítá proto zřízení zvláštních technických výborů, jako je ISO/TC 299 Robotics, které se věnují výhradně vypracovávání norem v oblasti robotiky;

23.  zdůrazňuje, že pro zjištění a posouzení rizik, které by roboti mohli přinášet, a jejich technického rozvoje nad rámec čistě experimentální laboratorní fáze je nutné provádět jejich testování v reálných podmínkách; v této souvislosti zdůrazňuje, že toto testování robotů v reálných podmínkách, zejména ve městech a na silnicích, je spojeno s velkým množstvím problémů – mimo jiné s překážkami, které zpomalují postup těchto testovacích fází – takže je nezbytné, aby existovala účinná strategie a účinný mechanismus monitorování; vyzývá Komisi, aby v souladu se zásadou předběžné opatrnosti vypracovala jednotná kritéria pro všechny členské státy, která by jednotlivé členské státy měly používat k určení oblastí, v nichž jsou pokusy s roboty povoleny;

Autonomní dopravní prostředky

a) Autonomní vozidla

24.  zdůrazňuje, že autonomní doprava zahrnuje všechny formy dálkově řízených, automatizovaných, propojených a autonomních dopravních prostředků, a to silničních, železničních, vodních či leteckých, včetně vozidel, vlaků, plavidel, trajektů, letadel, dronů a všech budoucích forem vývoje a inovací v tomto odvětví;

25.  domnívá se, že automobilový průmysl akutně potřebuje účinná unijní a světová pravidla k zajištění přeshraničního rozvoje automatických a autonomních vozidel, má-li být plně rozvinut jejich ekonomický potenciál a mají-li mít technologické trendy pozitivní účinky; zdůrazňuje, že roztříštěná regulace by bránila implementaci autonomních dopravních systémů a snižovala evropskou konkurenceschopnost;

26.  upozorňuje na skutečnost, že v případě neplánovaného převzetí kontroly nad vozidlem má zásadní význam reakční doba řidiče, a vyzývá tudíž k tomu, aby zúčastněné strany zajistily, že budou při řešení problémů spojených s bezpečností a odpovědností vycházet z realistických hodnot;

27.  domnívá se, že přechod na autonomní vozidla bude mít dopad na tyto oblasti: občanská odpovědnost (odpovědnost a pojištění), bezpečnost silničního provozu, veškeré aspekty ochrany životního prostředí (např. energetická účinnost, používání obnovitelných technologií a energetických zdrojů), otázky spojené s daty (např. přístup k datům, ochrana dat, soukromí a sdílení dat), otázky spojené s infrastrukturou IKT (např. vysoká hustota efektivních a spolehlivých komunikací) a zaměstnanost (např. tvorba a zánik pracovních příležitostí, výcvik řidičů těžkých nákladních vozidel, aby uměli používat automatická vozidla); zdůrazňuje, že bude nezbytné výrazně investovat do silniční, energetické a IKT infrastruktury; vyzývá Komisi, aby ve své práci týkající se autonomních vozidel zohlednila tyto aspekty:

28.  poukazuje na to, že při zavádění autonomních vozidel mají zásadní význam polohovací a časové informace, které poskytují unijní programy družicové navigace Galileo a EGNOS, a žádá proto, aby byly dokončeny a vypuštěny satelity nutné k dokončení geolokačního systému Galileo;

29.  upozorňuje na to, že autonomní vozidla mají velký přinos pro osoby se sníženou pohyblivostí, protože těmto osobám umožňují lépe se podílet na individuální silniční dopravě, a usnadňují tak jejich každodenní život;

b) Drony (dálkově řízené letadlové systémy)

30.  poukazuje na pozitivní vývoj technologie dronů, zejména pokud jde o pátrací a záchranné akce; vyzdvihuje význam unijního rámce pro používání dronů na ochranu bezpečnosti a soukromí občanů Unie a vyzývá Komisi, aby učinila patřičné kroky v návaznosti na usnesení Evropského parlamentu ze dne 29. října 2015 o bezpečném využívání dálkově řízených letadlových systémů (RPAS), obecně známých jako bezpilotní vzdušné prostředky, v oblasti civilního letectví(5); žádá Komisi, aby vypracovala hodnocení bezpečnostních otázek spojených s širokým využíváním dronů; vyzývá Komisi, aby posoudila, zda by systémy RPAS neměly být povinně vybaveny systémem pro sledování a identifikaci, který by umožňoval okamžitě zjistit pozici letounu v době letu; připomíná, že homogenita a bezpečnost bezpilotních letounů by měla být zajištěna pomocí opatření stanovených v nařízení Evropského parlamentu a Rady (ES) č. 216/2008(6);

Roboti v pečovatelských službách

31.  zdůrazňuje, že výzkum a vývoj robotů pro péči o seniory se stává běžnějším a levnějším a jeho výsledkem jsou lépe fungující produkty, které spotřebitelé více přijímají; bere na vědomí širokou škálu využití těchto technologií, které poskytují prevenci, asistenci, monitorování, stimulaci a doprovod starším a zdravotně postiženým osobám a osobám trpícím demencí, kognitivními poruchami či ztrátou paměti;

32.  poukazuje na to, že jedním z elementárních aspektů péče o člověka je lidský kontakt; je přesvědčen, že nahrazení lidského faktoru robotem by mohlo způsobit odlidštění pečovatelských služeb, na druhé straně však uznává, že roboti by mohli provádět automatizované pečovatelské úkony a díky nim by bylo možné zajistit, aby byl proces rehabilitace cílenější, lékaři a ošetřovatelé by měli více času na diagnostiku a lepší plánování léčby; zdůrazňuje, že i když má robotika potenciál zvýšit mobilitu a integraci lidí se zdravotním postižením resp. starších osob, lidští pečovatelé zůstanou nadále potřební a budou i nadále důležitým zdrojem sociální interakce, který nebude možné zcela nahradit;

Roboti ve zdravotní péči

33.  zdůrazňuje, že pro zajištění co nejvyšší odbornosti a ochrany zdraví pacientů je důležité náležité vzdělání a odborná průprava zdravotnického personálu, tedy lékařů a ošetřovatelů, aby bylo možné zajistit co nejvyšší stupeň odborné způsobilosti a chránit zdraví pacientů; klade důraz na to, že je nutné definovat minimální odborné požadavky, které musí chirurg splňovat, aby mohl používat chirurgické roboty a získal příslušné povolení; považuje za velmi důležité dodržovat zásadu autonomní činnosti robotů pod dohledem, podle níž počáteční plánování léčby a konečné rozhodnutí o jejím provedení vždy příslušelo lidskému chirurgovi; vyzdvihuje zvláštní význam vzdělávání uživatelů, aby byli obeznámeni s technickými požadavky v této oblasti; upozorňuje na sílící trend samovyšetření za použití mobilního robota a s ním spojenou potřebu, aby lékaři byli na tyto případy, kdy se pacient vyšetří sám, odborně připraveni; domnívá se, že používání těchto technologií nesmí omezovat ani poškozovat vztah mezi lékařem a pacientem, nýbrž musí lékaři poskytovat pomoc při diagnostice a při léčbě pacienta s cílem snižovat riziko lidského selhání a zvyšovat kvalitu a délku života;

34.  je přesvědčen, že lékařští roboti stále více pronikají do precizní chirurgie a provádějí repetitivní úkony, mohou zlepšovat výsledky při rehabilitaci a poskytují vysoce efektivní logistickou podporu v nemocnicích; poukazuje na to, že lékařští roboti mají potenciál snižovat náklady na zdravotní péči tím, že umožňují zdravotnickým pracovníkům zaměřit pozornost na prevenci místo léčby a že díky nim bude možné použít více rozpočtových prostředků na to, aby se péče lépe přizpůsobila potřebám pacientů a aby bylo možné zajistit průběžné vzdělávání zdravotnického personálu a financovat výzkum;

35.  vyzývá Komisi, aby dříve, než vstoupí v platnost nařízení o lékařských přístrojích(7)

, zajistila, aby stávající postupy testování nových robotických zdravotnických prostředků byly bezpečné, zejména pokud se implantují do lidského těla;

Opravy a vylepšování lidského těla

36.  poukazuje na značný pokrok a další potenciál robotiky v oblasti oprav a kompenzace poškozených orgánů a životních funkcí lidí, ale také na složité otázky týkající se zejména možností vylepšování lidského těla, protože lékařští roboti a zejména kyberneticko-fyzikální systémy možná změní naše představy o lidském těle, budou-li moci být připevněny přímo na lidském těle nebo do něho implantovány; zdůrazňuje, že je důležité, aby nemocnice a ostatní zdravotnická zařízení zřizovaly přiměřeně personálně zajištěné komise pro etiku robotiky, které by posuzovaly neobvyklé a složité etické problémy ovlivňující léčbu a péči o pacienty a pomáhaly při jejich řešení; vyzývá Komisi a členské státy, aby vypracovaly pokyny, které by napomáhaly zřizování a fungování těchto komisí;

37.  zdůrazňuje, že v oblasti životně důležitých lékařských přístrojů, jako jsou robotické protézy, musí být dlouhodobě zajištěna permanentní dostupnost údržby, úprav ke zlepšení funkčnosti a zejména softwarových aktualizací, které odstraňují závady a rizika;

38.  doporučuje, aby byly vytvářeny nezávislé důvěryhodné subjekty, které budou vybaveny tak, aby mohly osobám, které mají na těle nebo v těle životně důležitá lékařská zařízení využívající pokročilých technologií, poskytovat služby spočívající v údržbě, opravách či zlepšování funkcí, včetně aktualizací softwaru, a to zejména v případě, kdy údržbu již neprovádí původní dodavatel; navrhuje, aby byla výrobcům uložena povinnost dodávat těmto nezávislým důvěryhodným subjektům úplnou konstrukční dokumentaci včetně zdrojového kódu, podobně jako se zasílá povinný výtisk publikací národním knihovnám;

39.  poukazuje na rizika spojená s možností neoprávněného ovládnutí nebo vypnutí kyberneticko-fyzikálních systémů v lidském těle nebo ke smazání jejich paměti, protože to by mohlo způsobit ohrožení lidského zdraví a v nejhorším případě i života, a zdůrazňuje proto, že ochrana těchto systémů musí být prioritou;

40.  poukazuje na to, že je důležité zajistit, aby k technickým inovacím, nástrojům a zákrokům měli rovný přístup všichni lidé; žádá Komisi a členské státy, aby podporovaly vývoj asistenčních technologií s cílem napomoci vývoji těchto technologií a jejich přijetí osobami, které je potřebují, v souladu s článkem 4 Úmluvy OSN o právech osob se zdravotním postižením, kterou Unie podepsala;

Vzdělání a zaměstnanost;

41.  upozorňuje na to, že podle prognózy Komise bude v Evropě v roce 2020 chybět až 825 000 odborníků na IKT a že 90 % pracovních míst bude vyžadovat alespoň základní digitální dovednosti; vítá, že Komise hodlá předložit plán možného použití a revize rámce digitálních schopností a deskriptorů digitálních schopností pro studenty všech úrovní a vyzývá Komisi, aby poskytovala podporu rozvoji digitálních schopností ve všech věkových skupinách bez ohledu na pracovní status, což by mělo být prvním krokem k vyrovnání poptávky a nedostatků na trhu práce; zdůrazňuje, že růst v odvětví robotiky vyžaduje, aby členské státy vytvořily pružnější systémy odborné přípravy a vzdělávání s cílem zajistit, aby strategie pro rozvoj dovedností odpovídaly potřebám hospodářství využívajícího robotů;

42.  domnívá se, že pokud by mělo více mladých žen zájem o kariéru v počítačovém oboru a pokud by bylo v tomto odvětví zaměstnáno více žen, prospělo by to digitálnímu průmyslu, samotným ženám i evropské ekonomice; vyzývá Komisi a členské státy, aby zahájily iniciativy na podporu žen v oboru IKT a na rozvoj jejich dovedností v této oblasti;

43.  vyzývá Komisi, aby začala důsledněji monitorovat a analyzovat střednědobé a dlouhodobé trendy zaměstnanosti a zaměřila se přitom zvláště na tvorbu, přemísťování a zánik pracovních míst v různých oblastech či oborech s cílem zjistit, ve kterých oblastech místa vznikají a ve kterých naopak zanikají v důsledku většího používání robotů;

44.  zdůrazňuje důležitost předvídání změn ve společnosti s ohledem na dopady, které by mohl mít rozvoj a používání robotů a umělé inteligence; žádá Komisi, aby analyzovala různé scénáře a jejich dopady na dlouhodobé fungování systémů sociálního zabezpečení členských států; zastává názor, že je třeba začít inkluzivní diskusi o nových modelech zaměstnanosti a o udržitelnosti našich daňových a sociálních systémů na základě existence dostatečného příjmu, včetně možnosti zavedení všeobecného základního příjmu;

45.  poukazuje na význam flexibility dovedností a sociálních, kreativních a digitálních dovedností ve vzdělávání; je jisté, že kromě toho, že školy zprostředkovávají akademické znalosti, je třeba se celý život účastnit celoživotního učení;

46.  poukazuje na to, že robotika má velký potenciál pro zlepšování bezpečnosti na pracovišti díky tomu, že přenáší velké množství nebezpečných a rizikových úkonů z člověka na roboty, ale současně upozorňuje na jejich potenciál k vytváření nových rizik kvůli zvýšené míře interakcí mezi člověkem a roboty na pracovišti; poukazuje tudíž na to, že pokud má být zajištěno zdraví, bezpečnost a dodržování základních práv na pracovišti, je třeba na interakce mezi člověkem a robotem uplatňovat striktní pravidla orientovaná na budoucnost;

Dopad na životní prostředí

47.  poukazuje na to, že vývoj robotiky a umělé inteligence by měl probíhat tak, aby měl co nejmenší dopad na životní prostředí, čehož lze dosáhnout efektivním využíváním energie, energetickou účinností díky podpoře využívání energie z obnovitelných zdrojů a vzácných materiálů, vytvářením co nejmenšího množství odpadu, zejména elektrického a elektronického odpadu, a opravitelností; vyzývá proto Komisi, aby začlenila zásady oběhového hospodářství do veškerých politik Unie v oblasti robotiky; podotýká, že využívání robotiky bude mít pozitivní dopad na životní prostředí, především v oblasti zemědělství, dodávek potravin a dopravy, zejména díky snížení objemu strojních zařízení a omezeného využívání hnojiv, energie i vody, jako i díky přesnému zemědělství a optimalizaci cest;

48.  zdůrazňuje, že kyberneticko-fyzikální systémy povedou k vytvoření systémů energetiky a infrastruktury, které jsou schopné kontrolovat tok elektřiny od výrobce ke spotřebiteli, a rovněž povedou ke vzniku „spotřebitelů-výrobců“, kteří energii vyrábějí i využívají, což přinese velké výhody pro životní prostředí;

Odpovědnost

49.  domnívá se, že občanskoprávní odpovědnost za škody způsobené roboty je otázkou velkého významu, kterou je třeba analyzovat a řešit na úrovni Unie, neboť pouze tak bude možné zajistit v celé Unii stejnou úroveň účinnosti, transparentnosti, jednoty při zajišťování právní jistoty v celé Evropské unii ve prospěch spotřebitelů i podniků;

50.  konstatuje, že rozvoj robotických technologií bude vyžadovat, abychom lépe porozuměli potřebnému společnému základu společné aktivity člověka a robotů, přičemž je třeba se opírat o dva základní vzájemně provázané vztahy: předvídatelnost a ovladatelnost; poukazuje na to, že tyto dva vzájemně provázané vztahy mají zásadní význam pro určení toho, jaké informace by měly být mezi člověkem a roboty sdíleny a jak se dobrat společného základu mezi člověkem a roboty, aby bylo možné zajistit hladký průběh společné činnosti člověka a robotů;

51.  žádá Komisi, aby na základě článku 114 Smlouvy o fungování EU předložila návrh legislativního nástroje řešícího právní otázky vývoje robotiky a umělé inteligence a jejich používání, jaké lze předvídat v následujících 10 až 15 letech, spolu s nelegislativními nástroji, jako jsou pokyny a etické kodexy zmiňované v doporučeních uvedených v příloze;

52.  domnívá se, že ať bude zvoleno jakékoli právní řešení problému občanskoprávní odpovědnosti za škody způsobené roboty v případech, které se netýkají škody na majetku, neměl by budoucí legislativní nástroj žádným způsobem omezovat druh nebo rozsah škody, jejíž nahrazení lze vymáhat, a neměl by ani omezovat formu náhrady, jež může být nabídnuta poškozené straně, pouze na základě toho, že škodu nezpůsobil člověk;

53.  domnívá se, že tento budoucí legislativní nástroj by měl být založen na důkladné analýze, kterou provede Komise s cílem stanovit, zda má být uplatňován přístup absolutní odpovědnosti, nebo přístup založený na řízení rizik;

54.  zároveň konstatuje, že absolutní odpovědnost vyžaduje pouze důkaz, že došlo ke vzniku škody a že existuje příčinná souvislost mezi škodlivým jednáním robota a škodou způsobenou poškozené straně;

55.  konstatuje, že přístup založený na řízení rizik se nezaměřuje na osobu, „která se dopustila nedbalosti“ a která nese osobní odpovědnost, nýbrž na osobu, která je za určitých okolností schopna minimalizovat rizika a řešit negativní dopady;

56.  domnívá se, že jakmile by byly zjištěny strany, které nesou konečnou odpovědnost, měla by být odpovědnost těchto stran úměrná skutečnému rozsahu příkazů daných robotovi a míře jeho autonomie, takže by platilo, že čím má robot větší schopnost učení nebo vyšší autonomii a čím delší je doba jeho učení, tím větší by měla být odpovědnost jeho „učitele“; upozorňuje zejména na to, že při určování osoby, která je odpovědná za škodlivé jednání robota, by neměly být dovednosti, které robot získá formou „výcviku“, zaměňovány s dovednostmi nabytými výhradně prostřednictvím jeho schopnosti samostatného učení; podotýká, že alespoň v nynější fázi by měl odpovědnost nést člověk, a nikoli robot;

57.  poukazuje na to, že složitou otázku určení odpovědnost za škodu způsobenou roboty s vyšší mírou autonomie by bylo možné vyřešit vytvořením povinného systému pojištění, jako je tomu již dnes v případě motorových vozidel; konstatuje však, že na rozdíl od systému pojištění používaného v silničním provozu, kde se toto pojištění vztahuje na jednání a chyby lidského činitele, by pojištění v oblasti robotiky mělo zohledňovat veškerou potenciální odpovědnost v rámci celého řetězce;

58.  domnívá se, že jako je tomu v případě pojištění motorových vozidel, mohl by být tento systém pojištění doplněn fondem, který by zajistil, aby bylo možné kompenzovat škodu i v případech, kdy pojistné krytí neexistuje; vyzývá odvětví pojišťovnictví, aby vytvářelo nové produkty a typy nabídek, které by byly v souladu s pokrokem v robotice;

59.  vyzývá Komisi, aby se při posuzování dopadu svého budoucího legislativního nástroje věnovala ve svém zkoumání a ve svých analýzách a úvahách také důsledkům všech možných právních řešení uvedených níže:

a)  v příslušných případech vznikne pro jednotlivé kategorie robotů povinný systém pojištění, v němž budou mít výrobci nebo vlastníci robotů povinnost uzavřít pojištění odpovědnosti za škodu způsobenou jejich roboty, podobně jako je tomu u pojištění motorových vozidel,

b)  kompenzační fond nebude sloužit pouze k poskytování kompenzací za škody způsobené robotem, na něž se nevztahuje pojistné krytí;

c)  výrobce, programátor, vlastník nebo uživatel budou mít omezenou odpovědnost, pokud budou přispívat do kompenzačního fondu a pokud společně uzavřou pojištění, z něhož bude kompenzována škoda způsobená robotem;

d)  bude možné vytvořit buď všeobecný fond pro všechny inteligentní autonomní roboty, nebo naopak zvláštní fondy pro jednotlivé kategorie robotů, přičemž příspěvek do fondu by mohl být placen buď jednorázově při uvedení robota na trh, nebo pravidelně po celý životní cyklus robota;

e)  bude zavedeno individuální registrační číslo, které bude vedeno ve zvláštním unijním registru a z něhož bude patrný vztah mezi robotem a jeho fondem; toto číslo umožní komukoli, kdo interaguje s robotem, zjistit, jakou povahu má příslušný fond, jak je omezena jeho odpovědnost za škody na majetku, kdo konkrétně do fondu přispívá a jakou má funkci, a další užitečné údaje;

f)  v dlouhodobém výhledu bude vytvořen zvláštní právní status robota, aby alespoň ti nejsložitější autonomní roboti měli status elektronické osoby odpovědné za náhradu způsobené škody, přičemž elektronická osoba by mohla být používána i v případech, kdy roboti činí autonomní rozhodnutí nebo jiným způsobem samostatně interagují s třetími stranami;

g)  bude zaveden vhodný nástroj, jehož pomocí budou spotřebitelé moci podávat kolektivní žaloby na výrobce o náhradu škod, k nimž došlo v důsledku nesprávného fungování inteligentních strojů;

Mezinárodní aspekty

60.  poukazuje na to, že ačkoli rozvoj autonomních vozidel zatím naléhavě nevyžaduje změnu ustanovení mezinárodního práva soukromého o dopravních nehodách platných v Unii, bylo by vhodné zjednodušit současný duální systém pro určování rozhodného práva (tento systém se opírá jednak o nařízení Evropského parlamentu a Rady (ES) č. 864/2007(8) a jednak o Haagskou úmluvu o právu použitelném pro dopravní nehody z roku 1971) s cílem zvýšit právní jistotu a omezit možnosti spekulativního výběru nejpříznivější jurisdikce;

61.  poukazuje na to, že je třeba uvažovat o změnách mezinárodních dohod, jako je Vídeňská úmluva o silničním provozu z 8. listopadu 1968 a Haagská úmluva o právu použitelném pro dopravní nehody;

62.  očekává, že Komise zaručí, aby členské státy jednotným způsobem prováděly mezinárodní právo, jako je např. Vídeňská úmluva o silničním provozu, kterou je ostatně třeba pozměnit, s cílem učinit vozidla bez řidiče možnými, a vyzývá Komisi, členské státy a průmysl, aby co nejdříve realizovaly cíle Amsterodamského prohlášení;

63.  důrazně vybízí k mezinárodní spolupráci při zkoumání společenských, etických a právních otázek a následně i při vytváření regulačních standardů pod záštitou OSN;

64.  poukazuje na to, že na robotické aplikace by se měly vztahovat omezení a podmínky stanovené v nařízení Evropského parlamentu a Rady (ES) č. 428/2009 o obchodu se zbožím dvojího užití(9) (tj. zbožím, softwarem a technologiemi, které lze použít jak pro civilní, tak i vojenské účely, nebo které mohou přispívat k šíření zbraní hromadného ničení);

Závěr

65.  v souladu s článkem 225 Smlouvy o fungování EU žádá Komisi, aby na základě článku 114 Smlouvy o fungování EU předložila návrh směrnice o občanskoprávních pravidlech pro robotiku a řídila se přitom podrobnými doporučeními uvedenými v příloze k tomuto usnesení;

66.  potvrzuje, že doporučení jsou v souladu se základními právy a zásadou subsidiarity;

67.  soudí, že požadovaný návrh bude mít finanční dopady, pokud bude zřízena nová evropská agentura;

68.  pověřuje svého předsedu, aby předal toto usnesení a připojená podrobná doporučení Komisi a Radě.

(1)

Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).

(2)

(1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo. (2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem. (3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním nebo druhým zákonem (viz Hra na honěnou, I. Asimov, 1943, česky 1981). (0) Robot nesmí ublížit lidstvu nebo svou nečinností dopustit, aby mu bylo ublíženo.

(3)

Schumanova deklarace z roku 1950: „Evropa se nevytvoří najednou, nebo podle jednoho plánu. Uskuteční se naplňováním konkrétních cílů, vytvářejíc nejprve skutečnou solidaritu.“

(4)

Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky (Úř. věst. L 210, 7.8.1985, s. 29).

(5)

Přijaté texty, P8_TA(2015)0390.

(6)

Nařízení Evropského parlamentu a Rady (ES) č. 216/2008 ze dne 20. února 2008 o společných pravidlech v oblasti civilního letectví a o zřízení Evropské agentury pro bezpečnost letectví, kterým se ruší směrnice Rady 91/670/EHS, nařízení (ES) č. 1592/2002 a směrnice 2004/36/ES (Úř. věst. L 79, 19.3.2008, s. 1).

(7)

Viz legislativní usnesení Evropského parlamentu ze dne 2. dubna 2014 o návrhu nařízení Evropského parlamentu a Rady o zdravotnických prostředcích a o změně směrnice 2001/83/ES, nařízení (ES) č. 178/2002 a nařízení (ES) č. 1223/2009. (COM(2012)0542 – C7-0318/2012 – 2012/0266(COD))

(8)

Nařízení Evropského parlamentu a Rady (ES) č. 864/2007 ze dne 11. července 2007 o právu rozhodném pro mimosmluvní závazkové vztahy (Řím II) (Úř. věst. L 199, 31.7.2007, s. 40).

(9)

Nařízení Rady (ES) č. 428/2009, kterým se zavádí režim Společenství pro kontrolu vývozu, přepravy, zprostředkování a tranzitu zboží dvojího užití (Úř. věst. L 341, 29.5.2009, s. 1).


PŘÍLOHA K NÁVRHU USNESENÍ:PODROBNÁ DOPORUČENÍ K OBSAHU POŽADOVANÉHO NÁVRHU

Definice a klasifikace „inteligentních robotů“

Měla by být vypracována společná evropská definice inteligentních autonomních robotů, která by mohla zahrnovat i definice příslušných podkategorií a měla by zohledňovat tyto jejich vlastnosti:

–  schopnost nabýt autonomie díky senzorům nebo výměně dat s okolním prostředím (propojenost) a analýze těchto dat;

–  schopnost učit se prostřednictvím zkušenosti a interakce;

–  podoba fyzické struktury robota;

–  schopnost přizpůsobit své jednání a svou činnost okolnímu prostředí.

Registrace „inteligentních robotů“

Měl by být zaveden systém registrace pokročilých robotů založený na kritériích pro klasifikaci robotů s cílem zajistit dohledatelnost a usnadnit provádění dalších doporučení. Systém registrace a registr by měly být celounijní a pokrývat celý vnitřní trh. Spravovat by je mohla zvláštní agentura EU pro robotiku a umělou inteligenci, pokud bude taková agentura vytvořena.

Občanskoprávní odpovědnost

Zvolené právní řešení problému odpovědnosti robotů a umělé inteligence v případech, které se netýkají škody na majetku, by nemělo žádným způsobem omezit druh nebo rozsah škody, jejíž nahrazení lze vymáhat, a nemělo by ani omezit podobu náhrady, jež může být nabídnuta poškozené straně, pouze na základě toho, že škodu nezpůsobil člověk.

Budoucí legislativní nástroj by měl být založen na důkladné analýze provedené Komisí, která stanoví, zda má být uplatňován přístup absolutní odpovědnosti, nebo přístup založený na řízení rizik.

Měl by být rovněž zaveden systém povinného pojištění, který by mohl být založen na povinnosti výrobce pojistit autonomní roboty, které vyrábí.

Tento systém pojištění by měl být doplněn fondem, který by zajistil, aby bylo možné kompenzovat škodu v případech, kdy pojištění škodu nepokrývá.

Politické rozhodnutí týkající se pravidel občanskoprávní odpovědnosti robotů a umělé inteligence by mělo být v každém případě přijato po řádné konzultaci s celoevropským projektem výzkumu a vývoje robotiky a neurovědy za účasti vědců a odborníků schopných posoudit všechna související rizika a důsledky;

Interoperabilita, přístup ke zdrojovému kódu a práva duševního vlastnictví

Měla by být zajištěna interoperabilita autonomních robotů, kteří jsou vzájemně síťově propojeni a interagují spolu. Kdykoli to bude zapotřebí, měl by být poskytnut přístup ke zdrojovému kódu a ke vstupním datům a konstrukčním údajům, aby bylo možné vyšetřovat nehody a škody způsobené inteligentními roboty a zajistit jejich další provoz, dostupnost, spolehlivost a bezpečnost.

Charta robotiky

Při navrhování právních aktů v oblasti robotiky by Komise měla zohlednit zásady zakotvené v níže uvedené Chartě robotiky.

CHARTA ROBOTIKY

Navrhovaný kodex etického jednání v oblasti robotiky představuje základ pro vymezení a dodržování základních etických principů, počínaje fází návrhu a rozvoje, a pro dohled nad nimi.

Tento rámec, vytvořený po konzultaci s celoevropským projektem výzkumu a vývoje robotiky a neurovědy, musí být reflexivní povahy, aby umožňoval individuální přizpůsobení v daném konkrétním případě s cílem vyhodnotit, zda je určité jednání v dané situaci správné či nesprávné, a učinit rozhodnutí odpovídající předem stanovené hierarchii hodnot.

Tento kodex neznamená, že už není třeba řešit všechny zásadní právní problémy v této oblasti, nýbrž by měl mít doplňující úlohu. Kodex by měl napomáhat etické kategorizaci robotiky, zvýšit zodpovědné úsilí o inovace v této oblasti a odpovědět na otázky, které si klade veřejnost.

Je třeba obzvláště zdůraznit výzkumné a vývojové fáze příslušné technologické trajektorie (navrhování, etický přezkum, auditní kontrola atd.). Kodex by měl jednak usilovat o to, aby práce výzkumníků, provozovatelů, uživatelů a konstruktérů byla v souladu s etickými standardy, a jednak by měl stanovit postup pro hledání způsobu, jak vyřešit příslušná etická dilemata a umožnit těmto systémům fungovat eticky odpovědným způsobem.

ETICKÝ KODEX INŽENÝRŮ ROBOTIKY

PREAMBULE

Tento etický kodex vybízí všechny výzkumníky a projektanty, aby jednali zodpovědně a aby za všech okolností přihlíželi k tomu, že je třeba respektovat lidskou důstojnost, soukromí a bezpečnost.

Kodex požaduje úzkou spolupráci napříč všemi obory s cílem zajistit, aby byl výzkum v oblasti robotiky v EU prováděn bezpečným, etickým a účinným způsobem.

Kodex se vztahuje na všechny aktivity výzkumu a vývoje v oblasti robotiky.

Kodex je dobrovolný a nabízí soubor obecných zásad a pokynů pro kroky, které mají činit všechny zainteresované strany.

Orgány financující výzkum v oblasti robotiky, výzkumné organizace, výzkumníci a etické komise se vybízejí, aby již od počátečních fází zvažovali budoucí dopady technologií či výrobků, kterých se výzkum týká, a aby rozvíjeli kulturu odpovědnosti vůči výzvám a příležitostem, které se mohou objevit v budoucnu.

Veřejné i soukromé subjekty financující výzkum v oblasti robotiky by měly požadovat, aby s každým podaným návrhem na financování výzkumu v této oblasti bylo vypracováno a předloženo posouzení rizik. Tento kodex by měl za odpovědné osoby považovat lidské bytosti nikoli roboty.

Výzkumní pracovníci v oblasti robotiky by se měli zavázat, že budou dodržovat nejpřísnější standardy etického a profesního jednání a uplatňovat následující zásady:

Prospěšnost: roboti by měli jednat v nejlepším zájmu lidí.

Neškodlivost: doktrína „především nepáchat škodu“, podle níž by roboti neměli způsobovat újmu lidem.

Autonomie: schopnost přijímat informovaná a nevynucená rozhodnutí ohledně pravidel interakce s roboty.

Spravedlivost: spravedlivá distribuce přínosů spojených s robotikou a cenová dostupnost, především u robotů specializovaných na domácí a zdravotní péči.

Základní práva

Výzkum v oblasti robotiky by měl být v souladu se základními právy a měl by být prováděn v zájmu dobrých životních podmínek a sebeurčení jednotlivců i celé společnosti, a to při navrhování, provádění, šíření i využívání. Musí být vždy respektována lidská důstojnost a autonomie jak po fyzické, tak i duševní stránce.

Opatrnost

Výzkumné činnosti v oblasti robotiky by měly být prováděny v souladu se zásadou předběžné opatrnosti, měly by předvídat potenciální bezpečnostní dopady svých výsledků, měly by přijímat vhodná preventivní opatření úměrná potřebné úrovni ochrany a zároveň by měly podporovat pokrok ve prospěch společnosti i životního prostředí.

Inkluzivita

Inženýři v robotice zaručí transparentnost a dodržování legitimního práva na přístup k informacím ze strany všech zainteresovaných stran. Inkluzivita umožňuje, aby se všechny zatinteresované strany, které jsou zapojeny do výzkumných činností v robotice nebo se jich tyto činnosti týkají, podílely na rozhodovacích procesech.

Odpovědnost

Inženýři v robotice by měli zodpovídat za sociální, environmentální a zdravotní dopady, jež může robotika přinést dnešním i budoucím generacím.

Bezpečnost

Konstruktéři robotů by měli zohledňovat a respektovat fyzické životní podmínky, bezpečnost, zdraví a práva osob. Inženýři v robotice musí chránit lidské životní podmínky a současně dodržovat lidská práva a neprodleně oznámit faktory, které by mohly ohrozit veřejnost či životní prostředí.

Reverzibilita

Reverzibilita, která je základním předpokladem pro kontrolu, je klíčovým konceptem při programování robotů, mají-li jednat bezpečně a spolehlivě. Model reverzibility robotovi sděluje, které činnosti jsou reverzibilní a jak je vrátit, pokud je to možné. Schopnost anulovat poslední krok nebo sekvenci kroků umožňuje uživatelům zrušit nežádoucí činnosti a vrátit se zpět do žádoucí fáze jejich práce.

Soukromí

Právo na soukromí musí být vždy dodržováno. Inženýr v robotice by měl zajistit, aby byly soukromé informace zabezpečeny a využívány výlučně řádným způsobem. Inženýr v robotice by měl také zaručit, aby nebyli jednotlivci osobně identifikovatelní, kromě výjimečných situací, a i v těchto situacích jedině s jejich jednoznačným a nesporným informovaným souhlasem. Před jakoukoli interakcí mezi člověkem a strojem by měl být požadován a získán informovaný souhlas daného člověka. Konstruktéři v robotice jako takoví zodpovídají za vývoj a dodržování postupů pro platný souhlas, důvěrnost, anonymitu, spravedlivé zacházení a náležitý postup. Konstruktéři vyhoví veškerým žádostem o to, aby byly příslušné údaje smazány a odstraněny ze všech souborů dat.

Maximalizace přínosů a minimalizace škod

Výzkumníci by měli usilovat o maximalizaci přínosů své práce ve všech fázích, od nápadu až po šíření výsledku. Nesmí dojít k tomu, aby byla kterémukoli účastníkovi výzkumu, lidskému subjektu či účastníkovi experimentu, testu nebo studie způsobena újma. V případech, kdy jsou určitá rizika nevyhnutelnou a nedílnou součástí výzkumu, by měly být vypracovány a následně i dodržovány přísné protokoly pro vyhodnocování rizik a jejich řízení. Riziko újmy by v normálním případě nemělo převyšovat riziko, s nímž se setkáváme v běžném životě, což znamená, že by lidé neměli být vystaveni větším rizikům, než jakým jsou vystaveni v rámci svého běžného životního stylu, ani žádným dalším rizikům. Fungování robotického systému by se mělo vždy zakládat na podrobném postupu vyhodnocování rizik, který by se měl řídit zásadami předběžné opatrnosti a proporcionality.

KODEX PRO KOMISE PRO ETIKU VÝZKUMU

Zásady

Nezávislost

Postup posuzování etické správnosti by měl být nezávislý na samotném výzkumu. Tato zásada vychází z nutnosti vyhnout se střetům zájmů mezi výzkumníky a osobami, které posuzují etický protokol, a mezi těmito osobami a vedením organizací.

Způsobilost

Posuzování etické správnost by měly provádět osoby s přiměřenou odbornou způsobilostí s tím, že členové komise by měli pokrývat dostatečně širokou škálu a měli by být řádně proškoleni v etických otázkách.

Transparentnost a odpovědnost

Monitorovací proces by měl probíhat odpovědným způsobem a podléhat kontrole. Komise pro etiku výzkumu musejí řádně vykonávat své úkoly a musejí se nacházet na vhodném místě v rámci organizační struktury, aby byla jejich činnost a postupy pro dodržování a přezkum standardů transparentní.

Úloha komisí pro etiku výzkumu

Komise pro etiku výzkumu obvykle zodpovídá za přezkum veškerého výzkumu zahrnujícího lidské účastníky a vedeného jednotlivci zaměstnanými v rámci dotčené instituce nebo touto institucí; zajišťuje, aby byl etický přezkum nezávislý, kompetentní a proběhl včas; chrání lidskou důstojnost, práva a dobré životní podmínky účastníků výzkumu; dbá na bezpečnost výzkumných pracovníků; chrání legitimní zájmy dalších zainteresovaných stran; vypracovává fundované posudky, zda jsou předložené návrhy dostatečně vědecky podložené; adresuje výzkumným pracovníkům fundovaná doporučení, dospěje-li k závěru, že daný návrh má nedostatky.

Složení komisí pro etiku výzkumu

Komise pro etiku výzkumu by měla být v normálním případě multidisciplinární, měla by být složena z mužů i žen, její členové by měli mít rozsáhlé zkušenosti a odborné znalosti v oblasti výzkumu robotiky. Mechanismus jmenování by měl zajistit, aby složení komise odráželo vhodnou rovnováhu mezi vědeckými znalostmi, filozofickým, právním či etickým zázemím a laickými postoji a aby komise zahrnovala přinejmenším jednoho člena se specializovanými znalostmi etiky, uživatele specializovaných zdravotnických, vzdělávacích nebo sociálních služeb v případech, kdy se na tyto služby zaměřuje daný výzkum, a jednotlivce se specifickými metodologickými znalostmi relevantními pro výzkum, který je předmětem přezkumu; složení komise musí rovněž bránit střetům zájmů.

Monitorování

Všechny výzkumné organizace by měly zavést vhodné postupy monitorování způsobu, jímž je veden výzkum, schválený etickou komisí až do jeho dokončení, a zajistit setrvalý dohled v případech, kdy plán daného výzkumu předvídá do budoucna možné změny, jimiž bude možná třeba se zabývat. Monitorování by mělo odpovídat povaze a míře rizika spojeného s daným výzkumem. Pokud se komise domnívá, že monitorovací zpráva identifikovala významné problémy týkající se etického aspektu provádění dané studie, měla by si vyžádat plnohodnotný a podrobný souhrn výzkumu pro účely plného etického přezkumu. Domnívá-li se, že je určitá studie vedena neetickým způsobem, měla by komise zvážit odnětí souhlasu a požadovat, aby byl tento výzkum dočasně nebo úplně zastaven.

LICENCE KONSTRUKTÉRŮ

–  Měli byste zohledňovat evropské hodnoty důstojnosti, autonomie a sebeurčení, svobody a spravedlnosti, a to jak v průběhu postupu navrhování, vývoje a dodávání takových technologií, tak po jeho skončení, včetně nutnosti nepoškodit, nezranit, neklamat a nevykořisťovat (zranitelné) uživatele.

–  Měli byste ve všech aspektech fungování daného robota uplatnit důvěryhodné systémové konstrukční principy, a to pro jeho hardware i software a pro veškeré zpracovávání údajů v rámci i mimo platformy pro bezpečnostní účely.

–  Měli byste uplatňovat ochranu soukromí již od návrhu, a tím zajistit, že budou soukromé informace zabezpečeny a využívány výlučně řádným způsobem.

–  Měli byste používat jednoznačné mechanismy umožňující vypnutí, které by měly být v souladu s přiměřenými konstrukčními cíli.

–  Měli byste zajistit, aby robot fungoval způsobem, který je v souladu s místními, celostátními a mezinárodními etickými a právními zásadami.

–  Měli byste zajistit, aby rozhodovací kroky robota umožňovaly rekonstrukci a sledovatelnost.

–  Měli byste zajistit, aby byla u programování robotických systémů požadována maximální transparentnost a jednání robota bylo předvídatelné.

–  Měli byste analyzovat předvídatelnost systému interakce člověka a robota, přičemž zohledníte nejistotu výkladu a činnosti a možná selhání na straně robota či člověka.

–  Měli byste vypracovat nástroje na sledování, a to již ve fázi návrhu. Tyto nástroje usnadní sledování a vysvětlování robotova jednání (alespoň do určité míry) na různých úrovních: pro odborníky, provozovatele a uživatele.

–  Měli byste vypracovat konstrukční a hodnotící protokoly a při vyhodnocování přínosů a rizik robotiky (kognitivních, psychologických a environmentálních aj.) se spojit s potenciálními uživateli a zainteresovanými stranami.

–  Měli byste zajistit, aby byli roboti při interakci s člověkem rozpoznatelní jakožto roboti.

–  Měli byste chránit bezpečnost a zdraví osob, které interagují s roboty a dostávají se do styku s robotikou, vzhledem k tomu, že roboti jakožto výrobky by měli být konstruováni za využití postupů, které zajistí jejich bezpečnost a ochranu. Inženýr v robotice musí chránit životní podmínky osob a současně dodržovat lidská práva a nesmí uvést do provozu robota, aniž by předtím zajistil bezpečnost, účinnost a reverzibilitu fungování celého systému.

–  Než začnete testovat robota v reálném prostředí nebo zapojíte lidské účastníky do postupů jeho navrhování a rozvoje, měli byste získat kladné stanovisko komise pro etiku výzkumu.

LICENCE UŽIVATELŮ

–  Máte právo využívat roboty, aniž byste riskovali fyzickou či psychickou újmu, nebo z ní museli mít strach.

–  Měli byste mít právo očekávat, že robot bude vykonávat úkoly, pro něž byl výslovně konstruován.

–  Měli byste si být vědomi toho, že robot může mít omezené vnímání, chápání a reakce.

–  Měli byste respektovat lidskou zranitelnost, a to jak fyzickou, tak psychickou, a emoční potřeby lidských bytostí.

–  Měli byste zohlednit lidské právo na ochranu soukromí, a to včetně deaktivace videomonitorů v průběhu intimních vztahů.

–  Nemáte právo shromažďovat, využívat ani zveřejňovat osobní informace bez výslovného souhlasu subjektu údajů.

–  Nemáte právo využívat robota způsobem, který je v rozporu s etickými nebo právními zásadami a standardy.

–  Nemáte právo pozměnit robota tak, aby mohl fungovat jako zbraň.


VYSVĚTLUJÍCÍ PROHLÁŠENÍ

Souvislosti

Podle přílohy VI jednacího řádu je Výbor pro právní záležitosti příslušný mimo jiné pro občanské a obchodní právo, právo obchodních společností, právo duševního vlastnictví a výklad a uplatňování mezinárodního práva, pokud se dotýká Evropské unie, a pro etické otázky spojené s novými technologiemi. Rozvoj robotiky a umělé inteligence vyvolává řadu právních a etických otázek, které jsou jednoznačně spojeny se všemi výše uvedenými oblastmi a které si žádají rychlou reakci na úrovni EU. Předložit jeden či více legislativních návrhů týkajících se robotiky a umělé inteligence je sice v pravomoci Komise, avšak Evropský parlament se rozhodl, že pro takový návrh připraví půdu uplatněním svých práv na základě článku 225 Smlouvy o fungování Evropské unie a článku 46 jednacího řádu.

Dne 20. ledna 2015 proto výbor JURI rozhodl, že ustaví pracovní skupinu pro právní otázky spojené s rozvojem robotiky a umělé inteligence v Evropské unii. Tato pracovní skupina měla primárně za cíl vypracovat občanskoprávní pravidla pro tuto oblast.

Pracovní skupina zahrnovala kromě členů Výboru pro právní záležitosti také členy zastupující Výbor pro průmysl, výzkum a energetiku (ITRE), Výbor pro vnitřní trh a ochranu spotřebitelů (IMCO) a Výbor pro zaměstnanost a sociální věci (EMPL).

Pracovní skupina konzultovala s experty s velmi rozmanitým zázemím, a obdržela tak důležité příspěvky, které byly začleněny do tohoto usnesení.

Obecně

Robotika a umělá inteligence se staly jedním z předních technologických trendů našeho století. Rychlé rozšíření jejich využívání a jejich rychlý rozvoj přinášejí naší společnosti nové a náročné výzvy. Cesta z průmyslových odvětví až do prostředí občanské společnosti nás nabádá ke změně přístupu, neboť roboti a umělá inteligence budou rozšiřovat svou interakci s lidmi ve velmi rozmanitých oblastech.

Výbor JURI je přesvědčen, že rizika způsobená těmito novými interakcemi by měla být urychleně řešena s cílem zajistit, aby byl do každé fáze kontaktu mezi roboty, umělou inteligencí a lidmi zakomponován soubor základních hodnot. V rámci tohoto procesu by měl být kladen zvláštní důraz na lidskou bezpečnost, soukromí, integritu, důstojnost a autonomii.

Mezi další důležité aspekty, jimiž se toto usnesení zabývá, patří také: standardizace, práva duševního vlastnictví, vlastnictví dat, zaměstnanost a právní odpovědnost. Je klíčové, aby právní úprava zaváděla předpovídatelné a dostatečně jednoznačné podmínky, které by podněcovaly evropskou inovaci v oblasti robotiky a umělé inteligence.

Právní základ a subsidiarita

Akty, které by měla přijmout Komise s cílem přizpůsobit stávající právní předpisy současnému stavu rozvoje robotů a umělé inteligence, by měly být založeny na článku 114 SFEU. V souladu se zásadou subsidiarity stanovenou v  čl. 5 odst. 3 této SEU jedná Unie v oblastech, které nespadají do její výlučné pravomoci, pouze tehdy a do té míry, pokud cílů zamýšlené činnosti nemůže být dosaženo uspokojivě členskými státy na úrovni ústřední, regionální či místní, ale spíše jich, z důvodu jejího rozsahu či účinků, může být lépe dosaženo na úrovni Unie. V celé Unii v současnosti probíhá rozvoj robotiky. V reakci na tuto inovaci vytvářejí členské státy rozmanité vnitrostátní právní předpisy. Očekává se, že tyto rozdíly budou vytvářet překážky bránící účinnému rozvoji robotiky. Protože má tato technologie přeshraniční dopady, evropská právní úprava je nejlepší legislativní volbou.

Obecné a etické zásady

Toto usnesení stanoví obecné a také etické zásady týkající se rozvoje robotiky a umělé inteligence pro civilní využití. Máme-li úspěšně čelit tomuto vývoji, je klíčové nejprve stanovit společnou definici inteligentních autonomních robotů. Dále je třeba posílit výzkum v oblasti robotiky a IKT a podpořit šíření jejich výsledků.

Abychom dále vyřešili otázku etických zásad, připojujeme k tomuto usnesení Chartu robotiky. Tato charta spočívá v kodexu etického chování pro inženýry v oblasti robotiky, kodexu chování pro komise pro etiku výzkumu a ve vzorových licencích pro konstruktéry a uživatele. Navrhovaný rámec je plně v souladu s Listinou základních práv Evropské unie.

Usnesení také navrhuje zřídit Evropskou agenturu pro robotiku a umělou inteligenci. Tato agentura by poskytovala nezbytné technické, etické a regulační odborné zázemí ve prospěch relevantních veřejných aktérů.

Práva duševního vlastnictví, ochrana osobních údajů a vlastnictví údajů

Toto usnesení vyzývá Komisi, aby navrhla vyvážený přístup k právům duševního vlastnictví uplatňovaným v oblasti hardwarových a softwarových standardů, a normy, které by chránily inovace a současně by je podporovaly. Vyzývá navíc k vypracování kritérií pro „vlastní duševní tvorbu“ v případě děl chráněných autorským právem, která byla vytvořena počítači a roboty.

Stávající nedostatečný právní rámec upravující ochranu údajů a jejich vlastnictví představuje zdroj značného znepokojení z důvodu toku dat vzniklého z využívání robotiky a umělé inteligence, u nějž se očekává, že bude masivní.

Standardizace a bezpečnost

Zvýšené využívání robotů a umělé inteligence si vyžaduje evropskou standardizaci, máme-li zabránit vzniku nesrovnalostí mezi členskými státy a fragmentaci vnitřního trhu Evropské unie.

Je navíc třeba řešit obavy spotřebitelů ohledně bezpečnosti při využívání robotů a umělé inteligence. Toto usnesení obzvláště zdůrazňuje, že pro zjištění a posouzení rizik, které by roboti mohli přinášet, je nutné provádět testování v reálných podmínkách.

Pravidla pro specifická využití robotů a umělé inteligence

Toto usnesení obsahuje ustanovení, která se mají uplatnit na specifické typy robotů. Pro autonomní vozidla, roboty využívané pro poskytování péče, lékařské roboty, „opravy“ a rozšiřování tělesných funkcí a drony by měla být přijata specifická pravidla.

Pravidla týkající se odpovědnosti

Rizika, která mohou vzniknout, jsou nerozlučně spojena s využíváním autonomních strojů v naší společnosti. Robotovo jednání potenciálně může mít občanskoprávní dopady, a to jak v rámci smluvní, tak mimosmluvní odpovědnosti. Je třeba vyjasnit odpovědnost za činy robotů a v konečném důsledku také otázku způsobilosti robotů a umělé inteligence k právním úkonům nebo jejich právního statusu s cílem zaručit transparentnost a právní jistotu pro výrobce i spotřebitele napříč Evropskou unií.

Parlament vyzývá Komisi, aby se při posuzování dopadu svých budoucích legislativních nástrojů věnovala také důsledkům všech možných právních řešení, jako jsou např. zavedení systému povinného pojištění a kompenzačního fondu.

Robotika a umělá inteligence v sociálních souvislostech

Rozvoj komunikace a interakce s roboty má potenciál hluboce ovlivnit fyzické a morální vztahy v naší společnosti. Je tomu tak obzvláště v případě robotů určených k péči o lidi, vůči nimž si obzvláště zranitelní lidé mohou vytvořit určité pocity a emoční vazbu, což může vyvolávat určité otázky týkající se lidské důstojnosti a dalších morálních hodnot.

Roboti a umělá inteligence již dnes ovlivňují oblasti vzdělávání a zaměstnání. Vzhledem k této situaci je nezbytné úzce sledovat vývojové trendy na trhu práce s cílem zabránit nežádoucím dopadům na tento trh.

Mezinárodní aspekty

Vzhledem k tomu, že k vývoji robotiky a umělé inteligence dochází na celém světě současně, je třeba zvážit možnost v případě potřeby pozměnit stávající mezinárodní dohody nebo vypracovat nové nástroje s cílem začlenit do příslušné úpravy specifické zmínky o robotice a umělé inteligenci, a případně dokonce převzít v této věci iniciativu. Mezinárodní spolupráce v této oblasti je velmi žádoucí.


STANOVISKO Výboru pro dopravu a cestovní ruch (16.11.2016)

pro Výbor pro právní záležitosti

obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku

(2015/2103(INL))

Navrhovatel: Georg Mayer

(Podnět – článek 46 jednacího řádu)

NÁVRHY

Výbor pro dopravu a cestovní ruch vyzývá Výbor pro právní záležitosti jako věcně příslušný výbor, aby do svého návrhu usnesení začlenil následující návrhy:

–  s ohledem na Amsterodamské prohlášení Rady ze dnů 14.–15. dubna 2016 o spolupráci v oblasti propojeného a automatizovaného automobilismu (dále jen „Amsterodamské prohlášení“),

A.  vzhledem k tomu, že Komise nedávno zřídila skupinu na vysoké úrovni nazvanou GEAR 2030, která dostala za úkol vypracovat cestovní mapu pro zavádění autonomních vozidel;

B.  vzhledem k tomu, že je třeba rozlišovat mezi automatizovanými vozidly (která zahrnují zařízení umožňující automatické provádění některých operací řízení vozidla) a autonomními vozidly (která provádějí všechny tyto operace); vzhledem k tomu, že v prvním uvedeném případě musí řidič řízení vozidla ustavičně monitorovat a za toto řízení plně zodpovídá, a v druhém případě již řízení nevyžaduje ustavičné monitorování ani žádné zákroky ze strany uživatele; vzhledem k tomu, že v prvním případě zůstává režim občanskoprávní odpovědnosti nezměněný ve srovnání s konvenčními vozidly, ve druhém případě však musí být přizpůsoben nové situaci;

1.  zdůrazňuje, že autonomní doprava zahrnuje všechny formy dálkově řízených, automatizovaných, propojených a autonomních dopravních prostředků, a to silničních, železničních, vodních či leteckých, včetně vozidel, vlaků, plavidel, trajektů, letadel, dronů a všech budoucích forem vývoje a inovací v tomto odvětví (dále jen „autonomní dopravní prostředky“);

2.  vyzývá Komisi, aby ve své práci týkající se autonomních dopravních prostředků zohlednila tyto aspekty: občanskoprávní odpovědnost (odpovědnost a pojištění), všechna témata spojená s životním prostředím (např. energetickou účinnost a využívání obnovitelných technologií a zdrojů energie) a otázky spojené s údaji (přístup k údajům, ochrana osobních údajů a soukromí, sdílení údajů o nehodách a o riziku, finanční hodnota údajů a její distribuce);

3.  zohledňuje, že autonomní dopravní prostředky mohou mít zásadní dopady na posilování bezpečnosti v dopravě, neboť v současnosti je přibližně 90 % silničních nehod způsobeno lidskou chybou; konstatuje nicméně, že autonomní vozidla nehody nebudou schopna zcela eliminovat, takže se kladou otázky ohledně odpovědnosti dotčených stran a odškodnění obětí v případě nehody;

4.  připomíná, že autonomní dopravní systémy již dlouho existují v sektoru veřejné dopravy (systémy metra) a prokázaly svou spolehlivost a vysokou úroveň přijatelnosti ze strany veřejnosti;

5.  domnívá se, že přechod na autonomní vozidla může kromě svých pozitivních dopadů na bezpečnost silničního provozu, spotřebu paliva, životní prostředí a tvorbu nových pracovních příležitostí v telekomunikacích a automobilovém průmyslu rovněž způsobit ztrátu pracovních míst v dopravě a mít určité dopady na pojišťovnictví;

6.  upozorňuje na skutečnost, že reakční doba řidiče v případě neplánovaného převzetí kontroly nad vozidlem má zásadní význam, a vyzývá tudíž k tomu, aby zúčastněné strany zajistily, že budou při řešení problémů spojených s bezpečností a odpovědností uplatňovány realistické hodnoty;

7.  zdůrazňuje, že návrh zprávy Výboru pro právní záležitosti je obzvláště důležitý pro odvětví dopravy, a to kvůli technologickému pokroku a s ohledem na skutečnost, že poloautonomní vozidla jsou již na trhu dostupná a plně autonomní vozidla již brzy dostupná budou;

8.  zdůrazňuje, že je důležité podporovat další inovace v robotice, jako jsou propojená a automatizovaná vozidla a drony, s cílem posílit celosvětovou tržní pozici unijního průmyslu;

9.  konstatuje, že autonomní dopravní prostředky hrají významnou úlohu v rozvoji udržitelné dopravy; konstatuje, že autonomní dopravní prostředky by mohly pomoci omezit dopravní přetížení, a vyzývá Komisi a členské státy, aby plně a včas zohledňovaly technologický pokrok a environmentální a bezpečnostní dopady a podporovaly inovace;

10.  očekává, že Komise zaručí, aby členské státy jednotným způsobem přizpůsobily stávající právní předpisy (jako je např. Vídeňská úmluva o silničním provozu ze dne 8. listopadu 1968) s cílem učinit vozidla bez řidiče možnými, a vyzývá Komisi, členské státy a průmysl, aby co nejdříve realizovaly cíle Amsterodamského prohlášení;

11.  naléhavě vybízí Komisi, aby vypracovala hodnocení bezpečnostních otázek spojených s širokým využíváním dronů; vyzývá Komisi, aby vypracovala studie dopadu autonomních dopravních prostředků na posilování bezpečnosti a udržitelnosti dopravy;

12.  upozorňuje na skutečnost, že autonomní vozidla napomohou zlepšování environmentálních podmínek, zejména v případě městských uzlů, díky optimalizaci silnic, boji proti dopravním zácpám, optimalizaci využívání pohonných systémů a komunikaci vozidel se systémy kontroly dopravních toků;

13.  zdůrazňuje, že interakce mezi autonomními dopravními prostředky, řízením dopravy, infrastrukturou a jejím řízením si bude vyžadovat vysokou hustotu účinných a spolehlivých komunikačních prostředků umožňující bezpečně přenášet velké objemy dat v reálném čase; zdůrazňuje, že bude nezbytné výrazně investovat do silniční, energetické a IKT infrastruktury a současně zajistit ochranu soukromí a osobních údajů;

14.  zdůrazňuje význam inteligentní a propojené dopravní infrastruktury, a vyzývá tudíž Komisi a členské státy, aby zavedly odpovídající komplexní, přeshraniční a interoperabilní infrastrukturu;

15.  vyzývá Komisi, aby navrhla specifický režim občanskoprávní odpovědnosti (zahrnující otázku důkazního břemene), který by odpovídal vývoji autonomních vozidel; zdůrazňuje, že je důležité jednoznačně rozlišovat odpovědnost konstruktérů, výrobců jednotlivých dílů a provozů, v nichž se autonomní vozidla montují, poskytovatelů služeb (dopravních služeb nebo služeb nezbytných pro provoz autonomních vozidel) a konečných uživatelů s cílem zaručit bezpečnost a práva pasažérů, ochranu údajů a ochranu proti pirátství;

16.  poukazuje na zásadní význam, který mají spolehlivé informace určující polohu a čas, jež poskytují programy EU v oblasti družicové navigace Galileo a EGNOS, na jedné straně pro zavádění autonomních vozidel, a obzvláště pro navigační a bezpečnostní systémy v těchto vozidlech, a pro inteligentní dopravní systémy a systémy řízení provozu na straně druhé;

17.  upozorňuje na vysokou přidanou hodnotu, již přinášejí autonomní vozidla pro osoby se sníženou pohyblivostí díky tomu, že těmto osobám umožňují účinněji se podílet na individuální silniční dopravě, a usnadňují tak jejich každodenní život;

18.  vyzývá Komisi, aby do roku 2019 navrhla společnou evropskou strategii (včetně jednotné cestovní mapy) pro autonomní dopravní prostředky a pro užší spolupráci všech relevantních zainteresovaných stran, včetně důkladné analýzy a doporučení týkajících se dynamiky a rozvoje dotčeného trhu; vyzývá Komisi, aby přezkoumala a v případě potřeby přizpůsobila unijní regulační rámec s cílem podpořit rozvoj a využívání autonomních a propojených vozidel; naléhavě vyzývá k co nejrychlejšímu dokončení a vypuštění družic, které jsou potřebné pro dokončení evropského systému pro určování polohy Galileo, aby mohl být tento systém používán jakožto výchozí polohovací systém v autonomních dopravních prostředcích;

19.  konstatuje, že rozvoj autonomních vozidel si vyžaduje proaktivní a angažovaný institucionální přístup ze strany Unie a členských států a také zapojení technologických středisek a automobilového průmyslu;

20.  vyzývá Komisi, aby vypracovala evropské standardy pro infrastrukturu s cílem umožnit šíření autonomních vozidel a také cestovní mapu pro jejich provádění;

21.  vyzývá Komisi a členské státy, aby do základního a pokročilého školení řidičů těžkých nákladních vozidel zahrnuly využívání automatizovaných vozidel a aby z něj také učinily součást povinné přípravy na získání řidičského průkazu;

22.  připomíná, že opatření stanovená v nařízení Evropského parlamentu a Rady (ES) č. 216/2008(1) by měla zaručit jednotnost a bezpečnost bezpilotních letounů;

VÝSLEDEK KONEČNÉHO HLASOVÁNÍVE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

10.11.2016

 

 

 

Výsledek konečného hlasování

+:

–:

0:

22

5

0

Členové přítomní při konečném hlasování

Daniela Aiuto, Marie-Christine Arnautu, Georges Bach, Izaskun Bilbao Barandica, Deirdre Clune, Michael Cramer, Luis de Grandes Pascual, Andor Deli, Karima Delli, Jacqueline Foster, Bruno Gollnisch, Merja Kyllönen, Peter Lundgren, Marian-Jean Marinescu, Cláudia Monteiro de Aguiar, Renaud Muselier, Markus Pieper, Salvatore Domenico Pogliese, Massimiliano Salini, Claudia Schmidt, Jill Seymour, Pavel Telička, Wim van de Camp, Roberts Zīle, Elżbieta Katarzyna Łukacijewska

Náhradníci přítomní při konečném hlasování

Ramona Nicole Mănescu, Matthijs van Miltenburg

(1)

Nařízení Evropského parlamentu a Rady (ES) č. 216/2008 ze dne 20. února 2008 o společných pravidlech v oblasti civilního letectví a o zřízení Evropské agentury pro bezpečnost letectví, kterým se ruší směrnice Rady 91/670/EHS, nařízení (ES) č. 1592/2002 a směrnice 2004/36/ES (Úř. věst. L 79, 19.3.2008, s. 1).


STANOVISKO Výboru pro občanské svobody, spravedlnost a vnitřní věci (23.11.2016)

pro Výbor pro právní záležitosti

obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku

(2015/2103(INL))

Navrhovatel: Michał Boni

(Podnět – článek 46 jednacího řádu)

(*)  Přidružený výbor – článek 54 jednacího řádu

NÁVRHY

Výbor pro občanské svobody, spravedlnost a vnitřní věci vyzývá Výbor pro právní záležitosti jako věcně příslušný výbor:

–  aby do svého návrhu usnesení začlenil následující návrhy:

A.  vzhledem k tomu, že technologický pokrok v oblasti robotiky bude prospěšný pro hospodářství Unie i pro každodenní život jednotlivců, ale může být také spojen s riziky, která je nutno řešit; vzhledem k tomu, že při vývoji všech nových technologických a výrobních paradigmat, ať už v rámci programu Horizont 2020 nebo mimo něj, musí být dodržovány etické zásady a řádně zohledněna základní práva zakotvená v Listině základních práv (dále jen „Listina“);

B.   vzhledem k tomu, že řada třetích zemí přijala v oblasti robotiky pokyny a právní předpisy, přičemž několik členských států začalo s konkrétními úvahami na toto téma; vzhledem k tomu, že regulační rámec upravující na úrovni Unie vyvíjení a použití robotiky a umělé inteligence a vycházející ze stávajících předpisů, jako je obecné nařízení Unie o ochraně osobních údajů(1), by mohl zabránit fragmentaci předpisů na jednotném trhu a posílit ochranu základních práv všech občanů EU týkajících se lidské důstojnosti, soukromí a rodinného života, ochrany osobních údajů a duševního vlastnictví, svobody projevu a informací, rovnosti a zákazu diskriminace, solidarity a občanských práv a spravedlnosti a rovněž bezpečnosti, přičemž by se řídil zásadou proporcionality;

Etické zásady

1.  domnívá se, že stávající právní rámec Unie by měl být aktualizován a případně doplněn o hlavní etické zásady pro vývoj, technické provedení, testování a využívání robotů a umělé inteligence, aby bylo zajištěno, že tyto technologie mohou skutečně zlepšit kvalitu lidského života; vyzývá k tomu, aby byla při vyvíjení a používání těchto technologií vždy zohledňována zásada předběžné opatrnosti;

2.  je přesvědčen, že robotika a umělá inteligence, především v případech, kdy se jedná o stroje se zabudovanou autonomií, které dokáží samostatně získávat, shromažďovat a sdílet citlivé informace s různými zúčastněnými stranami a jsou schopné samostatného učení či dokonce dosažení stupně sebemodifikace, by měly podléhat pečlivě formulovaným konceptuálním zákonům a zásadám, jako je např. zásada, podle níž nesmí robot zabít člověka ani mu ublížit a musí uposlechnout příkazů člověka a být jím ovládán; nebo zásada, podle níž proces, při kterém roboty a umělá inteligence shromažďují, používají a zpracovávají osobní údaje, musí být transparentní a srozumitelný; je přesvědčen o tom, že tyto zásady by měly být technologicky neutrální a vycházet z empirického výzkumu; podporuje vývoj rámce standardní etiky pro výzkumníky, akademickou obec a inženýry, který zajistí, aby tato technologická řešení nebrzdila výzkum a technologický vývoj, ale byla v souladu se stávajícími unijními a vnitrostátními etickými postupy a kodexy i s právy a zásadami zakotvenými v Listině, které se týkají zejména lidské důstojnosti, respektování a ochrany soukromého a rodinného života, bezpečnosti, ochrany osobních údajů a duševního vlastnictví, svobody projevu a informací, rovnosti a zákazu diskriminace, solidarity a občanských práv a spravedlnosti, přičemž by se měl řídit zásadou proporcionality;

3.  je si vědom toho, že definování těchto zákonů a zásad a jejich uplatnění v praxi si žádá další výzkum v oblasti etiky umělé inteligence; domnívá se, že k formulaci etických pokynů a standardů, které budou orientované do budoucnosti a budou zohledňovat budoucí technologické změny, by mohla eventuálně přispět i Evropská skupina pro etiku ve vědě a nových technologiích;

4.  zdůrazňuje, že je třeba se zabývat psychologickými a společenskými dopady interakce mezi člověkem a roboty a duální povahou dopadu technologií na schopnosti člověka, přičemž je třeba věnovat zvláštní pozornost zranitelným skupinám, zejména dětem, aby se zabránilo vzniku škodlivé závislosti na robotech, například vyvoláním emoční reakce, nebo odtržení těchto osob od reality;

5.  zdůrazňuje, že robotika a umělá inteligence, zejména robotika používaná ve zdravotnictví, pečovatelství a domácnostech a kyberfyzikální systémy pro léčebné účely, jejichž určité prvky mohou být implantovány do lidského těla nebo na něm nošeny, budou mít značný dopad na lidský život, zejména u osob se zdravotním postižením; konstatuje proto, že je zásadní zajistit inkluzivní a spravedlivý přístup k těmto technologiím; dále upozorňuje na dopad takovéto robotiky na soukromí uživatelů vzhledem k jejich přístupu k tradičně chráněným prostorům a citlivým osobním údajům; je přesvědčen, že je nezbytné zajistit dodržování zásad lékařské etiky, bezpečnosti pacientů a integrity poskytované péče;

Ochrana soukromí a údajů

6.  opakuje, že právo na ochranu soukromého života a právo na ochranu osobních údajů (jak jsou zakotvena v článcích 7 a 8 Listiny a v článku 16 SFEU) se uplatňují na všechny oblasti robotiky a umělé inteligence a že musí být plně dodržován unijní právní rámec ochrany údajů; zdůrazňuje, že konstruktéři v oblasti robotiky a umělé inteligence nesou odpovědnost za to, že jimi vyvíjené výrobky budou bezpečné, spolehlivé a vhodné pro daný účel, a za dodržování postupů pro zpracovávání údajů v souladu s platnými právními předpisy a za důvěrnost, anonymitu, spravedlivé zacházení a náležitý postup;

7.  vyzývá Komisi, aby zajistila, že veškeré unijní právní předpisy týkající se robotiky a umělé inteligence budou zahrnovat opatření a pravidla zohledňující rychlý technologický vývoj v této oblasti, včetně vývoje kyberfyzikálních systémů, aby bylo zajištěno, že právní předpisy Unie nebudou zaostávat za vývojem a využíváním těchto technologií; zdůrazňuje, že je třeba zajistit, aby tyto právní předpisy byly v souladu s pravidly týkajícími se ochrany soukromí a údajů, tj. s pravidly týkajícími se informačních povinností, právem na objasnění rozhodnutí založeného na automatizovaném zpracování, požadavkem dodržovat zásadu ochrany soukromí již od návrhu (privacy by design) a ochrany soukromí jako standardního nastavení (privacy by default) a také zásadu proporcionality, nezbytnosti, minimalizace údajů a omezení účelu, ale také s pravidly týkajícími se transparentních kontrolních mechanismů pro subjekty údajů a úřady pro ochranu údajů a vhodných nápravných prostředků v souladu s platnými právními předpisy; vyzývá k tomu, aby byla revidována pravidla, zásady a kritéria týkající se používání kamer a čidel u robotů a zařízení disponujících umělou inteligencí s cílem zajistit, že budou v souladu s unijní právní úpravou ochrany údajů;

8.  vyzývá k uplatňování jednotného, horizontálního přístupu k robotice a umělé inteligenci v rámci unijního regulačního rámce, který bude technologicky neutrální a bude platit pro všechna odvětví, v nichž by se robotika mohla uplatňovat, jako je doprava, zdravotnictví, průmyslová výroba, telekomunikace, vymáhání práva a mnoho dalších; zdůrazňuje, že v případě potřeby by měl být stávající rámec aktualizován a doplněn, aby byla zajištěna stejná úroveň ochrany údajů, soukromí a bezpečnosti;

9.  zdůrazňuje význam předcházení hromadnému sledování prostřednictvím robotiky a technologií umělé inteligence;

10.  vyzývá Komisi a členské státy, aby prosazovaly silnou a transparentní spolupráci mezi veřejným a soukromým sektorem a akademickou obcí, což by posílilo sdílení znalostí, a aby podporovaly vzdělávání a odbornou přípravu konstruktérů v oblasti etických důsledků, bezpečnosti a dodržování lidských práv, ale také vzdělávání spotřebitelů zaměřené na použití robotiky a umělé inteligence, se zvláštním důrazem na bezpečnost a ochranu údajů;

Bezpečnost údajů, datových systémů a datových toků

11.  zdůrazňuje, že volný pohyb údajů je zásadní pro digitální ekonomiku a je klíčový pro rozvoj robotiky a umělé inteligence; zdůrazňuje, že vysoká úroveň bezpečnosti robotických systémů a systémů umělé inteligence jakožto celku, včetně jejich interních datových systémů a toků, je pro přiměřené využívání robotů a umělé inteligence klíčová; zdůrazňuje, že je nutné zajistit ochranu sítí vzájemně propojených robotů a umělé inteligence, aby se zabránilo možnému narušení bezpečnosti, kybernetickým útokům či zneužití osobních údajů, zejména v případě shromažďování a zpracovávání velkého množství údajů; zdůrazňuje, že je třeba navrhnout mechanismus, který uživateli umožní zastavit zpracovávání jeho údajů, pokud dojde k narušení bezpečnosti; zdůrazňuje význam činnosti v oblasti výzkumu a vývoje zaměřené na způsoby zabezpečení dat a poukazuje na společnou zodpovědnost veřejnosti a podniků v oblasti spolupráce, jejímž cílem je vysoká úroveň bezpečnosti a ochrany soukromých údajů při komunikaci mezi lidmi a roboty a umělou inteligencí a vysoká kvalita systémů pro rozpoznávání řeči a znakového jazyka; je přesvědčen o tom, že komerční výrobci hardwaru a softwaru by v případě zanedbání povinnosti z jejich strany vedoucího k závažnému narušení bezpečnosti měli nést důsledky; vyzývá Komisi a členské státy, aby podporovaly vývoj nezbytných technologií, včetně koncepce vestavěné bezpečnosti (security by design) a vhodných forem komunikace, a aby k tomuto účelu poskytovaly příslušné pobídky;

Drony (dálkově řízené letadlové systémy, RPAS)

12.  zdůrazňuje, že v případě, že systémy RPAS zpracovávají osobní údaje, ať už pro účely prosazování práva nebo pro jiné, zákonem dovolené účely ze strany soukromých či veřejných subjektů, uplatňují se právo na svobodu a bezpečnost a právo na ochranu soukromého života zakotvené v článcích 6 a 7 Listiny, právo na ochranu osobních údajů podle článku 8 Listiny 7 a článku 16 SFEU, a že musí být v plné míře dodržován unijní právní rámec ochrany údajů; vyzývá Komisi, aby posoudila, zda by systémy RPAS neměly být povinně vybaveny systémem sledovatelnosti a identifikace, jenž umožňuje zjistit pozici používaných RPAS v reálném čase;

13.  znovu vyzývá Radu, aby vypracovala striktní a účinný společný rámec EU pro používání dronů vybavených zbraněmi, jehož klíčovou součástí by bylo dodržování etických zásad, lidských práv a mezinárodního humanitárního práva a řešení otázek, jako je právní rámec, proporcionalita, odpovědnost, transparentnost a ochrana civilního obyvatelstva, včetně přijetí veškerých možných opatření, jejichž cílem by bylo zabránit tomu, aby nedocházelo k mylnému zacílení a působení újmy civilnímu obyvatelstvu, a zajištění toho, aby hlavní kontrolu a odpovědnost měla lidská bytost; opakuje svou výzvu k zavedení zákazu vývoje, výroby a používání plně autonomních zbraní, které umožňují vést útoky bez zásahu lidí; naléhavě žádá Komisi a členské státy, aby zahájily široký mezinárodní dialog s cílem stanovit globální právní standardy týkající se vývoje, šíření a používání stále více autonomních zbraňových systémů a právní a etická omezení v této oblasti, a to např. v podobě závazné mezinárodní dohody;

14.  konstatuje pozitivní vývoj technologie dronů, zejména v oblasti pátrání a záchrany, a domnívá se, že se jedná o směr, jímž by se Unie měla ubírat, pokud jde o rozvoj technologie dronů;

Kodex chování

15.  domnívá se, že v některých specifických oblastech, v nichž by podle relevantních studií nebylo zatím vhodné přijímat nové právní předpisy, je třeba, aby právní předpisy podpořil rámec právně nevynutitelných pravidel („soft law“), kodex chování či partnerství soukromého a veřejného sektoru, a to i třeba na úrovni Unie, s cílem zaručit spolupráci konstruktérů v průmyslu a robotice s veřejnými orgány a všemi ostatními zainteresovanými stranami; je přesvědčen, že tyto nástroje by se měly zaměřovat na praktické způsoby, jak zajistit soukromí, ochranu údajů, lidskou důstojnost, zákaz diskriminace, bezpečnost a etiku v průmyslovém odvětví robotiky a umělé inteligence, a to na každodenním základě.

VÝSLEDEK KONEČNÉHO HLASOVÁNÍ VE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

17.11.2016

 

 

 

Výsledek konečného hlasování

+:

–:

0:

47

0

2

Členové přítomní při konečném hlasování

Heinz K. Becker, Malin Björk, Michał Boni, Caterina Chinnici, Ignazio Corrao, Frank Engel, Tanja Fajon, Lorenzo Fontana, Mariya Gabriel, Kinga Gál, Ana Gomes, Nathalie Griesbeck, Sylvie Guillaume, Jussi Halla-aho, Monika Hohlmeier, Filiz Hyusmenova, Sylvia-Yvonne Kaufmann, Cécile Kashetu Kyenge, Marju Lauristin, Juan Fernando López Aguilar, Monica Macovei, Roberta Metsola, Claude Moraes, József Nagy, Péter Niedermüller, Judith Sargentini, Birgit Sippel, Branislav Škripek, Csaba Sógor, Helga Stevens, Traian Ungureanu, Bodil Valero, Harald Vilimsky, Josef Weidenholzer, Tomáš Zdechovský

Náhradníci přítomní při konečném hlasování

Daniel Dalton, Anna Hedh, Teresa Jiménez-Becerril Barrio, Ska Keller, Jeroen Lenaers, Andrejs Mamikins, Maite Pagazaurtundúa Ruiz, Christine Revault D’Allonnes Bonnefoy, Barbara Spinelli

Náhradníci (čl. 200 odst. 2) přítomní při konečném hlasování

Lynn Boylan, Verónica Lope Fontagné, Mylène Troszczynski, Tom Vandenkendelaere, Rainer Wieland

(1)

Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).


STANOVISKO Výboru pro zaměstnanost a sociální věci (9.11.2016)

pro Výbor pro právní záležitosti

k občanskoprávní úpravě v oblasti robotiky

(2015/2103(INL))

Navrhovatel: Ádám Kósa

(Podnět – článek 46 jednacího řádu)

NÁVRHY

Výbor pro zaměstnanost a sociální věci vyzývá Výbor pro právní záležitosti jako věcně příslušný výbor, aby do svého návrhu usnesení začlenil následující návrhy:

1.  Vyzývá Komisi, aby urychleně provedla důkladné posouzení vlivu robotiky na celou řadu různých druhů zaměstnání a na kvalitu a kompetenční profil stávajících pracovních míst a získala informace o nových formách zaměstnání, aby bylo možné co nejpřesněji předvídat, zda zaprvé rozšíření robotů samo o sobě přinese blahobyt a pokrok, pokud k němu dojde v situaci, kdy v rámci tradiční struktury výroby a poskytování služeb už nebude zapotřebí lidská práce, a pokud ano, jaké podmínky kromě materiálního zabezpečení je nutné zajistit k tomu, aby lidé byli i nadále zdraví (ve smyslu duševní a fyzické pohody), šťastní a aktivní, a zda teoretické výhody symbiózy mezi lidmi a stroji účinně přispívají k zajištění dobrých životních podmínek a rozvoje, a zadruhé zda mohou právní předpisy a praxe členských států zajistit na měnícím se pracovním trhu sociálně spravedlivý, inkluzivní a udržitelný způsob omezování nerovností, chudoby a sociálního vyloučení a vytvoření prostředí, v němž by všichni lidé měli rovné příležitosti k rozvoji svého talentu, svých dovedností a své individuality;

2.  zdůrazňuje, že zatímco dochází k urychlenému rozvoji robotiky a umělé inteligence, je nutné utvářet směr tohoto vývoje a předvídat jeho možné důsledky, pokud jde o politiku zaměstnanosti a sociální politiku, protože rozšířené celosvětové používání robotiky při výrobě zboží a poskytování služeb vede k vyšší produktivitě, které lze dosáhnout s omezenými lidskými zdroji, v důsledku čehož dojde v budoucích deseti letech k úplnému zrušení některých míst a k ohrožení jiných; proto vyzývá Komisi, aby provedla analýzu problémů a možností v oblasti zaměstnanosti a aby vypracovala metodu, který by umožnila sledovat počet a povahu pracovních míst, která zanikla a vznikla v důsledku robotizace a automatizace, a dopad tohoto fenoménu na příjmy, o něž přišly systémy sociálního pojištění; vyzývá dále Komisi, aby pravidelně ve spolupráci se sociálními partnery hodnotila, nakolik by bylo možné omezit počet týdenních, ročních a celoživotních pracovních hodin, aniž by to znamenalo ztrátu příjmů, aby se začala zabývat novými finančními možnostmi budoucích systémů sociální ochrany a aby uvažovala nad tím, jakým způsobem jsou pracovníci zapojeni do své práce a jak by mohly digitální pracovní platformy přispět k rozvíjení vztahů mezi jednotlivci a týmy a k propojení projektů;

3.  poukazuje na to, že robotizace vede na jedné straně ke ztrátě velkého počtu pracovních míst a na druhé straně ke ztrátě jednotlivých pracovních míst v mnoha oblastech, že však zvýšení produktivity by se mohlo využít k financování dorovnávání platů;

4.  domnívá se, že roboty je nutné navrhovat za pomocí procesů, které zajišťují kontrolu lidí nad nimi a vratnost činnosti robotů, a že vzhledem ke stále větší autonomii robotů by měl být jejich vývoj doprovázen novelizací předpisů týkajících se odpovědnosti za důsledky jejich činnosti nebo nečinnosti; je znepokojen tím, že neexistuje obecný rámec a právní předpisy týkající se automatizace práce v rámci této nové probíhající průmyslové revoluce, a považuje za velmi důležité, aby Unie vymezila právní rámec, který by odpovídal složitosti robotiky a šíři jejích sociálních dopadů; vyzývá proto Komisi, aby navrhla obecnou definici chytrých autonomních robotů a jejich dílčích kategorií na pracovišti a aby uvažovala nad výhodami a nevýhodami povinného pojištění, které by se vztahovalo na možnou škodu způsobenou roboty a na jejich případné poruchy;

5.  zdůrazňuje, že systémy všeobecného a odborného vzdělávání se musejí přizpůsobit změnám profesí a změnám ve způsobu výroby a klást větší důraz na pracovní místa s tvůrčím a měnícím se obsahem, aby byla zachována hodnota lidské práce a aby byly všechny generace vybaveny veškerými nástroji, které potřebují k tomu, aby se mohly ve světě, který se v důsledku robotizace a automatizace neustále mění, co nejlépe připravit na vstup na pracovní trh; poukazuje na to, že dovednosti je nutné využívat flexibilně, a považuje za důležité, aby se v rámci vzdělávacího procesu získávaly dovednosti na celý život a sociální dovednosti; je přesvědčen o tom, že kromě toho, že děti získají ve škole akademické znalosti, musejí se naučit kriticky přemýšlet, aby byly schopny pochybovat a přijímat informovaná rozhodnutí, získat tvůrčí schopnosti, které by jim umožnily realizovat své nápady a získat smysl pro iniciativní jednání, a že celoživotní vzdělávání je nutné získat na základě celoživotní činnosti; poukazuje na zásadní význam digitálních dovednosti, protože rychlá automatizace a digitalizace práce a služeb, jíž jsme dnes svědky, vyžaduje získávání digitálních dovednosti a schopností, aby byla zajištěna vysoká míra zaměstnanosti, aby bylo možné bojovat proti rostoucí digitální negramotnosti a s ní spojenému riziku sociálního vyloučení; zdůrazňuje, že zvláštní pozornost je nutné věnovat digitalizaci výuky a využívání robotizace v oblasti vzdělávání a výuky, aniž by docházelo k zanedbávání humanitních oborů, které vychovávají k tvořivosti a vynalézavosti a umožňují lidem získat umělecké a kulturní dovednosti, které jim na měnícím se pracovním trhu umožní zachovat si komparativní výhodu vůči strojům;

6.  připouští, že robotika poskytuje značný potenciál z hlediska podpory a usnadnění každodenního života především u lidí se zdravotním postižením a starších lidí a může zásadním způsobem přispět k tomu, aby mohli sami rozhodovat o svém životě a aby se zapojili do pracovního trhu, domnívá se, že je nutné se důkladně zabývat otázkou, jaké předpisy je zapotřebí zavést v oblasti zaměstnanosti s ohledem na pracovní sílu, pokud se v důsledku zdokonalování současných lidských schopností na základě umělých nebo genetických zásahů nebo jejich doplnění objeví lidé s mimořádnými schopnostmi, což povede k podstatné změně významu, pokud jde o pojem „zdravotní postižení“, a osobám, které budou mít přístup k těmto technickým inovacím, nástrojům a zásahům, to poskytne nespornou výhodu, což samozřejmě povede k etickým a morálním otázkám, jimiž bychom se měli důkladně zabývat;

7.  zdůrazňuje, že individuální rozhodnutí týkající se toho, zda souhlasit s implantátem, protézou nebo dokonalejší náhradou části těla, nebo zda je odmítnout, nesmí nikdy vést k nevhodnému zacházení s danou osobou nebo k vyhrožování, pokud jde o zaměstnání, vzdělání, zdravotní péči, sociální zabezpečení nebo o další výhody, a poukazuje na to, že možnost rovného a bezbariérového přístupu k novým technologiím musejí mít všichni občané; v této souvislosti upozorňuje na to, že vzhledem k tomu, že lidská důstojnost leží v centru unijního a mezinárodního práva v oblasti lidských práv, je důležité zjistit, jak by bylo možné zajistit, aby osoby, které zatím nejsou považovány za osoby se zdravotním postižením, nebyly ve srovnání s „osobami s rozšířenými schopnostmi“ znevýhodněny stejným způsobem jako osoby s duševním postižením, zda by osoby s duševním postižením nemohly přijímat nezávislá rozhodnutí na základě příslušné podpory při rozhodování, kterou by jim poskytovali roboti, jak je uvedeno v Úmluvě o právech osob se zdravotním postižením, a jak by se měla mezi ně rozdělit odpovědnost za toto rozhodování;

8.  poukazuje nicméně na to, že s používáním robotů jsou spojena rizika, která je třeba pečlivě zvážit a srovnat s výhodami, jež roboti mohou přinést; je třeba brát v potaz pracovní úrazy způsobené roboty a s nimi související nároky na náhradu škody; ačkoliv robotická technika určená k nošení, například exoskelety, které zajišťují ochranu před pracovními úrazy, mohou zvýšit produktivitu, mohly by vést k vyšším nárokům zaměstnavatelů na pracovníky a tudíž i většímu riziku pracovních úrazů; poukazuje na to, že k tomu musejí přihlédnout mj. tvůrci právních předpisů, zaměstnavatelé, odbory a zaměstnanci ve svých interních předpisech a kolektivních smlouvách a že další rizika spojená s roboty se mohou týkat oblasti zákazu diskriminace, např. pokud by po pohovoru došlo k neúmyslné analýze získaných údajů; konstatuje, že v důsledku používání robotů by mohlo dojít k dalším problémům v oblasti obchodu a ochrany soukromí;

9.  zdůrazňuje, že s ohledem na již tak prohlubující se rozdíly ve společnosti, v níž slábne střední třída, je důležité uvědomit si, že rozvoj robotiky může vést k vyšší koncentraci bohatství a vlivu v rukou menšiny;

10.  konstatuje, že technický pokrok měl vliv na politiku zaměstnanosti a sociální politiku a že probíhající robotizace zásadně změnila způsob, jakým lidé získávají a poskytují informace, komunikují, stýkají se s ostatními a pracují, přičemž vytváří nové příležitosti, ale i problémy, a otevírá nové možnosti tím, že zřejmě zvyšuje účinnost naší činnosti, vede k úsporám energie a materiálů; poukazuje na to, že zatímco robotika a umělá inteligence nabízí z krátkodobého a střednědobého hlediska skutečné výhody, pokud jde o účinnost a úspory nejen v oblasti výroby a obchodu, ale také v oblastech, v nichž je díky lidské interakci, inteligenci a tvořivosti obtížné dosáhnout automatizace a které proto mohli dosud zajišťovat pouze lidé, jako např. v oblastech, v nichž je někdy zaměstnáno velké množství lidí s nízkou kvalifikací, může existovat riziko, že v oblasti robotiky nebude možné zajistit tolik pracovních míst, kolik jich v oblastech, jako je doprava, logistika a kancelářské práce, podle očekávání zanikne; vyzývá proto Komisi a členské státy, aby ve spolupráci se sociálními partnery a případně s regionálními a místními orgány vypracovaly nové mechanismy ochrany, které by dopovídaly pracovním a kariérním vzorcům, jež vznikly na základě digitalizace a intenzivnějšího využívání robotiky, a aby všem příslušným osobám nabídly vhodné všeobecné a odborné vzdělávání;

11.  zdůrazňuje, že v důsledku rozvoje a používání robotiky a umělé inteligence by mohl rozdíl mezi vytvářením a zánikem pracovních míst mít vliv na finanční udržitelnost systémů sociálního zabezpečení, důchodového pojištění a pojištění pro případ nezaměstnanosti fungujících v členských státech, a poukazuje na to, že střednědobý a dlouhodobý pokles zaměstnanosti v důsledku robotizace by mohl být rovněž spojen s rizikem poklesu spotřební kapacity; zdůrazňuje, že většina výhod plynoucích z automatizace a robotizace v oblasti zaměstnanosti by neměla souviset pouze se snižováním nákladů na pracovní sílu, ale i se zvyšováním produktivity v důsledku menší chybovosti, většího objemu produkce a vyšší kvality, bezpečnosti a rychlosti; vyzývá Komisi a členské státy, aby při úpravě regulačního rámce v oblasti robotiky a digitálního hospodářství konzultovaly se sociálními partnery a aby je zapojily do příslušné diskuze, aby bylo možné zjistit případná pracovní zdravotní a bezpečnostní rizika spojená s technickými inovacemi a přijmout proti nim příslušná opatření, a aby prozkoumaly možnost zřídit před zavedením robotů a využíváním jejich přínosu k obratu podniků systém oznamování, který by sloužil pro účely zdaňování a odvádění příspěvků na sociální zabezpečení;

12.  vyzývá Komisi, aby předložila pokyny k přijetí etických a sociálních zásad, jež by doplňovaly budoucí předpisy v oblasti robotiky, a to zejména s cílem stanovit progresivní normy, které by odpovídaly budoucímu technickému rozvoji;

13.  poukazuje na tzv. „crowdworking“; vyzývá Komisi, aby prozkoumala tuto novou formu zaměstnání a prostudovala, do jaké míry bude nutné upravit systémy sociálního zabezpečení a platné pracovní právo, aby byla osobám pracujícím formou „crowdworkingu“ zajištěna patřičná ochrana;

14.    zdůrazňuje, že ačkoliv není možné brzdit technický pokrok, stávající generace má možnost formovat jeho průběh a má současně i odpovědnost za toto formování, a může tak zajistit, aby byl přínosný pro lidi a celou planetu; domnívá se, že Evropská unie by měla podporovat integrovanou strategii v takových oblastech politiky, jako je sociální zabezpečení, hospodářský růst a technika, aby byla na špici celosvětového rozvoje; vyzývá členské státy a Komisi, aby se podrobně zabývaly důsledky většího používání robotických systémů na pracovní místa v blízké budoucnosti a vytvořily pro tuto situaci právní předpisy, jejichž cílem by bylo zajistit co nejplynulejší technickou transformaci z hlediska zaměstnanců, a je pevně přesvědčen o tom, že je naléhavě nutné odpovědět na otázku, zda budou v důsledku dalšího rozvoje robotiky a méně nákladných řešení existovat zaměstnání, která budou lidé ze zákona moci vykonávat pouze omezeně vzhledem ke škodlivosti práce anebo její nebezpečnosti pro lidské zdraví (jako je tomu u předpisů, které v současnosti platí pro těhotné ženy) nebo z jiných důvodů, a také na otázku, v kterých oblastech lze v zájmu zaručení bezpečnosti a dodržování základních práv, která jsou ohrožena rostoucí automatizací celých průmyslových odvětví, omezit nebo zakázat plnou automatizaci vzhledem k demografickým změnám a udržitelnosti a k nezamýšleným důsledkům pro společnost;

15.  domnívá se, že s ohledem na tempo technického rozvoje by naším záměrem mělo být vypracovat v dohledné době právní předpisy pro oblast robotiky; zastává rovněž názor, že právní předpisy by měly splňovat svůj účel, aby bylo možné reagovat na vědeckotechnický rozvoj; domnívá se, že je nezbytné předvídat rozvoj nových odvětví ekonomiky, která by mohla vzniknout na základě dalšího rozvoje robotiky a umělé inteligence; poukazuje však na to, že roboti nejsou jen pracovním nástrojem, ale stále častěji jednají v rámci výroby zboží a poskytování služeb samostatně, a proto vyzývá k vytvoření komplexních ochranných systémů, které by zajistily řádnou ochranu bezpečnosti a zdraví pracovníků, kteří pracují společně s roboty a jinými formami umělé inteligence, a k vypracování předpisů týkajících se odpovědnosti, které by zajistily, že se budou škody způsobené autonomními roboty vyřizovat ve prospěch zaměstnanců; vyzývá EU a členské státy, aby vybízely k co nejrychlejšímu zahájení strukturovaného veřejného dialogu o důsledcích rozvoje těchto technologií, a vyzývá subjekty podílející se na výzkumu v oblasti robotiky a umělé inteligence, aby k předmětu svého zkoumání přistupovaly kriticky a poskytovaly konstruktivní podněty pro veřejný dialog;

16.  zdůrazňuje, že veškerá zpracovatelská činnost prováděná robotickými systémy a systémy umělé inteligence musí být v naprostém souladu s právními předpisy Unie o ochraně údajů a musí zajišťovat ochranu soukromí jednak na základě konstrukčního návrhu a jednak na základě standardních zásad této ochrany;

17.  poukazuje na to, že robotizace přináší výbornou příležitost zavést do Unie opět výrobní průmysl, a vytvořit tak nové pracovní příležitosti, zejména pro pracovníky s nízkou kvalifikací;

18.  domnívá se, že používání robotů ve výrobě s sebou nese závažné otázky týkající se bezpečnosti a ochrany zdraví na pracovišti; poukazuje na to, že na jedné straně může robotizace snížit fyzickou zátěž pracovníků, ale na druhé straně může vést k vyšší psychické zátěži s ohledem na větší odpovědnost jednotlivce v rámci složitějších výrobních procesů; vyzývá Komisi a její agentury, zejména Evropskou agenturu pro bezpečnost a ochranu zdraví při práci, aby prozkoumaly vliv digitalizace, robotiky a umělé inteligence na psychickou zátěž a aby navrhly, jak proti tomuto problému bojovat; žádá, aby zaměstnanci měli vždy možnost aktivně se podílet na utváření svého pracovního prostředí a aby byli do řešení této problematiky na každé úrovni zapojeni sociální partneři a odbory;

19.  poukazuje na vědecké studie, které zjistily, že při pokusech o vytvoření právní úpravy v oblasti využívání robotů se objevují čtyři hlavní problémy: prostor pro vlastní uvážení, pokud jde o platformy a výrobce podílející se na vývoji a výzkumu umělé inteligence, který nemusí být regulátorům vždy zjevný, rozptýlenost, k níž dochází, když systémy umělé inteligence vyvíjejí týmy výzkumných pracovníků, které nespojuje stejná organizace ani jurisdikce a navíc ani zeměpisná blízkost, vlastní uvážení souvisí s tím, že v systémech umělé inteligence by se mohla vyskytnout celá řada zvláštních, samostatných a již existujících hardwarových i softwarových komponentů, poukazuje na to, že je možné, že až do chvíle, kdy jsou všechny tyto komponenty spojeny, nemusí být zřejmé, jaký to bude mít výsledek, což může znamenat, že způsob fungování systémů umělé inteligence je méně transparentní než dříve používané technologie; podotýká, že to může pro regulátory představovat problém, neboť není dostatečně jasné, jaké problémy mohou takové systémy způsobovat a jak takové problémy řešit.

VÝSLEDEK KONEČNÉHO HLASOVÁNÍVE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

8.11.2016

 

 

 

Výsledek konečného hlasování

+:

–:

0:

36

7

9

Členové přítomní při konečném hlasování

Laura Agea, Guillaume Balas, Brando Benifei, Vilija Blinkevičiūtė, Enrique Calvet Chambon, David Casa, Ole Christensen, Martina Dlabajová, Lampros Fountoulis, Arne Gericke, Sergio Gutiérrez Prieto, Marian Harkin, Danuta Jazłowiecka, Agnes Jongerius, Rina Ronja Kari, Jan Keller, Ádám Kósa, Jean Lambert, Patrick Le Hyaric, Jeroen Lenaers, Verónica Lope Fontagné, Javi López, Morten Løkkegaard, Thomas Mann, Dominique Martin, Anthea McIntyre, Joëlle Mélin, Elisabeth Morin-Chartier, Emilian Pavel, João Pimenta Lopes, Georgi Pirinski, Marek Plura, Terry Reintke, Sofia Ribeiro, Maria João Rodrigues, Claude Rolin, Sven Schulze, Siôn Simon, Jutta Steinruck, Yana Toom, Renate Weber, Tatjana Ždanoka, Jana Žitňanská

Náhradníci přítomní při konečném hlasování

Daniela Aiuto, Georges Bach, Amjad Bashir, Heinz K. Becker, Csaba Sógor, Helga Stevens, Neoklis Sylikiotis, Flavio Zanonato

Náhradníci (čl. 200 odst. 2) přítomní při konečném hlasování

David Coburn


STANOVISKO Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin (14.10.2016)

pro Výbor pro právní záležitosti

obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku

(2015/2103(INL))

Navrhovatel: Cristian-Silviu Buşoi

(Podnět – článek 46 jednacího řádu)

NÁVRHY

Výbor pro životní prostředí, veřejné zdraví a bezpečnost potravin vyzývá Výbor pro právní záležitosti jako věcně příslušný výbor:

–  aby do svého návrhu usnesení začlenil následující návrhy:

A.  vzhledem k tomu, že stárnutí populace je výsledkem vyšší střední délky života, jíž bylo dosaženo díky zlepšení životních podmínek a pokroku v moderní medicíně, a je jednou z největších politických, sociálních a hospodářských výzev, před nimiž stojí evropské společnosti ve 21. století; vzhledem k tomu, že do roku 2025 dosáhne více než 20 % Evropanů věku 65 a více let, přičemž obzvlášť rychle poroste počet osob starších 80 let, což způsobí v naší společnosti podstatně jiný poměr mezi generacemi, a vzhledem k tomu, že je v zájmu společnosti, aby starší lidé zůstali co nejdéle zdraví a aktivní;

B.  vzhledem k významnému nárůstu výroby a prodeje robotů mezi lety 2010 a 2014, přičemž jen v roce 2014 došlo k téměř 30 % nárůstu, a to především v sektorech zdravotnictví a pečovatelských služeb;

C.  vzhledem k tomu, že ve společnosti, která stárne, se zvyšuje prevalence a incidence zdravotních postižení, chronických nemocí, rizika mrtvice, poranění mozku a poklesu schopností;

D.  vzhledem k tomu, že společnosti a systémy zdravotnictví se budou muset přizpůsobit procesu stárnutí a požadavkům na zdravotní péči o starší osoby, aby mohly poskytovat přiměřenou péči a zůstat finančně udržitelné;

E.  vzhledem k tomu, že kyberneticko-fyzikální systémy jsou technické systémy síťově propojených počítačů, robotů a umělé inteligence, které komunikují s reálným světem a mají řadu způsobů uplatnění ve zdravotnickém odvětví;

F.  vzhledem k tomu, že povaha kyberneticko-fyzikálních systémů vyžaduje specifické, podrobnější normy, které by byly v celé Unii stejné;

G.  vzhledem k tomu, že tyto systémy poskytnou základ pro vznikající a budoucí inteligentní služby a přinesou pokrok v oblasti personalizované zdravotní péče, reakce na mimořádné události a telemedicíny;

H.  vzhledem k tomu, že v žádném případě nesmí docházet k tomu, aby používání diagnostických nebo terapeutických nástrojů ve formě robotů nebo pokročilé techniky vedlo ke zvyšování odpovědnosti lékařů a zdravotnických pracovníků, po nichž se požaduje, aby je používali; vzhledem k tomu, že se v tomto smyslu považuje za vhodné zvýšit odpovědnost příslušných zdravotnických zařízení nebo výrobců;

I.  vzhledem k tomu, že hospodářský a společenský potenciál kyberneticko-fyzikálních systémů je podstatně vyšší, než bylo dříve představitelné, a po celém světě se uskutečňují velké investice do vývoje této technologie;

J.  vzhledem k tomu, že používání této technologie nesmí omezovat nebo poškozovat vztah mezi lékařem a pacientem, nýbrž musí lékaři poskytovat pomoc při diagnostice, příp. léčbě pacienta;

K.  vzhledem k tomu, že kyberneticko-fyzikální systémy vzbuzují velká očekávání a mají velký potenciál, nicméně účinky nově zavedených technologií nelze nikdy zcela předvídat a jejich úspěšnou integraci lze zajistit pouze pokud společnost bude schopna přizpůsobit se novému způsobu interakce s technologií;

1.  uznává, že zavedení nových technologií do oblasti zdravotní péče – za předpokladu, že bude upřednostňován vztah mezi pacientem a lékařem a svobodná vůle – přinese pravděpodobně velký užitek, pokud jde o péči o pacienty, účinnost a přesnost léčby a úsilí o snížení rizika lidské chyby, což povede k vyšší kvalitě života a prodloužení střední délky života;

2.  je toho názoru, že ačkoli robotika může být společensky přínosná, může současně dramaticky změnit způsob, jakým spolu lidé komunikují, a může tudíž mít skutečný dopad na stávající společenské struktury; proto zdůrazňuje naléhavou potřebu široké a fundované veřejné diskuse na téma této nové technické revoluce;

3.  domnívá se, že je nezbytné, aby Unie vytvořila regulační rámec, který by se zakládal na etických zásadách, jež by odrážely složitost robotické problematiky a celé řady nejrůznějších vlivů, které má v sociální, zdravotní a bioetické oblasti;

4.  zdůrazňuje, že inovace umožňující přesnější stanovování diagnóz a lepší vhled do možností léčby, péče a rehabilitace vedou k přesnějším lékařským rozhodnutím a rychlejšímu zotavení, a mohly by proto zmírnit nedostatek zdravotníků v oblasti péče a rehabilitace;

5.  zdůrazňuje, že nárůst poptávky po jednotkách kyberneticko-fyzikálních systémů představuje potenciál pro vznik velkého počtu vysoce kvalifikovaných pracovních míst v Unii;

6.  považuje za užitečné, aby přítomnost robotů pomáhala lékařům a ošetřovatelům v jejich práci s cílem zlepšit lidské zkušenosti s diagnostikou a léčbou, aniž bychom přitom zapomínali na nutnost zabránit tomu, aby došlo k dehumanizaci léčby a péče o pacienty;

Roboti v pečovatelských službách

7.  konstatuje, že kyberneticko-fyzikální systémy mohou změnit životy lidí trpících zdravotním postižením k lepšímu, neboť inteligentní technologie lze využít k prevenci, asistenci, monitorování a jako doprovod;

8.  podotýká, že kyberneticko-fyzikální systémy budou mít pravděpodobně nesmírný vliv na odvětví zdravotní péče a mají potenciál snížit celkové náklady na tuto péči, což umožní zdravotnickým pracovníkům více se zaměřit na prevenci spíše než na léčbu;

9.  zdůrazňuje, že výzkum a vývoj robotů pro péči o seniory se časem stal rozšířenějším a levnějším a jeho výsledkem jsou funkčnější produkty s širším přijetím ze strany spotřebitelů; bere na vědomí širokou škálu využití těchto technologií, které poskytují prevenci, asistenci, monitorování, stimulaci a doprovod starším lidem a lidem trpícím demencí, kognitivními poruchami či ztrátou paměti;

10.  zdůrazňuje, že i když kyberneticko-fyzikální systémy mají potenciál posílit mobilitu a sociální kontakt lidí se zdravotním postižením a seniorů, lidští pečovatelé zůstanou nadále potřební a budou pro tyto lidi nadále důležitým zdrojem sociální interakce, který nebude možné zcela nahradit; konstatuje, že kyberneticko-fyzikální technologie či roboti mohou výrazně zlepšit lidskou péči a lépe zacílit proces rehabilitace, tak aby se zdravotníci a pečovatelé mohli intenzivněji věnovat stanovování diagnóz a hledání lepších léčebných možností;

Roboti ve zdravotní péči

11.  bere na vědomí, že rané typy robotů a inteligentních kyberneticko-fyzikálních zařízení se již ve zdravotní péči používají, například zařízení elektronického zdravotnictví a chirurgické roboty, a že tyto technologie se budou v blízké budoucnosti dále rozvíjet, neboť mají potenciál rovněž snižovat náklady na zdravotní péči tím, že umožňují zdravotnickým pracovníkům zaměřit pozornost na prevenci místo léčby a že díky nim bude možné použít více rozpočtových prostředků na lepší přizpůsobení se rozmanitosti potřeb pacientů, průběžnou odbornou přípravu zdravotníků a výzkum;

12.  zdůrazňuje, že zvýšené využívání kyberneticko-fyzikálních systémů by mohlo vést ke zdravější společnosti, jelikož léčebné postupy budou stále méně invazivní, a tedy se zkracuje i doba rekonvalescence a omezují absence v souvislosti se zdravotní péčí;

13.  podotýká, že robotické zdravotnické prostředky se i nadále vyvíjejí a budou se pravděpodobně stále častěji využívat při chirurgických zákrocích, což dále posune hranice lékařství;

14.  uznává, že chirurgické roboty byly koncipovány tak, aby rozšířily schopnosti lidských chirurgů nad rámec možností konvenční laparoskopie, a že vývoj chirurgických robotů vychází z přání tato omezení překonat a rozšířit přínosy minimálně invazivní chirurgie, precizních pohybů a přesnosti;

15.  zdůrazňuje, že kyberneticko-fyzikální systémy umožňují realizaci telechirurgie, která přináší mnoho výhod, jako je přesnější vedení ruky, odstranění chvění při pohybu ruky a přiblížený pohled, které může okamžitě analyzovat a vyhodnotit, a dále větší obratnost a operace na dálku, zároveň je však nutné stanovit základní povinnost, aby lékaři získali k provádění lékařských zákroků pomocí jednotlivých kyberneticko-fyzikálních systémů kvalifikaci a akreditaci;

16.  konstatuje, že v posledních letech došlo k významným změnám v oblasti zdravotnického vzdělávání a odborné přípravy; dále poznamenává, že s rostoucí složitostí zdravotní péče nabízí atmosféra v akademických zdravotních střediscích příležitost k posílení celostního přístupu ke zdraví a k přehodnocení způsobu, jakým je poskytováno zdravotnické vzdělání a celoživotní učení, přičemž zachovává klíčovou schopnost lékařů ponechat si odborné znalosti a autoritu nad roboty; žádá členské státy, aby prosazovaly přísné normy týkající se odborné přípravy a specializace lékařského a pomocného lékařského personálu, který používá nebo má v plánu používat nové robotické technologie, a aby povzbuzovaly volný pohyb chirurgů, kteří mají za účelem provádění operací v úmyslu tyto technologie používat;

17.  vyzývá Komisi a členské státy, aby posílily finanční nástroje, pomocí nichž jsou financovány výzkumné projekty v oblasti robotiky určené pro naléhavé sociální a zdravotnické případy;

18.  považuje za velmi důležité dodržovat zásadu autonomní činnosti robotů pod dohledem, tak aby počáteční plánování léčby a konečný výběr při jejím poskytování vždy zůstávaly na rozhodnutí lidského chirurga;

Klinická hodnocení a zkoušky

19.  zdůrazňuje, že zdravotnické kyberneticko-fyzikální systémy by měly splňovat přísné normy pro zdravotnické vybavení, a to pomocí účinných postupů ověřování a certifikace, které umožní, aby adekvátně vyškolený personál posoudil bezpečnost a účinnost navrhované technologie, a to i ve fázi návrhu;

20.  poukazuje na význam rozlišování chirurgických robotů pro protézy a exoskelety od robotů zajišťujících společnost, jejichž úkolem je pomáhat osobám se zdravotním postižením nebo dočasně zneschopněným osobám; poukazuje na to, že je důležité, aby se na oba typy robotů vztahovaly kontroly, které by se prováděly v souladu s co nepřesnějšími a nejpodrobnějšími normami;

21.  vítá politickou dohodu týkající se nařízení o zdravotnických prostředcích (2012/0266(COD)), kterou legislativní orgány uzavřely v červnu 2016; vyzývá Komisi, aby dříve, než nařízení vstoupí v platnost, zajistila, aby stávající postupy testování nových robotických zdravotnických prostředků byly bezpečné, zejména v případě těch, které se implantují do lidského těla; dále konstatuje, že musí existovat naprostá transparentnost, pokud jde o přehled pacientů o jejich vlastních údajích a o informovanost veřejnosti o úspěšném i neúspěšném testování, a že pacienti i veřejnost musí být jasně informováni o tom, kdo nese odpovědnost za neúspěšné testování a kyberneticko-fyzikální systémy;

Etika

22.  zdůrazňuje, že rozvoj technologií sice exponenciálně roste, ale sociální systémy v Unii nemohou tak rychle reagovat, přičemž systémy zdravotní péče reagují ještě pomaleji; zdůrazňuje, že tento vývoj má významný dopad na civilizaci, jak ji známe dnes, a že je proto zásadně důležité, aby se tento pokrok opíral o hodnocení dlouhodobých morálních a etických důsledků nových technologií před zahájením a během jejich vývoje;

23.  pokud jde o etické normy, zdůrazňuje, že je nutné zajistit, aby robotické výrobky zaručovaly dodržování základních práv jednotlivce i společnosti na úrovni Unie, a to tak, že budou zavedena všechna potřebná technická opatření, která by v souladu s tzv. koncepcí ochrany soukromí na základě konstrukčního návrhu zajistila dodržování těchto práv už od fáze tohoto konstrukčního návrhu;

24.  poukazuje na rizika spojená s možností neoprávněného ovládnutí nebo vypnutí kyberneticko-fyzikálních systémů zavedených do lidského organismu nebo na riziko, že dojde ke smazání jejich paměti, protože by to mohlo vést k ohrožení lidského zdraví a v nejhorším případě i života, a zdůrazňuje proto, že ochrana těchto systémů musí být prioritou;

25.  je si vědom náchylného postavení pacientů se zvláštními potřebami, mj. dětí, starších osob a osob se zdravotním postižením, a zdůrazňuje, že každý uživatel si může vypěstovat citový vztah ke kyberneticko-fyzikálním systémům nebo robotům; poukazuje na etické problémy, které z této možné citové vazby plynou; vyzývá Komisi, aby začala uvažovat o tom, jak zaručit, aby kyberneticko-fyzikální systémy neměly negativní dopad na autonomii a nezávislost zranitelných osob;

26.  žádá Komisi a členské státy, aby podporovaly vývoj asistenčních technologií, a to i na základě systémů odpovědnosti, které by se lišily od současně platných systémů, s cílem umožnit v souladu s článkem 4 Úmluvy OSN o právech osob se zdravotním postižením, kterou Unie podepsala, vývoj a přijetí těchto technologií osobami, které je potřebují;

27.  zdůrazňuje, že je důležité zachovat pečovatelský vztah mezi lékařem a pacientem, zejména pokud jde o sdělování lékařské diagnózy a léčbu;

28.   podotýká, že využívání kyberneticko-fyzikálních systémů přináší otázku vylepšování lidského těla, které je definováno jako posílení stávajících přirozených lidských schopností či propůjčení schopností nových, které lidem umožní překonat postižení;

Dopad na životní prostředí

29.  uznává, že je třeba minimalizovat případný dopad robotiky na životní prostředí či její ekologickou stopu, neboť používání kyberneticko-fyzikálních systémů a robotů pravděpodobně povede k celkovému nárůstu spotřeby energie a objemu elektrického i elektronického odpadu; zdůrazňuje, že je třeba maximálně zvýšit potenciál ke zlepšení nákladové efektivity procesů, zvýšit energetickou účinnost podporou využívání obnovitelných technologií v oblasti robotiky, podporovat využívání i opětovné využívání druhotných surovin a omezit plýtvání; vyzývá proto Komisi, aby začlenila zásady oběhového hospodářství do veškerých politik Unie v oblasti robotiky;

30.  rovněž podotýká, že využívání kyberneticko-fyzikálních systémů bude mít pozitivní dopad na životní prostředí, především v oblasti zemědělství a dodávek potravin, zejména na základě snížení objemu strojních zařízení a omezeného využívání hnojiv, energie i vody, jakož i díky přesnému zemědělství;

31.  zdůrazňuje, že kyberneticko-fyzikální systémy povedou k vytvoření systémů energetiky a infrastruktury, které jsou schopné kontrolovat tok elektřiny od výrobce ke spotřebiteli, a rovněž povedou ke vzniku „spotřebitelů-výrobců“, kteří energii vyrábějí i využívají, což přinese velké výhody pro životní prostředí;

–  žádá, aby do přílohy svého návrhu usnesení začlenil následující doporučení:

Bezpečnost

  Předpokladem pro zavedení robotických zdravotnických pomůcek do zdravotní péče je jejich bezpečnost. Účinnost a bezpečnost péče a zdravotnických robotů by měla být posuzována na základě konkrétních a velmi podrobných bezpečnostních záruk a standardních certifikačních postupů, přičemž by se měla zvláštní pozornost věnovat jejich používání osobami s postižením nebo v naléhavých situacích; vyzývá Komisi, aby přijala podrobné společné specifikace pro robotické zdravotnické prostředky; náležitou pozornost je třeba věnovat zabezpečení sítí kyberneticko-fyzikálních systémů, aby se zabránilo nebezpečí neoprávněného proniknutí do nich a zcizení citlivých osobních údajů.

  Základním požadavkem je bezpečnost kyberneticko-fyzikálních systémů zavedených do lidského organismu, protože jejich případná chyba může být fatální, a v této souvislosti je důležité poskytovat informace a jednoznačně regulovat otázky týkající se odpovědnosti, včetně otázek, kdo je majitelem těchto implantovaných kyberneticko-fyzikálních systémů, kdo má právo s nimi zacházet a kdo smí měnit jejich nastavení, přičemž je nutné přísně zakázat jakékoli experimentování na lidech bez jejich souhlasu.

Soukromí

  Zdravotnické kyberneticko-fyzikální systémy a používání robotů jako „elektronické zdravotní karty“ vyvolává otázky ohledně práv pacientů na soukromí, profesního lékařského tajemství a ochrany údajů v oblasti veřejného zdraví. Unijní předpisy na ochranu osobních údajů by měly být přizpůsobeny tak, aby zohledňovaly rostoucí složitost a propojenost péče a zdravotnických robotů, které mohou zpracovávat vysoce citlivé osobní informace a údaje o zdravotním stavu, a měly by být v souladu s koncepcí ochrany soukromí na základě konstrukčního návrhu, jak je uvedeno v nařízení (EU) č. 2016/679 týkajícím se ochrany osobních údajů. Měly by být doplněny kodexy profesního lékařského tajemství, pokud jde o údaje o zdravotním stavu uchovávané v kyberneticko-fyzikálních systémech, tedy údaje, k nimž mají přístup třetí osoby.

  Pojišťovny či jiní poskytovatelé služeb by neměli mít povolení využívat elektronických údajů k iniciování diskriminace při stanovování cen, jelikož by to bylo v rozporu se základním právem na nejvyšší dosažitelnou úroveň zdraví.

Komise pro etiku výzkumu

  Komise pro etiku výzkumu by měly projednávat etické otázky, které vznikají v souvislosti s vývojem robotických zdravotnických prostředků a kyberneticko-fyzikálních systémů v mnoha oblastech zdravotní péče a poskytování pomoci lidem s postižením a starším lidem. Měly by být řádně zváženy otázky, jako je rovný přístup k robotické preventivní zdravotní péči, privilegovaný vztah lékaře a pacienta a především náchylnost pacientů se zvláštními potřebami (např. osob se zdravotním postižením), ale nejen jich (také například dětí, osamělých lidí apod.) k vytvoření citové vazby k robotům.

  Evropský parlament vybízí komise pro etiku výzkumu a Komisi k zahájení úvah s cílem vytvořit kodex chování pro výzkumníky, konstruktéry a uživatele zdravotnických kyberneticko-fyzikálních systémů, který bude založen na zásadách zakotvených v Listině základních práv EU (jako je lidská důstojnost a lidská práva, rovnost, spravedlnost a rovnoprávnost, prospěšnost a neškodlivost, důstojnost a zákaz diskriminace a stigmatizace, autonomie a osobní odpovědnost, informovaný souhlas, soukromí a sociální odpovědnost, jakož i práva starších osob, integrace osob s postižením, právo na zdravotní péči a ochranu spotřebitele) a na stávajících etických postupech a normách.

  Je třeba podotknout, že robotika může způsobit značnou nejistotu v otázkách odpovědnosti.

VÝSLEDEK KONEČNÉHO HLASOVÁNÍ VE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

13.10.2016

 

 

 

Výsledek konečného hlasování

+:

–:

0:

61

0

0

Členové přítomní při konečném hlasování

Marco Affronte, Margrete Auken, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Nessa Childers, Birgit Collin-Langen, Mireille D’Ornano, Miriam Dalli, Angélique Delahaye, Stefan Eck, Bas Eickhout, Eleonora Evi, José Inácio Faria, Elisabetta Gardini, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Anneli Jäätteenmäki, Jean-François Jalkh, Josu Juaristi Abaunz, Karin Kadenbach, Kateřina Konečná, Giovanni La Via, Peter Liese, Norbert Lins, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Bolesław G. Piecha, Frédérique Ries, Michèle Rivasi, Daciana Octavia Sârbu, Annie Schreijer-Pierik, Davor Škrlec, Dubravka Šuica, Tibor Szanyi, Claudiu Ciprian Tănăsescu, Jadwiga Wiśniewska, Damiano Zoffoli

Náhradníci přítomní při konečném hlasování

Guillaume Balas, Paul Brannen, Nicola Caputo, Michel Dantin, Mark Demesmaeker, Luke Ming Flanagan, Elena Gentile, Martin Häusling, Krzysztof Hetman, Gesine Meissner, James Nicholson, Marijana Petir, Gabriele Preuß, Christel Schaldemose, Jasenko Selimovic, Mihai Ţurcanu

Náhradníci (čl. 200 odst. 2) přítomní při konečném hlasování

Nicola Danti, Anna Hedh


STANOVISKO Výboru pro průmysl, výzkum a energetiku (15.10.2016)

pro Výbor pro právní záležitosti

obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku

(2015/2103(INL))

Navrhovatelka: Kaja Kallas

(Podnět – článek 46 jednacího řádu)

NÁVRHY

Výbor pro průmysl, výzkum a energetiku vyzývá Výbor pro právní záležitosti jako věcně příslušný výbor:

–  aby do svého návrhu usnesení začlenil následující návrhy:

A.  vzhledem k tomu, že týmy složené z robotů a lidí by mohly být až o 85 %(1) produktivnější než tým složený pouze z lidí nebo pouze z robotů; vzhledem k tomu, že roboti, díky tomu, že rozšíří schopnosti lidí, sníží riziko lidské chyby;

B.  vzhledem k tomu, že Unie zastává vedoucí úlohu v průmyslové robotice, v níž představuje její podíl více než 25 %(2) nabídky a využívání, a že růst na tomto trhu se odhaduje na 8-9 % ročně, což znamená, že je průmyslová strategie pro tento sektor prioritou;

1.  je přesvědčen, že robotika a umělá inteligence hrají klíčovou úlohu pro posilování konkurenceschopnosti a produktivity evropské ekonomiky a ve střednědobém horizontu by mohly mít značné dopady také na konkurenceschopnost jiných než zpracovatelských odvětví, jako jsou např. zemědělství, doprava, zdravotní péče, bezpečnost a veřejné služby; vyzývá Komisi, aby v robotice a v oblasti umělé inteligence prosazovala politiku ve prospěch inovací, která by usnadňovala začleňování technologií do hodnotových řetězců, rozvoj inovativních podnikatelských modelů a zkracování časové prodlevy mezi inovací a průmyslovou výrobou; vyzývá Komisi, aby vyhodnotila, zda je třeba modernizovat právní předpisy nebo vypracovat evropské obecné pokyny s cílem zajistit společný přístup v robotice a v oblasti umělé inteligence, který je klíčový pro to, aby podniky v Evropě rozšiřovaly výrobu;

2  konstatuje, že třetí země uznaly strategický význam robotiky a útočí na vedoucí postavení Unie na světových trzích mj. prostřednictvím převzetí unijních výrobců; vyzývá Komisi, aby vypracovala průmyslovou strategii, která by řešila úlohu strategicky důležitých sektorů, jakým je např. robotika, a stanovila, jak může Unie ochránit pracovní místa, růst, know-how a velkou část hodnotového řetězce;

3.  zdůrazňuje, že inovace v robotice a v oblasti umělé inteligence a integrace robotiky a technologie umělé inteligence do ekonomiky a společnosti si žádají digitální infrastrukturu poskytující všudypřítomnou možnost připojení (konektivitu); vyzývá Komisi, aby stanovila rámec, který naplní potřeby v oblasti konektivity pro digitální budoucnost Unie, a zajistila, že přístup širokopásmový přístup a přístup na síť 5G budou plně v souladu se zásadou neutrality sítě;

4.  je pevně přesvědčen, že interoperabilita systémů, zařízení a cloudových služeb, založená na bezpečnosti a ochraně soukromí jakožto konstrukčních principech, je klíčová pro umožnění toků dat v reálném čase umožňujících robotům a umělé inteligenci zvýšit svou flexibilitu a autonomii; žádá Komisi, aby propagovala otevřené prostředí, od otevřených standardů a inovativních modelů udělování licencí až po otevřené platformy a transparentnost, s cílem zabránit závislosti na soukromých systémech, které omezují interoperabilitu; zdůrazňuje dále, že při komunikaci mezi lidmi a roboty a umělou inteligencí je nutné zajistit vysokou úroveň zabezpečení, bezpečnosti a ochrany soukromých údajů; vyzývá tudíž Komisi a členské státy, aby do svých politik týkajících se robotiky a umělé inteligence a do strategie EU pro kybernetickou bezpečnost začlenily zásady bezpečnosti a ochrany soukromí jakožto konstrukční principy a aby zahrnuly robotiku a umělou inteligenci do diskusí skupiny na vysoké úrovni pro kybernetickou bezpečnost, kterou zřídí Komise;

5.  konstatuje, že přístup k údajům je klíčový pro inovace v oblasti algoritmů strojového učení; vyzývá Komisi, aby realizovala ctižádostivý rámec a strategii pro otevřený a volný pohyb údajů, a zejména iniciativu pro volný tok údajů, a to v souladu s právními předpisy upravujícími ochranu údajů a revidovanou právní úpravou duševního vlastnictví; zdůrazňuje, že tato iniciativa pro volný tok údajů by měla vyjasnit otázky spojené s vlastnictvím údajů, jejich využitelností a přístupu k nim, které jsou důležité pro další rozvoj a využívání technologie v oblasti robotiky;

6.  vyzývá Komisi, aby v rámci přezkumu VFR v polovině období posílila svou podporu programu SPARC financovanému v rámci programu Horizont 2020, vypracovávala prognostické studie a podporovala inovace jakožto strategický cíl a také prostředí spolupráce mezi státními a unijními institucemi, komunitou výzkumníků a orgány standardizace přitažlivými pro talentované odborníky, ale také se soukromým sektorem a mezi nadnárodními společnostmi, malými a středními podniky (MSP) a začínajícími inovativními podniky (tzv. startupy), které jsou klíčové pro inovace a pro otvírání nových trhů pro technologii v oblasti robotiky na celosvětové úrovni; zdůrazňuje úlohu, již mohou v tomto ohledu hrát partnerství soukromého a veřejného sektoru;

7.  zdůrazňuje, že rozvoj technologie v oblasti robotiky by se měl zaměřit na doplňování lidských schopností, a nikoli na nahrazování lidí; zdůrazňuje, že růst v sektorech robotiky a umělé inteligence způsobí automatizaci značného počtu pracovních míst, sníží míru, v níž jsou lidé vystaveni škodlivým a nebezpečným podmínkám a transformuje životy a pracovní návyky, což znamená, že si vyžaduje dlouhodobé vyhodnocení a opatření zaměřená na zajištění toho, aby byly řádně řešeny sociální, environmentální, etické a vzdělávací otázky a také otázky spojené s právní odpovědností; domnívá se zejména, že ve veškerém vzdělávání a školení, od raných školních let až k programům celoživotního vzdělávání, musí být zohledněna potřeba získat digitální dovednosti, včetně programování;

8.  domnívá se, že lékařští roboti budou postupně pronikat do vysoce precizní chirurgie a budou provádět rutinní úkoly; domnívá se, že mají potenciál zlepšit výsledky v oblasti rehabilitace a poskytovat velmi efektivní logistické služby v nemocnici;

–  aby do přílohy k návrhu usnesení začlenil následující doporučení:

9.  je přesvědčen, že veškeré budoucí legislativní iniciativy týkající se robotiky a umělé inteligence by – po konzultaci široké škály relevantních zainteresovaných stran a na základě setrvalého dialogu s nimi – měly poskytovat právní jistotu, aniž by byly svazovány inovace v této rychle se rozvíjející technologické oblasti;

10.  je přesvědčen, že Komise by společně s konečnými uživateli, inženýry v robotice, výzkumníky a dalšími zúčastněnými stranami měla vypracovat kodex etického chování, který by měl usměrňovat aktivity v oblasti rozvoje robotiky a umělé inteligence;

11.  domnívá se, že doporučení týkající se licencí by měla ctít smluvní svobodu a ponechávat prostor pro inovativní režimy udělování licencí; varuje před tím, aby byla v oblasti robotiky a umělé inteligence zaváděna nová práva duševního vlastnictví, která by mohla bránit inovacím a výměně odborných znalostí;

VÝSLEDEK KONEČNÉHO HLASOVÁNÍVE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

13.10.2016

 

 

 

Výsledek konečného hlasování

+:

–:

0:

54

1

3

Členové přítomní při konečném hlasování

Bendt Bendtsen, Xabier Benito Ziluaga, José Blanco López, David Borrelli, Jerzy Buzek, Angelo Ciocca, Edward Czesak, Jakop Dalunde, Pilar del Castillo Vera, Christian Ehler, Fredrick Federley, Ashley Fox, Adam Gierek, Theresa Griffin, Hans-Olaf Henkel, Eva Kaili, Kaja Kallas, Barbara Kappel, Krišjānis Kariņš, Seán Kelly, Jaromír Kohlíček, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Janusz Lewandowski, Ernest Maragall, Edouard Martin, Angelika Mlinar, Nadine Morano, Dan Nica, Carolina Punset, Herbert Reul, Paul Rübig, Algirdas Saudargas, Sergei Stanishev, Neoklis Sylikiotis, Dario Tamburrano, Patrizia Toia, Evžen Tošenovský, Claude Turmes, Vladimir Urutchev, Henna Virkkunen, Martina Werner, Lieve Wierinck, Anna Záborská, Flavio Zanonato, Carlos Zorrinho

Náhradníci přítomní při konečném hlasování

Michał Boni, Rosa D’Amato, Esther de Lange, Jens Geier, Benedek Jávor, Olle Ludvigsson, Vladimír Maňka, Marian-Jean Marinescu, Clare Moody, Maria Spyraki

Náhradníci (čl. 200 odst. 2) přítomní při konečném hlasování

Salvatore Cicu, Albert Deß

(1)

Podle výzkumu MIT navazujícího na společný experiment s výrobci automobilů BMW a Mercedes-Benz.

(2)

http://ec.europa.eu/programmes/horizon2020/en/h2020-section/robotics.


STANOVISKO Výboru pro vnitřní trh a ochranu spotřebitelů (12.10.2016)

pro Výbor pro právní záležitosti

Občanskoprávní úprava v oblasti robotiky

(2015/2103(INL))

Navrhovatelka: Dita Charanzová

(Podnět – článek 46 jednacího řádu)

NÁVRHY

Výbor pro vnitřní trh a ochranu spotřebitelů vyzývá Výbor pro právní záležitosti jako věcně příslušný výbor, aby do svého návrhu usnesení začlenil následující návrhy:

A.  vzhledem k tomu, že robotika není novinkou; vzhledem k tomu, že robotika může hrát a hraje roli v procesu přeměny naší společnosti na vyšší úroveň; vzhledem k tomu, že robotika a umělá inteligence mohou hrát aktivní úlohu při digitalizaci ekonomiky

v mnoha odvětvích, jako je průmysl, zdravotnictví, stavebnictví a doprava, a mohou vést k inovacím, nižší míře vystavování se nebezpečným pracovním podmínkám

a k novým obchodním modelům, a vzhledem k tomu, že Unie musí aktivním způsobem udržovat krok s vývojem v této oblasti, aby pokročila s vytvářením jednotného digitálního trhu;

B.  vzhledem k tomu, že roboty stále více působí v blízkosti lidí a že zejména trh s robotickými službami stále expanduje, což přináší společnosti nové výhody, aniž by byla zanedbána bezpečnost spolu s otázkami odpovědnosti;

C.  vzhledem k tomu, že i přes nepopiratelné výhody, které robotika nabízí, může její zavádění vést k přeměně pracovního trhu a k potřebě náležitě reagovat na budoucí vývoj v oblasti vzdělávání, zaměstnanosti a sociální politiky;

D.  vzhledem k tomu, že úroveň prodeje a výroby robotů se mezi lety 2010 a 2014 podstatně zvýšila, přičemž téměř k 30% nárůstu došlo jen v roce 2014, především v odvětví elektroniky;

E.  vzhledem k tomu, že digitální přeměna evropského výrobního průmyslu, který představuje 15 % HDP Unie, by mohla přinést jen v roce 2025 1,25 bilionu EUR na přidané hodnotě(1) a že by zavedení samostatných a robotických technologií mohlo přispět k posílení evropské průmyslové výroby a přinést Evropě podstatnou konkurenční výhodu;

F.  vzhledem k tomu, že strojové učení nabízí nesmírné ekonomické a inovativní přínosy pro společnost tím, že značně zlepšuje schopnost analyzovat data, zároveň však vznikají výzvy, pokud jde o zajištění nediskriminace, náležitých postupů, přístupu k informacím a srozumitelnosti v rámci rozhodovacích postupů;

G.  vzhledem k tomu, že v důsledku vývoje v oblasti lékařských přístrojů, jako jsou robotické protézy a implantáty, závisí život osob, které je používají, na dostupnosti jejich údržby, oprav a vylepšování;

H.  vzhledem k tomu, že při vývoji veškerých nových technických a výrobních prototypů musí být zohledněna ochrana údajů a respektování duševního vlastnictví;

I.  vzhledem k tomu, že mnoho třetích zemí přijalo v oblasti robotiky vhodné pokyny a právní předpisy, přičemž několik členských států rovněž započalo této záležitosti přisuzovat velký význam;

1.  zdůrazňuje, že postup na úrovni Unie může usnadnit rozvoj tím, že předejde roztříštění vnitřního trhu, a zároveň vyzdvihuje důležitost zásady vzájemného uznávání při přeshraničním využívání robotů a robotických systémů; připomíná, že testování, certifikace a souhlas s uvedením na trh by měly být vyžadovány pouze v jednom členském státě;

2.  zdůrazňuje, že by tento postup měl být doprovázen účinným dozorem nad trhem a také právními nástroji a pravomocemi pro členské státy, které jim umožní vydávat zákazy a postihovat protiprávní jednání;

3.  zdůrazňuje význam opatření, která pomohou malým a středním i začínajícím podnikům v odvětví robotiky, které vytvářejí nové tržní segmenty v tomto odvětví či využívají robotů;

4.  vybízí k vytvoření ambiciózní evropské strategie výzkumu a inovací v robotice, aby se plně rozvinul potenciál této oblasti, pokud jde o růst a vznik pracovních míst v Evropě;

5.  uznává sice, že mezinárodní normy, které se dotýkají otázek, jako jsou interoperabilita a bezpečnost, již existují ve značném počtu a jsou uplatňovány napříč odvětvím, domnívá se však, že je nezbytná další harmonizovaná normativní úprava pro oblast robotiky a umělé inteligence, jež by měla být součástí priorit Unie v oblasti normalizace, s cílem podpořit inovace a zaručit vysokou úroveň ochrany spotřebitele; zdůrazňuje, že je nezbytné, aby byly v této oblasti orientované na budoucnost vypracovány společné, bezpečné a vysoce kvalitní normy;

6.  požaduje, aby Komise v součinnosti s evropskými normalizačními institucemi i nadále aktivně spolupracovala s mezinárodními normalizačními institucemi a aby zlepšila spolupráci s partnery na mezinárodní úrovni s cílem dále vyvíjet činnost na zlepšování norem v této oblasti; vítá v této souvislosti zřízení zvláštních technických výborů, jako je ISO/TC 299 Robotics, které se věnují výhradně vypracovávání norem v oblasti robotiky;

7.  připomíná, že převážná většina norem je vytvářena v reakci na potřebu stanovenou daným odvětvím, a vyzývá evropské a mezinárodní normalizační orgány, aby nepřetržitě přezkoumávaly vlastní normy s cílem zajistit, aby těmto potřebám vyhovovaly;

8.  má za to, že roboty vyvíjené pro účely výroby i osobní užívání by měly podléhat předpisům upravujícím bezpečnost výrobků a ochranu spotřebitele, které případně zajistí minimální bezpečnostní normy a budou řešit zvýšené riziko nehod plynoucích ze styku s lidmi nebo práce v jejich blízkosti; je přesvědčen, že by se každá politika v oblasti robotiky měla věnovat etickým otázkám a otázkám ochrany údajů, včetně údajů týkajících se třetích stran a osobních údajů, občanskoprávní odpovědnosti, vzdělávání a odborné přípravy a kybernetické bezpečnosti;

9.  zdůrazňuje význam soukromí a bezpečnosti v rámci vývoje robotů již od stádia návrhu a rovněž význam pravidel pro testování robotických reakcí, jejichž účelem je ochrana spotřebitele;

10.  zdůrazňuje, že kdykoliv je navrhováno využití robotů, je potřeba se zaměřit na důstojnost lidské bytosti, a to především v oblasti zdravotní péče;

11.  zdůrazňuje, že v oblasti životně důležitých lékařských přístrojů, jako jsou robotické protézy, musí být zajištěna dostupnost ustavičné a dlouhodobě udržitelné údržby, vylepšování a zejména softwarových aktualizací, které spravují závady a slabá místa;

12.  domnívá se, že vliv robotizace je potřeba lépe zohlednit v politice členských států týkající se zaměstnanosti, vzdělávání a sociálních otázek; žádá Komisi, aby členským státům pomohla najít jednotný regulační rámec a zintenzivnit vzájemnou spolupráci; vyzývá Komisi, aby s cílem předejít nedostatku odborníků na informační a komunikační technologie zavedla přepracovaný rámec odborné přípravy;

13.  uvědomuje si, že robotické systémy a technologie umělé inteligence jsou stále více používány v autonomních vozidlech, jako jsou autonomní automobily a civilní bezpilotní letouny; poznamenává, že některé členské státy již zavádějí nebo zvažují zavedení zvláštní právní úpravy v této oblasti, což by mohlo vést ke směsici vnitrostátních právních předpisů, které budou rozvoj autonomních vozidel brzdit; žádá tedy o jednotný soubor unijních pravidel, který nastaví správnou rovnováhu mezi zájmy uživatelů, podniků a jiných dotčených stran a zároveň zamezí nadměrné regulaci v oblasti robotiky a robotických systémů;

14.  žádá o spolupráci v oblasti regulace s cílem pozměnit některé mezinárodní dohody, jako je Vídeňská úmluva o silničním provozu ze dne 8. listopadu 1968 a Haagská úmluva o právu použitelném pro dopravní nehody ze dne 4. května 1971;

15.  je přesvědčen, že v případě autonomních vozidel nemusí být nezbytně nutné měnit úpravu právních podmínek souvisejících s pojištěním, jelikož se zavedením nových technologií si mohou dostatečně poradit běžné postupy a vztahy mezi provozovatelem, výrobcem a pojistitelem, tak jako tomu bylo v minulosti;

16.  zdůrazňuje, že využití robotiky ve zdravotnictví, zejména v případě robotických chirurgických zákroků, v nichž má Evropa prvenství, již tvoří rostoucí trh; žádá Komisi, aby zajistila podmínky pro četnější využívání těchto postupů;

17.  vyzývá Komisi, aby navýšila finanční prostředky na interdisciplinární studie společenských dopadů umělé inteligence a procesů strojového učení;

VÝSLEDEK KONEČNÉHO HLASOVÁNÍVE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

11.10.2016

 

 

 

Výsledek konečného hlasování

+:

–:

0:

35

1

1

Členové přítomní při konečném hlasování

Catherine Bearder, Dita Charanzová, Carlos Coelho, Lara Comi, Anna Maria Corazza Bildt, Daniel Dalton, Nicola Danti, Dennis de Jong, Vicky Ford, Ildikó Gáll-Pelcz, Evelyne Gebhardt, Maria Grapini, Sergio Gutiérrez Prieto, Robert Jarosław Iwaszkiewicz, Liisa Jaakonsaari, Antonio López-Istúriz White, Marlene Mizzi, Eva Paunova, Jiří Pospíšil, Virginie Rozière, Christel Schaldemose, Andreas Schwab, Olga Sehnalová, Igor Šoltes, Ivan Štefanec, Catherine Stihler, Richard Sulík, Róża Gräfin von Thun und Hohenstein, Mylène Troszczynski, Mihai Ţurcanu, Anneleen Van Bossuyt, Marco Zullo

Náhradníci přítomní při konečném hlasování

Birgit Collin-Langen, Morten Løkkegaard, Julia Reda, Marc Tarabella

Náhradníci (čl. 200 odst. 2) přítomní při konečném hlasování

John Stuart Agnew

(1)

STOA, Etické aspekty kyberneticko-fyzikálních systémů („Ethical Aspects of Cyber-Physical Systems“), vědecká prognostická studie (květen 2016), příloha 1, s. 37.


VÝSLEDEK KONEČNÉHO HLASOVÁNÍ VE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

12.1.2017

 

 

 

Výsledek konečného hlasování

+:

–:

0:

17

2

2

Členové přítomní při konečném hlasování

Max Andersson, Joëlle Bergeron, Marie-Christine Boutonnet, Jean-Marie Cavada, Therese Comodini Cachia, Mady Delvaux, Lidia Joanna Geringer de Oedenberg, Mary Honeyball, Gilles Lebreton, António Marinho e Pinto, Julia Reda, Evelyn Regner, József Szájer, Tadeusz Zwiefka

Náhradníci přítomní při konečném hlasování

Daniel Buda, Sergio Gaetano Cofferati, Angel Dzhambazki, Heidi Hautala, Constance Le Grip, Victor Negrescu

Náhradníci (čl. 200 odst. 2) přítomní při konečném hlasování

Eleonora Evi, Andrey Novakov

Právní upozornění