Postup : 2018/2088(INI)
Průběh na zasedání
Stadia projednávání dokumentu : A8-0019/2019

Předložené texty :

A8-0019/2019

Rozpravy :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Hlasování :

PV 12/02/2019 - 9.20
Vysvětlení hlasování

Přijaté texty :

P8_TA(2019)0081

ZPRÁVA     
PDF 376kWORD 124k
30.1.2019
PE 630.525v03-00 A8-0019/2019

o komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky

(2018/2088(INI))

Výbor pro průmysl, výzkum a energetiku

Zpravodajka: Ashley Fox

Navrhovatelé stanovisek (*):Dita Charanzová, Výbor pro vnitřní trh a ochranu spotřebitelů

Mady Delvaux, Výbor pro právní záležitosti

Michał Boni, Výbor pro občanské svobody, spravedlnost a vnitřní věci

(*) Přidružené výbory – článek 54 jednacího řádu

NÁVRH USNESENÍ EVROPSKÉHO PARLAMENTU
 STANOVISKO Výboru pro vnitřní trh a ochranu spotřebitelů
 STANOVISKO VÝBORU PRO PRÁVNÍ ZÁLEŽITOSTI K PRÁVNÍMU ZÁKLADU
 STANOVISKO Výboru pro občanské svobody, spravedlnost a vnitřní věci
 STANOVISKO Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin
 INFORMACE O PŘIJETÍ V PŘÍSLUŠNÉM VÝBORU
 JMENOVITÉ KONEČNÉ HLASOVÁNÍV PŘÍSLUŠNÉM VÝBORU

NÁVRH USNESENÍ EVROPSKÉHO PARLAMENTU

o komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky

(2018/2088(INI))

Evropský parlament,

–  s ohledem na své usnesení ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku(1),

–  s ohledem na své usnesení ze dne 1. června 2017 o digitalizaci evropského průmyslu(2),

–  s ohledem na své usnesení ze dne 12. září 2018 o autonomních zbraňových systémech(3),

–  s ohledem na své usnesení ze dne 11. září 2018 o jazykové rovnosti v digitálním věku(4),

–  s ohledem na návrh Komise ze dne 6. června 2018, kterým se zavádí program Digitální Evropa na období 2021–2027 (COM(2018)0434),

–  s ohledem na nařízení Rady (EU) 2018/1488 ze dne 28. září 2018, kterým se zřizuje evropský společný podnik pro vysoce výkonnou výpočetní techniku(5),

–  s ohledem na článek 52 jednacího řádu,

–  s ohledem na zprávu Výboru pro průmysl, výzkum a energetiku a na stanoviska Výboru pro vnitřní trh a ochranu spotřebitelů, Výboru pro právní záležitosti, Výboru pro občanské svobody, spravedlnost a vnitřní věci a Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin (A8-0019/2019),

A.  vzhledem k tomu, že budou-li umělá inteligence a robotika využívány transparentně a eticky, mají potenciál obohatit naše životy a rozšířit naše schopnosti, a to jak ku prospěchu jednotlivců, tak i v zájmu společného blaha;

B  vzhledem k tomu, že umělá inteligence se rychle rozvíjí a že je již řadu let součástí našeho každodenního života; vzhledem k tomu, že umělá inteligence a robotika podněcují inovace, a tak nové obchodní modely, a hrají klíčovou úlohu při transformaci našich společností a digitalizaci mnoha oblastí našich ekonomik, např. průmyslu, zdravotní péče, stavebnictví a dopravy;

C.  vzhledem k tomu, že stále větší integrace robotiky do lidských systémů vyžaduje silné politické vedení v zájmu maximalizace přínosů, minimalizace rizik pro společnost a zajištění bezpečného a spravedlivého rozvoje umělé inteligence;

D.  vzhledem k tomu, že umělá inteligence je jednou ze strategických technologií pro 21. století jak v celosvětovém měřítku, tak v Evropě, neboť přináší pozitivní změny do evropského hospodářství a umožňuje inovace, zvyšování produktivity konkurenceschopnosti a dobré životní podmínky;

E.  vzhledem k tomu, že evropské společnosti vyrábějí přibližně čtvrtinu všech průmyslových robotů a polovinu všech robotů odborných služeb na světě, a EU již proto disponuje důležitými devizami, o které by měla opřít svou evropskou průmyslovou politiku;

F.  vzhledem k tomu, že umělá inteligence a robotika dokážou přetvořit řadu odvětví a mohou zefektivnit výrobu a rovněž celosvětově zvýšit konkurenceschopnost evropského průmyslu a malých a středních podniků; vzhledem k tomu, že pro vývoj umělé inteligence má velký význam dostupnost rozsáhlých datových souborů a zkušebních a pokusných zařízení;

G.  vzhledem k tomu, že společný přístup usnadní vývoj technologií umělé inteligence ve prospěch společnosti a zároveň umožní řešit výzvy, které s těmito technologiemi souvisí, tak aby se podpořily inovace, zvýšila kvalita produktů a služeb obsahujících prvky umělé inteligence, zlepšila zkušenost a důvěra spotřebitelů v technologie umělé inteligence a robotiku a aby se zabránilo roztříštění vnitřního trhu;

H.  vzhledem k tomu, že výkonnost výpočetní techniky v Unii musí být udržována na špičkové úrovni, což by mělo vytvořit příležitosti pro dodavatelský průmysl EU a zvýšit jeho efektivitu tím, že výsledky technologického vývoje budou zúročeny v produktech a službách, jež budou reagovat na poptávku a orientovat se na aplikace, díky čemuž budou zaváděny do nově vznikajících rozsáhlých aplikací založených na umělé inteligenci;

I.  vzhledem k tomu, že je nutné co nejrychleji přijmout koordinovaný postup na evropské úrovni, aby EU mohla konkurovat masivním investicím třetích zemí, zejména USA a Číny;

J.  vzhledem k tomu, že dne 25. dubna 2018(6) se Komise zavázala, že ve spolupráci s členy Evropské aliance pro umělou inteligenci (což je skupina odborníků na umělou inteligenci) navrhne evropský přístup, který bude mít formu obecných pokynů pro umělou inteligenci a bude mít za cíl podpořit evropské aplikace a podniky, které umělou inteligenci využívají;

K.  vzhledem k tomu, že stávající pravidla a postupy je třeba znovu posoudit a případně upravit, aby zohledňovaly umělou inteligenci a robotiku;

L.  vzhledem k tomu, že evropský rámec pro umělou inteligenci musí být vytvořen v plném souladu se základními právy zakotvenými v Listině základních práv Evropské unie, a zejména se zásadami ochrany údajů, soukromí a bezpečnosti;

M.  vzhledem k tomu, že vývoj umělé inteligence může a měl by být koncipován tak, aby zachovával důstojnost, autonomii a právo na sebeurčení jednotlivce;

N.  vzhledem k tomu, že Parlament v usnesení ze dne 16. února 2017 o občanskoprávních pravidlech pro robotiku, které obsahovalo doporučení pro Komisi, vyzval Komisi, aby navrhla soudržný právní rámec pro rozvoj robotiky, včetně autonomních systémů a inteligentních autonomních robotů;

O.  vzhledem k tomu, že vývoj umělé inteligence a robotiky musí být přínosný pro celou společnost; avšak vzhledem k tomu, že v roce 2017 nemohly venkovské oblasti výhod umělé inteligence z velké části využívat, neboť 8 % domácností nebylo připojeno k žádné pevné síti a 53 % domácností nebylo pokryto žádnou z přístupových sítí nové generace (VDSL, kabelová síť Docsis 3.0 nebo FTTP);

P.  vzhledem k tomu, že vývoj služeb a produktů obsahujících prvky umělé inteligence není možný bez konektivity, volného pohybu údajů a dostupnosti údajů v celé EU; vzhledem k tomu, že využívání pokročilých technik vytěžování dat v produktech a službách může přispět ke zkvalitnění rozhodovacího procesu, a tím rozšířit výběr spotřebitelů a zlepšit výkonnost podniků;

Q.  vzhledem k tomu, že technologického vývoje v oblasti inteligentních výrobků a služeb může ve svůj prospěch využívat znalostní ekonomika, která je založena na množství, kvalitě a dostupnosti informací, a může se tedy lépe přizpůsobovat potřebám spotřebitelů;

R.  vzhledem k tomu, že kybernetická bezpečnost má zásadní význam pro ochranu údajů před jejich úmyslným poškozením nebo zneužitím, v jehož důsledku by používání umělé inteligence způsobilo občanům nebo podnikům újmu, což by otřáslo důvěrou průmyslu a spotřebitelů v umělou inteligenci; vzhledem k tomu, že vývoj umělé inteligence vede ke zvyšování naší závislosti při přijímání opatření a rozhodnutí na těchto systémech, což vyžaduje, aby se na ně v EU vztahovaly vysoké normy kybernetické odolnosti, má-li se předejít narušení kybernetické bezpečnosti a jejich selhání;

S.  vzhledem k tomu, že trend směřující k automatizaci s sebou nese požadavek, aby subjekty, které se podílejí na vývoji aplikací umělé inteligence a jejich uvádění na trh, měly již od fáze návrhu na zřeteli bezpečnost a etiku, a byly si vědomy toho, že musejí být připraveny přijmout právní odpovědnost za kvalitu technologie, kterou vytvářejí;

T.  vzhledem k tomu, že budování důvěryhodného prostředí pro vývoj technologií umělé inteligence by mělo být založeno na struktuře politiky v oblasti dat; vzhledem k tomu, že to znamená vytvořit programy pro hladký a zjednodušený sběr a správu dat pro vzdělávací a výzkumné účely, jež umožní rozvoj umělé inteligence v mnoha oblastech: medicíně, finančnictví, biologii, energetice, průmyslu, chemii nebo ve veřejném sektoru; vzhledem k tomu, že ekosystém umělé inteligence založený na datech by mohl zahrnovat celoevropské iniciativy v oblasti otevřených norem a být založen na vzájemném uznávání certifikátů a transparentních pravidel interoperability;

U.  vzhledem k tomu, že umělá inteligence sama o sobě nezajišťuje pravdu či spravedlnost, protože může docházet ke zkreslení v důsledku metody sběru dat a zápisu algoritmu, jež mohou mít původ ve společenských předsudcích; vzhledem k tomu, že zkreslení by měly zabránit kvalitní data a design algoritmu a neustálé přehodnocování;

V.  vzhledem k tomu, že umělá inteligence a robotika by měly být rozvíjeny a zaváděny tak, aby v jejich centru stál člověk, kterému by měly být nápomocny na pracovišti i v domově; vzhledem k tomu, že umělá inteligence by rovněž mohla lidi nahradit v nebezpečných povoláních;

W.  vzhledem k tomu, že další rozvoj a širší využívání automatizovaných a algoritmických rozhodovacích procesů má nezpochybnitelný dopad na konečná rozhodnutí soukromých osob (například podnikatelů či uživatelů internetu) a správních, soudních či jiných veřejných orgánů v záležitostech spotřebitelského, obchodního či úředního rázu; vzhledem k tomu, že do procesu automatizovaného a algoritmického rozhodování musí být začleněna bezpečnostní opatření a možnost lidské kontroly a ověření;

X.  vzhledem k tomu, že v souvislosti se strojovým učením je také nutné zajistit nediskriminaci, řádný postup, transparentnost a srozumitelnost v rámci rozhodovacích procesů;

Y.  vzhledem k tomu, že umělá inteligence představuje významný nástroj k řešení globálních společenských výzev, a že členské státy proto musí prostřednictvím své veřejné politiky podporovat investice, uvolňovat prostředky na výzkum a vývoj a odstraňovat překážky bránící rozvoji a zavádění umělé inteligence;

Z.  vzhledem k tomu, že komerční platformy umělé inteligence pokročily v oblasti zdraví, životního prostředí, energie a dopravy od testování k praktickému využití; vzhledem k tomu, že základem všech hlavních webových platforem a aplikací využívajících data velkého objemu jsou techniky strojového učení;

AA.  vzhledem k tomu, že evropští výzkumní pracovníci a společnosti spolupracují na širokém spektru témat týkajících se technologie blockchain, od dodavatelského řetězce, služeb veřejné správy, financí, internetu věcí, zdravotnictví, sdělovacích prostředků a inteligentních měst po energetiku a dopravu; vzhledem k tomu, že Evropa je silným hráčem v důležitých oblastech souvisejících se blockchainem, např. umělé inteligenci; vzhledem k tomu, že blockchain může hrát důležitou úlohu při zlepšování evropských inovací;

AB.  vzhledem k tomu, že technologie kybernetické bezpečnosti, např. digitální identity, šifrování nebo detekce narušení, a jejich uplatňování v oblastech, jako jsou finance, průmysl 4.0, energetika, doprava, zdravotní péče nebo elektronická veřejná správa, mají zásadní význam pro zajištění bezpečnosti a důvěryhodnosti činností a transakcí on-line prováděných občany, orgány veřejné správy či společnostmi;

AC.  vzhledem k tomu, že vytěžování textů a dat slouží jako základ pro aplikace založené na umělé inteligenci a strojovém učení a má zásadní význam pro malé a střední podniky a začínající podniky, protože jim umožňuje přístup k velkému množství dat, které potřebují pro vývoj algoritmů umělé inteligence;

AD.  vzhledem k tomu, že umělá inteligence může být velmi náročná na spotřebu energie; vzhledem k tomu, že je proto důležité výdobytky umělé inteligence využívat se zřetelem ke stávajícím cílům, které si EU vytkla pro energetickou účinnost a oběhové hospodářství;

AE.  vzhledem k tomu, že umělá inteligence by měla plně podporovat všechny evropské jazyky, aby všichni Evropané mohli stejnou měrou těžit z vývoje moderní umělé inteligence v mnohojazyčné evropské informační společnosti;

AF.  vzhledem k tomu, že umělá inteligence má v průmyslu a službách spojených s pokročilými technologiemi zásadní význam, má-li se Evropa stát „světadílem začínajících podniků“, a to tak, že pro dosažení růstu budou v Evropě využívány nejnovější technologie, zejména ve zdravotnických technologiích, službách a programech, vývoji léčivých přípravků, robotické chirurgii a chirurgii s asistencí robota, při léčbě chronických onemocnění, lékařských metodách zobrazování a záznamech i zajištění udržitelného životního prostředí a bezpečné výroby potravin; vzhledem k tomu, že Evropa v současnosti zaostává za Severní Amerikou a Asií ve výzkumu a patentech v oblasti umělé inteligence;

AG.  vzhledem k tomu, že rozvoj technologií umělé inteligence může zlepšit kvalitu života lidí trpících chronickými chorobami a zdravotním postižením a řešit sociální problémy, jako je stárnutí naší populace, neboť umělá inteligence dokáže zpřesnit a zefektivnit zdravotnické technologie pro poskytování zdravotní péče;

AH.  vzhledem k tomu, že umělá inteligence a robotika mají v lékařské péči široké uplatnění, např. v následujících oblastech: vedení lékařské dokumentace a správa zdravotních údajů, provádění opakujících se postupů (analýza testů, rentgenových snímků, snímků počítačové tomografie, vkládání dat), navrhování léčebných postupů, digitální konzultace (jako je lékařská konzultace založená na osobní anamnéze a běžných lékařských znalostech), virtuální ošetřovatelé, řízení předepisování léků, vytváření léčiv, přesné lékařství (jako je genetické a genomické hledání mutací a tendence k nemocem na základě informací v DNA), sledování zdravotního stavu, analýza systému zdravotní péče atd.;

AI.  vzhledem k tomu, že dostupnost neznamená stejné služby a zařízení pro všechny; vzhledem k tomu, že dostupnost umělé inteligence a robotiky je založena na inkluzivním plánování a projektování; vzhledem k tomu, že východiskem pro projektování musejí být potřeby, přání a zkušenosti uživatelů;

AJ.  vzhledem k tomu, že ohledně autonomie robotů, zjevné absence lidské empatie a toho, jak roboti ovlivní vztah mezi lékařem a pacientem, panují značné etické, psychologické a právní obavy, které ještě nebyly řádně projednány na úrovni EU, především v souvislosti s ochranou osobních údajů pacientů, odpovědností a novými hospodářskými a pracovněprávními vztahy, které z toho vyplývají; vzhledem k tomu, že „autonomie“ jako taková může být přisuzována pouze lidským bytostem; vzhledem k tomu, že pro umělou inteligenci je zapotřebí vytvořit pevný právní a etický rámec;

AK.  vzhledem k tomu, že zavádění umělé inteligence musí být zejména ve zdravotnictví vždy založeno na principu odpovědnosti „člověk obsluhuje stroj“;

1.  Společnost podporovaná umělou inteligencí a robotikou

1.1.  Práce v éře umělé inteligence a robotiky

1.  zdůrazňuje, že automatizace v kombinaci s umělou inteligencí zvýší produktivitu, a tím pádem i zlepší výsledky; konstatuje, že stejně jako v předchozích technologických revolucích některá pracovní místa zmizí, ale rovněž vzniknou nová, takže se promění životy lidí i pracovní postupy; zdůrazňuje, že větší využívání robotiky a umělé inteligence by mělo současně omezit expozici lidí škodlivým a nebezpečným podmínkám, pomoci vytvářet kvalitnější pracovní místa s důstojnými podmínkami a zvýšit produktivitu;

2.  naléhavě žádá členské státy, aby se zaměřily na rekvalifikaci pracovníků v odvětvích, která jsou nejvíce zasažena automatizací; zdůrazňuje, že nové vzdělávací programy by se měly zaměřit na rozvoj dovedností pracovníků, aby se dokázali chopit příležitostí, jež nabízejí nová pracovní místa vzniklá díky umělé inteligenci; podporuje rozvoj programů počítačové gramotnosti ve školách, rozvoj učňovského vzdělávání a stanovení priorit odborného vzdělávání, aby se pracovníci mohli snadněji přizpůsobit technologickým změnám;

3.  doporučuje členským státům, aby spolu se subjekty ze soukromého sektoru identifikovaly rizika a vypracovaly strategie, které zajistí vytvoření příslušných programů rekvalifikace; zdůrazňuje, že také společnosti musí investovat do vzdělávání a rekvalifikace svých zaměstnanců, aby uspokojily jejich potřeby;

4.  zdůrazňuje, že rozvoj robotiky v EU bude mít značné dopady na pracovněprávní vztahy; domnívá se, že tyto dopady by měly být řešeny vyváženě, aby se podpořila reindustrializace a aby i pracovníci mohli těžit z růstu produktivity;

5.  konstatuje, že v současnosti je v pracovním prostředí nastolena křehká rovnováha mezi vlastníky a pracovníky; domnívá se, že další zavádění umělé inteligence do průmyslu by mělo probíhat za rozsáhlých konzultací se sociálními partnery, neboť potenciální změny počtu lidí pracujících v průmyslu vyžaduje přijetí aktivních politik, které pracovníkům pomůžou přizpůsobit se novým požadavkům a zajistí všeobecné sdílení zisků; konstatuje, že to vyžaduje přehodnocení a přepracování politik v oblasti trhu práce, systémů sociálního zabezpečení a zdanění;

6.  vyzývá členské státy, aby odstranily překážky vstupu na trh práce, jako je překvalifikovanost;

7.  domnívá se, že digitální gramotnost je jedním z nejdůležitějších faktorů budoucího rozvoje umělé inteligence, a naléhavě žádá Komisi a členské státy, aby rozvíjely a realizovaly strategie odborné přípravy a rekvalifikace v oblasti počítačových dovedností; konstatuje, že digitální gramotnost může podpořit širokou a inkluzivní účast na řešeních v ekonomice založené na datech a usnadnit komunikaci a spolupráci se všemi zúčastněnými stranami;

8.  konstatuje, že vzhledem k tomu, že změny postihnou všechny věkové skupiny občanů, je tomu třeba přizpůsobit vzdělávací programy, mimo jiné zavést nové vzdělávací dráhy a nové metody předávání znalostí; zdůrazňuje, že by měly být náležitě řešeny vzdělávací aspekty; zejména se domnívá, že digitální dovednosti, včetně kódování, musí být do výuky a odborné přípravy zahrnuty od rané školní docházky až po celoživotní učení;

1.2.  Zneužívání umělé inteligence a lidská práva

9.  zdůrazňuje skutečnost, že zlovolné nebo nedbalé využívání umělé inteligence by mohlo ohrozit digitální bezpečnost a fyzickou i veřejnou bezpečnost, neboť by mohlo být zneužito k vedení rozsáhlých, dobře cílených a vysoce účinných útoků na služby informační společnosti a související strojová zařízení i k dezinformačním kampaním, a obecně tak mohlo být omezeno právo jednotlivců na sebeurčení; zdůrazňuje, že zlovolné či nedbalé využívání umělé inteligence by mohlo rovněž představovat riziko pro demokracii a základní práva;

10.  vyzývá Komisi, aby navrhla rámec pro trestání praktik založených na manipulaci vnímání, kdy personalizovaný obsah nebo nabízený výběr zpravodajství (tzv. news feeds) vedou k negativním pocitům a zkreslenému vnímání skutečnosti, což může mít negativní důsledky (například tak lze ovlivnit výsledky voleb nebo zkreslit vnímání sociálních otázek, jako je migrace);

11.  zdůrazňuje, že je důležité rozpoznat, určit a sledovat tendence, které by mohly přímo či nepřímo narušit vývoj umělé inteligence; vyzývá, aby se výzkum v oblasti umělé inteligence rovněž zaměřil na odhalování případů, kdy byla umělá inteligence a robotika náhodně či úmyslně poškozena;

12.  naléhavě žádá Komisi, aby vzala na vědomí společenské problémy, které pramení z praktik sestavování žebříčků občanů; zdůrazňuje, že občané by neměli být diskriminováni na základě svého pořadí na společenském žebříčku a měli by dostat novou šanci;

13.  vyjadřuje velké znepokojení nad využíváním aplikací umělé inteligence, včetně rozpoznávání obličeje a hlasu, v programech tzv. emocionálního dohledu, které sledují duševní stav pracovníků a občanů s cílem zvýšit produktivitu a zachovat sociální stabilitu, někdy ve spojení se systémy „společenských kreditů“, jak se děje např. v Číně; zdůrazňuje, že tyto programy jsou ze své podstaty v rozporu s evropskými hodnotami a normami, které chrání práva a svobody jednotlivců;

2.  Technologický rozvoj vedoucí k umělé inteligenci a robotice

2.1.  Výzkum a vývoj

14.  připomíná, že Evropa má špičkovou výzkumnou obec světové úrovně zabývající se umělou inteligencí, která představuje 32 % výzkumných institucí v tomto oboru na světě;

15.  vítá návrh programu Digitální Evropa vypracovaný Komisí a rozpočet ve výši 2,5 miliardy EUR, který byl přislíben pro umělou inteligenci, stejně jako navýšení finančních prostředků v programu Horizont 2020; chápe význam financování z prostředků EU, které má doplňovat rozpočty členských států a průmyslu na výzkum umělé inteligence, a potřebu spolupráce mezi veřejnými, soukromými a unijními výzkumnými programy;

16.  podporuje operační cíle programu Digitální Evropa, tj. vybudovat a posílit v Unii základní kapacity umělé inteligence, zpřístupnit je všem podnikům a orgánům veřejné správy a posílit a propojit stávající zkušební a experimentální zařízení pro umělou inteligenci v členských státech;

17.  vybízí členské státy, aby rozvíjely multilaterální partnerství zúčastněných stran napříč průmyslem, výzkumných institucí a společných středisek excelence, která se zabývají umělou inteligencí;

18.  zdůrazňuje, že výzkum umělé inteligence by neměl investovat pouze do vývoje příslušných technologií a inovací, ale řešit i sociální a etické otázky a odpovědnost, které s sebou umělá inteligence přináší; je přesvědčen o tom, že každý model založený na umělé inteligenci by měl již od návrhu zahrnovat etické hledisko;

19.  zdůrazňuje, že v zájmu společenského pokroku a ochrany životního prostředí by výzkum v oblasti umělé inteligence a další související činnosti měly být prováděny v souladu se základními právy a zásadou předběžné opatrnosti; zdůrazňuje, že každý, kdo se podílí na rozvoji, zavádění, šíření a využívání umělé inteligence, by měl zohledňovat a respektovat lidskou důstojnost, právo na sebeurčení i dobré životní podmínky – jak fyzické, tak i psychické – jednotlivce i společnosti jako celku, předvídat potenciální dopady na bezpečnost a přijmout náležitá opatření, která jsou úměrná úrovni ochrany, včetně rychlého zveřejnění faktorů, které by mohly ohrozit veřejnost nebo životní prostředí;

20.  zdůrazňuje, že klíčem k rozvoji umělé inteligence je také konkurenceschopné výzkumné prostředí; zdůrazňuje, že je důležité podněcovat špičkový výzkum, včetně základního výzkumu a projektů s vysokým rizikem a výnosem, a podporovat evropský výzkumný prostor pomocí atraktivních podmínek financování, mobility a přístupu k infrastruktuře v celé Unii na základě principu otevřenosti vůči třetím zemím a vůči odborníkům ze zemí mimo Unii za předpokladu, že to neoslabí kybernetickou bezpečnost EU;

21.  zdůrazňuje skutečnost, že platy výzkumných pracovníků v EU jsou stále výrazně nižší než platy jejich protějšků v USA nebo Číně, což bývá hlavním důvodem jejich odchodu z Evropy; vyzývá Komisi a členské státy, aby se zaměřily na přilákání vysoce talentovaných lidí do evropských společností, a žádá členské státy, aby pro ně vytvořily atraktivní podmínky;

22.  zdůrazňuje, že Evropa musí novou stěžejní iniciativu FET(7) věnovat umělé inteligenci a klást přitom zvláštní důraz na přístup zaměřený na člověka a na jazykové technologie;

23.  domnívá se, že umělá inteligence, strojové učení a exponenciální skoky v dostupnosti údajů a cloud computingu jsou hnací silou výzkumných iniciativ, které se snaží porozumět molekulární a buněčné biologii, nasměrovat vývoj léčebných postupů a analyzovat datové toky, tak aby bylo možné odhalovat zdravotní hrozby, předvídat vypuknutí epidemií a poskytovat poradenství pacientům; bere na vědomí, že metody vytěžování dat a techniky datové navigace lze použít k odhalení mezer, rizik, trendů a vzorců;

24.  zdůrazňuje, že v případech, kdy rizika tvoří nevyhnutelnou a nedílnou součást výzkumu umělé inteligence, by měly být vypracovány a dodržovány přísné protokoly hodnocení a řízení rizik, přičemž je třeba vzít v úvahu to, že riziko újmy nesmí být větší než riziko, které hrozí v běžném životě (tj. lidé by neměli být vystaveni dodatečným nebo větším rizikům než těm, kterým čelí při běžném životním stylu);

2.2.  Investice

25.  konstatuje, že je důležité v této oblasti více investovat, máme-li si udržet konkurenceschopnost; uznává, že ačkoli většina investic a inovací v této oblasti pochází ze soukromých podniků, je třeba vybídnout rovněž členské státy a Komisi, aby dále investovaly do výzkumu v tomto odvětví a stanovily své priority rozvoje; vítá návrh projektu InvestEU a dalších partnerství veřejného a soukromého sektoru, které povzbudí soukromé financování; domnívá se, že je třeba podpořit koordinaci investic soukromého a veřejného sektoru, aby se zajistilo jasné zacílení rozvoje;

26.  zdůrazňuje, že investice do umělé inteligence, které se mohou vyznačovat značnou nejistotou, by měly být doplněny finančními prostředky EU, například od Evropské investiční banky či Evropského investičního fondu, nebo programu InvestEU a Evropského fondu pro strategické investice (EFSI), které mohou pomoci sdílet rizika;

27.  naléhavě žádá Komisi, aby nepovolila financování umělé inteligence, která je vyvíjena pro vojenské účely; naléhavě vyzývá Komisi, aby z financování EU vyloučila společnosti, které zkoumají a rozvíjejí umělé vědomí;

28.  doporučuje Komisi, aby zajistila, aby duševní vlastnictví k výzkumu prováděnému s využitím prostředků EU zůstalo v EU a na evropských univerzitách;

2.3.  Inovace a přijetí společností a odpovědnost

29.  konstatuje, že veškeré zásadní technologické výdobytky vyžadovaly přechodné období, neboť většina společnosti jim potřebovala lépe porozumět a integrovat je do svého každodenního života.

30.  konstatuje, že budoucnost této technologie závisí na společenském přijetí a že je třeba klást větší důraz na náležité informování o jejích přínosech, aby se zajistilo lepší pochopení této technologie a jejího využití; rovněž konstatuje, že pokud společnost nebude o technologii umělé inteligence informována, sníží se motivace k inovacím v tomto odvětví;

31.  domnívá se, že přijetí ze strany veřejnosti závisí na tom, jak bude informována o příležitostech, výzvách a vývoji umělé inteligence; doporučuje členským státům a Komisi, aby usnadnily přístup k věrohodným informacím o hlavních obavách ohledně umělé inteligence a robotiky, např. v souvislosti se soukromím, bezpečností a transparentním rozhodováním;

32.  vítá, že k zavádění nových, inovativních nápadů se ve spolupráci s regulačními orgány používají regulační pískoviště, což umožňuje, aby do dotčené technologie byla od začátku zabudována ochranná opatření, která tak usnadní a podpoří její vstup na trh; zdůrazňuje, že k testování bezpečného a účinného používání technologií umělé inteligence v reálném prostředí je nutné zavést regulační pískoviště vytvořená speciálně pro umělou inteligenci;

33.  konstatuje, že k dosažení většího přijetí umělé inteligence ze strany společnosti musí existovat záruky, že používané systémy jsou bezpečné a zabezpečené;

34.  konstatuje, že díky umělé inteligenci a jazykové technologii mohou vznikat důležité aplikace k posílení jedné Evropy v její rozmanitosti: automatizovaný překlad, chatboti a osobní asistenti, rozhraní s mluvenou řečí pro roboty a internet věcí, inteligentní analýza a automatizovaná identifikace propagandy, falešných zpráv a nenávistných výroků na internetu;

2.4.  Podpůrné podmínky: konektivita, dostupnost údajů a vysoce výkonná výpočetní technika, cloudová infrastruktura

35.  zdůrazňuje, že k integraci robotiky a technologií umělé inteligence do hospodářství a společnosti je zapotřebí digitální infrastruktura, která zajistí všudypřítomnou konektivitu;

36.  zdůrazňuje, že konektivita je předpokladem pro to, aby se Evropa stala součástí gigabitové společnosti, a že umělá inteligence je jasným příkladem exponenciálního růstu poptávky po vysoce kvalitním, rychlém, bezpečném a všudypřítomném propojení; domnívá se, že Unie a členské státy by měly i nadále podporovat opatření na podnícení investic do sítí s velmi vysokou kapacitou a na jejich přijetí v EU;

37.  zdůrazňuje, že je naprosto nezbytné zajistit rychlý a bezpečný rozvoj sítí 5G, aby Unie mohla plně využívat výhod umělé inteligence a chránit se před kybernetickými hrozbami a tak umožnila obnovu a rozvoj průmyslových odvětví a služeb, které jsou páteří evropského hospodářství, a podpořila vznik nových služeb, výroby a trhů, jež jsou nezbytné pro zachování nových pracovních míst a vysoké úrovně zaměstnanosti;

38.  připomíná, že dostupnost vysoce kvalitních a užitečných dat je zásadním předpokladem pro skutečnou konkurenceschopnost v odvětví umělé inteligence, a vyzývá veřejné orgány, aby našly způsoby, jak vytvářet, sdílet a spravovat data tak, že z dat učiní společný majetek a že současně budou chránit soukromí a citlivé údaje;

39.  zdůrazňuje význam kvalitních údajů používaných pro hluboké učení; konstatuje, že používání nekvalitních, neaktuálních, neúplných nebo nesprávných údajů může vést k chatrným prognózám, a tak k diskriminaci a předpojatosti,

40.  domnívá se, že nový soubor právních předpisů o volném pohybu neosobních údajů v EU umožňuje, aby stále více údajů bylo využíváno pro inovace založené na datech, což malým a středním podnikům a začínajícím podnikům usnadňuje rozvíjet inovativní služby obsahující prvky umělé inteligence a vstupovat na nové trhy a zároveň občanům a podnikům zpřístupňuje lepší produkty a služby;

41.  konstatuje, že umělá inteligence má potenciál ke zvýšení efektivity, komfortu a životních podmínek v mnoha oblastech, pokud etablované zúčastněné strany budou spolupracovat s vývojáři umělé inteligence; dále konstatuje, že v současnosti velký objem dat neosobní povahy vlastní různé zúčastněné strany a že navázáním partnerství lze zvýšit jejich účinnost; domnívá se, že má-li se tohoto cíle dosáhnout, je nezbytnou podmínkou vzájemná spolupráce mezi uživateli a vývojáři umělé inteligence;

42.  zdůrazňuje význam interoperability a správnosti údajů k zajištění vysoké úrovně spolehlivosti nových technologií a příslušných bezpečnostních norem;

43.  domnívá se, že úspěšnost aplikací umělé inteligence, jež jsou přizpůsobovány uživatelům v celé EU, často vyžaduje rozsáhlé znalosti místních trhů a přístup k odpovídajícím místním údajům, které slouží k vytváření zkušebních datových souborů, testování a validaci systémů, zejména v odvětvích souvisejících se zpracováním přirozeného jazyka; žádá členské státy, aby podporovaly dostupnost vysoce kvalitních, interoperabilních a otevřených dat ve vlastnictví veřejného i soukromého sektoru;

44.  zdůrazňuje, že je nutné zajistit maximální soudržnost s politikou EU v oblasti dat velkého objemu;

45.  vítá opatření, jež mají usnadnit a podpořit výměnu a sdílení dat přes hranice;

46.  konstatuje, že sdílení dat v současné době zdaleka nedosahuje svého plného potenciálu a že velké množství dat je využíváno nedostatečně;

47.  shledává, že subjekty nejsou ochotné sdílet svá data, a zdůrazňuje, že je nutné za tímto účelem přijmout podpůrná opatření; konstatuje, že za neschopnost sdílet data ve velké míře může i absence společných norem;

48.  vítá právní předpisy, jako je nařízení o volném toku údajů a oceňuje jeho význam pro účinnější a účelnější postupy v oblastech, jako je umělá inteligence;

49.  uznává, že je třeba zavést větší tržně orientované pobídky, které podpoří přístup k datům a jejich sdílení; konstatuje, že otevřenost dat představuje v první řadě riziko pro investice do dat;

50.  požaduje vyjasnění pravidel o vlastnictví údajů a platných právních rámců; konstatuje, že právní nejistota vedla k přehnaně opatrným reakcím ze strany průmyslu;

51.  zdůrazňuje význam evropských iniciativ v oblasti cloud computingu a vysoce výkonné výpočetní techniky, jež dále posílí rozvoj algoritmů hlubokého učení a zpracovávání dat velkého objemu; je pevně přesvědčen o tom, že pro úspěch a relevantnost těchto iniciativ pro rozvoj umělé inteligence musí být infrastruktura otevřena jak veřejným, tak soukromým subjektům se sídlem v Unii i mimo její území a měla by se řídit co nejméně omezujícími přístupovými kritérii;

52.  vítá zřízení evropského společného podniku pro vysoce výkonnou výpočetní techniku; zdůrazňuje, že superpočítačová a datová infrastruktura má zásadní význam k zajištění konkurenceschopného inovačního ekosystému pro vývoj technologií a aplikací umělé inteligence;

53.  zdůrazňuje, že cloud computing hraje klíčovou roli při podpoře zavádění umělé inteligence; zdůrazňuje, že přístup ke cloudovým službám umožňuje soukromým firmám, veřejným institucím, výzkumným a akademickým institucím a uživatelům rozvíjet a využívat umělou inteligenci efektivním a ekonomicky životaschopným způsobem;

3.  Průmyslová politika

54.  připomíná, že ačkoli již v oblasti umělé inteligence a robotiky existují zavedené průmyslové aplikace, pokrok v této oblasti se nezastavil a přináší rozsáhlé a rozmanité způsoby použití ve všech lidských činnostech; domnívá se, že každý regulační rámec musí zahrnovat flexibilitu, která umožňuje inovace a svobodný rozvoj nových technologií a využití umělé inteligence;

55.  zdůrazňuje, že určení rozsahu a aplikací umělé inteligence by mělo být výsledkem procesu projektování, který by se měl řídit potřebami a zásadami, jež berou v úvahu zamýšlený výsledek a nejlepší cestu k jeho dosažení z ekonomického a sociálního hlediska; věří, že jasné politiky ve všech fázích vývoje povedou k zavádění technologií přizpůsobených požadovanému účelu a zajistí pokrytí rizik a nedostatků;

56.  doporučuje, aby se k řešení klíčových výzev, jako je budování datového ekosystému a podpora přístupu k datům, jejich sdílení a toku v souladu s právem osob na ochranu soukromí, využívala a podporovala partnerství veřejného a soukromého sektoru;

57.  zdůrazňuje, že velkou výzvou pro budoucnost systémů umělé inteligence je nerovnoměrná kvalita technologie výroby softwaru, a proto zdůrazňuje, že je nanejvýš zapotřebí standardizovat budování a používání systémů umělé inteligence;

58.  bere na vědomí práci, která probíhá po celém světě, a uvědomuje si, že je třeba s partnery, především v rámci OECD a G20, aktivně spolupracovat na určování směru, jímž se toto odvětví vydá, aby EU zůstala i nadále konkurenceschopná a udržela si rovný přístup mezi všemi národy i co nejširší sdílení přínosů rozvoje umělé inteligence;

59.  se znepokojením konstatuje, že řada neevropských společností a subjektů ze třetích zemí stále více využívá při poskytování služeb prediktivní modely založené na umělé inteligenci, díky čemuž získává na trzích EU, a to především na místní úrovni, přidanou hodnotu a že monitoruje, popřípadě ovlivňuje politické nálady, takže potenciálně ohrožuje technologickou suverenitu občanů Unie;

60.  zdůrazňuje, že veřejná podpora umělé inteligence by se měla soustředit na strategická odvětví, v nichž má průmysl EU největší příležitost hrát celosvětově vedoucí úlohu a která přinášejí přidanou hodnotu ve veřejném zájmu;

3.1.  Prioritní odvětví

3.1.1.  Veřejný sektor

61.  zdůrazňuje, že umělá inteligence a robotika mohou být velkým přínosem pro veřejný sektor, a vítá větší investice do výzkumu a vývoje, které zajistí jejich rozvoj;

62.  zdůrazňuje, že členské státy by měly investovat také do vzdělávacích programů a programů odborné přípravy zaměřených na umělou inteligenci, aby pomohly zaměstnancům veřejného sektoru obeznámit se s používáním umělé inteligence a robotiky; konstatuje, že by měly být rovněž zahájeny informační kampaně určené pro občany, kteří budou využívat služby veřejného sektoru poskytované systémy umělé inteligence a robotikou, aby se uklidnily jejich obavy ze ztráty kontroly nad osobními údaji a aby byla získána jejich důvěra;

63.  zdůrazňuje, že informace veřejného sektoru představují mimořádný zdroj dat, který může přispět k rychlému pokroku a vytvoření nové strategie pro zavádění moderních digitálních technologií, zejména umělé inteligence;

64.  domnívá se, že zavádění spolehlivé umělé inteligence do veřejného sektoru může významně podpořit reformu veřejné správy, pokud jde o proces rozhodování a zlepšení veřejných služeb, a současně podpořit větší využití umělé inteligence v jiných oblastech;

65.  bere na vědomí využívání robotické automatizace a její dopad na zlepšování postupů ve veřejném sektoru; konstatuje, že tyto procesy jsou interoperabilní se staršími systémy;

66.  žádá členské státy, aby se postavily do čela digitální transformace a staly se hlavními odpovědnými uživateli a kupci technologie umělé inteligence; v této souvislosti zdůrazňuje, že členské státy musí přizpůsobit své politiky v oblasti dat, které se vztahují mimo jiné ke shromažďování, využívání, archivaci nebo anotaci veřejných údajů, aby bylo možné umělou inteligenci používat v celém veřejném sektoru;

67.  zdůrazňuje, že do procesu rozvoje umělé inteligence je třeba zapojit veřejnost; vyzývá proto Komisi, aby zveřejnila veškeré algoritmy, nástroje a technologie financované nebo spolufinancované z veřejných zdrojů jako otevřený zdroj;

68.  domnívá se, že umělá inteligence bude velkým přínosem ve smyslu uplatňování zásady „pouze jednou“, neboť umožní kombinovat databáze a informace z různých zdrojů, čímž usnadní komunikaci občanů s orgány veřejné správy;

69.  vyzývá Komisi, aby zaručila ochranu občanů před jakýmkoli systémem umělé inteligence, s jehož pomocí by orgány veřejné zprávy rozhodovaly o sestavování žebříčků občanů, jako je systém, který se má začít používat v Číně;

3.1.2.  Zdraví

70.  zdůrazňuje, že zásadním aspektem péče o lidi je lidský kontakt;

71.  konstatuje, že umělá inteligence a robotika mohou být přínosné pro pečovatelské služby, které jsou zatížené v důsledku zvyšování očekávané délky života, neboť lékaři a sestry by tak měli více času na vysoce hodnotné činnosti (např. komunikaci s pacienty);

72.  bere na vědomí dopad, který má umělá inteligence již nyní na celkové zdraví, prevenci, diagnostiku a výzkum a její velký potenciál pro poskytování péče přizpůsobené konkrétním potřebám pacienta; domnívá se, že to v konečném důsledku vede k udržitelnějšímu a efektivnějšímu ekosystému zdravotní péče založenému na výsledcích;

73.  konstatuje, že při spojení umělé inteligence s diagnostikou prováděnou člověkem je míra chyb obvykle výrazně nižší než u diagnostiky prováděné pouze lékaři(8);

74.  zdůrazňuje, že využívání dat ve zdravotnictví musí být pečlivě a eticky monitorováno a nesmí žádným způsobem bránit přístupu k sociální ochraně nebo pojištění;

75.  domnívá se, že v případě využití umělé inteligence v implantovaných lékařských zařízeních by měl mít jejich nositel právo kontrolovat a upravovat použitý zdrojový kód;

76.  zastává názor, že zvláštní pozornost by se měla věnovat používání dat velkého objemu ve zdravotnictví, aby se maximálně využily jejich potenciální příležitosti – jako zlepšení zdravotního stavu jednotlivých pacientů nebo zkvalitnění systémů zdravotní péče v členských státech –, aniž by se snížily etické standardy a ohrozilo soukromí nebo bezpečnost občanů;

77.  zdůrazňuje však, že stávající systém pro schvalování lékařských zařízení nemusí být vhodný pro technologie umělé inteligence; vyzývá Komisi, aby bedlivě sledovala pokrok těchto technologií a případně navrhla změny regulačního rámce, tak aby určoval odpovědnost uživatele (lékaře / zdravotnického pracovníka), výrobce technického řešení a zdravotnického zařízení, které léčbu poskytuje; poukazuje na to, že právní odpovědnost za škodu má v souvislosti s používáním umělé inteligence ve zdravotnictví ústřední význam; zdůrazňuje, že je proto nutné zajistit, aby se uživatelé necítili povinni podporovat vždy diagnostické řešení či léčbu navrženou technologickým nástrojem z obavy, že by byli žalováni o náhradu škody, pokud by je jejich informovaný odborný úsudek vedl byť jen k částečně odlišným závěrům;

78.  žádá členské státy a Komisi, aby ve veřejném a soukromém sektoru uvolnily více finančních prostředků na technologie umělé inteligence spojené se zdravím; v této souvislosti vítá prohlášení o spolupráci, které podepsalo 24 členských států EU a Norsko, aby na evropské úrovni zvýšily dopad investic do umělé inteligence; vyzývá členské státy a Komisi, aby zvážily, zda je třeba v celoevropském měřítku aktualizovat a standardizovat vzdělávací programy pro lékaře a zdravotnický personál, aby se v členských státech zajistila vysoká úroveň odborných znalostí a rovné podmínky pro znalosti a používání nejvyspělejších technologických nástrojů v robotické chirurgii, biomedicíně a biolékařském zobrazování založeném na umělé inteligenci; vyzývá Komisi, aby pracovala na strategiích a politikách, díky nimž by EU mohla získat vedoucí postavení ve stále významnější oblasti technologií zdravotní péče a které by zároveň zajistily přístup pacientů k bezproblémové a účinné lékařské péči;

79.  vyzývá Komisi, aby vypracovala strategie a politiky, které by EU umožnily stát se celosvětovým lídrem na rostoucím poli technologií zdravotní péče a které by současně zajistily přístup pacientů ke konzistentní a účinné zdravotní péči;

80.  uznává, že lepší diagnostika by mohla zachránit miliony životů, neboť podle Světové zdravotnické organizace je 89 % předčasných úmrtí v Evropě způsobeno nepřenosnými nemocemi;

81.  upozorňuje na přínos umělé inteligence a robotiky pro inovace preventivních, klinických a rehabilitačních postupů a technik ve zdravotnictví, především na jejich přínos pro pacienty se zdravotním postižením;

82.  uznává, že větší využívání senzorů v robotice rozšiřuje rozsah poskytované péče a umožňuje, aby se pacientům v domácím ošetření dostávalo individuálnější péče a služeb na dálku a aby se zároveň generovala smysluplnější data;

83.  shledává, že z průzkumu Eurobarometr z května 2017(9) vyplývá, že občané EU se stále nesmířili s představou, že by roboti byli používáni při každodenní zdravotnické péči; vyzývá Komisi a členské státy, aby vypracovaly strategie a komunikační kampaně na zvýšení povědomí o výhodách každodenního používání robotů; bere na vědomí zejména ambice japonské robotické strategie;

3.1.3.  Energetika

84.  konstatuje, že umělá inteligence umožní dodavatelům energie přejít z preventivní na prediktivní údržbu aktiv a dosáhnout účinnější výroby energie, protože zvýší spolehlivost, zejména v případě obnovitelných zdrojů, a umožní určovat nejefektivnější rozmístění nových zařízení, a tím i lepší řízení odezvy na poptávku;

85.  uznává, že přesnější data o potenciálu výroby energie z obnovitelných zdrojů získaná díky umělé inteligenci zvýší investiční jistotu pro podniky i jednotlivce, čímž se urychlí přechod na obnovitelné zdroje energie a přispěje k dlouhodobé strategii Unie pro neutrální hospodářství z hlediska klimatu;

86.  konstatuje, že se již nyní využívají senzorická řešení k řízení spotřeby energie v domácnostech, díky nimž se dosahuje značných energetických a peněžních úspor;

87.  vítá potenciál umělé inteligence při modelování, identifikaci a zmírňování vlivů lidské činnosti na klima; konstatuje, že ačkoli rostoucí digitalizace s sebou přináší nové energetické potřeby, může pomoci zefektivnit energeticky náročná odvětví a lépe porozumět procesům, a tím i přispět k jejich zdokonalení;

88.  zdůrazňuje, že v důsledku větší digitalizace energetiky budou energetické sítě rozsáhlejší a budou více vystaveny kybernetickým hrozbám; vyzývá členské státy a Komisi, aby digitální transformaci energetiky doplnily o opatření na zvýšení kybernetické bezpečnosti, jako je umělá inteligence;

3.1.4.  Doprava

89.  vítá schopnost umělé inteligence a robotiky výrazně zlepšit naše dopravní systémy, budou-li zavedeny autonomní vlaky a motorová vozidla; žádá o rozsáhlejší výzkum a investice v této oblasti, aby byl zajištěn její bezpečný a účinný rozvoj; zdůrazňuje obrovské příležitosti jak pro velké technologické společnosti, tak pro MSP;

90.  konstatuje, že díky snížení výskytu lidských selhání v odvětví dopravy může být tento systém případně účinnější, přičemž díky jasnějšímu úsudku a prediktivnímu charakteru této technologie bude docházet k menšímu počtu nehod, ubude zpoždění, jelikož bude možné mapovat provoz a poskytovat služby podle časového plánu, a zvýší se úspory, neboť se sníží množství chyb způsobených řidiči a zjednoduší se interní procesy;

91.  konstatuje, že dominantní výskyt autonomních vozidel v budoucnu představuje riziko z hlediska ochrany údajů a technických poruch a přesune odpovědnost z řidiče na výrobce, a pojišťovny tudíž budou muset změnit způsob, jakým při poskytování pojištění zohledňují riziko;

92.  konstatuje, že v interakci s vozidly a dopravními systémy se stále častěji využívá hlasová komunikace, avšak tyto funkce jsou k dispozici pouze pro několik evropských jazyků, a proto by se mělo zajistit, aby tyto možnosti mohli využívat všichni Evropané v mateřském jazyce;

3.1.5.  Zemědělství a potravinový řetězec

93.  konstatuje, že umělá inteligence má potenciál k tomu, aby byla katalyzátorem přelomové transformace stávajícího potravinového systému směrem k různorodějšímu, odolnějšímu, regionálně přizpůsobenému a zdravějšímu modelu pro budoucnost;

94.  konstatuje, že umělá inteligence může sehrát roli v úsilí o pomoc při řešení problémů souvisejících s bezpečností potravin, předpovídání propuknutí hladomorů a potravinových nákaz, omezování potravinových ztrát a plýtvání a zlepšit udržitelné hospodaření s půdou, vodou a dalšími ekologickými zdroji;

95.  zdůrazňuje, že umělá inteligence může zasahovat v kritických bodech hodnotového řetězce potravinového systému od výroby až po spotřebu a posílit naši schopnost zásadně změnit způsoby, jakým vyrábíme, zpracováváme a nakupujeme potraviny, a to prostřednictvím informovanějšího plánování využití půdy;

96.  konstatuje, že umělá inteligence může zlepšit hospodaření se zdroji a účinnost využívání vstupů, pomáhat snižovat množství odpadu po sklizni a ovlivňovat volbu spotřebních produktů;

97.  konstatuje, že umělá inteligence ve formě přesného zemědělství má potenciál k přelomové transformaci zemědělské produkce i obecnějšího hospodaření s půdou, a to lepším plánováním využití půdy, předpovídáním změn ve využívání půdy a sledováním zdraví plodin, a současně má potenciál změnit předvídání extrémních povětrnostních jevů;

98.  konstatuje, že umělá inteligence může radikálně změnit dodávky vstupů, kontrolu škůdců a řízení zemědělských podniků, ovlivnit zemědělské postupy, změnit způsob dodávání pojistných produktů nebo napomáhat předvídání a předcházení budoucím hladomorům a výskytu závažné akutní podvýživy;

99.  konstatuje, že umělá inteligence může umožnit lepší rozhodování o tom, jak řídit zemědělské systémy, a může podpořit vývoj nástrojů na podporu rozhodování a doporučování, a tím zvýšit účinnost a zdraví zemědělských podniků;

3.1.6.  Kybernetická bezpečnost

100.  konstatuje, že důležitým aspektem umělé inteligence je kybernetická bezpečnost, zejména vzhledem k nutnému zajištění transparentnosti umělé inteligence na vyšší úrovni; domnívá se, že technologické hledisko, zahrnující mimo jiné kontroly zdrojového kódu, a požadavky na transparentnost a odpovědnost by měl doplňovat institucionální přístup, který bude řešit zavádění umělé inteligence vyvinuté v jiných zemích na jednotný trh EU;

101.  podporuje rychlé zahájení uplatňování aktu o kybernetické bezpečnosti; konstatuje, že rozvoj systémů certifikace EU by měl zajistit odolnější vývoj a zavádění bezpečných systémů umělé inteligence a robotiky;

102.  domnívá se, že umělá inteligence může být zároveň kybernetickou bezpečnostní hrozbou a nástrojem boje proti kybernetickým útokům; domnívá se, že Agentura EU pro bezpečnost sítí a informací (ENISA) by měla připravit akční plán kybernetické bezpečnosti v oblasti umělé inteligence, v němž by mělo být posouzení a řešení hrozeb a nedostatků specifických pro umělou inteligenci;

103.  zdůrazňuje, že je důležité posílit průmyslovou základnu jakožto strategickou součást bezpečného vývoje umělé inteligence; zdůrazňuje, že Evropa musí v zájmu zajištění vysoké úrovně kybernetické bezpečnosti, ochrany údajů a důvěryhodných služeb informačních a komunikačních technologií investovat do své technologické nezávislosti; zdůrazňuje, že je naléhavě zapotřebí, aby EU rozvíjela svou vlastní infrastrukturu, datová centra, cloudové systémy a komponenty, jako jsou grafické procesory a výroba čipů;

104.  konstatuje, že vzhledem k tomu, že se umělá inteligence vyvíjí a hackeři jsou stále důmyslnější, bude nutné připravit spolehlivá řešení v oblasti kybernetické bezpečnosti;

105.  konstatuje, že zavádění řešení umělé inteligence v oblasti kybernetické bezpečnosti umožní předvídání, prevenci a zmírnění hrozeb;

106.  zdůrazňuje, že ačkoli umělá inteligence dokáže lépe pokrýt zjišťování hrozeb, je nutná lidská interpretace těchto hrozeb, aby se zjistilo, zda jsou skutečné či nikoli;

107.  vyzývá Komisi, aby prozkoumala využívání aplikací kybernetické bezpečnosti založených na technologii blockchainu, které zlepšují odolnost, důvěryhodnost a spolehlivost infrastruktury umělé inteligence prostřednictvím modelů šifrování dat bez zprostředkovatelů; vyzývá Komisi, aby zvážila možnost odměňovat občany za jejich data poukázkami;

108.  vyzývá Komisi, aby posílila kapacity EU v oblasti kybernetické bezpečnosti prostřednictvím dalšího propojení a koordinace úsilí v celé Evropě;

3.1.7.  Malé a střední podniky (MSP)

109.  uznává význam MSP při zavádění umělé inteligence; vítá iniciativu Komise, jejímž účelem je vytvoření platformy „umělá inteligence na vyžádání“, která podpoří přenos technologií a růst začínajících podniků (startupů) a MSP; vyzývá Komisi, aby podporovala centra pro digitální inovace pro umělou inteligenci, která nepovedou k vytváření dalších administrativních úrovní, nýbrž se zaměří na urychlení investic do projektů, které prokázaly svou účinnost;

110.  konstatuje, že náklady na investice do umělé inteligence znamenají pro vstup MSP velké překážky; uznává, že pokud si spotřebitelé umělou inteligenci osvojí ve velkém, snížilo by se riziko těchto investic pro MSP;

111.  zdůrazňuje, že je nutné podporovat přijetí umělé inteligence ze strany MSP a její využívání spotřebiteli;

112.  zdůrazňuje význam cílených opatření k zajištění toho, aby MSP a startupy byly schopny přecházet na technologie umělé inteligence a využívat jejich výhod; domnívá se, že posouzení dopadů, pokud jde o účinky nových evropských právních předpisů na technologický vývoj v oblasti umělé inteligence, by mělo být povinné a že by se mělo uvažovat o zavedení posouzení dopadů rovněž na vnitrostátní úrovni;

113.  zdůrazňuje, že umělá inteligence může být nástrojem pro MSP, ale zároveň zvyšuje pákový účinek velkých prvních uživatelů a vývojářů; poukazuje proto na skutečnost, že z hlediska hospodářské soutěže je nutné zajistit řádné vyhodnocování a řešení nových narušení;

4.  Právní rámec pro umělou inteligenci a robotiku

114.  vyzývá Komisi, aby za účelem podpory regulačního prostředí, které by bylo příznivé pro rozvoj umělé inteligence, a v souladu se zásadou zdokonalení tvorby právních předpisů pravidelně přehodnocovala stávající právní předpisy s cílem zajistit jejich účelnost v souvislosti s umělou inteligencí – a to při současném dodržování základních hodnoty EU – a aby se snažila změnit nebo nahradit nové návrhy v případě, že daný účel nesplňují;

115.  vítá vytvoření participativních platforem využívajících umělou inteligenci, které občanům umožní, aby byli úspěšně vyslyšeni a mohli komunikovat s vládami, jimž budou moci předkládat návrhy, a to i prostřednictvím participativních rozpočtů a dalších nástrojů přímé demokracie; zdůrazňuje, že projekty prováděné zdola nahoru mohou podpořit účast občanů a pomáhat lidem přijímat informovaná rozhodnutí efektivněji a demokratičtěji;

116.  konstatuje, že umělá inteligence je pojem zahrnující širokou škálu produktů a aplikací, od automatizace přes algoritmy až po úzce zaměřenou umělou inteligenci a obecnou umělou inteligenci; domnívá se, že ke komplexnímu předpisu nebo nařízení o umělé inteligenci je nutno přistupovat s opatrností, neboť odvětvová regulace může zajistit dostatečně obecné a zároveň podrobné politiky, pakliže jsou pro průmyslové odvětví smysluplné;

117.  zdůrazňuje, že politický rámec musí být navržen tak, aby podporoval rozvoj všech druhů umělé inteligence, nikoli pouze systémy hlubokého učení, což vyžaduje obrovské množství dat;

4.1.  Vnitřní trh pro umělou inteligenci

118.  zdůrazňuje význam zásady vzájemného uznávání při přeshraničním využívání inteligentního zboží, včetně robotů a robotických systémů; připomíná, že pokud je to nutné, testování, certifikace a bezpečnost výrobku by měly zajistit, aby určité zboží bylo bezpečné již od návrhu; v této souvislosti konstatuje, že je rovněž důležité zabývat se etickými aspekty umělé inteligence;

119.  zdůrazňuje, že právní předpisy EU týkající se provádění strategie pro jednotný digitální trh by měly odstranit překážky v zavádění umělé inteligence; žádá Komisi, aby vyhodnotila, kde je nezbytné politické a regulační rámce aktualizovat, a mohla tak vybudovat jednotný evropský trh pro umělou inteligenci;

120.  uznává, že robotika a technologie umělé inteligence jsou stále více používány v autonomních strojích, například v autonomních automobilech a civilních bezpilotních letounech; konstatuje, že některé členské státy již zavádějí nebo zvažují zavedení zvláštních právních předpisů v této oblasti, což by mohlo vést ke směsici vnitrostátních právních předpisů, které budou rozvoj autonomních vozidel brzdit; proto vyzývá k vytvoření jednotného souboru předpisů na úrovni Unie, kterým se zachová rovnováha mezi zájmy a případnými riziky ve vztahu k uživatelům, podnikům a dalším dotčeným stranám a zároveň se tak předejde nadměrné regulaci v oblasti robotiky a systémů umělé inteligence;

121.  naléhavě vyzývá členské státy, aby modernizovaly své systémy odborné přípravy a vzdělávání s cílem zohlednit vědecký pokrok a vývoj v oblasti umělé inteligence v souladu se směrnicí o testu přiměřenosti(10) a směrnicí o uznávání odborných kvalifikací(11) a aby zajistily celosvětovou konkurenceschopnost odborných služeb EU v nadcházejících desetiletích;

122.  zdůrazňuje, že umělá inteligence se dotýká řady odvětví, ve kterých má normalizace zásadní význam, jako jsou inteligentní výrobní systémy, robotika, autonomní automobily, virtuální realita, zdravotní péče a analýza údajů, a domnívá se, že normalizace v oblasti umělé inteligence na úrovni celé EU posílí inovace a zaručí vysokou úroveň ochrany spotřebitelů; uznává, že vzhledem k tomu, že v oblastech, jako je bezpečnost, spolehlivost, interoperabilita a ochrana, existuje značný počet norem, a další podpora a vývoj společných norem v oblasti robotiky a umělé inteligence jsou proto nezbytné a měly by být součástí priorit Unie; vyzývá Komisi, aby spolu s unijními normalizačními orgány a ve spolupráci s mezinárodními normalizačními orgány i nadále aktivně usilovala o zlepšování norem v této oblasti;

123.  připomíná, že na řadu politických aspektů týkajících se služeb obsahujících prvky umělé inteligence, včetně předpisů o ochraně spotřebitelů a politik v oblasti etiky a odpovědnosti, se vztahuje stávající regulační rámec pro služby, zejména směrnice o službách(12), směrnice o odborných kvalifikacích a směrnice o elektronickém obchodu(13); v této souvislosti zdůrazňuje, že konečnou odpovědnost za přijímání rozhodnutí musí vždy nést člověk, zejména pokud jde o odborné služby, jako jsou lékařské, právní a účetní profese; domnívá se, že je třeba zvážit, zda by za účelem ochrany oprávněných cílů veřejného zájmu a poskytování vysoce kvalitních služeb nebyl potřebný dohled kvalifikovaného odborníka;

124.  uznává význam dokonalejších digitálních služeb, jako jsou virtuální asistenti, chatboty a virtuální agenti, které znamenají nebývalé přínosy v oblasti provozní efektivity, a zároveň zcela uznává, že s ohledem na omezenou autonomii umělé inteligence a robotiky je třeba vyvíjet umělou inteligenci zaměřenou na člověka a orientovanou na trh s cílem vydávat lepší a důvěryhodnější rozhodnutí;

4.2.  Osobní údaje a soukromí

125.  zdůrazňuje, že je třeba zajistit vysokou úroveň bezpečnosti, ochrany a soukromí údajů používaných ke komunikaci osob s roboty a umělou inteligencí; vyzývá Komisi a členské státy, aby do svých politik týkajících se robotiky a umělé inteligence proto začlenily zásady bezpečnosti a soukromí již od návrhu;

126.  připomíná, že právo na ochranu soukromého života a osobních údajů, jak je zakotveno v článcích 7 a 8 Listiny základních práv a v článku 16 Smlouvy o fungování Evropské unie, se vztahuje na všechny oblasti robotiky a umělé inteligence a že právní rámec Unie pro ochranu údajů musí být v oblasti systémů plně dodržován; zdůrazňuje, že vývojáři v oblasti robotických systémů a umělé inteligence nesou odpovědnost za vývoj produktů tak, aby byly bezpečné, zabezpečené a vhodné pro daný účel a dodržovaly postupy pro zpracování údajů v souladu s platnými právními předpisy, důvěrnost, anonymitu, spravedlivé zacházení a řádný postup;

127.  vyzývá Komisi, aby zaručila, že veškeré právní předpisy Unie týkající se umělé inteligence budou zahrnovat opatření a pravidla odrážející rychlý technologický vývoj v této oblasti, aby tak bylo zajištěno, že právní předpisy Unie nebudou zaostávat za křivkou vývoje a zavádění technologií; zdůrazňuje, že je třeba, aby tyto právní předpisy byly v souladu s pravidly na ochranu soukromí a údajů; vyzývá k tomu, aby byla zrevidována pravidla, zásady a kritéria týkající se používání kamer a čidel u robotů a týkající se umělé inteligence s cílem zajistit, že budou v souladu s unijní právní úpravou ochrany údajů;

128.  vyzývá Komisi k zajištění toho, aby jakýkoli rámec EU pro umělou inteligenci zaručoval ochranu osobních údajů, včetně zásad zákonnosti, korektnosti a transparentnosti, ochranu údajů již ve fázi návrhu a ve standardním nastavení, omezení účelu a minimalizaci údajů v souladu s právními předpisy Unie o ochraně údajů, jakož i zabezpečení, osobní bezpečnost a další základní práva, jako jsou právo na informace a svoboda projevu;

129.  zdůrazňuje, že právo na soukromí musí být vždy dodržováno a jednotlivci nesmějí být osobně identifikovatelní; podtrhuje, že vývojář umělé inteligence by měl vždy mít jasný, jednoznačný a informovaný souhlas a že vývojáři navrhující systémy umělé inteligence nesou odpovědnost za vývoj a dodržování postupů pro platný souhlas, důvěrnost, anonymitu, spravedlivé zacházení a řádný postup; zdůrazňuje, že vývojáři musí vyhovět veškerým žádostem o to, aby byly příslušné údaje smazány a odstraněny ze všech souborů dat;

130.  připomíná, že nařízení (EU) 2018/1807(14) o volném pohybu neosobních údajů v EU stanoví, že pokud technologický rozvoj umožňuje konvertovat anonymizované údaje na údaje osobní, má se s takovými anonymizovanými údaji zacházet jako s osobními údaji a má se na ně náležitým způsobem uplatnit nařízení (EU) 2016/679;

4.3.  Odpovědnost

131.  vítá iniciativu Komise spočívající ve vytvoření skupiny odborníků pro odpovědnost a nové technologie s cílem poskytnout EU odborné znalosti o použitelnosti směrnice o odpovědnosti za výrobky(15) na tradiční produkty, nové technologie a nové společenské výzvy (sestava pro směrnici o odpovědnosti za výrobky) a pomáhat EU při vytváření zásad, které mohou sloužit jako vodítko pro možná přizpůsobení platných právních předpisů na úrovni EU a na vnitrostátní úrovni novým technologiím (sestava pro nové technologie);

132.  lituje však, že během současného volebního období nebyl předložen žádný legislativní návrh, čímž se oddálila aktualizace pravidel odpovědnosti na úrovni EU a byla ohrožena právní jistota v celé EU v této oblasti jak pro obchodníky, tak pro spotřebitele;

133.  konstatuje, že inženýři v oblasti umělé inteligence nebo společnosti, které je zaměstnávají, by měli i nadále nést odpovědnost za sociální a environmentální dopady a za dopady na lidské zdraví, které systémy umělé inteligence nebo robotika mohou mít na současné i budoucí generace;

4.4.  Ochrana spotřebitele a posílení jeho postavení

134.  zdůrazňuje, že důvěra spotřebitelů je pro rozvoj umělé inteligence zásadní a že systémy založené na umělé inteligenci zpracovávají stále více údajů spotřebitelů, a proto se stávají privilegovanými cíli kybernetických útoků; rovněž zdůrazňuje skutečnost, že umělá inteligence musí fungovat tak, aby nepoškozovala občany a spotřebitele, a domnívá se, že je proto nutné zabezpečit integritu údajů a algoritmů, na nichž je umělá inteligence založena;

135.  domnívá se, že na technologie umělé inteligence vyvinuté jak pro výrobu, tak pro osobní použití by se měly vztahovat kontroly bezpečnosti výrobků, které provádějí orgány dozoru nad trhem, a předpisy na ochranu spotřebitelů, které v případě potřeby zajistí minimální normy bezpečnosti a prevenci rizika nehod vyplývajícího z interakce s člověkem nebo práce v blízkosti lidí; domnívá se, že by se každá politika v oblasti umělé inteligence měla zabývat etickými otázkami a otázkami ochrany údajů, včetně údajů třetích stran a osobních údajů, občanskoprávní odpovědností a kybernetickou bezpečností;

4.5.  Práva duševního vlastnictví

136.  připomíná své výše uvedené usnesení ze dne 16. února 2017, v němž uvádí, že ačkoli neexistují žádná právní ustanovení, která by se specificky týkala robotiky, lze na robotiku snadno uplatnit stávající právní režimy a doktríny, ačkoli některým aspektům bude pravděpodobně třeba věnovat zvláštní pozornost; znovu připomíná, že ve zmíněném usnesení vyzval Komisi, aby podporovala horizontální, technologicky neutrální přístup k duševnímu vlastnictví, který by se vztahoval na různá odvětví, v nichž by mohla být robotika uplatněna;

137.  v tomto ohledu vítá sdělení Komise určené orgánům EU o pokynech k některým aspektům směrnice Evropského parlamentu a Rady 2004/48/ES o dodržování práv duševního vlastnictví (COM(2017)0708), avšak zdůrazňuje, že význam a účinnost pravidel týkajících se práv duševního vlastnictví, jimiž se má řídit rozvoj umělé inteligence, je třeba sledovat; v této souvislosti zdůrazňuje význam kontrol účelnosti;

5.  Etická hlediska

138.  domnívá se, že činnosti a aplikace umělé inteligence musí být v souladu s etickými zásadami a příslušnými vnitrostátními, unijními a mezinárodními právními předpisy;

139.  požaduje vytvoření etické charty osvědčených postupů pro umělou inteligenci a robotiku, kterou by se společnosti a odborníci měli řídit;

140.  vyzývá Komisi a členské státy, aby prosazovaly rozsáhlou a transparentní spolupráci mezi veřejným a soukromým sektorem a akademickou obcí, což by posílilo sdílení znalostí, a aby podporovaly vzdělávání a odbornou přípravu konstruktérů v oblasti etických důsledků, bezpečnosti a dodržování základních práv, ale také vzdělávání spotřebitelů zaměřené na použití robotiky a umělé inteligence, a to se zvláštním důrazem na bezpečnost a ochranu údajů;

141.  vyzývá Komisi, aby zajistila, že aplikace na bázi umělé inteligence nebudou používat data shromážděná z různých zdrojů bez předchozího výslovného souhlasu subjektů údajů; vyzývá Komisi, aby vytvořila rámec, který zajistí, že výslovný souhlas udělený subjektem údajů bude generovat data pouze pro zamýšlené účely;

142.  vyzývá Komisi, aby respektovala právo občanů na život v režimu offline a aby zajistila, že občané nebudou diskriminováni za to, že o nich nejsou zaznamenána žádná data;

5.1.  Technologie zaměřená na člověka

143.  zdůrazňuje, že je třeba zavést etická pravidla, která zajistí rozvoj umělé inteligence zaměřený na člověka, odpovědnost a transparentnost rozhodovacích systémů založených na algoritmech, jasná pravidla odpovědnosti a spravedlnost;

144.  vítá iniciativu Komise spočívající ve vytvoření skupiny odborníků na vysoké úrovni pro umělou inteligenci a sítě Evropské aliance pro umělou inteligenci s cílem vypracovat etické pokyny pro umělou inteligenci; žádá Komisi, aby zajistila co nejširší přijetí těchto etických pokynů ze strany dotčených odvětví, akademické obce a veřejných orgánů; doporučuje, aby členské státy začlenily tyto zásady do svých vnitrostátních strategií v oblasti umělé inteligence a aby vytvořily pro průmyslová odvětví a vlády struktury reálné odpovědnosti, které bude třeba uplatňovat při navrhování a zavádění umělé inteligence;

145.  domnívá se, že je nezbytné průběžně sledovat zavádění etických pokynů pro umělou inteligenci a jejich vliv na vývoj umělé inteligence zaměřené na člověka; vyzývá Komisi, aby posoudila, zda dobrovolné etické pokyny postačují k zajištění inkluzivního zavádění umělé inteligence zohledňujícího etické zásady, které nevytváří hospodářské a sociální rozdíly ve společnostech EU, a aby v případě potřeby navrhla regulační a politická opatření;

146.  konstatuje, že v nedávné době došlo ke změnám ve sledování a přizpůsobování na základě analýz chování; vyzývá Komisi, aby vypracovala etický rámec, který omezí jejich využívání; naléhavě žádá Komisi, aby připravila a zahájila osvětovou kampaň a informační kampaň o umělé inteligenci a jejím využívání v oblasti analýz chování;

5.2.  Hodnoty jako součást technologie – důraz na etiku již od návrhu („ethical-by-design“)

147.  zdůrazňuje, že tento etický rámec by měl vycházet ze zásad prospěšnosti, neškodlivosti, autonomie a spravedlnosti, z principů a hodnot zakotvených v článku 2 Smlouvy o Evropské unii a v Listině základních práv, jimiž jsou lidská důstojnost, rovnost, spravedlnost a rovnoprávnost, nediskriminace, informovaný souhlas, soukromý a rodinný život a ochrana dat, jakož i z dalších základních principů a hodnot práva Unie, jako jsou zákaz stigmatizace, transparentnost, autonomie, osobní odpovědnost a sociální odpovědnost, a ze stávajících etických postupů a norem;

148.  domnívá se, že Evropa by měla získat vedoucí světové postavení s využitím pouze takové umělé inteligence, která zohledňuje etické zásady; zdůrazňuje, že k dosažení tohoto cíle je třeba zajistit etickou správu aplikací umělé inteligence na různých úrovních; doporučuje, aby členské státy zřídily subjekty pro monitorování a dohled nad etikou v oblasti umělé inteligence a podněcovaly společnosti rozvíjející umělou inteligenci k zakládání etických rad a vypracovávání etických pokynů pro své vývojáře umělé inteligence;

149.  zdůrazňuje, že evropské normy pro umělou inteligenci musí být založeny na zásadách digitální etiky, lidské důstojnosti, dodržování základních práv, ochrany údajů a bezpečnosti, aby tak přispívaly k budování důvěry mezi uživateli; zdůrazňuje, že je důležité využít potenciál EU k vytvoření silné infrastruktury pro systémy umělé inteligence založené na vysoké úrovni ochrany údajů a respektu vůči člověku; konstatuje, že součástí rozvoje umělé inteligence musí být transparentnost a srozumitelnost;

150.  konstatuje, že automatizované zbraňové systémy by měly nadále využívat umělou inteligenci na základě přístupu „human-in-command“ (člověk ve velení);

5.3.  Rozhodování – omezení autonomie umělé inteligence a robotiky

151.  zdůrazňuje, že je obtížné a složité předpovědět budoucí chování mnoha složitých systémů umělé inteligence a nových vzorců chování vzájemně reagujících systémů umělé inteligence; žádá Komisi, aby vyhodnotila, zda je zapotřebí přijmout zvláštní předpisy týkající se rozhodování na bázi umělé inteligence;

152.  konstatuje, že umělá inteligence bude i nadále užitečným nástrojem spolupráce v oblasti lidské činnosti za účelem zlepšování výsledků a snižování počtu chyb;

153.  požaduje, aby lidé měli právo na informace, na odvolání a na odškodnění, je-li umělá inteligence použita pro provedení rozhodnutí, jež mají vliv na jednotlivce a představují závažné ohrožení práv nebo svobody jednotlivce nebo mohou způsobit újmu;

154.  zdůrazňuje, že algoritmy používané v rozhodovacích systémech by neměly být používány bez předchozího posouzení dopadů algoritmů, není-li zřejmé, že nemají žádný významný dopad na životy jednotlivců;

155.  domnívá se, že umělá inteligence, zejména pokud jde o autonomní systémy, včetně schopnosti nezávisle získávat, shromažďovat a sdílet citlivé informace s různými zúčastněnými stranami s možností samostatného učení nebo dokonce vlastních úprav, by měla být předmětem solidních zásad; zdůrazňuje, že systémy umělé inteligence nesmí uchovávat ani zveřejňovat osobní důvěrné informace bez výslovného souhlasu zdroje těchto informací;

5.4.  Transparentnost, neobjektivnost a vysvětlitelnost algoritmů

156.  poukazuje na to, že umělá inteligence je sice velice přínosná pro automatizaci a rozhodování, ale také s sebou nese určité riziko, pokud jsou algoritmy statické a nejasné; v této souvislosti zdůrazňuje, že v otázce algoritmů je zapotřebí větší transparentnosti;

157.  vyzývá Komisi, členské státy a orgány pro ochranu údajů, aby vymezily a přijaly veškerá možná opatření, a co nejvíce tak omezily diskriminaci, k níž dochází prostřednictvím algoritmů, jakož i neobjektivnost, a předcházely jim, a aby vyvinuly pevný společný etický rámec pro transparentní zpracování osobních údajů a automatizované rozhodování, který by mohl sloužit jako vodítko pro využívání dat a prosazování právních předpisů Unie;

158.  zdůrazňuje, že všechny systémy umělé inteligence musí být vyvíjeny s ohledem na zásady transparentnosti a „algoritmické odpovědnosti“ umožňující člověku, aby pochopil jejich kroky; konstatuje, že v zájmu budování důvěry a umožnění pokroku umělé inteligence musí být uživatelé informováni o tom, jak jsou jejich i jiné a odvozené údaje využívány, a o tom, kdy komunikují nebo jednají se systémem umělé inteligence a kdy s člověkem, jenž využívá podpory umělé inteligence; je přesvědčen, že to přispěje k lepšímu porozumění a důvěře mezi uživateli; zdůrazňuje, že vysvětlitelnost rozhodnutí musí být standardem EU v souladu s články 13, 14 a 15 obecného nařízení o ochraně osobních údajů (GDPR)(16); připomíná, že obecné nařízení o ochraně osobních údajů již stanoví právo být informován o postupu, jakým se údaje zpracovávají; zdůrazňuje, že podle článku 22 uvedeného nařízení mají jednotlivci právo na lidský zásah, pokud se jich rozhodnutí založené na automatizovaném zpracování významně dotýká;

159.  zdůrazňuje, že Komise, Evropská rada pro ochranu údajů, vnitrostátní úřady pro ochranu údajů a další nezávislé orgány dohledu by tudíž měly hrát zásadní úlohu s cílem prosazovat transparentnost, náležité zpracování, právní jistotu obecně a specifičtěji pak konkrétní standardy chránící základní práva a záruky související s využíváním zpracování a analýz údajů; vyzývá k užší spolupráci mezi orgány pověřenými dohledem nebo regulací chování v digitálním prostředí; vyzývá k přiměřenému financování a personálnímu obsazení těchto orgánů;

160.  uznává, že algoritmy strojového učení jsou vytvářeny tak, aby se učily samy, což je přínosné pro automatizaci a rozhodování; požaduje, aby pokyny týkající se etiky umělé inteligence řešily otázky algoritmické transparentnosti, srozumitelnosti, odpovědnosti a spravedlnosti;

161.  zdůrazňuje, že je důležité, aby byly výstupy, procesy a hodnoty systémů umělé inteligence vysvětlitelné a tím pádem srozumitelné pro netechnické publikum, kterému by měly poskytovat smysluplné informace, což je nezbytné k hodnocení spravedlnosti a získání důvěry;

162.  upozorňuje na to, že v souvislosti s těmito technologiemi a jejich využitím vzbuzuje nedostatečná transparentnost řadu etických otázek;

163.  konstatuje, že by mělo být možné vysvětlit systémy umělé inteligence lidem a že tyto systémy by měly poskytovat smysluplné informace umožňující zpětnou vazbu; uznává, že síla modelů umělé inteligence závisí na zpětné vazbě a přehodnocování a tento proces podporuje;

164.  konstatuje, že občané jsou znepokojeni, pokud nevědí, kdy se umělá inteligence používá a jaké informace budou zpracovávány; doporučuje jasné zveřejňování informací v případech, kdy občané používají umělou inteligenci; zdůrazňuje, že pro zachování důvěry spotřebitelů je důležité, aby přenášená data byla stále zabezpečená;

165.  domnívá se, že odpovědnost za algoritmy by měli regulovat tvůrci politik prostřednictvím posuzování dopadů založeného na stanovených parametrech;

166.  konstatuje, že zveřejnění počítačového kódu samo o sobě nevyřeší otázku transparentnosti umělé inteligence, protože neodhalí nutná existující zkreslení a nevysvětlí proces strojového učení; zdůrazňuje, že transparentností se nemíní jen transparentnost kódu, ale také údajů a automatizovaného rozhodování;

167.  bere na vědomí, že zveřejnění zdrojového kódu by mohlo vést ke zneužití a manipulaci s algoritmy;

168.  zdůrazňuje, že je důležité řešit „neobjektivnost vývojáře“, a tedy potřebu rozmanité pracovní síly ve všech oblastech odvětví informačních technologií, jakož i ochranné mechanismy, aby se zabránilo neobjektivnosti na základě pohlaví a věku v systémech umělé inteligence;

169.  uznává, že zveřejnění kódu nebo obchodních tajemství by rovněž odradilo společnosti od výzkumu a vývoje nového kódu, neboť by bylo ohroženo jejich duševní vlastnictví; konstatuje, že vývoj umělé inteligence by měl namísto toho podporovat interpretovatelnost modelů a jejich vzájemnou interakci se vstupními a modelovými daty;

170.  uznává, že transparentnost a srozumitelnost mohou umožnit zjištění nedostatků, nezaručují však spolehlivost, bezpečnost a spravedlnost; domnívá se proto, že nutným prvkem úsilí o dosažení důvěryhodné umělé inteligence je odpovědnost, neboť důvěryhodné umělé inteligence lze dosáhnout různými prostředky, například na základě posouzení dopadů algoritmů, kontrol a certifikací;

171.  zdůrazňuje, že je zapotřebí vytvořit protokoly pro průběžné monitorování a zjišťování algoritmického zkreslení;

172.  poukazuje na to, že tvůrci algoritmů by měli zajistit, aby základní požadavky, jako je spravedlnost a srozumitelnost, byly dodržovány již od počátku fáze návrhu a po celou dobu vývoje;

173.  zdůrazňuje, že jsou zapotřebí pokyny popisující osvědčené postupy v oblasti vývoje;

174.   zdůrazňuje, že pro sledování historie modelu umělé inteligence je důležité zobrazovat počet řádků; domnívá se, že se tím zlepší pochopení modelů a na základě jejich historie se napomůže k nastolení důvěry;

175.  zdůrazňuje, že použití systémů umělé inteligence musí být při styku s uživateli jasně konstatováno;

176.  zdůrazňuje, že šíření umělé inteligence a robotiky by mělo probíhat při plném respektování lidských práv a stroje a roboti nesmí v žádném případě opakovat stereotypy namířené proti ženám ani uplatňovat jiné formy diskriminace;

177.  poukazuje na to, že i kvalitní modelová data mohou vést k přetrvávající diskriminaci a nespravedlnosti, pokud nejsou použita opatrně a svědomitě; konstatuje, že používání nekvalitních, neaktuálních, neúplných nebo nesprávných dat v různých fázích jejich zpracování může vést ke špatným prognózám a hodnocením a tedy i k předpojatosti, což může být v konečném důsledku příčinou porušování základních práv jednotlivců nebo čistě chybných závěrů nebo nesprávných výsledků; domnívá se proto, že v době dat velkého objemu je důležité zajistit, aby algoritmy byly připravovány na reprezentativních vzorcích vysoce kvalitních dat, a bylo tak dosaženo statistické parity; zdůrazňuje, že i když se používají přesná a vysoce kvalitní data, může prediktivní analýza založená na umělé inteligenci nabídnout pouze statistickou pravděpodobnost; připomíná, že v rámci obecného nařízení o ochraně osobních údajů může mít další zpracování osobních údajů pro statistické účely, včetně přípravy umělé inteligence, za výsledek pouze souhrnné údaje, které nelze znovu uplatnit na jednotlivce;

178.  vyzývá Komisi, aby zajistila, že každý, kdo vytváří vykonstruované materiály nebo umělá videa či jakékoli jiné realistické videomontáže, bude muset výslovně uvést, že nejsou skutečné;

179.  konstatuje, že umělá inteligence již ze své podstaty vychází ze shromažďování velkého množství dat a často i z vytváření nových databází, které se používají k vytváření předpokladů o lidech; domnívá se, že je třeba zaměřit se na definování a zřízení mechanismů reakce na potenciální hrozby, které zajistí zmírnění negativních účinků;

180.  znovu opakuje, že systémy umělé inteligence by neměly vytvářet nebo posilovat předsudky; zdůrazňuje, že při vývoji a používání algoritmů musí být ve všech fázích, tedy od návrhu až po realizaci, zohledněny faktory týkající se předsudků a spravedlnosti; podtrhuje, že soubory dat a algoritmy musí být posuzovány a pravidelně testovány, aby bylo zajištěno pečlivé rozhodování;

6.  Správa

6.1.  Koordinace na úrovni Unie

181.  vyzývá Komisi, aby usilovala o dosažení silného vedoucího postavení EU, které by zabránilo zdvojování a tříštění úsilí a zajistilo soudržné politiky na vnitrostátní úrovni a výměnu osvědčených postupů za účelem širšího využívání umělé inteligence;

182.  vítá různé vnitrostátní strategie rozvíjené členskými státy; vítá koordinovaný plán v oblasti umělé inteligence, který dne 7. prosince 2018 zveřejnila Komise; vyzývá k lepší spolupráci mezi členskými státy a Komisí v tomto ohledu;

183.  konstatuje, že řada členských států již má své vlastní vnitrostátní strategie v oblasti umělé inteligence, a vítá skutečnost, že všechny členské státy podepsaly v dubnu 2018 prohlášení o spolupráci v oblasti umělé inteligence; vítá také chystaný plán v oblasti umělé inteligence, jehož příprava je koordinována mezi Komisí a členskými státy, vyzývá však všechny zúčastněné strany, aby usilovaly o co nejvyšší úroveň spolupráce;

184.  je přesvědčen, že je nezbytné prohloubení spolupráce mezi členskými státy a Komisí, aby byla v Unii zaručena koherentní přeshraniční pravidla, která budou napomáhat spolupráci mezi evropskými průmyslovými odvětvími a která umožní, aby bylo v celé Unii možné používat umělou inteligenci, která bude splňovat požadované bezpečnostní normy a bude v souladu s etickými zásadami zakotvenými v právu Unie;

185.  zdůrazňuje, že harmonizovaný a progresivní rámec politiky EU v oblasti dat založený na posuzování rizik by zvýšil důvěru a podpořil rozvoj umělé inteligence v Evropě, a tím zajistil dokončení jednotného digitálního trhu a zvýšení produktivity podniků sídlících v Evropě;

186.  doporučuje, aby stávající i budoucí iniciativy v oblasti umělé inteligence a pilotní projekty, které Komise provádí, byly úzce koordinovány, pokud možno pod kontrolou navrhovaného mechanismu dohledu, aby tak bylo dosaženo synergických účinků a zajistila se skutečná přidaná hodnota a současně se zabránilo nákladným zdvojeným strukturám;

187.  vyzývá Komisi a členské státy, aby zvážily vytvoření evropské regulační agentury pro umělou inteligenci a algoritmické rozhodování, jejímž úkolem bude:

•  vypracovat matici pro posouzení rizik za účelem klasifikace typů algoritmů a oblastí aplikací podle potenciálního významného negativního dopadu na občany;

•  prošetřit způsob použití algoritmických systémů, pokud existuje podezření (např. na základě důkazů od informátora) o porušování lidských práv;

•  poskytovat poradenství ostatním regulačním agenturám ve věci algoritmických systémů spadajících do jejich oblastí působnosti;

•  zajisti pro občany, kteří nejsou obeznámeni s právními postupy, kontaktní místo, a zvyšovat tak účinnost mechanismu odpovědnosti za porušení povinností coby prostředku pro regulaci odpovědnosti algoritmických systémů;

•  provádět audit posouzení dopadů algoritmů u systémů s velkým dopadem za účelem schválení nebo odmítnutí navrhovaného použití algoritmického rozhodování ve velmi citlivých oblastech využití nebo v oblastech využití důležitých z hlediska bezpečnosti (např. soukromá zdravotní péče); posuzování dopadů algoritmů pro využití v soukromém sektoru by mohlo probíhat způsobem velmi podobným způsobu navrhovanému pro veřejný sektor, popřípadě s tím rozdílem, že v zájmu ochrany zásadních obchodních tajemství by se k různým fázím zveřejňování informací mohlo přistupovat jako k důvěrným sdělením regulační agentuře (na základě dohody o zachování důvěrnosti sdělení);

•  prošetřovat případy, kdy existuje podezření, že v důsledku algoritmického rozhodování byla porušena práva, a to jak v důsledku individuálních rozhodnutí (např. ojedinělé abnormální výsledky), tak statistických rozhodovacích schémat (např. diskriminační předpojatost); šetření by mohla být zahájena podáním stížností nebo na základě důkazů od informátorů, investigativních novinářů či nezávislých výzkumných pracovníků (včetně nevládních organizací a akademických pracovníků);

188.  bere na vědomí stávající práci Mezinárodní organizace pro normalizaci (ISO) v oblasti umělé inteligence a naléhavě žádá členské státy, aby činnost svých členů organizace ISO koordinovaly, a zajistily tak, aby při vypracovávání norem v této oblasti byly náležitě zastoupeny evropské zájmy;

6.2.  Mezinárodní správa

189.  vítá vytvoření Střediska pro sledování politiky v oblasti umělé inteligence (AI Policy Observatory) Organizace pro hospodářskou spolupráci a rozvoj (OECD) a vyzývá k ambicióznějšímu vytváření plánu na větší spolupráci;

190.  poukazuje na rozvoj různých modelů v třetích zemích, obzvláště v USA, Číně, Rusku a Izraeli, a zdůrazňuje přístup založený na hodnotách, který se uplatňuje v Evropě, a potřebu spolupracovat s mezinárodními partnery v bilaterálním a multilaterálním prostředí za účelem etického pokroku a zavádění umělé inteligence; uznává, že tato technologie nemá hranice a že vyžaduje spolupráci nad rámec pouhých členských států EU;

191.  vyzývá Komisi, aby působila na mezinárodní úrovni s cílem zajistit co největší soulad mezi mezinárodními aktéry a v celosvětovém měřítku prosazovala etické zásady EU;

192.  zdůrazňuje, že umělá inteligence je technologie s celosvětovým dopadem, která přináší společné výhody a vyvolává podobné problémy; poukazuje na to, že stejně jako v případě ekonomického systému je obzvláště u technologie, která má významný dopad na trhy, nutný globální přístup; zdůrazňuje, že je zapotřebí, aby byla umělá inteligence zařazena na program stávajících institucí a organizací, a vyzývá k posouzení případné potřeby vytvořit další fóra;

°

°  °

193.  pověřuje svého předsedu, aby předal toto usnesení Radě a Komisi.

(1)

Úř. věst. C 252, 18.7.2018, s. 239.

(2)

Úř. věst. C 307, 30.8.2018, s. 163.

(3)

Přijaté texty, P8_TA(2018)0341.

(4)

Přijaté texty, P8_TA(2018)0332.

(5)

Úř. věst. L 252, 8.10.2018, s. 1.

(6)

COM(2018)0237.

(7)

Future and Emerging Technologies (Budoucí a vznikající technologie)

(8)

OECD Digital Economy Outlook 2017 (Perspektivy digitální ekonomiky).

(9)

Zvláštní vydání Eurobarometru č. 460.

(10)

Směrnice Evropského parlamentu a Rady (EU) 2018/958 ze dne 28. června 2018 o testu přiměřenosti před přijetím nové právní úpravy povolání, Úř. věst. L 173, 9.7.2018, s. 25.

(11)

Směrnice Evropského parlamentu a Rady 2013/55/EU ze dne 20. listopadu 2013, kterou se mění směrnice 2005/36/ES o uznávání odborných kvalifikací a nařízení (EU) č. 1024/2012 o správní spolupráci prostřednictvím systému pro výměnu informací o vnitřním trhu („nařízení o systému IMI“), Úř. věst. L 354, 28.12.2013, s. 132.

(12)

Směrnice Evropského parlamentu a Rady 2006/123/ES ze dne 12. prosince 2006 o službách na vnitřním trhu, Úř. věst. L 376, 27.12.2006, s. 36.

(13)

Směrnice Evropského parlamentu a Rady 2000/31/ES ze dne 8. června 2000 o některých právních aspektech služeb informační společnosti, zejména elektronického obchodu, na vnitřním trhu („směrnice o elektronickém obchodu“), Úř. věst. L 178, 17.7.2000, s. 1.

(14)

Nařízení Evropského parlamentu a Rady (EU) 2018/1807 ze dne 14. listopadu 2018 o rámci pro volný tok neosobních údajů v Evropské unii, Úř. věst. L 303, 28.11.2018, s. 59.

(15)

Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky, Úř. věst. L 210, 7.8.1985, s. 29.

(16)

Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES, Úř. věst. L 119, 4.5.2016, s. 1.


STANOVISKO Výboru pro vnitřní trh a ochranu spotřebitelů (7.12.2018)

pro Výbor pro průmysl, výzkum a energetiku

ke komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky

(2018/2088(INI))

Zpravodajka: Dita Charanzová

(*)  Přidružený výbor – článek 54 jednacího řádu

(Zjednodušený postup – čl. 50 odst. 2 jednacího řádu)

NÁVRHY

Výbor pro vnitřní trh a ochranu spotřebitelů vyzývá Výbor pro průmysl, výzkum a energetiku jako příslušný výbor, aby do návrhu usnesení, který přijme, začlenil tyto návrhy:

A.  vzhledem k tomu, že oblast umělé inteligence se rychle rozvíjí a že umělá inteligence je již řadu let součástí našeho každodenního života; vzhledem k tomu, že umělá inteligence a robotika podněcují inovace, což vede k novým obchodním modelům a hraje klíčovou úlohu při transformaci našich společností a digitalizaci našich ekonomik v mnoha odvětvích, jako jsou průmysl, zdravotní péče, stavebnictví a doprava;

B.  vzhledem k tomu, že Čína a Spojené státy jsou vedoucími zeměmi v oblasti technologií umělé inteligence a že EU v současnosti značně zaostává; vzhledem k tomu, že bez koordinovaného přístupu na evropské úrovni nebude možné, aby EU toto zpoždění dohnala; vzhledem k tomu, že společný přístup k umělé inteligenci by EU umožnil lépe prosazovat své hodnoty ve světě a hrát významnější a účinnější úlohu na světové scéně;

C.  vzhledem k tomu, že evropské společnosti vyrábějí přibližně čtvrtinu všech průmyslových robotů a polovinu všech robotů odborných služeb na světě a že EU proto již disponuje důležitými devizami, o které by měla svou evropskou průmyslovou politiku opřít;

D.  vzhledem k tomu, že společný přístup usnadní vývoj technologií umělé inteligence ve prospěch společnosti a zároveň umožní řešit výzvy, které s těmito technologiemi souvisí, s cílem podpořit inovace, zvýšit kvalitu produktů a služeb obsahujících prvky umělé inteligence, zlepšit spotřebitelskou zkušenost a důvěru v technologie umělé inteligence a robotiku a zabránit roztříštění vnitřního trhu;

E.  vzhledem k tomu, že vývoj umělé inteligence a robotiky musí být přínosem pro celou společnost; avšak vzhledem k tomu, že v roce 2017 venkovské oblasti stále nemohly ve velké míře využívat přínosů umělé inteligence, neboť 8 % domácností není připojeno k žádné pevné síti a 53 % domácností není pokryto žádnou z přístupových sítí nové generace (VDSL, kabelová síť Docsis 3.0 nebo FTTP);

F.  vzhledem k tomu, že vývoj služeb a produktů obsahujících prvky umělé inteligence není možný bez konektivity, volného pohybu údajů a dostupnosti údajů v rámci EU; vzhledem k tomu, že využívání pokročilých technik vytěžování dat v oblasti služeb a produktů může přispět ke zvýšení kvality rozhodovacího procesu, a tím rozšířit výběr spotřebitelů a zlepšit výkonnost podniků;

G.  vzhledem k tomu, že kybernetická bezpečnost je zásadní pro zajištění toho, aby údaje nebyly úmyslně poškozeny nebo zneužity s cílem poškodit prostřednictvím umělé inteligence občany nebo podniky, což by poškodilo průmysl a ohrozilo důvěru spotřebitelů v umělou inteligenci; vzhledem k tomu, že vývoj v oblasti umělé inteligence vede k tomu, že se zvyšuje závislost na těchto systémech, pokud jde o přijímání opatření a rozhodnutí, což vyžaduje, aby se na tyto systémy v rámci EU vztahovaly vysoké normy kybernetické odolnosti s cílem předcházet narušení kybernetické bezpečnosti a selhání;

H.  vzhledem k tomu, že technologického vývoje v oblasti inteligentních výrobků a služeb může ve svůj prospěch využívat znalostní ekonomika, která je založena na kvantitě, kvalitě a dostupnosti informací a může se tedy lépe přizpůsobit potřebám spotřebitelů;

I.  vzhledem k tomu, že spotřebitelé by měli být schopni důvěřovat technologiím, se kterými jsou v součinnosti, a že je proto třeba reagovat na etické problémy související s rozvojem umělé inteligence a robotiky; vzhledem k tomu, že v souvislosti s reakcí na tyto problémy by se EU měla opírat o dodržování hodnot zakotvených v článku 2 Smlouvy o Evropské unii a Listině základních práv Evropské unie; vzhledem k tomu, že odborná skupiny na vysoké úrovni pro umělou inteligenci, kterou zřídila Komise, vypracuje do konce roku 2018 návrh etických pokynů pro umělou inteligenci;

1.  zdůrazňuje, že pokud EU hodlá dohnat své zpoždění v oblasti umělé inteligence, je prvořadé a velmi důležité, aby jednala v mezích společného rámce;

2.  zdůrazňuje, že v návaznosti na nekoordinovaná opatření v oblasti výzkumu a vývoje, protichůdná rozhodnutí týkající se právních předpisů a opatření na mezinárodní úrovni se tento cíl EU nadále vzdaluje;

3.  konstatuje, že řada členských států již má své vlastní vnitrostátní strategie v oblasti umělé inteligence, a vítá skutečnost, že všechny členské státy podepsaly v dubnu 2018 prohlášení o spolupráci v oblasti umělé inteligence, jakož i nadcházející koordinovaný plán v oblasti umělé inteligence mezi Komisí a členskými státy, vyzývá však všechny zúčastněné strany, aby usilovaly o dosažení co nejvyšší úrovně spolupráce;

Společnost podporovaná umělou inteligencí a robotikou

4.  připomíná skutečnost, že Evropa je domovem komunity výzkumných pracovníků světové úrovně v oblasti umělé inteligence, která představuje 32 % výzkumných institucí v oblasti umělé inteligence na světě;

5.  zdůrazňuje skutečnost, že platy evropských výzkumných pracovníků jsou i nadále výrazně nižší než platy jejich protějšků v USA nebo Číně, což je hlavním důvodem jejich odchodu z Evropy; vyzývá Komisi a členské státy, aby se zaměřily na přilákání vysoce talentovaných lidí do evropských společností, a členské státy, aby vytvořily atraktivní podmínky;

6.  zdůrazňuje význam cílených opatření k zajištění toho, aby malé a střední podniky a startupy byly schopny přijímat a využívat technologie umělé inteligence; domnívá se, že posouzení dopadů, pokud jde o účinky nových evropských právních předpisů na technologický vývoj v oblasti umělé inteligence, by mělo být povinné a že by se mělo uvažovat o zavedení posouzení dopadů rovněž na vnitrostátní úrovni;

7.  vyzývá Komisi, aby za účelem podpory právního prostředí, které je příznivé pro rozvoj umělé inteligence, a v souladu se zásadou zdokonalení tvorby právních předpisů pravidelně přehodnocovala stávající právní předpisy s cílem zajistit jejich účelnost v souvislosti s umělou inteligencí – při současném dodržování základních hodnoty EU – a aby se snažila změnit nebo nahradit nové návrhy v případě, že daný účel nesplňují;

8.  doporučuje pokračovat v úsilí o zlepšení konektivity v opomíjených oblastech, jako jsou venkovské oblasti, a opomíjených odvětvích s cílem dosáhnout skutečně inkluzivní digitální transformace;

9.  zdůrazňuje skutečnost, že širší zavádění technologií umělé inteligence může nahradit určitá povolání, zejména ta, která budou s největší pravděpodobností automatizována, a vytvořit povolání nová; připomíná, že významná část obyvatelstva EU – 37 % pracovní síly – nemá základní digitální dovednosti; zdůrazňuje, že Komise předpovídá značný nedostatek odborníků na informační a komunikační technologie a odhaduje, že do roku 2020 bude neobsazeno 750 000 pracovních míst;

10.  naléhavě vyzývá členské státy, aby modernizovaly své systémy odborné přípravy a vzdělávání s cílem zohlednit vědecký pokrok a vývoj v oblasti umělé inteligence v souladu se směrnicí o testu přiměřenosti a směrnicí o uznávání odborných kvalifikací a aby zajistily celosvětovou konkurenceschopnost odborných služeb EU v nadcházejících desetiletích;

Technologický rozvoj vedoucí k umělé inteligenci a robotice

11.  domnívá se, že nový soubor právních předpisů o volném pohybu neosobních údajů v EU umožňuje, aby bylo stále více údajů využito pro inovace, což usnadňuje malým a středním podnikům a startupům rozvíjet inovativní služby obsahující prvky umělé inteligence a vstupovat na nové trhy a zároveň umožňuje občanům a podnikům využívat lepší produkty a služby;

12.  připomíná, že nařízení o volném pohybu neosobních údajů v EU stanoví, že pokud technologický rozvoj umožňuje konvertovat anonymizované údaje na údaje osobní, má se s takovými anonymizovanými údaji zacházet jako s osobními údaji a má se na ně náležitým způsobem uplatnit nařízení (EU) 2016/679;

13.  uznává potenciál sdílení údajů v souvislosti s budoucím rozvojem hlubokého učení, zejména pokud jde o datové soubory s vysokou hodnotou, vzhledem k jejich významným přínosům pro občany a socioekonomickým přínosům a jejich vhodnosti pro tvorbu služeb a aplikací s přidanou hodnotou;

14.  zdůrazňuje význam dostupných neosobních údajů z veřejných a soukromých zdrojů a domnívá se, že regulační rámec, včetně opakovaného použití informací veřejného sektoru, by měl podpořit přístup k veřejně přístupným údajům a interoperabilitě; naléhavě vyzývá Komisi, aby zvážila vytvoření bezpečné a dobrovolné jednotné brány pro snadnější výměnu neosobních údajů na úrovni EU s cílem zjednodušit shromažďování údajů;

15.  zdůrazňuje, že důvěra spotřebitelů je pro rozvoj umělé inteligence zásadní a že systémy založené na umělé inteligenci zpracovávají stále více údajů spotřebitelů, a proto se stávají privilegovanými cíli kybernetických útoků; rovněž zdůrazňuje skutečnost, že umělá inteligence musí fungovat tak, aby nepoškozovala občany a spotřebitele, a domnívá se, že je proto nutné zabezpečit integritu údajů a algoritmů, na nichž je uměla inteligence založena;

16.  zdůrazňuje, že je důležité pochopit, pojmenovat a sledovat tendence, které by mohly přímo či nepřímo narušit vývoj související s umělou inteligencí; podporuje, aby se výzkum v oblasti umělé inteligence rovněž zaměřil na odhalování případů, kdy byla uměla inteligence a robotika náhodně či úmyslně poškozena;

Průmyslová politika

17.  domnívá se, že Unie by měla být lépe vybavena s cílem čelit kybernetickým útokům; podporuje urychlené dokončení strategie kybernetické bezpečnosti, která by měla zajistit vývoj a zavádění bezpečných systémů umělé inteligence a robotiky, které jsou odolné vůči kybernetickým útokům, zejména prostřednictvím rozvoje certifikačních režimů EU; domnívá se, že agentura ENISA by měla připravit akční plán kybernetické bezpečnosti v oblasti umělé inteligence, který by měl posoudit a řešit hrozby a nedostatky specifické pro umělou inteligenci;

18.  zdůrazňuje, že rozvoj silného a konkurenceschopného odvětví umělé inteligence a robotiky nemůže záviset pouze na veřejných prostředcích; zdůrazňuje, že je důležité mobilizovat finanční prostředky ze soukromých zdrojů s cílem podpořit inovace a rozvoj odvětví umělé inteligence a robotiky v rámci EU;

19.  připomíná, že ačkoli v oblasti umělé inteligence a robotiky již existují zavedené průmyslové aplikace, pokrok v této oblasti se šíří a přináší rozsáhlé a rozmanité aplikace týkající se všech odvětví lidské činnosti; domnívá se, že součástí jakéhokoli regulačního rámce musí být flexibilita, která umožňuje inovace a svobodný rozvoj nových technologií a využití umělé inteligence; zdůrazňuje, že právní předpisy by neměly bránit výzkumu a vývoji v soukromém odvětví;

20.  vyzývá Komisi, aby zajistila, že centra pro digitální inovace nepovedou k vytvoření dodatečných správních struktur, ale zaměří se na urychlení investic do projektů, které prokázaly svou účinnost; vyzývá Komisi, aby se zaměřila na subvence a finanční pomoc určenou soukromým projektům v oblasti výzkumu a vývoje; zdůrazňuje, že je třeba více využívat partnerství soukromého a veřejného sektoru v odvětví umělé inteligence;

21.  domnívá se, že umělá inteligence bude velkým přínosem, pokud jde o uplatňování zásady „pouze jednou“, která umožňuje kombinovat databáze a informace z různých zdrojů, čímž usnadňuje interakci občanů s orgány veřejné správy;

Právní rámec pro umělou inteligenci a robotiku

Vnitřní trh pro umělou inteligenci

22.  domnívá se, že členské státy by měly zajistit, aby data byla vytvářena podle zásady „veřejně přístupných dat již od návrhu“, a měly by rovněž zajistit jednotný stupeň ochrany cílů představujících veřejný zájem, jako je veřejná bezpečnost nebo ochrana osobních údajů, včetně případů, kdy se jedná o citlivé informace týkající se kriticky významné infrastruktury;

Odpovědný vývoj a volný pohyb inteligentního zboží

23.  zdůrazňuje význam zásady vzájemného uznávání při přeshraničním využívání inteligentního zboží, včetně robotů a robotických systémů; připomíná, že pokud je to nutné, testování, certifikace a bezpečnost výrobku by měly zajistit, aby určité zboží bylo bezpečné již od návrhu; v této souvislosti konstatuje, že je rovněž důležité zabývat se etickými aspekty umělé inteligence;

24.  zdůrazňuje, že umělá inteligence se dotýká řady odvětví, ve kterých má normalizace zásadní význam, jako jsou inteligentní výrobní systémy, roboti, autonomní automobily, virtuální realita, zdravotní péče a analýza údajů, a domnívá se, že normalizace v oblasti umělé inteligence na úrovni celé EU posílí inovace a zaručí vysokou úroveň ochrany spotřebitelů; uznává, že vzhledem k tomu, že v oblastech, jako jsou bezpečnost, spolehlivost, interoperabilita a ochrana, existuje značný počet norem, a další podpora a vývoj společných norem v oblasti robotiky a umělé inteligence je proto nezbytná a měla by být součástí priorit Unie; vyzývá Komisi, aby spolu s unijními normalizačními orgány a ve spolupráci s mezinárodními normalizačními orgány i nadále aktivně usilovala o zlepšování norem v této oblasti;

25.  naléhavě vyzývá Komisi a členské státy, aby podporovaly testování inovativních produktů a technologií v malé míře v reálných podmínkách (tzv. sand-box innovation) předtím, než se tyto produkty uvedou na trh;

26.  uznává, že robotika a technologie umělé inteligence jsou stále více používány v autonomních vozidlech, jako jsou autonomní automobily a civilní bezpilotní letouny; konstatuje, že některé členské státy již zavádějí nebo zvažují zavedení zvláštních právních předpisů v této oblasti, což by mohlo vést ke směsici vnitrostátních právních předpisů, které budou rozvoj autonomních vozidel brzdit; proto vyzývá k vytvoření jednotného souboru předpisů na úrovni Unie, kterým se zachová rovnováha mezi zájmy a případnými riziky ve vztahu k uživatelům, podnikům a dalším dotčeným stranám a zároveň se tak předejde nadměrné regulaci v oblasti robotiky a systémů umělé inteligence;

Volné poskytování služeb využívajících umělou inteligenci

27.  připomíná, že technologie určené k analýze, využívání a zpracování údajů, jako jsou strojové učení, umělá inteligence a internet věcí, se neustále vyvíjejí a že tento rychlý technologický vývoj umožňuje vytvářet nové služby a nové aplikace, které vycházejí z použití, shromažďování nebo kombinace údajů;

28.  připomíná, že na řadu politických aspektů týkajících se služeb obsahujících prvky umělé inteligence, včetně předpisů o ochraně spotřebitelů a politik v oblasti etiky a odpovědnosti, se vztahuje stávající regulační rámec pro služby, zejména směrnice o službách, směrnice o odborných kvalifikacích a směrnice o elektronickém obchodu;

29.  zdůrazňuje, že konečnou odpovědnost za přijímání rozhodnutí musí vždy nést člověk, zejména pokud jde o odborné služby, jako jsou lékařské, právní a účetní profese; domnívá se, že je třeba zvážit, zda by za účelem ochrany oprávněných cílů veřejného zájmu a poskytování vysoce kvalitních služeb nebyl potřebný dohled kvalifikovaného odborníka;

30.  uznává význam dokonalejších digitálních služeb, jako jsou virtuální asistenti, chatboty nebo virtuální agenti, které znamenají nebývalé přínosy v oblasti provozní efektivity, a zároveň plně uznává, že s ohledem na omezenou autonomii umělé inteligence a robotiky je třeba vyvíjet umělou inteligenci zaměřenou na člověka a orientovanou na trh s cílem vydávat lepší a důvěryhodnější rozhodnutí;

Ochrana spotřebitelů a posílení postavení spotřebitelů

31.  domnívá se, že na technologie umělé inteligence vyvinuté jak pro výrobu, tak pro osobní použití by se měly vztahovat kontroly bezpečnosti výrobků, které provádějí orgány dozoru nad trhem, a předpisy na ochranu spotřebitelů, které v případě potřeby zajistí minimální normy bezpečnosti a prevenci rizika nehod vyplývajícího z interakce s člověkem nebo práce v blízkosti lidí; domnívá se, že by se každá politika v oblasti umělé inteligence měla zabývat etickými otázkami a otázkami ochrany údajů, včetně údajů třetích stran a osobních údajů, občanskoprávní odpovědností a kybernetickou bezpečností;

32.  připomíná, že základem umělé inteligence a robotiky jsou algoritmy; vyzývá členské státy, aby zajistily, aby byly pro umělou inteligenci využívány pouze vysoce kvalitní údaje, zejména aby byly aktuální, přesné a důvěryhodné, s cílem zajistit důvěru a přijetí ze strany spotřebitelů; v této souvislosti připomíná, že schopnost vysvětlit rozhodovací procesy technologií umělé inteligence a nestrannost algoritmů a zároveň dodržovat právní předpisy EU, zejména pokud jde o obchodní tajemství, má zásadní význam a že je důležité vytvořit nové systémy přezkumu, aby bylo možné napravit případné chyby v rozhodnutích přijatých umělou inteligencí;

33.  zdůrazňuje, že pro posílení důvěry spotřebitelů je důležité, aby byla umělá inteligence uživatelsky vstřícná; domnívá se, že pokud jsou konečná a trvala rozhodnutí přijímána umělou inteligencí, a nikoli člověkem, spotřebitelé by o této skutečnosti měli být informováni a měli by mít možnost požádat o přezkum a nápravu ze strany člověka; zdůrazňuje, že při interakci s automatizovaným systémem by uživatelé měli být informováni o tom, jak se spojit s člověkem a jak zajistit, aby bylo možné kontrolovat a opravovat rozhodnutí systému;

34.  bere na vědomí pracovní dokument útvarů Komise ze dne 25. dubna 2018 o odpovědnosti za vznikající digitální technologie (SWD(2018)0137); na závěr konstatuje, že ačkoli je stávající rámec odpovědnosti stále stabilní a funkční, měl by být přezkoumán skupinou odborníků v oblasti odpovědnosti s ohledem na nové technologie umělé inteligence s cílem zajistit, aby plnil svůj účel a zahrnoval stanoviska spotřebitelů, inovátorů a společností působících v EU;

35.  zdůrazňuje, že je třeba vzdělávat občany, a zejména mladší občany, aby pochopili, jak umělá inteligence funguje; vyzývá k tomu, aby se umělá inteligence stala dostupnější pro občany, spotřebitele a občanskou společnost, čímž by se výrazněji posílilo postavení občanů a spotřebitelů EU; domnívá se, že toho lze dosáhnout nabídnutím intenzivnějšího a široce dostupného vzdělávání, které napomáhá lepšímu pochopení umělé inteligence.

INFORMACE O PŘIJETÍ VE VÝBORU POŽÁDANÉM O STANOVISKO

Zjednodušený postup - datum rozhodnutí

16.5.2018

Datum přijetí

4.12.2018

 

 

 


STANOVISKO VÝBORU PRO PRÁVNÍ ZÁLEŽITOSTI K PRÁVNÍMU ZÁKLADU

Evropský parlament

2014-2019

 

Výbor pro právní záležitosti

předseda

12.12.2018

Pan Jerzy Buzek

předseda

Výbor pro průmysl, výzkum a energetiku

BRUSEL

Věc:  Stanovisko ke komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky (2018/2088(INI))

Vážený pane předsedo,

Výbor pro právní záležitosti byl v rámci daného postupu pověřen, aby Vašemu výboru předložil stanovisko. Paní Mady Delvauxová byla jmenována zpravodajkou. Výbor se na své schůzi dne 20. listopadu 2018 rozhodl předat toto stanovisko ve formě dopisu.

V souladu s dohodou o přidružení podle článku 54 jednacího řádu má Výbor pro právní záležitosti výlučnou pravomoc v otázkách odpovědnosti a práv duševního vlastnictví a sdílenou pravomoc v otázkách týkajících se obsažených hodnot v oblasti technologií („ethical by design“).

Výbor pro právní záležitosti se touto záležitostí zabýval na schůzi dne 6. prosince 2018 a v návaznosti na jednání mezi koordinátory, které proběhlo písemným postupem, bylo níže uvedené stanovisko přijato na schůzi dne 10. prosince 2018. Na této schůzi(1) se výbor rozhodl vyzvat Výbor pro průmysl, výzkum a energetiku jako věcně příslušný výbor, aby do svého návrhu usnesení začlenil níže uvedené návrhy.

Věřím, že návrhy budou užitečným příspěvkem k návrhu zprávy, kterou Váš výbor vypracovává.

S pozdravem

Pavel Svoboda

NÁVRHY

A.  vzhledem k tomu, že usnesení ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku (2015/2013(INL)) vyzvalo Komisi, aby navrhla soudržný právní rámec pro rozvoj robotiky, včetně autonomních systémů a inteligentních autonomních robotů;

1.  naléhavě žádá, aby byla věnována pozornost bezpečnosti výrobků za účelem zajištění ochrany spotřebitelů a jejich důvěry v umělou inteligenci a robotiku;

2.  zdůrazňuje, že při vývoji umělé inteligence má zásadní význam koncepce zaměřená na člověka, a to v zájmu zajištění odpovědnosti v rozhodovacím procesu strojů;

3.  zdůrazňuje, že politický rámec musí být navržen tak, aby podporoval rozvoj všech druhů umělé inteligence, nikoli pouze systémy hlubokého učení, což vyžaduje obrovské množství dat;

4.  zdůrazňuje, že využívání dat ve zdravotnictví musí být pečlivě a eticky monitorováno a nesmí žádným způsobem bránit přístupu k sociální ochraně nebo pojištění;

5.  domnívá se, že v případě využití umělé inteligence v implantovaných zdravotnických prostředcích by měl mít nositel právo kontrolovat a upravovat použitý zdrojový kód;

6.  připomíná, že dostupnost kvalitních dat je nezbytná pro skutečnou konkurenceschopnost v odvětví umělé inteligence, a vyzývá veřejné orgány, aby zajistily způsoby, jak vytvářet, sdílet a spravovat data, a to tím, že z dat učiní společný, veřejně přístupný majetek;

7.  vítá iniciativu Komise na vytvoření skupiny odborníků pro odpovědnost a nové technologie s cílem poskytnout EU odborné znalosti o použitelnosti směrnice o odpovědnosti za výrobky na tradiční produkty, nové technologie a nové společenské výzvy (sestava pro směrnici o odpovědnosti za výrobky) a pomáhat EU při vytváření zásad, které mohou sloužit jako vodítko pro možná přizpůsobení platných právních předpisů na úrovni EU a na vnitrostátní úrovni novým technologiím (sestava pro nové technologie);

8.  lituje však, že během současného volebního období nebyl předložen žádný legislativní návrh, čímž se oddálila aktualizace pravidel odpovědnosti na úrovni EU a byla ohrožena právní jistota v celé EU v této oblasti jak pro obchodníky, tak pro spotřebitele;

9.  bere na vědomí probíhající práci Mezinárodní organizace pro normalizaci (ISO) v oblasti umělé inteligence a naléhavě žádá členské státy, aby koordinovaly své členy ISO při vypracovávání norem s cílem co nejlépe hájit evropské hodnoty a zájmy;

10.  připomíná výše uvedené usnesení ze dne 16. února 2018, v němž uvádí, že ačkoli neexistují žádná právní ustanovení, která by se specificky týkala robotiky, lze na robotiku snadno uplatnit stávající právní režimy a doktríny, ačkoli některým aspektům bude pravděpodobně třeba věnovat zvláštní pozornost; znovu připomíná výzvu ze zmíněného usnesení a vyzývá Komisi, aby podporovala horizontální, technologicky neutrální přístup k duševnímu vlastnictví, který by se vztahoval na různá odvětví, v nichž by mohla být robotika uplatněna;

11.  v tomto ohledu vítá sdělení Komise určené orgánům EU o pokynech k některým aspektům směrnice Evropského parlamentu a Rady 2004/48/ES o dodržování práv duševního vlastnictví, avšak zdůrazňuje, že význam a účinnost pravidel týkajících se práv duševního vlastnictví, jimiž se má řídit rozvoj umělé inteligence je třeba sledovat, v této souvislosti zdůrazňuje význam kontrol účelnosti;

12.  vítá skutečnost, že Komise zřídila odbornou skupinu na vysoké úrovni pro umělou inteligenci, která se skládá ze zástupců akademické obce, občanské společnosti a průmyslu a jejímž cílem je vypracovat pro umělou inteligenci etické pokyny v otázkách jako je spravedlnost, bezpečnost, transparentnost, budoucnost práce, demokracie, a obecněji dopad na uplatňování Listiny základních práv, včetně ochrany soukromí a osobních údajů, důstojnosti, ochrany spotřebitele a nediskriminace;

13.  se zájmem očekává společné setkání s členskými státy plánované na leden 2019, které navazuje na zveřejnění návrhu etických pokynů na konci roku 2018, jak bylo oznámeno ve sdělení Komise ze dne 25. dubna 2018;

14.  zdůrazňuje úlohu, kterou by při vypracovávání těchto pokynů mohl hrát Parlament jakožto zástupce zájmu občanů prostřednictvím práce panelu STOA;

15.  bere na vědomí koordinovaný akční plán pro umělou inteligenci, který v prosinci 2018 představil místopředseda Komise pan Ansip;

16.  zdůrazňuje, že v čele rozvoje umělé inteligence a robotiky jsou v současnosti země mimo EU, a proto zdůrazňuje význam společného evropského přístupu k zajištění účasti EU v tomto procesu;

17.  v tomto smyslu vítá vytvoření Evropské aliance pro umělou inteligenci s cílem plně mobilizovat různé skupiny účastníků, včetně podniků, spotřebitelských organizací, odborů a dalších zástupců subjektů občanské společnosti; konstatuje, že cílem této široké platformy složené z mnoha zúčastněných stran je doplnit a podpořit činnost odborné skupiny na vysoké úrovni pro umělou inteligenci, zejména při přípravě návrhu pokynů pro etiku umělé inteligence, a zajistit konkurenceschopnost EU v rychle se rozvíjející oblasti umělé inteligence.

(1)

Konečného hlasování se zúčastnili: Pavel Svoboda (předseda), Jean-Marie Cavada (místopředseda), Mady Delvaux (místopředsedkyně a zpravodajka), Joëlle Bergeron, Kostas Chrysogonos, Sergio Gaetano Cofferati, Mary Honeyball, Sajjad Karim, Sylvia-Yvonne Kaufmann, António Marinho e Pinto, Julia Reda, Evelyn Regner, Axel Voss, Tiemo Wölken, Francis Zammit Dimech, Tadeusz Zwiefka, Kosma Złotowski, Luis de Grandes Pascual.


STANOVISKO Výboru pro občanské svobody, spravedlnost a vnitřní věci (11.12.2018)

pro Výbor pro průmysl, výzkum a energetiku

ke komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky

(2018/2088(INI))

Zpravodaj(*): Michał Boni

(*) Přidružený výbor – článek 54 jednacího řádu

NÁVRHY

Výbor pro občanské svobody, spravedlnost a vnitřní věci vyzývá Výbor pro průmysl, výzkum a energetiku jako příslušný výbor, aby do návrhu usnesení, který přijme, začlenil tyto návrhy:

–  s ohledem na sdělení Komise Evropskému parlamentu, Evropské radě, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů nazvané „Umělá inteligence pro Evropu“ (COM(2018)0237),

–  s ohledem na své usnesení ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku(1),

A.  vzhledem k tomu, že umělá inteligence je jednou ze strategických technologií pro 21. století, a to jak v celosvětovém měřítku, tak v Evropě, přináší pozitivní změny evropskému hospodářství a umožňuje inovace, produktivitu, konkurenceschopnost a dobré životní podmínky;

B.  vzhledem k tomu, že evropský rámec pro umělou inteligenci musí být vytvořen na základě plného dodržování základních práv zakotvených v Listině základních práv Evropské unie, a zejména zásad ochrany údajů, soukromí a bezpečnosti;

C.  vzhledem k tomu, že umělá inteligence a strojové učení zaměřené na člověka představují pro evropskou společnost výhodu a mohou pomoci řešit některé z nejnaléhavějších společenských výzev s reálným přínosem pro občany;

1.  vyzývá Komisi a další příslušné orgány, aby úzce spolupracovaly s výzkumnými pracovníky zastupujícími různé disciplíny za účelem určit, podpořit a využít potenciální pozitivní účinky inovativních způsobů využívání umělé inteligence, i s cílem prozkoumat potenciální škodlivé účinky zlovolného využití či nedbalosti při využívání umělé inteligence a předcházet jim a zmírňovat je, a aby vyvinuly nástroje, opatření a normy vhodné k zajištění etické správy aplikací umělé inteligence; zdůrazňuje, že je třeba rozvíjet programy výměny znalostí, včetně přeshraničních programů, a usnadnit rozvoj společných strategií organizací občanské společnosti; konstatuje, že ve výzkumných oblastech s přesnějšími metodami by měly být určeny osvědčené postupy pro řešení problémů dvojího užití, jako je bezpečnost a soukromí, které je třeba uplatňovat na oblast umělé inteligence;

2.  zdůrazňuje skutečnost, že zlovolné nebo nedbalostní využívání umělé inteligence by mohlo ohrozit digitální bezpečnost a fyzickou i veřejnou bezpečnost, neboť by mohlo být využito k provádění rozsáhlých, cílených a vysoce účinných útoků na služby informační společnosti a související strojová zařízení, jakož i k dezinformačním kampaním, a obecně omezit právo jednotlivců na sebeurčení; zdůrazňuje, že zlovolné či nedbalostní využívání umělé inteligence by mohlo rovněž představovat riziko pro demokracii a základní práva;

3.  zdůrazňuje, že právo na respektování soukromého života a na ochranu osobních údajů, jak je zakotveno v článcích 7 a 8 Listiny základních práv a v čl. 16 Smlouvy o fungování Evropské unie (SFEU), se vztahuje na všechny oblasti robotiky a na všechny ostatní oblasti, v nichž lze umělou inteligenci využít, včetně analýzy dat velkého objemu, strojového učení a internetu věcí, a že právní rámec Unie pro ochranu údajů musí být v oblasti systémů umělé inteligence plně dodržován; opakuje, že podporuje akční plán Komise nazvaný „Akční plán pro finanční technologie: Za konkurenceschopnější a inovativnější evropský finanční sektor“, který zdůrazňuje úlohu, kterou může regulace hrát při usnadňování technologických inovací a při lepším pochopení inovačních obchodních modelů a vývoje na trhu tím, že regulačním orgánům umožňuje vykonávat dohled nad podniky na základě právního rámce Unie;

4.  vyzývá Komisi k zajištění toho, aby jakýkoli rámec EU pro umělou inteligenci zaručoval ochranu osobních údajů, včetně zásad zákonnosti, korektnosti a transparentnosti, ochranu údajů již ve fázi návrhu a ve standardním nastavení, omezení účelu a minimalizaci údajů v souladu s právními předpisy Unie o ochraně údajů, jakož i zabezpečení, osobní bezpečnost a další základní práva, včetně práva na informace a svobodu projevu; domnívá se, že jakýkoli budoucí regulační rámec by měl být Komisí pravidelně posuzován s ohledem na nový technologický vývoj;

5.  zdůrazňuje, že evropské normy pro umělou inteligenci musí být založeny na zásadách digitální etiky, lidské důstojnosti, dodržování základních práv, ochrany údajů a bezpečnosti s cílem začlenit tyto zásady již od návrhu, a přispět tak k budování důvěry mezi uživateli; zdůrazňuje, že je důležité využít potenciál EU k vytvoření silné infrastruktury pro systémy umělé inteligence založené na vysoké úrovni ochrany údajů a respektu vůči člověku; zdůrazňuje, že je třeba systematicky investovat do rozvoje budoucích potřeb odborného vzdělávání, zejména do odborné přípravy výzkumných pracovníků, a usnadnit sdílení znalostí mezi různými obory – včetně aplikované etiky – se zvláštním zaměřením na technologii umělé inteligence, robotiku a související oblasti;

6.  vyzývá Komisi, aby zaujala rozhodný postoj proti vývoji a používání autonomních zbraňových systémů řízených umělou inteligencí v jakémkoli rámci EU;

7.  vítá iniciativu Komise zaměřenou na vytvoření Evropské aliance pro umělou inteligenci, jejímž úkolem je vypracovat komplexní návrh etických pokynů a politických doporučení pro umělou inteligenci; zdůrazňuje význam aktivní účasti v globálních partnerstvích a fórech pro umělou inteligenci, která umožňuje sdílení znalostí a komplexní pochopení obav týkajících se ochrany údajů, transparentnosti a bezpečnosti při vývoji a zavádění systémů umělé inteligence; vítá v tomto ohledu činnost odborné skupiny na vysoké úrovni pro umělou inteligenci, která slouží jako řídící skupina pro činnost aliance pro umělou inteligenci; vyzývá Komisi, aby zajistila účast orgánů pro ochranu údajů v této skupině na vysoké úrovni, aby práci dokončila otevřeným a transparentním způsobem a aby zveřejnila příslušné pokyny; dále Komisi vyzývá, aby pokračovala v práci na celounijním přístupu k umělé inteligenci, který bude zaměřený na člověka a člověkem řízený, a aby aktivně prosazovala vysoké standardy EU v oblasti umělé inteligence na mezinárodní úrovni;

8.  zdůrazňuje, že jakýkoli systém umělé inteligence musí být rozvíjen s ohledem na zásady transparentnosti a „algoritmické odpovědnosti“ umožňující lidské pochopení jeho činnosti; konstatuje, že v zájmu budování důvěry a umožnění pokroku umělé inteligence musí být uživatelé informováni o tom, jak jsou jejich i ostatní a odvozené údaje využívány, a o tom, kdy komunikují nebo jednají se systémem umělé inteligence a kdy s člověkem, jenž využívá podpory umělé inteligence; je přesvědčen, že to přispěje k lepšímu porozumění a důvěře mezi uživateli; zdůrazňuje, že vysvětlitelnost rozhodnutí musí být standardem EU v souladu s články 13, 14 a 15 obecného nařízení o ochraně osobních údajů; připomíná, že obecné nařízení o ochraně osobních údajů již předjímá právo být informován o postupu, jakým se údaje zpracovávají; zdůrazňuje, že podle čl. 22 obecného nařízení o ochraně osobních údajů mají jednotlivci právo na lidský zásah, pokud se jich rozhodnutí založené na automatizovaném zpracování významně dotýká;

9.  zdůrazňuje, že Komise, Evropská rada pro ochranu údajů, vnitrostátní úřady pro ochranu údajů a další nezávislé orgány dohledu by tudíž měly hrát zásadní úlohu s cílem prosazovat transparentnost, náležité zpracování, právní jistotu obecně, a specifičtěji, konkrétní standardy chránící základní práva a záruky související s využíváním zpracování a analýzy údajů; vyzývá k užší spolupráci mezi orgány pověřenými dohledem nebo regulací chování v digitálním prostředí; vyzývá k přiměřenému financování a personálnímu obsazení těchto orgánů;

10.  zdůrazňuje, že je důležité řešit „předpojatost vývojáře“, a tedy potřebu rozmanité pracovní síly ve všech oblastech odvětví informačních technologií, jakož i ochranné mechanismy, aby se zabránilo zohlednění předpojatosti na základě pohlaví a věku v systémech umělé inteligence;

11.  zdůrazňuje, že je důležité vytvořit regulační rámec pro kontrolu algoritmů a jejich dopadu, a to včetně možnosti zapojení nezávislých auditorů pro algoritmy (nebo dokonce i „strážce softwaru“) či regulátora, který by mohl provádět šetření, co se týče automatizovaných rozhodnutí v oblasti umělé inteligence;

12.  zdůrazňuje význam kvality a přesnosti údajů používaných při vývoji a využívání algoritmů, i jejich reprezentativní povahy, neboť standard těchto systémů je založen na údajích, jež se používají k jejich přípravě; poukazuje na to, že i kvalitní údaje o přípravě mohou vést k přetrvávající diskriminaci a nespravedlnosti, pokud nejsou využívány pečlivě a svědomitě; konstatuje, že používání nekvalitních, neaktuálních, neúplných nebo nesprávných údajů v různých fázích zpracování údajů může vést ke špatným prognózám a hodnocením i k předpojatosti, což může v konečném důsledku vést k porušování základních práv jednotlivců nebo k čistě chybným závěrům či nesprávným výsledkům; domnívá se proto, že je důležité v době dat velkého objemu zajistit, aby algoritmy byly připravovány na reprezentativních vzorcích vysoce kvalitních údajů za účelem dosažení statistické parity; zdůrazňuje, že i kdyby se používaly přesné a kvalitní údaje, prediktivní analýza založená na umělé inteligenci může nabídnout pouze statistickou pravděpodobnost; připomíná, že v rámci obecného nařízení o ochraně osobních údajů může mít další zpracování osobních údajů pro statistické účely, včetně přípravy umělé inteligence, za výsledek pouze souhrnné údaje, které nemohou být znovu uplatněny na jednotlivce;

13.  vyzývá Komisi, členské státy a orgány pro ochranu údajů, aby vymezily a přijaly veškerá možná opatření, a co nejvíce tak omezily diskriminaci, k níž dochází prostřednictvím algoritmů, a nerovné podmínky, a předcházely jim, a aby vyvinuly pevný společný etický rámec pro transparentní zpracování osobních údajů a automatizované rozhodování, který by mohl sloužit jako vodítko pro využívání dat a prosazování právních předpisů Unie;

14.  zdůrazňuje, že v zájmu pokroku ve prospěch společnosti a životního prostředí by výzkum v oblasti umělé inteligence a další související činnosti měly být prováděny v souladu se zásadou předběžné opatrnosti a základními právy; zdůrazňuje, že každý, kdo se podílí na rozvoji, provádění, šíření a využívání umělé inteligence, by měl vzít v úvahu a respektovat lidskou důstojnost a sebeurčení i dobré životní podmínky – jak fyzické, tak i psychické – jednotlivce i společnosti jako celku, předvídat potenciální dopady na bezpečnost a přijmout náležitá opatření, která jsou úměrná úrovni ochrany, včetně rychlého zveřejnění faktorů, které by mohly ohrozit veřejnost nebo životní prostředí; zdůrazňuje, že je zapotřebí koordinovaný přístup s cílem zajistit, aby se často prováděla hodnocení založená na rizicích, co se týče systémů umělé inteligence a jejich součástí; zdůrazňuje, že je důležité navrhnout a prosazovat komplexní soubor pravidel auditu a pokynů pro vývoj a zavádění systémů umělé inteligence i mechanismů bezpečnosti a označování, jejichž cílem je zmírnit rizika porušování pravidel;

15.  zdůrazňuje, že pro celkové strategie v oblasti umělé inteligence a robotiky by měly být uplatňovány tyto zásady:

a) Roboti a umělá inteligence jsou mnohoúčelovými nástroji. Je nepřípustné navrhovat roboty a umělou inteligenci výhradně či primárně k zabíjení lidí nebo ke způsobování újmy lidem. Musí být zaručena individuální práva a základní svobody, zejména pokud jde o integritu člověka (fyzickou i psychickou), lidskou důstojnost a identitu. Zdůrazňuje se, že lidská bytost je důležitější než pouhý vědecký či společenský zájem.

b) Lidé jsou odpovědnými činiteli. Tvůrci právních předpisů by se měli ujistit, že vznikající technologie jsou v souladu se stávajícími právními předpisy a základními právy.

c) Roboti a umělá inteligence jakožto výrobky by měli být navrhováni tak, aby byly bezpečné, zabezpečené a aby odpovídaly svému účelu, stejně jako je tomu u ostatních výrobků.

d) Roboti a umělá inteligence jsou vyráběnými výtvory. Neměli by být navrhováni klamavým způsobem, tak aby využívali zranitelné uživatele; jejich mechanická povaha by naopak měla být transparentní.

e) Měla by být určena osoba, která ponese za robota nebo umělou inteligenci právní odpovědnost. V případě hrubé nedbalosti v oblasti bezpečnosti a zabezpečení by výrobci měli nést odpovědnost i v případech, kdy dohody o užívání zahrnují ustanovení o vyloučení odpovědnosti.

16.  Zdůrazňuje, že do procesu rozvoje umělé inteligence je třeba zapojit veřejnost; vyzývá proto Komisi, aby zveřejnila veškeré algoritmy, nástroje a technologie financované nebo spolufinancované z veřejných zdrojů jako otevřený zdroj;

17.  Zdůrazňuje, že v případech, kdy rizika vznikají jako nevyhnutelná a nedílná součást výzkumu umělé inteligence, musí být vypracovány a dodržovány přísné protokoly hodnocení a řízení rizik, přičemž je třeba vzít v úvahu, že riziko újmy nesmí být větší než riziko, k němuž dochází v běžném životě (tj. lidé nesmí být vystaveni větším rizikům než těm, jimž jsou vystaveni při běžném životním stylu).

INFORMACE O PŘIJETÍ VE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

10.12.2018

 

 

 

Výsledek konečného hlasování

+:

–:

0:

30

0

1

Členové přítomní při konečném hlasování

Martina Anderson, Monika Beňová, Michał Boni, Cornelia Ernst, Romeo Franz, Nathalie Griesbeck, Jussi Halla-aho, Monika Hohlmeier, Sophia in ‘t Veld, Dietmar Köster, Juan Fernando López Aguilar, Roberta Metsola, Claude Moraes, Péter Niedermüller, Ivari Padar, Giancarlo Scottà, Birgit Sippel, Csaba Sógor, Helga Stevens, Bodil Valero, Harald Vilimsky, Josef Weidenholzer

Náhradníci přítomní při konečném hlasování

Marek Jurek, Jean Lambert, Angelika Mlinar, Maite Pagazaurtundúa Ruiz, Barbara Spinelli, Axel Voss

Náhradníci (čl. 200 odst. 2) přítomní při konečném hlasování

Lucy Anderson, Margrete Auken, Anthea McIntyre

JMENOVITÉ KONEČNÉ HLASOVÁNÍVE VÝBORU POŽÁDANÉM O STANOVISKO

30

+

ALDE

Nathalie Griesbeck, Sophia in ‘t Veld, Angelika Mlinar, Maite Pagazaurtundúa Ruiz

ECR

Jussi Halla-aho, Marek Jurek, Anthea McIntyre, Helga Stevens

ENF

Giancarlo Scottà

GUE/NGL

Martina Anderson, Cornelia Ernst, Barbara Spinelli

PPE

Michał Boni, Monika Hohlmeier, Roberta Metsola, Csaba Sógor, Axel Voss

S&D

Lucy Anderson, Monika Beňová, Dietmar Köster, Juan Fernando López Aguilar, Claude Moraes, Péter Niedermüller, Ivari Padar, Birgit Sippel, Josef Weidenholzer

VERTS/ALE

Margrete Auken, Romeo Franz, Jean Lambert, Bodil Valero

0

-

 

 

1

0

ENF

Harald Vilimsky

Význam zkratek:

+  :  pro

-  :  proti

0  :  zdrželi se

(1)

Přijaté texty, P8_TA(2017)0051.


STANOVISKO Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin (21.11.2018)

pro Výbor pro průmysl, výzkum a energetiku

ke komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky

(2018/2088(INI))

Zpravodaj: Bolesław G. Piecha

NÁVRHY

Výbor pro životní prostředí, veřejné zdraví a bezpečnost potravin vyzývá Výbor pro průmysl, výzkum a energetiku jako věcně příslušný výbor, aby do svého návrhu usnesení začlenil tyto návrhy:

A.  vzhledem k tomu, že umělá inteligence vyvolává technologickou, hospodářskou, sociální a psychologickou revoluci s očividnými etickými dopady, a to nejen v Evropě, ale po celém světě;

B.  vzhledem k tomu, že rostoucí integrace robotiky do lidských systémů vyžaduje silné politické vedení ve věci maximalizace přínosů, minimalizace rizik pro společnost a zajištění bezpečného a spravedlivého rozvoje umělé inteligence;

C.  vzhledem k tomu, že úroveň vyspělosti trhu s umělou inteligencí představuje z etického a morálního hlediska největší revoluci od parního stroje a počítače, o které je třeba ve společnosti intenzivně diskutovat;

D.  vzhledem k tomu, že umělá inteligence má v průmyslu a službách spojených s pokročilými technologiemi zásadní význam, má-li se Evropa stát „světadílem začínajících podniků“ tím, že pro dosažení růstu v Evropě bude využívat nejnovější technologie, zejména v oblasti zdravotnické technologie, zdravotnických služeb a programů, vývoje léčivých přípravků, robotické chirurgie a chirurgie s asistencí robota, léčby chronických onemocnění, lékařského zobrazování a záznamů a zajištění udržitelného životního prostředí a bezpečné výroby potravin; vzhledem k tomu, že Evropa v současnosti zaostává za Severní Amerikou a Asií, pokud jde o výzkum a patenty v oblasti umělé inteligence;

E.  vzhledem k tomu, že rozvoj technologií umělé inteligence může zlepšit kvalitu života lidí trpících chronickými chorobami a zdravotním postižením a řešit sociální problémy, jako je stárnutí naší populace, neboť umělá inteligence dokáže zpřesnit a zefektivnit zdravotnické technologie při poskytování zdravotní péče;

F.  vzhledem k tomu, že umělá inteligence a robotika mají v oblasti lékařské péče široké uplatnění, např.: vedení lékařské dokumentace a správa údajů, provádění opakovaných postupů (analýza testů, rentgenových snímků, snímků počítačové tomografie, vkládání dat), navrhování léčebných postupů, digitální konzultace (jako je lékařská konzultace založená na osobní anamnéze a běžných lékařských znalostech), virtuální ošetřovatelé, řízení předepisování léků, vytváření léčiv, přesné lékařství (jako je genetické a genomické hledání mutací a tendence k nemocem na základě informací v DNA), sledování zdravotního stavu, analýza systému zdravotní péče atd.;

G.  vzhledem k tomu, že přístupnost neznamená stejné služby a zařízení pro všechny; vzhledem k tomu, že přístupnost umělé inteligence a robotiky je založena na inkluzivním plánování a projektování; vzhledem k tomu, že východiskem pro projektování musejí být potřeby, přání a zkušenosti uživatelů;

H.  vzhledem k tomu, že ohledně autonomie robotů, toho, že zjevně postrádají lidskou empatii, a ohledně toho, jak roboti ovlivní vztah mezi lékařem a pacientem, panují značné etické, psychologické a právní obavy, jež ještě nebyly řádně projednány na úrovni Unie, především v souvislosti s ochranou osobních údajů pacientů, odpovědností a novými hospodářskými a pracovněprávními vztahy, které z toho vyplývají; vzhledem k tomu, že „autonomie“ jako taková může být přisuzována pouze lidským bytostem; vzhledem k tomu, že je zapotřebí pevný právní a etický rámec umělé inteligence;

I.  vzhledem k tomu, že využívání umělé inteligence musí být právě v oblasti zdraví vždy založeno na principu odpovědnosti „člověk obsluhuje stroj“;

J.  vzhledem k tomu, že rizika umělé inteligence nebyla dostatečně prostudována;

1.  zdůrazňuje, že jakýkoliv revoluční technologický pokrok, především v oblasti umělé inteligence a robotiky, by měl sloužit dobrým životním podmínkám lidí;

2.  zdůrazňuje, že systémy umělé inteligence a roboti jsou inovativní technologie, které mají zlepšit životy lidí, vytvářet hospodářský růst a řešit problémy mj. v oblasti zdraví, životního prostředí, klimatické změny a bezpečnosti potravin, a že za jejich použití je vždy odpovědný lidský činitel;

3.  vyzývá Komisi a členské státy, aby vypracovaly komplexní akční plán EU zaměřený na vytvoření evropského „ekosystému pro umělou inteligenci“, který by plně využil příležitostí socioekonomického rozvoje, a zároveň se podrobně věnovaly otázkám bezpečnosti, zabezpečení, předcházení škodám a zmírňování rizik, lidské morální odpovědnosti, správy a regulace umělé inteligence a robotů, environmentální udržitelnosti a likvidace zařízení umělé inteligence(1); zdůrazňuje, že by tento „ekosystém“ měl být otevřený potřebám velmi malých podniků a malých a středních podniků a měl by být vytvořen společně se všemi relevantními zúčastněnými stranami, a zejména skupinami pacientů, ale také při zohlednění obav jiných skupin, jako jsou dobročinné spolky, církve a filozofické fakulty;

4.  zvláštní pozornost by se měla věnovat používání „dat velkého objemu“ ve zdravotnictví s cílem maximalizovat příležitosti, které mohou přinést – jako zlepšení zdravotního stavu jednotlivých pacientů nebo zkvalitnění veřejného zdravotnictví v členských státech – bez toho, aby se snížily etické standardy a ohrozilo se soukromí nebo bezpečnost občanů;

5.  důrazně varuje před jakýmkoliv pokusem o to, aby byly stroje s umělou inteligencí vybaveny určitým druhem „osobnosti“, a výrobci a lidé, kteří stroje obsluhují, tak byli zcela zbaveni odpovědnosti;

6.  zdůrazňuje však, že stávající systém pro schvalování zdravotnických prostředků nemusí být vhodný pro technologie umělé inteligence; vyzývá Komisi, aby bedlivě sledovala, pokrok v oblasti těchto technologií a v případě potřeby navrhla změny regulačního rámce s cílem zavést rámec, který by určoval odpovědnost uživatele (lékaře / zdravotnického pracovníka), výrobce technického řešení a zdravotnického zařízení, které léčbu poskytuje; poukazuje na to, že právní odpovědnost za škodu má v souvislosti s používáním umělé inteligence ve zdravotnictví značný význam; zdůrazňuje, že je proto nutné zajistit, aby se uživatelé necítili povinni podporovat vždy diagnostické řešení či léčbu navrženou technologickým nástrojem ze strachu, že by byli žalováni o náhradu škody, pokud by jejich informovaný odborný úsudek vedl k závěrům, které by se byť jen zčásti lišily;

7.  vyzývá Komisi a členské státy, aby vyčlenily více prostředků na výzkum v oblasti umělé inteligence a robotiky a aby podněcovaly odborníky na umělou inteligenci a evropské i mimoevropské společnosti k tvorbě inovativních pracovních míst za účelem podpory výzkumu v oblasti veřejného zdraví; trvá však na tom, že celková strategie zaměstnanosti musí být spojena s pokrokem umělé inteligence v odvětví profesionální zdravotní péče;

8.  vyzývá Komisi a členské státy, aby podporovaly talenty v oblasti umělé inteligence a robotiky konkrétními prostředky (například vytvářením inkubátorů a podporou startupů), aby se zvýšilo množství lidí vyškolených v tomto oboru, přičemž je třeba věnovat zvláštní pozornost začlenění žen a získávání studentů z jiných oborů;

9.  vyzývá Radu a Komisi, aby podnikly všechny možné právní kroky k tomu, aby byly zakázány metody eutanazie a výběru stále častějším použitím optimalizace rozhraní člověk-stroj v lidském těle;

10.  vyzývá Komisi, aby zajistila přístup ke grantům poskytovaným z rámcových programů EU a jiným formám financování výzkumu v oblasti umělé inteligence;

11.  vyzývá Komisi a členské státy, aby vypracovaly obsáhlé plány, které by měly přilákat klíčové zainteresované strany a hlavní aktéry v oblasti výpočetní techniky, matematiky, fyziky, informačních technologií v lékařství, klinické psychologie, bioinženýrství a farmacie s cílem zřizovat výzkumná střediska pro umělou inteligenci v biomedicíně a bionice po celé Evropě; vyzývá Komisi a členské státy, aby braly rizika umělé inteligence (jako je její vliv na vztah mezi lékařem a pacientem a odlidštění zdravotní péče) vážně a aby podporovaly výzkum v oblasti rizik a etických obav spojených s umělou inteligencí, který by mohl pomoci rozhodovat o tom, zda a za jakých podmínek lze používání daného technologického řešení považovat za vhodné a v souladu se základními principy lidské důstojnosti a rovnosti, a mohlo by tedy být povoleno;

12.  žádá členské státy a Komisi, aby uvolnily více finančních prostředků na technologie umělé inteligence spojené se zdravím ve veřejném a soukromém sektoru; v této souvislosti vítá prohlášení o spolupráci, které podepsalo 24 členských států EU a Norsko, aby na evropské úrovni zvýšily dopad investic do umělé inteligence; vyzývá členské státy a Komisi, aby zvážily, zda je třeba v celoevropském měřítku aktualizovat a standardizovat vzdělávací programy lékařů a zdravotnického personálu, aby se v členských státech zajistila vysoká úroveň odborných znalostí a rovné podmínky, pokud jde o znalosti a používání nejvyspělejších technologických nástrojů v robotické chirurgii, biomedicíně a biolékařském zobrazování založeném na umělé inteligenci.

INFORMACE O PŘIJETÍ VE VÝBORU POŽÁDANÉM O STANOVISKO

Datum přijetí

20.11.2018

 

 

 

Výsledek konečného hlasování

+:

–:

0:

48

2

0

Členové přítomní při konečném hlasování

Marco Affronte, Pilar Ayuso, Zoltán Balczó, Catherine Bearder, Ivo Belet, Biljana Borzan, Paul Brannen, Nessa Childers, Birgit Collin-Langen, Seb Dance, Mark Demesmaeker, Bas Eickhout, Francesc Gambús, Gerben-Jan Gerbrandy, Jens Gieseke, Julie Girling, Sylvie Goddyn, Françoise Grossetête, Benedek Jávor, Karin Kadenbach, Urszula Krupa, Giovanni La Via, Jo Leinen, Peter Liese, Valentinas Mazuronis, Susanne Melior, Miroslav Mikolášik, Massimo Paolucci, Gilles Pargneaux, Bolesław G. Piecha, John Procter, Julia Reid, Frédérique Ries, Annie Schreijer-Pierik, Adina-Ioana Vălean, Jadwiga Wiśniewska

Náhradníci přítomní při konečném hlasování

Cristian-Silviu Buşoi, Nicola Caputo, Michel Dantin, Martin Häusling, Esther Herranz García, Gesine Meissner, Tilly Metz, Ulrike Müller, Sirpa Pietikäinen, Carlos Zorrinho

Náhradníci (čl. 200 odst. 2) přítomní při konečném hlasování

Mercedes Bresso, Innocenzo Leontini, Olle Ludvigsson, Ana Miranda

KONEČNÉ JMENOVITÉ HLASOVÁNÍ V PŘÍSLUŠNÉM VÝBORU

48

+

ALDE

Catherine Bearder, Gerben Jan Gerbrandy, Valentinas Mazuronis, Gesine Meissner, Ulrike Müller, Frédérique Ries

ECR 

Mark Demesmaeker, Urszula Krupa, Bolesław G. Piecha, John Procter, Jadwiga Wiśniewska

EFDD

Sylvie Goddyn

NI

Zoltán Balczó

ELS

Pilar Ayuso, Ivo Belet, Cristian‑Silviu Buşoi, Birgit Collin‑Langen, Michel Dantin, Francesc Gambús, Jens Gieseke, Françoise Grossetête, Esther Herranz García, Giovanni La Via, Innocenzo Leontini, Peter Liese, Miroslav Mikolášik, Sirpa Pietikäinen, Annie Schreijer‑Pierik, Adina‑Ioana Vălean

S&D

Biljana Borzan, Paul Brannen, Mercedes Bresso, Nicola Caputo, Nessa Childers, Seb Dance, Karin Kadenbach, Jo Leinen, Olle Ludvigsson, Susanne Melior, Massimo Paolucci, Gilles Pargneaux, Carlos Zorrinho

Zelení/ESA

Marco Affronte, Bas Eickhout, Martin Häusling, Benedek Jávor, Tilly Metz, Ana Miranda

2

-

EFDD

Julia Reid

ELS

Julie Girling

0

0

 

 

Význam zkratek:

+  :  pro

-  :  proti

0  :  zdrželi se hlasování

(1)

Viz zejména prohlášení Evropské skupiny pro etiku ve vědě a nových technologiích o umělé inteligenci, robotice a „autonomních“ systémech z března 2018.


INFORMACE O PŘIJETÍ V PŘÍSLUŠNÉM VÝBORU

Datum přijetí

14.1.2019

 

 

 

Výsledek konečného hlasování

+:

–:

0:

49

1

4

Členové přítomní při konečném hlasování

Bendt Bendtsen, Jonathan Bullock, Cristian-Silviu Buşoi, Jerzy Buzek, Edward Czesak, Jakop Dalunde, Fredrick Federley, Ashley Fox, Igor Gräzin, Theresa Griffin, András Gyürk, Rebecca Harms, Eva Kaili, Barbara Kappel, Seán Kelly, Jeppe Kofod, Jaromír Kohlíček, Peter Kouroumbashev, Zdzisław Krasnodębski, Miapetra Kumpula-Natri, Christelle Lechevalier, Paloma López Bermejo, Edouard Martin, Tilly Metz, Angelika Mlinar, Csaba Molnár, Nadine Morano, Angelika Niebler, Morten Helveg Petersen, Miroslav Poche, Carolina Punset, Julia Reda, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Neoklis Sylikiotis, Patrizia Toia, Evžen Tošenovský, Vladimir Urutchev, Kathleen Van Brempt, Henna Virkkunen, Flavio Zanonato, Carlos Zorrinho

Náhradníci přítomní při konečném hlasování

Pilar Ayuso, Michał Boni, Gunnar Hökmark, Rupert Matthews, Clare Moody, Caroline Nagtegaal, Răzvan Popa, Dennis Radtke, Giancarlo Scottà, Davor Škrlec


JMENOVITÉ KONEČNÉ HLASOVÁNÍV PŘÍSLUŠNÉM VÝBORU

49

+

ALDE

Fredrick Federley, Igor Gräzin, Angelika Mlinar, Caroline Nagtegaal, Morten Helveg Petersen, Carolina Punset

ECR

Edward Czesak, Ashley Fox, Zdzisław Krasnodębski, Rupert Matthews, Evžen Tošenovský

ENF

Barbara Kappel, Christelle Lechevalier, Giancarlo Scottà

PPE

Pilar Ayuso, Bendt Bendtsen, Michał Boni, Cristian-Silviu Buşoi, Jerzy Buzek, András Gyürk, Gunnar Hökmark, Seán Kelly, Nadine Morano, Angelika Niebler, Dennis Radtke, Paul Rübig, Massimiliano Salini, Algirdas Saudargas, Sven Schulze, Vladimir Urutchev, Henna Virkkunen

S&D

Theresa Griffin, Eva Kaili, Jeppe Kofod, Peter Kouroumbashev, Miapetra Kumpula-Natri, Csaba Molnár, Clare Moody, Miroslav Poche, Răzvan Popa, Patrizia Toia, Kathleen Van Brempt, Flavio Zanonato, Carlos Zorrinho

VERTS/ALE

Jakop Dalunde, Rebecca Harms, Tilly Metz, Julia Reda, Davor Škrlec

1

-

EFDD

Jonathan Bullock

4

0

GUE/NGL

Jaromír Kohlíček, Paloma López Bermejo, Neoklis Sylikiotis

S&D

Edouard Martin

Význam zkratek:

+  :  pro

-  :  proti

0  :  zdrželi se

Poslední aktualizace: 7. února 2019Právní upozornění