Evropský parlament,

–  s ohledem na své usnesení ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku(1),

–  s ohledem na své usnesení ze dne 1. června 2017 o digitalizaci evropského průmyslu(2),

–  s ohledem na své usnesení ze dne 12. září 2018 o autonomních zbraňových systémech(3),

–  s ohledem na své usnesení ze dne 11. září 2018 o jazykové rovnosti v digitálním věku(4),

–  s ohledem na návrh Komise ze dne 6. června 2018, kterým se zavádí program Digitální Evropa na období 2021–2027 (COM(2018)0434),

–  s ohledem na nařízení Rady (EU) 2018/1488 ze dne 28. září 2018, kterým se zřizuje evropský společný podnik pro vysoce výkonnou výpočetní techniku(5),

–  s ohledem na článek 52 jednacího řádu,

–  s ohledem na zprávu Výboru pro průmysl, výzkum a energetiku a na stanoviska Výboru pro vnitřní trh a ochranu spotřebitelů, Výboru pro právní záležitosti, Výboru pro občanské svobody, spravedlnost a vnitřní věci a Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin (A8-0019/2019),

A.  vzhledem k tomu, že budou-li umělá inteligence a robotika využívány transparentně a eticky, mají potenciál obohatit naše životy a rozšířit naše schopnosti, a to jak ku prospěchu jednotlivců, tak i v zájmu společného blaha;

B.  vzhledem k tomu, že umělá inteligence se rychle rozvíjí a že je již řadu let součástí našeho každodenního života; vzhledem k tomu, že umělá inteligence a robotika podněcují inovace, a tak nové obchodní modely, a hrají klíčovou úlohu při transformaci našich společností a digitalizaci mnoha oblastí našich ekonomik, např. průmyslu, zdravotní péče, stavebnictví a dopravy;

C.  vzhledem k tomu, že stále větší integrace robotiky do lidských systémů vyžaduje silné politické vedení v zájmu maximalizace přínosů, minimalizace rizik pro společnost a zajištění bezpečného a spravedlivého rozvoje umělé inteligence;

D.  vzhledem k tomu, že umělá inteligence je jednou ze strategických technologií pro 21. století jak v celosvětovém měřítku, tak v Evropě, neboť přináší pozitivní změny do evropského hospodářství a umožňuje inovace, zvyšování produktivity konkurenceschopnosti a dobré životní podmínky;

E.  vzhledem k tomu, že evropské společnosti vyrábějí přibližně čtvrtinu všech průmyslových robotů a polovinu všech robotů odborných služeb na světě, a EU již proto disponuje důležitými devizami, o které by měla opřít svou evropskou průmyslovou politiku;

F.  vzhledem k tomu, že umělá inteligence a robotika dokážou přetvořit řadu odvětví a mohou zefektivnit výrobu a rovněž celosvětově zvýšit konkurenceschopnost evropského průmyslu a malých a středních podniků; vzhledem k tomu, že pro vývoj umělé inteligence má velký význam dostupnost rozsáhlých datových souborů a zkušebních a pokusných zařízení;

G.  vzhledem k tomu, že společný přístup usnadní vývoj technologií umělé inteligence ve prospěch společnosti a zároveň umožní řešit výzvy, které s těmito technologiemi souvisí, tak aby se podpořily inovace, zvýšila kvalita produktů a služeb obsahujících prvky umělé inteligence, zlepšila zkušenost a důvěra spotřebitelů v technologie umělé inteligence a robotiku a aby se zabránilo roztříštění vnitřního trhu;

H.  vzhledem k tomu, že výkonnost výpočetní techniky v Unii musí být udržována na špičkové úrovni, což by mělo vytvořit příležitosti pro dodavatelský průmysl EU a zvýšit jeho efektivitu tím, že výsledky technologického vývoje budou zúročeny v produktech a službách, jež budou reagovat na poptávku a orientovat se na aplikace, díky čemuž budou zaváděny do nově vznikajících rozsáhlých aplikací založených na umělé inteligenci;

I.  vzhledem k tomu, že je nutné co nejrychleji přijmout koordinovaný postup na evropské úrovni, aby EU mohla konkurovat masivním investicím třetích zemí, zejména USA a Číny;

J.  vzhledem k tomu, že dne 25. dubna 2018(6) se Komise zavázala, že ve spolupráci s členy Evropské aliance pro umělou inteligenci (což je skupina odborníků na umělou inteligenci) navrhne evropský přístup, který bude mít formu obecných pokynů pro umělou inteligenci a bude mít za cíl podpořit evropské aplikace a podniky, které umělou inteligenci využívají;

K.  vzhledem k tomu, že stávající pravidla a postupy je třeba znovu posoudit a případně upravit, aby zohledňovaly umělou inteligenci a robotiku;

L.  vzhledem k tomu, že evropský rámec pro umělou inteligenci musí být vytvořen v plném souladu se základními právy zakotvenými v Listině základních práv Evropské unie, a zejména se zásadami ochrany údajů, soukromí a bezpečnosti;

M.  vzhledem k tomu, že vývoj umělé inteligence může a měl by být koncipován tak, aby zachovával důstojnost, autonomii a právo na sebeurčení jednotlivce;

N.  vzhledem k tomu, že Parlament v usnesení ze dne 16. února 2017 o občanskoprávních pravidlech pro robotiku, které obsahovalo doporučení pro Komisi, vyzval Komisi, aby navrhla soudržný právní rámec pro rozvoj robotiky, včetně autonomních systémů a inteligentních autonomních robotů;

O.  vzhledem k tomu, že vývoj umělé inteligence a robotiky musí být přínosný pro celou společnost; avšak vzhledem k tomu, že v roce 2017 nemohly venkovské oblasti výhod umělé inteligence z velké části využívat, neboť 8 % domácností nebylo připojeno k žádné pevné síti a 53 % domácností nebylo pokryto žádnou z přístupových sítí nové generace (VDSL, kabelová síť Docsis 3.0 nebo FTTP);

P.  vzhledem k tomu, že vývoj služeb a produktů obsahujících prvky umělé inteligence není možný bez konektivity, volného pohybu údajů a dostupnosti údajů v celé EU; vzhledem k tomu, že využívání pokročilých technik vytěžování dat v produktech a službách může přispět ke zkvalitnění rozhodovacího procesu, a tím rozšířit výběr spotřebitelů a zlepšit výkonnost podniků;

Q.  vzhledem k tomu, že technologického vývoje v oblasti inteligentních výrobků a služeb může ve svůj prospěch využívat znalostní ekonomika, která je založena na množství, kvalitě a dostupnosti informací, a může se tedy lépe přizpůsobovat potřebám spotřebitelů;

R.  vzhledem k tomu, že kybernetická bezpečnost má zásadní význam pro ochranu údajů před jejich úmyslným poškozením nebo zneužitím, v jehož důsledku by používání umělé inteligence způsobilo občanům nebo podnikům újmu, což by otřáslo důvěrou průmyslu a spotřebitelů v umělou inteligenci; vzhledem k tomu, že vývoj umělé inteligence vede ke zvyšování naší závislosti při přijímání opatření a rozhodnutí na těchto systémech, což vyžaduje, aby se na ně v EU vztahovaly vysoké normy kybernetické odolnosti, má-li se předejít narušení kybernetické bezpečnosti a jejich selhání;

S.  vzhledem k tomu, že trend směřující k automatizaci s sebou nese požadavek, aby subjekty, které se podílejí na vývoji aplikací umělé inteligence a jejich uvádění na trh, měly již od fáze návrhu na zřeteli bezpečnost a etiku, a byly si vědomy toho, že musejí být připraveny přijmout právní odpovědnost za kvalitu technologie, kterou vytvářejí;

T.  vzhledem k tomu, že budování důvěryhodného prostředí pro vývoj technologií umělé inteligence by mělo být založeno na struktuře politiky v oblasti dat; vzhledem k tomu, že to znamená vytvořit programy pro hladký a zjednodušený sběr a správu dat pro vzdělávací a výzkumné účely, jež umožní rozvoj umělé inteligence v mnoha oblastech: medicíně, finančnictví, biologii, energetice, průmyslu, chemii nebo ve veřejném sektoru; vzhledem k tomu, že ekosystém umělé inteligence založený na datech by mohl zahrnovat celoevropské iniciativy v oblasti otevřených norem a být založen na vzájemném uznávání certifikátů a transparentních pravidel interoperability;

U.  vzhledem k tomu, že umělá inteligence sama o sobě nezajišťuje pravdu či spravedlnost, protože může docházet ke zkreslení v důsledku metody sběru dat a zápisu algoritmu, jež mohou mít původ ve společenských předsudcích; vzhledem k tomu, že zkreslení by měly zabránit kvalitní data a design algoritmu a neustálé přehodnocování;

V.  vzhledem k tomu, že umělá inteligence a robotika by měly být rozvíjeny a zaváděny tak, aby v jejich centru stál člověk, kterému by měly být nápomocny na pracovišti i v domově; vzhledem k tomu, že umělá inteligence by rovněž mohla lidi nahradit v nebezpečných povoláních;

W.  vzhledem k tomu, že další rozvoj a širší využívání automatizovaných a algoritmických rozhodovacích procesů má nezpochybnitelný dopad na konečná rozhodnutí soukromých osob (například podnikatelů či uživatelů internetu) a správních, soudních či jiných veřejných orgánů v záležitostech spotřebitelského, obchodního či úředního rázu; vzhledem k tomu, že do procesu automatizovaného a algoritmického rozhodování musí být začleněna bezpečnostní opatření a možnost lidské kontroly a ověření;

X.  vzhledem k tomu, že v souvislosti se strojovým učením je také nutné zajistit nediskriminaci, řádný postup, transparentnost a srozumitelnost v rámci rozhodovacích procesů;

Y.  vzhledem k tomu, že umělá inteligence představuje významný nástroj k řešení globálních společenských výzev, a že členské státy proto musí prostřednictvím své veřejné politiky podporovat investice, uvolňovat prostředky na výzkum a vývoj a odstraňovat překážky bránící rozvoji a zavádění umělé inteligence;

Z.  vzhledem k tomu, že komerční platformy umělé inteligence pokročily v oblasti zdraví, životního prostředí, energie a dopravy od testování k praktickému využití; vzhledem k tomu, že základem všech hlavních webových platforem a aplikací využívajících data velkého objemu jsou techniky strojového učení;

AA.  vzhledem k tomu, že evropští výzkumní pracovníci a společnosti spolupracují na širokém spektru témat týkajících se technologie blockchain, od dodavatelského řetězce, služeb veřejné správy, financí, internetu věcí, zdravotnictví, sdělovacích prostředků a inteligentních měst po energetiku a dopravu; vzhledem k tomu, že Evropa je silným hráčem v důležitých oblastech souvisejících se blockchainem, např. umělé inteligenci; vzhledem k tomu, že blockchain může hrát důležitou úlohu při zlepšování evropských inovací;

AB.  vzhledem k tomu, že technologie kybernetické bezpečnosti, např. digitální identity, šifrování nebo detekce narušení, a jejich uplatňování v oblastech, jako jsou finance, průmysl 4.0, energetika, doprava, zdravotní péče nebo elektronická veřejná správa, mají zásadní význam pro zajištění bezpečnosti a důvěryhodnosti činností a transakcí on-line prováděných občany, orgány veřejné správy či společnostmi;

AC.  vzhledem k tomu, že vytěžování textů a dat slouží jako základ pro aplikace založené na umělé inteligenci a strojovém učení a má zásadní význam pro malé a střední podniky a začínající podniky, protože jim umožňuje přístup k velkému množství dat, které potřebují pro vývoj algoritmů umělé inteligence;

AD.  vzhledem k tomu, že umělá inteligence může být velmi náročná na spotřebu energie; vzhledem k tomu, že je proto důležité výdobytky umělé inteligence využívat se zřetelem ke stávajícím cílům, které si EU vytkla pro energetickou účinnost a oběhové hospodářství;

AE.  vzhledem k tomu, že umělá inteligence by měla plně podporovat všechny evropské jazyky, aby všichni Evropané mohli stejnou měrou těžit z vývoje moderní umělé inteligence v mnohojazyčné evropské informační společnosti;

AF.  vzhledem k tomu, že umělá inteligence má v průmyslu a službách spojených s pokročilými technologiemi zásadní význam, má-li se Evropa stát „světadílem začínajících podniků“, a to tak, že pro dosažení růstu budou v Evropě využívány nejnovější technologie, zejména ve zdravotnických technologiích, službách a programech, vývoji léčivých přípravků, robotické chirurgii a chirurgii s asistencí robota, při léčbě chronických onemocnění, lékařských metodách zobrazování a záznamech i zajištění udržitelného životního prostředí a bezpečné výroby potravin; vzhledem k tomu, že Evropa v současnosti zaostává za Severní Amerikou a Asií ve výzkumu a patentech v oblasti umělé inteligence;

AG.  vzhledem k tomu, že rozvoj technologií umělé inteligence může zlepšit kvalitu života lidí trpících chronickými chorobami a zdravotním postižením a řešit sociální problémy, jako je stárnutí naší populace, neboť umělá inteligence dokáže zpřesnit a zefektivnit zdravotnické technologie pro poskytování zdravotní péče;

AH.  vzhledem k tomu, že umělá inteligence a robotika mají v lékařské péči široké uplatnění, např. v následujících oblastech: vedení lékařské dokumentace a správa zdravotních údajů, provádění opakujících se postupů (analýza testů, rentgenových snímků, snímků počítačové tomografie, vkládání dat), navrhování léčebných postupů, digitální konzultace (jako je lékařská konzultace založená na osobní anamnéze a běžných lékařských znalostech), virtuální ošetřovatelé, řízení předepisování léků, vytváření léčiv, přesné lékařství (jako je genetické a genomické hledání mutací a tendence k nemocem na základě informací v DNA), sledování zdravotního stavu, analýza systému zdravotní péče atd.;

AI.  vzhledem k tomu, že dostupnost neznamená stejné služby a zařízení pro všechny; vzhledem k tomu, že dostupnost umělé inteligence a robotiky je založena na inkluzivním plánování a projektování; vzhledem k tomu, že východiskem pro projektování musejí být potřeby, přání a zkušenosti uživatelů;

AJ.  vzhledem k tomu, že ohledně autonomie robotů, zjevné absence lidské empatie a toho, jak roboti ovlivní vztah mezi lékařem a pacientem, panují značné etické, psychologické a právní obavy, které ještě nebyly řádně projednány na úrovni EU, především v souvislosti s ochranou osobních údajů pacientů, odpovědností a novými hospodářskými a pracovněprávními vztahy, které z toho vyplývají; vzhledem k tomu, že „autonomie“ jako taková může být přisuzována pouze lidským bytostem; vzhledem k tomu, že pro umělou inteligenci je zapotřebí vytvořit pevný právní a etický rámec;

AK.  vzhledem k tomu, že zavádění umělé inteligence musí být zejména ve zdravotnictví vždy založeno na principu odpovědnosti „člověk obsluhuje stroj“;

1.Společnost podporovaná umělou inteligencí a robotikou

1.1.Práce v éře umělé inteligence a robotiky

1.  zdůrazňuje, že automatizace v kombinaci s umělou inteligencí zvýší produktivitu, a tím pádem i zlepší výsledky; konstatuje, že stejně jako v předchozích technologických revolucích některá pracovní místa zmizí, ale rovněž vzniknou nová, takže se promění životy lidí i pracovní postupy; zdůrazňuje, že větší využívání robotiky a umělé inteligence by mělo současně omezit expozici lidí škodlivým a nebezpečným podmínkám, pomoci vytvářet kvalitnější pracovní místa s důstojnými podmínkami a zvýšit produktivitu;

2.  naléhavě žádá členské státy, aby se zaměřily na rekvalifikaci pracovníků v odvětvích, která jsou nejvíce zasažena automatizací; zdůrazňuje, že nové vzdělávací programy by se měly zaměřit na rozvoj dovedností pracovníků, aby se dokázali chopit příležitostí, jež nabízejí nová pracovní místa vzniklá díky umělé inteligenci; podporuje rozvoj programů počítačové gramotnosti ve školách, rozvoj učňovského vzdělávání a stanovení priorit odborného vzdělávání, aby se pracovníci mohli snadněji přizpůsobit technologickým změnám;

3.  doporučuje členským státům, aby spolu se subjekty ze soukromého sektoru identifikovaly rizika a vypracovaly strategie, které zajistí vytvoření příslušných programů rekvalifikace; zdůrazňuje, že také společnosti musí investovat do vzdělávání a rekvalifikace svých zaměstnanců, aby uspokojily jejich potřeby;

4.  zdůrazňuje, že rozvoj robotiky v EU bude mít značné dopady na pracovněprávní vztahy; domnívá se, že tyto dopady by měly být řešeny vyváženě, aby se podpořila reindustrializace a aby i pracovníci mohli těžit z růstu produktivity;

5.  konstatuje, že v současnosti je v pracovním prostředí nastolena křehká rovnováha mezi vlastníky a pracovníky; domnívá se, že další zavádění umělé inteligence do průmyslu by mělo probíhat za rozsáhlých konzultací se sociálními partnery, neboť potenciální změny počtu lidí pracujících v průmyslu vyžaduje přijetí aktivních politik, které pracovníkům pomůžou přizpůsobit se novým požadavkům a zajistí všeobecné sdílení zisků; konstatuje, že to vyžaduje přehodnocení a přepracování politik v oblasti trhu práce, systémů sociálního zabezpečení a zdanění;

6.  vyzývá členské státy, aby odstranily překážky vstupu na trh práce, jako je překvalifikovanost;

7.  domnívá se, že digitální gramotnost je jedním z nejdůležitějších faktorů budoucího rozvoje umělé inteligence, a naléhavě žádá Komisi a členské státy, aby rozvíjely a realizovaly strategie odborné přípravy a rekvalifikace v oblasti počítačových dovedností; konstatuje, že digitální gramotnost může podpořit širokou a inkluzivní účast na řešeních v ekonomice založené na datech a usnadnit komunikaci a spolupráci se všemi zúčastněnými stranami;

8.  konstatuje, že vzhledem k tomu, že změny postihnou všechny věkové skupiny občanů, je tomu třeba přizpůsobit vzdělávací programy, mimo jiné zavést nové vzdělávací dráhy a nové metody předávání znalostí; zdůrazňuje, že by měly být náležitě řešeny vzdělávací aspekty; zejména se domnívá, že digitální dovednosti, včetně kódování, musí být do výuky a odborné přípravy zahrnuty od rané školní docházky až po celoživotní učení;

1.2.Zneužívání umělé inteligence a lidská práva

9.  zdůrazňuje skutečnost, že zlovolné nebo nedbalé využívání umělé inteligence by mohlo ohrozit digitální bezpečnost a fyzickou i veřejnou bezpečnost, neboť by mohlo být zneužito k vedení rozsáhlých, dobře cílených a vysoce účinných útoků na služby informační společnosti a související strojová zařízení i k dezinformačním kampaním, a obecně tak mohlo být omezeno právo jednotlivců na sebeurčení; zdůrazňuje, že zlovolné či nedbalé využívání umělé inteligence by mohlo rovněž představovat riziko pro demokracii a základní práva;

10.  vyzývá Komisi, aby navrhla rámec pro trestání praktik založených na manipulaci vnímání, kdy personalizovaný obsah nebo nabízený výběr zpravodajství (tzv. news feeds) vedou k negativním pocitům a zkreslenému vnímání skutečnosti, což může mít negativní důsledky (například tak lze ovlivnit výsledky voleb nebo zkreslit vnímání sociálních otázek, jako je migrace);

11.  zdůrazňuje, že je důležité rozpoznat, určit a sledovat tendence, které by mohly přímo či nepřímo narušit vývoj umělé inteligence; vyzývá, aby se výzkum v oblasti umělé inteligence rovněž zaměřil na odhalování případů, kdy byla umělá inteligence a robotika náhodně či úmyslně poškozena;

12.  naléhavě žádá Komisi, aby vzala na vědomí společenské problémy, které pramení z praktik sestavování žebříčků občanů; zdůrazňuje, že občané by neměli být diskriminováni na základě svého pořadí na společenském žebříčku a měli by dostat novou šanci;

13.  vyjadřuje velké znepokojení nad využíváním aplikací umělé inteligence, včetně rozpoznávání obličeje a hlasu, v programech tzv. emocionálního dohledu, které sledují duševní stav pracovníků a občanů s cílem zvýšit produktivitu a zachovat sociální stabilitu, někdy ve spojení se systémy „společenských kreditů“, jak se děje např. v Číně; zdůrazňuje, že tyto programy jsou ze své podstaty v rozporu s evropskými hodnotami a normami, které chrání práva a svobody jednotlivců;

2.Technologický rozvoj vedoucí k umělé inteligenci a robotice

2.1.Výzkum a vývoj

14.  připomíná, že Evropa má špičkovou výzkumnou obec světové úrovně zabývající se umělou inteligencí, která představuje 32 % výzkumných institucí v tomto oboru na světě;

15.  vítá návrh programu Digitální Evropa vypracovaný Komisí a rozpočet ve výši 2,5 miliardy EUR, který byl přislíben pro umělou inteligenci, stejně jako navýšení finančních prostředků v programu Horizont 2020; chápe význam financování z prostředků EU, které má doplňovat rozpočty členských států a průmyslu na výzkum umělé inteligence, a potřebu spolupráce mezi veřejnými, soukromými a unijními výzkumnými programy;

16.  podporuje operační cíle programu Digitální Evropa, tj. vybudovat a posílit v Unii základní kapacity umělé inteligence, zpřístupnit je všem podnikům a orgánům veřejné správy a posílit a propojit stávající zkušební a experimentální zařízení pro umělou inteligenci v členských státech;

17.  vybízí členské státy, aby rozvíjely multilaterální partnerství zúčastněných stran napříč průmyslem, výzkumných institucí a společných středisek excelence, která se zabývají umělou inteligencí;

18.  zdůrazňuje, že výzkum umělé inteligence by neměl investovat pouze do vývoje příslušných technologií a inovací, ale řešit i sociální a etické otázky a odpovědnost, které s sebou umělá inteligence přináší; je přesvědčen o tom, že každý model založený na umělé inteligenci by měl již od návrhu zahrnovat etické hledisko;

19.  zdůrazňuje, že v zájmu společenského pokroku a ochrany životního prostředí by výzkum v oblasti umělé inteligence a další související činnosti měly být prováděny v souladu se základními právy a zásadou předběžné opatrnosti; zdůrazňuje, že každý, kdo se podílí na rozvoji, zavádění, šíření a využívání umělé inteligence, by měl zohledňovat a respektovat lidskou důstojnost, právo na sebeurčení i dobré životní podmínky – jak fyzické, tak i psychické – jednotlivce i společnosti jako celku, předvídat potenciální dopady na bezpečnost a přijmout náležitá opatření, která jsou úměrná úrovni ochrany, včetně rychlého zveřejnění faktorů, které by mohly ohrozit veřejnost nebo životní prostředí;

20.  zdůrazňuje, že klíčem k rozvoji umělé inteligence je také konkurenceschopné výzkumné prostředí; zdůrazňuje, že je důležité podněcovat špičkový výzkum, včetně základního výzkumu a projektů s vysokým rizikem a výnosem, a podporovat evropský výzkumný prostor pomocí atraktivních podmínek financování, mobility a přístupu k infrastruktuře v celé Unii na základě principu otevřenosti vůči třetím zemím a vůči odborníkům ze zemí mimo Unii za předpokladu, že to neoslabí kybernetickou bezpečnost EU;

21.  zdůrazňuje skutečnost, že platy výzkumných pracovníků v EU jsou stále výrazně nižší než platy jejich protějšků v USA nebo Číně, což bývá hlavním důvodem jejich odchodu z Evropy; vyzývá Komisi a členské státy, aby se zaměřily na přilákání vysoce talentovaných lidí do evropských společností, a žádá členské státy, aby pro ně vytvořily atraktivní podmínky;

22.  zdůrazňuje, že Evropa musí novou stěžejní iniciativu FET(7) věnovat umělé inteligenci a klást přitom zvláštní důraz na přístup zaměřený na člověka a na jazykové technologie;

23.  domnívá se, že umělá inteligence, strojové učení a exponenciální skoky v dostupnosti údajů a cloud computingu jsou hnací silou výzkumných iniciativ, které se snaží porozumět molekulární a buněčné biologii, nasměrovat vývoj léčebných postupů a analyzovat datové toky, tak aby bylo možné odhalovat zdravotní hrozby, předvídat vypuknutí epidemií a poskytovat poradenství pacientům; bere na vědomí, že metody vytěžování dat a techniky datové navigace lze použít k odhalení mezer, rizik, trendů a vzorců;

24.  zdůrazňuje, že v případech, kdy rizika tvoří nevyhnutelnou a nedílnou součást výzkumu umělé inteligence, by měly být vypracovány a dodržovány přísné protokoly hodnocení a řízení rizik, přičemž je třeba vzít v úvahu to, že riziko újmy nesmí být větší než riziko, které hrozí v běžném životě (tj. lidé by neměli být vystaveni dodatečným nebo větším rizikům než těm, kterým čelí při běžném životním stylu);

2.2.Investice

25.  konstatuje, že je důležité v této oblasti více investovat, máme-li si udržet konkurenceschopnost; uznává, že ačkoli většina investic a inovací v této oblasti pochází ze soukromých podniků, je třeba vybídnout rovněž členské státy a Komisi, aby dále investovaly do výzkumu v tomto odvětví a stanovily své priority rozvoje; vítá návrh projektu InvestEU a dalších partnerství veřejného a soukromého sektoru, které povzbudí soukromé financování; domnívá se, že je třeba podpořit koordinaci investic soukromého a veřejného sektoru, aby se zajistilo jasné zacílení rozvoje;

26.  zdůrazňuje, že investice do umělé inteligence, které se mohou vyznačovat značnou nejistotou, by měly být doplněny finančními prostředky EU, například od Evropské investiční banky či Evropského investičního fondu, nebo programu InvestEU a Evropského fondu pro strategické investice (EFSI), které mohou pomoci sdílet rizika;

27.  naléhavě žádá Komisi, aby nepovolila financování umělé inteligence, která je vyvíjena pro vojenské účely; naléhavě vyzývá Komisi, aby z financování EU vyloučila společnosti, které zkoumají a rozvíjejí umělé vědomí;

28.  doporučuje Komisi, aby zajistila, aby duševní vlastnictví k výzkumu prováděnému s využitím prostředků EU zůstalo v EU a na evropských univerzitách;

2.3.Inovace a přijetí společností a odpovědnost

29.  konstatuje, že veškeré zásadní technologické výdobytky vyžadovaly přechodné období, neboť většina společnosti jim potřebovala lépe porozumět a integrovat je do svého každodenního života.

30.  konstatuje, že budoucnost této technologie závisí na společenském přijetí a že je třeba klást větší důraz na náležité informování o jejích přínosech, aby se zajistilo lepší pochopení této technologie a jejího využití; rovněž konstatuje, že pokud společnost nebude o technologii umělé inteligence informována, sníží se motivace k inovacím v tomto odvětví;

31.  domnívá se, že přijetí ze strany veřejnosti závisí na tom, jak bude informována o příležitostech, výzvách a vývoji umělé inteligence; doporučuje členským státům a Komisi, aby usnadnily přístup k věrohodným informacím o hlavních obavách ohledně umělé inteligence a robotiky, např. v souvislosti se soukromím, bezpečností a transparentním rozhodováním;

32.  vítá, že k zavádění nových, inovativních nápadů se ve spolupráci s regulačními orgány používají regulační pískoviště, což umožňuje, aby do dotčené technologie byla od začátku zabudována ochranná opatření, která tak usnadní a podpoří její vstup na trh; zdůrazňuje, že k testování bezpečného a účinného používání technologií umělé inteligence v reálném prostředí je nutné zavést regulační pískoviště vytvořená speciálně pro umělou inteligenci;

33.  konstatuje, že k dosažení většího přijetí umělé inteligence ze strany společnosti musí existovat záruky, že používané systémy jsou bezpečné a zabezpečené;

34.  konstatuje, že díky umělé inteligenci a jazykové technologii mohou vznikat důležité aplikace k posílení jedné Evropy v její rozmanitosti: automatizovaný překlad, chatboti a osobní asistenti, rozhraní s mluvenou řečí pro roboty a internet věcí, inteligentní analýza a automatizovaná identifikace propagandy, falešných zpráv a nenávistných výroků na internetu;

2.4.Podpůrné podmínky: konektivita, dostupnost údajů a vysoce výkonná výpočetní technika, cloudová infrastruktura

35.  zdůrazňuje, že k integraci robotiky a technologií umělé inteligence do hospodářství a společnosti je zapotřebí digitální infrastruktura, která zajistí všudypřítomnou konektivitu;

36.  zdůrazňuje, že konektivita je předpokladem pro to, aby se Evropa stala součástí gigabitové společnosti, a že umělá inteligence je jasným příkladem exponenciálního růstu poptávky po vysoce kvalitním, rychlém, bezpečném a všudypřítomném propojení; domnívá se, že Unie a členské státy by měly i nadále podporovat opatření na podnícení investic do sítí s velmi vysokou kapacitou a na jejich přijetí v EU;

37.  zdůrazňuje, že je naprosto nezbytné zajistit rychlý a bezpečný rozvoj sítí 5G, aby Unie mohla plně využívat výhod umělé inteligence a chránit se před kybernetickými hrozbami a tak umožnila obnovu a rozvoj průmyslových odvětví a služeb, které jsou páteří evropského hospodářství, a podpořila vznik nových služeb, výroby a trhů, jež jsou nezbytné pro zachování nových pracovních míst a vysoké úrovně zaměstnanosti;

38.  připomíná, že dostupnost vysoce kvalitních a užitečných dat je zásadním předpokladem pro skutečnou konkurenceschopnost v odvětví umělé inteligence, a vyzývá veřejné orgány, aby našly způsoby, jak vytvářet, sdílet a spravovat data tak, že z dat učiní společný majetek a že současně budou chránit soukromí a citlivé údaje;

39.  zdůrazňuje význam kvalitních údajů používaných pro hluboké učení; konstatuje, že používání nekvalitních, neaktuálních, neúplných nebo nesprávných údajů může vést k chatrným prognózám, a tak k diskriminaci a předpojatosti,

40.  domnívá se, že nový soubor právních předpisů o volném pohybu neosobních údajů v EU umožňuje, aby stále více údajů bylo využíváno pro inovace založené na datech, což malým a středním podnikům a začínajícím podnikům usnadňuje rozvíjet inovativní služby obsahující prvky umělé inteligence a vstupovat na nové trhy a zároveň občanům a podnikům zpřístupňuje lepší produkty a služby;

41.  konstatuje, že umělá inteligence má potenciál ke zvýšení efektivity, komfortu a životních podmínek v mnoha oblastech, pokud etablované zúčastněné strany budou spolupracovat s vývojáři umělé inteligence; dále konstatuje, že v současnosti velký objem dat neosobní povahy vlastní různé zúčastněné strany a že navázáním partnerství lze zvýšit jejich účinnost; domnívá se, že má-li se tohoto cíle dosáhnout, je nezbytnou podmínkou vzájemná spolupráce mezi uživateli a vývojáři umělé inteligence;

42.  zdůrazňuje význam interoperability a správnosti údajů k zajištění vysoké úrovně spolehlivosti nových technologií a příslušných bezpečnostních norem;

43.  domnívá se, že úspěšnost aplikací umělé inteligence, jež jsou přizpůsobovány uživatelům v celé EU, často vyžaduje rozsáhlé znalosti místních trhů a přístup k odpovídajícím místním údajům, které slouží k vytváření zkušebních datových souborů, testování a validaci systémů, zejména v odvětvích souvisejících se zpracováním přirozeného jazyka; žádá členské státy, aby podporovaly dostupnost vysoce kvalitních, interoperabilních a otevřených dat ve vlastnictví veřejného i soukromého sektoru;

44.  zdůrazňuje, že je nutné zajistit maximální soudržnost s politikou EU v oblasti dat velkého objemu;

45.  vítá opatření, jež mají usnadnit a podpořit výměnu a sdílení dat přes hranice;

46.  konstatuje, že sdílení dat v současné době zdaleka nedosahuje svého plného potenciálu a že velké množství dat je využíváno nedostatečně;

47.  shledává, že subjekty nejsou ochotné sdílet svá data, a zdůrazňuje, že je nutné za tímto účelem přijmout podpůrná opatření; konstatuje, že za neschopnost sdílet data ve velké míře může i absence společných norem;

48.  vítá právní předpisy, jako je nařízení o volném toku údajů a oceňuje jeho význam pro účinnější a účelnější postupy v oblastech, jako je umělá inteligence;

49.  uznává, že je třeba zavést větší tržně orientované pobídky, které podpoří přístup k datům a jejich sdílení; konstatuje, že otevřenost dat představuje v první řadě riziko pro investice do dat;

50.  požaduje vyjasnění pravidel o vlastnictví údajů a platných právních rámců; konstatuje, že právní nejistota vedla k přehnaně opatrným reakcím ze strany průmyslu;

51.  zdůrazňuje význam evropských iniciativ v oblasti cloud computingu a vysoce výkonné výpočetní techniky, jež dále posílí rozvoj algoritmů hlubokého učení a zpracovávání dat velkého objemu; je pevně přesvědčen o tom, že pro úspěch a relevantnost těchto iniciativ pro rozvoj umělé inteligence musí být infrastruktura otevřena jak veřejným, tak soukromým subjektům se sídlem v Unii i mimo její území a měla by se řídit co nejméně omezujícími přístupovými kritérii;

52.  vítá zřízení evropského společného podniku pro vysoce výkonnou výpočetní techniku; zdůrazňuje, že superpočítačová a datová infrastruktura má zásadní význam k zajištění konkurenceschopného inovačního ekosystému pro vývoj technologií a aplikací umělé inteligence;

53.  zdůrazňuje, že cloud computing hraje klíčovou roli při podpoře zavádění umělé inteligence; zdůrazňuje, že přístup ke cloudovým službám umožňuje soukromým firmám, veřejným institucím, výzkumným a akademickým institucím a uživatelům rozvíjet a využívat umělou inteligenci efektivním a ekonomicky životaschopným způsobem;

3.Průmyslová politika

54.  připomíná, že ačkoli již v oblasti umělé inteligence a robotiky existují zavedené průmyslové aplikace, pokrok v této oblasti se nezastavil a přináší rozsáhlé a rozmanité způsoby použití ve všech lidských činnostech; domnívá se, že každý regulační rámec musí zahrnovat flexibilitu, která umožňuje inovace a svobodný rozvoj nových technologií a využití umělé inteligence;

55.  zdůrazňuje, že určení rozsahu a aplikací umělé inteligence by mělo být výsledkem procesu projektování, který by se měl řídit potřebami a zásadami, jež berou v úvahu zamýšlený výsledek a nejlepší cestu k jeho dosažení z ekonomického a sociálního hlediska; věří, že jasné politiky ve všech fázích vývoje povedou k zavádění technologií přizpůsobených požadovanému účelu a zajistí pokrytí rizik a nedostatků;

56.  doporučuje, aby se k řešení klíčových výzev, jako je budování datového ekosystému a podpora přístupu k datům, jejich sdílení a toku v souladu s právem osob na ochranu soukromí, využívala a podporovala partnerství veřejného a soukromého sektoru;

57.  zdůrazňuje, že velkou výzvou pro budoucnost systémů umělé inteligence je nerovnoměrná kvalita technologie výroby softwaru, a proto zdůrazňuje, že je nanejvýš zapotřebí standardizovat budování a používání systémů umělé inteligence;

58.  bere na vědomí práci, která probíhá po celém světě, a uvědomuje si, že je třeba s partnery, především v rámci OECD a G20, aktivně spolupracovat na určování směru, jímž se toto odvětví vydá, aby EU zůstala i nadále konkurenceschopná a udržela si rovný přístup mezi všemi národy i co nejširší sdílení přínosů rozvoje umělé inteligence;

59.  se znepokojením konstatuje, že řada neevropských společností a subjektů ze třetích zemí stále více využívá při poskytování služeb prediktivní modely založené na umělé inteligenci, díky čemuž získává na trzích EU, a to především na místní úrovni, přidanou hodnotu a že monitoruje, popřípadě ovlivňuje politické nálady, takže potenciálně ohrožuje technologickou suverenitu občanů Unie;

60.  zdůrazňuje, že veřejná podpora umělé inteligence by se měla soustředit na strategická odvětví, v nichž má průmysl EU největší příležitost hrát celosvětově vedoucí úlohu a která přinášejí přidanou hodnotu ve veřejném zájmu;

3.1.Prioritní odvětví

3.1.1.Veřejný sektor

61.  zdůrazňuje, že umělá inteligence a robotika mohou být velkým přínosem pro veřejný sektor, a vítá větší investice do výzkumu a vývoje, které zajistí jejich rozvoj;

62.  zdůrazňuje, že členské státy by měly investovat také do vzdělávacích programů a programů odborné přípravy zaměřených na umělou inteligenci, aby pomohly zaměstnancům veřejného sektoru obeznámit se s používáním umělé inteligence a robotiky; konstatuje, že by měly být rovněž zahájeny informační kampaně určené pro občany, kteří budou využívat služby veřejného sektoru poskytované systémy umělé inteligence a robotikou, aby se uklidnily jejich obavy ze ztráty kontroly nad osobními údaji a aby byla získána jejich důvěra;

63.  zdůrazňuje, že informace veřejného sektoru představují mimořádný zdroj dat, který může přispět k rychlému pokroku a vytvoření nové strategie pro zavádění moderních digitálních technologií, zejména umělé inteligence;

64.  domnívá se, že zavádění spolehlivé umělé inteligence do veřejného sektoru může významně podpořit reformu veřejné správy, pokud jde o proces rozhodování a zlepšení veřejných služeb, a současně podpořit větší využití umělé inteligence v jiných oblastech;

65.  bere na vědomí využívání robotické automatizace a její dopad na zlepšování postupů ve veřejném sektoru; konstatuje, že tyto procesy jsou interoperabilní se staršími systémy;

66.  žádá členské státy, aby se postavily do čela digitální transformace a staly se hlavními odpovědnými uživateli a kupci technologie umělé inteligence; v této souvislosti zdůrazňuje, že členské státy musí přizpůsobit své politiky v oblasti dat, které se vztahují mimo jiné ke shromažďování, využívání, archivaci nebo anotaci veřejných údajů, aby bylo možné umělou inteligenci používat v celém veřejném sektoru;

67.  zdůrazňuje, že do procesu rozvoje umělé inteligence je třeba zapojit veřejnost; vyzývá proto Komisi, aby zveřejnila veškeré algoritmy, nástroje a technologie financované nebo spolufinancované z veřejných zdrojů jako otevřený zdroj;

68.  domnívá se, že umělá inteligence bude velkým přínosem ve smyslu uplatňování zásady „pouze jednou“, neboť umožní kombinovat databáze a informace z různých zdrojů, čímž usnadní komunikaci občanů s orgány veřejné správy;

69.  vyzývá Komisi, aby zaručila ochranu občanů před jakýmkoli systémem umělé inteligence, s jehož pomocí by orgány veřejné zprávy rozhodovaly o sestavování žebříčků občanů, jako je systém, který se má začít používat v Číně;

3.1.2.Zdraví

70.  zdůrazňuje, že zásadním aspektem péče o lidi je lidský kontakt;

71.  konstatuje, že umělá inteligence a robotika mohou být přínosné pro pečovatelské služby, které jsou zatížené v důsledku zvyšování očekávané délky života, neboť lékaři a sestry by tak měli více času na vysoce hodnotné činnosti (např. komunikaci s pacienty);

72.  bere na vědomí dopad, který má umělá inteligence již nyní na celkové zdraví, prevenci, diagnostiku a výzkum a její velký potenciál pro poskytování péče přizpůsobené konkrétním potřebám pacienta; domnívá se, že to v konečném důsledku vede k udržitelnějšímu a efektivnějšímu ekosystému zdravotní péče založenému na výsledcích;

73.  konstatuje, že při spojení umělé inteligence s diagnostikou prováděnou člověkem je míra chyb obvykle výrazně nižší než u diagnostiky prováděné pouze lékaři(8);

74.  zdůrazňuje, že využívání dat ve zdravotnictví musí být pečlivě a eticky monitorováno a nesmí žádným způsobem bránit přístupu k sociální ochraně nebo pojištění;

75.  domnívá se, že v případě využití umělé inteligence v implantovaných lékařských zařízeních by měl mít jejich nositel právo kontrolovat a upravovat použitý zdrojový kód;

76.  zastává názor, že zvláštní pozornost by se měla věnovat používání dat velkého objemu ve zdravotnictví, aby se maximálně využily jejich potenciální příležitosti – jako zlepšení zdravotního stavu jednotlivých pacientů nebo zkvalitnění systémů zdravotní péče v členských státech –, aniž by se snížily etické standardy a ohrozilo soukromí nebo bezpečnost občanů;

77.  zdůrazňuje však, že stávající systém pro schvalování lékařských zařízení nemusí být vhodný pro technologie umělé inteligence; vyzývá Komisi, aby bedlivě sledovala pokrok těchto technologií a případně navrhla změny regulačního rámce, tak aby určoval odpovědnost uživatele (lékaře / zdravotnického pracovníka), výrobce technického řešení a zdravotnického zařízení, které léčbu poskytuje; poukazuje na to, že právní odpovědnost za škodu má v souvislosti s používáním umělé inteligence ve zdravotnictví ústřední význam; zdůrazňuje, že je proto nutné zajistit, aby se uživatelé necítili povinni podporovat vždy diagnostické řešení či léčbu navrženou technologickým nástrojem z obavy, že by byli žalováni o náhradu škody, pokud by je jejich informovaný odborný úsudek vedl byť jen k částečně odlišným závěrům;

78.  žádá členské státy a Komisi, aby ve veřejném a soukromém sektoru uvolnily více finančních prostředků na technologie umělé inteligence spojené se zdravím; v této souvislosti vítá prohlášení o spolupráci, které podepsalo 24 členských států EU a Norsko, aby na evropské úrovni zvýšily dopad investic do umělé inteligence; vyzývá členské státy a Komisi, aby zvážily, zda je třeba v celoevropském měřítku aktualizovat a standardizovat vzdělávací programy pro lékaře a zdravotnický personál, aby se v členských státech zajistila vysoká úroveň odborných znalostí a rovné podmínky pro znalosti a používání nejvyspělejších technologických nástrojů v robotické chirurgii, biomedicíně a biolékařském zobrazování založeném na umělé inteligenci; vyzývá Komisi, aby pracovala na strategiích a politikách, díky nimž by EU mohla získat vedoucí postavení ve stále významnější oblasti technologií zdravotní péče a které by zároveň zajistily přístup pacientů k bezproblémové a účinné lékařské péči;

79.  vyzývá Komisi, aby vypracovala strategie a politiky, které by EU umožnily stát se celosvětovým lídrem na rostoucím poli technologií zdravotní péče a které by současně zajistily přístup pacientů ke konzistentní a účinné zdravotní péči;

80.  uznává, že lepší diagnostika by mohla zachránit miliony životů, neboť podle Světové zdravotnické organizace je 89 % předčasných úmrtí v Evropě způsobeno nepřenosnými nemocemi;

81.  upozorňuje na přínos umělé inteligence a robotiky pro inovace preventivních, klinických a rehabilitačních postupů a technik ve zdravotnictví, především na jejich přínos pro pacienty se zdravotním postižením;

82.  uznává, že větší využívání senzorů v robotice rozšiřuje rozsah poskytované péče a umožňuje, aby se pacientům v domácím ošetření dostávalo individuálnější péče a služeb na dálku a aby se zároveň generovala smysluplnější data;

83.  shledává, že z průzkumu Eurobarometr z května 2017(9) vyplývá, že občané EU se stále nesmířili s představou, že by roboti byli používáni při každodenní zdravotnické péči; vyzývá Komisi a členské státy, aby vypracovaly strategie a komunikační kampaně na zvýšení povědomí o výhodách každodenního používání robotů; bere na vědomí zejména ambice japonské robotické strategie;

3.1.3.Energetika

84.  konstatuje, že umělá inteligence umožní dodavatelům energie přejít z preventivní na prediktivní údržbu aktiv a dosáhnout účinnější výroby energie, protože zvýší spolehlivost, zejména v případě obnovitelných zdrojů, a umožní určovat nejefektivnější rozmístění nových zařízení, a tím i lepší řízení odezvy na poptávku;

85.  uznává, že přesnější data o potenciálu výroby energie z obnovitelných zdrojů získaná díky umělé inteligenci zvýší investiční jistotu pro podniky i jednotlivce, čímž se urychlí přechod na obnovitelné zdroje energie a přispěje k dlouhodobé strategii Unie pro neutrální hospodářství z hlediska klimatu;

86.  konstatuje, že se již nyní využívají senzorická řešení k řízení spotřeby energie v domácnostech, díky nimž se dosahuje značných energetických a peněžních úspor;

87.  vítá potenciál umělé inteligence při modelování, identifikaci a zmírňování vlivů lidské činnosti na klima; konstatuje, že ačkoli rostoucí digitalizace s sebou přináší nové energetické potřeby, může pomoci zefektivnit energeticky náročná odvětví a lépe porozumět procesům, a tím i přispět k jejich zdokonalení;

88.  zdůrazňuje, že v důsledku větší digitalizace energetiky budou energetické sítě rozsáhlejší a budou více vystaveny kybernetickým hrozbám; vyzývá členské státy a Komisi, aby digitální transformaci energetiky doplnily o opatření na zvýšení kybernetické bezpečnosti, jako je umělá inteligence;

3.1.4.Doprava

89.  vítá schopnost umělé inteligence a robotiky výrazně zlepšit naše dopravní systémy, budou-li zavedeny autonomní vlaky a motorová vozidla; žádá o rozsáhlejší výzkum a investice v této oblasti, aby byl zajištěn její bezpečný a účinný rozvoj; zdůrazňuje obrovské příležitosti jak pro velké technologické společnosti, tak pro MSP;

90.  konstatuje, že díky snížení výskytu lidských selhání v odvětví dopravy může být tento systém případně účinnější, přičemž díky jasnějšímu úsudku a prediktivnímu charakteru této technologie bude docházet k menšímu počtu nehod, ubude zpoždění, jelikož bude možné mapovat provoz a poskytovat služby podle časového plánu, a zvýší se úspory, neboť se sníží množství chyb způsobených řidiči a zjednoduší se interní procesy;

91.  konstatuje, že dominantní výskyt autonomních vozidel v budoucnu představuje riziko z hlediska ochrany údajů a technických poruch a přesune odpovědnost z řidiče na výrobce, a pojišťovny tudíž budou muset změnit způsob, jakým při poskytování pojištění zohledňují riziko;

92.  konstatuje, že v interakci s vozidly a dopravními systémy se stále častěji využívá hlasová komunikace, avšak tyto funkce jsou k dispozici pouze pro několik evropských jazyků, a proto by se mělo zajistit, aby tyto možnosti mohli využívat všichni Evropané v mateřském jazyce;

3.1.5.Zemědělství a potravinový řetězec

93.  konstatuje, že umělá inteligence má potenciál k tomu, aby byla katalyzátorem přelomové transformace stávajícího potravinového systému směrem k různorodějšímu, odolnějšímu, regionálně přizpůsobenému a zdravějšímu modelu pro budoucnost;

94.  konstatuje, že umělá inteligence může sehrát roli v úsilí o pomoc při řešení problémů souvisejících s bezpečností potravin, předpovídání propuknutí hladomorů a potravinových nákaz, omezování potravinových ztrát a plýtvání a zlepšit udržitelné hospodaření s půdou, vodou a dalšími ekologickými zdroji;

95.  zdůrazňuje, že umělá inteligence může zasahovat v kritických bodech hodnotového řetězce potravinového systému od výroby až po spotřebu a posílit naši schopnost zásadně změnit způsoby, jakým vyrábíme, zpracováváme a nakupujeme potraviny, a to prostřednictvím informovanějšího plánování využití půdy;

96.  konstatuje, že umělá inteligence může zlepšit hospodaření se zdroji a účinnost využívání vstupů, pomáhat snižovat množství odpadu po sklizni a ovlivňovat volbu spotřebních produktů;

97.  konstatuje, že umělá inteligence ve formě přesného zemědělství má potenciál k přelomové transformaci zemědělské produkce i obecnějšího hospodaření s půdou, a to lepším plánováním využití půdy, předpovídáním změn ve využívání půdy a sledováním zdraví plodin, a současně má potenciál změnit předvídání extrémních povětrnostních jevů;

98.  konstatuje, že umělá inteligence může radikálně změnit dodávky vstupů, kontrolu škůdců a řízení zemědělských podniků, ovlivnit zemědělské postupy, změnit způsob dodávání pojistných produktů nebo napomáhat předvídání a předcházení budoucím hladomorům a výskytu závažné akutní podvýživy;

99.  konstatuje, že umělá inteligence může umožnit lepší rozhodování o tom, jak řídit zemědělské systémy, a může podpořit vývoj nástrojů na podporu rozhodování a doporučování, a tím zvýšit účinnost a zdraví zemědělských podniků;

3.1.6.Kybernetická bezpečnost

100.  konstatuje, že důležitým aspektem umělé inteligence je kybernetická bezpečnost, zejména vzhledem k nutnému zajištění transparentnosti umělé inteligence na vyšší úrovni; domnívá se, že technologické hledisko, zahrnující mimo jiné kontroly zdrojového kódu, a požadavky na transparentnost a odpovědnost by měl doplňovat institucionální přístup, který bude řešit zavádění umělé inteligence vyvinuté v jiných zemích na jednotný trh EU;

101.  podporuje rychlé zahájení uplatňování aktu o kybernetické bezpečnosti; konstatuje, že rozvoj systémů certifikace EU by měl zajistit odolnější vývoj a zavádění bezpečných systémů umělé inteligence a robotiky;

102.  domnívá se, že umělá inteligence může být zároveň kybernetickou bezpečnostní hrozbou a nástrojem boje proti kybernetickým útokům; domnívá se, že Agentura EU pro bezpečnost sítí a informací (ENISA) by měla připravit akční plán kybernetické bezpečnosti v oblasti umělé inteligence, v němž by mělo být posouzení a řešení hrozeb a nedostatků specifických pro umělou inteligenci;

103.  zdůrazňuje, že je důležité posílit průmyslovou základnu jakožto strategickou součást bezpečného vývoje umělé inteligence; zdůrazňuje, že Evropa musí v zájmu zajištění vysoké úrovně kybernetické bezpečnosti, ochrany údajů a důvěryhodných služeb informačních a komunikačních technologií investovat do své technologické nezávislosti; zdůrazňuje, že je naléhavě zapotřebí, aby EU rozvíjela svou vlastní infrastrukturu, datová centra, cloudové systémy a komponenty, jako jsou grafické procesory a výroba čipů;

104.  konstatuje, že vzhledem k tomu, že se umělá inteligence vyvíjí a hackeři jsou stále důmyslnější, bude nutné připravit spolehlivá řešení v oblasti kybernetické bezpečnosti;

105.  konstatuje, že zavádění řešení umělé inteligence v oblasti kybernetické bezpečnosti umožní předvídání, prevenci a zmírnění hrozeb;

106.  zdůrazňuje, že ačkoli umělá inteligence dokáže lépe pokrýt zjišťování hrozeb, je nutná lidská interpretace těchto hrozeb, aby se zjistilo, zda jsou skutečné či nikoli;

107.  vyzývá Komisi, aby prozkoumala využívání aplikací kybernetické bezpečnosti založených na technologii blockchainu, které zlepšují odolnost, důvěryhodnost a spolehlivost infrastruktury umělé inteligence prostřednictvím modelů šifrování dat bez zprostředkovatelů; vyzývá Komisi, aby zvážila možnost odměňovat občany za jejich data poukázkami;

108.  vyzývá Komisi, aby posílila kapacity EU v oblasti kybernetické bezpečnosti prostřednictvím dalšího propojení a koordinace úsilí v celé Evropě;

3.1.7.Malé a střední podniky (MSP)

109.  uznává význam MSP při zavádění umělé inteligence; vítá iniciativu Komise, jejímž účelem je vytvoření platformy „umělá inteligence na vyžádání“, která podpoří přenos technologií a růst začínajících podniků (startupů) a MSP; vyzývá Komisi, aby podporovala centra pro digitální inovace pro umělou inteligenci, která nepovedou k vytváření dalších administrativních úrovní, nýbrž se zaměří na urychlení investic do projektů, které prokázaly svou účinnost;

110.  konstatuje, že náklady na investice do umělé inteligence znamenají pro vstup MSP velké překážky; uznává, že pokud si spotřebitelé umělou inteligenci osvojí ve velkém, snížilo by se riziko těchto investic pro MSP;

111.  zdůrazňuje, že je nutné podporovat přijetí umělé inteligence ze strany MSP a její využívání spotřebiteli;

112.  zdůrazňuje význam cílených opatření k zajištění toho, aby MSP a startupy byly schopny přecházet na technologie umělé inteligence a využívat jejich výhod; domnívá se, že posouzení dopadů, pokud jde o účinky nových evropských právních předpisů na technologický vývoj v oblasti umělé inteligence, by mělo být povinné a že by se mělo uvažovat o zavedení posouzení dopadů rovněž na vnitrostátní úrovni;

113.  zdůrazňuje, že umělá inteligence může být nástrojem pro MSP, ale zároveň zvyšuje pákový účinek velkých prvních uživatelů a vývojářů; poukazuje proto na skutečnost, že z hlediska hospodářské soutěže je nutné zajistit řádné vyhodnocování a řešení nových narušení;

4.Právní rámec pro umělou inteligenci a robotiku

114.  vyzývá Komisi, aby za účelem podpory regulačního prostředí, které by bylo příznivé pro rozvoj umělé inteligence, a v souladu se zásadou zdokonalení tvorby právních předpisů pravidelně přehodnocovala stávající právní předpisy s cílem zajistit jejich účelnost v souvislosti s umělou inteligencí – a to při současném dodržování základních hodnoty EU – a aby se snažila změnit nebo nahradit nové návrhy v případě, že daný účel nesplňují;

115.  vítá vytvoření participativních platforem využívajících umělou inteligenci, které občanům umožní, aby byli úspěšně vyslyšeni a mohli komunikovat s vládami, jimž budou moci předkládat návrhy, a to i prostřednictvím participativních rozpočtů a dalších nástrojů přímé demokracie; zdůrazňuje, že projekty prováděné zdola nahoru mohou podpořit účast občanů a pomáhat lidem přijímat informovaná rozhodnutí efektivněji a demokratičtěji;

116.  konstatuje, že umělá inteligence je pojem zahrnující širokou škálu produktů a aplikací, od automatizace přes algoritmy až po úzce zaměřenou umělou inteligenci a obecnou umělou inteligenci; domnívá se, že ke komplexnímu předpisu nebo nařízení o umělé inteligenci je nutno přistupovat s opatrností, neboť odvětvová regulace může zajistit dostatečně obecné a zároveň podrobné politiky, pakliže jsou pro průmyslové odvětví smysluplné;

117.  zdůrazňuje, že politický rámec musí být navržen tak, aby podporoval rozvoj všech druhů umělé inteligence, nikoli pouze systémy hlubokého učení, což vyžaduje obrovské množství dat;

4.1.Vnitřní trh pro umělou inteligenci

118.  zdůrazňuje význam zásady vzájemného uznávání při přeshraničním využívání inteligentního zboží, včetně robotů a robotických systémů; připomíná, že pokud je to nutné, testování, certifikace a bezpečnost výrobku by měly zajistit, aby určité zboží bylo bezpečné již od návrhu; v této souvislosti konstatuje, že je rovněž důležité zabývat se etickými aspekty umělé inteligence;

119.  zdůrazňuje, že právní předpisy EU týkající se provádění strategie pro jednotný digitální trh by měly odstranit překážky v zavádění umělé inteligence; žádá Komisi, aby vyhodnotila, kde je nezbytné politické a regulační rámce aktualizovat, a mohla tak vybudovat jednotný evropský trh pro umělou inteligenci;

120.  uznává, že robotika a technologie umělé inteligence jsou stále více používány v autonomních strojích, například v autonomních automobilech a civilních bezpilotních letounech; konstatuje, že některé členské státy již zavádějí nebo zvažují zavedení zvláštních právních předpisů v této oblasti, což by mohlo vést ke směsici vnitrostátních právních předpisů, které budou rozvoj autonomních vozidel brzdit; proto vyzývá k vytvoření jednotného souboru předpisů na úrovni Unie, kterým se zachová rovnováha mezi zájmy a případnými riziky ve vztahu k uživatelům, podnikům a dalším dotčeným stranám a zároveň se tak předejde nadměrné regulaci v oblasti robotiky a systémů umělé inteligence;

121.  naléhavě vyzývá členské státy, aby modernizovaly své systémy odborné přípravy a vzdělávání s cílem zohlednit vědecký pokrok a vývoj v oblasti umělé inteligence v souladu se směrnicí o testu přiměřenosti(10) a směrnicí o uznávání odborných kvalifikací(11) a aby zajistily celosvětovou konkurenceschopnost odborných služeb EU v nadcházejících desetiletích;

122.  zdůrazňuje, že umělá inteligence se dotýká řady odvětví, ve kterých má normalizace zásadní význam, jako jsou inteligentní výrobní systémy, robotika, autonomní automobily, virtuální realita, zdravotní péče a analýza údajů, a domnívá se, že normalizace v oblasti umělé inteligence na úrovni celé EU posílí inovace a zaručí vysokou úroveň ochrany spotřebitelů; uznává, že vzhledem k tomu, že v oblastech, jako je bezpečnost, spolehlivost, interoperabilita a ochrana, existuje značný počet norem, a další podpora a vývoj společných norem v oblasti robotiky a umělé inteligence jsou proto nezbytné a měly by být součástí priorit Unie; vyzývá Komisi, aby spolu s unijními normalizačními orgány a ve spolupráci s mezinárodními normalizačními orgány i nadále aktivně usilovala o zlepšování norem v této oblasti;

123.  připomíná, že na řadu politických aspektů týkajících se služeb obsahujících prvky umělé inteligence, včetně předpisů o ochraně spotřebitelů a politik v oblasti etiky a odpovědnosti, se vztahuje stávající regulační rámec pro služby, zejména směrnice o službách(12), směrnice o odborných kvalifikacích a směrnice o elektronickém obchodu(13); v této souvislosti zdůrazňuje, že konečnou odpovědnost za přijímání rozhodnutí musí vždy nést člověk, zejména pokud jde o odborné služby, jako jsou lékařské, právní a účetní profese; domnívá se, že je třeba zvážit, zda by za účelem ochrany oprávněných cílů veřejného zájmu a poskytování vysoce kvalitních služeb nebyl potřebný dohled kvalifikovaného odborníka;

124.  uznává význam dokonalejších digitálních služeb, jako jsou virtuální asistenti, chatboty a virtuální agenti, které znamenají nebývalé přínosy v oblasti provozní efektivity, a zároveň zcela uznává, že s ohledem na omezenou autonomii umělé inteligence a robotiky je třeba vyvíjet umělou inteligenci zaměřenou na člověka a orientovanou na trh s cílem vydávat lepší a důvěryhodnější rozhodnutí;

4.2.Osobní údaje a soukromí

125.  zdůrazňuje, že je třeba zajistit vysokou úroveň bezpečnosti, ochrany a soukromí údajů používaných ke komunikaci osob s roboty a umělou inteligencí; vyzývá Komisi a členské státy, aby do svých politik týkajících se robotiky a umělé inteligence proto začlenily zásady bezpečnosti a soukromí již od návrhu;

126.  připomíná, že právo na ochranu soukromého života a osobních údajů, jak je zakotveno v článcích 7 a 8 Listiny základních práv a v článku 16 Smlouvy o fungování Evropské unie, se vztahuje na všechny oblasti robotiky a umělé inteligence a že právní rámec Unie pro ochranu údajů musí být v oblasti systémů plně dodržován; zdůrazňuje, že vývojáři v oblasti robotických systémů a umělé inteligence nesou odpovědnost za vývoj produktů tak, aby byly bezpečné, zabezpečené a vhodné pro daný účel a dodržovaly postupy pro zpracování údajů v souladu s platnými právními předpisy, důvěrnost, anonymitu, spravedlivé zacházení a řádný postup;

127.  vyzývá Komisi, aby zaručila, že veškeré právní předpisy Unie týkající se umělé inteligence budou zahrnovat opatření a pravidla odrážející rychlý technologický vývoj v této oblasti, aby tak bylo zajištěno, že právní předpisy Unie nebudou zaostávat za křivkou vývoje a zavádění technologií; zdůrazňuje, že je třeba, aby tyto právní předpisy byly v souladu s pravidly na ochranu soukromí a údajů; vyzývá k tomu, aby byla zrevidována pravidla, zásady a kritéria týkající se používání kamer a čidel u robotů a týkající se umělé inteligence s cílem zajistit, že budou v souladu s unijní právní úpravou ochrany údajů;

128.  vyzývá Komisi k zajištění toho, aby jakýkoli rámec EU pro umělou inteligenci zaručoval ochranu osobních údajů, včetně zásad zákonnosti, korektnosti a transparentnosti, ochranu údajů již ve fázi návrhu a ve standardním nastavení, omezení účelu a minimalizaci údajů v souladu s právními předpisy Unie o ochraně údajů, jakož i zabezpečení, osobní bezpečnost a další základní práva, jako jsou právo na informace a svoboda projevu;

129.  zdůrazňuje, že právo na soukromí musí být vždy dodržováno a jednotlivci nesmějí být osobně identifikovatelní; podtrhuje, že vývojář umělé inteligence by měl vždy mít jasný, jednoznačný a informovaný souhlas a že vývojáři navrhující systémy umělé inteligence nesou odpovědnost za vývoj a dodržování postupů pro platný souhlas, důvěrnost, anonymitu, spravedlivé zacházení a řádný postup; zdůrazňuje, že vývojáři musí vyhovět veškerým žádostem o to, aby byly příslušné údaje smazány a odstraněny ze všech souborů dat;

130.  připomíná, že nařízení Evropského parlamentu a Rady (EU) 2018/1807 ze dne 14. listopadu 2018 o rámci pro volný tok neosobních údajů v Evropské unii(14) stanoví, že pokud technologický rozvoj umožňuje konvertovat anonymizované údaje na údaje osobní, má se s takovými anonymizovanými údaji zacházet jako s osobními údaji a má se na ně náležitým způsobem uplatnit obecné nařízení o ochraně osobních údajů(15);

4.3.Odpovědnost

131.  vítá iniciativu Komise spočívající ve vytvoření skupiny odborníků pro odpovědnost a nové technologie s cílem poskytnout EU odborné znalosti o použitelnosti směrnice o odpovědnosti za výrobky(16) na tradiční produkty, nové technologie a nové společenské výzvy (sestava pro směrnici o odpovědnosti za výrobky) a pomáhat EU při vytváření zásad, které mohou sloužit jako vodítko pro možná přizpůsobení platných právních předpisů na úrovni EU a na vnitrostátní úrovni novým technologiím (sestava pro nové technologie);

132.  lituje však, že během současného volebního období nebyl předložen žádný legislativní návrh, čímž se oddálila aktualizace pravidel odpovědnosti na úrovni EU a byla ohrožena právní jistota v celé EU v této oblasti jak pro obchodníky, tak pro spotřebitele;

133.  konstatuje, že inženýři v oblasti umělé inteligence nebo společnosti, které je zaměstnávají, by měli i nadále nést odpovědnost za sociální a environmentální dopady a za dopady na lidské zdraví, které systémy umělé inteligence nebo robotika mohou mít na současné i budoucí generace;

4.4.Ochrana spotřebitele a posílení jeho postavení

134.  zdůrazňuje, že důvěra spotřebitelů je pro rozvoj umělé inteligence zásadní a že systémy založené na umělé inteligenci zpracovávají stále více údajů spotřebitelů, a proto se stávají privilegovanými cíli kybernetických útoků; rovněž zdůrazňuje skutečnost, že umělá inteligence musí fungovat tak, aby nepoškozovala občany a spotřebitele, a domnívá se, že je proto nutné zabezpečit integritu údajů a algoritmů, na nichž je umělá inteligence založena;

135.  domnívá se, že na technologie umělé inteligence vyvinuté jak pro výrobu, tak pro osobní použití by se měly vztahovat kontroly bezpečnosti výrobků, které provádějí orgány dozoru nad trhem, a předpisy na ochranu spotřebitelů, které v případě potřeby zajistí minimální normy bezpečnosti a prevenci rizika nehod vyplývajícího z interakce s člověkem nebo práce v blízkosti lidí; domnívá se, že by se každá politika v oblasti umělé inteligence měla zabývat etickými otázkami a otázkami ochrany údajů, včetně údajů třetích stran a osobních údajů, občanskoprávní odpovědností a kybernetickou bezpečností;

4.5.Práva duševního vlastnictví

136.  připomíná své výše uvedené usnesení ze dne 16. února 2017, v němž uvádí, že ačkoli neexistují žádná právní ustanovení, která by se specificky týkala robotiky, lze na robotiku snadno uplatnit stávající právní režimy a doktríny, ačkoli některým aspektům bude pravděpodobně třeba věnovat zvláštní pozornost; znovu připomíná, že ve zmíněném usnesení vyzval Komisi, aby podporovala horizontální, technologicky neutrální přístup k duševnímu vlastnictví, který by se vztahoval na různá odvětví, v nichž by mohla být robotika uplatněna;

137.  v tomto ohledu vítá sdělení Komise určené orgánům EU o pokynech k některým aspektům směrnice Evropského parlamentu a Rady 2004/48/ES o dodržování práv duševního vlastnictví(17) (COM(2017)0708), avšak zdůrazňuje, že význam a účinnost pravidel týkajících se práv duševního vlastnictví, jimiž se má řídit rozvoj umělé inteligence, je třeba sledovat; v této souvislosti zdůrazňuje význam kontrol účelnosti;

5.Etická hlediska

138.  domnívá se, že činnosti a aplikace umělé inteligence musí být v souladu s etickými zásadami a příslušnými vnitrostátními, unijními a mezinárodními právními předpisy;

139.  požaduje vytvoření etické charty osvědčených postupů pro umělou inteligenci a robotiku, kterou by se společnosti a odborníci měli řídit;

140.  vyzývá Komisi a členské státy, aby prosazovaly rozsáhlou a transparentní spolupráci mezi veřejným a soukromým sektorem a akademickou obcí, což by posílilo sdílení znalostí, a aby podporovaly vzdělávání a odbornou přípravu konstruktérů v oblasti etických důsledků, bezpečnosti a dodržování základních práv, ale také vzdělávání spotřebitelů zaměřené na použití robotiky a umělé inteligence, a to se zvláštním důrazem na bezpečnost a ochranu údajů;

141.  vyzývá Komisi, aby zajistila, že aplikace na bázi umělé inteligence nebudou používat data shromážděná z různých zdrojů bez předchozího výslovného souhlasu subjektů údajů; vyzývá Komisi, aby vytvořila rámec, který zajistí, že výslovný souhlas udělený subjektem údajů bude generovat data pouze pro zamýšlené účely;

142.  vyzývá Komisi, aby respektovala právo občanů na život v režimu offline a aby zajistila, že občané nebudou diskriminováni za to, že o nich nejsou zaznamenána žádná data;

5.1.Technologie zaměřená na člověka

143.  zdůrazňuje, že je třeba zavést etická pravidla, která zajistí rozvoj umělé inteligence zaměřený na člověka, odpovědnost a transparentnost rozhodovacích systémů založených na algoritmech, jasná pravidla odpovědnosti a spravedlnost;

144.  vítá iniciativu Komise spočívající ve vytvoření skupiny odborníků na vysoké úrovni pro umělou inteligenci a sítě Evropské aliance pro umělou inteligenci s cílem vypracovat etické pokyny pro umělou inteligenci; žádá Komisi, aby zajistila co nejširší přijetí těchto etických pokynů ze strany dotčených odvětví, akademické obce a veřejných orgánů; doporučuje, aby členské státy začlenily tyto zásady do svých vnitrostátních strategií v oblasti umělé inteligence, a aby vytvořily pro průmyslová odvětví a vlády struktury reálné odpovědnosti, které bude třeba uplatňovat při navrhování a zavádění umělé inteligence;

145.  domnívá se, že je nezbytné průběžně sledovat zavádění etických pokynů pro umělou inteligenci a jejich vliv na vývoj umělé inteligence zaměřené na člověka; vyzývá Komisi, aby posoudila, zda dobrovolné etické pokyny postačují k zajištění inkluzivního zavádění umělé inteligence zohledňujícího etické zásady, které nevytváří hospodářské a sociální rozdíly ve společnostech EU, a aby v případě potřeby navrhla regulační a politická opatření;

146.  konstatuje, že v nedávné době došlo ke změnám ve sledování a přizpůsobování na základě analýz chování; vyzývá Komisi, aby vypracovala etický rámec, který omezí jejich využívání; naléhavě žádá Komisi, aby připravila a zahájila osvětovou kampaň a informační kampaň o umělé inteligenci a jejím využívání v oblasti analýz chování;

5.2.Hodnoty jako součást technologie – důraz na etiku již od návrhu („ethical-by-design“)

147.  zdůrazňuje, že tento etický rámec by měl vycházet ze zásad prospěšnosti, neškodlivosti, autonomie a spravedlnosti, z principů a hodnot zakotvených v článku 2 Smlouvy o Evropské unii a v Listině základních práv, jimiž jsou lidská důstojnost, rovnost, spravedlnost a rovnoprávnost, nediskriminace, informovaný souhlas, soukromý a rodinný život a ochrana dat, jakož i z dalších základních principů a hodnot práva Unie, jako jsou zákaz stigmatizace, transparentnost, autonomie, osobní odpovědnost a sociální odpovědnost, a ze stávajících etických postupů a norem;

148.  domnívá se, že Evropa by měla získat vedoucí světové postavení s využitím pouze takové umělé inteligence, která zohledňuje etické zásady; zdůrazňuje, že k dosažení tohoto cíle je třeba zajistit etickou správu aplikací umělé inteligence na různých úrovních; doporučuje, aby členské státy zřídily subjekty pro monitorování a dohled nad etikou v oblasti umělé inteligence a podněcovaly společnosti rozvíjející umělou inteligenci k zakládání etických rad a vypracovávání etických pokynů pro své vývojáře umělé inteligence;

149.  zdůrazňuje, že evropské normy pro umělou inteligenci musí být založeny na zásadách digitální etiky, lidské důstojnosti, dodržování základních práv, ochrany údajů a bezpečnosti, aby tak přispívaly k budování důvěry mezi uživateli; zdůrazňuje, že je důležité využít potenciál EU k vytvoření silné infrastruktury pro systémy umělé inteligence založené na vysoké úrovni ochrany údajů a respektu vůči člověku; konstatuje, že součástí rozvoje umělé inteligence musí být transparentnost a srozumitelnost;

150.  konstatuje, že automatizované zbraňové systémy by měly nadále využívat umělou inteligenci na základě přístupu „human-in-command“ (člověk ve velení);

5.3.Rozhodování – omezení autonomie umělé inteligence a robotiky

151.  zdůrazňuje, že je obtížné a složité předpovědět budoucí chování mnoha složitých systémů umělé inteligence a nových vzorců chování vzájemně reagujících systémů umělé inteligence; žádá Komisi, aby vyhodnotila, zda je zapotřebí přijmout zvláštní předpisy týkající se rozhodování na bázi umělé inteligence;

152.  konstatuje, že umělá inteligence bude i nadále užitečným nástrojem spolupráce v oblasti lidské činnosti za účelem zlepšování výsledků a snižování počtu chyb;

153.  požaduje, aby lidé měli právo na informace, na odvolání a na odškodnění, je-li umělá inteligence použita pro provedení rozhodnutí, jež mají vliv na jednotlivce a představují závažné ohrožení práv nebo svobody jednotlivce nebo mohou způsobit újmu;

154.  zdůrazňuje, že algoritmy používané v rozhodovacích systémech by neměly být používány bez předchozího posouzení dopadů algoritmů, není-li zřejmé, že nemají žádný významný dopad na životy jednotlivců;

155.  domnívá se, že umělá inteligence, zejména pokud jde o autonomní systémy, včetně schopnosti nezávisle získávat, shromažďovat a sdílet citlivé informace s různými zúčastněnými stranami s možností samostatného učení nebo dokonce vlastních úprav, by měla být předmětem solidních zásad; zdůrazňuje, že systémy umělé inteligence nesmí uchovávat ani zveřejňovat osobní důvěrné informace bez výslovného souhlasu zdroje těchto informací;

5.4.Transparentnost, neobjektivnost a vysvětlitelnost algoritmů

156.  poukazuje na to, že umělá inteligence je sice velice přínosná pro automatizaci a rozhodování, ale také s sebou nese určité riziko, pokud jsou algoritmy statické a nejasné; v této souvislosti zdůrazňuje, že v otázce algoritmů je zapotřebí větší transparentnosti;

157.  vyzývá Komisi, členské státy a orgány pro ochranu údajů, aby vymezily a přijaly veškerá možná opatření, a co nejvíce tak omezily diskriminaci, k níž dochází prostřednictvím algoritmů, jakož i neobjektivnost, a předcházely jim, a aby vyvinuly pevný společný etický rámec pro transparentní zpracování osobních údajů a automatizované rozhodování, který by mohl sloužit jako vodítko pro využívání dat a prosazování právních předpisů Unie;

158.  zdůrazňuje, že všechny systémy umělé inteligence musí být vyvíjeny s ohledem na zásady transparentnosti a „algoritmické odpovědnosti“ umožňující člověku, aby pochopil jejich kroky; konstatuje, že v zájmu budování důvěry a umožnění pokroku umělé inteligence musí být uživatelé informováni o tom, jak jsou jejich i jiné a odvozené údaje využívány, a o tom, kdy komunikují nebo jednají se systémem umělé inteligence a kdy s člověkem, jenž využívá podpory umělé inteligence; je přesvědčen, že to přispěje k lepšímu porozumění a důvěře mezi uživateli; zdůrazňuje, že vysvětlitelnost rozhodnutí musí být standardem EU v souladu s články 13, 14 a 15 obecného nařízení o ochraně osobních údajů; připomíná, že obecné nařízení o ochraně osobních údajů již stanoví právo být informován o postupu, jakým se údaje zpracovávají; zdůrazňuje, že podle článku 22 uvedeného nařízení mají jednotlivci právo na lidský zásah, pokud se jich rozhodnutí založené na automatizovaném zpracování významně dotýká;

159.  zdůrazňuje, že Komise, Evropská rada pro ochranu údajů, vnitrostátní úřady pro ochranu údajů a další nezávislé orgány dohledu by tudíž měly hrát zásadní úlohu s cílem prosazovat transparentnost, náležité zpracování, právní jistotu obecně a specifičtěji pak konkrétní standardy chránící základní práva a záruky související s využíváním zpracování a analýz údajů; vyzývá k užší spolupráci mezi orgány pověřenými dohledem nebo regulací chování v digitálním prostředí; vyzývá k přiměřenému financování a personálnímu obsazení těchto orgánů;

160.  uznává, že algoritmy strojového učení jsou vytvářeny tak, aby se učily samy, což je přínosné pro automatizaci a rozhodování; požaduje, aby pokyny týkající se etiky umělé inteligence řešily otázky algoritmické transparentnosti, srozumitelnosti, odpovědnosti a spravedlnosti;

161.  zdůrazňuje, že je důležité, aby byly výstupy, procesy a hodnoty systémů umělé inteligence vysvětlitelné a tím pádem srozumitelné pro netechnické publikum, kterému by měly poskytovat smysluplné informace, což je nezbytné k hodnocení spravedlnosti a získání důvěry;

162.  upozorňuje na to, že v souvislosti s těmito technologiemi a jejich využitím vzbuzuje nedostatečná transparentnost řadu etických otázek;

163.  konstatuje, že by mělo být možné vysvětlit systémy umělé inteligence lidem a že tyto systémy by měly poskytovat smysluplné informace umožňující zpětnou vazbu; uznává, že síla modelů umělé inteligence závisí na zpětné vazbě a přehodnocování a tento proces podporuje;

164.  konstatuje, že občané jsou znepokojeni, pokud nevědí, kdy se umělá inteligence používá a jaké informace budou zpracovávány; doporučuje jasné zveřejňování informací v případech, kdy občané používají umělou inteligenci; zdůrazňuje, že pro zachování důvěry spotřebitelů je důležité, aby přenášená data byla stále zabezpečená;

165.  domnívá se, že odpovědnost za algoritmy by měli regulovat tvůrci politik prostřednictvím posuzování dopadů založeného na stanovených parametrech;

166.  konstatuje, že zveřejnění počítačového kódu samo o sobě nevyřeší otázku transparentnosti umělé inteligence, protože neodhalí nutná existující zkreslení a nevysvětlí proces strojového učení; zdůrazňuje, že transparentností se nemíní jen transparentnost kódu, ale také údajů a automatizovaného rozhodování;

167.  bere na vědomí, že zveřejnění zdrojového kódu by mohlo vést ke zneužití a manipulaci s algoritmy;

168.  zdůrazňuje, že je důležité řešit „neobjektivnost vývojáře“, a tedy potřebu rozmanité pracovní síly ve všech oblastech odvětví informačních technologií, jakož i ochranné mechanismy, aby se zabránilo neobjektivnosti na základě pohlaví a věku v systémech umělé inteligence;

169.  uznává, že zveřejnění kódu nebo obchodních tajemství by rovněž odradilo společnosti od výzkumu a vývoje nového kódu, neboť by bylo ohroženo jejich duševní vlastnictví; konstatuje, že vývoj umělé inteligence by měl namísto toho podporovat interpretovatelnost modelů a jejich vzájemnou interakci se vstupními a modelovými daty;

170.  uznává, že transparentnost a srozumitelnost mohou umožnit zjištění nedostatků, nezaručují však spolehlivost, bezpečnost a spravedlnost; domnívá se proto, že nutným prvkem úsilí o dosažení důvěryhodné umělé inteligence je odpovědnost, neboť důvěryhodné umělé inteligence lze dosáhnout různými prostředky, například na základě posouzení dopadů algoritmů, kontrol a certifikací;

171.  zdůrazňuje, že je zapotřebí vytvořit protokoly pro průběžné monitorování a zjišťování algoritmického zkreslení;

172.  poukazuje na to, že tvůrci algoritmů by měli zajistit, aby základní požadavky, jako je spravedlnost a srozumitelnost, byly dodržovány již od počátku fáze návrhu a po celou dobu vývoje;

173.  zdůrazňuje, že jsou zapotřebí pokyny popisující osvědčené postupy v oblasti vývoje;

174.  zdůrazňuje, že pro sledování historie modelu umělé inteligence je důležité zobrazovat počet řádků; domnívá se, že se tím zlepší pochopení modelů a na základě jejich historie se napomůže k nastolení důvěry;

175.  zdůrazňuje, že použití systémů umělé inteligence musí být při styku s uživateli jasně konstatováno;

176.  zdůrazňuje, že šíření umělé inteligence a robotiky by mělo probíhat při plném respektování lidských práv a stroje a roboti nesmí v žádném případě opakovat stereotypy namířené proti ženám ani uplatňovat jiné formy diskriminace;

177.  poukazuje na to, že i kvalitní modelová data mohou vést k přetrvávající diskriminaci a nespravedlnosti, pokud nejsou použita opatrně a svědomitě; konstatuje, že používání nekvalitních, neaktuálních, neúplných nebo nesprávných dat v různých fázích jejich zpracování může vést ke špatným prognózám a hodnocením a tedy i k předpojatosti, což může být v konečném důsledku příčinou porušování základních práv jednotlivců nebo čistě chybných závěrů nebo nesprávných výsledků; domnívá se proto, že v době dat velkého objemu je důležité zajistit, aby algoritmy byly připravovány na reprezentativních vzorcích vysoce kvalitních dat, a bylo tak dosaženo statistické parity; zdůrazňuje, že i když se používají přesná a vysoce kvalitní data, může prediktivní analýza založená na umělé inteligenci nabídnout pouze statistickou pravděpodobnost; připomíná, že v rámci obecného nařízení o ochraně osobních údajů může mít další zpracování osobních údajů pro statistické účely, včetně přípravy umělé inteligence, za výsledek pouze souhrnné údaje, které nelze znovu uplatnit na jednotlivce;

178.  vyzývá Komisi, aby zajistila, že každý, kdo vytváří vykonstruované materiály nebo umělá videa či jakékoli jiné realistické videomontáže, bude muset výslovně uvést, že nejsou skutečné;

179.  konstatuje, že umělá inteligence již ze své podstaty vychází ze shromažďování velkého množství dat a často i z vytváření nových databází, které se používají k vytváření předpokladů o lidech; domnívá se, že je třeba zaměřit se na definování a zřízení mechanismů reakce na potenciální hrozby, které zajistí zmírnění negativních účinků;

180.  znovu opakuje, že systémy umělé inteligence by neměly vytvářet nebo posilovat předsudky; zdůrazňuje, že při vývoji a používání algoritmů musí být ve všech fázích, tedy od návrhu až po realizaci, zohledněny faktory týkající se předsudků a spravedlnosti; podtrhuje, že soubory dat a algoritmy musí být posuzovány a pravidelně testovány, aby bylo zajištěno pečlivé rozhodování;

6.Správa

6.1.Koordinace na úrovni Unie

181.  vyzývá Komisi, aby usilovala o dosažení silného vedoucího postavení EU, které by zabránilo zdvojování a tříštění úsilí a zajistilo soudržné politiky na vnitrostátní úrovni a výměnu osvědčených postupů za účelem širšího využívání umělé inteligence;

182.  vítá různé vnitrostátní strategie rozvíjené členskými státy; vítá koordinovaný plán v oblasti umělé inteligence, který dne 7. prosince 2018 zveřejnila Komise; vyzývá k lepší spolupráci mezi členskými státy a Komisí v tomto ohledu;

183.  konstatuje, že řada členských států již má své vlastní vnitrostátní strategie v oblasti umělé inteligence, a vítá skutečnost, že všechny členské státy podepsaly v dubnu 2018 prohlášení o spolupráci v oblasti umělé inteligence; vítá také chystaný plán v oblasti umělé inteligence, jehož příprava je koordinována mezi Komisí a členskými státy, vyzývá však všechny zúčastněné strany, aby usilovaly o co nejvyšší úroveň spolupráce;

184.  je přesvědčen, že je nezbytné prohloubení spolupráce mezi členskými státy a Komisí, aby byla v Unii zaručena koherentní přeshraniční pravidla, která budou napomáhat spolupráci mezi evropskými průmyslovými odvětvími a která umožní, aby bylo v celé Unii možné používat umělou inteligenci, která bude splňovat požadované bezpečnostní normy a bude v souladu s etickými zásadami zakotvenými v právu Unie;

185.  zdůrazňuje, že harmonizovaný a progresivní rámec politiky EU v oblasti dat založený na posuzování rizik by zvýšil důvěru a podpořil rozvoj umělé inteligence v Evropě, a tím zajistil dokončení jednotného digitálního trhu a zvýšení produktivity podniků sídlících v Evropě;

186.  doporučuje, aby stávající i budoucí iniciativy v oblasti umělé inteligence a pilotní projekty, které Komise provádí, byly úzce koordinovány, pokud možno pod kontrolou navrhovaného mechanismu dohledu, aby tak bylo dosaženo synergických účinků a zajistila se skutečná přidaná hodnota a současně se zabránilo nákladným zdvojeným strukturám;

187.  vyzývá Komisi a členské státy, aby zvážily vytvoření evropské regulační agentury pro umělou inteligenci a algoritmické rozhodování, jejímž úkolem bude:

188.  bere na vědomí stávající práci Mezinárodní organizace pro normalizaci (ISO) v oblasti umělé inteligence a naléhavě žádá členské státy, aby činnost svých členů organizace ISO koordinovaly, a zajistily tak, aby při vypracovávání norem v této oblasti byly náležitě zastoupeny evropské zájmy;

6.2.Mezinárodní správa

189.  vítá vytvoření Střediska pro sledování politiky v oblasti umělé inteligence (AI Policy Observatory) Organizace pro hospodářskou spolupráci a rozvoj (OECD) a vyzývá k ambicióznějšímu vytváření plánu na větší spolupráci;

190.  poukazuje na rozvoj různých modelů v třetích zemích, obzvláště v USA, Číně, Rusku a Izraeli, a zdůrazňuje přístup založený na hodnotách, který se uplatňuje v Evropě, a potřebu spolupracovat s mezinárodními partnery v bilaterálním a multilaterálním prostředí za účelem etického pokroku a zavádění umělé inteligence; uznává, že tato technologie nemá hranice a že vyžaduje spolupráci nad rámec pouhých členských států EU;

191.  vyzývá Komisi, aby působila na mezinárodní úrovni s cílem zajistit co největší soulad mezi mezinárodními aktéry a v celosvětovém měřítku prosazovala etické zásady EU;

192.  zdůrazňuje, že umělá inteligence je technologie s celosvětovým dopadem, která přináší společné výhody a vyvolává podobné problémy; poukazuje na to, že stejně jako v případě ekonomického systému je obzvláště u technologie, která má významný dopad na trhy, nutný globální přístup; zdůrazňuje, že je zapotřebí, aby byla umělá inteligence zařazena na program stávajících institucí a organizací, a vyzývá k posouzení případné potřeby vytvořit další fóra;

o
o   o

193.  pověřuje svého předsedu, aby předal toto usnesení Radě a Komisi.

(1) Úř. věst. C 252, 18.7.2018, s. 239. (2) Úř. věst. C 307, 30.8.2018, s. 163. (3) Přijaté texty, P8_TA(2018)0341. (4) Přijaté texty, P8_TA(2018)0332. (5) Úř. věst. L 252, 8.10.2018, s. 1. (6) COM(2018)0237. (7) Future and Emerging Technologies (Budoucí a vznikající technologie) (8) OECD Digital Economy Outlook 2017 (Perspektivy digitální ekonomiky). (9) Zvláštní vydání Eurobarometru č. 460. (10) Směrnice Evropského parlamentu a Rady (EU) 2018/958 ze dne 28. června 2018 o testu přiměřenosti před přijetím nové právní úpravy povolání, Úř. věst. L 173, 9.7.2018, s. 25. (11) Směrnice Evropského parlamentu a Rady 2013/55/EU ze dne 20. listopadu 2013, kterou se mění směrnice 2005/36/ES o uznávání odborných kvalifikací a nařízení (EU) č. 1024/2012 o správní spolupráci prostřednictvím systému pro výměnu informací o vnitřním trhu („nařízení o systému IMI“), Úř. věst. L 354, 28.12.2013, s. 132. (12) Směrnice Evropského parlamentu a Rady 2006/123/ES ze dne 12. prosince 2006 o službách na vnitřním trhu, Úř. věst. L 376, 27.12.2006, s. 36. (13) Směrnice Evropského parlamentu a Rady 2000/31/ES ze dne 8. června 2000 o některých právních aspektech služeb informační společnosti, zejména elektronického obchodu, na vnitřním trhu („směrnice o elektronickém obchodu“), Úř. věst. L 178, 17.7.2000, s. 1. (14) Úř. věst. L 303, 28.11.2018, s. 59. (15) Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1). (16) Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky, Úř. věst. L 210, 7.8.1985, s. 29. (17) Úř. věst. L 195, 2.6.2004, s. 16.