Evropský parlament,

–  s ohledem na Listinu základních práv Evropské unie (dále jen „Listina“),

–  s ohledem na články 165, 166 a 167 Smlouvy o fungování Evropské unie,

–   s ohledem na závěry Rady ze dne 9. června 2020 o utváření digitální budoucnosti Evropy(1),

–   s ohledem na stanovisko Evropského hospodářského a sociálního výboru ze dne 19. září 2018 k propasti v digitálních dovednostech žen a mužů(2),

–   s ohledem na návrh nařízení Evropského parlamentu a Rady ze dne 6. června 2018, kterým se zavádí program Digitální Evropa na období 2021–2027 (COM(2018)0434),

–   s ohledem na sdělení Komise ze dne 30. září 2020 o akčním plánu digitálního vzdělávání na období 2021–2027: Nová podoba vzdělávání a odborné přípravy pro digitální věk (COM(2020)0624),

–   s ohledem na sdělení Komise ze dne 30. září 2020 o vytvoření Evropského prostoru vzdělávání do roku 2025 (COM(2020)0625),

–  s ohledem na zprávu Komise ze dne 19. února 2020 o dopadech umělé inteligence, internetu věcí a robotiky na bezpečnost a odpovědnost (COM(2020)0064),

–  s ohledem na bílou knihu Komise ze dne 19. února 2020 s názvem „O umělé inteligenci – evropský přístup k excelenci a důvěře“ (COM(2020)0065),

–  s ohledem na sdělení Komise ze dne 19. února 2020 s názvem „Evropská strategie pro data“ (COM(2020)0066),

–  s ohledem na sdělení Komise ze dne 25. dubna 2018 s názvem „Umělá inteligence pro Evropu“ (COM(2018)0237),

–  s ohledem na sdělení Komise ze dne 17. ledna 2018 o akčním plánu digitálního vzdělávání (COM(2018)0022),

–   s ohledem na zprávu odborné skupiny na vysoké úrovni pro umělou inteligenci působící v rámci Komise ze dne 8. dubna 2019 s názvem „Etické pokyny pro důvěryhodnou umělou inteligenci“,

–  s ohledem na své usnesení ze dne 12. února 2019 o komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky(3),

–  s ohledem na své usnesení ze dne 11. září 2018 o jazykové rovnosti v digitálním věku(4),

–   s ohledem na své usnesení ze dne 12. června 2018 o modernizaci vzdělávání v EU(5),

–  s ohledem na své usnesení ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku(6),

–  s ohledem na své usnesení ze dne 1. června 2017 o digitalizaci evropského průmyslu(7),

–   s ohledem na přehled informací poskytnutý tematickou sekcí Strukturální politika a politika soudržnosti v květnu 2020 o využívání umělé inteligence v kulturním a tvůrčím odvětví,

–   s ohledem na důkladnou analýzu využívání umělé inteligence v kulturním a tvůrčím odvětví, kterou v květnu 2020 provedla tematická sekce Strukturální politika a politika soudržnosti,

–   s ohledem na studii „Vzdělávání a zaměstnanost žen v oblasti vědy, techniky a digitální ekonomiky, včetně umělé inteligence a jejích dopadů na rovnost žen a mužů“, kterou v dubnu provedla tematická sekce Občanská práva a ústavní záležitosti,

–  s ohledem na článek 54 jednacího řádu,

–  s ohledem na stanovisko Výboru pro občanské svobody, spravedlnost a vnitřní věci, Výboru pro vnitřní trh a ochranu spotřebitelů, Výboru pro právní záležitosti a Výboru pro práva žen a rovnost pohlaví,

–  s ohledem na zprávu Výboru pro kulturu a vzdělávání (A9-0127/2021),

A.  vzhledem k tomu, že technologie v oblasti umělé inteligence, které mohou mít přímý dopad na naši společnost, se rozvíjejí rychlým tempem a že se čím dál více využívají téměř ve všech oblastech našeho života, mimo jiné v oblasti vzdělávání a kultury a v audiovizuálním odvětví; vzhledem k tomu, že umělá inteligence pravděpodobně pomůže zvýšit produktivitu práce a urychlit hospodářský růst;

B.  vzhledem k tomu, že vývoj, zavádění a používání umělé inteligence, včetně softwaru, algoritmů a dat, které umělá inteligence používá či generuje, by se měly řídit etickými zásadami transparentnosti, vysvětlitelnosti, spravedlnosti a odpovědnosti;

C.  vzhledem k tomu, že veřejné investice do umělé inteligence v Unii výrazně zaostávají za jinými velkými ekonomikami; vzhledem k tomu, že nedostatečné investice do umělé inteligence budou mít pravděpodobně dopad na konkurenceschopnost Unie ve všech odvětvích;

D.  vzhledem k tomu, že pro rozvoj etické umělé inteligence je nezbytný integrovaný přístup k umělé inteligenci a dostupnost, sběr a interpretace kvalitních, důvěryhodných, spravedlivých, transparentních, spolehlivých, bezpečných a kompatibilních dat;

E.  vzhledem k tomu, že článek 21 Listiny zakazuje diskriminaci na základě široké škály důvodů; vzhledem k tomu, že při vývoji, zavádění a používání systémů umělé inteligence by nemělo docházet k reprodukci těchto různých forem diskriminace;

F.  vzhledem k tomu, že rovnost žen a mužů je základní zásadou Unie zakotvenou ve Smlouvách a měla by se projevit ve všech oblastech její politiky, mj. v oblasti vzdělávání a kultury a v audiovizuálním odvětví, stejně jako při vývoji technologií, jako je umělá inteligence;

G.  vzhledem k tomu, že zkušenosti z minulosti (zejména v technických oblastech) ukazují, že vývoj a inovace často vycházejí převážně z údajů o mužích a neodrážejí plně potřeby žen; vzhledem k tomu, že odstraňování této předpojatosti vyžaduje větší ostražitost, technická řešení a vypracování jasných požadavků na spravedlnost, odpovědnost a transparentnost;

H.  vzhledem k tomu, že neúplné a nepřesné soubory údajů, chybějící údaje roztříděné podle pohlaví a nesprávné algoritmy mohou narušit zpracování údajů v systému umělé inteligence a ohrozit dosažení rovnosti mezi ženami a muži ve společnosti; vzhledem k tomu, že údaje o znevýhodněných skupinách a vzájemně se ovlivňujících formách diskriminace jsou často neúplné, nebo dokonce chybějí;

I.  vzhledem k tomu, že nerovnost mezi ženami a muži, stereotypy a diskriminace mohou rovněž vznikat a být reprodukovány prostřednictvím jazyka a vyobrazení šířených médii a aplikacemi, které umělou inteligenci využívají; vzhledem k tomu, že vzdělávání, kulturní programy a audiovizuální obsah mají značný vliv na formování názorů a hodnot jednotlivců a jsou základním nástrojem v boji proti genderovým stereotypům, při zmenšování propastných rozdílů mezi ženami a muži v digitální oblasti a při utváření pozitivních vzorů; vzhledem k tomu, že před zavedením automatizovaných řešení pro tato klíčová odvětví společnosti musí být vytvořen etický a regulační rámec;

J.  vzhledem k tomu, že věda a inovace mohou přinést významné výhody, zejména pro ty, kdo nejvíce zaostávají, jako jsou ženy a dívky žijící v odlehlých oblastech; vzhledem k tomu, že vzdělávání v oblasti přírodních věd je důležité pro získání dovedností, důstojné práce a pracovních míst budoucnosti a pro nabourání genderových stereotypů, které je považují za obvykle mužské oblasti; vzhledem k tomu, že věda a vědecké myšlení mají pro demokratickou kulturu, která je zase velmi významná z hlediska prosazování rovnosti žen a mužů, zásadní význam;

K.  vzhledem k tomu, že s nějakou formou kybernetického násilí se už setkala každá desátá žena v EU starší 15 let a že kybernetické obtěžování je při vývoji umělé inteligence, a to i v oblasti vzdělávání, i nadále zdrojem obav; vzhledem k tomu, že kybernetické násilí je často zaměřeno na ženy ve veřejném životě, jako jsou aktivistky, političky a další veřejně činné osoby; vzhledem k tomu, že umělá inteligence a další vznikající technologie mohou hrát důležitou úlohu při předcházení kybernetickým útokům na ženy a dívky a při vzdělávání lidí;

L.  vzhledem k tomu, že Unie a její členské státy nesou zvláštní odpovědnost za využívání, podporu a zajištění většího přínosu technologií umělé inteligence a také za zajištění bezpečnosti těchto technologií a jejich přispívání k blahobytu a zajišťování obecného zájmu Evropanů; vzhledem k tomu, že tyto technologie mohou výrazně přispět k dosažení našeho společného cíle, jímž je zlepšení života našich občanů a podpora prosperity v Unii tím, že pomohou přispět k rozvoji lepších strategií a inovací v řadě oblastí, zejména v oblasti vzdělávání, kultury a audiovizuálního odvětví;

M.  vzhledem k tomu, že většina umělé inteligence je založena na softwaru s otevřeným zdrojovým kódem, což znamená, že tento zdrojový kód lze kontrolovat, upravovat a zdokonalovat;

N.  vzhledem k tomu, že může být nutné provést určité úpravy stávajících zvláštních legislativních nástrojů EU, aby bylo možné zohlednit digitální transformaci a řešit nové výzvy spojené s používáním technologií umělé inteligence v oblasti vzdělávání a kultury a v audiovizuálním odvětví, jako je ochrana osobních údajů a soukromí, boj proti diskriminaci, podpora rovnosti žen a mužů, dodržování práv duševního vlastnictví, ochrana životního prostředí a práva spotřebitelů;

O.  vzhledem k tomu, že pro zajištění rovných podmínek je důležité poskytnout audiovizuálnímu odvětví přístup k údajům z globálních platforem a od hlavních aktérů;

P.  vzhledem k tomu, že umělá inteligence a budoucí aplikace či vynálezy vytvořené pomocí umělé inteligence mohou mít podobně jako v případě jakékoli jiné technologie dvojí povahu; vzhledem k tomu, že umělá inteligence a související technologie vzbuzují mnoho obav, pokud jde o etickou stránku a transparentnost jejich vývoje, zavádění a používání, zejména shromažďování, používání a šíření dat; vzhledem k tomu, že je třeba pečlivě posoudit přínos a rizika technologií umělé inteligence v oblasti vzdělávání a kultury a v audiovizuálním odvětví a zajistit důkladnou soustavnou analýzu jejich dopadu na všechny aspekty společnosti, aniž by došlo k omezení jejich potenciálu;

Q.  vzhledem k tomu, že cílem vzdělávání je naplnit lidský potenciál, rozvíjet kreativitu a dosáhnout skutečné sociální změny, neboť nesprávné používání systémů umělé inteligence založených na datech může bránit lidskému a sociálnímu rozvoji;

R.  vzhledem k tomu, že vzdělávání a příležitost se vzdělávat jsou základním právem; vzhledem k tomu, že vývoj, zavádění a používání technologií umělé inteligence v odvětví vzdělávání by se měly považovat za rizikové a měly by podléhat přísnějším požadavkům na bezpečnost, transparentnost, spravedlnost a odpovědnost;

S.  vzhledem k tomu, že kvalitní, rychlá, bezpečná a všudypřítomná konektivita, širokospektrý připojení, vysokokapacitní sítě, odbornost v oblasti informačních technologií a digitální dovednosti jsou spolu s digitálním vybavením a infrastrukturou, přijetím ze strany společnosti a cíleným a vhodným politickým rámcem jedním z předpokladů pro široké a úspěšné zavedení umělé inteligence v Unii; vzhledem k tomu, že z hlediska řešení přetrvávajících propastných rozdílů v digitální oblasti mezi regiony a občany v Unii má zásadní význam rovnoměrné zavádění této infrastruktury a vybavení v celé Unii;

T.  vzhledem k tomu, že k zajištění rovného a spravedlivého zastoupení celé společnosti při vývoji, zavádění a používání technologií umělé inteligence, včetně softwaru, algoritmů a dat, které používají a generují, je naprosto nezbytné věnovat se rozdílům mezi ženami a muži v oblasti vědy, techniky, inženýrství, umění a matematiky (STEAM);

U.  vzhledem k tomu, že je naprosto nezbytné zajistit, aby si všichni obyvatelé Unie už od raného věku osvojili dovednosti nutné pro lepší pochopení schopností umělé inteligence a jejích omezení, aby se mohli lépe připravit na čím dál častější přítomnost umělé inteligence a souvisejících technologií ve všech aspektech lidské činnosti a plně využít příležitostí, které umělá inteligence nabízí; vzhledem k tomu, že rozsáhlé získávání digitálních dovedností ve všech částech společnosti v Unii je základní podmínkou zajištění spravedlivé digitální transformace, které by byla pro všechny přínosem;

V.  vzhledem k tomu, že za účelem dosažení tohoto cíle musejí členské státy investovat do digitálního vzdělávání a mediální výchovy, vybavit školy příslušnou infrastrukturou a nezbytnými koncovými zařízeními a věnovat v učebních plánech větší pozornost zprostředkování digitálních dovedností a kompetencí;

W.  vzhledem k tomu, že umělou inteligenci a související technologie lze využívat ke zdokonalení učebních a výukových metod, zejména s cílem napomoci vzdělávacím systémům při využívání spravedlivých dat ke zvýšení rovnosti v oblasti vzdělávání a jeho kvality a zároveň prosazovat individualizované učební plány a širší přístup ke vzdělávání a zajistit dokonalejší plnění a automatizaci některých administrativních úkolů; vzhledem k tomu, že má-li být využívání umělé inteligence prospěšné pro celou společnost, je nutné zajistit rovný a spravedlivý přístup k digitálním technologiím a vysokorychlostnímu připojení; vzhledem k tomu, že je nanejvýš důležité zajistit dostupnost digitálního vzdělávání pro všechny, a to i pro osoby ze znevýhodněného prostředí a osoby se zdravotním postižením; vzhledem k tomu, že výsledky učení nezávisejí na technologiích jako takových, ale na tom, jak umějí učitelé tyto technologie používat, tak aby to mělo z pedagogického hlediska smysl;

X.  vzhledem k tomu, že umělá inteligence má zvláštní potenciál přinášet řešení každodenních výzev v oblasti vzdělávání, jako je personalizace učení, monitorování poruch učení a automatizace obsahu nebo znalostí odpovídajících konkrétnímu předmětu, a může zajistit lepší odborné vzdělávání a podpořit přechod na digitální společnost;

Y.  vzhledem k tomu, že umělá inteligence by mohla mít praktické využití, pokud jde o omezení administrativní činnosti pedagogů a vzdělávacích institucí, a poskytnout jim tak více času na jejich hlavní výukovou a vzdělávací činnost;

Z.  vzhledem k tomu, že nové aplikace založené na umělé inteligenci v oblasti vzdělávání usnadňují dosažení pokroku v různých oborech, jako je studium jazyků a matematika;

AA.  vzhledem k tomu, že zkušenosti v oblasti individualizovaného vzdělávání za pomoci umělé inteligence mohou nejen vést k vyšší motivaci studentů a pomoci jim plně využít svého potenciálu, ale také snížit míru předčasného ukončování školní docházky;

AB.  vzhledem k tomu, že umělá inteligence může díky lepšímu pochopení učebních metod a způsobů studentů stále více pomáhat učitelům dosáhnout větší efektivity, a to tím, že jim pomůže zjišťovat problémy s učením a lépe posoudit pokrok, kterého jednotliví žáci a studenti dosáhli;

AC.  vzhledem k tomu, že digitální trh práce v Unii postrádá téměř půl milionu odborníků v oblasti věd o datech velkého objemu a analýzy dat, které představují základ vývoje a využívání kvalitní a důvěryhodné umělé inteligence;

AD.  vzhledem k tomu, že využívání umělé inteligence v oblasti vzdělávání vyvolává obavy ohledně etického využívání údajů, práv účastníků vzdělávání, přístupu k údajům a ochrany osobních údajů, a představuje proto riziko z hlediska porušování základních práv, jako je vytváření stereotypních modelů týkajících se profilů a chování účastníků vzdělávání, což by mohlo vést k diskriminaci nebo ke škodám, neboť by docházelo k šíření špatných pedagogických postupů;

AE.  vzhledem k tomu, že kultura hraje při širokém využívání technologií umělé inteligence ústřední roli a že se díky rozvoji inovativních technologií a nástrojů a jejich účinnému uplatňování při naplňování potřeb tohoto odvětví stává klíčovou disciplínou pro zachování kulturního dědictví;

AF.  vzhledem k tomu, že technologie umělé inteligence lze využít k propagaci a ochraně kulturního dědictví, mimo jiné pomocí digitálních nástrojů k ochraně historických památek, hledáním nových způsobů, jak v širším měřítku a snáze zpřístupnit soubory dat obsahující kulturní díla, která jsou v držení kulturních institucí v celé Unii, a zároveň uživatelům usnadnit orientaci ve velkém množství kulturního a tvůrčího obsahu; vzhledem k tomu, že v tomto ohledu má zásadní význam prosazování norem a rámců v oblasti interoperability;

AG.  vzhledem k tomu, že využívání umělé inteligence při vytváření kulturního a tvůrčího obsahu, zejména pokud jde o mediální obsah a doporučení ohledně personalizovaného obsahu, vyvolává otázky spojené s ochranou údajů, diskriminací a kulturní a jazykovou rozmanitostí i otázky ohledně nebezpečí produkce diskriminačních výstupů založených na neobjektivních vstupních datech a mohlo by vést k omezení různorodých názorů a plurality sdělovacích prostředků;

AH.  vzhledem k tomu, že doporučení ohledně personalizovaného obsahu vycházejícího z umělé inteligence se mohou často lépe zaměřit na konkrétní potřeby jednotlivců, včetně jejich kulturních a jazykových preferencí; vzhledem k tomu, že umělá inteligence může přispět k podpoře jazykové rozmanitosti v Unii a k rozsáhlejšímu šíření evropských audiovizuálních děl, zejména prostřednictvím automatizovaného opatřování titulky a dabování audiovizuálního obsahu do jiných jazyků; vzhledem k tomu, že máme-li podpořit kulturní a jazykovou rozmanitost, je naprosto nezbytné zajistit dostupnost obsahu sdělovacích prostředků v různých jazycích;

AI.  vzhledem k tomu, že umělá inteligence tím, že umožňuje automatizovat různé rutinní úkoly, interpretovat data, a dokonce vytvářet zprávy, jako je předpověď počasí a sportovní výsledky, vede v redakcích zpravodajství k zavádění inovací;

AJ.  poukazuje na to, že podpora počítačové lingvistiky za účelem vývoje umělé inteligence založené na právech prostřednictvím evropské mnohojazyčnosti představuje zvláštní inovační potenciál, který lze využít k tomu, aby byla v digitálním věku zajištěna demokratická celosvětová kulturní a informační výměna bez diskriminace;

AK.  vzhledem k tomu, že by technologie umělé inteligence mohly být přínosem pro vzdělávání žáků se speciálními vzdělávacími potřebami a zajistit přístup osob se zdravotním postižením ke kulturnímu a tvůrčímu obsahu; vzhledem k tomu, že umělá inteligence již umožnila takové řešení, jako je rozpoznávání řeči, virtuální asistenti a digitální znázornění fyzických předmětů; vzhledem k tomu, že na zpřístupňování tohoto obsahu osobám se zdravotním postižením se už podílí digitální tvorba;

AL.  vzhledem k tomu, že aplikace umělé inteligence jsou v audiovizuálním odvětví všudypřítomné, zejména na platformách s audiovizuálním obsahem;

AM.  vzhledem k tomu, že technologie umělé inteligence proto přispívají k vytváření, plánování, řízení, produkci, distribuci, lokalizaci a ke spotřebě audiovizuálních mediálních produktů;

AN.  vzhledem k tomu, že zatímco lze umělou inteligenci využívat k vytváření falešného obsahu, jako jsou tzv. deepfakes, které se exponenciálně šíří a představují bezprostřední ohrožení demokracie, může být použita rovněž jako neocenitelný nástroj ke zjišťování takové zlovolné činnosti a k okamžitému boji proti ní, například prostřednictvím ověřování faktů v reálném čase nebo označování takového obsahu; vzhledem k tomu, že většinu materiálů typu deepfake lze snadno rozpoznat; vzhledem k tomu, že zároveň jsou nástroje pro jejich odhalování využívající umělou inteligenci při označování a filtrování takového obsahu obecně úspěšné; vzhledem k tomu, že v této oblasti neexistuje žádný právní rámec;

Obecné poznámky

1.  poukazuje na strategický význam umělé inteligence a souvisejících technologií pro Unii; vzhledem k tomu, že přístup k umělé inteligenci a souvisejícím technologiím musí být antropocentrický a zakládat se na lidských právech a etice, aby se z umělé inteligence stal skutečně nástroj ve službách lidí, společného blaha a veřejného zájmu občanů;

2.  zdůrazňuje, že při vývoji, zavádění a využívání umělé inteligence v oblasti vzdělávání a kultury a v audiovizuálním odvětví je nutné plně respektovat základní práva, svobody a hodnoty, mimo jiné lidskou důstojnost, soukromí, ochranu osobních údajů, zákaz diskriminace a svobodu projevu a informací a také kulturní rozmanitost a práva duševního vlastnictví, které jsou zakotveny ve Smlouvách o EU a v Listině;

3.  zdůrazňuje, že vzdělávání, kultura a audiovizuální odvětví představují oblasti, které jsou vůči využívání umělé inteligence a souvisejících technologií citlivé, neboť mají potenciál ovlivnit podstatu základních práv a hodnot naší společnosti; zdůrazňuje proto, že při vývoji, zavádění a používání umělé inteligence a souvisejících technologií v těchto odvětvích, včetně softwaru, algoritmů a dat, které používají a generují, je nutné dodržovat etické zásady;

4.  připomíná, že algoritmy a umělá inteligence by měly být „etické už ve stadiu návrhu“ bez zakořeněné předpojatosti, a to způsobem, který by zaručil maximální ochranu základních práv;

5.  opětovně upozorňuje na to, že je důležité zajistit vývoj kvalitní, kompatibilní a inkluzivní umělé inteligence a technologií, které by se používaly pro hluboké učení a které by respektovaly a bránily hodnoty Unie, zejména rovnost žen a mužů, mnohojazyčnost a podmínky nezbytné pro mezikulturní dialog, neboť používání nekvalitních, zastaralých, neúplných nebo nesprávných dat může vést k chybným prognózám, a tedy k diskriminaci a předpojatosti; zdůrazňuje, že za účelem lepšího shromažďování a systematizace dat a zvýšení jejich bezpečnosti a možnosti převodu, aniž by docházelo k zásahu do soukromí, je nezbytně nutné rozvíjet kapacity na úrovni členských států a EU; bere na vědomí návrh Komise na vytvoření jednotného evropského datového prostoru;

6.  připomíná, že umělá inteligence může být příčinou neobjektivnosti, a tedy různých forem diskriminace založené na pohlaví, rase, barvě pleti, etnickém nebo sociálním původu, genetických rysech, jazyku, náboženském vyznání nebo přesvědčení, politických či jakýchkoli jiných názorech, příslušnosti k národnostní menšině, majetku, narození, zdravotním postižení, věku nebo sexuální orientaci; v tomto ohledu připomíná, že je nutné zaručit práva všech osob a že umělá inteligence a související technologie nesmějí být v žádném ohledu diskriminační;

7.  zdůrazňuje, že tato předpojatost a diskriminace může vznikat na základě již zkreslených souborů údajů, které odrážejí stávající diskriminaci ve společnosti; připomíná v této souvislosti, že je nezbytné zapojit i příslušné zainteresované strany, včetně občanské společnosti, aby se zabránilo neúmyslnému začlenění genderové, sociální a kulturní předpojatostí do algoritmů, systémů a aplikací umělé inteligence; zdůrazňuje, že je třeba pracovat na co nejúčinnějším způsobu, jak v souladu s etickými a nediskriminačními normami omezit předpojatost v systémech umělé inteligence; zdůrazňuje, že soubory dat sloužící k trénování umělé inteligence by měly být co nejrozsáhlejší, aby co nejlépe a co nejvěrnějším způsobem reflektovaly společnost, že je nutné kontrolovat výstupy, aby se předešlo jakékoli formě stereotypů, diskriminace a předpojatosti a že by se umělá inteligence měla ve vhodných případech využívat ke zjišťování případných lidských předsudků a k jejich nápravě; vyzývá Komisi, aby podpořila a zjednodušila sdílení strategií pro zajištění objektivnosti údajů;

8.  vyzývá Komisi a členské státy, aby při tvorbě politiky a právních předpisů v oblasti umělé inteligence zohledňovaly etické aspekty, a to i aspekty týkající se rovnosti žen a mužů, a aby v nutných případech upravily stávající právní předpisy, mimo jiné unijní programy a etické pokyny pro využívání umělé inteligence;

9.  vyzývá Komisi a členské státy, aby navrhly opatření, která by plně zohledňovala genderový rozměr, jako jsou např. osvětové kampaně, školení a školní osnovy, jež by měly občanům poskytovat informace o tom, jak fungují algoritmy a jaký mají vliv na jejich každodenní život; dále je vyzývá, aby rozvíjely takový způsob uvažování, který by byl založen na rovnosti žen a mužů, a takové pracovní podmínky, které by vedly k vývoji inkluzivnějších technologických produktů a inkluzivnějšího pracovního prostředí; naléhavě vyzývá Komisi a členské státy, aby zajistily, aby byly do školních osnov začleněny digitální dovednosti a odborná příprava v oblasti umělé inteligence, a aby je zpřístupnily všem coby způsob, jak odstranit digitální propast mezi ženami a muži;

10.  zdůrazňuje, že je zapotřebí zajistit odbornou přípravu pracovníků a pedagogů pracujících s umělou inteligencí s cílem podpořit jejich schopnost vyhledávat a napravovat genderově diskriminační postupy na pracovišti a v oblasti vzdělávání a odbornou přípravu pracovníků vyvíjejících systémy a aplikace umělé inteligence za účelem zjišťování diskriminace na základě pohlaví v systémech a aplikacích umělé inteligence, které vyvíjejí, a její nápravy; vyzývá ke stanovení jasné odpovědnosti ve společnostech a vzdělávacích institucích s cílem zajistit, aby na pracovišti nebo v rámci vzdělávání nedocházelo k diskriminaci na základě pohlaví; zdůrazňuje, že pokud nepředstavuje pohlaví z nějakého důvodu klíčový faktor, mělo by se pro vzdělávací a kulturní účely používat bezpohlavní zobrazování umělé inteligence a robotů;

11.  zdůrazňuje, že za účelem shromažďování údajů roztříděných podle pohlaví a jiných údajů týkajících se rovnosti mezi muži a ženami je důležité vyvíjet a zavádět aplikace umělé inteligence v oblasti vzdělávání a kultury a v audiovizuálním odvětví a případně používat moderní metody strojového učení odstraňující předpojatost, s cílem napravovat genderové stereotypy a genderovou předpojatost, jež mohou mít negativní dopad;

12.  vybízí Komisi, aby zahrnula vzdělávání do regulačního rámce pro rizikové aplikace umělé inteligence, jelikož je důležité zajistit, aby vzdělávání bylo i nadále veřejně prospěšné, a protože údaje týkající se žáků, studentů a jiných účastníků vzdělávání jsou velmi citlivé; zdůrazňuje, že v odvětví vzdělávání by do zavádění umělé inteligence měli být zapojeni pedagogové, účastníci vzdělávání i širší společnost, přičemž by měly být zohledněny potřeby všech a očekávaný přínos, aby bylo zajištěno účelné a etické využívání umělé inteligence;

13.  vyzývá Komisi, aby za účelem zjišťování genderové předpojatosti v oblasti umělé inteligence prosazovala k podpoře multidisciplinárního výzkumu, pilotních projektů, experimentů a vývoje nástrojů, včetně odborné přípravy, využívání programů Unie, jako je Horizont Evropa, Digitální Evropa a Erasmus+, a aby podporovala i osvětové kampaně pro širokou veřejnost;

14.  zdůrazňuje, že je nutné vytvořit v oblasti vzdělávání, kultury a v audiovizuálním odvětví různorodé týmy vývojářů a inženýrů, které budou pracovat po boku hlavních aktérů, s cílem zabránit neúmyslnému zahrnutí genderové nebo sociální podjatosti do algoritmů, systémů a aplikací umělé inteligence; zdůrazňuje, že je nutné přihlížet k rozmanitosti různých teorií, na jejichž základě byla umělá inteligence dosud vyvíjena a které by mohly být dále rozvíjeny v budoucnosti;

15.  poukazuje na to, že náležité úsilí o odstranění předsudků a diskriminace vůči určitým skupinám, včetně genderových stereotypů, by nemělo zastavit technologický pokrok;

16.  znovu připomíná význam základních práv a zastřešující nadřazenosti právních předpisů na ochranu osobních údajů, které jsou při nakládání s takovými technologiemi nezbytné; připomíná, že umělá inteligence může mít obzvláště výrazný dopad na ochranu osobních údajů, zejména v případě dětí; zdůrazňuje, že zásady stanovené v obecném nařízení o ochraně osobních údajů (GDPR)(8) jsou pro zavádění umělé inteligence v této souvislosti závazné; dále připomíná, že všechny aplikace umělé inteligence musí plně dodržovat právní předpisy Unie v oblasti ochrany údajů, konkrétně nařízení GDPR a směrnici o soukromí a elektronických komunikacích(9); zdůrazňuje právo na lidský zásah při používání umělé inteligence a souvisejících technologií;

17.  vyzývá Komisi a členské státy, aby zavedly povinnost transparentnosti a vysvětlitelnosti automatizovaných individuálních rozhodnutí na bázi umělé inteligence učiněných v rámci výsad veřejné moci a aby zavedly sankce za účelem vymáhání této povinnosti; vyzývá k zavedení systémů využívajících jako standard manuální ověřování a intervence a požaduje spravedlivý postup, včetně práva podat opravný prostředek a přístupu k právní ochraně;

18.  bere na vědomí potenciálně negativní vliv personalizované reklamy, zejména detailně cílené a „behaviorální“ reklamy, a hodnocení jednotlivců, prováděné zejména na nezletilých, bez jejich souhlasu, k němuž dochází tak, že tato praxe zasahuje do soukromého života osob a kladou se při ní otázky ohledně sběru a užívání údajů pro účely personalizované reklamy a nabízejí výrobky a služby nebo stanoví ceny; vyzývá proto Komisi, aby zavedla přísná omezení týkající se cílené reklamy na základě shromažďování osobních údajů, přičemž by měla začít zavedením zákazu meziplatformové behaviorální reklamy, aniž by tím došlo k poškození malých a středních podniků; připomíná, že směrnice o soukromí a elektronických komunikacích v současné době umožňuje cílenou reklamu pouze s výslovným souhlasem uživatele, jinak je tato reklama protiprávní; vyzývá Komisi, aby zakázala používání diskriminačních postupů při poskytování služeb nebo produktů;

19.  zdůrazňuje, že je nutné, aby byly mediální organizace informovány o hlavních parametrech systémů umělé inteligence založených na algoritmech, které určují pořadí a výsledky vyhledávání na platformách třetích stran, a aby byli uživatelé informováni o využívání umělé inteligence ve službách přijímajících rozhodnutí a měli pravomoc stanovit své parametry pro ochranu soukromí prostřednictvím transparentních a srozumitelných opatření;

20.  zdůrazňuje, že umělá inteligence může podporovat tvorbu obsahů ve vzdělávání, kultuře a audiovizuálním odvětví společně s informačními a vzdělávacími platformami, včetně seznamů různých druhů kulturních statků a mnoha různých zdrojů dat; bere na vědomí rizika porušování práv duševního vlastnictví při kombinování umělé inteligence s různými vícezdrojovými technologiemi (dokumenty, fotografiemi, filmy) s cílem zdokonalit způsob, jakým jsou údaje zobrazovány a zkoumány; vyzývá k využívání umělé inteligence pro účely zajištění vysoké úrovně ochrany práv duševního vlastnictví v rámci stávajícího legislativního rámce, například tím, že budou jednotlivci a podniky upozorněni, pokud bude hrozit, že neúmyslně poruší pravidla, nebo že budou podporováni držitelé práv duševního vlastnictví, dojde-li skutečně k porušení těchto práv; zdůrazňuje tudíž význam zavedení rámce ochrany práv duševního vlastnictví na unijní úrovni v souvislosti s využíváním umělé inteligence;

21.  zdůrazňuje, že je zapotřebí najít rovnováhu mezi vývojem systémů umělé inteligence a jejich použitím ve vzdělávání, kultuře a v audiovizuálním odvětví na jedné straně a opatřeními na ochranu konkurence a konkurenceschopnosti podniků zabývajících se umělou inteligencí v těchto oblastech na straně druhé; v tomto ohledu zdůrazňuje, že je třeba podpořit podniky, aby investovaly do inovací systémů umělé inteligence používaných v těchto oblastech, a současně zajistit, aby společnosti poskytující takové aplikace na trhu nezískaly monopolní postavení; zdůrazňuje nutnost toho, aby byla umělá inteligence široce dostupná kulturním a kreativním odvětvím v celé Evropě s cílem zachovat rovné podmínky a spravedlivou hospodářskou soutěž pro všechny zainteresované strany a aktéry v Evropě; vyzývá Komisi a členské státy, aby při rozhodnutích týkajících se hospodářské soutěže, včetně rozhodnutí o fúzích, více zohledňovaly úlohu dat a algoritmů, pokud jde o koncentraci tržní síly;

22.  zdůrazňuje, že je zapotřebí systematicky se zabývat společenskými, etickými a právními otázkami, které vyplývají z vývoje, zavádění a používání umělé inteligence, například pokud jde o transparentnost algoritmů a vyvození související odpovědnosti, zásadu nediskriminace, svobodu projevu a rozmanitost názorů, pluralitu sdělovacích prostředků a o vlastnictví, shromažďování a šíření dat a obsahů; doporučuje vypracovat společné evropské pokyny a normy na ochranu soukromí a současně účinně využívat dostupná data; vyzývá k transparentnosti při vývoji algoritmů a vyvozování související odpovědnosti při jejich používání;

23.  vyzývá Komisi, aby předložila komplexní regulační rámec s cílem horizontálně regulovat používání umělé inteligence a doplňovat jej zvláštními odvětvovými pravidly, například v oblasti audiovizuálních médií;

24.  zdůrazňuje potřebu investic do výzkumu a inovací v oblasti vývoje, zavádění a využívání umělé inteligence a jejích aplikací ve vzdělávání, kultuře a audiovizuálním odvětví; zdůrazňuje význam veřejných investic do těchto služeb a doplňkovou přidanou hodnotu, kterou poskytují partnerství veřejného a soukromého sektoru, pokud jde o naplnění tohoto cíle a rozvinutí plného potenciálu umělé inteligence v těchto oblastech, zejména ve vzdělávání, a to s ohledem na významný objem soukromých prostředků investovaných v posledních letech; vyzývá Komisi, aby na podporu výzkumu a inovací zaměřených na použití umělé inteligence v těchto oblastech vynaložila dodatečné finanční prostředky;

25.  zdůrazňuje, že algoritmické systémy mohou umožňovat rychlejší překlenutí digitální propasti, ale jejich nerovné zavádění může vést ke vzniku nových propastí nebo urychlit prohlubování těch stávajících; vyjadřuje znepokojení nad nekonzistentním rozvojem znalostí a infrastruktury v Unii, což omezuje dostupnost produktů a služeb, které jsou závislé na umělé inteligenci, zejména v řídce osídlených a sociálně-ekonomicky zranitelných oblastech; vyzývá Komisi, aby zajistila rovnoměrné sdílení přínosů umělé inteligence a souvisejících technologií;

26.  vyzývá Komisi, aby zavedla požadavky na pořizování a zavádění umělé inteligence a souvisejících technologií unijními subjekty veřejného sektoru, aby se zajistilo dodržování unijního práva a základních práv; zdůrazňuje přidanou hodnotu využívání nástrojů, jako jsou veřejné konzultace a hodnocení dopadu, které by měly být provedeny před pořízením a zavedením systémů umělé inteligence v souladu s doporučením zvláštní zpravodajky, které vydala ve své zprávě určené Valnému shromáždění OSN a týkající se umělé inteligence a jejího dopadu na svobodu přesvědčení a projevu(10); vybízí veřejné orgány, aby podněcovaly rozvoj a zavádění umělé inteligence prostřednictvím veřejného financování a zadávání veřejných zakázek; zdůrazňuje, že je třeba posílit trh tím, že se malým a středním podnikům poskytne příležitost podílet se na zadávání zakázek na aplikace na bázi umělé inteligence, aby se zajistilo zapojení technologických společností všech velikostí, a byla tím zaručena odolnost a hospodářská soutěž;

27.  žádá, aby byly pravidelně prováděny nezávislé audity s cílem zjistit, zda jsou používané aplikace umělé inteligence a související kontroly a protiváhy v souladu se stanovenými kritérii, a aby na tyto audity dohlížely nezávislé orgány dohledu s dostatečnými pravomocemi; žádá, aby byly prováděny zvláštní zátěžové testy, které by zajistily dodržování předpisů;

28.  bere na vědomí výhody i rizika umělé inteligence z hlediska kybernetické bezpečnosti a jejího potenciálu v boji proti kyberkriminalitě a zdůrazňuje, že řešení založená na umělé inteligenci musí být odolná vůči kybernetickým útokům a současně musí být v souladu se základními právy Unie, zejména s ochranou osobních údajů a soukromí; zdůrazňuje, že je důležité dohlížet na bezpečnost využívání umělé inteligence a že je zapotřebí úzké spolupráce veřejného a soukromého sektoru, aby bylo možné řešit zranitelnost uživatelů a rizika, která v této souvislosti vznikají; vyzývá Komisi, aby posoudila, zda není zapotřebí zdokonalit prevenci, pokud jde o kybernetickou bezpečnost a s ní spojená zmírňující opatření;

29.  zdůrazňuje, že krize způsobená pandemií COVID-19 může být považována za zkušební dobu pro vývoj, zavádění a využívání digitálních technologií a technologií umělé inteligence v oblasti vzdělávání a kultury, což dokládá řada on-line vzdělávacích platforem a on-line nástrojů na podporu kultury, které byly v členských státech využívány; vyzývá proto Komisi, aby tyto příklady zohlednila při zvažování společného unijního přístupu k intenzivnějšímu využívání takových technologických řešení;

Vzdělávání

30.  připomíná, že je důležité posílit digitální dovednosti a dosáhnout vysoké úrovně mediální, digitální a informační gramotnosti na úrovni Unie coby předpokladu pro využívání umělé inteligence ve vzdělávání; zdůrazňuje, že je v této souvislosti třeba zajistit celounijní digitální gramotnost a gramotnost v oblasti umělé inteligence, a to zejména rozvojem příležitostí odborné přípravy pro vyučující; trvá na tom, že používání technologií umělé inteligence ve školách by mělo přispět k vyrovnání rozdílů v digitální gramotnosti mezi různými sociálními skupinami a jednotlivými regiony; vítá aktualizovaný akční plán digitálního vzdělávání vypracovaný Komisí, který se zabývá využíváním umělé inteligence ve vzdělávání; vyzývá v této souvislosti Komisi, aby digitální dovednosti, mediální gramotnost a odbornou přípravu a dovednosti související s umělou inteligencí zařadila mezi priority tohoto plánu a zároveň informovala o možném zneužití a nedostatcích umělé inteligence; vyzývá v této souvislosti Komisi, aby se zvlášť zaměřila na děti a mladistvé v nejisté situaci, které potřebují v oblasti digitálního vzdělávání zvláštní podporu; naléhavě vyzývá Komisi, aby se ve svých nadcházejících legislativních návrzích týkajících se umělé inteligence řádně zabývala umělou inteligencí a robotikou v oblasti vzdělávacích iniciativ; naléhavě vyzývá členské státy, aby investovaly do digitálního vybavení škol a k tomuto účelu využívaly finanční prostředky Unie;

31.  zdůrazňuje, že využívání umělé inteligence ve vzdělávacích systémech přináší širokou škálu možností, příležitostí a nástrojů k tomu, aby mohlo být inovativnější, inkluzivnější, efektivnější a čím dál účinnější, a to za pomoci zavádění nových způsobů rychlého a personalizovaného vysoce kvalitního učení zaměřeného na studenty; zdůrazňuje však, že vzhledem k tomu, že tento proces bude mít dopad na vzdělávání a sociální začleňování, musí být zajištěna dostupnost takových nástrojů pro všechny sociální skupiny tím, že se zajistí rovný přístup ke vzdělávání a učení a že nikdo nebude opomenut, zejména osoby se zdravotním postižením;

32.  zdůrazňuje, že v zájmu kritické i účinné interakce s umělou inteligencí potřebují občané této technologii alespoň v základu porozumět; vyzývá členské státy, aby do svých opatření týkajících se digitální gramotnosti začlenily informační kampaně o umělé inteligenci; vyzývá Komisi a členské státy, aby podporovaly plány digitální gramotnosti a diskusní fóra s cílem zapojit občany, rodiče a studenty do demokratického dialogu s veřejnými orgány a zúčastněnými stranami ohledně vývoje, zavádění a používání technologií umělé inteligence ve vzdělávacích systémech; zdůrazňuje, že je důležité poskytnout pedagogům, školitelům a dalším relevantním osobám správné nástroje a know-how týkající se umělé inteligence a souvisejících technologií, pokud se jedná o to, co tyto technologie představují, jak se používají a jak je možné je uplatňovat řádným způsobem a v souladu s právem, aby se zabránilo porušování práv duševního vlastnictví; obzvláště zdůrazňuje, jak významná je digitální gramotnost pro osoby pracující v oblasti vzdělávání a odborné přípravy a její posilování u starších spoluobčanů vzhledem k tomu, že mladší generace již o těchto technologiích mají základní představu, neboť s nimi vyrůstaly;

33.  zdůrazňuje, že skutečným cílem umělé inteligence ve vzdělávacích systémech by mělo být dosažení co nejvíce individualizované úrovně výuky, která žákům nabídne individuálně přizpůsobené studijní plány podle jejich silných a slabých stránek a didaktické materiály přizpůsobené jejich vlastnostem, přičemž by měla být zachována kvalita vzdělávání a integrační zásada našich vzdělávacích systémů;

34.  připomíná zásadní a rozmanitou úlohu, kterou učitelé hrají ve vzdělávání a při zajišťování jeho inkluzivnosti, zejména ve fázi raného dětství, kde jsou získávány dovednosti, které studentům umožní úspěšně se orientovat v životě, např. pokud jde o osobní vztahy, studijní dovednosti, empatii a spolupráci; zdůrazňuje proto, že technologie umělé inteligence nelze využívat k tíži nebo na úkor osobního vzdělávání, neboť učitelé nesmí být nahrazeni technologiemi souvisejícími s umělou inteligencí ani umělou inteligencí samotnou;

35.  zdůrazňuje, že přínosy z učení plynoucí z využívání umělé inteligence ve vzdělávání nebudou záviset jen na samotné umělé inteligenci, ale na tom, jak ji pedagogové využijí v prostředí digitálního vzdělávání k uspokojení svých vlastních potřeb a potřeb svých žáků a studentů; poukazuje proto na nutnost toho, aby programátoři umělé inteligence pokud možno zapojili pedagogické komunity do vývoje, zavádění a používání technologií umělé inteligence a zároveň vytvořili prostředí pro propojení a spolupráci mezi programátory, vývojáři, podniky, školami, pedagogy a dalšími veřejnými a soukromými zúčastněnými stranami s cílem vytvořit technologie umělé inteligence, které budou vhodné pro skutečné vzdělávací prostředí, odrážet věk a vývojovou připravenost každého studenta a splňovat nejvyšší etické normy; zdůrazňuje, že vzdělávací instituce by měly zavádět pouze důvěryhodné a etické technologie zaměřené na člověka, které mohou veřejné orgány a občanská společnost kontrolovat ve všech fázích jejich životního cyklu; zdůrazňuje v tomto ohledu výhody bezplatných a otevřených řešení; požaduje, aby školy a jiná vzdělávací zařízení byly finančně, logisticky i prostřednictvím nezbytných odborných znalostí podporovány za účelem zavádění pedagogických řešení pro budoucnost;

36.  kromě toho zdůrazňuje, že je třeba průběžně školit pedagogy, aby byli schopni přizpůsobit se realitě vzdělávání využívajícího umělou inteligenci a získat potřebné znalosti a dovednosti, které jim umožní využívat technologie umělé inteligence pedagogickým a smysluplným způsobem, čímž se jim otevře možnost osvojit si možnosti nabízené umělou inteligencí a porozumět hranicím jejích kapacit; požaduje, aby digitální výuka v budoucnu povinně tvořila součást vzdělávání učitelů a aby pedagogové měli spolu s osobami pracujícími v oblasti vzdělávání a odborné přípravy možnost se celoživotně vzdělávat v oblasti digitální výuky; vyzývá proto k rozvoji programů odborné přípravy v oblasti umělé inteligence pro pedagogy ve všech oborech i v celé Evropě; dále zdůrazňuje, že je důležité reformovat výukové programy pro nové generace pedagogů, aby se mohli přizpůsobit realitě vzdělávání využívajícího umělou inteligenci, a že je důležité vypracovat a aktualizovat příručky a pokyny týkající se umělé inteligence pro pedagogy;

37.  je znepokojen tím, že se nedostává vysokoškolských vzdělávacích programů zaměřených na umělou inteligenci a že chybí finanční prostředky na umělou inteligenci ve všech členských státech; je přesvědčen o tom, že tento stav ohrožuje budoucí digitální ambice Evropy;

38.  je znepokojen tím, že jen nízký počet výzkumných pracovníků zabývajících se umělou inteligencí je činný v akademické sféře, neboť technologické společnosti jim mohou nabídnout vyšší platové ohodnocení a méně byrokratické zátěže pro výzkum; domnívá se, že část řešení spočívá v přesměrování více veřejných prostředků do oblasti výzkumu umělé inteligence na univerzitách;

39.  zdůrazňuje význam zprostředkování všeobecných digitálních dovedností a kompetencí jednotlivcům již od dětského věku, mají-li se překlenout mezery v oblasti kvalifikací a mají-li se některé skupiny obyvatel lépe začlenit do digitálního trhu práce a do digitální společnosti; poukazuje na to, že odborná příprava vysoce kvalifikovaných odborníků ze všech oborů v oblasti umělé inteligence, zajištění vzájemného uznávání této kvalifikace v rámci Unie a zvyšování kvalifikace stávajících a budoucích pracovníků má stále větší význam pro to, aby se mohli vyrovnat s realitou pracovního trhu; vybízí proto členské státy, aby posoudily svoji nabídku vzdělávání a doplnily ji o dovednosti spojené s umělou inteligencí podle potřeby, zavedly zvláštní učební plány pro vývojáře umělé inteligence a také začlenily tyto technologie do tradičních osnov; zdůrazňuje, že je třeba zajistit vzájemné uznávání odborných kvalifikací pro oblast umělé inteligence v celé Unii, jelikož některé členské státy doplňují svou vzdělávací nabídku o dovednosti spojené s umělou inteligencí a zavádějí zvláštní učební plány pro vývojáře v této oblasti; vítá úsilí Komise o začlenění digitálních dovedností coby jednoho z kvalifikačních požadavků pro některá povolání, která jsou na unijní úrovni harmonizována podle směrnice o odborných kvalifikacích(11); zdůrazňuje nutnost toho, aby byly tyto učební plány v souladu s kontrolním seznamem etických pokynů pro zajištění důvěryhodnosti umělé inteligence, a vítá návrh Komise přeměnit tento seznam v orientační osnovy pro vývojáře umělé inteligence; připomíná zvláštní požadavky v oblasti odborného vzdělávání a přípravy, pokud jde o umělou inteligenci, a vyzývá ke spolupráci napříč Evropou s cílem posílit potenciál, který umělá inteligence v uvedené oblasti nabízí; zdůrazňuje, že je třeba vzdělávat vysoce kvalifikované odborníky v této oblasti, přičemž by do příslušných učebních osnov měly být zařazeny i etické aspekty, a že je nutné podporovat skupiny, které jsou v tomto oboru nedostatečně zastoupené, ale také vytvářet pobídky, které budou tyto odborníky motivovat k hledání zaměstnání v Unii; připomíná, že ženy jsou v oblasti umělé inteligence nedostatečně zastoupeny a že tento jev může vést k významné genderové nerovnováze na trhu práce v budoucnosti;

40.  zdůrazňuje nutnost toho, aby vlády a vzdělávací instituce přehodnotily, přepracovaly a uzpůsobily učební osnovy potřebám 21. století tak, že budou vypracovány vzdělávací programy, které budou klást větší důraz na předměty z oborů STEAM, aby tak byli studenti a spotřebitelé připraveni na rostoucí dominanci umělé inteligence a usnadnilo se jim získávání kognitivních dovedností; v této souvislosti zdůrazňuje, že je důležité diverzifikovat toto odvětví a vybízet studenty, zejména ženy a dívky, aby se zapsali do kurzů oborů STEAM, zejména v oblasti robotiky a předmětů souvisejících s umělou inteligencí; požaduje více finančních a vědeckých zdrojů, které budou motivovat kvalifikované pracovníky, aby zůstali v Unii, a zároveň přilákají kvalifikované pracovníky ze třetích zemí; dále konstatuje, že značný počet začínajících podniků pracuje s umělou inteligencí a vyvíjí s ní spojené technologie; zdůrazňuje, že malé a střední podniky budou potřebovat dodatečnou podporu a odbornou přípravu související s umělou inteligencí, aby byly schopny plnit právní požadavky související s digitalizací a umělou inteligencí;

41.  konstatuje, že automatizace a rozvoj umělé inteligence mohou radikálně a nevratně změnit sféru zaměstnanosti; zdůrazňuje, že prioritou by mělo být přizpůsobení dovedností potřebám budoucího trhu práce, zejména ve vzdělávání a v kulturních a tvůrčích odvětvích; zdůrazňuje v tomto ohledu na nutnost zvyšovat kvalifikaci budoucí pracovní síly; dále zdůrazňuje, jak důležité je zavádění umělé inteligence pro rekvalifikaci a prohlubování dovedností pracovníků na evropském trhu práce v kulturních a tvůrčích odvětvích, zejména pokud jde o audiovizuální odvětví, které bylo těžce zasaženo krizí COVID-19;

42.  žádá Komisi, aby posoudila míru rizika zavádění umělé inteligence v oblasti vzdělávání s cílem zjistit, zda by její aplikace měly být zahrnuty do regulačního rámce pro závažné riziko a zda by neměly podléhat přísnějším požadavkům na bezpečnost, transparentnost, rovné podmínky a odpovědnost, a to vzhledem k nutnosti zajistit, aby vzdělávání i nadále sloužilo veřejnosti ku prospěchu, jakož i vzhledem k tomu, že údaje o žácích, studentech a jiných osobách účastnících vzdělávání jsou nanejvýše citlivé; zdůrazňuje, že datové soubory používané pro výuku za pomoci umělé inteligence by měly být přezkoumávány, aby se předešlo posilování některých stereotypů a jiných předsudků;

43.  vyzývá Komisi, aby navrhla právní rámec pro umělou inteligenci, který obstojí i v budoucnu, s cílem stanovit právně závazná etická opatření a normy pro zajištění základních práv a svobod a rozvoje důvěryhodných, etických a technicky spolehlivých aplikací umělé inteligence, včetně integrovaných digitálních nástrojů, služeb a produktů, jako je robotika a strojové učení, a to se zvláštním ohledem na vzdělávání; vyzývá k tomu, aby údaje používané a vytvářené aplikacemi umělé inteligence ve vzdělávání byly přístupné, interoperabilní a vysoce kvalitní a aby byly přístupným způsobem a s ohledem na právní předpisy týkající se autorského práva a obchodního tajemství sdíleny s příslušnými veřejnými orgány; připomíná, že děti představují ohroženou skupinu, která si zasluhuje zvláštní pozornost a ochranu; zdůrazňuje, že ačkoli může umělá inteligence sloužit ve prospěch vzdělávání, je nutné brát v úvahu její technologické, regulační a společenské aspekty, poskytnout odpovídající záruky a zaujmout přístup zaměřený na člověka, který s konečnou platností zajistí, aby lidé měli nakonec vždy možnost kontrolovat a korigovat rozhodnutí systému; v této souvislosti upozorňuje na to, že učitelé při interakci se žáky a studenty musí kontrolovat jakékoli zavádění a používání technologií umělé inteligence ve školách a na univerzitách a dohlížet na ně; připomíná, že systémy umělé inteligence nesmí přijmout žádné konečné rozhodnutí, které by mohlo ovlivnit vzdělávací příležitosti, jako je závěrečné hodnocení studentů, bez plného lidského dohledu; připomíná, že automatizovaná rozhodnutí o fyzických osobách založená na profilování, která mají právní nebo obdobné účinky, musí být striktně omezená a vždy zajišťovat právo na lidský zásah a právo na vysvětlení podle nařízení GDPR; zdůrazňuje, že výše uvedené je třeba přísně dodržovat zejména ve vzdělávacím systému, kde jsou přijímána rozhodnutí o budoucích možnostech a příležitostech;

44.  vyjadřuje závažné znepokojení nad tím, že školy a ostatní poskytovatelé vzdělávání se stávají závislejšími na službách vzdělávacích technologií (edtech), mimo jiné i na aplikacích umělé inteligence, které poskytuje pouze několik technologických společností, které se těší dominantnímu postavení na trhu; domnívá se, že by to mělo být kontrolováno prostřednictvím pravidel Unie v oblasti hospodářské soutěže; v tomto ohledu zdůrazňuje význam podpory zavádění umělé inteligence malými a středními podniky ve vzdělávání, kultuře a audiovizuálním odvětví prostřednictvím vhodných pobídek, které vytvoří rovné podmínky; v této souvislosti vyzývá k investicím do evropských společností působících v oblasti IT s cílem vyvinout v rámci Unie nezbytné technologie vzhledem k tomu, že hlavní společnosti, které v současné době technologie umělé inteligence dodávají, sídlí mimo Unii; důrazně připomíná, že údaje o nezletilých osobách jsou přísně chráněny nařízením GDPR a mohou být zpracovávány pouze v případě, že jsou zcela anonymizovány nebo že byl udělen souhlas zákonným zástupcem dítěte, a to v přísném souladu se zásadami minimalizace údajů a účelového omezení; vyzývá k posílení ochrany a záruk v oblasti vzdělávání, pokud jde o údaje o dětech, a vyzývá Komisi, aby v tomto ohledu přijala účinnější opatření; žádá, aby dětem a jejich rodičům byly poskytovány jasné informace o možném využití a zpracování údajů o dětech, a to i prostřednictvím osvětových a informačních kampaní;

45.  zdůrazňuje specifická rizika při používání aplikací pro automatické rozeznávání na bázi umělé inteligence, jež v současnosti zaznamenávají rychlý rozvoj; připomíná, že děti tvoří v tomto ohledu velmi zranitelnou skupinu; doporučuje, aby Komise a členské státy zakázaly automatizovanou biometrickou identifikaci, jako je rozpoznávání tváře pro vzdělávací a kulturní účely, ve vzdělávacích a kulturních prostorách, pokud její použití právo neumožňuje;

46.  zdůrazňuje, že je třeba rozšířit výběr pro zákazníka s cílem stimulovat hospodářskou soutěž a rozšířit škálu nabízených služeb technologií umělé inteligence pro účely vzdělávání; vybízí veřejné orgány, aby v tomto směru podněcovaly rozvoj a zavádění technologií umělé inteligence prostřednictvím veřejného financování a zadávání veřejných zakázek; domnívá se, že technologie používané poskytovateli veřejného vzdělávání nebo zakoupené za veřejné finanční prostředky by měly být založeny na tzv. open-source technologiích;

47.  konstatuje, že inovace ve vzdělávání měly přijít již dávno, jak ukázala pandemie COVID-19 a následný přechod na on-line a distanční učení; zdůrazňuje, že vzdělávací nástroje založené na umělé inteligenci, jako jsou nástroje pro posuzování a zjišťování vzdělávacích problémů, mohou zlepšit kvalitu a účinnost on-line učení;

48.  zdůrazňuje, že pro poskytování vzdělávání založeného na umělé inteligenci evropským občanům mají strategický význam digitální infrastruktura nové generace a pokrytí internetem; s ohledem na krizi COVID-19 vyzývá Komisi, aby vypracovala strategii pro evropskou síť 5G, která zajistí strategickou odolnost Evropy a nebude závislá na technologiích států, jež nesdílejí naše hodnoty;

49.  vyzývá k vytvoření celoevropské sítě univerzit a výzkumných institucí zaměřené na umělou inteligenci ve vzdělávání, v jejímž rámci by instituce a odborníci ze všech oborů zkoumali dopad umělé inteligence na učení s cílem nalézt řešení, která zvýší potenciál této technologie;

Kulturní dědictví

50.  opět poukazuje na význam přístupu ke kultuře pro každého občana v celé Unii; v této souvislosti zdůrazňuje význam výměny osvědčených postupů mezi členskými státy, vzdělávacími zařízeními a kulturními institucemi a podobnými subjekty; dále se domnívá, že je velmi důležité, aby byl v maximální možné míře využíván potenciál zdrojů dostupných jak na úrovni Unie, tak na vnitrostátní úrovni, s cílem umožnit další zlepšování přístupu ke kultuře; zdůrazňuje, že existuje řada možností přístupu ke kultuře a že by měly být zváženy všechny tyto možnosti s cílem nalézt nejvhodnější řešení; zdůrazňuje, že je důležité jednat v souladu s Marrákešskou smlouvou;

51.  zdůrazňuje, že technologie umělé inteligence mohou hrát významnou úlohu při zachovávání, obnově, dokumentaci, analýze, podpoře a správě hmotného i nehmotného kulturního dědictví, včetně monitorování a analýzy změny lokalit kulturního dědictví v důsledku hrozeb, jako jsou změna klimatu, přírodní katastrofy a ozbrojené konflikty;

52.  zdůrazňuje, že technologie umělé inteligence mohou zlepšit viditelnost kulturní rozmanitosti Evropy; zdůrazňuje, že tyto technologie poskytují kulturním institucím, jako jsou muzea, nové příležitosti k vytváření inovativních nástrojů pro katalogizaci artefaktů a pro dokumentaci lokalit kulturního dědictví a zlepšení jejich přístupnosti, například prostřednictvím 3D modelování a rozšířené virtuální reality; zdůrazňuje, že umělá inteligence rovněž umožní muzeím a galeriím výtvarného umění zavést interaktivní a individualizované služby pro návštěvníky tím, že návštěvníkům poskytne seznam doporučených položek na základě jejich zájmu vyjádřeného osobně i online;

53.  zdůrazňuje, že využívání umělé inteligence zajistí nové inovativní přístupy, nástroje a metodiky, které pracovníkům v oblasti kultury a výzkumným pracovníkům umožní vytvářet jednotné databáze s vhodnými systémy klasifikace a multimediálními metadaty, což jim umožní propojit různé objekty kulturního dědictví a zlepšit tak znalosti a zajistit lepší porozumění kulturnímu dědictví;

54.  zdůrazňuje, že osvědčené postupy v oblasti technologií umělé inteligence, pokud jde o ochranu a přístupnost kulturního dědictví, zejména pro osoby se zdravotním postižením, by měly být identifikovány a sdíleny mezi kulturními sítěmi v celé Unii a zároveň by měl být podporován výzkum různých způsobů využití umělé inteligence pro zhodnocení, přístupnost a zachování kulturního dědictví; vyzývá Komisi a členské státy, aby podporovaly příležitosti, které nabízí využívání umělé inteligence v kulturních a kreativních odvětvích a průmyslu;

55.  zdůrazňuje, že technologie umělé inteligence mohou být také použity k monitorování nezákonného obchodování s kulturními předměty a ničení kulturních statků a že mohou zároveň podporovat shromažďování dat pro účely obnovy a rekonstrukce hmotného i nehmotného kulturního dědictví; konstatuje zejména, že rozvoj, zavádění a využívání umělé inteligence při celních kontrolách by mohlo podpořit snahy o předcházení nelegálnímu obchodování s kulturním dědictvím, zejména doplnit systémy, které celním orgánům umožňují zaměřovat jejich snahy a zdroje na předměty, jež představují největší riziko;

56.  konstatuje, že umělá inteligence by mohla být přínosem pro výzkum, zejména díky úloze prediktivní analýzy při zdokonalování analýzy údajů, např. při nákupu a pohybu kulturních statků; zdůrazňuje, že Unie musí zvýšit investice do partnerství mezi průmyslem a akademickou sférou a tato partnerství podporovat s cílem posílit špičkový výzkum na evropské úrovni;

57.  připomíná, že umělá inteligence může být revolučním nástrojem na podporu kulturního cestovního ruchu, a zdůrazňuje její významný potenciál k předvídání toků cestovního ruchu, což by mohlo pomoci městům, která se potýkají s nadměrným cestovním ruchem;

Kulturní a kreativní odvětví a průmysl

58.  vyjadřuje politování nad tím, že kultura nepatří mezi priority uvedené v politických možnostech a doporučeních týkajících se umělé inteligence na úrovni Unie, zejména v bílé knize Komise ze dne 19. února 2020 o umělé inteligenci; vyzývá k revizi těchto doporučení s cílem začlenit kulturu mezi priority politiky Unie v oblasti umělé inteligence; vyzývá Komisi a členské státy, aby se zabývaly možným dopadem vývoje, zavádění a využívání technologií umělé inteligence na kulturní a kreativní odvětví a průmysl a aby co nejlépe využily plán obnovy Next Generation EU pro digitalizaci těchto odvětví s cílem reagovat na nové formy spotřeby ve 21. století;

59.  poukazuje na to, že umělá inteligence obohatila i kulturní a kreativní odvětví a uplatňuje se například prostřednictvím automatického generování textů, videí nebo hudebních skladeb; zdůrazňuje, že i osoby působící v tvůrčí oblasti a kultuře musí disponovat nezbytnými digitálními dovednostmi a kompetencemi, aby mohly používat umělou inteligenci a jiné digitální technologie; vyzývá Komisi a členské státy, aby více podporovaly možnosti použití umělé inteligence v kulturních a tvůrčích odvětví a průmyslu vynakládáním prostředků na vědu a výzkum a aby vytvořily centra digitální kreativity, v nichž budou rozvíjeny aplikace umělé inteligence pro tvůrčí oblast a kulturu, aby se příslušné osoby mohly naučit s těmito technologiemi zacházet a vyzkoušet si jejich používání;

60.  uznává, že technologie umělé inteligence mají potenciál posílit růst pracovních míst v kulturních a kreativních odvětvích a průmyslu díky lepšímu přístupu k těmto technologiím; zdůrazňuje proto, že je důležité šířit digitální gramotnost v oblasti kulturních a kreativních odvětví a průmyslu, aby tyto technologie přinesly těmto odvětvím větší inkluzivitu, využitelnost a interaktivitu a aby bylo možné se je snáze naučit;

61.  zdůrazňuje, že interakce mezi umělou inteligencí a kulturními a kreativními odvětvími a průmyslem je složitá a vyžaduje důkladné posouzení; vítá zprávu Komise z listopadu 2020 „Trendy a vývoj v oblasti umělé inteligence – výzvy v rámci práv duševního vlastnictví“ a studii „Autorská práva a nové technologie: správa dat v oblasti autorských práv a umělé inteligence“; zdůrazňuje, že je důležité vyjasnit podmínky pro používání obsahu chráněného autorskými právy jako vstupních dat (obrazový materiál, hudba, filmy, databáze atd.) a při produkci kulturních a audiovizuálních výstupů vytvořených samotnými technologiemi umělé inteligence nebo lidmi využívajícími tyto technologie; vyzývá Komisi, aby prozkoumala dopady umělé inteligence na evropská tvůrčí odvětví; znovu zdůrazňuje význam evropských údajů a vítá prohlášení Komise v této věci a zařazení umělé inteligence a souvisejících technologií mezi priority;

62.  zdůrazňuje, že je zapotřebí vytvořit na úrovni Unie jednotnou vizi technologií umělé inteligence pro kulturní a kreativní odvětví a průmysl; vyzývá členské státy, aby se ve svých národních strategiích pro umělou inteligenci více zaměřily na kulturu, aby kulturní a kreativní odvětví a průmysl naplno využily inovací, zůstaly konkurenceschopné a aby byla zajištěna ochrana a podpora kulturní rozmanitosti na úrovni Unie v novém digitálním kontextu;

63.  zdůrazňuje, že je důležité vytvořit celounijní heterogenní prostředí pro technologie umělé inteligence, které povzbudí kulturní rozmanitost, podpoří menšiny a jazykovou rozmanitost a současně též posílí kulturní a kreativní odvětví a průmysl prostřednictvím on-line platforem, což umožní zapojení občanů Unie;

64.  vyzývá Komisi a členské státy, aby podporovaly demokratickou diskusi o technologiích umělé inteligence a aby vytvořily pravidelné fórum pro diskusi s občanskou společností, výzkumnými pracovníky, akademickou obcí a zainteresovanými stranami s cílem zvýšit informovanost o přínosech a výzvách jejího využívání v kulturních a kreativních odvětvích a průmyslu; v této souvislosti zdůrazňuje úlohu umění a kultury pro zprostředkování umělé inteligence, jakož i společenské debaty o tomto tématu, aby bylo možné názorně demonstrovat strojové učení a získat s ním zkušeností, například v oblasti hudby;

65.  vyzývá Komisi a členské státy, aby se zabývaly otázkou obsahu vytvořeného umělou inteligencí a s tím spojenými výzvami v oblasti autorství a porušování autorských práv; žádá v této souvislosti Komisi, aby posoudila dopad umělé inteligence a souvisejících technologií na audiovizuální odvětví a kulturní a kreativní odvětví a průmysl s cílem podpořit kulturní a jazykovou rozmanitost a zároveň respektovat práva autorů a umělců;

66.  zdůrazňuje, že Evropský inovační a technologický institut (EIT), a zejména jeho budoucí znalostní a inovační společenství zaměřené na kulturní a tvůrčí průmysl, by měly hrát vedoucí úlohu při rozvoji evropské strategie pro umělou inteligenci ve vzdělávání, kultuře a audiovizuálním odvětví a mohou uspíšit zavádění a využívání aplikací umělé inteligence v těchto odvětvích;

67.  konstatuje, že umělá inteligence již vstoupila do tvůrčího hodnotového řetězce na úrovni tvorby, produkce, šíření a spotřeby, a proto má značný dopad na kulturní a kreativní odvětví a průmysl, jako je hudební a filmový průmysl, umění a literatura, prostřednictvím nových nástrojů, softwaru a produkce s pomocí umělé inteligence, jež se používají pro usnadnění produkce a zároveň poskytují inspiraci a umožňují vytvářet obsah širší veřejnosti;

68.  vyzývá Komisi, aby provedla studie a zvážila možnosti politiky k řešení škodlivého dopadu kontroly on-line streamovacích služeb prostřednicím umělé inteligence s cílem omezit rozmanitost a/nebo maximalizovat zisky tím, že zahrnou nebo upřednostní určitý obsah ve svých nabídkách spotřebitelům, a aby zkoumala, jak tento postup ovlivňuje kulturní rozmanitost a příjmy tvůrců;

69.  je přesvědčen, že umělá inteligence je pro kulturní a tvůrčí odvětví a průmysl stále užitečnější při tvorbě a produkci;

70.  zdůrazňuje úlohu osobnosti autora při vyjadřování svobodných a kreativních rozhodnutí, která jsou podstatou originality každého díla(12); zdůrazňuje význam omezování a udělování výjimek při používání obsahu chráněného autorskými právy jako vstupních dat, zejména ve vzdělávání, akademické činnosti a výzkumu, a při produkci kulturních a kreativních výstupů, například audiovizuálního obsahu a obsahu vytvořeného uživateli;

71.  domnívá se, že je nutné uvažovat o ochraně umělecké a technické tvorby vytvářené umělou inteligencí, aby se tato forma tvorby podpořila;

72.  zdůrazňuje, že v souvislosti s ekonomikou založenou na datech lze dosáhnout lepšího spravování autorských práv pro účely lepšího odměňování autorů a výkonných umělců, zejména pokud jde o umožnění rychlé identifikace autorství a vlastnického podílu obsahu, což přispěje ke snížení počtu osiřelých děl; dále zdůrazňuje, že technologická řešení v oblasti umělé inteligence by měla být využívána ke zlepšení datové infrastruktury autorských práv a propojení metadat v dílech, ale také k usnadnění povinnosti transparentnosti stanovené v článku 19 směrnice (EU) 2019/790 o autorském právu a právech s ním souvisejících na jednotném digitálním trhu(13) pro aktuální, relevantní a komplexní informace o využívání děl autorů a vystoupení výkonných umělců, zejména pokud existuje vícero nositelů práv a komplexní systémy udělování licencí;

73.  vyzývá k tomu, aby se ve svém akčním plánu pro duševní vlastnictví Komise zabývala otázkou umělé inteligence a jejího dopadu na tvůrčí odvětví a zohlednila nutné zajištění rovnováhy mezi ochranou práv duševního vlastnictví a podněcováním kreativity v oblastech vzdělávání, kultury a výzkumu; domnívá se, že Unie může zaujmout vedoucí roli ve vytváření technologií umělé inteligence, pokud přijme funkční regulační rámec a zavede veřejné politiky prevence, zejména v oblasti vzdělávacích programů a finanční podpory pro výzkum; žádá Komisi, aby posoudila dopad práva duševního vlastnictví na výzkum a vývoj umělé inteligence a souvisejících technologií a na kulturní a kreativní odvětví a průmysl, včetně audiovizuálního odvětví, zejména pokud jde o autorství, spravedlivé odměňování autorů a související otázky;

74.  vyzývá Komisi, aby zvážila právní aspekty výstupů vytvořených za použití technologií umělé inteligence, jakož i kulturního obsahu vytvořeného za pomoci umělé inteligence a souvisejících technologií; domnívá se, že je důležité podporovat tvorbu kulturního obsahu; znovu však opakuje, že je důležité zachovat jedinečný rámec práv duševního vlastnictví Unie a že jakékoli změny by měly být provedeny s náležitou péčí, aby nedošlo k narušení křehké rovnováhy; vyzývá Komisi, aby vypracovala hloubkové posouzení v souvislosti s tím, zda by obsah vytvořený umělou inteligencí mohl získat právní subjektivitu a zda lze na obsah vytvořený umělou inteligencí a na obsah vytvořený za pomoci nástrojů umělé inteligence uplatňovat právo duševního vlastnictví;

75.  dále vyzývá Komisi, aby v úzké spolupráci s členskými státy a zainteresovanými stranami zvážila vývoj ověřovacích mechanismů nebo systémů pro vydavatele, autory a tvůrce, které by jim pak pomáhaly ověřovat, jaký obsah mohou použít, a zjednodušily by určování toho, co je chráněno právními předpisy v oblasti práv duševního vlastnictví;

76.  vyzývá Komisi, aby stanovila pravidla zajišťující účinnou interoperabilitu údajů, a zpřístupnila tak obsah zakoupený na platformě pro jakýkoli digitální nástroj bez ohledu na značku;

Audiovizuální odvětví

77.  konstatuje, že umělá inteligence je často využívána pro algoritmy automatizovaného rozhodování za účelem šíření a řazení kulturního a kreativního obsahu, který se zobrazuje uživatelům; zdůrazňuje, že tyto algoritmy jsou pro uživatele „černou skříňkou“; zdůrazňuje, že algoritmy, které používají poskytovatelé mediálních služeb, platformy pro sdílení videonahrávek i služby streamování hudby, je třeba koncipovat tak, aby neupřednostňovaly určitá díla tím, že budou „personalizované“ návrhy omezovat na nejpopulárnější díla pro účely cílené reklamy, komerční účely nebo za účelem maximalizace zisku; požaduje, aby doporučující algoritmy a personalizovaný marketing byly v maximální možné míře vysvětlitelné a transparentní, a bylo tak zajištěno, že spotřebitelé budou těmto procesům a obsahu přesně rozumět a že personalizované služby nebudou diskriminační a budou v souladu s nedávno přijatým nařízením o vztazích mezi podniky(14) a platformami a se souhrnnou směrnicí o nové politice pro spotřebitele(15); vyzývá Komisi, aby se zabývala způsoby optimalizace algoritmů moderování obsahu s cílem zapojit uživatele a aby navrhla doporučení ke zvýšení kontroly uživatelů nad obsahem, který vidí, a to zaručením a řádným uplatňováním práva uživatelů na odmítnutí doporučených a individualizovaných služeb; rovněž zdůrazňuje, že spotřebitelé, kteří jsou v interakci s automatizovaným rozhodovacím postupem, musí být o této skutečnosti informováni, a že jejich možnosti výběru a počínání nesmí být omezeny; zdůrazňuje, že je třeba bojovat proti používání mechanismů umělé inteligence pro sledování spotřebitelů pro komerční účely, i když se týká „bezplatných služeb“, a to zajištěním toho, aby vše probíhalo přísně v souladu se základními právy a obecným nařízením o ochraně osobních údajů; zdůrazňuje, že všechny regulační změny musí zohledňovat dopad na znevýhodněné spotřebitele;

78.  zdůrazňuje, že vše, co je považováno za nezákonné mimo internet, by mělo být považováno za nezákonné také na internetu; bere na vědomí, že nástroje umělé inteligence mají potenciál potírat nezákonný obsah na internetu a jsou pro tyto účely již využívány, ale před přijetím připravovaného aktu o digitálních službách důrazně připomíná, že využívání těchto nástrojů musí vždy respektovat základní práva, zejména svobodu projevu a informací, a nemělo by vést k povinnosti všeobecného monitorování internetu, ani k odstranění zákonného materiálu šířeného pro účely vzdělávání, žurnalistiky, umění nebo výzkumu; zdůrazňuje, že algoritmy by měly být používány pouze jako mechanismus označování při moderování obsahu, jenž je předmětem lidského zásahu, neboť umělá inteligence není schopna spolehlivě rozlišovat mezi zákonným, nezákonným a škodlivým obsahem; konstatuje, že podmínky by měly vždy zahrnovat pokyny Společenství a postup odvolání;

79.  rovněž připomíná, že podle článku 15 směrnice o elektronickém obchodu(16) by nemělo docházet k obecnému monitorování audiovizuálního obsahu a že konkrétní monitorování obsahu v případě audiovizuálních mediálních služeb by mělo být v souladu s výjimkami stanovenými v unijních právních předpisech; připomíná, že aplikace umělé inteligence musí být v souladu s vnitřními a vnějšími bezpečnostními protokoly, které by měly být z technického hlediska přesné a spolehlivé; domnívá se, že by to mělo platit i pro provoz v běžné, neznámé a nepředvídatelné situaci;

80.  dále zdůrazňuje, že využívání umělé inteligence v doporučeních týkajících se obsahu u poskytovatelů mediálních služeb, video služeb na vyžádání a platforem pro sdílení videa může mít vážný dopad na kulturní a jazykovou rozmanitost, zejména pokud jde o povinnost zajistit zdůraznění evropských děl podle čl. 13 směrnice o audiovizuálních mediálních službách (směrnice (EU) 2018/1808(17)); konstatuje, že některé obavy platí stejnou měrou i pro služby streamování hudby, a vyzývá k vypracování ukazatelů k posuzování kulturní rozmanitosti a propagaci evropských děl v rámci těchto služeb;

81.  vyzývá Komisi a členské státy, aby prosazovaly větší finanční podporu vývoje, zavádění a používání umělé inteligence v oblasti automatizovaného opatřování titulky, jakož i dabingu evropských audiovizuálních děl za účelem podpory kultury a jazykové rozmanitosti v Unii, jakož i za účelem lepšího rozšíření evropského audiovizuálního obsahu a zlepšení přístupu k němu;

82.  vyzývá Komisi, aby vytvořila jasný etický rámec pro používání technologií umělé inteligence v médiích s cílem zamezit veškerým formám diskriminace a zajistit přístup ke kulturně a jazykově různorodému obsahu na úrovni Unie na základě transparentních a inkluzivních algoritmů, které respektují rozhodnutí a preference jednotlivců, s možností vyvodit odpovědnost;

83.  poukazuje na to, že umělá inteligence může hrát významnou úlohu v rychlém šíření dezinformací; v této souvislosti zdůrazňuje, že rámec by se měl zabývat zneužíváním umělé inteligence k šíření falešných zpráv a dezinformací na internetu a zároveň zabránit cenzuře; vyzývá proto Komisi, aby posoudila rizika umělé inteligence při šíření dezinformací v digitálním prostředí a zvážila řešení, jak by bylo možné umělou inteligenci využít k boji proti dezinformacím;

84.  vyzývá Komisi, aby přistoupila k regulatorním opatřením, jimiž by poskytovatelé mediálního obsahu získali přístup k příslušným údajům, které se generují v souvislosti s poskytováním a šířením jejich obsahu na platformách poskytovatelů třetích stran; zdůrazňuje, že plné předávání údajů od provozovatelů platforem poskytovatelům mediálních obsahu má mimořádný význam, aby tito poskytovatelé mohli lépe porozumět svému publiku a vylepšit služby podle představ publika;

85.  zdůrazňuje, že je důležité navýšit finanční prostředky na program Digitální Evropa, Kreativní Evropa a Horizont Evropa s cílem posílit podporu evropskému audiovizuálnímu odvětví, zejména prostřednictvím kooperativních výzkumných projektů a experimentálních pilotních iniciativ týkajících se vývoje, zavádění a používání technologií etické umělé inteligence;

86.  vyzývá k úzké spolupráci mezi členskými státy při rozvoji programů odborné přípravy zaměřených na rekvalifikaci nebo zvyšování kvalifikace pracovníků, aby byli lépe připraveni na sociální transformaci spojenou s používáním technologií umělé inteligence v audiovizuálním odvětví;

87.  domnívá se, že umělá inteligence má obrovský potenciál přispět k urychlení inovací ve zpravodajském odvětví médií; domnívá se, že rozšíření integrace umělé inteligence, například pokud jde o tvorbu a distribuci obsahu, monitorování komentářů, využívání analýzy dat a odhalování upravených fotografií a videozáznamů, má zásadní význam pro úspory nákladů ve zpravodajských redakcích s ohledem na snížení příjmů z reklamy a pro vyčlenění více zdrojů na podávání zpráv přímo z místa dění, čímž se zvýší kvalita a rozmanitost obsahu;

Dezinformace v on-line prostředí: deepfakes

88.  zdůrazňuje, že je důležité zajistit pluralitu sdělovacích prostředků na internetu i mimo něj, aby byla zaručena kvalita, rozmanitost a spolehlivost dostupných informací;

89.  připomíná, že v boji proti dezinformacím a nepravdivým informacím mají rozhodující význam přesnost, nezávislost, spravedlnost, důvěrnost, lidskost, odpovědnost a transparentnost jakožto hnací síly zásad svobody projevu a přístupu k informacím v on-line i off-line sdělovacích prostředcích;

90.  bere na vědomí důležitou úlohu, již hrají nezávislé sdělovací prostředky v kultuře a každodenním životě občanů; zdůrazňuje, že dezinformace jsou zásadním problémem, neboť neustále porušují autorská práva a práva duševního vlastnictví obecně; vyzývá Komisi, aby ve spolupráci s členskými státy pokračovala ve zvyšování povědomí o tomto problému a aby bojovala proti účinkům dezinformací i proti problémům přímo u zdroje; považuje rovněž za důležité, aby byly vypracovány vzdělávací strategie zaměřené na zdokonalení digitální gramotnosti, které se budou specificky zaměřovat na tento problém;

91.  připomíná, že díky rychle vznikajícím novým technikám může být odhalování falešného a zmanipulovaného obsahu, jako jsou deepfakes, stále náročnější kvůli tomu, že podvodní výrobci jsou schopni vytvářet sofistikované algoritmy, které lze úspěšně naučit, jak se vyhnout odhalení, což představuje závažné narušení našich základních demokratických hodnot; žádá Komisi, aby posoudila dopad umělé inteligence na vytváření deepfakes, zavedla vhodné právní rámce pro jejich vytváření, výrobu nebo distribuci k podvodným účelům a aby kromě jiných iniciativ navrhla doporučená opatření proti jakýmkoli hrozbám, jež umělá inteligence představuje pro svobodné a spravedlivé volby a demokracii;

92.  vítá nedávné iniciativy a projekty, jejichž cílem je zavést účinnější nástroje pro odhalování deepfakes a požadavky na transparentnost; v této souvislosti zdůrazňuje, že jako zásadní krok v boji proti dezinformacím je nutné prozkoumat metody boje proti šíření deepfakes a škodlivého obsahu a do těchto metod investovat; domnívá se, že v tomto ohledu mohou být užitečná řešení založená na umělé inteligenci; žádá proto Komisi, aby u všech materiálů typu deepfake nebo jiných syntetických videí vypadajících realisticky stanovila povinnost uvést, že tyto materiály nejsou původní, jakož i přísné omezení, pokud jsou používány pro volební účely;

93.  je znepokojen tím, že umělá inteligence má stále větší vliv na to, jak jsou nacházeny a konzumovány on-line informace; poukazuje na to, že sociální bubliny omezují rozmanitost názorů a mají negativní dopad na otevřenou společenskou debatu; požaduje proto, aby byla zajištěna transparentnost používání algoritmů ke správě informací prostřednictvím provozovatelů platforem a aby uživatelé získali větší svobodu se rozhodnout, do jaké míry chtějí být příjemci daného druhu informací;

94.  poukazuje na to, že technologie umělé inteligence se již nyní používají v novinářské práci například k produkci textů nebo při analýze velkých souborů údajů v oblasti investigativních rešerší; zdůrazňuje, že při produkci informací relevantních pro celou společnost má zásadní význam, aby automatizovaná novinářská činnost vycházela ze správných a úplných dat, aby se předešlo vytváření nepravdivých informací; zdůrazňuje, že i obsah vytvořený technologiemi umělé inteligence se musí řídit základními zásadami kvalitní novinářské činnosti, jako je redakční kontrola; požaduje, aby texty generované umělou inteligencí byly označeny, a zůstala tak zachována důvěra v novinářskou práci;

95.  zdůrazňuje potenciál umělé inteligence usnadňovat a podporovat mnohojazyčnost prostřednictvím rozvoje jazykových technologií, čímž umožňuje objevování evropského obsahu on-line;

o
o   o

96.  pověřuje svého předsedu, aby předal toto usnesení Radě a Komisi.

(1) Úř. věst. C 202 I, 16.6.2020, s. 1. (2) Úř. věst. C 440, 6.12.2018, s. 37. (3) Úř. věst. C 449, 23.12.2020, s. 37. (4) Úř. věst. C 433, 23.12.2019, s. 42. (5) Úř. věst. C 28, 27.1.2020, s. 8. (6) Úř. věst. C 252, 18.7.2018, s. 239. (7) Úř. věst C 307, 30.8.2018, s. 163. (8) Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1). (9) Směrnice Evropského parlamentu a Rady 2002/58/ES ze dne 12. července 2002 o zpracování osobních údajů a ochraně soukromí v odvětví elektronických komunikací (směrnice o soukromí a elektronických komunikacích) (Úř. věst. L 201, 31.7.2002, s. 37). (10) Zpráva zvláštní zpravodajky OSN pro podporu a ochranu práva na svobodu přesvědčení a projevu, 29. srpna 2018. (11) Směrnice Evropského parlamentu a Rady 2005/36/ES ze dne 7. září 2005 o uznávání odborných kvalifikací (Úř. věst. L 255, 30.9.2005, s. 22). (12) Soudní dvůr Evropské unie, věc C-833/18, SI a Brompton Bicycle Ltd v. Chedech / Get2Get. (13) Směrnice Evropského parlamentu a Rady (EU) 2019/790 ze dne 17. dubna 2019 o autorském právu a právech s ním souvisejících na jednotném digitálním trhu a o změně směrnic 96/9/ES a 2001/29/ES (Úř. věst. L 130, 17.5.2019, s. 92). (14) Nařízení Evropského parlamentu a Rady (EU) 2019/1150 ze dne 20. června 2019 o podpoře spravedlnosti a transparentnosti pro podnikatelské uživatele online zprostředkovatelských služeb (Úř. věst. L 186, 11.7.2019, s. 57). (15) Směrnice Evropského parlamentu a Rady (EU) 2019/2161 ze dne 27. listopadu 2019, kterou se mění směrnice Rady 93/13/EHS a směrnice Evropského parlamentu a Rady 98/6/ES, 2005/29/ES a 2011/83/EU, pokud jde o lepší vymáhání a modernizaci právních předpisů Unie na ochranu spotřebitele (Úř. věst. L 328, 18.12.2019, s. 7). (16) Směrnice Evropského parlamentu a Rady 2000/31/ES ze dne 8. června 2000 o některých právních aspektech služeb informační společnosti, zejména elektronického obchodu, na vnitřním trhu (Úř. věst. L 178, 17.7.2000, s. 1). (17) Směrnice Evropského parlamentu a Rady (EU) 2018/1808 ze dne 14. listopadu 2018, kterou se mění směrnice 2010/13/EU o koordinaci některých právních a správních předpisů členských států upravujících poskytování audiovizuálních mediálních služeb s ohledem na měnící se situaci na trhu (Úř. věst. L 303, 28.11.2018, s. 69).