Seznam 
 Předchozí 
 Další 
 Úplné znění 
Postup : 2021/0106(COD)
Průběh na zasedání
Stadia projednávání dokumentu : A9-0188/2023

Předložené texty :

A9-0188/2023

Rozpravy :

PV 13/06/2023 - 8
CRE 13/06/2023 - 8

Hlasování :

PV 14/06/2023 - 10.6
CRE 14/06/2023 - 10.6
Vysvětlení hlasování
OJ 13/03/2024 - 102

Přijaté texty :

P9_TA(2023)0236

Přijaté texty
PDF 1003kWORD 292k
Středa, 14. června 2023 - Štrasburk
Akt o umělé inteligenci
P9_TA(2023)0236A9-0188/2023

Pozměňovací návrhy přijaté Evropským parlamentem dne 14. června 2023 k návrhu nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty Unie (COM(2021)0206 – C9-0146/2021 – 2021/0106(COD))(1)

(Řádný legislativní postup: první čtení)

Znění navržené Komisí   Pozměňovací návrh
Pozměňovací návrh 1
Návrh nařízení
Právní východisko 4 a (nové)
s ohledem na stanovisko Evropské centrální banky,
Pozměňovací návrh 2
Návrh nařízení
Právní východisko 4 b (nové)
s ohledem na společné stanovisko Evropského sboru pro ochranu údajů a evropského inspektora ochrany údajů,
Pozměňovací návrh 3
Návrh nařízení
Bod odůvodnění 1
(1)  Účelem tohoto nařízení je zlepšit fungování vnitřního trhu stanovením jednotného právního rámce zejména pro vývoj umělé inteligence, její uvádění na trh a využívání v souladu s hodnotami Unie. Toto nařízení sleduje řadu naléhavých důvodů veřejného zájmu, jako je například vysoká úroveň ochrany zdraví, bezpečnosti a základních práv, a zajišťuje volný pohyb zboží a služeb založených na UI přes hranice, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů UI, pokud to není tímto nařízením výslovně povoleno.
(1)  Účelem tohoto nařízení je podporovat zavádění důvěryhodné umělé inteligence zaměřené na člověka a zajistit vysokou úroveň ochrany zdraví, bezpečnosti, základních práv, demokracie a právního státu a životního prostředí před škodlivými účinky systémů umělé inteligence v Unii a zároveň podporovat inovace a zlepšovat fungování vnitřního trhu. Toto nařízení stanoví jednotný právní rámec, zejména pro vývoj, uvádění na trh, uvádění do provozu a používání umělé inteligence v souladu s hodnotami Unie, a zajišťuje volný pohyb zboží a služeb založených na UI přes hranice, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů umělé inteligence (dále jen „systémy UI“), pokud to není tímto nařízením výslovně povoleno. Některé systémy UI mohou mít rovněž dopad na demokracii, právní stát a životní prostředí. Tyto obavy jsou konkrétně řešeny v kritických odvětvích a případech použití uvedených v přílohách tohoto nařízení.
Pozměňovací návrh 4
Návrh nařízení
Bod odůvodnění 1 a (nový)
(1a)  Toto nařízení by mělo zachovávat hodnoty Unie tím, že usnadní rozdělení přínosů umělé inteligence ve společnosti, bude chránit jednotlivce, podniky, demokracii a právní stát a životní prostředí před riziky a současně podpoří inovace a zaměstnanost a zajistí Unii vedoucí postavení v této oblasti.
Pozměňovací návrh 5
Návrh nařízení
Bod odůvodnění 2
(2)  Systémy umělé inteligence (systémy UI) lze snadno uplatnit v řadě hospodářských a společenských odvětví, včetně přeshraničních, a mohou obíhat v celé Unii. Některé členské státy již zkoumají možnost přijetí vnitrostátních pravidel, která by zajišťovala, že umělá inteligence bude bezpečná a že bude vyvíjena a používána v souladu s povinnostmi v oblasti základních práv. Rozdílné vnitrostátní předpisy mohou vést k roztříštěnosti vnitřního trhu a ke snížení právní jistoty pro provozovatele, kteří systémy UI vyvíjejí nebo používají. Proto je třeba zajistit jednotnou a vysokou úroveň ochrany v celé Unii a zároveň zabránit rozdílům, které jsou překážkou volného oběhu systémů UI a souvisejících produktů a služeb na vnitřním trhu, tím, že budou stanoveny jednotné povinnosti provozovatelů a bude zaručena jednotná ochrana naléhavých důvodů obecného zájmu a práv osob na celém vnitřním trhu na základě článku 114 Smlouvy o fungování Evropské unie (dále jen „Smlouva o fungování EU“). V rozsahu, v němž toto nařízení obsahuje zvláštní pravidla ochrany fyzických osob v souvislosti se zpracováním osobních údajů, která se týkají omezení používání systémů UI pro biometrickou identifikaci na dálku v „reálném čase“ na veřejně přístupných místech pro účely prosazování práva, je vhodné, aby se ve vztahu k těmto zvláštním pravidlům zakládalo na článku 16 Smlouvy o fungování EU. S ohledem na tato zvláštní pravidla a na použití článku 16 Smlouvy o fungování EU je vhodné provést konzultace s Evropským sborem pro ochranu osobních údajů.
(2)  Systémy UI lze snadno uplatnit v řadě hospodářských a společenských odvětví, včetně přeshraničních, a mohou obíhat v celé Unii. Některé členské státy již zkoumají možnost přijetí vnitrostátních pravidel, která by zajišťovala, že umělá inteligence bude důvěryhodná a bezpečná a že bude vyvíjena a používána v souladu s povinnostmi v oblasti základních práv. Rozdílné vnitrostátní předpisy mohou vést k roztříštěnosti vnitřního trhu a ke snížení právní jistoty pro provozovatele, kteří systémy UI vyvíjejí nebo používají. Proto je třeba zajistit jednotnou a vysokou úroveň ochrany v celé Unii s cílem dosáhnout důvěryhodné systémy UI a zároveň zabránit rozdílům, které jsou překážkou volného oběhu, inovací, zavádění a využívání systémů UI a souvisejících produktů a služeb na vnitřním trhu, tím, že budou stanoveny jednotné povinnosti provozovatelů a bude zaručena jednotná ochrana naléhavých důvodů obecného zájmu a práv osob na celém vnitřním trhu na základě článku 114 Smlouvy o fungování Evropské unie (dále jen „Smlouva o fungování EU“).
Pozměňovací návrh 6
Návrh nařízení
Bod odůvodnění 2 a (nový)
(2a)  Vzhledem k tomu, že umělá inteligence často závisí na zpracování velkého objemu dat a mnohé systémy UI a jejich aplikace závisí na zpracování osobních údajů, je vhodné, aby se toto nařízení zakládalo na článku 16 Smlouvy o fungování EU, který zakotvuje právo fyzických osob na ochranu jejich osobních údajů a stanoví přijetí pravidel o ochraně fyzických osob v souvislosti se zpracováním osobních údajů.
Pozměňovací návrh 7
Návrh nařízení
Bod odůvodnění 2 b (nový)
(2b)  Základní právo na ochranu osobních údajů je chráněno zejména nařízeními (EU) 2016/679 a (EU) 2018/1725 a směrnicí 2016/680. Směrnice 2002/58/ES navíc chrání soukromý život a důvěrný charakter sdělení a stanoví podmínky pro uchovávání jakýchkoli osobních a neosobních údajů v koncovém zařízení a také podmínky pro přístup k těmto údajům z tohoto zařízení. Tyto právní akty poskytují základ pro udržitelné a odpovědné zpracování údajů, včetně případů, kdy datové soubory zahrnují kombinaci osobních a neosobních údajů. Tímto nařízením není dotčeno uplatňování stávajících právních předpisů Unie upravujících zpracování osobních údajů, včetně úkolů a pravomocí nezávislých dozorových úřadů příslušných pro sledování dodržování těchto nástrojů. Tímto nařízením nejsou dotčena základní práva na soukromý život a ochranu osobních údajů stanovená právními předpisy Unie o ochraně údajů a soukromí a zakotvená v Listině základních práv Evropské unie (dále jen „Listina“).
Pozměňovací návrh 8
Návrh nařízení
Bod odůvodnění 2 c (nový)
(2c)  Systémy umělé inteligence v Unii podléhají příslušným právním předpisům o bezpečnosti výrobků, které poskytují rámec pro ochranu spotřebitelů před nebezpečnými výrobky obecně, a tyto právní předpisy by se měly nadále uplatňovat. Tímto nařízením nejsou dotčena ani pravidla stanovená jinými právními akty Unie týkajícími se ochrany spotřebitele a bezpečnosti výrobků, včetně nařízení (EU) 2017/2394, nařízení (EU) 2019/1020 a směrnice 2001/95/ES o obecné bezpečnosti výrobků a směrnice 2013/11/EU.
Pozměňovací návrh 9
Návrh nařízení
Bod odůvodnění 2 d (nový)
(2d)  V souladu s čl. 114 odst. 2 Smlouvy o fungování EU toto nařízení doplňuje práva a zájmy zaměstnanců, přičemž by je nemělo žádným způsobem oslabovat. Tímto nařízením by tudíž nemělo být dotčeno právo Unie v oblasti sociální politiky a vnitrostátní pracovní právo a praxe, tj. jakákoli právní a smluvní ustanovení týkající se podmínek zaměstnávání, pracovních podmínek, včetně bezpečnosti a ochrany zdraví při práci, a vztahů mezi zaměstnavateli a zaměstnanci, včetně informování, konzultování a účasti. Tímto nařízením by neměl být dotčen výkon základních práv uznávaných členskými státy a na úrovni Unie, včetně práva na stávku nebo práva přijmout jiná opatření na základě zvláštních systémů členských států v oblasti pracovněprávních vztahů, a to v souladu s vnitrostátním právem a/nebo zvyklostmi. Neměla by jím být dotčena ani jednání ve vzájemné shodě, právo sjednávat, uzavírat a prosazovat kolektivní smlouvy nebo podnikat kolektivní akce v souladu s vnitrostátními právními předpisy nebo zvyklostmi. V žádném případě by Komisi nemělo bránit v tom, aby navrhla zvláštní právní předpisy týkající se práv a svobod pracovníků dotčených systémy UI.
Pozměňovací návrh 10
Návrh nařízení
Bod odůvodnění 2 e (nový)
(2e)  Tímto nařízením by neměla být dotčena ustanovení, jejichž účelem je zlepšit pracovní podmínky při práci prostřednictvím platforem stanovená ve směrnici ... [COD 2021/414/ES].
Pozměňovací návrh 11
Návrh nařízení
Bod odůvodnění 2 f (nový)
(2f)  Toto nařízení by mělo pomoci při podpoře výzkumu a inovací, nemělo by oslabovat činnost v oblasti výzkumu a vývoje a mělo by respektovat svobodu vědeckého výzkumu. Je proto nezbytné vyloučit z oblasti jeho působnosti systémy UI speciálně vyvinuté výhradně za účelem vědeckého výzkumu a vývoje a zajistit, aby nařízení žádným jiným způsobem neovlivnilo činnost v oblasti vědeckého výzkumu a vývoje systémů UI. Veškerá činnost v oblasti výzkumu a vývoje by měla za všech okolností probíhat v souladu s Listinou, právem Unie a vnitrostátním právními předpisy.
Pozměňovací návrh 12
Návrh nařízení
Bod odůvodnění 3
(3)  Umělá inteligence je rychle se vyvíjející skupina technologií, které mohou přispět k široké škále hospodářských a společenských přínosů v celém spektru průmyslových odvětví a sociálních aktivit. Díky zlepšení predikcí, optimalizaci provozu a přidělování zdrojů a personalizaci digitálních řešení dostupných pro jednotlivce a organizace může využívání umělé inteligence poskytnout společnostem klíčové konkurenční výhody a podpořit sociálně a environmentálně prospěšné výsledky, například v oblasti zdravotnictví, zemědělství, vzdělávání a odborné přípravy, správy infrastruktury, energetiky, dopravy a logistiky, veřejných služeb, bezpečnosti, spravedlnosti, účinného využívání zdrojů a energetické účinnosti a zmírňování změny klimatu a přizpůsobování se této změně.
(3)  Umělá inteligence je rychle se vyvíjející skupina technologií, které mohou přispět a již přispívají dosažení široké škály hospodářských, environmentálních a společenských přínosů v celém spektru průmyslových odvětví a sociálních aktivit, pokud jsou vyvíjeny v souladu s příslušnými základními zásadami Listiny a s hodnotami, na nichž je Unie založena. Díky zlepšení predikcí, optimalizaci provozu a přidělování zdrojů a personalizaci digitálních řešení dostupných pro jednotlivce a organizace může využívání umělé inteligence poskytnout společnostem klíčové konkurenční výhody a podpořit sociálně a environmentálně prospěšné výsledky, například v oblasti zdravotnictví, zemědělství, bezpečnosti potravin, vzdělávání a odborné přípravy, sdělovacích prostředků, sportu a kultury, správy infrastruktury, energetiky, dopravy a logistiky, řízení krizí, veřejných služeb, bezpečnosti, spravedlnosti, účinného využívání zdrojů a energetické účinnosti, monitorování životního prostředí, ochrany a obnovu biologické rozmanitosti a ekosystémů a zmírňování změny klimatu a přizpůsobování se této změně.
Pozměňovací návrh 13
Návrh nařízení
Bod odůvodnění 3 a (nový)
(3a)  S cílem přispět k dosažení cílů v oblasti uhlíkové neutrality by evropské společnosti měly usilovat o využití veškerého dostupného technického pokroku, který může ke splnění tohoto cíle napomoci. Umělá inteligence je technologie, která má potenciál k tomu, aby byla využita při zpracovávání neustále rostoucího množství dat vytvářených v průběhu průmyslových, environmentálních, zdravotnických a jiných procesů. Aby se usnadnily investice do analytických a optimalizačních nástrojů založených na UI, mělo by toto nařízení zajistit předvídatelné přiměřené prostředí pro nízkoriziková průmyslová řešení.
Pozměňovací návrh 14
Návrh nařízení
Bod odůvodnění 4
(4)  Umělá inteligence může zároveň v závislosti na okolnostech týkajících se jejího konkrétního uplatňování a využívání vytvářet rizika a působit újmu veřejným zájmům a právům, které jsou chráněny právem Unie. Tato újma může být hmotná nebo nehmotná.
(4)  Umělá inteligence může zároveň v závislosti na okolnostech týkajících se jejího konkrétního uplatňování a využívání, jakož i úrovně technologického vývoje, vytvářet rizika a působit újmu veřejným nebo soukromým zájmům a základním právům fyzických osob, které jsou chráněny právem Unie. Tato újma může být hmotná nebo nehmotná, včetně fyzické, psychické, společenské nebo ekonomické újmy.
Pozměňovací návrh 15
Návrh nařízení
Bod odůvodnění 4 a (nový)
(4a)  Vzhledem k velkému dopadu, který může mít umělá inteligence na společnost, a potřebě budovat důvěru je nezbytné, aby umělá inteligence a její regulační rámec byly rozvíjeny v souladu s hodnotami Unie zakotvenými v článku 2 SEU, základními právy a svobodami zakotvenými ve Smlouvách, Listině a mezinárodních právních předpisech v oblasti lidských práv. Základním předpokladem je, aby byla umělá inteligence technologií zaměřenou na člověka. Neměla by nahrazovat lidskou autonomii ani s sebou nést ztrátu osobní svobody a měla by sloužit především potřebám společnosti a obecnému blahu. Měly by být poskytnuty záruky, které zajistí rozvoj a používání eticky zakotvené umělé inteligence, která respektuje hodnoty Unie a Listinu.
Pozměňovací návrh 16
Návrh nařízení
Bod odůvodnění 5
(5)  Je proto nezbytné zavést právní rámec Unie, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci, s cílem podpořit vývoj, využívání a zavádění umělé inteligence na vnitřním trhu, který by zároveň splňoval vysokou úroveň ochrany veřejných zájmů, jako je například zdraví, bezpečnost a ochrana základních práv, která jsou uznávána a chráněna právem Unie. K dosažení tohoto cíle by měla být stanovena pravidla, která budou regulovat uvádění určitých systémů UI na trh a do provozu a tím zajišťovat bezproblémové fungování vnitřního trhu a umožňovat, aby tyto systémy měly prospěch ze zásady volného pohybu zboží a služeb. Stanovením těchto pravidel toto nařízení podporuje cíl Unie zastávat v celosvětovém kontextu čelnou pozici, pokud jde o rozvoj bezpečné, důvěryhodné a etické umělé inteligence, který vytyčila Evropská rada33, a zajišťuje ochranu etických zásad, kterou výslovně požadoval Evropský parlament34.
(5)  Je proto nezbytné zavést právní rámec Unie, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci, s cílem podpořit vývoj, využívání a zavádění umělé inteligence na vnitřním trhu, který by zároveň splňoval vysokou úroveň ochrany veřejných zájmů, jako je například zdraví, bezpečnost, ochrana základních práv, demokracie a právního státu a životního prostředí, která jsou uznávána a chráněna právem Unie. K dosažení tohoto cíle by měla být stanovena pravidla, která budou v případě určitých systémů UI regulovat jejich uvádění na trh a do provozu a jejich používání, a tím zajišťovat bezproblémové fungování vnitřního trhu a umožňovat, aby tyto systémy měly prospěch ze zásady volného pohybu zboží a služeb. Tato pravidla by měla být jasná a spolehlivá, pokud jde o ochranu základních práv, podporu nových inovativních řešení a umožnění evropského ekosystému veřejných a soukromých subjektů vytvářejících systémy UI v souladu s hodnotami Unie. Stanovením těchto pravidel a rovněž opatření na podporu inovací se zvláštním zaměřením na malé a střední podniky a začínající podniky podporuje toto nařízení cíl, kterým je podpora UI vyrobené v Evropě a čelná pozice Unie v celosvětovém kontextu, pokud jde o rozvoj bezpečné, důvěryhodné a etické umělé inteligence, jak vytyčila Evropská rada33, a zajišťuje ochranu etických zásad, kterou výslovně požadoval Evropský parlament34.
__________________
__________________
33 Evropská rada, mimořádné zasedání Evropské rady (1. a 2. října 2020) – závěry, EUCO 13/20, 2020, s. 6.
33 Evropská rada, mimořádné zasedání Evropské rady (1. a 2. října 2020) – závěry, EUCO 13/20, 2020, s. 6.
34 Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k rámci pro etické aspekty umělé inteligence, robotiky a souvisejících technologií, 2020/2012(INL).
34 Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k rámci pro etické aspekty umělé inteligence, robotiky a souvisejících technologií, 2020/2012(INL).
Pozměňovací návrh 17
Návrh nařízení
Bod odůvodnění 5 a (nový)
(5a)  Dále je v zájmu podpory rozvoje systémů UI v souladu s hodnotami Unie třeba, aby se Unie zabývala hlavními nedostatky a překážkami, které brání využití potenciálu digitální transformace, včetně nedostatku digitálně kvalifikovaných pracovníků, obav v oblasti kybernetické bezpečnosti, nedostatečných investic a nedostatečného přístupu k investicím i stávajících a potenciálních rozdílů mezi velkými společnostmi a MSP a začínajícími podniky. Zvláštní pozornost by se měla věnovat zajištění toho, aby byl přínos UI a inovací v oblasti nových technologií pociťován ve všech regionech Unie a aby byly poskytnuty dostatečné investice a zdroje zejména těm regionům, které mohou v některých digitálních ukazatelích zaostávat.
Pozměňovací návrh 18
Návrh nařízení
Bod odůvodnění 6
(6)  Je třeba jednoznačně definovat pojem „systém UI“ s cílem zajistit právní jistotu a zároveň poskytnout flexibilitu umožňující přizpůsobit se budoucímu technologickému vývoji. Tato definice by měla být založena na klíčových funkčních vlastnostech tohoto softwaru, zejména na jeho schopnosti generovat pro danou sadu člověkem definovaných cílů výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí, které ovlivňují prostředí, s nímž systém komunikuje, ať už ve fyzické, nebo digitální dimenzi. Systémy UI mohou být navrženy tak, aby fungovaly s různou úrovní samostatnosti a aby mohly být použity buď samostatně, nebo jako součást určitého produktu bez ohledu na to, zda je systém do tohoto produktu fyzicky zabudován (vestavěný systém), nebo zda napomáhá funkčnosti tohoto produktu, aniž by do něho byl zabudován (nevestavěný systém). Definici systému UI by měl doplňovat seznam konkrétních technik a přístupů využívaných při jeho vývoji, který by měl být průběžně aktualizován s ohledem na vývoj trhu a technologií prostřednictvím přijímání aktů v přenesené pravomoci Komisí za účelem změny uvedeného seznamu.
(6)  Pojem „systém UI“ v tomto nařízení by měl být jasně definován a úzce sladěn s činností mezinárodních organizací zabývajících se umělou inteligencí, aby byla zajištěna právní jistota, harmonizace a široké přijetí a současně poskytnuta flexibilita umožňující přizpůsobit se rychlému technologickému vývoji v této oblasti. Mimo to by tato definice měla být založena na klíčových vlastnostech umělé inteligence, jako je její schopnost učení, uvažování nebo modelování, a měla by ji odlišit od jednodušších softwarových systémů a programovacích přístupů. Systémy UI jsou navrženy tak, aby fungovaly s různou úrovní samostatnosti, což znamená, že mají alespoň určitou míru nezávislosti činností na lidské kontrole a schopnosti fungovat bez lidského zásahu. Pojem „strojové“ odkazuje na skutečnost, že systémy UI fungují prostřednictvím strojů. Odkaz na explicitní nebo implicitní cíle zdůrazňuje, že systémy UI mohou fungovat na základě explicitních cílů definovaných člověkem nebo implicitních cílů. Cíle systému UI se mohou v konkrétním kontextu lišit od jeho zamýšleného účelu. Odkaz na predikce zahrnuje obsah, který je v tomto nařízení považován za formu predikce jakožto jeden z možných výstupů systému UI. Pro účely tohoto nařízení by se prostředím měl rozumět kontext, v němž systém UI funguje, zatímco výstupy generované systémem UI, tj. predikce, doporučení nebo rozhodnutí, odpovídají cílům systému na základě vstupů z uvedeného prostředí. Takový výstup dále ovlivňuje uvedené prostředí, a to i tím, že do něj pouze vkládá nové informace.
Pozměňovací návrh 19
Návrh nařízení
Bod odůvodnění 6 a (nový)
(6a)  Systémy UI mají často schopnosti strojového učení, které jim umožňují, aby se adaptovaly a prováděly nové úkoly samostatně. Strojovým učením se rozumí výpočetní proces optimalizace parametrů modelu z dat, což je matematický koncept vytvářející výstup na základě vstupních údajů. Přístupy strojového učení zahrnují např. učení s učitelem, bez učitele a posilované učení, a to za využití celé řady metod včetně hlubokého učení neuronových sítí. Cílem tohoto nařízení je řešit nová potenciální rizika, která mohou vzniknout v důsledku přenesení kontroly na systémy UI, zejména na ty systémy UI, které se mohou po zavedení vyvíjet. Funkce a výstupy mnoha z těchto systémů UI jsou založeny na abstraktních matematických vztazích, které je pro člověka obtížné pochopit a monitorovat a u nichž je těžké zpětně vysledovat konkrétní vstupy. Tyto složité a nejasné vlastnosti (prvek „černé skříňky“) mají dopad na odpovědnost a vysvětlitelnost. Srovnatelně jednodušší techniky, jako jsou přístupy založené na znalostech, bayesovském odhadování nebo rozhodovacích stromech, mohou rovněž vést k právním mezerám, které je třeba řešit v tomto nařízení, zejména pokud jsou používány v kombinaci s přístupy strojového učení v hybridních systémech.
Pozměňovací návrh 20
Návrh nařízení
Bod odůvodnění 6 b (nový)
(6b)  Systémy UI lze používat jako samostatný softwarový systém, který je integrován do fyzického produktu (vestavěný), mohou být používány k plnění funkčnosti fyzického produktu, aniž by do něj byly zabudovány (nevestavěný), nebo je lze používat jako součást UI v rámci většího systému. Pokud by tento větší systém nefungoval bez dotyčné součásti UI, měl by být celý větší systém považován podle tohoto nařízení za jediný systém UI.
Pozměňovací návrh 21
Návrh nařízení
Bod odůvodnění 7
(7)  Pojem „biometrické údaje“ používaný v tomto nařízení je v souladu s pojmem „biometrické údaje“ definovaným v čl. 4 bodu 14 nařízení Evropského parlamentu a Rady (EU) 2016/67935, v čl. 3 bodu 18 nařízení Evropského parlamentu a Rady (EU) 2018/172536 a v čl. 3 bodu 13 směrnice Evropského parlamentu a Rady (EU) 2016/68037 a měl by být vykládán konzistentně s nimi.
(7)  Pojem „biometrické údaje“ používaný v tomto nařízení je v souladu s pojmem „biometrické údaje“ definovaným v čl. 4 bodu 14 nařízení Evropského parlamentu a Rady (EU) 2016/67935. Biometrické údaje jsou dodatečné údaje vyplývající ze specifického technického zpracování souvisejícího s fyzickými, fyziologickými nebo behaviorálními signály fyzické osoby, jako jsou výrazy obličeje, pohyby, tepová frekvence, hlas, stisky kláves nebo chůze, které mohou nebo nemusí umožnit nebo potvrdit jedinečnou identifikaci fyzické osoby.
__________________
__________________
35 Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).
35 Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).
36 Nařízení Evropského parlamentu a Rady (EU) 2018/1725 ze dne 23. října 2018 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů orgány, institucemi a jinými subjekty Unie a o volném pohybu těchto údajů a o zrušení nařízení (ES) č. 45/2001 a rozhodnutí č. 1247/2002/ES (Úř. věst. L 295, 21.11.2018, s. 39).
37 Směrnice Evropského parlamentu a Rady (EU) 2016/680 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů příslušnými orgány za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, o volném pohybu těchto údajů a o zrušení rámcového rozhodnutí Rady 2008/977/SVV (směrnice o prosazování práva) (Úř. věst. L 119, 4.5.2016, s. 89).
Pozměňovací návrh 22
Návrh nařízení
Bod odůvodnění 7 a (nový)
(7a)  Je třeba, aby byl pojem „biometrická identifikace“ používaný v tomto nařízení definován jako automatizované rozpoznání fyzických, fyziologických, behaviorálních a psychických lidských vlastností, jako jsou obličej, pohyb očí, výrazy obličeje, tvar těla, hlas, mluva, chůze, držení těla, srdeční frekvence, krevní tlak, zápach, stisk kláves, psychologické reakce (hněv, úzkost, zármutek atd.), pro účely ověření totožnosti jednotlivce porovnáním biometrických údajů dané osoby s uloženými biometrickými údaji jednotlivců v databázi (identifikace jednoho z mnoha, tj. porovnáním údajů ostatních), a to bez ohledu na to, zda daný jedinec poskytl svůj souhlas či nikoli.
Pozměňovací návrh 23
Návrh nařízení
Bod odůvodnění 7 b (nový)
(7b)  Je třeba, aby byl pojem „biometrická kategorizace“ používaný v tomto nařízení definován jako zařazení fyzických osob do určitých kategorií nebo odvození jejich vlastností nebo atributů, jako je gender, pohlaví, věk, barva vlasů, barva očí, tetování, etnický nebo sociální původ, zdravotní, duševní nebo fyzické schopnosti, behaviorální nebo osobnostní znaky, jazyk, náboženské vyznání nebo příslušnost k národnostní menšině nebo sexuální či politická orientace, a to na základě jejich biometrických údajů nebo údajů vycházejících z biometrických údajů nebo toho, co lze z těchto údajů odvodit.
Pozměňovací návrh 24
Návrh nařízení
Bod odůvodnění 8
(8)  Pojem „systém biometrické identifikace na dálku“ používaný v tomto nařízení by měl být definován funkčně jako systém UI určený k identifikaci fyzických osob na dálku prostřednictvím porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi a bez předchozích znalostí, zda bude cílová osoba přítomna a zda ji bude možné identifikovat, bez ohledu na konkrétní technologii, procesy nebo typy použitých biometrických údajů. Vzhledem k jejich různým vlastnostem a způsobům, jimiž jsou používány, jakož i různým souvisejícím rizikům, je třeba rozlišovat mezi systémy biometrické identifikace na dálku, která probíhá „v reálném čase“ a „zpětně“. V případě systémů provádějících identifikaci „v reálném čase“ probíhá jak zaznamenání biometrických údajů, tak porovnání a identifikace okamžitě, téměř okamžitě nebo v každém případě bez významného zpoždění. V tomto ohledu by neměl existovat žádný prostor pro obcházení pravidel tohoto nařízení o používání dotčených systémů UI „v reálném čase“ stanovením menších zpoždění. Systémy fungující „v reálném čase“ zahrnují použití materiálu „živě“ nebo jen „s malým časovým posunem“ jako jsou například videozáznamy generované kamerou nebo jiným zařízením s podobnými funkcemi. Naproti tomu v případě systémů, ve kterých identifikace probíhá „zpětně,“ dochází k porovnání a identifikaci zachycených údajů až se značným zpožděním. Jedná se o materiály, jako jsou například fotografie nebo videozáznamy generované kamerami s uzavřeným televizním okruhem nebo soukromými zařízeními, které byly vytvořeny před použitím tohoto systému ve vztahu k dotčeným fyzickým osobám.
(8)  Pojem „systém biometrické identifikace na dálku“ používaný v tomto nařízení by měl být definován funkčně jako systém UI určený k identifikaci fyzických osob na dálku prostřednictvím porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi a bez předchozích znalostí, zda bude cílová osoba přítomna a zda ji bude možné identifikovat, bez ohledu na konkrétní technologii, procesy nebo typy použitých biometrických údajů, a to s vyloučením ověřovacích systémů, jež pouze porovnávají biometrické údaj jednotlivce s údaji, které tento jednotlivec dříve poskytl (identifikace jedna k jedné). V případě systémů provádějících identifikaci „v reálném čase“ probíhá jak zaznamenání biometrických údajů, tak porovnání a identifikace okamžitě, téměř okamžitě nebo v každém případě bez významného zpoždění. V tomto ohledu by neměl existovat žádný prostor pro obcházení pravidel tohoto nařízení o používání dotčených systémů UI „v reálném čase“ stanovením menších zpoždění. Systémy fungující „v reálném čase“ zahrnují použití materiálu „živě“ nebo jen „s malým časovým posunem“ jako jsou například videozáznamy generované kamerou nebo jiným zařízením s podobnými funkcemi. Systémy fungující „v reálném čase“ zahrnují použití materiálu „živě“ nebo jen „s malým časovým posunem“ jako jsou například videozáznamy generované kamerou nebo jiným zařízením s podobnými funkcemi Naproti tomu v případě systémů, ve kterých identifikace probíhá „zpětně,“ dochází k porovnání a identifikaci zachycených údajů až se značným zpožděním. Jedná se o materiály, jako jsou například fotografie nebo videozáznamy generované kamerami s uzavřeným televizním okruhem nebo soukromými zařízeními, které byly vytvořeny před použitím tohoto systému ve vztahu k dotčeným fyzickým osobám. Jelikož biometrická identifikace nezávisí souhlasu dotčeného jednotlivce,, použije se tato definice i v případě, že varovná upozornění jsou umístěna v místě, které je sledováno systémem biometrické identifikace na dálku, a není de facto zrušena předběžným zanesením.
Pozměňovací návrh 25
Návrh nařízení
Bod odůvodnění 8 a (nový)
(8a)  Identifikace fyzických osob na dálku je chápána tak, že se odlišují systémy biometrické identifikace na dálku od systémů ověřování totožnosti jednotlivce v těsné blízkosti používajících prostředky pro biometrickou identifikaci, jejichž jediným účelem je potvrdit, zda je povolena konkrétní fyzická osoba, která se k identifikaci dostaví, například za účelem získání přístupu ke službě, zařízení nebo prostorám.
Pozměňovací návrh 26
Návrh nařízení
Bod odůvodnění 9
(9)  Pro účely tohoto nařízení by se pod pojmem „veřejně přístupné místo“ mělo rozumět jakékoli fyzické místo, které je přístupné veřejnosti, bez ohledu na to, zda je dané místo v soukromém nebo veřejném vlastnictví. Tento pojem proto nezahrnuje místa, která jsou soukromé povahy a obvykle nejsou volně přístupná třetím stranám, včetně donucovacích orgánů, pokud k tomu tyto strany nebyly výslovně vyzvány nebo oprávněny, jako jsou například domácnosti, soukromé kluby, kanceláře, sklady a továrny. Tento pojem nezahrnuje ani on-line prostory, protože se nejedná o prostory fyzické. Pouhá skutečnost, že pro přístup do konkrétního prostoru může být nezbytné splnění určitých podmínek, jako jsou například vstupenky nebo věková omezení, však neznamená, že daný prostor není veřejně přístupný ve smyslu tohoto nařízení. V důsledku toho jsou kromě veřejných prostor, jako jsou ulice, příslušné části státních budov a většina dopravní infrastruktury, zpravidla veřejně přístupné také prostory jako kina, divadla, obchody a nákupní centra. To, zda je daný prostor přístupný veřejnosti, by však mělo být určováno případ od případu s ohledem na zvláštnosti dané konkrétní situace.
(9)  Pro účely tohoto nařízení by se pod pojmem „veřejně přístupné místo“ mělo rozumět jakékoli fyzické místo, které je přístupné veřejnosti, bez ohledu na to, zda je dané místo v soukromém nebo veřejném vlastnictví, a bez ohledu na případná omezení kapacity. Tento pojem proto nezahrnuje místa, která jsou soukromé povahy a obvykle nejsou volně přístupná třetím stranám, včetně donucovacích orgánů, pokud k tomu tyto strany nebyly výslovně vyzvány nebo oprávněny, jako jsou například domácnosti, soukromé kluby, kanceláře, sklady a továrny. Tento pojem nezahrnuje ani on-line prostory, protože se nejedná o prostory fyzické. Pouhá skutečnost, že pro přístup do konkrétního prostoru může být nezbytné splnění určitých podmínek, jako jsou například vstupenky nebo věková omezení, však neznamená, že daný prostor není veřejně přístupný ve smyslu tohoto nařízení. V důsledku toho jsou kromě veřejných prostor, jako jsou ulice, příslušné části státních budov a většina dopravní infrastruktury, zpravidla veřejně přístupné také prostory jako kina, divadla, sportoviště, školy, univerzity, příslušné části nemocnic a bank, zábavní parky, festivaly, obchody a nákupní centra. To, zda je daný prostor přístupný veřejnosti, by však mělo být určováno případ od případu s ohledem na zvláštnosti dané konkrétní situace.
Pozměňovací návrh 27
Návrh nařízení
Bod odůvodnění 9 a (nový)
(9a)  Je důležité poukázat na to, že by systémy UI měly vyvíjet maximální úsilí o dodržování obecných zásad, na nichž se zakládá rámec na vysoké úrovni, který v souladu s Listinou základních práv Evropské unie a s hodnotami, na nichž je Unie založena, včetně ochrany základních práv, lidské činnosti a dohledu ze strany člověka, technické propracovanosti a bezpečnosti, soukromí a správy údajů, transparentnosti, zákazu diskriminace, spravedlnosti a blaha společnosti a životního prostředí, prosazuje ucelený přístup k etické a důvěryhodné UI, který se zaměřuje na člověku.
Pozměňovací návrh 28
Návrh nařízení
Bod odůvodnění 9 b (nový)
(9b)  „Gramotnost v oblasti umělé inteligence“ odkazuje na dovednosti, znalosti a chápání, které poskytovatelům, uživatelům a dotyčným osobám umožňují, aby s přihlédnutím k jejich příslušným právům a povinnostem v souvislosti s tímto nařízením zaváděli systémy UI informovaným způsobem a aby si byli vědomi možností a rizik spojených s UI a možnými škodami, které může způsobit, a prosazovaly proto její demokratickou kontrolu. Gramotnost v oblasti umělé inteligence by se neměla omezovat na poznatky týkající se nástrojů a technologií, ale jejím cílem by mělo být také to, aby se poskytovatelům a uživatelům dostalo poznatků a dovedností, které by zajistily dodržování a prosazování tohoto nařízení. Je proto nezbytné, aby Komise, členské státy a poskytovatelé a uživatelé systémů UI podporovali ve spolupráci se všemi příslušnými zúčastněnými stranami vývoj dostatečné míry gramotnosti v oblasti umělé inteligence, a to ve všech částech společnosti, u osob všeho věku, včetně žen a dívek, a aby se důsledně sledovalo, jakého pokroku bylo v tomto směru dosaženo.
Pozměňovací návrh 29
Návrh nařízení
Bod odůvodnění 10
(10)  V zájmu zajištění rovných podmínek a účinné ochrany práv a svobod jednotlivců v celé Unii by se pravidla stanovená tímto nařízením měla vztahovat na poskytovatele systémů UI nediskriminačním způsobem bez ohledu na to, zda jsou usazeni v Unii nebo ve třetí zemi, a na uživatele systémů UI usazené v Unii.
(10)  V zájmu zajištění rovných podmínek a účinné ochrany práv a svobod jednotlivců v celé Unii a na mezinárodní úrovni by se pravidla stanovená tímto nařízením měla vztahovat na poskytovatele systémů UI nediskriminačním způsobem bez ohledu na to, zda jsou usazeni v Unii nebo ve třetí zemi, a na provozovatele systémů UI usazené v Unii. Aby byla Unie věrná svým základním hodnotám, měly by být systémy UI určené k použití pro postupy, které jsou podle tohoto nařízení považovány za nepřijatelné, rovněž považovány za nepřijatelné mimo Unii z důvodu jejich obzvláště škodlivého účinku na základní práva zakotvená v Listině. Je proto vhodné zakázat vývoz těchto systémů UI do třetích zemí poskytovateli usazenými v Unii.
Pozměňovací návrh 30
Návrh nařízení
Bod odůvodnění 11
(11)  Do oblasti působnosti tohoto nařízení by měly spadat i určité systémy UI s ohledem na svou digitální povahu, i když nejsou uvedeny ani na trh, ani do provozu, ani nejsou používány v Unii. Jedná se například o provozovatele usazeného v Unii, který smluvně zadává určité služby provozovateli usazenému mimo Unii v souvislosti s činností, kterou má provádět systém UI, jejž by bylo možno označit jako vysoce rizikový a jehož účinky mají dopad na fyzické osoby nacházející se v Unii. Za těchto okolností by systém UI používaný provozovatelem mimo Unii mohl zpracovávat údaje zákonně shromážděné v Unii a převáděné z Unie a poskytovat zadávajícímu provozovateli v Unii výstup z tohoto systému UI vyplývající z tohoto zpracování, aniž by byl tento systém UI uveden na trh nebo do provozu v Unii nebo v ní byl používán. Aby se předešlo obcházení tohoto nařízení a aby byla zajištěna účinná ochrana fyzických osob nacházejících se v Unii, mělo by se toto nařízení vztahovat také na poskytovatele a uživatele systémů UI, kteří jsou usazeni ve třetí zemi, v rozsahu, v jakém jsou výstupy vytvořené těmito systémy používány v Unii. S ohledem na již existující ujednání a na zvláštní potřeby spolupráce se zahraničními partnery, s nimiž probíhá výměna informací a důkazů, by se však toto nařízení nemělo vztahovat na veřejné orgány třetí země a na mezinárodní organizace, pokud jednají v rámci mezinárodních dohod týkajících se prosazování práva a justiční spolupráce s Unií nebo s jejími členskými státy, uzavřených na vnitrostátní nebo evropské úrovni. Tyto dohody byly uzavřeny dvoustranně mezi členskými státy a třetími zeměmi nebo mezi Evropskou unií, Europolem a dalšími agenturami EU a třetími zeměmi a mezinárodními organizacemi.
(11)  Do oblasti působnosti tohoto nařízení by měly spadat i určité systémy UI s ohledem na svou digitální povahu, i když nejsou uvedeny ani na trh, ani do provozu, ani nejsou používány v Unii. Jedná se například o provozovatele usazeného v Unii, který smluvně zadává určité služby provozovateli usazenému mimo Unii v souvislosti s činností, kterou má provádět systém UI, jejž by bylo možno označit jako vysoce rizikový a jehož účinky mají dopad na fyzické osoby nacházející se v Unii. Za těchto okolností by systém UI používaný provozovatelem mimo Unii mohl zpracovávat údaje zákonně shromážděné v Unii a převáděné z Unie a poskytovat zadávajícímu provozovateli v Unii výstup z tohoto systému UI vyplývající z tohoto zpracování, aniž by byl tento systém UI uveden na trh nebo do provozu v Unii nebo v ní byl používán. Aby se předešlo obcházení tohoto nařízení a aby byla zajištěna účinná ochrana fyzických osob nacházejících se v Unii, mělo by se toto nařízení vztahovat také na poskytovatele, uživatele a provozovatele systémů UI, kteří jsou usazeni ve třetí zemi, v rozsahu, v jakém jsou výstupy vytvořené těmito systémy zamýšleny k používání v Unii. S ohledem na již existující ujednání a na zvláštní potřeby spolupráce se zahraničními partnery, s nimiž probíhá výměna informací a důkazů, by se však toto nařízení nemělo vztahovat na veřejné orgány třetí země a na mezinárodní organizace, pokud jednají v rámci mezinárodních dohod týkajících se prosazování práva a justiční spolupráce s Unií nebo s jejími členskými státy, uzavřených na vnitrostátní nebo evropské úrovni. Tyto dohody byly uzavřeny dvoustranně mezi členskými státy a třetími zeměmi nebo mezi Evropskou unií, Europolem a dalšími agenturami EU a třetími zeměmi a mezinárodními organizacemi. Tato výjimka by však měla být omezena na důvěryhodné země a mezinárodní organizace, které sdílejí hodnoty Unie.
Pozměňovací návrh 31
Návrh nařízení
Bod odůvodnění 12
(12)  Toto nařízení by se mělo vztahovat také na instituce, úřady, orgány a agentury Unie, pokud jednají jako poskytovatel nebo uživatel systému UI. Systémy UI vyvinuté nebo používané výhradně pro vojenské účely by měly být z oblasti působnosti tohoto nařízení vyloučeny, pokud toto použití spadá do výlučné působnosti společné zahraniční a bezpečnostní politiky upravené v hlavě V Smlouvy o EU (SEU). Tímto nařízením by neměla být dotčena ustanovení týkající se odpovědnosti poskytovatelů zprostředkovatelských služeb stanovená ve směrnici Evropského parlamentu a Rady 2000/31/ES [ve znění aktu o digitálních službách].
(12)  Toto nařízení by se mělo vztahovat také na instituce, úřady, orgány a agentury Unie, pokud jednají jako poskytovatel nebo provozovatel systému UI. Systémy UI vyvinuté nebo používané výhradně pro vojenské účely by měly být z oblasti působnosti tohoto nařízení vyloučeny, pokud toto použití spadá do výlučné působnosti společné zahraniční a bezpečnostní politiky upravené v hlavě V Smlouvy o EU (SEU). Tímto nařízením by neměla být dotčena ustanovení týkající se odpovědnosti poskytovatelů zprostředkovatelských služeb stanovená ve směrnici Evropského parlamentu a Rady 2000/31/ES [ve znění aktu o digitálních službách].
Pozměňovací návrh 32
Návrh nařízení
Bod odůvodnění 12 a (nový)
(12a)  Software a data, která jsou svobodně sdílena a k nimž nebo k jejichž upraveným verzím mají uživatelé svobodný přístup a mohou je používat, upravovat a redistribuovat, mohou přispět k výzkumu a inovacím na trhu. Výzkum Komise rovněž ukazuje, že svobodný software s otevřeným zdrojovým kódem může přispět k HDP Evropské unie částkou mezi 65 a 95 miliardami EUR a může nabídnout evropskému hospodářství významné možnosti růstu. Uživatelé mohou používat, kopírovat, distribuovat, studovat, měnit a zdokonalovat software a data, včetně modelů ve formě svobodných licencí s otevřeným zdrojovým kódem. S cílem podpořit vývoj a zavádění UI, zejména malými a středními podniky, začínajícími podniky, akademickým výzkumem, ale i jednotlivci, by se toto nařízení nemělo vztahovat na tyto svobodné součásti UI s otevřeným zdrojovým kódem, s výjimkou případů, kdy jsou uváděny na trh nebo do provozu poskytovatelem jako součást vysoce rizikového systému UI nebo systému UI, na který se vztahuje hlava II nebo IV tohoto nařízení.
Pozměňovací návrh 33
Návrh nařízení
Bod odůvodnění 12 b (nový)
(12b)  Ani společný vývoj svobodných složek UI s otevřeným zdrojovým kódem, ani jejich zpřístupňování v otevřených úložištích by nemělo představovat uvádění na trh nebo do provozu. Obchodní činnost ve smyslu zpřístupnění na trhu by se však mohla, s výjimkou transakcí mezi mikropodniky, vyznačovat stanovením ceny za svobodnou součást UI s otevřeným zdrojovým kódem, ale také stanovením ceny za technické podpůrné služby, poskytnutím softwarové platformy, jejímž prostřednictvím poskytovatel zpeněžuje jiné služby, nebo použitím osobních údajů z jiných důvodů, než je výlučně zlepšení bezpečnosti, kompatibility nebo interoperability softwaru.
Pozměňovací návrh 34
Návrh nařízení
Bod odůvodnění 12 c (nový)
(12c)  Vývojáři svobodných složek UI s otevřeným zdrojovým kódem by neměli být podle tohoto nařízení povinni dodržovat požadavky zaměřené na hodnotový řetězec AI, zejména ne na poskytovatele, který tuto svobodnou součást UI s otevřeným zdrojovým kódem použil. Vývojáři svobodných složek UI s otevřeným zdrojovým kódem by však měli být vybízeni k tomu, aby zavedli široce přijaté dokumentační postupy, jako jsou modelové a datové karty, jako způsob, jak urychlit sdílení informací v celém hodnotovém řetězci UI, což umožní podporu důvěryhodných systémů UI v Unii.
Pozměňovací návrh 35
Návrh nařízení
Bod odůvodnění 13
(13)  V zájmu zajištění jednotné a vysoké úrovně ochrany veřejných zájmů, pokud jde o zdraví, bezpečnost a základní práva, by měly být pro všechny vysoce rizikové systémy UI stanoveny společné normativní standardy. Tyto standardy by měly být v souladu s Listinou základních práv Evropské unie (dále jen „Listina“) a se závazky Unie v oblasti mezinárodního obchodu a měly by být nediskriminační.
(13)  V zájmu zajištění jednotné a vysoké úrovně ochrany veřejných zájmů, pokud jde o zdraví, bezpečnost a základní práva, jakož i demokracie a právního státu a životního prostředí by měly být pro všechny vysoce rizikové systémy UI stanoveny společné normativní standardy. Tyto standardy by měly být v souladu s Listinou, Zelenou dohodou pro Evropu, společným prohlášením Unie o digitálních právech a etickými pokyny pro důvěryhodnou umělou inteligenci vydanými odbornou skupinou na vysoké úrovni pro umělou inteligenci a měly by být nediskriminační.
Pozměňovací návrh 36
Návrh nařízení
Bod odůvodnění 14
(14)  Aby bylo možné zavést přiměřený a účinný soubor závazných pravidel pro systémy UI, měl by být dodržován jasně definovaný přístup založený na posouzení rizik. Tento přístup by měl přizpůsobit typ a obsah těchto pravidel intenzitě a rozsahu rizik, která mohou systémy UI vytvářet. Je proto nezbytné zakázat některé postupy v oblasti UI a stanovit požadavky na vysoce rizikové systémy UI a povinnosti příslušných provozovatelů, jakož i povinnosti transparentnosti pro určité systémy UI.
(14)  Aby bylo možné zavést přiměřený a účinný soubor závazných pravidel pro systémy UI, měl by být dodržován jasně definovaný přístup založený na posouzení rizik. Tento přístup by měl přizpůsobit typ a obsah těchto pravidel intenzitě a rozsahu rizik, která mohou systémy UI vytvářet. Je proto nezbytné zakázat některé nepřijatelné postupy v oblasti UI a stanovit požadavky na vysoce rizikové systémy UI a povinnosti příslušných provozovatelů, jakož i povinnosti transparentnosti pro určité systémy UI.
Pozměňovací návrh 37
Návrh nařízení
Bod odůvodnění 15
(15)  Na jedné straně přináší využívání umělé inteligence celou řadu výhod, avšak tuto technologii lze používat i nesprávně a může se stát zdrojem nových a výkonných nástrojů umožňujících manipulativní a vykořisťovatelské praktiky a praktiky v oblasti sociální kontroly. Tyto praktiky jsou mimořádně škodlivé a měly by být zakázány, protože jsou v rozporu s hodnotami Unie v oblasti úcty k lidské důstojnosti, svobody, rovnosti, demokracie a právního státu a se základními právy Unie, včetně práva na zákaz diskriminace, na ochranu údajů a soukromí a práva dítěte.
(15)  Na jedné straně přináší využívání umělé inteligence celou řadu výhod, avšak tuto technologii lze používat i nesprávně a může se stát zdrojem nových a výkonných nástrojů umožňujících manipulativní a vykořisťovatelské praktiky a praktiky v oblasti sociální kontroly. Tyto praktiky jsou mimořádně škodlivé a nesprávné a měly by být zakázány, protože jsou v rozporu s hodnotami Unie v oblasti úcty k lidské důstojnosti, svobody, rovnosti, demokracie a právního státu a se základními právy Unie, včetně práva na zákaz diskriminace, na ochranu údajů a soukromí a práva dítěte.
Pozměňovací návrh 38
Návrh nařízení
Bod odůvodnění 16
(16)  Mělo by být zakázáno uvádění na trh, uvádění do provozu nebo využívání určitých systémů UI určených k ovlivňování lidského chování, které by mohly způsobit fyzickou nebo psychickou újmu. Tyto systémy UI využívají součásti uplatňující podprahové techniky, které jednotlivci nejsou schopni vnímat, případně zneužívají zranitelnosti dětí a jiných osob v důsledku jejich věku nebo fyzické nebo mentální nezpůsobilosti. Činí tak s úmyslem podstatně ovlivnit chování určité osoby, a to takovým způsobem, který této nebo jiné osobě působí nebo by mohl způsobit újmu. Tento záměr nelze předpokládat, pokud je lidské chování ovlivněno v důsledku faktorů nesouvisejících se systémem UI, které jsou mimo kontrolu poskytovatele nebo uživatele. Uvedený zákaz by neměl bránit výzkumu těchto systémů UI pro legitimní účely, pokud se dotčený výzkum nezaměřuje na využívání systému UI ve vztazích člověk-stroj, které vystavuje fyzické osoby újmě, a pokud je prováděn v souladu s uznávanými etickými standardy vědeckého výzkumu.
(16)  Mělo by být zakázáno uvádění na trh, uvádění do provozu nebo využívání určitých systémů UI s cílem nebo za účelem podstatného ovlivnění lidského chování, které by mohly způsobit fyzickou nebo psychickou újmu. Toto omezení by mělo být chápáno tak, že zahrnuje neurotechnologie s pomocí systémů UI, které se používají k monitorování, používání nebo ovlivňování neurálních údajů shromážděných prostřednictvím rozhraní mozku-počítače, pokud podstatně narušují chování fyzické osoby způsobem, který této osobě nebo jiné osobě způsobuje nebo může způsobit významnou újmu. Tyto systémy UI využívají součásti uplatňující podprahové techniky, které jednotlivci a zvláštní skupiny osob nejsou schopny vnímat v důsledku jejich známých nebo předvídatelných osobních charakteristik, věku, fyzické nebo mentální nezpůsobilosti a sociální či ekonomické situace. Činí tak s úmyslem podstatně narušit chování určité osoby nebo s tímto účinkem, a to takovým způsobem, který této nebo jiné osobě nebo skupinám osob způsobuje nebo může způsobit podstatnou újmu, včetně újem, jež se mohou v průběhu času nahromadit. Tento záměr narušit chování nelze předpokládat, pokud k narušení dochází v důsledku faktorů nesouvisejících se systémem UI, které jsou mimo kontrolu poskytovatele nebo uživatele, tedy faktorů, které poskytovatel ani provozovatel systému UI nemůže důvodně předvídat a zmírnit. V každém případě nemusí mít poskytovatel nebo uživatel v úmyslu způsobit fyzickou nebo psychickou újmu, pokud tato újma vyplývá z manipulativních nebo vykořisťujících praktik založených na UI. Zákazy pro tyto praktiky UI doplňují ustanovení obsažená ve směrnici 2005/29/ES, podle nichž jsou nekalé obchodní praktiky zakázány, bez ohledu na to, zda jsou prováděny za použití systémů UI nebo jiným způsobem. V takovéto situaci by zákonné obchodní praktiky, například v oblasti reklamy, které jsou v souladu s právem Unie, neměly být samy o sobě považovány za porušující zákaz. Uvedený zákaz by neměl bránit výzkumu těchto systémů UI pro legitimní účely, pokud se dotčený výzkum nezaměřuje na využívání systému UI ve vztazích člověk-stroj, které vystavuje fyzické osoby újmě, a pokud je prováděn v souladu s uznávanými etickými standardy vědeckého výzkumu a na základě zvláštního informovaného souhlasu jednotlivců, kteří jsou těmto praktikám vystaveni, nebo případně jejich poručníka.
Pozměňovací návrh 39
Návrh nařízení
Bod odůvodnění 16 a (nový)
(16a)  Systémy UI, které kategorizují fyzické osoby tím, že je zařazují do konkrétních kategorií, podle známých nebo odvozených citlivých nebo chráněných charakteristik, jsou obzvláště rušivé, porušují lidskou důstojnost a představují velké riziko diskriminace. Tyto charakteristiky zahrnují pohlaví a genderovou identitu, rasu, etnický původ, postavení související s migrací nebo občanstvím, politickou orientaci, sexuální orientaci, náboženství, zdravotní postižení nebo jiné důvody, na jejichž základě je diskriminace zakázána podle článku 21 Listiny základních práv Evropské unie, jakož i podle článku 9 nařízení (EU) 2016/769. Takové systémy by proto měly být zakázány.
Pozměňovací návrh 40
Návrh nařízení
Bod odůvodnění 17
(17)  Systémy UI provádějící hodnocení sociálního kreditu fyzických osob pro obecné účely ze strany veřejných orgánů nebo jejich jménem mohou vést k diskriminačním výsledkům a k vyloučení určitých skupin. Mohou porušovat právo na důstojnost a zákaz diskriminace a hodnoty rovnosti a spravedlnosti. Tyto systémy UI hodnotí nebo klasifikují důvěryhodnost fyzických osob na základě jejich sociálního chování v různých kontextech nebo známých či předvídaných osobních či osobnostních vlastností. Sociální kredit získaný na základě těchto systémů UI může vést ke znevýhodňujícímu nebo nepříznivému zacházení s fyzickými osobami nebo s celými skupinami těchto osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny, případně ke znevýhodňujícímu zacházení, které je nepřiměřené nebo neodůvodněné s ohledem na závažnost jejich sociálního chování. Tyto systémy UI by proto měly být zakázány.
(17)  Systémy UI provádějící hodnocení sociálního kreditu fyzických osob pro obecné účely mohou vést k diskriminačním výsledkům a k vyloučení určitých skupin. Porušují právo na důstojnost a zákaz diskriminace a hodnoty rovnosti a spravedlnosti. Tyto systémy UI hodnotí nebo klasifikují důvěryhodnost fyzických osob nebo skupin na základě vícedatových bodů a časových výskytů souvisejících s jejich sociálním chováním v různých kontextech nebo známých, odvozených či předvídaných osobních či osobnostních vlastností. Sociální kredit získaný na základě těchto systémů UI může vést ke znevýhodňujícímu nebo nepříznivému zacházení s fyzickými osobami nebo s celými skupinami těchto osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny, případně ke znevýhodňujícímu zacházení, které je nepřiměřené nebo neodůvodněné s ohledem na závažnost jejich sociálního chování. Tyto systémy UI by proto měly být zakázány.
Pozměňovací návrh 41
Návrh nařízení
Bod odůvodnění 18
(18)  Využívání systémů UI pro biometrickou identifikaci fyzických osob na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva je považováno za zvláště rušivý zásah do práv a svobod dotčených osob, neboť může ovlivnit soukromý život velké části populace, vyvolávat pocit neustálého sledování a nepřímo odrazovat od využívání svobody shromažďování a dalších základních práv. Bezprostřednost dopadu a omezené možnosti dalších kontrol nebo oprav v souvislosti s používáním těchto systémů fungujících „v reálném čase“ s sebou navíc nesou zvýšené riziko z hlediska práv a svobod osob, kterých se týkají činnosti v oblasti prosazování práva.
(18)  Využívání systémů UI pro biometrickou identifikaci fyzických osob na dálku „v reálném čase“ na veřejně přístupných místech je zvláště rušivý zásah do práv a svobod dotčených osob a může ve výsledku ovlivnit soukromý život velké části populace, vyvolávat pocit neustálého sledování, poskytnout stranám zavádějícím biometrickou identifikaci na veřejně dostupných místech nekontrolovatelnou moc a nepřímo odrazovat od využívání svobody shromažďování a dalších základních práv. Technické nepřesnosti systémů UI určených pro biometrickou identifikaci fyzických osob na dálku mohou vést ke zkresleným výsledkům a mít diskriminační účinky. To je relevantní zejména v případě věku, etnického původu, pohlaví nebo zdravotních postižení. Bezprostřednost dopadu a omezené možnosti dalších kontrol nebo oprav v souvislosti s používáním těchto systémů fungujících „v reálném čase“ s sebou navíc nesou zvýšené riziko z hlediska práv a svobod osob, kterých se týkají činnosti v oblasti prosazování práva. Používání těchto systémů na veřejně přístupných místech by proto mělo být zakázáno. Podobně by měly být zakázány i systémy UI pro analýzu záznamů z veřejně přístupných prostorů prostřednictvím systémů „zpětné“ biometrické identifikace na dálku, pokud nebylo vydáno předsoudní povolení pro použití v souvislosti s vymáháním práva, kdy jsou tyto systémy výhradně nezbytné pro cílené vyhledávání spojené s konkrétním závažným trestným činem, k němuž již došlo, a pouze na základě předsoudního povolení.
Pozměňovací návrh 42
Návrh nařízení
Bod odůvodnění 19
(19)  Používání těchto systémů pro účely prosazování práva by proto mělo být zakázáno s výjimkou tří taxativně vyjmenovaných a úzce definovaných situací, kdy je toto použití nezbytně nutné k dosažení významného veřejného zájmu, jehož význam převažuje nad uvedenými riziky. Tyto situace zahrnují hledání potenciálních obětí trestných činů, včetně pohřešovaných dětí; některé případy ohrožení života nebo fyzické bezpečnosti fyzických osob nebo hrozby teroristického útoku a odhalování, lokalizaci, identifikaci nebo stíhání pachatelů nebo osob podezřelých z trestných činů uvedených v rámcovém rozhodnutí Rady 2002/584/SVV38 , pokud lze tyto trestné činy v dotčeném členském státě potrestat trestem odnětí svobody nebo ochranným opatřením spojeným s odnětím osobní svobody s horní hranicí sazby v délce nejméně tři roky a jsou-li vymezeny právem tohoto členského státu. Tato hranice pro trest odnětí svobody nebo ochranné opatření spojené s odnětím osobní svobody v souladu s vnitrostátními právními předpisy přispívá k zajištění toho, že použití systémů biometrické identifikace na dálku „v reálném čase“ bude možno potenciálně odůvodnit jen dostatečnou závažností daného trestného činu. Je navíc pravděpodobné, že některé z 32 trestných činů uvedených v rámcovém rozhodnutí Rady 2002/584/SVV budou v praxi relevantnější než jiné v tom smyslu, že nezbytnost a přiměřenost využívání biometrické identifikace na dálku „v reálném čase“ bude pravděpodobně velmi různorodá jak z hlediska praktické snahy o odhalování, lokalizaci, identifikaci nebo stíhání pachatelů jednotlivých uvedených trestných činů nebo osob podezřelých z jejich spáchání, tak s ohledem na pravděpodobné rozdíly v závažnosti, pravděpodobnosti a rozsahu způsobené újmy nebo možných negativních důsledků.
vypouští se
__________________
38 Rámcové rozhodnutí Rady 2002/584/SVV ze dne 13. června 2002 o evropském zatýkacím rozkazu a postupech předávání mezi členskými státy (Úř. věst. L 190, 18.7.2002, s. 1).
Pozměňovací návrh 43
Návrh nařízení
Bod odůvodnění 20
(20)  Aby bylo zajištěno odpovědné a přiměřené používání těchto systémů, je rovněž důležité stanovit, že v každé z těchto tří taxativně vyjmenovaných a úzce definovaných situací je třeba zohlednit určité prvky, zejména pokud jde o povahu situace, která vedla k předložení žádosti, o důsledky užití těchto systémů pro práva a svobody všech dotčených osob a o záruky a podmínky zajištěné při tomto použití. Na využívání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva by se navíc měla vztahovat vhodná časová a prostorová omezení, zejména s ohledem na důkazy nebo náznaky týkající se daných hrozeb, obětí nebo pachatele. Pro každý případ použití v každé ze tří výše uvedených situací by mělo být vhodné využití referenční databáze osob.
vypouští se
Pozměňovací návrh 44
Návrh nařízení
Bod odůvodnění 21
(21)  Každé použití systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva by mělo podléhat výslovnému a konkrétnímu povolení justičního orgánu nebo nezávislého správního orgánu členského státu. Toto povolení by mělo být v zásadě získáno před tímto použitím s výjimkou řádně odůvodněných naléhavých situací, tj. situací, kdy je potřeba použít dotyčné systémy tak naléhavá, že je účinně a objektivně nemožné získat povolení před zahájením tohoto použití. V těchto naléhavých situacích by použití mělo být omezeno na absolutně nezbytné minimum a mělo by podléhat příslušným zárukám a podmínkám, které stanoví vnitrostátní právo a specifikuje samotný donucovací orgán v kontextu každého jednotlivého případu naléhavého použití. Donucovací orgán by měl v těchto situacích rovněž usilovat o co nejvčasnější získání povolení a měl by uvést důvody, proč o něj nemohl požádat již dříve.
vypouští se
Pozměňovací návrh 45
Návrh nařízení
Bod odůvodnění 22
(22)  Dále je vhodné v rámci taxativně vymezeném tímto nařízením stanovit, že toto použití na území členského státu v souladu s tímto nařízením by mělo být možné pouze tehdy a do té míry, do níž se dotčený členský stát rozhodl výslovně stanovit možnost povolit toto použití ve své podrobné vnitrostátní úpravě. V důsledku toho se členské státy mohou podle tohoto nařízení i nadále dle vlastního uvážení rozhodnout, že tuto možnost vůbec nestanoví, případně že ji stanoví pouze ve vztahu k některým cílům, které mohou povolené použití určené v tomto nařízení odůvodnit.
vypouští se
Pozměňovací návrh 46
Návrh nařízení
Bod odůvodnění 23
(23)  Využívání systémů UI pro biometrickou identifikaci fyzických osob na dálku „v reálném“ čase na veřejně přístupných místech pro účely prosazování práva nutně zahrnuje i zpracování biometrických údajů. Pravidla tohoto nařízení, která toto použití až na určité výjimky zakazují a která jsou založena na článku 16 Smlouvy o fungování EU, by se měla použít jako lex specialis, pokud jde o pravidla zpracování biometrických údajů uvedená v článku 10 směrnice (EU) 2016/680, což by toto použití a zpracování biometrických údajů vyčerpávajícím způsobem regulovalo. Toto použití a zpracování by proto mělo být možné jen v případě, že bude slučitelné s rámcem stanoveným tímto nařízením, a mimo tento rámec by neměl existovat prostor pro to, aby příslušné orgány jednající za účelem prosazování práva používaly tyto systémy a zpracovávaly tyto údaje v souvislosti s nimi z důvodů uvedených v článku 10 směrnice (EU) 2016/680. V této souvislosti není cílem tohoto nařízení poskytnout právní základ zpracování osobních údajů podle článku 8 směrnice 2016/680. Na používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro jiné účely než prosazování práva, a to i příslušnými orgány, by se však neměl vztahovat zvláštní rámec týkající se tohoto použití pro účely prosazování práva, stanovený tímto nařízením. Toto použití pro jiné účely než pro účely prosazování práva by proto nemělo podléhat požadavku na povolení podle tohoto nařízení a použitelným podrobným pravidlům vnitrostátního práva, která ho případně mohou uvést v účinnost.
vypouští se
Pozměňovací návrh 47
Návrh nařízení
Bod odůvodnění 24
(24)  Jakékoli zpracování biometrických údajů a dalších osobních údajů související s používáním systémů UI pro účely biometrické identifikace jinak než v souvislosti s používáním systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva podle tohoto nařízení, včetně případů, kdy tyto systémy používají příslušné orgány na veřejně přístupných místech pro jiné účely než pro účely prosazování práva, by mělo i nadále splňovat všechny případné požadavky vyplývající z čl. 9 odst. 1 nařízení (EU) 2016/679, z čl. 10 odst. 1 nařízení (EU) 2018/1725 a z článku 10 směrnice (EU) 2016/680.
(24)  Jakékoli zpracování biometrických údajů a dalších osobních údajů související s používáním systémů UI pro účely biometrické identifikace jinak než v souvislosti s používáním systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech podle tohoto nařízení, by mělo i nadále splňovat všechny případné požadavky vyplývající z čl. 9 odst. 1 nařízení (EU) 2016/679, z čl. 10 odst. 1 nařízení (EU) 2018/1725 a z článku 10 směrnice (EU) 2016/680.
Pozměňovací návrh 48
Návrh nařízení
Bod odůvodnění 25
(25)  V souladu s článkem 6a Protokolu č. 21 o postavení Spojeného království a Irska s ohledem na prostor svobody, bezpečnosti a práva, připojeného ke Smlouvě o EU a Smlouvě o fungování EU, není Irsko vázáno pravidly stanovenými v čl. 5 odst. 1 písm. d) a čl. 5 odst. 2 a 3 tohoto nařízení přijatého na základě článku 16 Smlouvy o fungování EU, která se týkají zpracování osobních údajů členskými státy, vykonávají-li činnosti spadající do oblasti působnosti části třetí hlavy V kapitoly 4 nebo 5 Smlouvy o fungování EU, pokud není Irsko vázáno pravidly Unie upravujícími formy justiční spolupráce v trestních věcech nebo policejní spolupráce, v jejichž rámci musí být dodržována pravidla přijatá na základě článku 16 Smlouvy o fungování EU.
(25)  V souladu s článkem 6a Protokolu č. 21 o postavení Spojeného království a Irska s ohledem na prostor svobody, bezpečnosti a práva, připojeného ke Smlouvě o EU a Smlouvě o fungování EU, není Irsko vázáno pravidly stanovenými v čl. 5 odst. 1 písm. d) tohoto nařízení přijatého na základě článku 16 Smlouvy o fungování EU, která se týkají zpracování osobních údajů členskými státy, vykonávají-li činnosti spadající do oblasti působnosti části třetí hlavy V kapitoly 4 nebo 5 Smlouvy o fungování EU, pokud není Irsko vázáno pravidly Unie upravujícími formy justiční spolupráce v trestních věcech nebo policejní spolupráce, v jejichž rámci musí být dodržována pravidla přijatá na základě článku 16 Smlouvy o fungování EU.
Pozměňovací návrh 49
Návrh nařízení
Bod odůvodnění 26
(26)  V souladu s články 2 a 2a Protokolu č. 22 o postavení Dánska, připojeného ke Smlouvě o EU a Smlouvě o fungování EU, nejsou pro Dánsko závazná ani použitelná pravidla stanovená v čl. 5 odst. 1 písm. d) a v čl. 5 odst. 2 a 3 tohoto nařízení přijatého na základě článku 16 Smlouvy o fungování EU, která se týkají zpracování osobních údajů členskými státy, vykonávají-li činnosti spadající do oblasti působnosti části třetí hlavy V kapitoly 4 nebo 5 Smlouvy o fungování EU.
(26)  V souladu s články 2 a 2a Protokolu č. 22 o postavení Dánska, připojeného ke Smlouvě o EU a Smlouvě o fungování EU, nejsou pro Dánsko závazná ani použitelná pravidla stanovená v čl. 5 odst. 1 písm. d) tohoto nařízení přijatého na základě článku 16 Smlouvy o fungování EU, která se týkají zpracování osobních údajů členskými státy, vykonávají-li činnosti spadající do oblasti působnosti části třetí hlavy V kapitoly 4 nebo 5 Smlouvy o fungování EU.
Pozměňovací návrh 50
Návrh nařízení
Bod odůvodnění 26 a (nový)
(26a)  Systémy UI používané donucovacími orgány nebo jejich jménem k vytváření predikcí, profilů nebo posouzení rizik založených na profilování fyzických osob nebo na analýze údajů týkajících se osobnostních rysů a vlastností, včetně určení lokace osoby, nebo minulého trestného chování fyzických osob nebo skupin osob za účelem predikce výskytu nebo opakování skutečného nebo potenciálního trestného činu či trestných činů nebo jiného kriminalizovaného společenského chování nebo přestupků, včetně systémů pro predikci podvodů, s sebou nesou zvláštní riziko diskriminace určitých osob nebo skupin osob, neboť porušují lidskou důstojnost, jakož i klíčovou právní zásadu presumpce neviny. Takové systémy UI by proto měly být zakázány.
Pozměňovací návrh 51
Návrh nařízení
Bod odůvodnění 26 b (nový)
(26b)  Nerozlišující a necílené získávání biometrických údajů ze sociálních médií nebo ze záznamu CCTV za účelem vytvoření nebo rozšíření databází rozpoznávání obličeje přispívá k pocitu hromadného sledování a může vést k hrubému porušování základních práv, včetně práva na soukromí. Používání systémů UI, které mají tento zamýšlený účel, by proto mělo být zakázáno.
Pozměňovací návrh 52
Návrh nařízení
Bod odůvodnění 26 c (nový)
(26c)  Existují vážné obavy ohledně vědeckého základu systémů UI, jejichž cílem je odhalit emoce z výrazů obličeje, fyzických nebo fyziologických rysů, jako jsou výrazy obličeje, pohyby, tepová frekvence nebo hlas. Emoce nebo výrazy obličeje a jejich vnímání se v jednotlivých kulturách a situacích značně liší, a to i u téhož jednotlivce. Mezi klíčové nedostatky těchto technologií patří omezená spolehlivost (kategorie emocí nejsou spolehlivě vyjádřeny prostřednictvím společného souboru fyzických nebo fyziologických pohybů, ani s ním nejsou jednoznačně spojeny), nedostatečná určitost (fyzické nebo fyziologické projevy zcela neodpovídají kategoriím emocí) a omezená zobecnitelnost (nejsou dostatečně zohledněny účinky kontextu a kultury). Problémy se spolehlivostí, a tudíž i velká rizika zneužití, mohou vzniknout zejména při zavádění systému v reálných situacích souvisejících s vymáháním práva, správou hranic, pracovištěm a vzdělávacími institucemi. Uvádění na trh, uvádění do provozu nebo používání systémů UI určených k použití v těchto kontextech k odhalování emočního stavu by proto mělo být zakázáno.
Pozměňovací návrh 53
Návrh nařízení
Bod odůvodnění 26 d (nový)
(26d)  Tímto nařízením by neměly být dotčeny praktiky, které jsou zakázány právními předpisy Unie, včetně právních předpisů o ochraně údajů, nediskriminaci, ochraně spotřebitele a hospodářské soutěži.
Pozměňovací návrh 54
Návrh nařízení
Bod odůvodnění 27
(27)  Vysoce rizikové systémy UI by měly být uváděny na trh Unie nebo do provozu pouze tehdy, splňují-li určité závazné požadavky. Tyto požadavky by měly zajistit, aby vysoce rizikové systémy UI, které jsou dostupné v Unii nebo jejichž výstupy jsou v Unii jinak využívány, nepředstavovaly nepřijatelné riziko pro důležité veřejné zájmy Unie uznané a chráněné právem Unie. Systémy UI označené jako vysoce rizikové by měly být omezeny na systémy, které mají významný škodlivý dopad na zdraví, bezpečnost a základní práva osob v Unii, a toto omezení minimalizuje jakékoli případné omezení mezinárodního obchodu.
(27)  Vysoce rizikové systémy UI by měly být uváděny na trh Unie, do provozu nebo používány pouze tehdy, splňují-li určité závazné požadavky. Tyto požadavky by měly zajistit, aby vysoce rizikové systémy UI, které jsou dostupné v Unii nebo jejichž výstupy jsou v Unii jinak využívány, nepředstavovaly nepřijatelné riziko pro důležité veřejné zájmy Unie uznané a chráněné právem Unie, včetně základních práv, demokracie, právního státu nebo životního prostředí. V zájmu zajištění souladu s odvětvovými právními předpisy a s cílem zamezit zdvojování by požadavky na některé vysoce rizikové systémy UI zohledňovat odvětvové právní předpisy, které stanoví dostatečné požadavky na vysoce rizikové systémy UI zahrnuté do působnosti tohoto nařízení, jako je nařízení (EU) 2017/745 o zdravotnických prostředcích a nařízení (EU) 2017/746 o diagnostických prostředcích in vitro a směrnice 2006/42/ES o strojních zařízeních. Systémy UI označené jako vysoce rizikové by měly být omezeny na systémy, které mají významný škodlivý dopad na zdraví, bezpečnost a základní práva osob v Unii, a toto omezení minimalizuje jakékoli případné omezení mezinárodního obchodu. Vzhledem k rychlému tempu technologického vývoje, jakož i k potenciálním změnám ve využívání systémů UI, by měl být nicméně seznam vysoce rizikových oblastí a případů použití v příloze III podroben stálému přezkumu prostřednictvím pravidelného posuzování.
Pozměňovací návrh 55
Návrh nařízení
Bod odůvodnění 28
(28)  Systémy UI by mohly mít nepříznivé účinky na zdraví a bezpečnost osob, zejména pokud tyto systémy fungují jako součásti produktů. V souladu s cíli harmonizačních právních předpisů Unie, které mají usnadnit volný pohyb produktů na vnitřním trhu a zajistit, aby se na trh dostávaly pouze bezpečné a jinak vyhovující produkty, je důležitá náležitá prevence a zmírňování bezpečnostních rizik, která mohou případně vyplývat z produktu jako celku v důsledku jeho digitálních prvků, včetně systémů UI. Například stále autonomnější roboti, ať už v kontextu výroby, nebo osobní asistence a péče, by měli být schopni bezpečně fungovat a vykonávat své funkce ve složitých prostředích. Obdobně ve zdravotnictví, kde existuje obzvláště vysoké riziko v oblasti života a zdraví, by měly být stále sofistikovanější diagnostické systémy a systémy podporující lidská rozhodnutí spolehlivé a přesné. Míra nepříznivého dopadu systému UI na základní práva chráněná Listinou je obzvláště důležitá v případě, že je systém UI klasifikován jako vysoce rizikový. Tato práva zahrnují právo na lidskou důstojnost, respektování soukromého a rodinného života, ochranu osobních údajů, svobodu projevu a informací, svobodu shromažďování a sdružování a zákaz diskriminace, ochranu spotřebitele, práva pracovníků, práva osob s postižením, právo na účinnou právní ochranu a spravedlivý proces, právo na obhajobu a presumpci neviny a právo na řádnou správu. Kromě těchto práv je třeba zdůraznit zvláštní práva dětí zakotvená v článku 24 Listiny základních práv EU a v Úmluvě OSN o právech dítěte (ve vztahu k digitálním prostředí dále rozpracovaná v obecné připomínce č. 25 k Úmluvě o právech dítěte), které v obou případech vyžadují zohlednění zranitelnosti dětí a poskytnutí této ochrany a péče, která je nezbytná pro jejich blaho. Při posuzování závažnosti újmy, kterou může systém UI způsobit, a to i ve vztahu ke zdraví a bezpečnosti osob, by mělo být zohledněno také základní právo na vysokou úroveň ochrany životního prostředí zakotvené v Listině a provedené do politik Unie.
(28)  Systémy UI by mohly mít nepříznivý dopad na zdraví a bezpečnost osob, zejména pokud tyto systémy fungují jako bezpečnostní součásti produktů. V souladu s cíli harmonizačních právních předpisů Unie, které mají usnadnit volný pohyb produktů na vnitřním trhu a zajistit, aby se na trh dostávaly pouze bezpečné a jinak vyhovující produkty, je důležitá náležitá prevence a zmírňování bezpečnostních rizik, která mohou případně vyplývat z produktu jako celku v důsledku jeho digitálních prvků, včetně systémů UI. Například stále autonomnější roboti, ať už v kontextu výroby, nebo osobní asistence a péče, by měli být schopni bezpečně fungovat a vykonávat své funkce ve složitých prostředích. Obdobně ve zdravotnictví, kde existuje obzvláště vysoké riziko v oblasti života a zdraví, by měly být stále sofistikovanější diagnostické systémy a systémy podporující lidská rozhodnutí spolehlivé a přesné.
Pozměňovací návrh 56
Návrh nařízení
Bod odůvodnění 28 a (nový)
(28a)  Míra nepříznivého dopadu systému UI na základní práva chráněná Listinou je obzvláště důležitá v případě, že je systém UI klasifikován jako vysoce rizikový. Tato práva zahrnují právo na lidskou důstojnost, respektování soukromého a rodinného života, ochranu osobních údajů, svobodu projevu a informací, svobodu shromažďování a sdružování a zákaz diskriminace, právo na vzdělání, ochranu spotřebitele, práva pracovníků, práva osob se zdravotním postižením, genderovou rovnost, práva duševního vlastnictví, právo na účinnou právní ochranu a spravedlivý proces, právo na obhajobu a presumpci neviny a právo na řádnou správu. Kromě těchto práv je třeba zdůraznit zvláštní práva dětí zakotvená v článku 24 Listiny základních práv EU a v Úmluvě OSN o právech dítěte (ve vztahu k digitálnímu prostředí dále rozpracovaná v obecné připomínce č. 25 k Úmluvě o právech dítěte), které v obou případech vyžadují zohlednění zranitelnosti dětí a poskytnutí této ochrany a péče, která je nezbytná pro jejich blaho. Při posuzování závažnosti újmy, kterou může systém UI způsobit, a to i ve vztahu ke zdraví a bezpečnosti osob nebo k životnímu prostředí, by mělo být zohledněno také základní právo na vysokou úroveň ochrany životního prostředí zakotvené v Listině a provedené do politik Unie.
Pozměňovací návrh 57
Návrh nařízení
Bod odůvodnění 29
(29)  Pokud jde o vysoce rizikové systémy UI, které jsou bezpečnostními součástmi produktů nebo systémů, případně které jsou samy produkty nebo systémy spadajícími do působnosti nařízení Evropského parlamentu a Rady (ES) č. 300/200839, nařízení Evropského parlamentu a Rady (EU) č. 167/201340, nařízení Evropského parlamentu a Rady (EU) č. 168/201341, směrnice Evropského parlamentu a Rady 2014/90/EU42, směrnice Evropského parlamentu a Rady (EU) 2016/79743, nařízení Evropského parlamentu a Rady (EU) 2018/85844, nařízení Evropského parlamentu a Rady (EU) 2018/113945 a nařízení Evropského parlamentu a Rady (EU) 2019/214446, je vhodné tyto akty pozměnit s cílem zajistit, aby Komise při přijímání jakýchkoli budoucích relevantních aktů v přenesené pravomoci nebo prováděcích aktů na základě výše uvedených aktů zohledňovala povinné požadavky na vysoce rizikové systémy UI stanovené v tomto nařízení na základě technických a regulačních specifik jednotlivých odvětví, aniž by zasahovala do stávajících mechanismů správy, posuzování shody a prosazování ani do orgánů zřízených v rámci uvedených aktů.
(29)  Pokud jde o vysoce rizikové systémy UI, které jsou bezpečnostními součástmi produktů nebo systémů, případně které jsou samy produkty nebo systémy spadajícími do působnosti nařízení Evropského parlamentu a Rady (ES) č. 300/200839, nařízení Evropského parlamentu a Rady (EU) č. 167/201340, nařízení Evropského parlamentu a Rady (EU) č. 168/201341, směrnice Evropského parlamentu a Rady 2014/90/EU42, směrnice Evropského parlamentu a Rady (EU) 2016/79743, nařízení Evropského parlamentu a Rady (EU) 2018/85844, nařízení Evropského parlamentu a Rady (EU) 2018/113945 a nařízení Evropského parlamentu a Rady (EU) 2019/214446, je vhodné tyto akty pozměnit s cílem zajistit, aby Komise při přijímání jakýchkoli budoucích relevantních aktů v přenesené pravomoci nebo prováděcích aktů na základě výše uvedených aktů zohledňovala povinné požadavky na vysoce rizikové systémy UI stanovené v tomto nařízení na základě technických a regulačních specifik jednotlivých odvětví, aniž by zasahovala do stávajících mechanismů správy, posuzování shody, dozoru nad trhem a prosazování ani do orgánů zřízených v rámci uvedených aktů.
__________________
__________________
39 Nařízení Evropského parlamentu a Rady (ES) č. 300/2008 ze dne 11. března 2008 o společných pravidlech v oblasti ochrany civilního letectví před protiprávními činy a o zrušení nařízení (ES) č. 2320/2002 (Úř. věst. L 97, 9.4.2008, s. 72).
39 Nařízení Evropského parlamentu a Rady (ES) č. 300/2008 ze dne 11. března 2008 o společných pravidlech v oblasti ochrany civilního letectví před protiprávními činy a o zrušení nařízení (ES) č. 2320/2002 (Úř. věst. L 97, 9.4.2008, s. 72).
40 Nařízení Evropského parlamentu a Rady (EU) č. 167/2013 ze dne 5. února 2013 o schvalování zemědělských a lesnických vozidel a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 1).
40 Nařízení Evropského parlamentu a Rady (EU) č. 167/2013 ze dne 5. února 2013 o schvalování zemědělských a lesnických vozidel a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 1).
41 Nařízení Evropského parlamentu a Rady (EU) č. 168/2013 ze dne 15. ledna 2013 o schvalování dvoukolových nebo tříkolových vozidel a čtyřkolek a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 52).
41 Nařízení Evropského parlamentu a Rady (EU) č. 168/2013 ze dne 15. ledna 2013 o schvalování dvoukolových nebo tříkolových vozidel a čtyřkolek a dozoru nad trhem s těmito vozidly (Úř. věst. L 60, 2.3.2013, s. 52).
42 Směrnice Evropského parlamentu a Rady 2014/90/EU ze dne 23. července 2014 o lodní výstroji a o zrušení směrnice Rady 96/98/ES (Úř. věst. L 257, 28.8.2014, s. 146).
42 Směrnice Evropského parlamentu a Rady 2014/90/EU ze dne 23. července 2014 o lodní výstroji a o zrušení směrnice Rady 96/98/ES (Úř. věst. L 257, 28.8.2014, s. 146).
43 Směrnice Evropského parlamentu a Rady (EU) 2016/797 ze dne 11. května 2016 o interoperabilitě železničního systému v Evropské unii (Úř. věst. L 138, 26.5.2016, s. 44).
43 Směrnice Evropského parlamentu a Rady (EU) 2016/797 ze dne 11. května 2016 o interoperabilitě železničního systému v Evropské unii (Úř. věst. L 138, 26.5.2016, s. 44).
44 Nařízení Evropského parlamentu a Rady (EU) 2018/858 ze dne 30. května 2018 o schvalování motorových vozidel a jejich přípojných vozidel, jakož i systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla a o dozoru nad trhem s nimi, o změně nařízení (ES) č. 715/2007 a č. 595/2009 a o zrušení směrnice 2007/46/ES (Úř. věst. L 151, 14.6.2018, s. 1).
44 Nařízení Evropského parlamentu a Rady (EU) 2018/858 ze dne 30. května 2018 o schvalování motorových vozidel a jejich přípojných vozidel, jakož i systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla a o dozoru nad trhem s nimi, o změně nařízení (ES) č. 715/2007 a č. 595/2009 a o zrušení směrnice 2007/46/ES (Úř. věst. L 151, 14.6.2018, s. 1).
45 Nařízení Evropského parlamentu a Rady (EU) 2018/1139 ze dne 4. července 2018 o společných pravidlech v oblasti civilního letectví a o zřízení Agentury Evropské unie pro bezpečnost letectví, kterým se mění nařízení (ES) č. 2111/2005, (ES) č. 1008/2008, (EU) č. 996/2010, (EU) č. 376/2014 a směrnice Evropského parlamentu a Rady 2014/30/EU a 2014/53/EU a kterým se zrušuje nařízení Evropského parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nařízení Rady (EHS) č. 3922/91 (Úř. věst. L 212, 22.8.2018, s. 1).
45 Nařízení Evropského parlamentu a Rady (EU) 2018/1139 ze dne 4. července 2018 o společných pravidlech v oblasti civilního letectví a o zřízení Agentury Evropské unie pro bezpečnost letectví, kterým se mění nařízení (ES) č. 2111/2005, (ES) č. 1008/2008, (EU) č. 996/2010, (EU) č. 376/2014 a směrnice Evropského parlamentu a Rady 2014/30/EU a 2014/53/EU a kterým se zrušuje nařízení Evropského parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nařízení Rady (EHS) č. 3922/91 (Úř. věst. L 212, 22.8.2018, s. 1).
46 Nařízení Evropského parlamentu a Rady (EU) 2019/2144 ze dne 27. listopadu 2019 o požadavcích pro schvalování typu motorových vozidel a jejich přípojných vozidel a systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla z hlediska obecné bezpečnosti a ochrany cestujících ve vozidle a zranitelných účastníků silničního provozu, o změně nařízení Evropského parlamentu a Rady (EU) 2018/858 a o zrušení nařízení Evropského parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nařízení Komise (ES) č. 631/2009, (EU) č. 406/2010, (EU) č. 672/2010, (EU) č. 1003/2010, (EU) č. 1005/2010, (EU) č. 1008/2010, (EU) č. 1009/2010, (EU) č. 19/2011, (EU) č. 109/2011, (EU) č. 458/2011, (EU) č. 65/2012, (EU) č. 130/2012, (EU) č. 347/2012, (EU) č. 351/2012, (EU) č. 1230/2012 a (EU) 2015/166 (Úř. věst. L 325, 16.12.2019, s. 1).
46 Nařízení Evropského parlamentu a Rady (EU) 2019/2144 ze dne 27. listopadu 2019 o požadavcích pro schvalování typu motorových vozidel a jejich přípojných vozidel a systémů, konstrukčních částí a samostatných technických celků určených pro tato vozidla z hlediska obecné bezpečnosti a ochrany cestujících ve vozidle a zranitelných účastníků silničního provozu, o změně nařízení Evropského parlamentu a Rady (EU) 2018/858 a o zrušení nařízení Evropského parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nařízení Komise (ES) č. 631/2009, (EU) č. 406/2010, (EU) č. 672/2010, (EU) č. 1003/2010, (EU) č. 1005/2010, (EU) č. 1008/2010, (EU) č. 1009/2010, (EU) č. 19/2011, (EU) č. 109/2011, (EU) č. 458/2011, (EU) č. 65/2012, (EU) č. 130/2012, (EU) č. 347/2012, (EU) č. 351/2012, (EU) č. 1230/2012 a (EU) 2015/166 (Úř. věst. L 325, 16.12.2019, s. 1).
Pozměňovací návrh 58
Návrh nařízení
Bod odůvodnění 30
(30)  Pokud jde o systémy UI, které jsou bezpečnostními součástmi produktů nebo jsou produkty samy o sobě, a které spadají do oblasti působnosti některých harmonizačních právních předpisů Unie, je vhodné je podle tohoto nařízení klasifikovat jako vysoce rizikové, pokud u daného produktu provádí postup posuzování shody subjekt, který vykonává činnosti posuzování shody jakožto třetí strana podle příslušných harmonizačních právních předpisů Unie. Těmito produkty jsou zejména strojní zařízení, hračky, výtahy, zařízení a ochranné systémy určené k použití v prostředí s nebezpečím výbuchu, rádiová zařízení, tlaková zařízení, zařízení pro rekreační plavidla, lanové dráhy, spotřebiče plynných paliv, zdravotnické prostředky a diagnostické zdravotnické prostředky in vitro.
(30)  Pokud jde o systémy UI, které jsou bezpečnostními součástmi produktů nebo jsou produkty samy o sobě, a které spadají do oblasti působnosti některých harmonizačních právních předpisů Unie uvedených v příloze II, je vhodné je podle tohoto nařízení klasifikovat jako vysoce rizikové, pokud s cílem zajistit u daného produktu soulad se základními bezpečnostními požadavky provádí postup posuzování shody subjekt, který vykonává činnosti posuzování shody jakožto třetí strana podle příslušného harmonizačního práva Unie. Těmito produkty jsou zejména strojní zařízení, hračky, výtahy, zařízení a ochranné systémy určené k použití v prostředí s nebezpečím výbuchu, rádiová zařízení, tlaková zařízení, zařízení pro rekreační plavidla, lanové dráhy, spotřebiče plynných paliv, zdravotnické prostředky a diagnostické zdravotnické prostředky in vitro.
Pozměňovací návrh 59
Návrh nařízení
Bod odůvodnění 31
(31)  Klasifikace systému UI jako vysoce rizikového podle tohoto nařízení by neměla nutně znamenat, že produkt, jehož je daný systém UI bezpečnostní součástí, případně tento samotný systém UI jako produkt, je považován za „vysoce rizikový“ podle kritérií stanovených v příslušných harmonizačních právních předpisech Unie, které se na tento produkt vztahují. To platí zejména pro nařízení Evropského parlamentu a Rady (EU) 2017/74547 a nařízení Evropského parlamentu a Rady (EU) 2017/74648, kde je pro produkty se středním a vysokým rizikem vyžadováno posuzování shody subjektem, který vykonává činnosti posuzování shody jakožto třetí strana.
(31)  Klasifikace systému UI jako vysoce rizikového podle tohoto nařízení by neměla nutně znamenat, že produkt, jehož je daný systém UI bezpečnostní součástí, případně tento samotný systém UI jako produkt, je považován za „vysoce rizikový“ podle kritérií stanovených v příslušných harmonizačních právních předpisech Unie, které se na tento produkt vztahují. To platí zejména pro nařízení Evropského parlamentu a Rady (EU) 2017/74547 a nařízení Evropského parlamentu a Rady (EU) 2017/74648, kde je pro produkty se středním a vysokým rizikem vyžadováno posuzování shody subjektem, který vykonává činnosti posuzování shody jakožto třetí strana.
__________________
__________________
47 Nařízení Evropského parlamentu a Rady (EU) 2017/745 ze dne 5. dubna 2017 o zdravotnických prostředcích, změně směrnice 2001/83/ES, nařízení (ES) č. 178/2002 a nařízení (ES) č. 1223/2009 a o zrušení směrnic Rady 90/385/EHS a 93/42/EHS (Úř. věst. L 117, 5.5.2017, s. 1).
47 Nařízení Evropského parlamentu a Rady (EU) 2017/745 ze dne 5. dubna 2017 o zdravotnických prostředcích, změně směrnice 2001/83/ES, nařízení (ES) č. 178/2002 a nařízení (ES) č. 1223/2009 a o zrušení směrnic Rady 90/385/EHS a 93/42/EHS (Úř. věst. L 117, 5.5.2017, s. 1).
48 Nařízení Evropského parlamentu a Rady (EU) 2017/746 ze dne 5. dubna 2017 o diagnostických zdravotnických prostředcích in vitro a o zrušení směrnice 98/79/ES a rozhodnutí Komise 2010/227/EU (Úř. věst. L 117, 5.5.2017, s. 176).
48 Nařízení Evropského parlamentu a Rady (EU) 2017/746 ze dne 5. dubna 2017 o diagnostických zdravotnických prostředcích in vitro a o zrušení směrnice 98/79/ES a rozhodnutí Komise 2010/227/EU (Úř. věst. L 117, 5.5.2017, s. 176).
Pozměňovací návrh 60
Návrh nařízení
Bod odůvodnění 32
(32)  Pokud jde o samostatné systémy UI, jimiž se rozumí vysoce rizikové systémy UI s výjimkou těch, které představují bezpečnostní součásti produktů nebo které jsou samy produkty, je vhodné je klasifikovat jako vysoce rizikové, pokud s ohledem na určený účel představují vysoké riziko újmy na zdraví a bezpečnosti nebo na základních právech osob s přihlédnutím jak k závažnosti možné újmy, tak k pravděpodobnosti, že nastane, a pokud jsou využívány v celé řadě oblastí uvedených v tomto nařízení, které jsou výslovně definovány předem. Identifikace těchto systémů je založena na stejné metodice a kritériích, jaké se předpokládají i u jakýchkoli budoucích změn seznamu vysoce rizikových systémů UI.
(32)  Pokud jde o samostatné systémy UI, jimiž se rozumí vysoce rizikové systémy UI s výjimkou těch, které představují bezpečnostní součásti produktů nebo které jsou samy produkty a spadají do některé z oblastí a případů použití uvedených v příloze III, je vhodné je klasifikovat jako vysoce rizikové, pokud s ohledem na účel představují významné riziko újmy na zdraví a bezpečnosti nebo na základních právech osob a v případě,kdy je dotčený systém UI používán jako bezpečnostní součást kritické infrastruktury, na životním prostředí. Toto významné riziko újmy by mělo být určeno tak, že se na jedné straně posoudí účinek tohoto rizika s ohledem na jeho závažnost, intenzitu, pravděpodobnost výskytu a dobu trvání při zvážení kombinace všech těchto faktorů, a na straně druhé se posoudí, zda se toto riziko může dotknout jednotlivce, více osob nebo konkrétní skupiny osob. Taková kombinace by například mohla vést k vysoké závažnosti, ale nízké pravděpodobnosti dopadu na fyzické osoby, nebo k vysoké pravděpodobnosti dopadu na skupinu lidí s nízkou závažností po dlouhou dobu, a to v závislosti na kontextu. Identifikace těchto systémů je založena na stejné metodice a kritériích, jaké se předpokládají i u jakýchkoli budoucích změn seznamu vysoce rizikových systémů UI.
Pozměňovací návrh 61
Návrh nařízení
Bod odůvodnění 32 a (nový)
(32a)  Poskytovatelé, jejichž systémy UI spadají do jedné z oblastí a případů použití uvedených v příloze III, kteří se domnívají, že jejich systém nepředstavuje významné riziko poškození zdraví, bezpečnosti, základních práv nebo životního prostředí, by měli informovat vnitrostátní dozorové orgány tím, že předloží odůvodněné oznámení. To by mohlo mít podobu jednostránkového shrnutí příslušných informací o daném systému UI, včetně jeho zamýšleného účelu a odůvodnění, proč by nepředstavoval významné riziko poškození zdraví, bezpečnosti, základních práv nebo životního prostředí. Komise by měla stanovit kritéria, která společnostem umožní posoudit, zda by jejich systém takováto rizika představoval, a měla by vypracovat snadno použitelný a standardizovaný vzor pro oznámení. Poskytovatelé by měli oznámení předložit co nejdříve a v každém případě před uvedením systému UI na trh nebo do provozu, nejlépe ve fázi vývoje, a měli by mít možnost jej uvést na trh kdykoli po oznámení. Pokud se však orgán domnívá, že dotčený systém UI byl nesprávně klasifikován, měl by ve lhůtě tří měsíců vznést proti oznámení námitku. Námitka by měla být odůvodněna a měla by řádně vysvětlit, proč byl systém UI nesprávně klasifikován. Poskytovatel by si měl ponechat právo na odvolání tím, že předloží další argumenty. Pokud po uplynutí tří měsíců nebudou proti oznámení vzneseny žádné námitky, mohly by vnitrostátní dozorové orgány přesto zasáhnout, pokud systém UI představuje riziko na vnitrostátní úrovni, jako je tomu v případě jakéhokoli jiného systému UI na trhu. Vnitrostátní dozorové orgány by měly Úřadu pro umělou inteligenci předkládat výroční zprávy s podrobnými údaji o obdržených oznámeních a přijatých rozhodnutích.
Pozměňovací návrh 62
Návrh nařízení
Bod odůvodnění 33
(33)  Technické nepřesnosti systémů UI určených pro biometrickou identifikaci fyzických osob na dálku mohou vést ke zkresleným výsledkům a mít diskriminační účinky. To je relevantní zejména v případě věku, etnického původu, pohlaví nebo zdravotních postižení. Proto by měly být systémy biometrické identifikace na dálku „v reálném čase“ i „zpětně“ klasifikovány jako vysoce rizikové. S ohledem na rizika, která oba typy systémů biometrické identifikace na dálku představují, by se na ně měly vztahovat zvláštní požadavky v oblasti schopnosti zaznamenávání dat a lidského dohledu.
vypouští se
Pozměňovací návrh 63
Návrh nařízení
Bod odůvodnění 33 a (nový)
(33a)  Vzhledem k tomu, že biometrické údaje představují v souladu s nařízením 2016/679 zvláštní kategorii citlivých osobních údajů, je vhodné klasifikovat jako vysoce rizikové několik zásadních případů použití biometrických a biometrických systémů. Za vysoce rizikové systémy je tedy třeba označit systémy UI určené k biometrické identifikaci fyzických osob a systémy UI určené k použití za účelem vyvozování závěrů o osobních vlastnostech fyzických osob na základě biometrických údajů či údajů, které z biometrických údajů vycházejí, včetně systémů rozpoznávání emocí, s výjimkou systémů, které jsou zakázány podle tohoto nařízení. Neměly by být zahrnuty systémy UI určené k biometrickému ověřování, včetně autentizace, jejichž jediným účelem je potvrdit, zda konkrétní fyzická osoba je osobou, za niž se prohlašuje, a systémy, které se používají k potvrzení totožnosti fyzické osoby za jediným účelem, kterým je získání přístupu ke službě, zařízení nebo prostorám (ověřování jedna ku jedné). Biometrické systémy a systémy založené na biometrických údajích, které jsou stanoveny v právních předpisech Unie s cílem umožnit kybernetickou bezpečnost a opatření na ochranu osobních údajů, by neměly být považovány za systémy představující významné riziko poškození zdraví, bezpečnosti a základních práv.
Pozměňovací návrh 64
Návrh nařízení
Bod odůvodnění 34
(34)  Pokud jde o správu a provoz kritické infrastruktury, je vhodné klasifikovat jako vysoce rizikové takové systémy UI, které jsou určeny k použití jako bezpečnostní součásti při řízení a provozu silniční dopravy a při zásobování vodou, plynem, teplem a elektřinou, protože jejich porucha nebo chybné fungování může ohrozit život a zdraví osob ve velkém rozsahu a vést ke značnému narušení běžného provozování sociálních a hospodářských činností.
(34)  Pokud jde o správu a provoz kritické infrastruktury, je vhodné klasifikovat jako vysoce rizikové takové systémy UI, které jsou určeny k použití jako bezpečnostní součásti při řízení a provozu v oblasti zásobování vodou, plynem, teplem a elektřinou a kritické digitální infrastruktury, protože jejich porucha nebo chybné fungování může narušit bezpečnost a integritu této kritické infrastruktury nebo může ohrozit život a zdraví osob ve velkém rozsahu a vést ke značnému narušení běžného provozování sociálních a hospodářských činností. Bezpečnostní součásti kritické infrastruktury, včetně kritické digitální infrastruktury, jsou systémy používané k přímé ochraně fyzické integrity fyzické infrastruktury nebo zdraví a bezpečnosti osob a majetku. Selhání nebo špatné fungování těchto součástí může přímo vést k ohrožení fyzické integrity kritické infrastruktury, a tím i k ohrožení zdraví a bezpečnosti osob a majetku. Součásti určené k použití výhradně pro účely kybernetické bezpečnosti by neměly být považovány za bezpečnostní součásti. Mezi příklady bezpečnostních součástí mohou patřit systémy pro monitorování tlaku vody nebo systémy řízení požárního poplachu ve střediscích cloud computingu.
Pozměňovací návrh 65
Návrh nařízení
Bod odůvodnění 35
(35)  Za vysoce rizikové by měly být považovány systémy UI používané ve vzdělávání nebo v odborné přípravě, zejména při určování přístupu osob do školských institucí a institucí odborného vzdělávání, jejich přidělování do těchto institucí nebo pro hodnocení osob v testech jako součásti nebo jako předpokladu jejich vzdělávání, protože mohou určovat vzdělávací a profesní průběh života lidí a tak ovlivňovat jejich schopnost zajišťovat si živobytí. Pokud budou tyto systémy navrženy a používány nesprávně, mohou porušovat právo na vzdělávání a odbornou přípravu i právo nebýt diskriminován a fixovat historické vzorce diskriminace.
(35)  Zavádění systémů UI ve vzdělávání je důležité pro modernizaci celých vzdělávacích systémů a zvýšení kvality vzdělávání, a to jak offline, tak online, a pro urychlení digitálního vzdělávání, a tím i jeho zpřístupnění širší veřejnosti. Jako vysoce rizikové by měly být klasifikovány systémy UI používané ve vzdělávání nebo v odborné přípravě, zejména při určování přístupu osob nebo věcně ovlivňující jejich přijetí do školských institucí a institucí odborného vzdělávání, jejich přidělování do těchto institucí nebo pro hodnocení osob v testech jako součásti nebo jako předpokladu jejich vzdělávání nebo pro posouzení vhodné úrovně vzdělávání jednotlivce nebo věcného vlivu úrovně vzdělávání a odborné přípravy, které tito jedinci obdrží, nebo pro určení přístupu nebo pro monitorování a detekci zakázaného chování studentů během testů, neboť takovéto systémy mohou určovat vzdělávací a profesní průběh života lidí a tak ovlivňovat jejich schopnost zajišťovat si živobytí. Pokud budou tyto systémy navrženy a používány nesprávně, mohou být mimořádně obtěžující a mohou porušovat právo na vzdělávání a odbornou přípravu i právo nebýt diskriminován a fixovat historické vzorce diskriminace, například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace.
Pozměňovací návrh 66
Návrh nařízení
Bod odůvodnění 36
(36)  Jako vysoce rizikové mohou být klasifikovány systémy UI používané při zaměstnávání, řízení pracovníků a při přístupu k samostatné výdělečné činnosti, zejména při náboru a výběru osob, při rozhodování o povýšení nebo propuštění a při přidělování úkolů, monitorování nebo hodnocení osob ve smluvních pracovněprávních vztazích, protože mohou významně ovlivnit budoucí kariérní vyhlídky a živobytí těchto osob. Příslušné smluvní pracovněprávní vztahy by měly zahrnovat zaměstnance a osoby poskytující služby prostřednictvím platforem, jak je uvedeno v pracovním programu Komise na rok 2021. Tyto osoby by v zásadě neměly být považovány za uživatele ve smyslu tohoto nařízení. Tyto systémy mohou v průběhu celého procesu náboru a při hodnocení, povyšování nebo udržování osob ve smluvních pracovněprávních vztazích fixovat historické vzorce diskriminace, například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace. Systémy UI používané k monitorování výkonnosti a chování těchto osob mohou ovlivnit rovněž jejich práva na ochranu údajů a soukromí.
(36)  Jako vysoce rizikové by měly být klasifikovány také systémy UI používané při zaměstnávání, řízení pracovníků a při přístupu k samostatné výdělečné činnosti, zejména při náboru a výběru osob, při rozhodování o povýšení nebo propuštění nebo které mají věcný dopad na přijímání, povýšení nebo propuštění, a při personalizovaném přidělování úkolů na základě chování jednotlivce, jeho osobních vlastností nebo biometrických údajů, systémy pro monitorování nebo hodnocení osob ve smluvních pracovněprávních vztazích, protože mohou významně ovlivnit budoucí kariérní vyhlídky, živobytí a pracovní práva těchto osob. Příslušné smluvní pracovněprávní vztahy by měly ve významné míře zahrnovat zaměstnance a osoby poskytující služby prostřednictvím platforem, jak je uvedeno v pracovním programu Komise na rok 2021. Tyto systémy mohou v průběhu celého procesu náboru a při hodnocení, povyšování nebo udržování osob ve smluvních pracovněprávních vztazích fixovat historické vzorce diskriminace, například vůči ženám, určitým věkovým skupinám, osobám se zdravotním postižením nebo osobám určitého rasového nebo etnického původu nebo sexuální orientace. Systémy UI používané k monitorování výkonnosti a chování těchto osob mohou rovněž oslabit podstatu jejich základních práv na ochranu údajů a soukromí a mít na tato práva dopad. Toto nařízení se použije, aniž jsou dotčeny pravomoci Unie a členských států stanovit konkrétnější pravidla pro používání systémů UI v souvislosti se zaměstnáním.
Pozměňovací návrh 67
Návrh nařízení
Bod odůvodnění 37
(37)  Další oblastí, ve které si používání systémů UI zaslouží zvláštní pozornost, je přístup k určitým základním soukromým a veřejným službám a výhodám nezbytným pro plné zapojení osob do společnosti nebo pro zlepšení jejich životní úrovně. Jako vysoce rizikové systémy UI by měly být klasifikovány zejména systémy UI používané k hodnocení rizika úvěrů nebo úvěruschopnosti fyzických osob, protože určují přístup těchto osob k finančním zdrojům nebo k základním službám, jako je bydlení, elektřina a telekomunikační služby. Systémy UI používané k tomuto účelu mohou vést k diskriminaci osob nebo skupin a fixovat historické vzorce diskriminace, například na základě rasového nebo etnického původu, zdravotního postižení, věku a sexuální orientace, nebo vytvářet nové formy diskriminačních dopadů. Vzhledem k velmi omezenému rozsahu tohoto dopadu a dostupným alternativám na trhu je vhodné stanovit výjimku pro systémy UI užívané pro účely posouzení úvěruschopnosti a hodnocení rizika úvěrů, pokud je uvedou do provozu malí poskytovatelé pro svou vlastní potřebu. Fyzické osoby, které žádají o dávky sociálního zabezpečení a veřejné asistenční služby u orgánů veřejné správy, případně kterým jsou tyto dávky a služby poskytovány, jsou zpravidla na těchto dávkách a službách závislé a nacházejí se ve vztahu k odpovědným orgánům ve zranitelném postavení. Využívání systémů UI k určování toho, zda by tyto orgány měly tyto výhody a služby zamítnout, omezit, zrušit nebo žádat jejich navrácení, může mít významný dopad na živobytí daných osob a může porušovat jejich základní práva, jako je právo na sociální ochranu, na zákaz diskriminace, na lidskou důstojnost nebo na účinnou právní ochranu. Tyto systémy by proto měly být klasifikovány jako vysoce rizikové. Toto nařízení by však nemělo bránit rozvoji a využívání inovativních přístupů ve veřejné správě, pro kterou by mohlo být širší využívání vyhovujících a bezpečných systémů UI prospěšné, pokud tyto systémy nepředstavují vysoké riziko pro právnické a fyzické osoby. A konečně by měly být jako vysoce rizikové klasifikovány rovněž systémy UI používané při dispečinku pohotovostních služeb nebo stanovení priorit při tomto dispečinku, protože rozhodují v situacích, které jsou velmi kritické pro život a zdraví osob a jejich majetek.
(37)  Další oblastí, ve které si používání systémů UI zaslouží zvláštní pozornost, je přístup k určitým základním soukromým a veřejným službám, včetně služeb zdravotní péče, a základním službám, mimo jiné také bydlení, elektřině, vytápění/chlazení a internetu, a výhodám nezbytným pro plné zapojení osob do společnosti nebo pro zlepšení jejich životní úrovně. Jako vysoce rizikové systémy UI by měly být klasifikovány zejména systémy UI používané k hodnocení rizika úvěrů nebo úvěruschopnosti fyzických osob, protože určují přístup těchto osob k finančním zdrojům nebo k základním službám, jako je bydlení, elektřina a telekomunikační služby. Systémy UI používané k tomuto účelu mohou vést k diskriminaci osob nebo skupin a fixovat historické vzorce diskriminace, například na základě rasového nebo etnického původu, genderu, zdravotního postižení, věku a sexuální orientace, nebo vytvářet nové formy diskriminačních dopadů. Systémy UI stanovené právem Unie pro účely odhalování podvodů při nabízení finančních služeb by však neměly být podle tohoto nařízení považovány za vysoce rizikové. Fyzické osoby, které žádají o dávky sociálního zabezpečení a veřejné asistenční služby u orgánů veřejné správy, včetně služeb zdravotní péče a základních služeb, mimo jiné pokud jde o bydlení, elektřinu, vytápění/chlazení a internet, a kterým jsou případně tyto dávky a služby poskytovány, jsou zpravidla na těchto dávkách a službách závislé a nacházejí se ve vztahu k odpovědným orgánům ve zranitelném postavení. Využívání systémů UI k určování toho, zda by tyto orgány měly tyto výhody a služby zamítnout, omezit, zrušit nebo žádat jejich navrácení, může mít významný dopad na živobytí daných osob a může porušovat jejich základní práva, jako je právo na sociální ochranu, na zákaz diskriminace, na lidskou důstojnost nebo na účinnou právní ochranu. Podobně mohou mít systémy UI určené k rozhodování nebo věcnému ovlivňování rozhodnutí o způsobilosti fyzických osob pro zdravotní a životní pojištění rovněž významný dopad na živobytí osob a mohou porušovat jejich základní práva, například omezením přístupu ke zdravotní péči nebo zachováním diskriminace na základě osobních charakteristik. Tyto systémy by proto měly být klasifikovány jako vysoce rizikové. Toto nařízení by však nemělo bránit rozvoji a využívání inovativních přístupů ve veřejné správě, pro kterou by mohlo být širší využívání vyhovujících a bezpečných systémů UI prospěšné, pokud tyto systémy nepředstavují vysoké riziko pro právnické a fyzické osoby. A konečně by měly být jako vysoce rizikové klasifikovány rovněž systémy UI používané pro hodnocení a klasifikaci tísňových volání fyzických osob nebo při dispečinku pohotovostních služeb nebo stanovení priorit při tomto dispečinku, protože rozhodují v situacích, které jsou velmi kritické pro život a zdraví osob a jejich majetek.
Pozměňovací návrh 68
Návrh nařízení
Bod odůvodnění 37 a (nový)
(37a)  Vzhledem k úloze a odpovědnosti policejních a soudních orgánů a k dopadu rozhodnutí, která přijímají za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, je třeba klasifikovat některé zvláštní případy použití aplikací UI v oblasti vymáhání práva jako vysoce rizikové, zejména existuje-li možnost, že by měly významný dopad na život nebo základní práva jednotlivců.
Pozměňovací návrh 69
Návrh nařízení
Bod odůvodnění 38
(38)  Opatření donucovacích orgánů zahrnující určitá použití systémů UI se vyznačují značným stupněm nerovnováhy sil a mohou vést ke sledování fyzické osoby, jejímu zatčení nebo zbavení svobody, jakož i k dalším nepříznivým dopadům na základní práva zaručená Listinou. Zejména v případě, že systém UI nebyl trénován na vysoce kvalitních datech, nesplňuje odpovídající požadavky na přesnost nebo spolehlivost nebo není před uvedením na trh nebo jiným uvedením do provozu řádně navržen a otestován, může dojít k vyčleňování osob diskriminačním nebo jinak nesprávným nebo nespravedlivým způsobem. Kromě toho by mohl být omezen výkon důležitých základních procesních práv, jako je právo na účinnou právní ochranu a na spravedlivý proces, jakož i právo na obhajobu a presumpce neviny, zejména pokud tyto systémy UI nejsou dostatečně transparentní, vysvětlitelné a zdokumentované. Je proto vhodné označit za vysoce rizikové celou řadu systémů UI určených k použití v kontextu prosazování práva, kde je přesnost, spolehlivost a transparentnost obzvláště důležitá, s cílem zabránit nepříznivým dopadům, zachovat důvěru veřejnosti a zajistit odpovědnost a účinné opravné prostředky. S ohledem na povahu dotčených činností a na rizika s nimi spojená by tyto vysoce rizikové systémy UI měly zahrnovat zejména systémy UI určené k využívání donucovacími orgány k individuálnímu hodnocení rizik, polygrafy a podobné nástroje, případně systémy užívané k detekci emočního stavu fyzických osob, k odhalování tzv. deep fakes, k vyhodnocování spolehlivosti důkazů v trestním řízení, k predikci výskytu nebo opakování skutečné nebo potenciální trestné činnosti na základě profilování fyzických osob neboposuzování osobnostních a povahových rysů nebo předchozí trestné činnosti fyzických osob nebo skupin, k profilování v průběhu odhalování, vyšetřování nebo stíhání trestných činů, jakož i k analýze trestné činnosti ve vztahu k fyzickým osobám. Systémy UI výslovně určené k použití daňovými a celními orgány při správním řízení by neměly být považovány za vysoce rizikové systémy UI používané donucovacími orgány za účelem prevence, odhalování, vyšetřování a stíhání trestných činů.
(38)  Opatření donucovacích orgánů zahrnující určitá použití systémů UI se vyznačují značným stupněm nerovnováhy sil a mohou vést ke sledování fyzické osoby, jejímu zatčení nebo zbavení svobody, jakož i k dalším nepříznivým dopadům na základní práva zaručená Listinou. Zejména v případě, že systém UI nebyl trénován na vysoce kvalitních datech, nesplňuje odpovídající požadavky na výkonnost, přesnost nebo spolehlivost nebo není před uvedením na trh nebo jiným uvedením do provozu řádně navržen a otestován, může dojít k vyčleňování osob diskriminačním nebo jinak nesprávným nebo nespravedlivým způsobem. Kromě toho by mohl být omezen výkon důležitých základních procesních práv, jako je právo na účinnou právní ochranu a na spravedlivý proces, jakož i právo na obhajobu a presumpce neviny, zejména pokud tyto systémy UI nejsou dostatečně transparentní, vysvětlitelné a zdokumentované. Je proto vhodné označit za vysoce rizikové celou řadu systémů UI určených k použití v kontextu prosazování práva, kde je přesnost, spolehlivost a transparentnost obzvláště důležitá, s cílem zabránit nepříznivým dopadům, zachovat důvěru veřejnosti a zajistit odpovědnost a účinné opravné prostředky. S ohledem na povahu dotčených činností a na rizika s nimi spojená by tyto vysoce rizikové systémy UI měly zahrnovat zejména systémy UI určené k využívání donucovacími orgány nebo jejich jménem nebo orgány, institucemi a jinými subjekty Unie v rámci podpory donucovacích orgánů, jako např. polygrafy a podobné nástroje, pokud je jejich použití povoleno příslušným unijním a vnitrostátním právem, avyhodnocování spolehlivosti důkazů v trestním řízení, k profilování v průběhu odhalování, vyšetřování nebo stíhání trestných činů, jakož i k analýze trestné činnosti ve vztahu k fyzickým osobám. Systémy UI výslovně určené k použití daňovými a celními orgány při správním řízení by neměly být klasifikovány jako vysoce rizikové systémy UI používané donucovacími orgány za účelem prevence, odhalování, vyšetřování a stíhání trestných činů. Využívání nástrojů UI donucovacími a soudními orgány by se nemělo stát faktorem nerovnosti, sociálního rozkolu nebo vyloučení. Dopad používání nástrojů UI na práva podezřelých osob na obhajobu by neměl být opomíjen, zejména pokud jde o obtíže při získávání důležitých informací o jejich fungování a následné problémy při vznesení námitek proti jejich výsledkům u soudu, zejména ze strany vyšetřovaných osob.
Pozměňovací návrh 70
Návrh nařízení
Bod odůvodnění 39
(39)  Systémy UI využívané pro účely migrace, azylu a řízení ochrany hranic ovlivňují osoby, které jsou často v obzvláště zranitelném postavení a jsou závislé na výsledku činnosti příslušných orgánů veřejné moci. Přesnost, nediskriminační povaha a transparentnost systémů UI používaných v těchto kontextech jsou proto obzvláště důležité pro zajištění dodržování základních práv dotčených osob, zejména jejich práva na volný pohyb, na zákaz diskriminace, na ochranu soukromého života a osobních údajů, na mezinárodní ochranu a na řádnou správu. Je proto vhodné označit jako vysoce rizikové ty systémy UI, které jsou určeny k použití příslušnými orgány veřejné moci pověřenými úkoly v oblasti migrace, azylu a řízení ochrany hranic, jako jsou například polygrafy a podobné nástroje, případně nástroje určené k detekci emočního stavu fyzické osoby; k posuzování určitých rizik, která představují fyzické osoby vstupující na území členského státu nebo žádající o vízum nebo azyl; k ověření pravosti příslušných dokladů fyzických osob; jako pomoc příslušným orgánům veřejné správy při posuzování žádostí o azyl, vízum a povolení k pobytu a souvisejících stížností, pokud jde o cíl, jímž je zjištění způsobilosti fyzických osob žádajících o určitý status. Systémy UI v oblasti migrace, azylu a řízení ochrany hranic, na které se vztahuje toto nařízení, by měly splňovat příslušné procesní požadavky stanovené směrnicí Evropského parlamentu a Rady 2013/32/EU49, nařízením Evropského parlamentu a Rady (ES) č. 810/200950 a dalšími příslušnými právními předpisy.
(39)  Systémy UI využívané pro účely migrace, azylu a řízení ochrany hranic ovlivňují osoby, které jsou často v obzvláště zranitelném postavení a jsou závislé na výsledku činnosti příslušných orgánů veřejné moci. Přesnost, nediskriminační povaha a transparentnost systémů UI používaných v těchto kontextech jsou proto obzvláště důležité pro zajištění dodržování základních práv dotčených osob, zejména jejich práva na volný pohyb, na zákaz diskriminace, na ochranu soukromého života a osobních údajů, na mezinárodní ochranu a na řádnou správu. Je proto vhodné označit jako vysoce rizikové ty systémy UI, které jsou určeny k použití příslušnými orgány veřejné moci nebo jejích jménem nebo orgány, institucemi a jinými subjekty Unie pověřenými úkoly v oblasti migrace, azylu a řízení ochrany hranic, jako jsou například polygrafy a podobné nástroje, je-li jejich použití povoleno podle příslušného unijního a vnitrostátního práva, případně nástroje určené k detekci emočního stavu fyzické osoby, a k posuzování určitých rizik, která představují fyzické osoby vstupující na území členského státu nebo žádající o vízum nebo azyl; k ověření pravosti příslušných dokladů fyzických osob; jako pomoc příslušným orgánům veřejné správy při posuzování a hodnocení věrohodnosti důkazů souvisejících s žádostmi o azyl, vízum a povolení k pobytu a souvisejících stížností, pokud jde o cíl, jímž je zjištění způsobilosti fyzických osob žádajících o určitý status; kmonitorování, sledování nebo zpracování osobních údajů v souvislosti se správou hranic, a to za účelem odhalování, rozpoznávání nebo identifikace fyzických osob; k předpovídání nebo odhadování trendů souvisejících s migračními pohyby a překračováním hranic. Systémy UI v oblasti migrace, azylu a řízení ochrany hranic, na které se vztahuje toto nařízení, by měly splňovat příslušné procesní požadavky stanovené směrnicí Evropského parlamentu a Rady 2013/32/EU49, nařízením Evropského parlamentu a Rady (ES) č. 810/200950 a dalšími příslušnými právními předpisy. Členské státy nebo orgány, instituce nebo jiné subjekty Unie by za žádných okolností neměly používat systémy UI při řízení migrace, azylu a ochrany hranic jako prostředek k obcházení svých mezinárodních závazků vyplývajících z Úmluvy o právním postavení uprchlíků ze dne 28. července 1951 ve znění protokolu ze dne 31. ledna 1967, ani by tyto systémy neměly být využívány k jakémukoli porušování zásady nenavracení nebo k odepření bezpečných a účinných legálních cest na území Unie, včetně práva na mezinárodní ochranu.
__________________
__________________
49 Směrnice Evropského parlamentu a Rady 2013/32/EU ze dne 26. června 2013 o společných řízeních pro přiznávání a odnímání statusu mezinárodní ochrany (Úř. věst. L 180, 29.6.2013, s. 60).
49 Směrnice Evropského parlamentu a Rady 2013/32/EU ze dne 26. června 2013 o společných řízeních pro přiznávání a odnímání statusu mezinárodní ochrany (Úř. věst. L 180, 29.6.2013, s. 60).
50 Nařízení Evropského parlamentu a Rady (ES) č. 810/2009 ze dne 13. července 2009 o kodexu Společenství o vízech (vízový kodex) (Úř. věst. L 243, 15.9.2009, s. 1).
50 Nařízení Evropského parlamentu a Rady (ES) č. 810/2009 ze dne 13. července 2009 o kodexu Společenství o vízech (vízový kodex) (Úř. věst. L 243, 15.9.2009, s. 1).
Pozměňovací návrh 71
Návrh nařízení
Bod odůvodnění 40
(40)  Určité systémy UI určené k výkonu spravedlnosti a demokratických procesů by měly být klasifikovány jako vysoce rizikové s ohledem na jejich potenciálně významný dopad na demokracii, právní stát a individuální svobody, jakož i na právo na účinnou právní ochranu a na spravedlivý proces. Jako vysoce rizikové je vhodné kvalifikovat systémy UI, jejichž cílem je poskytovat pomoc justičním orgánům při zkoumání a výkladu skutečností a práva a při uplatňování práva na konkrétní soubor skutečností, zejména z důvodu řešení rizik možného zkreslení, chyb a neprůhlednosti. Tato kvalifikace by se však neměla vztahovat na systémy UI určené pro čistě pomocné správní činnosti, které neovlivňují faktický výkon spravedlnosti v jednotlivých případech, jako je například anonymizace nebo pseudonymizace soudních rozhodnutí, dokumentů nebo údajů, komunikace mezi zaměstnanci, administrativní úkoly nebo přidělování zdrojů.
(40)  Určité systémy UI určené k výkonu spravedlnosti a demokratických procesů by měly být klasifikovány jako vysoce rizikové s ohledem na jejich potenciálně významný dopad na demokracii, právní stát a individuální svobody, jakož i na právo na účinnou právní ochranu a na spravedlivý proces. Jako vysoce rizikové je vhodné klasifikovat systémy UI, které mají být používány soudním orgánem nebo správním subjektem nebo jejich jménem s cílem poskytovat pomoc justičním orgánům nebo správním subjektům při zkoumání a výkladu skutečností a práva a při uplatňování práva na konkrétní soubor skutečností nebo které jsou používány obdobným způsobem v rámci alternativního řešení sporů, zejména z důvodu řešení rizik možného zkreslení, chyb a neprůhlednosti. Využívání nástrojů umělé inteligence může podpořit rozhodovací pravomoci soudců nebo nezávislost soudnictví, ale nemělo by je nahrazovat, neboť konečné rozhodnutí musí i nadále přijímat člověk. Tato kvalifikace by se však neměla vztahovat na systémy UI určené pro čistě pomocné správní činnosti, které neovlivňují faktický výkon spravedlnosti v jednotlivých případech, jako je například anonymizace nebo pseudonymizace soudních rozhodnutí, dokumentů nebo údajů, komunikace mezi zaměstnanci, administrativní úkoly nebo přidělování zdrojů.
Pozměňovací návrh 72
Návrh nařízení
Bod odůvodnění 40 a (nový)
(40a)  S cílem řešit rizika nepřiměřeného vnějšího zasahování do volebního práva zakotveného v článku 39 Listiny a nepřiměřených dopadů na demokratické procesy, demokracii a právní stát by systémy UI, které jsou určeny k ovlivňování výsledku voleb nebo referenda nebo hlasování fyzických osob ve volbách nebo referendech, měly být klasifikovány jako vysoce rizikové systémy UI, s výjimkou systémů UI, jejichž výstupu nejsou fyzické osoby přímo vystaveny, jako jsou nástroje používané k organizaci, optimalizaci a strukturování politických kampaní z administrativního a logistického hlediska.
Pozměňovací návrh 73
Návrh nařízení
Bod odůvodnění 40 b (nový)
(40b)  Vzhledem k množství fyzických osob, které využívají služby poskytované platformami sociálních médií označenými jako velmi velké online platformy, mohou být tyto online platformy využívány způsobem, který výrazně ovlivňuje bezpečnost v online prostředí, formování veřejného mínění a diskurzu, volební a demokratické procesy a společenské otázky. Je proto vhodné, aby se na systémy UI, které tyto online platformy používají ve svých doporučovacích systémech, vztahovalo toto nařízení, a zajistilo se tak, aby tyto systémy UI splňovaly požadavky stanovené tímto nařízením, včetně technických požadavků na správu údajů, technickou dokumentaci a sledovatelnost, transparentnost, lidský dohled, přesnost a spolehlivost. Dodržování tohoto nařízení by mělo těmto velmi velkým online platformám umožnit, aby plnily své širší povinnosti v oblasti posuzování rizik a zmírňování rizik stanovené v článcích 34 a 35 nařízení (EU) 2022/2065. Povinnostmi stanovenými v tomto nařízení není dotčeno nařízení (EU) 2022/2065 a měly by doplňovat povinnosti požadované podle nařízení (EU) 2022/2065, pokud byla platforma sociálního média označena za velmi velkou online platformu. Vzhledem k celoevropskému dopadu platforem sociálních médií označených jako velmi velké online platformy by orgány určené podle nařízení (EU) 2022/2065 měly jednat jako donucovací orgány pro účely prosazování tohoto ustanovení.
Pozměňovací návrh 74
Návrh nařízení
Bod odůvodnění 41
(41)  Skutečnost, že daný systém UI je podle tohoto nařízení klasifikován jako vysoce rizikový, by neměla být vykládána v tom smyslu, že používání tohoto systému musí být nezbytně zákonné podle jiných aktů práva Unie nebo podle vnitrostátních právních předpisů slučitelných s právem Unie, které se týkají například ochrany osobních údajů, používání polygrafů a podobných nástrojů nebo jiných systémů ke zjišťování emočního stavu fyzických osob. K jakémukoli takovému využívání by mělo i nadále docházet pouze v souladu s příslušnými požadavky vyplývajícími z Listiny a z příslušných aktů sekundárního práva Unie a vnitrostátního práva. Toto nařízení by nemělo být chápáno tak, že poskytuje právní základ pro zpracování osobních údajů, případně včetně zvláštních kategorií osobních údajů.
(41)  Skutečnost, že daný systém UI je podle tohoto nařízení klasifikován jako rizikový systém UI, by neměla být vykládána v tom smyslu, že používání tohoto systému musí být nezbytně zákonné nebo nezákonné podle jiných aktů práva Unie nebo podle vnitrostátních právních předpisů slučitelných s právem Unie, které se týkají například ochrany osobních údajů.
Pozměňovací návrh 75
Návrh nařízení
Bod odůvodnění 41 a (nový)
(41a)  V současnosti se na systémy UI již vztahuje nebo s nimi souvisí řada právně závazných pravidel na evropské, celostátní nebo mezinárodní úrovni, mimo jiné primární právo EU (Smlouvy Evropské unie a její Listina základních práv), sekundární právo EU (jako je obecné nařízení o ochraně osobních údajů, směrnice o odpovědnosti za výrobky, nařízení o volném toku neosobních údajů, antidiskriminační směrnice, spotřebitelské právo a směrnice o bezpečnosti a ochraně zdraví při práci), smlouvy OSN o lidských právech a úmluvy Rady Evropy (jako je Evropská úmluva o lidských právech) a vnitrostátní právní předpisy. Kromě horizontálně uplatňovaných pravidel existují různá pravidla pro konkrétní oblasti platná pro jednotlivé aplikace UI (například nařízení o zdravotních prostředcích v odvětví zdravotnictví).
Pozměňovací návrh 76
Návrh nařízení
Bod odůvodnění 42
(42)  Ke zmírnění rizik, která vyplývají uživatelům a dotčeným osobám z vysoce rizikových systémů UI uváděných na trh Unie nebo jinak uváděných do provozu na tomto trhu, by měly být uplatňovány určité povinné požadavky s přihlédnutím k určenému účelu používání tohoto systému a v souladu se systémem řízení rizik, který stanoví poskytovatel.
(42)  Ke zmírnění rizik, která vyplývají provozovatelům a dotčeným osobám z vysoce rizikových systémů UI uváděných na trh Unie nebo jinak uváděných do provozu na tomto trhu, by měly být uplatňovány určité povinné požadavky s přihlédnutím k určenému účelu a důvodně předvídatelnému nesprávnému použití tohoto systému a v souladu se systémem řízení rizik, který stanoví poskytovatel. Tyto požadavky by měly být objektivní, vhodné pro daný účel, přiměřené a účinné, aniž by vytvářely nepřiměřenou regulační zátěž nebo náklady pro provozovatele.
Pozměňovací návrh 77
Návrh nařízení
Bod odůvodnění 43
(43)  Na vysoce rizikové systémy UI by se měly vztahovat požadavky týkající se kvality použitých souborů dat, technické dokumentace a uchovávání záznamů, transparentnosti a poskytování informací uživatelům, lidského dohledu a spolehlivosti, přesnosti a kybernetické bezpečnosti. Tyto požadavky jsou nezbytným předpokladem účinného zmírňování rizik pro zdraví, bezpečnost a základní práva v závislosti na určeném účelu tohoto systému; žádná další opatření méně omezující obchod nejsou rozumně dostupná, a tudíž nedochází k bezdůvodným omezením obchodu.
(43)  Na vysoce rizikové systémy UI by se měly vztahovat požadavky týkající se kvality a významu použitých souborů dat, technické dokumentace a uchovávání záznamů, transparentnosti a poskytování informací provozovatelům, lidského dohledu a spolehlivosti, přesnosti a kybernetické bezpečnosti. Tyto požadavky jsou nezbytným předpokladem účinného zmírňování rizik pro zdraví, bezpečnost a základní práva, jakož i pro životní prostředí, demokracii a právní stát, a to v závislosti na určeném účelu tohoto systému nebo na jeho důvodně předvídatelném nesprávném použití; žádná další opatření méně omezující obchod nejsou rozumně dostupná, a tudíž nedochází k bezdůvodným omezením obchodu.
Pozměňovací návrh 78
Návrh nařízení
Bod odůvodnění 44
(44)  Pro výkonnost celé řady systémů UI má zásadní význam vysoká kvalita dat, zejména pokud jsou používány techniky zahrnující trénování modelů s cílem zajistit, aby vysoce rizikový systém UI fungoval dle předpokladu a bezpečně a aby se nestal zdrojem diskriminace, kterou právo Unie zakazuje. Soubory vysoce kvalitních tréninkových dat, dat pro ověřování platnosti a testovacích dat vyžadují zavedení vhodných postupů správy a řízení dat. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly být dostatečně relevantní, reprezentativní, bez chyb a úplné s ohledem na určený účel systému. Měly by rovněž vykazovat příslušné statistické vlastnosti, včetně údajů osobách nebo skupinách osob, pro které má být daný vysoce rizikový systém UI používán. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly s ohledem na svůj určený účel zohledňovat zejména rysy, vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, behaviorální nebo funkční prostředí nebo kontext, ve kterém má být systém UI používán. V zájmu ochrany práva jiných osob na zabránění diskriminaci, která by mohla vyplynout ze zkreslení v rámci systémů UI, by poskytovatelé měli mít možnost zpracovávat také zvláštní kategorie osobních údajů jako záležitost významného veřejného zájmu s cílem zajistit sledování, detekci a opravu tohoto zkreslení ve vztahu k vysoce rizikovým systémům UI.
(44)  Přístup k vysoce kvalitním datům má zásadní úlohu při poskytování struktury a zajištění výkonnosti celé řady systémů UI, zejména pokud jsou používány techniky zahrnující trénování modelů s cílem zajistit, aby vysoce rizikový systém UI fungoval dle předpokladu a bezpečně a aby se nestal zdrojem diskriminace, kterou právo Unie zakazuje. Soubory vysoce kvalitních tréninkových dat, dat pro ověřování platnosti a testovacích dat vyžadují zavedení vhodných postupů správy a řízení dat. Soubory tréninkových dat a případně soubory dat pro ověřování platnosti a testovacích dat, včetně označování, by měly být dostatečně relevantní, reprezentativní, náležitě prověřené z hlediska chyb a co nejúplnější s ohledem na určený účel systému. Měly by rovněž vykazovat příslušné statistické vlastnosti, včetně údajů osobách nebo skupinách osob, v souvislosti s nimiž má být daný vysoce rizikový systém UI používán, se zvláštním důrazem na zmírnění možného zkreslení v souborech dat, jež by mohlo vést k ohrožení základních práv nebo diskriminačním výsledkům pro osoby, jichž se vysoce rizikový systém UI týká. Zkreslení mohou být inherentní součástí základních datových souborů, zejména pokud jsou používána historická data, která byla vložena vývojáři algoritmů nebo generována při zavádění systémů v reálných podmínkách. Výsledky poskytnuté systémy UI jsou ovlivněny takovýmito zkresleními, která mají tendenci postupně zvyšovat, a tudíž zachovávat a posilovat existující diskriminaci, zejména v případě osob patřících k určitým zranitelným etnickým skupinám nebo rasizovaným komunitám. Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat by měly s ohledem na svůj určený účel zohledňovat zejména rysy, vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, kontextuální, behaviorální nebo funkční prostředí nebo kontext, ve kterém má být systém UI používán. V zájmu ochrany práva jiných osob na zabránění diskriminaci, která by mohla vyplynout ze zkreslení v rámci systémů UI, by poskytovatelé ve výjimečných případech a po uplatnění všech příslušných podmínek stanovených v tomto nařízení a v nařízení (EU) 2016/679, směrnici (EU) 2016/680 a v nařízení (EU) 2018/1725 měli mít možnost zpracovávat také zvláštní kategorie osobních údajů jako záležitost významného veřejného zájmu s cílem zajistit detekci a opravu tohoto zkreslení ve vztahu k vysoce rizikovým systémům UI. Negativní zkreslení by mělo být chápáno jako zkreslení, které vytváří přímý nebo nepřímý diskriminační účinek vůči fyzické osobě. Požadavky týkající se správy dat lze splnit využitím třetích stran, které nabízejí certifikované služby souladu s předpisy, včetně ověřování správy dat, integrity datových souborů a trénování, validace a testování dat.
Pozměňovací návrh 79
Návrh nařízení
Bod odůvodnění 45
(45)  Při vývoji vysoce rizikových systémů UI by měli mít některé subjekty, jako jsou poskytovatelé, oznámené subjekty a další příslušné subjekty, například centra pro digitální inovace, pokusná zkušební zařízení a výzkumní pracovníci, přístup k vysoce kvalitním datovým souborům ve svých příslušných oborech činnosti, které souvisejí s tímto nařízením. Zásadní význam pro zajištění důvěryhodného, odpovědného a nediskriminačního přístupu k vysoce kvalitním datům pro účely trénování, ověřování a testování systémů UI budou mít společné evropské datové prostory vytvořené Komisí, jakož i usnadnění sdílení údajů ve veřejném zájmu mezi podniky a s vládou. Například v oblasti zdraví umožní společný evropský prostor pro data z oblasti veřejného zdraví nediskriminační přístup k údajům o zdraví a trénování algoritmů umělé inteligence na těchto souborech dat, a to způsobem, který bude chránit soukromí, bude bezpečný, včasný, transparentní a důvěryhodný a bude u něj zajištěna vhodná institucionální správa. Poskytování vysoce kvalitních dat pro účely trénování, ověřování a testování systémů UI mohou podporovat rovněž odpovídající příslušné orgány, včetně odvětvových, které poskytují nebo podporují přístup k datům.
(45)  Při vývoji a posuzování vysoce rizikových systémů UI by měli mít některé subjekty, jako jsou poskytovatelé, oznámené subjekty a další příslušné subjekty, například centra pro digitální inovace, pokusná zkušební zařízení a výzkumní pracovníci, přístup k vysoce kvalitním datovým souborům ve svých příslušných oborech činnosti, které souvisejí s tímto nařízením. Zásadní význam pro zajištění důvěryhodného, odpovědného a nediskriminačního přístupu k vysoce kvalitním datům pro účely trénování, ověřování a testování systémů UI budou mít společné evropské datové prostory vytvořené Komisí, jakož i usnadnění sdílení údajů ve veřejném zájmu mezi podniky a s vládou. Například v oblasti zdraví umožní společný evropský prostor pro data z oblasti veřejného zdraví nediskriminační přístup k údajům o zdraví a trénování algoritmů umělé inteligence na těchto souborech dat, a to způsobem, který bude chránit soukromí, bude bezpečný, včasný, transparentní a důvěryhodný a bude u něj zajištěna vhodná institucionální správa. Poskytování vysoce kvalitních dat pro účely trénování, ověřování a testování systémů UI mohou podporovat rovněž odpovídající příslušné orgány, včetně odvětvových, které poskytují nebo podporují přístup k datům.
Pozměňovací návrh 80
Návrh nařízení
Bod odůvodnění 45 a (nový)
(45a)  Právo na soukromí a na ochranu osobních údajů musí být zaručeno během celého životního cyklu systému UI. V tomto ohledu, pokud zpracování údajů představuje významná rizika pro základní práva jednotlivců, mají velký význam zásady minimalizace údajů a záměrné a standardní ochrany údajů, jak jsou stanoveny v právních předpisech Unie o ochraně údajů. Poskytovatelé a uživatelé systémů UI by měli zavést nejmodernější technická a organizační opatření na ochranu těchto práv. Tato opatření by měla zahrnovat nejen anonymizaci a šifrování, ale také využívání stále dostupnější technologie, která umožňují vkládat do dat algoritmy a získávat cenné informace bez přenosu mezi stranami nebo bez zbytečného kopírování samotných nezpracovaných nebo strukturovaných dat.
Pozměňovací návrh 81
Návrh nařízení
Bod odůvodnění 46
(46)  Pro ověření souladu s požadavky tohoto nařízení má zásadní význam, aby byly k dispozici informace, jak byly vysoce rizikové systémy UI vytvořeny a jak fungují po celou dobu své životnosti. To vyžaduje vedení záznamů a dostupnost technické dokumentace obsahující informace nezbytné k posouzení souladu daného systému UI s příslušnými požadavky. Tyto informace by měly zahrnovat obecné vlastnosti, schopnosti a omezení tohoto systému, použité algoritmy, data, postupy při trénování, testování a ověřování, jakož i dokumentaci příslušného systému řízení rizik. Technická dokumentace by měla být průběžně aktualizována.
(46)  Pro ověření souladu s požadavky tohoto nařízení má zásadní význam, aby byly k dispozici srozumitelné informace, jak byly vysoce rizikové systémy UI vytvořeny a jak fungují po celou dobu své životnosti. To vyžaduje vedení záznamů a dostupnost technické dokumentace obsahující informace nezbytné k posouzení souladu daného systému UI s příslušnými požadavky. Tyto informace by měly zahrnovat obecné vlastnosti, schopnosti a omezení tohoto systému, použité algoritmy, data, postupy při trénování, testování a ověřování, jakož i dokumentaci příslušného systému řízení rizik. Technická dokumentace by měla být řádně aktualizována po celou dobu životního cyklu systému UI. Systémy UI mohou mít během svého životního cyklu významný dopad na životní prostředí a vysokou spotřebu energie. V zájmu lepšího pochopení dopadu systémů UI na životní prostředí by technická dokumentace vypracovaná poskytovateli měla obsahovat informace o spotřebě energie systému UI, včetně spotřeby během vývoje a očekávané spotřeby během používání. Tyto informace by měly zohledňovat příslušné unijní a vnitrostátní právní předpisy. Tyto oznamované informace by měly být srozumitelné, srovnatelné a ověřitelné a za tímto účelem by Komise měla vypracovat pokyny týkající se harmonizované metodiky pro jejich výpočet a oznamování. S cílem zajistit, aby byla možná jediná dokumentace, by měly být pojmy a definice související s touto požadovanou dokumentací a veškerou dokumentací požadovanou v příslušných právních předpisech Unie co nejvíce sladěny.
Pozměňovací návrh 82
Návrh nařízení
Bod odůvodnění 46 a (nový)
(46a)  Systémy UI by měly zohlednit nejmodernější metody a příslušné platné normy, pokud jde o snižování spotřeby energie, využívání zdrojů a odpad, jakož i zvyšování energetické účinnosti a celkové účinnosti systému. Environmentálními aspekty systémů UI, které jsou důležité z hlediska cílů tohoto nařízení, jsou spotřeba energie systému UI ve fázi vývoje, trénování a zavádění, jakož i zaznamenávání, vykazování a uchovávání těchto údajů. Návrh systémů UI by měl umožnit měření a zaznamenávání spotřeby energie a zdrojů v každé fázi vývoje, trénování a zavádění. Monitorování a vykazování emisí ze systémů UI musí být spolehlivé, transparentní, konzistentní a přesné. Aby bylo zajištěno jednotné uplatňování tohoto nařízení a stabilní právní ekosystém pro poskytovatele a provozovatele na jednotném trhu, měla by Komise vypracovat společnou specifikaci pro metodiku, aby byl splněn požadavek týkající se podávání zpráv a dokumentace v souvislosti se spotřebou energie a zdrojů během vývoje, trénování a zavádění. Tyto společné specifikace týkající se metodiky měření mohou vytvořit základ, na němž může Komise po provedení posouzení dopadů, které zohlední stávající právní předpisy, lépe rozhodnout, zda jsou zapotřebí budoucí regulační zásahy.
Pozměňovací návrh 83
Návrh nařízení
Bod odůvodnění 46 b (nový)
(46b)  Za účelem dosažení cílů tohoto nařízení a s cílem přispět k environmentálním cílům Unie při současném zajištění hladkého fungování vnitřního trhu může být nezbytné stanovit doporučení a pokyny a případně cíle v oblasti udržitelnosti. Za tímto účelem je Komise oprávněna vypracovat metodiku, která přispěje k vytvoření klíčových ukazatelů výkonnosti a referenční hodnoty pro cíle v oblasti udržitelného rozvoje. Cílem by mělo být v první řadě umožnit spravedlivé srovnání mezi možnostmi zavádění UI poskytujícími pobídky k podpoře využívání účinnějších technologií UI, které řeší problémy v oblasti energie a zdrojů. Aby bylo dosaženo tohoto cíle, mělo by toto nařízení poskytnout prostředky pro stanovení základního sběru údajů o emisích spojených s vývojem, trénováním a zaváděním.
Pozměňovací návrh 84
Návrh nařízení
Bod odůvodnění 47 a (nový)
(47a)  Tyto požadavky na transparentnost a vysvětlitelnost rozhodnutí přijímaných na základě UI by měly působit proti odrazujícímu účinku digitální asymetrie a tzv. temných vzorců, které se zaměřují na jednotlivce a získání jejich informovaného souhlasu.
Pozměňovací návrh 85
Návrh nařízení
Bod odůvodnění 49
(49)  Vysoce rizikové systémy UI by měly po celou dobu svého životního cyklu fungovat konzistentně a splňovat příslušnou úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti v souladu s obecně uznávaným nejnovějším vývojem.Uživatelé by měli být informováni o úrovni a měřítkách přesnosti.
(49)  Vysoce rizikové systémy UI by měly po celou dobu svého životního cyklu fungovat konzistentně a splňovat příslušnou úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti v souladu s obecně uznávaným nejnovějším vývojem. Metriky výkonnosti a jejich očekávaná úroveň by měly být definovány s primárním cílem, kterým je omezit rizika a negativní dopady systémů UI. O očekávané úrovni metriky výkonnosti by měli být provozovatelé informováni jasným, transparentním snadno srozumitelným způsobem. Prohlášení o metrice výkonnosti nelze považovat za důkaz budoucích úrovní, nýbrž je třeba použít příslušné metody k zajištění jednotných úrovní během používání. Zatímco pro stanovení norem existují normalizační organizace, je nutná koordinace referenčního srovnávání, aby bylo možné stanovit, jak by měly být tyto standardizované požadavky a vlastnosti systémů UI měřeny. Evropský úřad pro umělou inteligenci by měl sdružovat vnitrostátní a mezinárodní orgány pro metrologii a referenční srovnávání a poskytovat pokyny k řešení technických aspektů toho, jak měřit odpovídající úroveň přesnosti a spolehlivosti dat.
Pozměňovací návrh 86
Návrh nařízení
Bod odůvodnění 50
(50)  U vysoce rizikových systémů UI je klíčovým požadavkem technická spolehlivost. Tyto systémy by měly být odolné vůči rizikům souvisejícím s omezeními systému (například chyby, poruchy, nekonzistentnost, neočekávané situace), jakož i vůči svévolným zásahům, které mohou ohrozit bezpečnost systému UI a vést ke škodlivému nebo jinak nežádoucímu chování. Neschopnost ochrany před těmito riziky by mohla vést k dopadům na bezpečnost nebo negativně ovlivnit základní práva, například v důsledku chybných rozhodnutí nebo nesprávných či zkreslených výstupů systému UI.
(50)  U vysoce rizikových systémů UI je klíčovým požadavkem technická spolehlivost. Tyto systémy by měly být odolné vůči rizikům souvisejícím s omezeními systému (například chyby, poruchy, nekonzistentnost, neočekávané situace), jakož i vůči svévolným zásahům, které mohou ohrozit bezpečnost systému UI a vést ke škodlivému nebo jinak nežádoucímu chování. Neschopnost ochrany před těmito riziky by mohla vést k dopadům na bezpečnost nebo negativně ovlivnit základní práva, například v důsledku chybných rozhodnutí nebo nesprávných či zkreslených výstupů systému UI. Uživatelé systému UI by měli přijmout opatření k zajištění toho, aby možný kompromis mezi spolehlivostí a přesností dat nevedl k diskriminaci nebo negativním výsledkům pro menšinové podskupiny.
Pozměňovací návrh 87
Návrh nařízení
Bod odůvodnění 51
(51)  Zásadní úlohu při zajišťování odolnosti systémů UI proti pokusům o změnu jejich použití, chování nebo výkonnosti nebo o ohrožení jejich bezpečnostních vlastností třetími stranami, které se škodlivým záměrem zneužívají zranitelných míst tohoto systému, hraje kybernetická bezpečnost. Kybernetické útoky na systémy UI mohou využívat aktiva specifická pro UI, jako jsou například soubory tréninkových dat (například tzv. data poisoning) nebo trénované modely (například nepřátelské útoky), nebo zneužívat slabých míst digitálních aktiv daného systému UI nebo příslušné infrastruktury IKT. Pro zajištění úrovně kybernetické bezpečnosti odpovídající těmto rizikům by proto poskytovatelé vysoce rizikových systémů UI měli přijmout vhodná opatření, případně současně zohlednit i příslušnou infrastrukturu IKT.
(51)  Zásadní úlohu při zajišťování odolnosti systémů UI proti pokusům o změnu jejich použití, chování nebo výkonnosti nebo o ohrožení jejich bezpečnostních vlastností třetími stranami, které se škodlivým záměrem zneužívají zranitelných míst tohoto systému, hraje kybernetická bezpečnost. Kybernetické útoky na systémy UI mohou využívat aktiva specifická pro UI, jako jsou například soubory tréninkových dat (například tzv. data poisoning) nebo trénované modely (například nepřátelské útoky nebo útoky na důvěrnost), nebo zneužívat slabých míst digitálních aktiv daného systému UI nebo příslušné infrastruktury IKT. Pro zajištění úrovně kybernetické bezpečnosti odpovídající těmto rizikům by proto poskytovatelé vysoce rizikových systémů UI a rovněž oznámené subjekty, příslušné vnitrostátní orgány a orgány dohledu nad trhem měli přijmout vhodná opatření, případně současně zohlednit i příslušnou infrastrukturu IKT. Vysoce rizikové systémy UI by měly být doplněny bezpečnostními a opravnými řešeními po celou dobu životnosti produktu, nebo v případě, že není systém závislý na konkrétním produktu, po dobu, kterou musí výrobce uvést.
Pozměňovací návrh 88
Návrh nařízení
Bod odůvodnění 53 a (nový)
(53a)  Unie a členské státy jsou jakožto signatáři Úmluvy Organizace spojených národů o právech osob se zdravotním postižením ze zákona povinny chránit osoby se zdravotním postižením před diskriminací a podporovat jejich rovnost, zajistit, aby osoby se zdravotním postižením měly na rovnoprávném základě s ostatními přístup k informačním a komunikačním technologiím a systémům, a zaručit respektování soukromí osob se zdravotním postižením. Vzhledem k rostoucím významu a nárůstu používání systémů UI by uplatňování zásad univerzálního designu na veškeré nové technologie a služby mělo zajistit plný, rovný a neomezený přístup každému, na koho mohou mít technologie UI vliv, nebo kdo je používá, včetně osob se zdravotním postižením, a to způsobem, který by plně zohlednil jejich neodmyslitelnou důstojnost a rozmanitost. Je proto nutné, aby poskytovatelé zajistili plný soulad s požadavky na přístupnost, včetně směrnice (EU) 2016/2102 a směrnice (EU) 2019/882. Poskytovatelé by měli zajistit soulad s těmito požadavky již od fáze návrhu. Nezbytná opatření by proto měla být v co největší míře začleněna již do návrhu vysoce rizikového systému UI.
Pozměňovací návrh 89
Návrh nařízení
Bod odůvodnění 54
(54)  Poskytovatel by měl zavést spolehlivý systém řízení jakosti, zajistit provedení požadovaného postupu posuzování shody, vypracovat příslušnou dokumentaci a zavést spolehlivý systém monitorování po uvedení na trh. Orgány veřejné moci, které uvádějí do provozu vysoce rizikové systémy UI pro vlastní potřebu, mohou přijímat a provádět pravidla pro systém řízení jakosti jako součást systému řízení jakosti přijatého na vnitrostátní nebo regionální úrovni, případně s přihlédnutím ke zvláštnostem daného odvětví a k pravomocím a organizaci příslušného orgánu veřejné moci.
(54)  Poskytovatel by měl zavést spolehlivý systém řízení jakosti, zajistit provedení požadovaného postupu posuzování shody, vypracovat příslušnou dokumentaci a zavést spolehlivý systém monitorování po uvedení na trh. U poskytovatelů, kteří již zavedli systémy řízení kvality založené na normách, jako je ISO 9001 nebo jiné příslušné normy, by neměl být očekáván žádný plný duplicitní systém řízení kvality, ale spíše by se jejich stávající systémy měly přizpůsobit určitým aspektům spojeným s dodržováním zvláštních požadavků tohoto nařízení. To by se mělo rovněž odrazit v budoucích normalizačních činnostech nebo pokynech přijatých v tomto ohledu Komisí. Orgány veřejné moci, které uvádějí do provozu vysoce rizikové systémy UI pro vlastní potřebu, mohou přijímat a provádět pravidla pro systém řízení jakosti jako součást systému řízení jakosti přijatého na vnitrostátní nebo regionální úrovni, případně s přihlédnutím ke zvláštnostem daného odvětví a k pravomocím a organizaci příslušného orgánu veřejné moci.
Pozměňovací návrh 90
Návrh nařízení
Bod odůvodnění 56
(56)  Aby bylo umožněno prosazování tohoto nařízení a byly vytvořeny rovné podmínky pro provozovatele, a rovněž s přihlédnutím k různým formám zpřístupňování digitálních produktů, je důležité zajistit, aby osoby usazené v Unii mohly za všech okolností poskytnout orgánům veškeré nezbytné informace o souladu systému UI. Poskytovatelé usazení mimo Unii proto v případě, že dodávají do Unie systémy UI, u nichž nelze identifikovat dovozce, předem jmenují formou písemného pověření svého zplnomocněného zástupce usazeného v Unii.
(56)  Aby bylo umožněno prosazování tohoto nařízení a byly vytvořeny rovné podmínky pro provozovatele, a rovněž s přihlédnutím k různým formám zpřístupňování digitálních produktů, je důležité zajistit, aby osoby usazené v Unii mohly za všech okolností poskytnout orgánům veškeré nezbytné informace o souladu systému UI. Poskytovatelé usazení mimo Unii proto v případě, že dodávají do Unie systémy UI, předem jmenují formou písemného pověření svého zplnomocněného zástupce usazeného v Unii.
Pozměňovací návrh 91
Návrh nařízení
Bod odůvodnění 58
(58)  Vzhledem k povaze systémů UI a rizikům z hlediska bezpečnosti a základních práv, která mohou souviset s jejich používáním, a to i pokud jde o potřebu zajistit řádné monitorování výkonnosti daného systému UI v reálných podmínkách, je vhodné stanovit konkrétní odpovědnost uživatelů. Uživatelé by zejména měli vysoce rizikové systémy UI využívat v souladu s návodem k použití a měly by být stanoveny některé další povinnosti týkající se monitorování fungování systémů UI a případně uchovávání záznamů.
(58)  Vzhledem k povaze systémů UI a rizikům z hlediska bezpečnosti a základních práv, která mohou souviset s jejich používáním, a to i pokud jde o potřebu zajistit řádné monitorování výkonnosti daného systému UI v reálných podmínkách, je vhodné stanovit konkrétní odpovědnost provozovatelů. Provozovatelé by zejména měli vysoce rizikové systémy UI využívat v souladu s návodem k použití a měly by být stanoveny některé další povinnosti týkající se monitorování fungování systémů UI a případně uchovávání záznamů.
Pozměňovací návrh 92
Návrh nařízení
Bod odůvodnění 58 a (nový)
(58a)  Zatímco rizika spojená se systémy UI mohou vyplývat ze způsobu, jakým jsou tyto systémy navrhovány, mohou rizika rovněž vzniknout v souvislosti s tím, jak jsou tyto systémy používány. Provozovatelé vysoce rizikového systému UI proto hrají zásadní úlohu při zajišťování ochrany základních práv a doplňují povinnosti poskytovatele při vývoji systému UI. Provozovatelé mají nejlepší předpoklady k tomu, aby posoudili, jak bude vysoce rizikový systém UI konkrétně používán, a mohou proto identifikovat potenciální rizika, která se ve fázi vývoje nepředpokládala, a to díky přesnější znalosti kontextu používání a osob nebo skupin osob, na které bude mít systém pravděpodobně dopad, včetně marginalizovaných a zranitelných skupin. Provozovatelé by měli určit vhodné struktury správy a řízení v tomto konkrétním kontextu použití, jako jsou opatření pro lidský dohled, postupy vyřizování stížností a postupy pro zjednávání nápravy, protože rozhodnutí v rámci správních struktur mohou mít zásadní význam pro zmírnění hrozeb pro základní práva v konkrétních případech použití. S cílem účinně zajistit ochranu základních práv by měl tedy provozovatel vysoce rizikových systémů UI před jejich uvedením do provozu provést posouzení dopadů na základní práva. Posouzení dopadů by mělo být doprovázeno podrobným plánem popisujícím opatření nebo nástroje, které pomohou zmírnit rizika pro základní práva, která by měla být určena nejpozději v době uvedení systému do provozu. Nelze-li takový plán určit, měl by se provozovatel zdržet uvedení systému do provozu. Při provádění tohoto posouzení dopadů by měli provozovatelé informovat vnitrostátní dozorový orgán a v co největší možné míře příslušné zúčastněné strany, jakož i zástupce skupin osob, které by mohly být systémem UI dotčeny, s cílem shromáždit relevantní informace, které jsou považovány za nezbytné pro provedení posouzení dopadů, a jsou vybízení k tomu, aby souhrn svého posouzení dopadů na základní práva zveřejnili na svých internetových stránkách. Tyto povinnosti by se neměly vztahovat na malé a střední podniky, pro které by vzhledem k nedostatečným zdrojům mohlo být obtížné takové konzultace provádět. Provozovatelé by však měli rovněž usilovat o zapojení těchto zástupců do provádění posouzení dopadů na základní práva. Vzhledem k potenciálnímu dopadu a potřebě demokratického dohledu a kontroly by provozovatelé vysoce rizikových systémů UI, kteří jsou veřejnými orgány nebo orgány, institucemi a jinými subjekty Unie, jakož i provozovatelé, kteří jsou podniky určenými za strážce přístupu podle nařízení (EU) 2022/1925, měli mít také povinnost registrovat používání jakéhokoli vysoce rizikového systému UI ve veřejné databázi. Ostatní provozovatelé se mohou zaregistrovat na dobrovolném základě.
Pozměňovací návrh 93
Návrh nařízení
Bod odůvodnění 59
(59)  Je vhodné předjímat, že uživatelem systému UI by měla být fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, pod jehož vedením je systém UI provozován, s výjimkou případů, kdy je systém používán v rámci osobní neprofesionální činnosti.
(59)  Je vhodné předjímat, že provozovatelem systému UI by měla být fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, pod jehož vedením je systém UI provozován, s výjimkou případů, kdy je systém používán v rámci osobní neprofesionální činnosti.
Pozměňovací návrh 94
Návrh nařízení
Bod odůvodnění 60
(60)  S ohledem na složitost hodnotového řetězce umělé inteligence by měly příslušné třetí strany, zejména ty, které se podílejí na prodeji a dodávkách softwaru, softwarových nástrojů a součástí a předtrénovaných modelů dat, případně strany, které jsou poskytovateli síťových služeb, podle potřeby spolupracovat s poskytovateli a uživateli s cílem umožnit jim dodržování povinností podle tohoto nařízení, jakož i s příslušnými orgány zřízenými podle tohoto nařízení.
(60)  V rámci hodnotového řetězce UI mnoho subjektů často dodává nástroje a služby, ale také součásti nebo procesy, které poskytovatel následně začleňuje do systému UI, a to i v souvislosti se shromažďováním a předběžným zpracováním údajů, trénováním modelu, opětovným trénováním modelu, testováním a hodnocením modelu, integrací do softwaru nebo jinými aspekty vývoje modelu. Zúčastněné subjekty mohou svou nabídku přímo nebo nepřímo komerčně zpřístupnit prostřednictvím rozhraní, jako jsou aplikační programovací rozhraní (API), distribuovaných v rámci svobodných licencí a licencí s otevřeným zdrojovým kódem, ale také stále více prostřednictvím platforem pracovníků v oblasti UI, trénovaných parametrů pro další prodej, souprav pro svépomocné vytváření modelů nebo nabízení placeného přístupu k modelu sloužícímu jako struktura pro vývoj a trénování modelů. S ohledem na tuto složitost hodnotového řetězce UI by všechny příslušné třetí strany, zejména ty, které se podílejí na vývoji, prodeji a komerčních dodávkách softwarových nástrojů, součástí, předtrénovaných modelů nebo dat začleněných do systému UI, nebo poskytovatelé síťových služeb měli zpřístupnit požadované informace, trénování nebo odborné znalosti, aniž by tím byla ohrožena jejich vlastní práva duševního vlastnictví nebo obchodní tajemství, a případně spolupracovat s poskytovateli s cílem umožnit jim kontrolu nad všemi aspekty systému UI spadajícího do působnosti tohoto nařízení, které jsou relevantní pro dodržování předpisů. Aby bylo možné nákladově efektivní řízení hodnotového řetězce UI, musí každá třetí strana, která poskytovateli dodává nástroj, službu, součást nebo proces, které poskytovatel později začlení do systému UI, výslovně zveřejnit úroveň kontroly.
Pozměňovací návrh 95
Návrh nařízení
Bod odůvodnění 60 a (nový)
(60a)  Pokud má jedna strana silnější vyjednávací pozici, existuje riziko, že by tato strana mohla využít tuto pozici na úkor druhé smluvní strany při sjednávání dodávek nástrojů, služeb, součástí nebo procesů, které jsou používány ve vysoce rizikovém systému UI nebo jsou do něj integrovány, nebo nápravných opatření v případě porušení nebo ukončení souvisejících povinností. Tato smluvní nerovnováha poškozuje zejména mikropodniky, malé a střední podniky, jakož i začínající podniky, pokud nejsou ve vlastnictví nebo subdodavatelem podniku, který je schopen subdodavatele odpovídajícím způsobem kompenzovat, neboť nejsou v pozici, kdy by mohly skutečně vyjednávat o podmínkách smluvního ujednání a nemají jinou volbu než přijmout smluvní podmínky typu „ber nebo nech být“. Nepřiměřené smluvní podmínky upravující poskytování nástrojů, služeb, součástí nebo procesů, které jsou používány ve vysoce rizikovém systému UI nebo jsou do něj začleněny, nebo prostředky nápravy v případě porušení nebo ukončení souvisejících povinností by proto v případě, že jim byly jednostranně uloženy, neměly být pro tyto mikropodniky, malé nebo střední podniky a začínající podniky závazné.
Pozměňovací návrh 96
Návrh nařízení
Bod odůvodnění 60 b (nový)
(60b)  Pravidla týkající se smluvních podmínek by měla zohledňovat zásadu smluvní svobody jako pojem, který je ve vztazích mezi podniky zásadní. Zkoušce nepřiměřenosti by tudíž neměly podléhat všechny smluvní podmínky, ale pouze ty, které jsou jednostranně uloženy mikropodnikům, malým a středním podnikům a začínajícím podnikům. To se týká situací typu „ber nebo nech být“, kdy jedna strana stanoví určitou smluvní podmínku a mikropodnik, malý a střední podnik nebo začínající podnik nemůže obsah této podmínky ovlivnit navzdory snaze o jeho vyjednání. Smluvní podmínka, která byla pouze předložena jednou stranou a přijata mikropodnikem, malým a středním nebo začínajícím podnikem, nebo podmínka, která je sjednána a následně dohodnuta změněným způsobem mezi smluvními stranami, by neměla být považována za jednostranně uloženou.
Pozměňovací návrh 97
Návrh nařízení
Bod odůvodnění 60 c (nový)
(60c)  Kromě toho by se pravidla týkající se nepřiměřených smluvních podmínek měla vztahovat pouze na ty prvky smlouvy, které se týkají dodávek nástrojů, služeb, součástí nebo procesů, které jsou používány ve vysoce rizikovém systému UI nebo jsou do něj začleněny, nebo prostředků nápravy v případě porušení nebo ukončení souvisejících povinností. Zkouška nepřiměřenosti stanovená v tomto nařízení by se neměla vztahovat na jiné části téže smlouvy, které s těmito prvky nesouvisejí.
Pozměňovací návrh 98
Návrh nařízení
Bod odůvodnění 60 d (nový)
(60d)  Kritéria pro určení nepřiměřených smluvních podmínek by se měla uplatňovat pouze na neúměrné smluvní podmínky, kdy dochází ke zneužití silnější vyjednávací pozice. Převážná většina smluvních podmínek, které jsou z obchodního hlediska výhodnější pro jednu stranu než pro druhou, včetně těch, které jsou běžné ve smlouvách mezi podniky, jsou běžným vyjádřením zásady smluvní svobody a platí i nadále. Pokud smluvní podmínka není uvedena na seznamu podmínek, které jsou vždy považovány za nepřiměřenou, použije se obecné ustanovení o nepřiměřenosti. V tomto ohledu by seznam nepřiměřených smluvních podmínek měl sloužit jako měřítko pro výklad obecného ustanovení o nepřiměřenosti.
Pozměňovací návrh 99
Návrh nařízení
Bod odůvodnění 60 e (nový)
(60e)  Základní modely jsou novinkou a v jejich případě jsou modely umělé inteligence vyvíjeny z algoritmů navržených k optimalizaci všeobecnosti a všestrannosti výstupů. Tyto modely jsou často trénovány na široké škále zdrojů údajů a na velkém množství údajů, aby mohly plnit celou řadu navazujících úkolů, včetně některých, pro které nebyly konkrétně vyvinuty a vytrénovány. Základní model může být unimodální nebo multimodální a může být trénován různými metodami, jako je učení pod dohledem nebo posílené učení. Systémy UI se specifickým účelem nebo systémy UI s obecným účelem mohou být provedením základního modelu, což znamená, že každý základní model může být opětovně použit v nesčetných navazujících systémech UI nebo systémech UI s obecným účelem. Tyto modely mají rostoucí význam pro mnoho navazujících aplikací a systémů.
Pozměňovací návrh 100
Návrh nařízení
Bod odůvodnění 60 f (nový)
(60f)  V případě základních modelů poskytovaných jako služba, například prostřednictvím přístupu k rozhraní API, by spolupráce s navazujícími poskytovateli měla probíhat po celou dobu, kdy je tato služba poskytována a podporována, aby bylo možné odpovídajícím způsobem zmírnit riziko, pokud poskytovatel základního modelu nepřevede trénovací model, jakož i rozsáhlé a vhodné informace o datových souborech a procesu vývoje systému, nebo neomezí službu, jako je přístup k API, takovým způsobem, aby navazující poskytovatel byl schopen plně dodržovat toto nařízení bez další podpory původního poskytovatele základního modelu.
Pozměňovací návrh 101
Návrh nařízení
Bod odůvodnění 60 g (nový)
(60g)  Vzhledem k povaze a složitosti hodnotového řetězce systémů UI je nezbytné objasnit úlohu aktérů, kteří přispívají k vývoji systémů UI. Panuje značná nejistota ohledně toho, jak se budou základní modely vyvíjet, a to jak z hlediska typologie modelů, tak z hlediska samosprávy. Je proto nezbytné vyjasnit právní situaci poskytovatelů základních modelů. S ohledem na jejich složitost a neočekávaný dopad, nedostatečnou kontrolu navazujícího poskytovatele UI nad vývojem základního modelu a následnou nerovnováhu sil a s cílem zajistit spravedlivé sdílení odpovědnosti v celém hodnotovém řetězci UI by tyto modely měly podléhat přiměřeným a konkrétnějším požadavkům a povinnostem podle tohoto nařízení, a sice že by základní modely měly posuzovat a zmírňovat možná rizika a škody prostřednictvím vhodného návrhu, testování a analýzy, měly by provádět opatření v oblasti správy údajů, včetně posouzení zkreslení, a měly by splňovat požadavky na technický design, aby se zajistila odpovídající úroveň výkonnosti, předvídatelnost, interpretovatelnost, kontrolovatelnost, bezpečnost a kybernetická bezpečnost, a tyto modely by měly být v souladu s environmentálními normami. Tyto povinnosti by měly být doplněny normami. Základní modely by rovněž měly mít povinnosti týkající se informací a měly by připravovat veškerou nezbytnou technickou dokumentaci pro potenciální navazující poskytovatele, aby tak byli schopni plnit své povinnosti podle tohoto nařízení. Generativní základní modely by měly zajistit transparentnost, pokud jde o skutečnost, že obsah generuje systém UI, nikoli lidé. Tyto konkrétní požadavky a povinnosti neznamenají, že základní modely jsou považovány za vysoce rizikové systémy UI, ale měly by zaručit dosažení cílů tohoto nařízení, jimiž je zajištění vysoké úrovně ochrany základních práv, zdraví a bezpečnosti, životního prostředí, demokracie a právního státu. Předtrénované modely vyvinuté pro užší, méně obecnější a omezenější soubor aplikací, které nelze přizpůsobit široké škále úkolů, jako jsou jednoduché víceúčelové systémy UI, by neměly být považovány za základní modely pro účely tohoto nařízení vzhledem k jejich větší interpretovatelnosti, která snižuje nepředvídatelnost jejich chování.
Pozměňovací návrh 102
Návrh nařízení
Bod odůvodnění 60 h (nový)
(60h)  Vzhledem k povaze základních modelů chybí odborné znalosti v oblasti posuzování shody a metody auditu prováděné třetí stranou se stále vyvíjejí. Samotné odvětví proto vyvíjí nové způsoby posuzování základních modelů, které částečně splňují cíl auditu (např. hodnocení modelů, tzv. červené týmy nebo metody ověřování a ověřování strojového učení). Tato interní posouzení základních modelů by měla být široce použitelná (např. nezávisle na distribučních kanálech, způsobu, metodách vývoje) s cílem řešit rizika specifická pro tyto modely s přihlédnutím k nejmodernějším postupům v daném odvětví a měla by se zaměřit na rozvoj dostatečného technického porozumění modelu a kontroly nad ním, řízení důvodně předvídatelných rizik a rozsáhlé analýzy a testování modelu prostřednictvím vhodných opatření, například zapojením nezávislých hodnotitelů. Vzhledem k tomu, že základní modely představují rychle rozvíjející se novinku v oblasti umělé inteligence, je vhodné, aby Komise a Úřad pro umělou inteligenci sledovaly a pravidelně posuzovaly legislativní a správní rámec těchto modelů, a zejména generativních systémů UI založených na těchto modelech, které vyvolávají významné otázky týkající se vytváření obsahu, který je v rozporu s právem Unie a pravidly autorského práva, a možného nesprávného použití. Je třeba vyjasnit, že tímto nařízením by neměly být dotčeny právní předpisy Unie v oblasti autorského práva a práv s ním souvisejících, včetně směrnic Evropského parlamentu a Rady 2001/29/ES, 2004/48/ES a (EU) 2019/790.
Pozměňovací návrh 103
Návrh nařízení
Bod odůvodnění 61
(61)  Klíčovou úlohu při poskytování technických řešení zajišťujících dodržování tohoto nařízení poskytovatelům by měla hrát normalizace. Jeden z prostředků, které poskytovatelům umožní prokázat soulad s požadavky tohoto nařízení, by mělo představovat dodržování harmonizovaných norem definovaných v nařízení Evropského parlamentu a Rady (EU) č. 1025/201254. V oblastech, kde harmonizované normy buď neexistují, nebo jsou nedostatečné, by však Komise mohla přijmout společné technické specifikace.
(61)  Klíčovou úlohu při poskytování technických řešení zajišťujících dodržování tohoto nařízení poskytovatelům by měla hrát normalizace. Jeden z prostředků, které poskytovatelům umožní prokázat soulad s požadavky tohoto nařízení, by mělo představovat dodržování harmonizovaných norem definovaných v nařízení Evropského parlamentu a Rady (EU) č. 1025/201254. K zajištění účinnosti norem jakožto politického nástroje Unie a vzhledem k významu norem pro zajištění souladu s požadavky tohoto nařízení a pro konkurenceschopnost podniků je nezbytné zajistit vyvážené zastoupení zájmů, a to podporou účasti všech příslušných zúčastněných stran při vypracovávání norem. Normalizační proces by měl být transparentní z hlediska právnických a fyzických osob, které se normalizační činnosti účastní.
__________________
__________________
54 Nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci, změně směrnic Rady 89/686/EHS a 93/15/EHS a směrnic Evropského parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES, a kterým se ruší rozhodnutí Rady 87/95/EHS a rozhodnutí Evropského parlamentu a Rady č. 1673/2006/ES (Úř. věst. L 316, 14.11.2012, s. 12).
54 Nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci, změně směrnic Rady 89/686/EHS a 93/15/EHS a směrnic Evropského parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES, a kterým se ruší rozhodnutí Rady 87/95/EHS a rozhodnutí Evropského parlamentu a Rady č. 1673/2006/ES (Úř. věst. L 316, 14.11.2012, s. 12).
Pozměňovací návrh 104
Návrh nařízení
Bod odůvodnění 61 a (nový)
(61a)  V zájmu usnadnění souladu by Komise měla první žádosti o normalizaci vydat nejpozději dva měsíce po vstupu tohoto nařízení v platnost. To by mělo sloužit ke zlepšení právní jistoty, a tím podpořit investice a inovace v oblasti UI, jakož i konkurenceschopnost a růst trhu Unie, a zároveň posílit správu se zapojením mnoha zúčastněných stran zastupující všechny příslušné evropské zúčastněné strany, jako je Úřad pro umělou inteligenci, evropské normalizační organizace a subjekty nebo skupiny odborníků zřízené podle příslušných odvětvových právních předpisů Unie, jakož i průmysl, malé a střední podniky, začínající podniky, občanská společnost, výzkumní pracovníci a sociální partneři, a v konečném důsledku by to mělo usnadnit celosvětovou spolupráci v oblasti normalizace v oblasti UI způsobem, který je v souladu s hodnotami Unie. Při přípravě žádosti o normalizaci by Komise měla konzultovat Úřad pro umělou inteligenci a poradní fórum pro UI s cílem shromáždit příslušné odborné znalosti.
Pozměňovací návrh 105
Návrh nařízení
Bod odůvodnění 61 b (nový)
(61b)  V případě, kdy mají být systémy UI používány na pracovišti, měly by být harmonizované normy omezeny na technické specifikace a postupy.
Pozměňovací návrh 106
Návrh nařízení
Bod odůvodnění 61 c (nový)
(61c)  Komise by měla mít možnost přijmout za určitých podmínek společné specifikace, pokud neexistuje žádná příslušná harmonizovaná norma, nebo řešit konkrétní otázky týkající se základních práv. Během celého procesu vypracovávání návrhu by Komise měla pravidelně konzultovat Úřad pro umělou inteligenci a jeho poradní fórum, evropské normalizační organizace a subjekty nebo odborné skupiny zřízené podle příslušných odvětvových právních předpisů Unie, jakož i příslušné zúčastněné strany, jako jsou průmysl, malé a střední podniky, začínající podniky, občanská společnost, výzkumní pracovníci a sociální partneři.
Pozměňovací návrh 107
Návrh nařízení
Bod odůvodnění 61 d (nový)
(61d)  Při přijímání společných specifikací by Komise měla usilovat o sladění právních předpisů v oblasti UI s podobně smýšlejícími globálními partnery, což je klíčové pro podporu inovací a přeshraničních partnerství v oblasti umělé inteligence, neboť koordinace s podobně smýšlejícími partnery v mezinárodních normalizačních orgánech má velký význam.
Pozměňovací návrh 108
Návrh nařízení
Bod odůvodnění 62
(62)  Aby byla zajištěna vysoká úroveň důvěryhodnosti vysoce rizikových systémů UI, mělo by být u těchto systémů před jejich uvedením na trh nebo do provozu provedeno posouzení shody.
(62)  Aby byla zajištěna vysoká úroveň důvěryhodnosti vysoce rizikových systémů UI, mělo by být u těchto systémů před jejich uvedením na trh nebo do provozu provedeno posouzení shody. Pro účely zvýšení důvěry v hodnotový řetězec a poskytnutí jistoty podnikům ohledně výkonnosti jejich systémů, mohou třetí strany, které dodávají součásti UI, dobrovolně požádat o posouzení shody třetí stranou.
Pozměňovací návrh 109
Návrh nařízení
Bod odůvodnění 64
(64)  Vzhledem k rozsáhlejším zkušenostem profesionálních ověřovatelů před uvedením na trh v oblasti bezpečnosti produktů a k odlišné povaze souvisejících rizik je vhodné alespoň v počáteční fázi uplatňování tohoto nařízení omezit oblast působnosti posuzování shody vysoce rizikových systémů UI třetími stranami v případech, které se netýkají produktů. Posuzování shody těchto systémů by proto měl provádět zpravidla poskytovatel na vlastní odpovědnost s jedinou výjimkou, kterou tvoří systémy UI určené pro biometrickou identifikaci osob na dálku, u nichž by mělo být předpokládáno zapojení oznámeného subjektu do posuzování shody, pokud nejsou tyto systémy zakázány.
(64)  Vzhledem ke složitosti vysoce rizikových systémů UI a rizikům, která jsou s nimi spojena, je nezbytné vytvořit přiměřenější kapacitu pro uplatňování posuzování shody třetích stran u vysoce rizikových systémů UI. Nicméně vzhledem k současným zkušenostem profesionálních ověřovatelů před uvedením na trh v oblasti bezpečnosti produktů a k odlišné povaze souvisejících rizik je vhodné alespoň v počáteční fázi uplatňování tohoto nařízení omezit oblast působnosti posuzování shody vysoce rizikových systémů UI třetími stranami v případech, které se netýkají produktů. Posuzování shody těchto systémů by proto měl provádět zpravidla poskytovatel na vlastní odpovědnost s jedinou výjimkou, kterou tvoří systémy UI určené pro biometrickou identifikaci osob na dálku nebo systémy UI určené k použití za účelem vyvozování závěrů o osobních charakteristikách fyzických osob na základě biometrických údajů či údajů, které z biometrických údajů vycházejí, včetně systémů rozpoznávání emocí, u nichž by mělo být předpokládáno zapojení oznámeného subjektu do posuzování shody, pokud nejsou tyto systémy zakázány.
Pozměňovací návrh 110
Návrh nařízení
Bod odůvodnění 65
(65)  Příslušné vnitrostátní orgány by v souladu s tímto nařízením měly určit oznámené subjekty pro účely posouzení shody systémů UI určených pro biometrickou identifikaci osob na dálku třetími stranami pod podmínkou, že splňují určitý soubor požadavků, zejména požadavku na nezávislost, způsobilost a neexistenci střetu zájmů.
(65)  Příslušné vnitrostátní orgány by v souladu s tímto nařízením měly, pokud je to požadováno, určit oznámené subjekty pro účely posouzení shody třetími stranami pod podmínkou, že splňují určitý soubor požadavků, zejména požadavku na nezávislost, způsobilost a neexistenci střetu zájmů a minimálních požadavků na kybernetickou bezpečnost. Členské státy by měly podporovat určení dostatečného počtu subjektů pro posuzování shody, aby byla certifikace proveditelná včas. Postupy posuzování, určování, oznamování a sledování subjektů pro posuzování shody by měly být v členských státech prováděny co nejjednotněji s cílem odstranit administrativní překážky na hranicích a zajistit využití potenciálu vnitřního trhu.
Pozměňovací návrh 111
Návrh nařízení
Bod odůvodnění 65 a (nový)
(65a)  V souladu se závazky EU podle Dohody Světové obchodní organizace o technických překážkách obchodu je vhodné maximalizovat uznávání výsledků testů provedených příslušnými subjekty pro posuzování shody, bez ohledu na to, kde jsou usazeny, je-li to nezbytné k prokázání shody s příslušnými požadavky tohoto nařízení. Komise by za tímto účelem měla aktivně prozkoumat možné mezinárodní nástroje a zejména usilovat o možné uzavření dohod o vzájemném uznávání se zeměmi, které jsou na srovnatelné úrovni technického rozvoje a které mají kompatibilní přístup k UI a posuzování shody.
Pozměňovací návrh 112
Návrh nařízení
Bod odůvodnění 66
(66)  V souladu s obecně zavedeným pojmem „podstatná změna“ u produktů regulovaných harmonizačními právními předpisy Unie je vhodné provést nové posouzení shody systému UI pokaždé, když dojde ke změně, která může ovlivnit soulad daného systému s tímto nařízením, nebo pokud se změní určený účel tohoto systému. U systémů UI, které se i po uvedení na trh nebo do provozu dále „učí“ (tj. automaticky přizpůsobují způsob výkonu funkcí), je navíc nezbytné stanovit pravidla určující, že změny algoritmu a jeho výkonnosti, které byly předem stanoveny poskytovatelem a posouzeny v okamžiku posuzování shody, by neměly představovat podstatnou změnu.
(66)  V souladu s obecně zavedeným pojmem „podstatná změna“ u produktů regulovaných harmonizačními právními předpisy Unie je vhodné provést nové posouzení shody vysoce rizikového systému UI pokaždé, když dojde k neplánované změně, která jde nad rámec změn kontrolovaných nebo předem stanovených poskytovatelem, včetně průběžného učení, a která může vytvořit nové nepřijatelné riziko a významně ovlivnit soulad daného vysoce rizikového systému UI s tímto nařízením, nebo pokud se změní určený účel tohoto systému.
U systémů UI, které se i po uvedení na trh nebo do provozu dále „učí“ (tj. automaticky přizpůsobují způsob výkonu funkcí), je navíc nezbytné stanovit pravidla určující, že změny algoritmu a jeho výkonnosti, které byly předem stanoveny poskytovatelem a posouzeny v okamžiku posuzování shody, by neměly představovat podstatnou změnu. Totéž by mělo platit pro aktualizace systému UI z bezpečnostních důvodů obecně a za účelem ochrany před vyvíjejícími se hrozbami manipulace se systémem za předpokladu, že nepředstavují podstatnou změnu.
Pozměňovací návrh 113
Návrh nařízení
Bod odůvodnění 67
(67)  Vysoce rizikové systémy UI by měly být opatřeny označením CE prokazujícím jejich shodu s tímto nařízením, aby jim byl umožněn volný pohyb v rámci vnitřního trhu. Členské státy by neměly vytvářet neodůvodněné překážky uvádění na trh nebo do provozu u vysoce rizikových systémů UI, které jsou v souladu s požadavky stanovenými v tomto nařízení a jsou opatřeny označením CE.
(67)  Vysoce rizikové systémy UI by měly být opatřeny označením CE prokazujícím jejich shodu s tímto nařízením, aby jim byl umožněn volný pohyb v rámci vnitřního trhu. Na fyzických vysoce rizikových systémech UI by mělo být připevněno fyzické označení CE, které může být doplněno digitálním označením CE. U pouze digitálních vysoce rizikových systémů UI by se mělo používat digitální označení CE. Členské státy by neměly vytvářet neodůvodněné překážky uvádění na trh nebo do provozu u vysoce rizikových systémů UI, které jsou v souladu s požadavky stanovenými v tomto nařízení a jsou opatřeny označením CE.
Pozměňovací návrh 114
Návrh nařízení
Bod odůvodnění 68
(68)  Rychlá dostupnost inovativních technologií může mít za určitých podmínek zásadní význam pro zdraví a bezpečnost osob i pro společnost jako celek. Je proto vhodné, aby členské státy mohly z výjimečných důvodů veřejné bezpečnosti nebo ochrany života a zdraví fyzických osob ochrany průmyslového a obchodního vlastnictví povolit uvedení na trh nebo do provozu v případě systémů UI, u nichž nebylo provedeno posouzení shody.
(68)  Rychlá dostupnost inovativních technologií může mít za určitých podmínek zásadní význam pro zdraví a bezpečnost osob, životní prostředí a změnu klimatu i pro společnost jako celek. Je proto vhodné, aby členské státy mohly z výjimečných důvodů ochrany života a zdraví fyzických osob, ochrany životního prostředí a ochrany kritické infrastruktury povolit uvedení na trh nebo do provozu systémů UI, u nichž nebylo provedeno posouzení shody.
Pozměňovací návrh 115
Návrh nařízení
Bod odůvodnění 69
(69)  Z důvodu usnadnění práce Komise a členských států v oblasti umělé inteligence a zvýšení transparentnosti vůči veřejnosti by poskytovatelé vysoce rizikových systémů UI s výjimkou těch, které se vztahují k produktům spadajícím do oblasti působnosti příslušných stávajících harmonizačních právních předpisů Unie, měli mít povinnost zaregistrovat svůj vysoce rizikový systém UI do databáze EU, kterou zřídí a bude spravovat Komise. Komise by měla být správcem této databáze v souladu s nařízením Evropského parlamentu a Rady (EU) 2018/172555. Aby byla zajištěna plná funkčnost této databáze při jejím zavedení, měl by postup při vytváření databáze zahrnovat vypracování funkčních specifikací ze strany Komise a nezávislou zprávu o auditu.
(69)  Z důvodu usnadnění práce Komise a členských států v oblasti umělé inteligence a zvýšení transparentnosti vůči veřejnosti by poskytovatelé vysoce rizikových systémů UI s výjimkou těch, které se vztahují k produktům spadajícím do oblasti působnosti příslušných stávajících harmonizačních právních předpisů Unie, měli mít povinnost zaregistrovat svůj vysoce rizikový systém UI a základní modely do databáze EU, kterou zřídí a bude spravovat Komise. Tato databáze by měla být volně a veřejně přístupná, snadno srozumitelná a strojově čitelná. Databáze by rovněž měla být uživatelsky přívětivá a snadno splavná a měla by přinejmenším umožňovat široké veřejnosti vyhledávat v databázi konkrétní vysoce rizikové systémy, místa, kategorie rizika podle přílohy IV a klíčová slova. Provozovatelé, kteří jsou orgány veřejné správy nebo orgány, institucemi a jinými subjekty Unie, nebo provozovatelé jednající jejich jménem a provozovatelé, kteří jsou podniky určenými jako strážci podle nařízení (EU)2022/1925, by se rovněž měli před prvním uvedením do provozu nebo použitím vysoce rizikového systému UI a po každé podstatné změně zaregistrovat v databázi EU. Ostatní provozovatelé by měli mít právo tak učinit dobrovolně. Veškeré podstatné změny vysoce rizikových systémů UI se rovněž zaregistrují v databázi EU. Komise by měla být správcem této databáze v souladu s nařízením Evropského parlamentu a Rady (EU) 2018/172555. Aby byla zajištěna plná funkčnost této databáze při jejím zavedení, měl by postup při vytváření databáze zahrnovat vypracování funkčních specifikací ze strany Komise a nezávislou zprávu o auditu. Komise by měla při plnění svých úkolů správce údajů v databázi EU zohlednit kybernetickou bezpečnost a rizika. Aby byla databáze co nejvíce dostupná a využívaná veřejností, měla by včetně informací, které jsou jejím prostřednictvím zpřístupňovány, splňovat požadavky směrnice 2019/882.
__________________
__________________
55 Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).
55 Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).
Pozměňovací návrh 116
Návrh nařízení
Bod odůvodnění 71
(71)  Umělá inteligence je rychle se vyvíjející skupina technologií, která vyžaduje nové formy regulačního dohledu a bezpečný prostor pro experimentování při současném zajištění odpovědné inovace a integrace vhodných záruk a opatření ke zmírnění rizika. K zajištění právního rámce příznivého pro vznik inovací, použitelného i v budoucnosti a odolného vůči narušení je třeba podporovat příslušné vnitrostátní orgány jednoho nebo více členských států ve vytváření regulačních pískovišť umělé inteligence s cílem usnadnit vývoj a testování inovativních systémů UI pod přísným regulačním dohledem dříve, než budou tyto systémy uvedeny na trh nebo jinak uvedeny do provozu.
(71)  Umělá inteligence je rychle se vyvíjející skupina technologií, která vyžaduje regulační dohled a bezpečný a kontrolovaný prostor pro experimentování při současném zajištění odpovědné inovace a integrace vhodných záruk a opatření ke zmírnění rizika. Aby byl zajištěn právní rámec, který podporuje inovace, obstojí i v budoucnu a odolný vůči narušení, měly by členské státy zřídit alespoň jedno regulační pískoviště pro umělou inteligenci s cílem usnadnit vývoj a testování inovativních systémů UI pod přísným regulačním dohledem před uvedením těchto systémů na trh nebo jiným způsobem do provozu. Je skutečně žádoucí, aby dalším krokem, který by měl být učiněn závazným na základě stanovených kritérií, bylo zřízení regulačních pískovišť, jejichž zřízení je v současné době ponecháno na uvážení členských států. Toto povinně zřizované pískoviště by mohlo rovněž být zřízeno společně s jedním nebo několika dalšími členskými státy, pokud by pokrývalo příslušnou vnitrostátní úroveň dotčených členských států. Další pískoviště mohou být rovněž zřízena na různých úrovních, včetně úrovně napříč členskými státy, s cílem usnadnit přeshraniční spolupráci a součinnost. S výjimkou povinného pískoviště na vnitrostátní úrovni by členské státy měly mít rovněž možnost zřizovat virtuální nebo hybridní pískoviště. Všechna regulační pískoviště by měla být schopna pojmout jak fyzické, tak virtuální produkty. Zřizující orgány by rovněž měly zajistit, aby regulační pískoviště měla pro své fungování odpovídající finanční a lidské zdroje.
Pozměňovací návrh 117
Návrh nařízení
Bod odůvodnění 72
(72)  Cílem těchto regulačních pískovišť by měla být podpora inovací UI na základě vytvoření kontrolovaného experimentálního a testovacího prostředí ve fázi vývoje a před uvedením na trh s cílem zajistit soulad inovativních systémů UI s tímto nařízením a s dalšími příslušnými právními předpisy Unie a členských států; dále posílení právní jistoty inovátorů, dohledu příslušných orgánů a jejich porozumění příležitostem, vznikajícím rizikůmdopadům používání UI, jakož i urychlení přístupu na trhy, mimo jiné odstraněním překážek pro maléstřední podniky a začínající podniky. Aby bylo zajištěno jednotné provádění v celé Unii a úspory z rozsahu, je vhodné stanovit společná pravidla pro zavádění regulačních pískovišť a rámec spolupráce mezi příslušnými orgány, které se podílejí na dohledu nad těmito pískovišti. Toto nařízení by mělo poskytnout právní základ pro použití osobních údajů shromážděných pro jiné účely k vývoji určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI v souladu s čl. 6 odst. 4 nařízení (EU) 2016/679 a s článkem 6 nařízení (EU) 2018/1725, aniž je dotčen čl. 4 odst. 2 směrnice (EU) 2016/680. Účastníci pískoviště by měli zajistit vhodné záruky a spolupracovat s příslušnými orgány, mimo jiné tím, že budou postupovat podle jejich pokynů a budou jednat rychle a v dobré víře s cílem zmírnit veškerá vysoká rizika pro bezpečnost a základní práva, která případně vzniknou v průběhu vývoje a experimentování v rámci pískoviště. Chování účastníků pískoviště by mělo být zohledněno při rozhodování příslušných orgánů o tom, zda uloží správní pokutu podle čl. 83 odst. 2 nařízení 2016/679 a podle článku 57 směrnice 2016/680.
(72)  Cíli těchto regulačních pískovišť by mělo být: v případě zřizujících orgánů: aby lépe porozuměly technickému vývoji, zlepšily metody dohledu a poskytovaly pokyny vývojářům a poskytovatelům systémů UI s cílem dosáhnout souladu s tímto nařízením nebo případně dalšími platnými právními předpisy Unie a členských států, jakož i s Listinou základních práv; v případě potenciálních poskytovatelů: umožnit a usnadnit jim testování a vývoj inovativních řešení souvisejících se systémy UI ve fázi před uvedením na trh s cílem zvýšit právní jistotu, umožnit větší učení v oblasti regulace pro zřizující orgány v kontrolovaném prostředí s cílem vypracovat lepší pokyny a určit možná budoucí zlepšení právního rámce prostřednictvím řádného legislativního postupu. Veškerá významná rizika, která budou zjištěna během vývojetestování těchto systémů, budou mít za následek okamžité zmírnění, a pokud se to nezdaří, pozastavení procesu vývojetestování, dokud k tomuto zmírnění nedojde. Aby bylo zajištěno jednotné provádění v celé Unii a úspory z rozsahu, je vhodné stanovit společná pravidla pro zavádění regulačních pískovišť a rámec spolupráce mezi příslušnými orgány, které se podílejí na dohledu nad těmito pískovišti. Členské státy by měly zajistit, aby regulační pískoviště byla široce dostupná v celé Unii, přičemž účast na nich by měla zůstat dobrovolná. Je obzvláště důležité zajistit, aby malé a střední podniky a začínající podniky měly k těmto pískovištím snadný přístup, byly aktivně zapojeny do vývoje a testování inovativních systémů UI a podílely se na něm, aby mohly přispívat svým know-how a zkušenostmi.
Pozměňovací návrh 118
Návrh nařízení
Bod odůvodnění 72 a (nový)
(72a)  Toto nařízení by mělo poskytnout právní základ pro použití osobních údajů shromážděných pro jiné účely k vývoji určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI, a to pouze za podmínek určených v souladu s čl. 6 odst. 4 nařízení (EU) 2016/679 a s článkem 6 nařízení (EU) 2018/1725, aniž je dotčen čl. 4 odst. 2 směrnice (EU) 2016/680. Potenciální poskytovatelé na pískovišti by měli zajistit vhodné záruky a spolupracovat s příslušnými orgány, mimo jiné tím, že budou postupovat podle jejich pokynů a budou jednat rychle a v dobré víře s cílem zmírnit veškerá vysoká rizika pro bezpečnost, zdraví, životní prostředí a základní práva, která případně vzniknou v průběhu vývoje a experimentování v rámci pískoviště. Jednání potenciálních poskytovatelů na pískovišti by mělo být zohledněno při rozhodování příslušných orgánů o dočasném nebo trvalém pozastavení jejich účasti na pískovišti a o tom, zda uložit správní pokutu podle čl. 83 odst. 2 nařízení 2016/679 a článku 57 směrnice 2016/680.
Pozměňovací návrh 119
Návrh nařízení
Bod odůvodnění 72 b (nový)
(72b)  Aby bylo zajištěno, že umělá inteligence povede k sociálně a environmentálně prospěšným výsledkům, měly by členské státy podporovat a prosazovat výzkum a vývoj umělé inteligence na podporu sociálně a environmentálně prospěšných výsledků tím, že na to přidělí dostatečné zdroje, včetně veřejného financování a financování Unie, a poskytnou projektům vedeným občanskou společností přednostní přístup k regulačním pískovištím. Tyto projekty by měly být založeny na zásadě interdisciplinární spolupráce mezi vývojáři umělé inteligence, odborníky na nerovnost a nediskriminaci, přístupnost, spotřebitelská, environmentální a digitální práva, jakož i akademickými pracovníky.
Pozměňovací návrh 120
Návrh nařízení
Bod odůvodnění 73
(73)  V zájmu podpory a ochrany inovací je důležité, aby byly obzvláště zohledněny zájmy malých poskytovatelů a uživatelů systémů UI. Za tímto účelem by členské státy měly vyvíjet iniciativy zaměřené na tyto provozovatele, a to včetně zvyšování povědomí a informační komunikace. Oznámené subjekty by navíc měly zohledňovat zvláštní zájmy a potřeby malých poskytovatelů při stanovování poplatků za posuzování shody. Značné náklady pro poskytovatele a další provozovatele, zejména jedná-li se o poskytovatele a provozovatele menšího rozsahu, mohou představovat náklady na překlady související s povinnou dokumentací a s komunikací s úřady. Členské státy by případně měly zajistit, aby jedním z jazyků, který určí a přijmou pro účely dokumentace příslušných poskytovatelů a komunikace s provozovateli, byl jazyk, kterému obecně rozumí co nejvyšší počet přeshraničních uživatelů.
(73)  V zájmu podpory a ochrany inovací je důležité, aby byly obzvláště zohledněny zájmy malých poskytovatelů a uživatelů systémů UI. Za tímto účelem by členské státy měly vyvíjet iniciativy zaměřené na tyto provozovatele, a to včetně gramotnosti v oblasti umělé inteligence, zvyšování povědomí a informační komunikace. Členské státy musí využít stávající kanály, a případně vytvořit speciální kanál pro komunikaci s malými, středními a začínajícími podniky, uživateli a dalšími inovátory, kde by byly poskytovány pokyny a který by reagoval na dotazy týkající se provádění tohoto nařízení. Tyto stávající kanály by mohly mimo jiné zahrnovat skupiny agentury ENISA pro reakci na počítačové bezpečnostní incidenty, vnitrostátní úřady pro ochranu údajů, platformu pro umělou inteligenci na vyžádání, evropská centra pro digitální inovace, další důležité nástroje financované na základě programů EU a testovací a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni Unie. Tyto kanály případně musí spolupracovat na vytváření synergií a zajištění jednotných pokynů pro začínající, malé a střední podniky a uživatele. Oznámené subjekty by navíc měly zohledňovat zvláštní zájmy a potřeby malých poskytovatelů při stanovování poplatků za posuzování shody. Komise pravidelně posuzuje náklady malých, středních a začínajících podniků na certifikaci a dodržování předpisů, mj. na základě transparentních konzultací s malými, středními a začínajícími podniky a uživateli, a spolupracuje s členskými státy na snižování těchto nákladů. Značné náklady pro poskytovatele a další provozovatele, zejména jedná-li se o poskytovatele a provozovatele menšího rozsahu, mohou představovat například náklady na překlady související s povinnou dokumentací a s komunikací s úřady. Členské státy by případně měly zajistit, aby jedním z jazyků, který určí a přijmou pro účely dokumentace příslušných poskytovatelů a komunikace s provozovateli, byl jazyk, kterému obecně rozumí co nejvyšší počet přeshraničních uživatelů. Střední podniky, které nedávno přešly z kategorie malých do kategorie středních podniků ve smyslu přílohy doporučení 2003/361/ES (článek 16), musí mít přístup k těmto iniciativám a pokynům po dobu, kterou členské státy považují za vhodnou, neboť tyto nové střední podniky někdy nemusejí mít k dispozici právní zdroje a odbornou přípravu nezbytné k zajištění řádného pochopení a dodržování ustanovení.
Pozměňovací návrh 121
Návrh nařízení
Bod odůvodnění 74
(74)  K provádění tohoto nařízení s cílem minimalizovat rizika v oblasti provádění vyplývající z nedostatku věcných a odborných znalostí na trhu, jakož i usnadnit dodržování povinností poskytovatelů a oznámených subjektů podle tohoto nařízení, by mohly potenciálně přispět platformy pro UI na vyžádání, evropská centra pro digitální inovace a zkušební a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni EU. Tyto organizace mohou poskytovatelům a oznámeným subjektům poskytovat zejména technickou a vědeckou podporu v rámci svých úkolů a oblastí působnosti.
(74)  K provádění tohoto nařízení s cílem minimalizovat rizika v oblasti provádění vyplývající z nedostatku věcných a odborných znalostí na trhu, jakož i usnadnit dodržování povinností poskytovatelů a oznámených subjektů podle tohoto nařízení, by měly přispět platformy pro UI na vyžádání, evropská centra pro digitální inovace a zkušební a experimentální zařízení zřízená Komisí a členskými státy na vnitrostátní úrovni nebo na úrovni EU. Tyto organizace mohou poskytovatelům a oznámeným subjektům poskytovat zejména technickou a vědeckou podporu v rámci svých úkolů a oblastí působnosti.
Pozměňovací návrh 122
Návrh nařízení
Bod odůvodnění 76
(76)  V zájmu usnadnění hladkého, účinného a harmonizovaného provádění tohoto nařízení by měla být zřízena Evropská rada pro umělou inteligenci. Tato rada by měla odpovídat za řadu poradenských úkolů, včetně vydávání stanovisek, doporučení, rad nebo pokynů v záležitostech souvisejících s prováděním tohoto nařízení, včetně technických specifikací nebo stávajících norem týkajících se požadavků stanovených v tomto nařízení a poskytování poradenství a pomoci Komisi v konkrétních otázkách týkajících se umělé inteligence.
(76)  S cílem zabránit roztříštěnosti, zajistit optimální fungování jednotného trhu, zajistit účinné a harmonizované provádění tohoto nařízení, dosáhnout vysoké úrovně důvěryhodnosti a ochrany zdraví a bezpečnosti, základních práv, životního prostředí, demokracie a právního státu v celé Unii, pokud jde o systémy UI, aktivně podporovat vnitrostátní orgány dohledu, orgány, instituce a jiné subjekty Unie v záležitostech týkajících se tohoto nařízení a zvýšit využívání umělé inteligence v celé Unii by měl být zřízen Úřad Evropské unie pro umělou inteligenci. Úřad EU pro umělou inteligenci by měl mít právní subjektivitu, měl by jednat zcela nezávisle, měl by odpovídat za řadu poradních a koordinačních úkolů, včetně vydávání stanovisek, doporučení, poradenství nebo pokynů k záležitostem souvisejícím s prováděním tohoto nařízení, a měl by být financován a personálně vybaven odpovídajícím způsobem. Členské státy by měly spolu s Komisí, evropským inspektorem ochrany údajů a Agenturou pro základní práva zajistit strategické řízení a kontrolu úřadu pro UI prostřednictvím správní rady úřadu. Za řízení činností sekretariátu úřadu pro umělou inteligenci a za zastupování kanceláře pro umělou inteligenci by měl odpovídat výkonný ředitel. Zúčastněné strany by se měly na činnosti Úřadu pro umělou inteligenci formálně podílet prostřednictvím poradního fóra, jež by mělo zajistit různorodé a vyvážené zastoupení zúčastněných stran a mělo by Úřadu pro umělou inteligenci poskytovat poradenství v záležitostech, které se týkají tohoto nařízení. V případě, že se zřízení Úřadu pro umělou inteligenci ukáže jako nedostatečné k zajištění plně jednotného uplatňování tohoto nařízení na úrovni Unie, jakož i účinných přeshraničních donucovacích opatření, měla by být zvážena možnost vytvoření agentury pro umělou inteligenci.
Pozměňovací návrh 123
Návrh nařízení
Bod odůvodnění 77
(77)  Při uplatňování a prosazování tohoto nařízení hrají klíčovou roli členské státy. V tomto ohledu by měl každý členský stát určit jeden nebo více příslušných vnitrostátních orgánů pro účely dohledu nad uplatňováním a prováděním tohoto nařízení. V zájmu zvýšení efektivity organizace na straně členských států a stanovení oficiálního kontaktního místa pro veřejnost a další protistrany na úrovni členských států a Unie by měl každý členský stát určit jeden vnitrostátní orgán jako vnitrostátní dozorový orgán.
(77)  Každý členský stát by měl určit vnitrostátní dozorový orgán pro účely dohledu nad uplatňováním a prováděním tohoto nařízení. Ten by měl rovněž zastupovat svůj členský stát ve správní radě úřadu pro umělou inteligenci; s cílem zvýšit účinnost organizace na straně členských států a zřídit oficiální kontaktní místo pro veřejnost a další protějšky na úrovni členských států a Unie. Každý vnitrostátní dozorový orgán by měl při plnění svých úkolů a výkonu svých pravomocí v souladu s tímto nařízením jednat zcela nezávisle.
Pozměňovací návrh 124
Návrh nařízení
Bod odůvodnění 77 a (nový)
(77a)  Vnitrostátní dozorové orgány by měly sledovat uplatňování ustanovení podle tohoto nařízení a přispívat k jejich jednotnému uplatňování v celé Unii. Za tímto účelem by vnitrostátní dozorové orgány měly spolupracovat mezi sebou, s příslušnými vnitrostátními orgány, s Komisí a s Úřadem pro umělou inteligenci.
Pozměňovací návrh 125
Návrh nařízení
Bod odůvodnění 77 b (nový)
(77b)  Člen či členové a pracovníci každého dozorového úřadu jsou, v souladu s právem Unie nebo členského státu, během funkčního období i po jeho skončení vázáni služebním tajemstvím, pokud jde o veškeré důvěrné informace, o nichž se během plnění svých úkolů či výkonu svých pravomocí dozvědí. Během jejich funkčního období by se tato povinnost zachovávat služební tajemství měla vztahovat zejména na obchodní tajemství a na oznamování porušení tohoto nařízení fyzickými osobami.
Pozměňovací návrh 126
Návrh nařízení
Bod odůvodnění 78
(78)  Všichni poskytovatelé vysoce rizikových systémů UI by měli mít zaveden systém monitorování po uvedení na trh s cílem zajistit, že budou schopni zohlednit zkušenosti s používáním vysoce rizikových systémů UI při zlepšování svých systémů a procesu návrhu a vývoje, případně že budou schopni včas přijmout veškerá případná nápravná opatření. Tento systém je rovněž klíčovým předpokladem zajištění účinnějšího a včasnějšího řešení potenciálních rizik vyplývajících ze systémů UI, které se po uvedení na trh nebo do provozu dále „učí“. Poskytovatelé by měli mít v této souvislosti rovněž povinnost zavést systém hlášení veškerých závažných incidentů nebo porušení vnitrostátních právních předpisů a právních předpisů Unie na ochranu základních práv, k nimž dojde v důsledku používání jejich systémů UI, příslušným orgánům.
(78)  Všichni poskytovatelé vysoce rizikových systémů UI by měli mít zaveden systém monitorování po uvedení na trh s cílem zajistit, že budou schopni zohlednit zkušenosti s používáním vysoce rizikových systémů UI při zlepšování svých systémů a procesu návrhu a vývoje, případně že budou schopni včas přijmout veškerá případná nápravná opatření. Tento systém je rovněž klíčovým předpokladem zajištění účinnějšího a včasnějšího řešení potenciálních rizik vyplývajících ze systémů UI, které se po uvedení na trh nebo do provozu dále „učí“ nebo vyvíjejí. Poskytovatelé by měli mít v této souvislosti rovněž povinnost zavést systém hlášení veškerých závažných incidentů nebo porušení vnitrostátních právních předpisů a právních předpisů Unie, včetně těch, které chrání základní práva a práva spotřebitelů, v důsledku používání jejich systémů UI příslušným orgánům, a podniknout vhodné nápravné kroky. Provozovatelé by měli rovněž hlásit příslušným orgánům jakékoli závažné incidenty nebo porušení vnitrostátního práva a práva Unie vyplývající z používání jejich systému UI, pokud se o těchto závažných incidentech nebo porušeních dozví.
Pozměňovací návrh 127
Návrh nařízení
Bod odůvodnění 79
(79)  V zájmu zajištění náležitého a účinného vymáhání požadavků a povinností stanovených tímto nařízením, které představuje harmonizační právní předpis Unie, by se měl v plném rozsahu uplatňovat systém dozoru nad trhem a souladu výrobků s předpisy stanovený nařízením (EU) 2019/1020. Vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty dohlížející na uplatňování právních předpisů Unie na ochranu základních práv, včetně orgánů pro rovné zacházení, by rovněž měly mít přístup k veškeré dokumentaci vytvořené podle tohoto nařízení, pokud je to nutné pro výkon jejich pověření.
(79)  V zájmu zajištění náležitého a účinného vymáhání požadavků a povinností stanovených tímto nařízením, které představuje harmonizační právní předpis Unie, by se měl v plném rozsahu uplatňovat systém dozoru nad trhem a souladu výrobků s předpisy stanovený nařízením (EU) 2019/1020. Pro účely tohoto nařízení by vnitrostátní dozorové orgány měly působit jako orgány dozoru nad trhem se systémy UI, na něž se vztahuje toto nařízení, s výjimkou systémů UI, na něž se vztahuje příloha II tohoto nařízení. V případě systémů UI, na něž se vztahují právní akty uvedené v příloze II, by příslušnými orgány podle těchto právních aktů měly zůstat vedoucí orgán. Vnitrostátní dozorové orgány a příslušné orgány v právních aktech uvedených v příloze II by měly v případě potřeby spolupracovat. Je-li to vhodné, měly by příslušné orgány v právních aktech uvedených v příloze II vyslat do vnitrostátního dozorového orgánu kvalifikované pracovníky, aby jim pomohli při plnění jeho úkolů. Pro účely tohoto nařízení by vnitrostátní dozorové orgány měly mít stejné pravomoci a povinnosti jako orgány dozoru nad trhem podle nařízení (EU) 2019/1020. Vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty dohlížející na uplatňování právních předpisů Unie na ochranu základních práv, včetně orgánů pro rovné zacházení, by rovněž měly mít přístup k veškeré dokumentaci vytvořené podle tohoto nařízení, pokud je to nutné pro výkon jejich pověření. Po vyčerpání všech ostatních rozumných způsobů posouzení/ověření shody a na základě odůvodněné žádosti by měl být vnitrostátnímu dozorovému orgánu umožněn přístup k souborům tréninkových dat, dat pro ověřování platnosti a testovacím modelům vysoce rizikového systému UI, včetně jeho příslušných parametrů modelu a jejich prováděcího/provozního prostředí. V případě jednodušších softwarových systémů spadajících do oblasti působnosti tohoto nařízení, které nejsou založeny na vyškolených modelech, a pokud byly vyčerpány všechny ostatní způsoby ověření shody, může mít vnitrostátní dozorový orgán výjimečně na odůvodněnou žádost přístup ke zdrojovému kódu. Pokud byl vnitrostátnímu dozorovému orgánu udělen přístup k souborům údajů o trénování, ověřování platnosti a testování v souladu s tímto nařízením, měl by být tento přístup zajištěn prostřednictvím vhodných technických prostředků a nástrojů, včetně přístupu na místě a ve výjimečných případech dálkového přístupu. Vnitrostátní dozorový orgán by měl s veškerými informacemi včetně případně zdrojového kódu, softwaru a získaných údajů nakládat jako s důvěrnými informacemi a dodržovat příslušné právní předpisy Unie o ochraně duševního vlastnictví a obchodního tajemství. Vnitrostátní dozorový orgán by měl veškeré informace získané po ukončení vyšetřování vymazat.
Pozměňovací návrh 128
Návrh nařízení
Bod odůvodnění 80
(80)  Právní předpisy Unie týkající se finančních služeb zahrnují pravidla a požadavky vnitřní správy a řízení rizik, které se vztahují na regulované finanční instituce v průběhu poskytování těchto služeb, včetně případů, kdy využívají systémy UI. V zájmu zajištění jednotného uplatňování a vymáhání povinností vyplývajících z tohoto nařízení a příslušných pravidel a požadavků právních předpisů Unie o finančních službách by měly být jako příslušné orgány pro účely dohledu nad prováděním tohoto nařízení, včetně činností dozoru nad trhem ve vztahu k systémům UI poskytovaným nebo používaným finančními institucemi, které jsou předmětem regulace nebo dozoru, určeny orgány odpovědné za dohled nad právními předpisy o finančních službách a jejich vymáhání, tam, kde je to relevantní, včetně Evropské centrální banky. V zájmu dalšího posílení souladu mezi tímto nařízením a pravidly platnými pro úvěrové instituce podléhající směrnici Evropského parlamentu a Rady 2013/36/EU56 je rovněž vhodné začlenit postup posuzování shody a některé procesní povinnosti poskytovatelů v souvislosti s řízením rizik, monitorováním po uvedení na trh a dokumentací do stávajících povinností a postupů podle směrnice 2013/36/EU. Aby nedocházelo k překrývání, je třeba počítat rovněž s omezenými výjimkami ve vztahu k systému řízení kvality poskytovatelů a k povinnosti monitorování uložené uživatelům vysoce rizikových systémů UI v rozsahu, v jakém se vztahují na úvěrové instituce podléhající směrnici 2013/36/EU.
(80)  Právní předpisy Unie týkající se finančních služeb zahrnují pravidla a požadavky vnitřní správy a řízení rizik, které se vztahují na regulované finanční instituce v průběhu poskytování těchto služeb, včetně případů, kdy využívají systémy UI. V zájmu zajištění jednotného uplatňování a vymáhání povinností vyplývajících z tohoto nařízení a příslušných pravidel a požadavků právních předpisů Unie o finančních službách by měly být jako příslušné orgány pro účely dohledu nad prováděním tohoto nařízení, včetně činností dozoru nad trhem ve vztahu k systémům UI poskytovaným nebo používaným finančními institucemi, které jsou předmětem regulace nebo dozoru, určeny orgány odpovědné za dohled nad právními předpisy o finančních službách a jejich vymáhání, tam, kde je to relevantní, včetně Evropské centrální banky. V zájmu dalšího posílení souladu mezi tímto nařízením a pravidly platnými pro úvěrové instituce podléhající směrnici Evropského parlamentu a Rady 2013/36/EU56 je rovněž vhodné začlenit postup posuzování shody a některé procesní povinnosti poskytovatelů v souvislosti s řízením rizik, monitorováním po uvedení na trh a dokumentací do stávajících povinností a postupů podle směrnice 2013/36/EU. Aby nedocházelo k překrývání, je třeba počítat rovněž s omezenými výjimkami ve vztahu k systému řízení kvality poskytovatelů a k povinnosti monitorování uložené poskytovatelům vysoce rizikových systémů UI v rozsahu, v jakém se vztahují na úvěrové instituce podléhající směrnici 2013/36/EU.
__________________
__________________
56 Směrnice Evropského parlamentu a Rady 2013/36/EU ze dne 26. června 2013 o přístupu k činnosti úvěrových institucí a o obezřetnostním dohledu nad úvěrovými institucemi a investičními podniky, o změně směrnice 2002/87/ES a zrušení směrnic 2006/48/ES a 2006/49/ES (Úř. věst. L 176, 27.6.2013, s. 338).
56 Směrnice Evropského parlamentu a Rady 2013/36/EU ze dne 26. června 2013 o přístupu k činnosti úvěrových institucí a o obezřetnostním dohledu nad úvěrovými institucemi a investičními podniky, o změně směrnice 2002/87/ES a zrušení směrnic 2006/48/ES a 2006/49/ES (Úř. věst. L 176, 27.6.2013, s. 338).
Pozměňovací návrh 129
Návrh nařízení
Bod odůvodnění 80 a (nový)
(80a)  Vzhledem k cílům tohoto nařízení, totiž zajištění rovnocenné úrovně ochrany zdraví, bezpečnosti a základních práv fyzických osob, zajištění ochrany právního státu a demokracie a s přihlédnutím k tomu, že zmírnění rizik systému UI proti těmto právům nemusí být uspokojivě dosaženo na vnitrostátní úrovni nebo mohou být předmětem rozdílného výkladu, což by v konečném důsledku mohlo vést k nerovnoměrné úrovni ochrany fyzických osob a způsobit roztříštěnost trhu, by vnitrostátní dozorové orgány měly být zmocněny k provádění společných šetření nebo k využívání ochranného postupu Unie stanoveného v tomto nařízení za účelem účinného prosazování. Společná šetření by měla být zahájena, pokud má vnitrostátní dozorový orgán dostatečné důvody domnívat se, že porušení tohoto nařízení představuje rozsáhlé protiprávní jednání nebo rozsáhlé protiprávní jednání s unijním rozměrem, nebo pokud systém UI nebo základní model představuje riziko, které má nebo pravděpodobně bude mít dopad na nejméně 45 milionů osob ve více než jednom členském státě.
Pozměňovací návrh 130
Návrh nařízení
Bod odůvodnění 82
(82)  Je důležité, aby systémy UI související s produkty, které podle tohoto nařízení nejsou vysoce rizikové, a proto nemusí splňovat požadavky, které jsou v něm stanoveny, byly při uvedení na trh nebo do provozu přesto bezpečné. Jako záchranná síť pro přispění k tomuto cíli by se uplatnila směrnice Evropského parlamentu a Rady 2001/95/ES57.
(82)  Je důležité, aby systémy UI související s produkty, které podle tohoto nařízení nejsou vysoce rizikové, a proto nemusí splňovat požadavky, které jsou stanoveny pro vysoce rizikové systémy UI, byly při uvedení na trh nebo do provozu přesto bezpečné. Jako záchranná síť pro přispění k tomuto cíli by se uplatnila směrnice Evropského parlamentu a Rady 2001/95/ES57.
__________________
__________________
57 Směrnice Evropského parlamentu a Rady 2001/95/ES ze dne 3. prosince 2001 o obecné bezpečnosti výrobků (Úř. věst. L 11, 15.1.2002, s. 4).
57 Směrnice Evropského parlamentu a Rady 2001/95/ES ze dne 3. prosince 2001 o obecné bezpečnosti výrobků (Úř. věst. L 11, 15.1.2002, s. 4).
Pozměňovací návrh 131
Návrh nařízení
Bod odůvodnění 83
(83)  V zájmu zajištění důvěryhodné a konstruktivní spolupráce příslušných orgánů na úrovni Unie a na vnitrostátní úrovni by měly všechny strany zapojené do uplatňování tohoto nařízení respektovat důvěrnost informací a údajů získaných při plnění svých úkolů.
(83)  V zájmu zajištění důvěryhodné a konstruktivní spolupráce příslušných orgánů na úrovni Unie a na vnitrostátní úrovni by všechny strany zapojené do uplatňování tohoto nařízení měly usilovat o transparentnost a otevřenost a zároveň respektovat důvěrnost informací a údajů získaných při plnění svých úkolů zavedením technických a organizačních opatření na ochranu bezpečnosti a důvěrnosti získaných informací při výkonu svých činností, včetně ochrany práv duševního vlastnictví a zájmů veřejné a národní bezpečnosti. Pokud činnosti Komise, příslušných vnitrostátních orgánů a oznámených subjektů podle tohoto nařízení povedou k porušení práv duševního vlastnictví, měly by členské státy stanovit vhodná opatření a nápravná opatření k zajištění dodržování práv duševního vlastnictví při uplatňování směrnice 2004/48/ES.
Pozměňovací návrh 132
Návrh nařízení
Bod odůvodnění 84
(84)  Členské státy by měly přijmout veškerá nezbytná opatření k zajištění toho, aby byla ustanovení tohoto nařízení prováděna, a to i stanovením účinných, přiměřených a odrazujících sankcí za jejich porušení. U určitých konkrétních porušení by členské státy měly zohlednit rozpětí a kritéria stanovená v tomto nařízení. Evropský inspektor ochrany údajů by měl být oprávněn ukládat pokuty orgánům, institucím a subjektům Unie spadajícím do oblasti působnosti tohoto nařízení.
(84)  Dodržování tohoto nařízení by mělo být vymahatelné na základě pokut, které ukládá vnitrostátní dozorový orgán v rámci řízení vedeného podle postupu stanoveného v tomto nařízení. Členské státy by měly přijmout veškerá nezbytná opatření k zajištění toho, aby byla ustanovení tohoto nařízení prováděna, a to i stanovením účinných, přiměřených a odrazujících sankcí za jejich porušení. Za účelem posílení a harmonizace správních sankcí za porušení tohoto nařízení by měly být stanoveny horní hranice pro stanovení správních pokut za určitá konkrétní porušení; Při posuzování výše pokut by příslušné vnitrostátní orgány měly v každém jednotlivém případě zohlednit všechny relevantní okolnosti konkrétní situace, s náležitým ohledem zejména na povahu, závažnost a dobu trvání protiprávního jednání a jeho důsledků a na velikost poskytovatele, zejména pokud je poskytovatelem malý nebo střední podnik nebo začínající podnik. Evropský inspektor ochrany údajů by měl být oprávněn ukládat pokuty orgánům, institucím a subjektům Unie spadajícím do oblasti působnosti tohoto nařízení. Sankce a náklady na soudní spory podle tohoto nařízení by neměly být předmětem smluvních doložek ani jiných ujednání.
Pozměňovací návrh 133
Návrh nařízení
Bod odůvodnění 84 a (nový)
(84a)  Vzhledem k tomu, že práva a svobody fyzických a právnických osob a skupin fyzických osob mohou být vážně ohroženy systémy UI, je nezbytné, aby fyzické a právnické osoby nebo skupiny fyzických osob měly smysluplný přístup k mechanismům oznamování a nápravy a měly právo na přístup k přiměřeným a účinným opravným prostředkům. Měli by mít možnost hlásit porušení tohoto nařízení svému vnitrostátnímu dozorovému orgánu a měli by mít právo podat stížnost na poskytovatele nebo provozovatele systémů UI. Provozovatelé by měli případně zajistit interní mechanismy pro podávání stížností, které mají moci používat fyzické a právnické osoby nebo skupiny fyzických osob. Aniž jsou dotčeny jakékoli jiné správní nebo mimosoudní opravné prostředky, měly by mít fyzické a právnické osoby a skupiny fyzických nebo právnických osob rovněž právo na účinný soudní opravný prostředek, pokud jde o právně závazné rozhodnutí vnitrostátního dozorového orgánu nebo Komise, které se jich týká, nebo pokud vnitrostátní dozorový orgán nevyřídí stížnost, neinformuje stěžovatele o pokroku nebo předběžném výsledku podané stížnosti nebo neplní svou povinnost dospět ke konečnému rozhodnutí ohledně stížnosti.
Pozměňovací návrh 134
Návrh nařízení
Bod odůvodnění 84 b (nový)
(84b)  Dotčené osoby by měly být o tom, že se na ně vztahuje používání vysoce rizikového systému UI, vždy informovány, pokud provozovatelé používají vysoce rizikový systém UI, aby jim pomohl při rozhodování nebo přijímání rozhodnutí týkajících se fyzických osob. Tyto informace mohou dotčeným osobám poskytnout základ pro uplatnění jejich práva na vysvětlení podle tohoto nařízení. Pokud provozovatelé poskytnou dotčeným osobám vysvětlení podle tohoto nařízení, měli by zohlednit úroveň odborných znalostí a znalostí průměrného spotřebitele nebo jednotlivce.
Pozměňovací návrh 135
Návrh nařízení
Bod odůvodnění 84 c (nový)
(84c)  Právo Unie o ochraně oznamovatelů (směrnice (EU) 2019/1937) se plně vztahuje na akademické pracovníky, návrháře, vývojáře, přispěvatele projektů, auditory, manažery produktů, inženýry a hospodářské subjekty, kteří získají informace o porušování práva Unie ze strany poskytovatele systému UI nebo jeho systému UI.
Pozměňovací návrh 136
Návrh nařízení
Bod odůvodnění 85
(85)  Za účelem zajištění toho, že v případě potřeby bude možné regulační rámec upravit, by měla být na Komisi přenesena pravomoc přijímat akty v souladu s článkem 290 Smlouvy o fungování EU, pokud jde o změnu technik a přístupů uvedených v příloze I pro účely definice systémů UI, harmonizačních právních předpisů Unie uvedených v příloze II, vysoce rizikových systémů UI uvedených v příloze III, ustanovení týkajících se technické dokumentace uvedených v příloze IV, obsahu EU prohlášení o shodě uvedeného v příloze V, ustanovení týkajících se postupů posuzování shody v přílohách VI a VII a ustanovení zavádějících vysoce rizikové systémy UI, na které by se měl vztahovat postup posuzování shody založený na posouzení systému řízení kvality a posouzení technické dokumentace. Je obzvláště důležité, aby Komise v rámci přípravné činnosti vedla odpovídající konzultace, a to i na odborné úrovni, a aby tyto konzultace probíhaly v souladu se zásadami stanovenými v interinstitucionální dohodě o zdokonalení tvorby právních předpisů ze dne 13. dubna 201658. Pro zajištění rovné účasti na vypracovávání aktů v přenesené pravomoci obdrží Evropský parlament a Rada veškeré dokumenty současně s odborníky z členských států a jejich odborníci mají automaticky přístup na setkání skupin odborníků Komise, jež se věnují přípravě aktů v přenesené pravomoci.
(85)  Za účelem zajištění toho, že v případě potřeby bude možné regulační rámec upravit, by měla být na Komisi přenesena pravomoc přijímat akty v souladu s článkem 290 Smlouvy o fungování EU, pokud jde o změnu harmonizačních právních předpisů Unie uvedených v příloze II, vysoce rizikových systémů UI uvedených v příloze III, ustanovení týkajících se technické dokumentace uvedených v příloze IV, obsahu EU prohlášení o shodě uvedeného v příloze V, ustanovení týkajících se postupů posuzování shody v přílohách VI a VII a ustanovení zavádějících vysoce rizikové systémy UI, na které by se měl vztahovat postup posuzování shody založený na posouzení systému řízení kvality a posouzení technické dokumentace. Je obzvláště důležité, aby Komise v rámci přípravné činnosti vedla odpovídající konzultace, a to i na odborné úrovni, a aby tyto konzultace probíhaly v souladu se zásadami stanovenými v interinstitucionální dohodě o zdokonalení tvorby právních předpisů ze dne 13. dubna 201658. Do těchto konzultací by měl být zapojen vyvážený výběr zúčastněných stran, včetně spotřebitelských organizací, občanské společnosti, sdružení zastupujících dotčené osoby, zástupců podniků z různých odvětví a různých velikostí, jakož i výzkumných pracovníků a vědců. Pro zajištění rovné účasti na vypracovávání aktů v přenesené pravomoci obdrží Evropský parlament a Rada veškeré dokumenty současně s odborníky z členských států a jejich odborníci mají automaticky přístup na setkání skupin odborníků Komise, jež se věnují přípravě aktů v přenesené pravomoci.
__________________
__________________
58 Úř. věst. L 123, 12.5.2016, s. 1.
58 Úř. věst. L 123, 12.5.2016, s. 1.
Pozměňovací návrh 137
Návrh nařízení
Bod odůvodnění 85 a (nový)
(85a)  Vzhledem k rychlému technickému vývoji a požadovaným technickým odborným znalostem při posuzování vysoce rizikových systémů UI by Komise měla alespoň jednou ročně pravidelně přezkoumávat provádění tohoto nařízení, zejména zakázané systémy UI, povinnosti transparentnosti a seznam vysoce rizikových oblastí a případů použití, přičemž by měla konzultovat Úřad pro UI a příslušné zúčastněné strany.
Pozměňovací návrh 138
Návrh nařízení
Bod odůvodnění 87 a (nový)
(87a)  Vzhledem k tomu, že spolehlivé informace o využívání zdrojů a energie, produkci odpadů a dalších dopadech systémů UI a souvisejících technologií IKT na životní prostředí, včetně softwaru, hardwaru a zejména datových center, jsou omezené, měla by Komise zavést odpovídající metodiku pro měření dopadu a účinnosti tohoto nařízení na životní prostředí s ohledem na cíle Unie v oblasti životního prostředí a klimatu.
Pozměňovací návrh 139
Návrh nařízení
Bod odůvodnění 89
(89)  V souladu s čl. 42 odst. 2 nařízení (EU) 2018/1725 byl konzultován evropský inspektor ochrany údajů a Evropský sbor pro ochranu osobních údajů, a jejich stanovisko bylo vydáno dne […].
(89)  V souladu s čl. 42 odst. 2 nařízení (EU) 2018/1725 byl konzultován evropský inspektor ochrany údajů a Evropský sbor pro ochranu osobních údajů, a jejich stanovisko bylo vydáno dne 18. června 2021.
Pozměňovací návrh 140
Návrh nařízení
Čl. 1 – odst. 1 (nový)
1.  Účelem tohoto nařízení je podporovat zavádění důvěryhodné umělé inteligence zaměřené na člověka a zajistit vysokou úroveň ochrany zdraví, bezpečnosti, základních práv, demokracie a právního státu a životního prostředí před škodlivými účinky systémů umělé inteligence v Unii a zároveň podporovat inovace;
Pozměňovací návrh 141
Návrh nařízení
Čl. 1 – odst. 1 – písm. d
d)  harmonizovaná pravidla transparentnosti pro systémy UI určené k interakci s fyzickými osobami, pro systémy rozpoznávání emocí a pro systémy biometrické kategorizace, jakož i pro systémy UI používané k vytváření obrazového, zvukového nebo video obsahu nebo k manipulaci s ním;
d)  harmonizovaná pravidla transparentnosti pro některé systémy UI;
Pozměňovací návrh 142
Návrh nařízení
Čl. 1 – odst. 1 – písm. e
e)  pravidla monitorování trhu a dozoru nad ním.
e)  pravidla řízení, monitorování trhu, dozoru nad správou trhu a prosazování tohoto nařízení;
Pozměňovací návrh 143
Návrh nařízení
Čl. 1 – odst. 1 – písm. e a (nové)
ea)  opatření na podporu inovací se zvláštním zaměřením na malé a střední podniky a začínající podniky, včetně zřizování regulačních pískovišť a cílených opatření ke snížení regulační zátěže malých a středních podniků a začínajících podniků;
Pozměňovací návrh 144
Návrh nařízení
Čl. 1 – odst. 1 – písm. e b (nové)
eb)  pravidla pro zřízení a fungování Úřadu Unie pro umělou inteligenci (Úřad pro umělou inteligenci).
Pozměňovací návrh 145
Návrh nařízení
Čl. 2 – odst. 1 – písm. b
b)  uživatele systémů UI nacházející se v Unii;
b)  provozovatelé systémů UI, kteří mají místo usazení nebo kteří se nacházejí v Unii;
Pozměňovací návrh 146
Návrh nařízení
Čl. 2 – odst. 1 – písm. c
c)  poskytovatele a uživatele systémů UI, kteří se nacházejí ve třetí zemi, pokud se výstup systému používá v Unii.
c)  poskytovatelům a provozovatelům systémů UI, kteří mají místo usazení nebo kteří se nacházejí ve třetí zemi, kde se uplatňuje právo některého členského státu na základě mezinárodního práva veřejného, nebo pokud je výstup vytvořený systémem určen k použití v Unii;
Pozměňovací návrh 147
Návrh nařízení
Čl. 2 – odst. 1 – písm. c a (nové)
ca)  poskytovatelé uvádějící na trh nebo do provozu systémy UI uvedené v článku 5 mimo Unii, pokud se poskytovatel nebo distributor těchto systémů nachází v Unii;
Pozměňovací návrh 148
Návrh nařízení
Čl. 2 – odst. 1 – písm. c b (nové)
cb)  dovozci a distributoři systémů UI, jakož i zplnomocnění zástupci poskytovatelů systémů UI, pokud tito dovozci, distributoři nebo zplnomocnění zástupci mají sídlo nebo se nacházejí v Unii;
Pozměňovací návrh 149
Návrh nařízení
Čl. 2 – odst. 1 – písm. c c (nové)
cc)  dotčené osoby ve smyslu čl. 3 odst. 8a, které se nacházejí v Unii a jejichž zdraví, bezpečnost nebo základní práva jsou nepříznivě ovlivněny používáním systému UI, který je uváděn na trh nebo do provozu v Unii.
Pozměňovací návrh 150
Návrh nařízení
Čl. 2 – odst. 2 – návětí
2.  Pro vysoce rizikové systémy UI, které představují bezpečnostní součásti produktů nebo systémů nebo které jsou samy o sobě produkty nebo systémy a které spadají do oblasti působnosti následujících aktů, se použije pouze článek 84 tohoto nařízení:
2.  Pro rizikové systémy UI, které představují bezpečnostní součásti produktů nebo systémů nebo které jsou samy o sobě produkty nebo systémy a které spadají do oblasti působnosti aktů uvedených v příloze II oddíle B, se použije pouze článek 84 tohoto nařízení:
Pozměňovací návrh 151
Návrh nařízení
Čl. 2 – odst. 2 – písm. a
a)  nařízení (ES) č. 300/2008;
vypouští se
Pozměňovací návrh 152
Návrh nařízení
Čl. 2 – odst. 2 – písm. b
b)  nařízení (EU) č. 167/2013;
vypouští se
Pozměňovací návrh 153
Návrh nařízení
Čl. 2 – odst. 2 – písm. c
c)  nařízení (EU) č. 168/2013;
vypouští se
Pozměňovací návrh 154
Návrh nařízení
Čl. 2 – odst. 2 – písm. d
d)  směrnice 2014/90/EU;
vypouští se
Pozměňovací návrh 155
Návrh nařízení
Čl. 2 – odst. 2 – písm. e
e)  směrnice (EU) 2016/797;
vypouští se
Pozměňovací návrh 156
Návrh nařízení
Čl. 2 – odst. 2 – písm. f
f)  nařízení (EU) 2018/858;
vypouští se
Pozměňovací návrh 157
Návrh nařízení
Čl. 2 – odst. 2 – písm. g
g)  nařízení (EU) 2018/1139;
vypouští se
Pozměňovací návrh 158
Návrh nařízení
Čl. 2 – odst. 2 – písm. h
h)  nařízení (EU) 2019/2144.
vypouští se
Pozměňovací návrh 159
Návrh nařízení
Čl. 2 – odst. 4
4.  Toto nařízení se nevztahuje na orgány veřejné moci ve třetí zemi ani na mezinárodní organizace spadající do oblasti působnosti tohoto nařízení podle odstavce 1, pokud tyto orgány nebo organizace používají systémy UI v rámci mezinárodních dohod o prosazování práva a o justiční spolupráci s Unií nebo s jedním či více členskými státy.
4.  Toto nařízení se nevztahuje na orgány veřejné moci ve třetí zemi ani na mezinárodní organizace spadající do oblasti působnosti tohoto nařízení podle odstavce 1, pokud tyto orgány nebo organizace používají systémy UI v rámci mezinárodních dohod o prosazování práva a justiční spolupráci s Unií nebo s jedním či více členskými státy a vztahuje se na ně rozhodnutí Komise přijaté v souladu s článkem 36 směrnice (EU) 2016/680 nebo článkem 45 nařízení 2016/679 (dále jen „rozhodnutí o odpovídající ochraně“) nebo jsou součástí mezinárodní dohody uzavřené mezi Unií a danou třetí zemí nebo mezinárodní organizací podle článku 218 Smlouvy o fungování EU, která stanoví přiměřené záruky s ohledem na ochranu soukromí a základních práv a svobod fyzických osob;
Pozměňovací návrh 160
Návrh nařízení
Čl. 2 – odst. 5 a (nový)
5a.  Na osobní údaje zpracovávané v souvislosti s právy a povinnostmi stanovenými v tomto nařízení se vztahuje právo Unie o ochraně osobních údajů, soukromí a důvěrnosti sdělení. Tímto nařízením nejsou dotčena nařízení (EU) 2016/679 a (EU) 2018/1725 a směrnice 2002/58/ES a (EU) 2016/680, aniž jsou dotčena ujednání stanovená v čl. 10 odst. 5 a článku 54 tohoto nařízení.“;
Pozměňovací návrh 161
Návrh nařízení
Čl. 2 – odst. 5 b (nový)
5b.  Tímto nařízením nejsou dotčena pravidla stanovená jinými právními akty Unie týkajícími se ochrany spotřebitele a bezpečnosti výrobků;
Pozměňovací návrh 162
Návrh nařízení
Čl. 2 – odst. 5 c (nový)
5c.  Toto nařízení nebrání členským státům nebo Unii v tom, aby zachovaly nebo zavedly právní a správní předpisy, které jsou pro pracovníky příznivější, pokud jde o ochranu jejich práv v souvislosti s používáním systémů UI zaměstnavateli, nebo které podporují či umožňují uplatňování kolektivních smluv, které jsou pro pracovníky příznivější.
Pozměňovací návrh 163
Návrh nařízení
Čl. 2 – odst. 5 d (nový)
5d.  Toto nařízení nemá vliv na výzkum, testování a vývoj systémů umělé inteligence předtím, než je takový systém uveden na trh nebo do provozu, pokud je prováděn za dodržování základních práv a příslušných právních předpisů Unie. Na zkoušky v reálných podmínkách se tato výjimka nevztahuje.Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73, které objasní uplatňování tohoto odstavce za účelem upřesnění této výjimky, aby se zabránilo jejímu stávajícímu a potenciálnímu zneužití. Úřad pro umělou inteligenci poskytuje pokyny týkající se řízení výzkumu a vývoje podle článku 56, rovněž s cílem koordinovat jejich uplatňování vnitrostátními dozorovými orgány;
Pozměňovací návrh 164
Návrh nařízení
Čl. 2 – odst. 5 e (nový)
5e.  Toto nařízení se nevztahuje na součásti UI poskytované na základě bezplatných licencí a licencí s otevřeným zdrojovým kódem, s výjimkou případů, kdy jsou uvedeny na trh nebo do provozu poskytovatelem jako součást vysoce rizikového systému UI nebo systému UI, který spadá do hlavy II nebo IV. Tato výjimka se nevztahuje na základní modely definované v článku 3.
Pozměňovací návrh 165
Návrh nařízení
Čl. 3 – odst. 1 – bod 1
(1)  „systémem umělé inteligence“ (systém UI) software, který je vyvinut pomocí jedné nebo více technik a přístupů uvedených v příloze I, a který může pro danou sadu cílů definovaných člověkem generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikují;
(1)  „systémem umělé inteligence“ (systém UI) strojový systém, který je navržen tak, aby fungoval s různou úrovní autonomie, a který může pro explicitní nebo implicitní cíle generovat výstupy, jako jsou předpovědi, doporučení nebo rozhodnutí, které ovlivňují fyzické nebo virtuální prostředí;
Pozměňovací návrh 166
Návrh nařízení
Čl. 3 – odst. 1 – bod 1 a (nový)
(1a)  „rizikem“ se rozumí kombinace pravděpodobnosti toho, že dojde k újmě, a závažnosti takové újmy;
Pozměňovací návrh 167
Návrh nařízení
Čl. 3 – odst. 1 – bod 1 b (nový)
(1b)  „významným rizikem“ riziko, které je významné v důsledku kombinace závažnosti, intenzity, pravděpodobnosti výskytu a trvání jeho účinků a jeho schopnosti postihnout jednotlivce, více osob nebo ovlivnit konkrétní skupinu osob;
Pozměňovací návrh 168
Návrh nařízení
Čl. 3 – odst. 1 – bod 1 c (nový)
(1c)  „nadačním modelem“ model systému UI, který je trénován na širokých datech v měřítku, je navržen pro obecnou povahu výstupů a lze jej přizpůsobit široké škále specifických úkolů;
Pozměňovací návrh 169
Návrh nařízení
Čl. 3 – odst. 1 – bod 1 d (nový)
(1d)  „všeobecným systémem UI“ systém UI, který lze používat v široké škále aplikací, pro něž nebyl záměrně a konkrétně navržen, a který je pro ni přizpůsoben;
Pozměňovací návrh 170
Návrh nařízení
Čl. 3 – odst. 1 – bod 1 e (nový)
(1e)  „průběhem rozsáhlé odborné přípravy“ se rozumí výrobní proces silného modelu UI, který vyžaduje výpočetní zdroje nad velmi vysokou prahovou hodnotou;
Pozměňovací návrh 171
Návrh nařízení
Čl. 3 – odst. 1 – bod 3
(3)  „malým poskytovatelem“ poskytovatel, který je mikropodnikem nebo malým podnikem ve smyslu doporučení Komise 2003/361/ES61;
vypouští se
__________________
61 Doporučení Komise ze dne 6. května 2003 o definici mikropodniků a malých a středních podniků (Úř. věst. L 124, 20.5.2003, s. 36).
Pozměňovací návrh 172
Návrh nařízení
Čl. 3 – odst. 1 – bod 4
(4)  „uživatelem“ jakákoli fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, které v rámci své pravomoci využívají systém UI, s výjimkou případů, kdy je tento systém UI využíván při osobní neprofesionální činnosti;
(4)  „uživatelem“ jakákoli fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, které v rámci své pravomoci využívají systém UI, s výjimkou případů, kdy je tento systém UI využíván při osobní neprofesionální činnosti;
Pozměňovací návrh 173
Návrh nařízení
Čl. 3 – odst. 1 – bod 8
(8)  „provozovatelem“ poskytovatel, uživatel, zplnomocněný zástupce, dovozce a distributor;
(8)  „provozovatelem“ poskytovatel, zavádějící subjekt, zplnomocněný zástupce, dovozce a distributor;
Pozměňovací návrh 174
Návrh nařízení
Čl. 3 – odst. 1 – bod 8 a (nový)
(8a)  „dotčenou osobou“ jakákoli fyzická osoba nebo skupina osob, na něž se systém UI vztahuje nebo které jsou tímto systémem dotčeny;
Pozměňovací návrh 175
Návrh nařízení
Čl. 3 – odst. 1 – bod 11
(11)  „uvedením do provozu“ dodání systému UI k prvnímu použití přímo uživateli nebo pro vlastní použití na trhu Unie za určeným účelem;
(11)  „uvedením do provozu“ dodání systému UI k prvnímu použití přímo uživateli nebo pro vlastní použití na trhu Unie za určeným účelem;
Pozměňovací návrh 176
Návrh nařízení
Čl. 3 – odst. 1 – bod 13
(13)  „důvodně předvídatelným nesprávným použitím“ použití systému UI způsobem, který není v souladu s jeho určeným účelem, avšak může vyplývat z důvodně předvídatelného lidského chování nebo z interakce s jinými systémy;
(13)  „důvodně předvídatelným nesprávným použitím“ použití systému UI způsobem, který není v souladu s jeho určeným účelem uvedeným v návodu k použití stanoveném poskytovatelem, ale který může vyplývat z důvodně předvídatelného lidského chování nebo interakce s jinými systémy, včetně jiných systémů UI;
Pozměňovací návrh 177
Návrh nařízení
Čl. 3 – odst. 1 – bod 14
(14)  „bezpečnostní součástí produktu nebo systému“ součást produktu nebo systému, která plní bezpečnostní funkci pro daný produkt nebo systém, případně jejíž porucha nebo chybné fungování ohrožuje zdraví a bezpečnost osob nebo majetku;
(14)  „bezpečnostní součástí produktu nebo systému“ v souladu s harmonizačními právními předpisy Unie uvedenými v příloze II součást výrobku nebo systému, která plní bezpečnostní funkci pro daný produkt nebo systém, nebo jejíž selhání či špatné fungování ohrožuje zdraví a bezpečnost osob nebo majetku;
Pozměňovací návrh 178
Návrh nařízení
Čl. 3 – odst. 1 – bod 15
(15)  „návodem k použití“ informace poskytnuté poskytovatelem, které uživatele informují zejména o určeném účelu a řádném použití daného systému UI, včetně konkrétního geografického, behaviorálního nebo funkčního prostředí, ve kterém má být tento vysoce rizikový systém UI používán;
(15)  „návodem k použití“ informace poskytnuté poskytovatelem s cílem informovat provozovatele zejména o zamýšleném účelu a řádném použití systému UI, jakož i informace o veškerých preventivních opatřeních, která mají být přijata; včetně konkrétního zeměpisného, behaviorálního nebo funkčního prostředí, v němž má být vysoce rizikový systém UI používán;
Pozměňovací návrh 179
Návrh nařízení
Čl. 3 – odst. 1 – bod 16
(16)  „stažením systému UI z oběhu“ jakékoli opatření, jehož cílem je dosáhnout, aby byl systém UI zpřístupněný uživatelům navrácen poskytovateli;
(16)  „stažením systému UI z oběhu“ jakékoli opatření, jehož cílem je dosáhnout, aby byl systém UI, který byl zpřístupněn uživatelům, navrácen poskytovateli;
Pozměňovací návrh 180
Návrh nařízení
Čl. 3 – odst. 1 – bod 20
(20)  „posuzováním shody“ postup ověřování toho, zda byly splněny požadavky stanovené v hlavě III kapitole 2 tohoto nařízení týkající se systému UI;
(20)  „posuzováním shody“ postup ověřování toho, zda byly splněny požadavky stanovené v hlavě III kapitole 2 tohoto nařízení týkající se systému UI;
Pozměňovací návrh 181
Návrh nařízení
Čl. 3 – odst. 1 – bod 22
(22)  „oznámeným subjektem“ subjekt posuzování shody určený v souladu s tímto nařízením a dalšími příslušnými harmonizačními právními předpisy Unie;
(22)  „oznámeným subjektem“ subjekt posuzování shody určený v souladu s tímto nařízením a dalšími příslušnými harmonizačními právními předpisy Unie;
Pozměňovací návrh 182
Návrh nařízení
Čl. 3 – odst. 1 – bod 23
(23)  „podstatnou změnou“ změna systému UI po jeho uvedení na trh nebo do provozu, která ovlivňuje soulad systému UI s požadavky stanovenými v hlavě III kapitole 2 tohoto nařízení nebo vede ke změně určeného účelu, podle kterého byl systém UI posuzován;
(23)  „podstatnou změnou“ změna nebo řada změn systému UI po jeho uvedení na trh nebo do provozu, která není plánována nebo plánována v počátečním posouzení rizik poskytovatelem a v jejímž důsledku je ovlivněn soulad systému UI s požadavky stanovenými v hlavě III kapitole 2 tohoto nařízení nebo výsledkem je změna určeného účelu, pro který byl systém UI posuzován;
Pozměňovací návrh 183
Návrh nařízení
Čl. 3 – odst. 1 – bod 24
(24)  „označením shody CE“ nebo „označením CE“ označení, kterým poskytovatel vyjadřuje, že systém UI je ve shodě s požadavky stanovenými v hlavě III kapitole 2 tohoto nařízení a v dalších příslušných právních předpisech Unie harmonizujících uvádění produktů na trh („harmonizační právní předpisy Unie“), které upravují jeho umísťování;
(24)  „označením shody CE“ nebo „označením CE“ fyzické nebo digitální označení, kterým poskytovatel vyjadřuje, že systém UI nebo produkt se zabudovaným systémem UI je ve shodě s požadavky stanovenými v hlavě III kapitole 2 tohoto nařízení a v dalších příslušných právních předpisech Unie harmonizujících uvádění produktů na trh („harmonizační právní předpisy Unie“), které upravují jeho umísťování;
Pozměňovací návrh 184
Návrh nařízení
Čl. 3 – odst. 1 – bod 29
(29)  „tréninkovými daty“ data používaná pro trénování systému UI přizpůsobováním jeho parametrů, které se lze naučit, včetně vah neuronové sítě;
(29)  „tréninkovými daty“ data používaná pro trénování systému UI přizpůsobováním jeho parametrů, které se lze naučit;
Pozměňovací návrh 185
Návrh nařízení
Čl. 3 – odst. 1 – bod 30
(30)  „daty pro ověřování platnosti“ data používaná pro vyhodnocení trénovaného systému UI a pro vyladění jeho parametrů, které se nelze naučit, a jeho procesu učení, mimo jiné s cílem zabránit přeučení; přičemž soubor dat pro ověřování platnosti může být samostatný soubor dat nebo součást souboru tréninkových dat, ať už jako pevné, nebo variabilní rozdělení;
(30)  „daty pro ověřování platnosti“ data používaná pro vyhodnocení trénovaného systému UI a pro vyladění jeho parametrů, které se nelze naučit, a jeho procesu učení, mimo jiné s cílem zabránit nedostatečnému učení nebo přeučení; přičemž soubor dat pro ověřování platnosti je samostatný soubor dat nebo součást souboru tréninkových dat, ať už jako pevné, nebo variabilní rozdělení;
Pozměňovací návrh 186
Návrh nařízení
Čl. 3 – odst. 1 – bod 33
(33)  „biometrickými údaji“ osobní údaje vyplývající z konkrétního technického zpracování, týkající se fyzických či fyziologických znaků nebo znaků chování fyzické osoby, které umožňují nebo potvrzují její jedinečnou identifikaci, například zobrazení obličeje nebo daktyloskopické údaje;
(33)  „biometrickými údaji“ biometrické údaje definované v čl. 4 bodu 14 nařízení (EU) 2016/679;
Pozměňovací návrh 187
Návrh nařízení
Čl. 3 – odst. 1 – bod 33 a (nový)
(33a)  Biometrické údaje jsou dodatečné údaje vyplývající z konkrétního technického zpracování, týkající se fyzických či fyziologických znaků nebo znaků chování fyzické osoby.
Pozměňovací návrh 188
Návrh nařízení
Čl. 3 – odst. 1 – bod 33 b (nový)
(33b)  „biometrickou identifikací“ automatizované rozpoznávání tělesných, fyziologických, behaviorálních a psychických lidských znaků za účelem zjištění totožnosti jednotlivce porovnáním biometrických údajů této osoby s uloženými biometrickými údaji jednotlivců v databázi (identifikace jedné osoby);
Pozměňovací návrh 189
Návrh nařízení
Čl. 3 – odst. 1 – bod 33 c (nový)
(33c)  „biometrickým ověřením“ automatizované ověřování totožnosti fyzických osob porovnáním biometrických údajů jednotlivce s dříve poskytnutými biometrickými údaji (ověření „one-to-one“, včetně ověření pravosti);
Pozměňovací návrh 190
Návrh nařízení
Čl. 3 – odst. 1 – bod 33 d (nový)
(33d)  „zvláštními kategoriemi osobních údajů“ kategorie osobních údajů definované v čl. 9 odst. 1 nařízení (EU) 2016/679;
Pozměňovací návrh 191
Návrh nařízení
Čl. 3 – odst. 1 – bod 34
(34)  „systémem rozpoznávání emocí“ systém UI pro účely zjišťování nebo odvozování emocí nebo záměrů fyzických osob na základě jejich biometrických údajů;
(34)  „systémem rozpoznávání emocí“ systém UI za účelem identifikace nebo vyvozování emocí, myšlenek nebo záměrů jednotlivců nebo skupin na základě jejich biometrických údajů a údajů vycházejících z biometrických údajů;
Pozměňovací návrh 192
Návrh nařízení
Čl. 3 – odst. 1 – bod 35
(35)  „systémem biometrické kategorizace“ systém UI pro účely zařazení fyzických osob do určitých kategorií podle pohlaví, věku, barvy vlasů, barvy očí, tetování, etnického původu nebo sexuální či politické orientace, na základě jejich biometrických údajů;
(35)  „biometrickou kategorizací“ zařazení fyzických osob do konkrétních kategorií nebo odvození jejich charakteristik a atributů na základě jejich biometrických nebo biometrických údajů, nebo které lze z těchto údajů odvodit;
Pozměňovací návrh 193
Návrh nařízení
Čl. 3 – odst. 1 – bod 36
(36)  „systémem biometrické identifikace na dálku“ systém UI pro účely identifikace fyzických osob na dálku na základě porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi, aniž by uživatel systému UI předem věděl, zda bude daná osoba přítomna a zda ji bude možné identifikovat;
(36)  „systémem biometrické identifikace na dálku“ systém UI pro účely identifikace fyzických osob na dálku na základě porovnání biometrických údajů dané osoby s biometrickými údaji obsaženými v referenční databázi, aniž by uživatel systému UI předem věděl, zda bude daná osoba přítomna a zda ji bude možné identifikovat;
Pozměňovací návrh 194
Návrh nařízení
Čl. 3 – odst. 1 – bod 37
(37)  „systémem biometrické identifikace na dálku‚ v reálném čase‘“ systém biometrické identifikace na dálku, kdy zachycení biometrických údajů, porovnání a identifikace probíhá bez významné prodlevy. To zahrnuje nejen okamžitou identifikaci, ale také omezená krátká zpoždění, jejichž cílem je zabránit obcházení systému;
(37)  „systémem biometrické identifikace na dálku‚ v reálném čase‘“ systém biometrické identifikace na dálku, kdy zachycení biometrických údajů, porovnání a identifikace probíhá bez významné prodlevy. To zahrnuje nejen okamžitou identifikaci, ale také omezená krátká zpoždění, jejichž cílem je zabránit obcházení systému;
Pozměňovací návrh 195
Návrh nařízení
Čl. 3 – odst. 1 – bod 39
(39)  „veřejně přístupným místem“ jakékoli fyzické místo přístupné veřejnosti bez ohledu na to, zda pro něj platí určité podmínky přístupu;
(39)  „veřejně přístupným prostorem“ jakékoli fyzické místo ve veřejném nebo soukromém vlastnictví přístupné veřejnosti bez ohledu na to, zda mohou platit určité podmínky přístupu, a bez ohledu na potenciální omezení kapacity;
Pozměňovací návrh 196
Návrh nařízení
Čl. 3 – odst. 1 – bod 41
(41)  „prosazováním práva“ činnosti prováděné donucovacími orgány za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, včetně ochrany před hrozbami pro veřejnou bezpečnost a jejich předcházení;
(41)  „prosazováním práva“ činnosti prováděné donucovacími orgány nebo jejich jménem za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, včetně ochrany před hrozbami pro veřejnou bezpečnost a jejich předcházení;
Pozměňovací návrh 197
Návrh nařízení
Čl. 3 – odst. 1 – bod 42
(42)  „vnitrostátním dozorovým orgánem“ orgán, kterému členský stát svěřuje odpovědnost za provádění a uplatňování tohoto nařízení, za koordinaci činností svěřených danému členskému státu, za to, že funguje jako jednotné kontaktní místo pro Komisi a za zastupování daného členského státu v Evropské radě pro umělou inteligenci;
(42)  „vnitrostátním dozorovým orgánem“ orgán, kterému členský stát svěřuje odpovědnost za provádění a uplatňování tohoto nařízení, za koordinaci činností svěřených danému členskému státu, za to, že funguje jako jednotné kontaktní místo pro Komisi a za zastupování daného členského státu ve správní radě Úřadu pro UI;
Pozměňovací návrh 198
Návrh nařízení
Čl. 3 – odst. 1 – bod 43
(43)  „příslušným vnitrostátním orgánem“ vnitrostátní dozorový orgán, oznamující orgán a orgán dozoru nad trhem;
(43)  „příslušným vnitrostátním orgánem“ kterýkoli z vnitrostátních orgánů, které jsou odpovědné za prosazování tohoto nařízení;
Pozměňovací návrh 199
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 – návětí
(44)  „závažným incidentem“ incident, který přímo nebo nepřímo vede, mohl vést nebo může vést k některému z těchto následků:
(44)  „závažným incidentem“ incident nebo chybné fungování systému UI, které přímo nebo nepřímo vedou, mohly vést nebo mohou vést k některému z těchto následků:
a)  smrt určité osoby nebo závažné poškození zdraví určité osoby, majetku nebo životního prostředí;
a)  smrt určité osoby nebo závažné poškození zdraví určité osoby;
b)  závažné a nevratné narušení správy a provozu kritické infrastruktury.
b)   závažné narušení správy a provozu kritické infrastruktury;
ba)  porušení základních práv chráněných právem Unie;
bb)  závažná škoda na majetku nebo životním prostředí;
Pozměňovací návrh 200
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 a (nový)
(44a)  „osobními údaji“ osobní údaje definované v čl. 4 bodu 1 nařízení (EU) 2016/679;
Pozměňovací návrh 201
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 b (nový)
(44b)  „neosobními daty“ data jiná než osobní údaje;
Pozměňovací návrh 202
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 c (nový)
(44c)  „profilováním“ jakákoli forma automatizovaného zpracování osobních údajů ve smyslu čl. 4 bodu 4 nařízení (EU) 2016/679; nebo v případě donucovacích orgánů – podle čl. 3 bodu 4 směrnice (EU) 2016/680 nebo v případě orgánů, institucí a jiných subjektů Unie podle čl. 3 bodu 5 nařízení (EU) 2018/1725;
Pozměňovací návrh 203
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 d (nový)
(44d)  termínem „deep fake“ zmanipulovaný nebo syntetický zvukový, obrazový nebo video obsah, který se neprávem jeví jako autentický nebo pravdivý a který obsahuje vyobrazení osob, u kterých se zdá, že říkají nebo dělají věci, které neříkají ani dělají, bez jejich souhlasu, vyrobený za použití technik umělé inteligence, včetně strojového učení a hlubokého učení;
Pozměňovací návrh 204
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 e (nový)
(44e)  „rozsáhlým porušením právních předpisů“ se rozumí jakékoli jednání nebo opomenutí, které je v rozporu s právem Unie a které chrání zájmy jednotlivců:
a)  které poškodilo nebo by mohlo poškodit společné zájmy jednotlivců s bydlištěm v nejméně dvou jiných členských státech, než je členský stát, v nichž:
i)  má předmětné jednání nebo opomenutí původ nebo v němž k němu došlo;
ii)  je usazen dotčený poskytovatel nebo případně jeho zplnomocněný zástupce; nebo
iii)  je usazen uživatel, pokud se protiprávního jednání dopustil uživatel;
b)  které chrání zájmy jednotlivců, které způsobily, způsobily nebo mohou poškodit společné zájmy jednotlivců a které mají společné rysy, včetně stejných protiprávních praktik, porušení téhož zájmu a souběžného výskytu téhož hospodářského subjektu nejméně ve třech členských státech;
Pozměňovací návrh 205
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 f (nový)
(44f)  „rozsáhlým protiprávním jednáním v unijním rozsahu“ rozsáhlé protiprávní jednání, které poškodilo nebo může poškodit společné zájmy jednotlivců alespoň ve dvou třetinách členských států, které společně představují alespoň dvě třetiny celkového počtu obyvatel Unie.
Pozměňovací návrh 206
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 g (nový)
(44g)  „regulačním pískovištěm“ kontrolované prostředí zřízené orgánem veřejné moci, které usnadňuje bezpečný vývoj, testování a validaci inovativních systémů UI po omezenou dobu před jejich uvedením na trh nebo do provozu podle zvláštního plánu pod regulačním dohledem;
Pozměňovací návrh 207
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 h (nový)
(44 h)  „kritickou infrastrukturou“ aktivum, zařízení, vybavení, síť nebo systém nebo část aktiva, zařízení, vybavení, sítě nebo systému, které jsou nezbytné pro poskytování základní služby ve smyslu čl. 2 odst. 4 směrnice (EU) 2022/2557;
Pozměňovací návrh 208
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 k (nový)
(44k)  „hodnocením sociálního kreditu“ hodnocení nebo klasifikace fyzických osob na základě jejich sociálního chování, socioekonomického postavení nebo známých či předvídaných osobních či osobnostních charakteristik;
Pozměňovací návrh 209
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 l (nový)
(44l)  „sociálním chováním“ způsob, jakým fyzická osoba komunikuje s jinými fyzickými osobami nebo společností a ovlivňuje je;
Pozměňovací návrh 210
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 m (nový)
(44m)  „současným stavem techniky“ se rozumí rozvinutá fáze technické způsobilosti v daném okamžiku, pokud jde o výrobky, procesy a služby, na základě příslušných konsolidovaných výsledků vědy, techniky a zkušeností;
Pozměňovací návrh 211
Návrh nařízení
Čl. 3 – odst. 1 – bod 44 n (nový)
(44n)  „testováním v reálných podmínkách“ dočasné testování systému UI pro jeho určený účel v reálných podmínkách mimo laboratoř nebo jinak simulované prostředí;
Pozměňovací návrh 212
Návrh nařízení
Článek 4
Článek 4
vypouští se
Změny přílohy I
Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem změny seznamu technik a přístupů uvedených v příloze I s cílem tento seznam aktualizovat podle tržního a technologického vývoje na základě vlastností, které jsou podobné technikám a přístupům, jež jsou v něm uvedeny.
Pozměňovací návrh 213
Návrh nařízení
Článek 4 a (nový)
Článek 4a
Obecné zásady týkající se všech systémů UI
1.  Všichni provozovatelé, na něž se vztahuje toto nařízení, vynaloží veškeré úsilí na vývoj a používání systémů UI nebo základních modelů v souladu s těmito obecnými zásadami, které stanoví rámec na vysoké úrovni, který podporuje soudržný evropský přístup k etické a důvěryhodné umělé inteligenci zaměřený na člověka, který je plně v souladu s Listinou i s hodnotami, na nichž je Unie založena:
a)  „lidským působením a dohledem“ se rozumí, že systémy umělé inteligence musejí být vyvíjeny a používány jako nástroj, který slouží lidem, respektuje lidskou důstojnost a osobní autonomii a který funguje způsobem, jenž může být ovládán člověkem a kontrolován člověkem,
b)  „technickou robustností a bezpečností“ se rozumí, že systémy umělé inteligence musejí být vyvíjeny a používány takovým způsobem, který minimalizuje nezamýšlenou a neočekávanou újmu, musejí být v případě problémů robustní a odolné vůči pokusům o změnu používání nebo výkonnosti daného systému ze strany nepřátelských třetích stran,
c)  „správou soukromí a dat“ se rozumí, že systémy umělé inteligence musejí být vyvíjeny a používány v souladu se stávajícími pravidly pro ochranu soukromí a osobních údajů a zároveň zpracovávat údaje, které splňují vysoké standardy kvality a integrity,
d)  „transparentností“ se rozumí, že systémy umělé inteligence musejí být vyvíjeny a používány takovým způsobem, který umožňuje jejich příslušné dohledání a vysvětlení, s tím, že si lidé musejí být vědomi toho, že komunikují nebo interagují se systémem umělé inteligence, a musejí být řádně informováni o schopnostech a omezeních daného systému umělé inteligence a dotyčné osoby o svých právech,
e)  „diverzitou, zákazem diskriminace a spravedlností“ se rozumí to, že systémy umělé inteligence musejí být vyvíjeny a používány takovým způsobem, který zahrnuje nejrůznější aktéry a podporuje rovná přístup, rovnost mezi muži a ženami a kulturní rozmanitost a zároveň brání diskriminačnímu působení a nespravedlivé zaujatosti, které jsou podle právních předpisů Unie a členských států zakázány,
f)  „dobrými sociálními a environmentálními podmínkami“ se rozumí to, že systémy umělé inteligence musejí být vyvíjeny a používány udržitelným způsobem šetrným k životnímu prostředí, ve prospěch všech lidí, přičemž je třeba sledovat a posuzovat dlouhodobý dopad na jednotlivce, společnost a demokracii.
2.  Prvním odstavcem nejsou dotčeny povinnosti stanovené v právních předpisech Unie a členských států. U vysoce rizikových systémů UI jsou obecné zásady převedeny do poskytovatelů nebo provozovatelů a jsou jimi dodržovány prostřednictvím požadavků stanovených v článcích 8 až 15 a příslušných povinností stanovených v hlavě III kapitole 3 tohoto nařízení. U základových modelů jsou obecné zásady převedeny do poskytovatelů a jsou jimi dodržovány prostřednictvím požadavků stanovených v článcích 28 až 28b. U všech systémů UI lze zásad uvedených v odstavci 1 případně dosáhnout prostřednictvím ustanovení článků 28 a 52 nebo uplatněním harmonizovaných norem, technických specifikací a kodexů chování podle článku 69, aniž by se vytvářely nové povinnosti podle tohoto nařízení.
3.  Komise a Úřad pro umělou inteligenci začlení tyto hlavní zásady do žádostí o normalizaci, jakož i doporučení sestávající z technických pokynů, které poskytovatelům a provozovatelům pomohou při vývoji a používání systémů UI. Evropské normalizační organizace přihlédnou při vývoji příslušných jednotných norem pro rizikové systémy umělé inteligence, jak je uvedeno v čl. 40 odst. 2b, k obecným zásadám uvedeným v prvním odstavci jako k cílům založeným na výsledcích.
Pozměňovací návrh 214
Návrh nařízení
Článek 4 b (nový)
Článek 4b
Gramotnost v oblasti umělé inteligence
1.  Při provádění tohoto nařízení Unie a členské státy podporují v zájmu demokratické kontroly systémů UI opatření a nástroje pro rozvoj dostatečné úrovně gramotnosti v oblasti umělé inteligence napříč odvětvími a přihlížejí přitom k odlišným potřebám skupin poskytovatelů, uživatelů a dotčených osob, mimo jiné prostřednictvím vzdělávání a odborné přípravy a kvalifikačních a rekvalifikačních programů, a současně zajišťují náležitou genderovou a věkovou vyváženost.
2.  Poskytovatelé a uživatelé systémů UI podporují nástroje a přijímají opatření k zajištění dostatečné úrovně gramotnosti v oblasti umělé inteligence svých zaměstnanců a všech dalších osob, které se jejich jménem zabývají provozem a používáním systémů UI, přičemž zohledňují jejich technické znalosti, zkušenosti, vzdělání a odbornou přípravu a prostředí, v němž mají být systémy UI používány, a přihlížejí k osobám nebo skupinám osob, na něž mají být systémy UI používány.
3.  Tato opatření v oblasti gramotnosti spočívají zejména ve výuce základních pojmů a dovedností týkajících se systémů UI a jejich fungování, včetně různých druhů produktů a použití, jejich rizik a přínosů.
4.  Úroveň gramotnosti v oblasti umělé inteligence je dostatečná, pokud nezbytně přispívá ke schopnosti poskytovatelů a uživatelů zajistit dodržování a prosazování tohoto nařízení.
Pozměňovací návrh 215
Návrh nařízení
Čl. 5 – odst. 1 – písm. a
a)  uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají podprahových technik mimo vědomí osob s cílem podstatně ovlivnit chování těchto osob tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;
a)  uvádění na trh, uvádění do provozu nebo používání systému UI, který používá podprahové techniky mimo vědomí dané osoby nebo záměrně manipulativní či klamavé techniky, s cílem nebo důsledkem podstatného narušení chování osoby nebo skupiny osob tím, že znatelně zhoršuje schopnost dané osoby činit informované rozhodnutí, což vede k tomu, že daná osoba přijme rozhodnutí, které by jinak neučinila způsobem, který této osobě, jiné osobě nebo skupině osob způsobuje nebo pravděpodobně způsobí významnou újmu;
Zákaz systému UI, který zavádí podprahové techniky, uvedený v prvním pododstavci se nevztahuje na systémy UI určené k použití pro schválené léčebné účely na základě konkrétního informovaného souhlasu jednotlivců, kteří jsou jim vystaveni, nebo případně jejich zákonného opatrovníka;
Pozměňovací návrh 216
Návrh nařízení
Čl. 5 – odst. 1 – písm. b
b)  uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají zranitelnosti určité skupiny osob v důsledku jejich věku nebo tělesného nebo mentálního postižení, s cílem podstatně ovlivnit chování osoby náležející k této skupině tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;
b)  uvádění na trh, uvádění do provozu nebo používání systému UI, který využívá kterékoli ze zranitelných míst určité osoby nebo konkrétní skupiny osob, včetně vlastností známých nebo předpokládaných osobnostních znaků této osoby nebo této skupiny nebo věku sociální či ekonomické situace, fyzické nebo duševní způsobilosti s cílem nebo v důsledku podstatného narušení chování této osoby nebo osoby náležející k této skupině způsobem, který této osobě nebo jiné osobě způsobuje nebo může způsobit významnou újmu;
Pozměňovací návrh 217
Návrh nařízení
Čl. 5 – odst. 1 – písm. b a (nové)
ba)  uvádění na trh, uvádění do provozu nebo používání biometrických kategorizačních systémů, které kategorizují fyzické osoby podle citlivých nebo chráněných vlastností nebo charakteristik nebo na základě dovození těchto vlastností nebo charakteristik. Tento zákaz se nevztahuje na systémy UI určené k použití pro schválené léčebné účely na základě konkrétního informovaného souhlasu jednotlivců, na které mají být použity, nebo případně jejich zákonného opatrovníka.
Pozměňovací návrh 218
Návrh nařízení
Čl. 5 – odst. 1 – písm. c – návětí
c)  uvádění na trh, uvádění do provozu nebo používání systémů UI orgány veřejné moci nebo jejich jménem pro účely hodnocení nebo klasifikace důvěryhodnosti fyzických osob v určitém časovém úseku na základě jejich sociálního chování nebo známých nebo předvídaných osobních či osobnostních vlastností, přičemž výsledný sociální kredit vede k jednomu nebo oběma následujícím důsledkům:
c)  uvádění na trh, uvádění do provozu nebo používání systémů UI pro účely bodování občanů nebo klasifikace fyzických osob či jejich skupin v určitém časovém úseku na základě jejich sociálního chování nebo známých, dovozovaných nebo předvídaných osobních či osobnostních vlastností, přičemž výsledný sociální kredit vede k jednomu nebo oběma následujícím důsledkům:
Pozměňovací návrh 219
Návrh nařízení
Čl. 5 – odst. 1 – písm. c – bod i
i)  ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo celými skupinami těchto osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny;
(Netýká se českého znění.)
Pozměňovací návrh 220
Návrh nařízení
Čl. 5 – odst. 1 – písm. d – návětí
d)  používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva, pokud to není nezbytně nutné pro jeden z následujících cílů a jen do té míry, do níž je to nezbytně nutné:
d)  používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech;
Pozměňovací návrh 221
Návrh nařízení
Čl. 5 – odst. 1 – písm. d – bod i
i)  cílené vyhledávání určitých potenciálních obětí trestných činů, včetně pohřešovaných dětí;
vypouští se
Pozměňovací návrh 222
Návrh nařízení
Čl. 5 – odst. 1 – písm. d – bod ii
ii)  prevenci konkrétního, závažného a bezprostředního ohrožení života nebo fyzické bezpečnosti fyzických osob nebo teroristického útoku;
vypouští se
Pozměňovací návrh 223
Návrh nařízení
Čl. 5 – odst. 1 – písm. d – bod iii
iii)  odhalování, lokalizaci, identifikaci nebo stíhání pachatelů nebo osob podezřelých z trestného činu uvedeného v čl. 2 odst. 2 rámcového rozhodnutí Rady 2002/584/SVV62, pokud lze tento trestný čin v dotčeném členském státě potrestat trestem odnětí svobody nebo ochranným opatřením spojeným s odnětím osobní svobody s horní hranicí sazby v délce nejméně tři roky, jak je stanoveno v právních předpisech tohoto členského státu.
vypouští se
__________________
62 Rámcové rozhodnutí Rady 2002/584/SVV ze dne 13. června 2002 o evropském zatýkacím rozkazu a postupech předávání mezi členskými státy (Úř. věst. L 190, 18.7.2002, s. 1).
Pozměňovací návrh 224
Návrh nařízení
Čl. 5 – odst. 1 – písm. d a (nové)
da)  uvádění na trh, uvádění do provozu nebo používání systému UI k posuzování fyzických osob nebo skupin fyzických osob za účelem posouzení rizika, že fyzická osoba spáchá trestný čin nebo opětovně spáchá trestný čin, nebo k předvídání výskytu nebo opakování skutečného nebo potenciálního trestného činu nebo správního deliktu na základě profilování fyzické osoby nebo na základě posouzení osobnostních rysů a charakteristik, včetně určení lokace osoby, nebo minulého trestného chování fyzických osob nebo skupin fyzických osob;
Pozměňovací návrh 225
Návrh nařízení
Čl. 5 – odst. 1 – písm. d b (nové)
db)  uvádění na trh, uvádění do provozu nebo používání systémů UI, které vytvářejí nebo rozšiřují databáze rozpoznávání obličeje prostřednictvím vymazávání zobrazení obličeje z internetu nebo kamerových záznamů;
Pozměňovací návrh 226
Návrh nařízení
Čl. 5 – odst. 1 – písm. d c (nové)
dc)  uvádění na trh, uvádění do provozu nebo používání systémů UI k odvození emocí fyzické osoby v oblasti prosazování práva, správy hranic, na pracovišti a vzdělávacích institucích.
Pozměňovací návrh 227
Návrh nařízení
Čl. 5 – odst. 1 – písm. d d (nové)
dd)  uvedení do provozu nebo používání systémů UI pro analýzu záznamů z veřejně přístupných prostorů prostřednictvím systémů „zpětné“ biometrické identifikace na dálku, pokud nepodléhají předsoudnímu povolení v souladu s právem Unie a nejsou nezbytně nutné pro cílené vyhledávání spojené s konkrétním závažným trestným činem ve smyslu čl. 83 odst. 1 Smlouvy o fungování EU, které se již začalo provádět pro účely vymáhání práva.
Pozměňovací návrh 228
Návrh nařízení
Čl. 5 – odst. 1 a (nový)
1a.  Tímto článkem nejsou dotčeny zákazy, které se použijí, pokud praxe umělé inteligence porušuje jiné právo Unie, včetně práva Unie v oblasti ochrany údajů, nediskriminace, ochrany spotřebitele nebo hospodářské soutěže;
Pozměňovací návrh 229
Návrh nařízení
Čl. 5 – odst. 2
2.  Při používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva pro dosažení kteréhokoli z cílů uvedených v odst. 1 písm. d) je nutno zohlednit následující prvky:
vypouští se
a)  povahu situace, která vede k jejich potenciálnímu použití, zejména závažnost, pravděpodobnost a rozsah újmy způsobené v případě, že by systém použit nebyl;
b)  důsledky používání systému pro práva a svobody všech dotčených osob, zejména závažnost, pravděpodobnost a rozsah těchto důsledků.
Použití systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva pro dosažení kteréhokoli z cílů uvedených v odst. 1 písm. d) musí být navíc v souladu s nezbytnými a přiměřenými zárukami a podmínkami ve vztahu k tomuto použití, zejména pokud jde o časová, zeměpisná a osobní omezení.
Pozměňovací návrh 230
Návrh nařízení
Čl. 5 – odst. 3
3.  Pokud jde o odst. 1 písm. d) a odstavec 2, každé jednotlivé použití systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva podléhá předchozímu povolení ze strany justičního orgánu nebo nezávislého správního orgánu členského státu, ve kterém má k tomuto použití dojít, vydanému na základě odůvodněné žádosti a v souladu s podrobnými pravidly vnitrostátního práva uvedenými v odstavci 4. V řádně odůvodněné naléhavé situaci však může být používání systému zahájeno bez povolení a o povolení lze požádat až v průběhu používání nebo po něm.
vypouští se
Příslušný justiční nebo správní orgán udělí povolení pouze v případě, že je na základě objektivních důkazů nebo jednoznačných údajů, které mu byly předloženy, přesvědčen, že použití dotčeného systému biometrické identifikace na dálku „v reálném čase“ je nezbytné a přiměřené k dosažení jednoho z cílů specifikovaných v odst. 1 písm. d), který je uveden v žádosti. Při rozhodování o žádosti zohlední příslušný justiční nebo správní orgán skutečnosti uvedené v odstavci 2.
Pozměňovací návrh 231
Návrh nařízení
Čl. 5 – odst. 4
4.  Členský stát se může rozhodnout, že umožní plně nebo částečně povolit používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva v mezích a za podmínek uvedených v odst. 1 písm. d) a v odstavcích 2 a 3. Daný členský stát stanoví ve svých vnitrostátních právních předpisech nezbytná podrobná pravidla upravující žádosti o povolení uvedená v odstavci 3, vydávání a výkon těchto povolení a dohled nad nimi. Tato pravidla rovněž stanoví, ve vztahu ke kterému cíli uvedenému v odst. 1 písm. d) a ke kterému trestnému činu uvedenému v písmenu iii) tohoto odstavce lze příslušným orgánům povolit používání těchto systémů pro účely prosazování práva.
vypouští se
Pozměňovací návrh 232
Návrh nařízení
Čl. 6 – odst. 1 – písm. a
a)  systém UI je určen k použití jako bezpečnostní součást výrobku nebo je sám výrobkem, na který se vztahují harmonizační právní předpisy Unie uvedené v příloze II;
a)  systém UI je určen k použití jako bezpečnostní součást výrobku nebo samotný systém UI je produktem, na který se vztahuje harmonizační právo Unie uvedené v příloze II;
Pozměňovací návrh 233
Návrh nařízení
Čl. 6 – odst. 1 – písm. b
b)  na produkt, jehož je daný systém UI bezpečnostní součástí, případně na samotný tento systém UI jako produkt se vztahuje povinnost posouzení shody třetí stranou za účelem uvedení tohoto produktu na trh nebo do provozu podle harmonizačních právních předpisů Unie uvedených v příloze II.
b)  na produkt, jehož je daný systém UI bezpečnostní součástí ve smyslu písm. a), případně na samotný tento systém UI jako produkt se vztahuje povinnost posouzení shody třetí stranou v souvislosti s riziky pro zdraví a bezpečnost za účelem uvedení tohoto produktu na trh nebo do provozu podle harmonizačního práva Unie uvedeného v příloze II;
Pozměňovací návrh 234
Návrh nařízení
Čl. 6 – odst. 2
2.  Kromě vysoce rizikových systémů UI uvedených v odstavci 1 jsou za vysoce rizikové považovány také systémy UI uvedené v příloze III.
2.  Kromě vysoce rizikových systémů UI uvedených v odstavci 1 jsou za vysoce rizikové považovány systémy UI, které spadají do jedné nebo více kritických oblastí a případů použití a jsou uvedeny v příloze III, pokud představují významné riziko poškození zdraví, bezpečnosti nebo základních práv fyzických osob. Pokud systém UI spadá do přílohy III bodu 2, považuje se za vysoce rizikový, pokud představuje významné riziko poškození životního prostředí.
Šest měsíců před vstupem tohoto nařízení v platnost poskytne Komise po konzultaci s Úřadem pro UI a příslušnými zúčastněnými stranami pokyny, v nichž jasně upřesní okolnosti, za nichž by výstup systémů UI uvedených v příloze III představoval významné riziko poškození zdraví, bezpečnosti nebo základních práv fyzických osob, nebo případy, kdy by tomu tak nebylo.
Pozměňovací návrh 235
Návrh nařízení
Čl. 6 – odst. 2 a (nový)
2a.  Pokud se poskytovatelé spadající do jedné nebo více kritických oblastí a případů použití uvedených v příloze III domnívají, že jejich systém UI nepředstavuje významné riziko, jak je popsáno v odstavci 2, předloží vnitrostátnímu dozorovému úřadu odůvodněné oznámení, že se na ně nevztahují požadavky hlavy III kapitoly 2 tohoto nařízení. Má-li být systém UI používán ve dvou nebo více členských státech, je toto oznámení zasláno Úřadu pro UI. Aniž je dotčen článek 65, vnitrostátní dozorový orgán oznámení přezkoumá a odpoví na ně, a to přímo nebo prostřednictvím Úřadu pro UI, do tří měsíců, pokud se domnívají, že systém UI byl nesprávně klasifikován.
Pozměňovací návrh 236
Návrh nařízení
Čl. 6 – odst. 2 a (nový)
2b.  Poskytovatelé, kteří nesprávně klasifikují svůj systém UI jako systém, na který se nevztahují požadavky hlavy III kapitoly 2 tohoto nařízení, a uvádějí jej na trh před uplynutím lhůty pro podání námitek vnitrostátními dozorovými orgány, podléhají pokutám podle článku 71.
Pozměňovací návrh 237
Návrh nařízení
Čl. 6 – odst. 2 b (nový)
2c.  Vnitrostátní dozorové orgány předkládají Úřadu pro UI výroční zprávu, v níž uvedou počet obdržených oznámení, související vysoce rizikové oblasti a rozhodnutí přijatá v souvislosti s obdrženými oznámeními.
Pozměňovací návrh 238
Návrh nařízení
Čl. 7 – odst. 1 – návětí
1.  Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace seznamu v příloze III přidáním vysoce rizikových systémů UI, pokud jsou splněny obě tyto podmínky:
1.  Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem změny přílohy III doplněním nebo změnou oblastí nebo případů použití vysoce rizikových systémů UI, pokud tyto systémy představují významné riziko poškození zdraví a bezpečnosti nebo nepříznivého dopadu na základní práva, životní prostředí nebo demokracii a právní stát, a pokud jde o závažnost a pravděpodobnost výskytu, je toto riziko rovnocenné riziku újmy nebo nepříznivého dopadu, které představují vysoce rizikové systémy UI již uvedené v příloze III, nebo vyšší než riziko újmy nebo nepříznivého dopadu, které představují vysoce rizikové systémy UI již uvedené v příloze III.
Pozměňovací návrh 239
Návrh nařízení
Čl. 7 – odst. 1 – písm. a
a)  systémy UI jsou určeny pro použití v kterékoli z oblastí uvedených v bodech 1 až 8 přílohy III;
vypouští se
Pozměňovací návrh 240
Návrh nařízení
Čl. 7 – odst. 1 – písm. b
b)  systémy UI představují riziko újmy na zdraví a bezpečnosti nebo riziko nepříznivého dopadu na základní práva, které je z hlediska závažnosti a pravděpodobnosti výskytu stejné nebo větší než riziko újmy nebo nepříznivého dopadu, které představují vysoce rizikové systémy UI, jež jsou již uvedeny v příloze III.
vypouští se
Pozměňovací návrh 241
Návrh nařízení
Čl. 7 – odst. 1 a (nový)
1a.  Komisi je rovněž svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem odstranění případů použití vysoce rizikových systémů UI ze seznamu v příloze III, pokud již neplatí podmínky uvedené v odstavci 1;
Pozměňovací návrh 242
Návrh nařízení
Čl. 7 – odst. 2 – návětí
2.  Při posuzování toho, zda systém UI představuje riziko újmy na zdraví a bezpečnosti nebo riziko nepříznivého dopadu na základní práva stejné nebo větší než riziko újmy nebo nepříznivého dopadu, které představují vysoce rizikové systémy UI, jež jsou již uvedeny v příloze III, pro účely odstavce 1, zohlední Komise tato kritéria:
2.  Při posuzování systému UI pro účely odstavců 1 a 1a zohlední Komise tato kritéria:
Pozměňovací návrh 243
Návrh nařízení
Čl. 7 – odst. 2 – písm. a a (nové)
aa)  obecné schopnosti a funkce systému umělé inteligence bez závislosti na jeho určeném účelu;
Pozměňovací návrh 244
Návrh nařízení
Čl. 7 – odst. 2 – písm. b a (nové)
ba)  druh a množství údajů zpracovávaných a používaných systémem UI;
Pozměňovací návrh 245
Návrh nařízení
Čl. 7 – odst. 2 – písm. b b (nové)
bb)  to, do jaké míry systém umělé inteligence jedná autonomně;
Pozměňovací návrh 246
Návrh nařízení
Čl. 7 – odst. 2 – písm. c
c)  do jaké míry již používání systému UI způsobilo újmu na zdraví a bezpečnosti nebo nepříznivý dopad na základní práva nebo vzbudilo významné obavy ohledně toho, že by k této újmě nebo nepříznivému dopadu mohlo dojít, jak vyplývá ze zpráv nebo zdokumentovaných obvinění předložených příslušným vnitrostátním orgánům;
c)  do jaké míry již používání systému UI způsobilo újmu na zdraví a bezpečnosti, mělo nepříznivý dopad na základní práva, životní prostředí, demokracii a právní stát nebo vzbudilo významné obavy ohledně pravděpodobnosti takové újmy nebo nepříznivého dopadu, jak vyplývá například ze zpráv nebo zdokumentovaných obvinění předložených vnitrostátním dozorovým orgánům, Komisi, Úřadu pro UI, evropskému inspektorovi ochrany údajů nebo Agentuře Evropské unie pro základní práva;
Pozměňovací návrh 247
Návrh nařízení
Čl. 7 – odst. 2 – písm. d
d)  potenciální rozsah této újmy nebo nepříznivého dopadu, zejména pokud jde o jejich intenzitu a schopnost ovlivnit více osob;
d)  potenciální rozsah této újmy nebo nepříznivého dopadu, zejména pokud jde o jejich intenzitu a schopnost ovlivnit více osob nebo nepřiměřeně ovlivnit určitou skupinu osob;
Pozměňovací návrh 248
Návrh nařízení
Čl. 7 – odst. 2 – písm. e
e)  do jaké míry jsou osoby, které potenciálně utrpěly újmu nebo nepříznivý dopad, závislé na výsledku vytvořeném pomocí systému UI zejména proto, že z praktických nebo právních důvodů není přiměřeně možné odmítnout účast na tomto výsledku;
e)  do jaké míry jsou osoby, které potenciálně utrpěly újmu nebo nepříznivý dopad, závislé na výsledku vytvořeném se zapojením systému UI, kdy tento výsledek je čistě doplňkový, pokud jde o příslušné opatření nebo rozhodnutí, které má být přijato, zejména proto, že z praktických nebo právních důvodů není přiměřeně možné odmítnout účast na tomto výsledku;
Pozměňovací návrh 249
Návrh nařízení
Čl. 7 – odst. 2 – písm. e a (nové)
ea)  možné zneužití a využívání systému UI a technologie, na níž je založen, k nekalým účelům;
Pozměňovací návrh 250
Návrh nařízení
Čl. 7 – odst. 2 – písm. f
f)  do jaké míry se osoby, které potenciálně utrpěly újmu nebo nepříznivý dopad, nacházejí ve zranitelném postavení ve vztahu k danému uživateli systému UI, zejména v důsledku nerovnováhy sil, znalostí, ekonomických nebo sociálních podmínek nebo věku;
f)  do jaké míry existuje nerovnováha moci, do jaké míry se osoby, které potenciálně utrpěly újmu nebo nepříznivý dopad, nacházejí ve zranitelném postavení ve vztahu k danému uživateli systému UI, zejména v důsledku postavení, autority, znalostí, ekonomických nebo sociálních podmínek nebo věku;
Pozměňovací návrh 251
Návrh nařízení
Čl. 7 – odst. 2 – písm. g
g)  do jaké míry je výsledek vytvořený systémem UI snadno zvrátitelný, přičemž výsledky, které mají dopad na zdraví nebo bezpečnost osob, se za snadno zvrátitelné nepovažují;
g)  do jaké míry je výsledek vytvořený se zapojením systému UI snadno zvrátitelný nebo napravitelný, přičemž výsledky, které mají nepříznivý dopad na zdraví, bezpečnost a základní práva osob, životní prostředí nebo na demokracii a právní stát, se za snadno zvrátitelné nepovažují;
Pozměňovací návrh 252
Návrh nařízení
Čl. 7 – odst. 2 – písm. g a (nové)
ga)  rozsah dostupnosti a využití účinných technických řešení a mechanismů pro kontrolu, spolehlivost a napravitelnost systému UI;
Pozměňovací návrh 253
Návrh nařízení
Čl. 7 – odst. 2 – písm. g b (nové)
gb)  rozsah a pravděpodobnost přínosu zavedení systému UI pro jednotlivce, skupiny nebo společnost obecně, včetně možného zlepšení bezpečnosti výrobků;
Pozměňovací návrh 254
Návrh nařízení
Čl. 7 – odst. 2 – písm. g c (nové)
gc)  rozsah lidského dohledu a možnost, aby člověk zasáhl a zvrátil rozhodnutí nebo doporučení, která mohou vést k potenciální újmě;
Pozměňovací návrh 255
Návrh nařízení
Čl. 7 – odst. 2 – písm. h
i)  účinná nápravná opatření ve vztahu k rizikům, která daný systém UI představuje, s výjimkou nároků na náhradu škody;
h)  do jaké míry stávající právní předpisy Unie stanoví:
i)  účinná nápravná opatření ve vztahu ke škodám způsobeným systémem UI, s výjimkou nároků na náhradu přímé nebo nepřímé škody;
ii)  účinná opatření vedoucí k prevenci nebo podstatné minimalizaci těchto rizik.
Pozměňovací návrh 256
Návrh nařízení
Čl. 7 – odst. 2 a (nový)
2a.  Při posuzování systému UI pro účely odstavců 1 nebo 1a Komise konzultuje Úřad pro UI a případně zástupce skupin, na něž má systém UI dopad, průmysl, nezávislé odborníky, sociální partnery a organizace občanské společnosti. Komise v tomto ohledu rovněž organizuje veřejné konzultace a výsledky těchto konzultací a závěrečného posouzení zveřejní;
Pozměňovací návrh 257
Návrh nařízení
Čl. 7 – odst. 2 b (nový)
2b.  Úřad pro UI, vnitrostátní dozorové orgány nebo Evropský parlament mohou požádat Komisi, aby přehodnotila a překvalifikovala kategorizaci rizik systému UI v souladu s odstavci 1 a 1a. Komise své rozhodnutí odůvodní a zveřejní.
Pozměňovací návrh 258
Návrh nařízení
Čl. 8 – odst. 1 a (nový)
1a.  Při plnění požadavku stanoveného v této kapitole se náležitě zohlední pokyny vypracované podle článku 82b, obecně uznávaný nejnovější vývoj, včetně toho, co je uvedeno v příslušných harmonizovaných normách a společných specifikacích uvedených v článcích 40 a 41 nebo již stanoveno v harmonizačních právních předpisech Unie;
Pozměňovací návrh 259
Návrh nařízení
Čl. 8 – odst. 2
2.  Při zajišťování souladu s těmito požadavky se zohlední určený účel daného vysoce rizikového systému UI a systém řízení rizik uvedený v článku 9.
2.  Při zajišťování souladu s těmito požadavky se zohlední určený účel daného vysoce rizikového systému UI, rozumně předvídatelná zneužití a systém řízení rizik uvedený v článku 9.
Pozměňovací návrh 260
Návrh nařízení
Čl. 8 – odst. 2 a (nový)
2a.  Pokud jsou požadavky hlavy III kapitol 2 a 3 nebo hlavy VIII kapitol 1, 2 a 3 na vysoce rizikové systémy UI upraveny v harmonizačních právních předpisech Unie uvedených v příloze II oddíle A, považují se požadavky nebo povinnosti uvedené v těchto kapitolách tohoto nařízení za splněné, pokud zahrnují složku UI. Požadavky hlavy III kapitol 2 a 3 nebo hlavy VIII kapitol 1, 2 a 3 na vysoce rizikové systémy UI, které nejsou upraveny harmonizačními právními předpisy Unie uvedenými v příloze II oddíle A, se případně začlení do tohoto harmonizačního práva Unie. Příslušné posouzení shody se provádí v rámci postupů stanovených harmonizačními právními předpisy Unie uvedenými v příloze II oddíle A.
Pozměňovací návrh 261
Návrh nařízení
Čl. 9 – odst. 1
1.  Ve vztahu k vysoce rizikovým systémům UI bude zaveden, uplatňován, zdokumentován a udržován systém řízení rizik.
1.  Ve vztahu k vysoce rizikovým systémům UI bude zaveden, uplatňován, zdokumentován a udržován systém řízení rizik, a to po celou dobu jeho životního cyklu. Systém řízení rizik může být začleněn do již existujících postupů řízení rizik týkajících se příslušných odvětvových právních předpisů Unie nebo jejich části, pokud splňuje požadavky tohoto článku.
Pozměňovací návrh 262
Návrh nařízení
Čl. 9 – odst. 2 – návětí
2.  Systém řízení rizik spočívá v nepřetržitém opakujícím se procesu prováděném v rámci celého životního cyklu vysoce rizikového systému UI, který vyžaduje pravidelnou systematickou aktualizaci. Zahrnuje následující kroky:
2.  Systém řízení rizik spočívá v nepřetržitém opakujícím se procesu prováděném v rámci celého životního cyklu vysoce rizikového systému UI, který vyžaduje pravidelný přezkum a pravidelnou aktualizaci procesu řízení rizik s cílem zajistit jeho trvalou účinnost a dokumentaci všech významných rozhodnutí a opatření přijatých podle tohoto článku. Zahrnuje následující kroky:
Pozměňovací návrh 263
Návrh nařízení
Čl. 9 – odst. 2 – písm. a
a)  identifikaci a analýzu známých a předvídatelných rizik souvisejících s jednotlivými vysoce rizikovými systémy UI;
a)  identifikaci, odhad a hodnocení známých a rozumně předvídatelných rizik, která může vysoce rizikový systém UI představovat pro zdraví nebo bezpečnost fyzických osob, jejich základní práva, včetně rovného přístupu a příležitostí, demokracie a právního státu nebo prostředí, pokud je vysoce rizikový systém UI používán v souladu se svým zamýšleným účelem a za podmínek důvodně předvídatelného zneužití;
Pozměňovací návrh 264
Návrh nařízení
Čl. 9 – odst. 2 – písm. b
b)  odhad a vyhodnocení rizik, která mohou vzniknout, když je vysoce rizikový systém UI používán v souladu s určeným účelem a za podmínek důvodně předvídatelného nesprávného použití;
vypouští se
Pozměňovací návrh 265
Návrh nařízení
Čl. 9 – odst. 2 – písm. c
c)  hodnocení dalších rizik, která mohou potenciálně vzniknout, na základě analýzy shromážděných údajů ze systému monitorování po uvedení na trh uvedeného v článku 61;
c)  hodnocení nově vznikajících významných rizik popsaných v písmenu a) a zjištěných na základě analýzy shromážděných údajů ze systému monitorování po uvedení na trh uvedeného v článku 61;
Pozměňovací návrh 266
Návrh nařízení
Čl. 9 – odst. 2 – písm. d
d)  přijetí vhodných opatření k řízení rizik v souladu s ustanoveními následujících odstavců.
d)  přijetí náležitých a cílených opatření k řízení rizik určených k řešení rizik zjištěných podle písmen a) a b) tohoto odstavce v souladu s ustanoveními následujících odstavců
Pozměňovací návrh 267
Návrh nařízení
Čl. 9 – odst. 3
3.  Opatření k řízení rizik uvedená v odst. 2 písm. d) věnují náležitou pozornost účinkům a možným interakcím vyplývajícím z kombinovaného uplatňování požadavků stanovených v této kapitole 2. Zohledňují obecně uznávaný nejnovější vývoj, včetně toho, jak se odráží v příslušných harmonizovaných normách nebo společných specifikacích.
3.  Opatření k řízení rizik uvedená v odst. 2 písm. d) věnují náležitou pozornost účinkům a možným interakcím vyplývajícím z kombinovaného uplatňování požadavků stanovených v této kapitole 2 s cílem účinně mírnit rizika a současně zajistit vhodné a přiměřené uplatňování požadavků.
Pozměňovací návrh 268
Návrh nařízení
Čl. 9 – odst. 4 – návětí
4.  Opatření k řízení rizik uvedená v odst. 2 písm. d) musí být taková, aby bylo jakékoli zbytkové riziko spojené s každým nebezpečím a rovněž celkové zbytkové riziko vysoce rizikových systémů UI považováno za přijatelné za předpokladu, že je daný vysoce rizikový systém UI používán v souladu s určeným zamýšleným účelem nebo za podmínek důvodně předvídatelného nesprávného použití. Uživatel je o těchto zbytkových rizicích informován.
4.  Opatření k řízení rizik uvedená v odst. 2 písm. d) musí být taková, aby bylo relevantní zbytkové riziko spojené s každým nebezpečím a rovněž celkové zbytkové riziko vysoce rizikových systémů UI důvodně považováno za přijatelné za předpokladu, že je daný vysoce rizikový systém UI používán v souladu s určeným zamýšleným účelem nebo za podmínek důvodně předvídatelného nesprávného použití. Provozovatel je o těchto zbytkových rizicích a o odůvodněných posouzeních informován. .
Při určování nejvhodnějších opatření k řízení rizik je třeba zajistit:
Pozměňovací návrh 269
Návrh nařízení
Čl. 9 – odst. 4 – pododstavec 1 – písm. a
a)  vyloučení rizik nebo jejich snížení na nejnižší možnou míru prostřednictvím bezpečného návrhu a vývoje;
a)  vyloučení zjištěných rizik nebo jejich snížení, pokud je to technicky proveditelné, prostřednictvím bezpečného návrhu a vývoje vysoce rizikového systému UI, případně se zapojením odborníků a externích zúčastněných stran;
Pozměňovací návrh 270
Návrh nařízení
Čl. 9 – odst. 4 – pododstavec 1 – písm. b
b)  ve vhodných případech zavedení odpovídajících zmírňujících a kontrolních opatření, pokud jde o rizika, která nelze vyloučit;
b)  ve vhodných případech zavedení odpovídajících zmírňujících a kontrolních opatření zaměřených na významná rizika, která nelze vyloučit;
Pozměňovací návrh 271
Návrh nařízení
Čl. 9 – odst. 4 – pododstavec 1 – písm. c
c)  poskytování odpovídajících informací podle článku 13, zejména pokud jde o rizika uvedená v odst. 2 písm. b) tohoto článku, a v případě potřeby zajistit pro uživatele školení.
c)  poskytování požadovaných informací podle článku 13 a v případě potřeby zajistit pro provozovatele školení.
Pozměňovací návrh 272
Návrh nařízení
Čl. 9 – odst. 4 – pododstavec 2
Při vylučování nebo snižování rizik souvisejících s používáním daného vysoce rizikového systému UI by měly být náležitě zváženy technické znalosti, zkušenosti, vzdělání, školení, které může uživatel očekávat, a případně prostředí, ve kterém má být systém používán.
Při vylučování nebo snižování rizik souvisejících s používáním daného vysoce rizikového systému UI poskytovatelé náležitě zohlední technické znalosti, zkušenosti, vzdělání a školení, které může provozovatel potřebovat, a to i v souvislosti s předpokládaným kontextem použití.
Pozměňovací návrh 273
Návrh nařízení
Čl. 9 – odst. 5
5.  Vysoce rizikové systémy UI jsou testovány za účelem identifikace nejvhodnějších opatření k řízení rizik. Testování zajistí, aby vysoce rizikové systémy UI podávaly výkony konzistentní s jejich určeným účelem a aby byly v souladu s požadavky stanovenými v této kapitole.
5.  Vysoce rizikové systémy UI jsou testovány za účelem identifikace nejvhodnějších a nejlépe cílených opatření k řízení rizik a zvážení veškerých takových opatření z hlediska potenciálních přínosů a zamýšlených cílů systému. Testování zajistí, aby vysoce rizikové systémy UI podávaly výkony konzistentní s jejich určeným účelem a aby byly v souladu s požadavky stanovenými v této kapitole.
Pozměňovací návrh 274
Návrh nařízení
Čl. 9 – odst. 6
6.  Zkušební postupy musí být vhodné k dosažení určeného účelu systému UI a nemusí překračovat rámec toho, co je pro dosažení tohoto účelu nezbytné.
6.  Zkušební postupy musí být vhodné k dosažení určeného účelu systému UI.
Pozměňovací návrh 275
Návrh nařízení
Čl. 9 – odst. 7
7.  Testování vysoce rizikových systémů UI se provádí podle potřeby kdykoli v průběhu celého procesu vývoje a v každém případě před uvedením na trh nebo do provozu. Testování musí být provedeno na základě předem definovaných měřítekpravděpodobnostních prahových hodnot, které jsou vhodné pro určený účel vysoce rizikového systému UI.
7.  Testování vysoce rizikových systémů UI se provádí před uvedením na trh nebo do provozu. Testování musí být provedeno na základě předem definovaných měřítek a pravděpodobnostních prahových hodnot, které jsou vhodné pro určený účel nebo důvodně předvídatelné zneužití vysoce rizikového systému UI.
Pozměňovací návrh 276
Návrh nařízení
Čl. 9 – odst. 8
8.  Při zavádění systému řízení rizik popsaného v odstavcích 1 až 7 je třeba věnovat zvláštní pozornost tomu, zda je pravděpodobné, že k danému vysoce rizikovému systému UI budou mít přístup děti nebo zda bude mít na ně dopad.
8.  Při zavádění systému řízení rizik popsaného v odstavcích 1 až 7 poskytovatelé zvláště zváží, zda je pravděpodobné, že vysoce rizikový systém UI bude mít nepříznivý dopad na zranitelné skupiny osob nebo dětí.
Pozměňovací návrh 277
Návrh nařízení
Čl. 9 – odst. 9
9.  U úvěrových institucí podléhajících směrnici 2013/36/EU jsou aspekty popsané v odstavcích 1 až 8 součástí postupů pro řízení rizik stanovených těmito institucemi podle článku 74 uvedené směrnice.
9.  U poskytovatelů a systémů UI, na které se již vztahuje právo Unie, jež od nich vyžaduje, aby zavedli zvláštní řízení rizik, včetně úvěrových institucí podléhajících směrnici 2013/36/EU, jsou aspekty popsané v odstavcích 1 až 8 součástí postupů pro řízení rizik stanovených tímto právem Unie nebo jsou s těmito postupy kombinovány.
Pozměňovací návrh 278
Návrh nařízení
Čl. 10 – odst. 1
1.  Vysoce rizikové systémy UI, které využívají techniky zahrnující trénování modelů obsahujících data, jsou vyvíjeny na základě souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat, které splňují kritéria kvality uvedená v odstavcích 2 až 5.
1.  Vysoce rizikové systémy UI, které využívají techniky zahrnující trénování modelů obsahujících data, jsou vyvíjeny na základě souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat, které splňují kritéria kvality uvedená v odstavcích 2 až 5, pokud je to technicky proveditelné podle konkrétního segmentu trhu nebo oblasti působnosti.
Techniky, které nevyžadují značené vstupní údaje, jako je učení bez učitele a posilované učení, se vyvinou na základě souborů údajů, jako jsou soubory pro testování a ověřování, které splňují kritéria kvality uvedená v odstavcích 2 až 5.
Pozměňovací návrh 279
Návrh nařízení
Čl. 10 – odst. 2 – návětí
2.  Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat podléhají příslušným postupům v oblasti správy a řízení dat. Tyto postupy se týkají zejména:
2.  Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat podléhají správě dat odpovídající kontextu použití, jakož i zamýšlenému účelu systému UI. Tato opatření se týkají zejména:
Pozměňovací návrh 280
Návrh nařízení
Čl. 10 – odst. 2 – písm. a a (nové)
aa)  transparentnosti, pokud jde o původní účel sběru dat;
Pozměňovací návrh 281
Návrh nařízení
Čl. 10 – odst. 2 – písm. b
b)  sběru dat;
b)  postupů při sběru dat;
Pozměňovací návrh 282
Návrh nařízení
Čl. 10 – odst. 2 – písm. c
c)  příslušných operací zpracování přípravy dat, jako jsou anotace, označování, čištění, obohacování a agregace;
c)  operací zpracování přípravy dat, jako jsou anotace, označování, čištění, aktualizace obohacování a agregace;
Pozměňovací návrh 283
Návrh nařízení
Čl. 10 – odst. 2 – písm. d
d)  formulace příslušných předpokladů, zejména s ohledem na informace, které mají daná data měřit a představovat;
d)  formulace předpokladů, zejména s ohledem na informace, které mají daná data měřit a představovat;
Pozměňovací návrh 284
Návrh nařízení
Čl. 10 – odst. 2 – písm. e
e)  předchozího posouzení dostupnosti, množství a vhodnosti potřebných souborů dat;
e)  posouzení dostupnosti, množství a vhodnosti potřebných souborů dat;
Pozměňovací návrh 285
Návrh nařízení
Čl. 10 – odst. 2 – písm. f
f)  zkoumání s ohledem na potenciální zkreslení;
f)  zkoumání s ohledem na potenciální zkreslení, která by mohla ovlivnit zdraví a bezpečnost osob, negativně ovlivnit základní práva nebo vést k diskriminaci, která je zakázána podle práva Unie, zejména pokud výstupy dat ovlivňují vstupy pro budoucí operace („smyčky zpětné vazby“), a vhodná opatření k odhalování, prevenci a zmírňování potenciálních zkreslení;
Pozměňovací návrh 286
Návrh nařízení
Čl. 10 – odst. 2 – písm. f a (nové)
fa)  vhodných opatření k odhalení a zmírnění potenciálních zkreslení a k předcházení takovým zkreslením;
Pozměňovací návrh 287
Návrh nařízení
Čl. 10 – odst. 2 – písm. g
g)  identifikace případných nedostatků nebo chyb v datech a způsob, jak tyto nedostatky a chyby vyřešit.
g)  identifikace příslušných nedostatků nebo chyb v datech, které brání dodržování tohoto nařízení, a způsob, jak tyto nedostatky a chyby vyřešit;
Pozměňovací návrh 288
Návrh nařízení
Čl. 10 – odst. 3
3.  Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat musí být relevantní, reprezentativní, bez chyb a úplné. Musí mít příslušné statistické vlastnosti a tam, kde je to relevantní, rovněž s ohledem na osoby nebo skupiny osob, pro které má být daný vysoce rizikový systém UI používán. Tyto vlastnosti souborů dat lze splnit na úrovni jednotlivých souborů dat nebo jejich kombinací.
3.  Soubory tréninkových dat a v případech, kdy se používají, pak i soubory dat pro ověřování platnosti a testovacích dat, včetně označování, musí být relevantní, dostatečné reprezentativní, náležitě prověřené z hlediska chyb a musí být co nejúplnější s ohledem na určený účel. Musí mít příslušné statistické vlastnosti a tam, kde je to relevantní, rovněž s ohledem na osoby nebo skupiny osob, v souvislosti s nimiž má být daný vysoce rizikový systém UI používán. Tyto vlastnosti souborů dat musí být splněny na úrovni jednotlivých souborů dat nebo jejich kombinací.
Pozměňovací návrh 289
Návrh nařízení
Čl. 10 – odst. 4
4.  Soubory tréninkových dat, dat pro ověřování platnosti a testovacích dat zohledňují v rozsahu nezbytném pro jejich určený účel vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, behaviorální nebo funkční prostředí ve kterém má být daný vysoce rizikový systém UI používán.
4.  Soubory dat zohledňují v rozsahu nezbytném pro jejich určený účel nebo rozumně předvídatelné zneužití systému UI vlastnosti nebo prvky, které jsou specifické pro konkrétní zeměpisné, kontextové, behaviorální nebo funkční prostředí, ve kterém má být daný vysoce rizikový systém UI používán.
Pozměňovací návrh 290
Návrh nařízení
Čl. 10 – odst. 5
5.  Pokud je to nezbytně nutné pro zajištění monitorování, detekce a oprav zkreslení ve vztahu k vysoce rizikovým systémům UI, mohou poskytovatelé těchto systémů zpracovávat zvláštní kategorie osobních údajů uvedené v čl. 9 odst. 1 nařízení (EU) 2016/679, článku 10 směrnice (EU) 2016/680 a v čl. 10 odst. 1 nařízení (EU) 2018/1725 s výhradou vhodných záruk týkajících se základních práv a svobod fyzických osob, včetně technických omezení opakovaného používání a používání nejmodernějších opatření v oblasti bezpečnosti a ochrany soukromí, jako je pseudonymizace nebo šifrování v případech, kdy anonymizace může významně ovlivnit sledovaný účel.
5.  Pokud je to nezbytně nutné pro zajištění detekce a oprav negativního zkreslení ve vztahu k vysoce rizikovým systémům UI, mohou poskytovatelé těchto systémů výjimečně zpracovávat zvláštní kategorie osobních údajů uvedené v čl. 9 odst. 1 nařízení (EU) 2016/679, článku 10 směrnice (EU) 2016/680 a čl. 10 odst. 1 nařízení (EU) 2018/1725, s výhradou vhodných záruk týkajících se základních práv a svobod fyzických osob, včetně technických omezení opakovaného používání a používání nejmodernějších opatření v oblasti bezpečnosti a ochrany soukromí. K tomu, aby k tomuto zpracování došlo, musí platit zejména všechny tyto podmínky: a) detekce a opravy zkreslení nelze účinně provést zpracováním syntetických nebo anonymizovaných údajů;
b)  údaje jsou pseudonymizovány;
c)  poskytovatel přijme vhodná technická a organizační opatření k zajištění toho, aby údaje zpracovávané pro účely tohoto odstavce byly zabezpečeny a chráněny, a to s výhradou vhodných záruk, a aby pouze oprávněné osoby měly přístup k těmto údajům s odpovídajícími povinnostmi zachovávat důvěrnost;
d)  údaje zpracovávané pro účely tohoto odstavce nesmějí být přenášeny, převáděny nebo jinak zpřístupněny jiným stranám;
e)  údaje zpracovávané pro účely tohoto odstavce jsou chráněny vhodnými technickými a organizačními opatřeními a vymazány, jakmile bylo zkreslení opraveno nebo po uplynutí doby uchovávání osobních údajů;
f)  jsou zavedena účinná a vhodná opatření k zajištění dostupnosti, bezpečnosti a odolnosti systémů a služeb zpracování proti technickým nebo fyzickým incidentům;
g)  jsou zavedena účinná a vhodná opatření k fyzickému zabezpečení míst, kde jsou údaje uchovávány a zpracovávány, a k zajištění vnitřního řízení IT systémů a jejich bezpečnosti a certifikace procesů a produktů.
Poskytovatelé využívající tohoto ustanovení vypracují dokumentaci vysvětlující, proč bylo zpracování zvláštních kategorií osobních údajů nezbytné k detekci a opravě zkreslení.
Pozměňovací návrh 291
Návrh nařízení
Čl. 10 – odst. 6 a (nový)
6a.  Pokud poskytovatel nemůže splnit povinnosti stanovené v tomto článku, protože tento poskytovatel nemá přístup k datům a data má výhradně provozovatel, může být provozovatel na základě smlouvy odpovědný za jakékoli porušení tohoto článku.
Pozměňovací návrh 292
Návrh nařízení
Čl. 11 – odst. 1 – pododstavec 1
Technická dokumentace musí být vypracována tak, aby prokazovala, že daný vysoce rizikový systém UI splňuje požadavky stanovené v této kapitole, a aby poskytovala příslušným vnitrostátním orgánům a oznámeným subjektům veškeré informace nezbytné k posouzení souladu systému UI s těmito požadavky. Obsahuje přinejmenším prvky uvedené v příloze IV.
Technická dokumentace musí být vypracována tak, aby prokazovala, že daný vysoce rizikový systém UI splňuje požadavky stanovené v této kapitole, a aby poskytovala dozorovým vnitrostátním orgánům a oznámeným subjektům informace nezbytné k posouzení souladu systému UI s těmito požadavky. Obsahuje přinejmenším prvky uvedené v příloze IV nebo v případě malých a středních podniků a začínajících podniků (startupů) jakoukoli rovnocennou dokumentaci, která splňuje stejné cíle a kterou schválil příslušný vnitrostátní orgán.
Pozměňovací návrh 293
Návrh nařízení
Čl. 11 – odst. 2
2.  Pokud je uváděn na trh nebo do provozu vysoce rizikový systém UI související s produktem, na který se vztahují právní akty uvedené v příloze II oddíle A, musí být vypracována jediná technická dokumentace obsahující všechny informace uvedené v příloze IV, jakož i informace požadované podle těchto právních aktů.
2.  Pokud je uváděn na trh nebo do provozu vysoce rizikový systém UI související s produktem, na který se vztahují právní akty uvedené v příloze II oddíle A, musí být vypracována jediná technická dokumentace obsahující všechny informace uvedené v odstavci 1, jakož i informace požadované podle těchto právních aktů.
Pozměňovací návrh 294
Návrh nařízení
Čl. 11 – odst. 3 a (nový)
3a.  Poskytovatelé, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, vedou technickou dokumentaci jako součást dokumentace týkající se vnitřní správy, systémů, postupů a mechanismů podle článku 74 uvedené směrnice.
Pozměňovací návrh 295
Návrh nařízení
Čl. 12 – odst. 1
1.  Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby v průběhu své činnosti umožňovaly automatické zaznamenávání událostí („protokoly“). Tyto možnosti vedení protokolů musí být v souladu s uznávanými normami nebo společnými specifikacemi.
1.  Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby v průběhu své činnosti umožňovaly automatické zaznamenávání událostí („protokoly“). Tyto možnosti vedení protokolů musí být v souladu s nejnovějším vývojem a s uznávanými normami nebo společnými specifikacemi.
Pozměňovací návrh 296
Návrh nařízení
Čl. 12 – odst. 2
2.  Schopnosti vedení protokolů zajistí úroveň sledovatelnosti fungování systému UI v průběhu jeho životního cyklu, která odpovídá určenému účelu tohoto systému.
2.  Aby byla zajištěna úroveň sledovatelnosti fungování systému UI v průběhu celé doby jeho životnosti, která odpovídá určenému účelu tohoto systému, usnadní možnosti vedení protokolů monitorování operací podle čl. 29 odst. 4, jakož i monitorování po uvedení na trh uvedené v článku 61. Zejména umožní zaznamenávání událostí významných pro zjištění situací, které mohou:
a)  vést k tomu, že systém UI představuje riziko ve smyslu čl. 65 odst. 1; nebo
b)  vést k podstatné změně systému UI.
Pozměňovací návrh 297
Návrh nařízení
Čl. 12 – odst. 2 a (nový)
2a.  Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby možnosti vedení protokolů umožňovaly zaznamenávání spotřeby energie, měření nebo výpočet využívání zdrojů a dopadu vysoce rizikového systému UI na životní prostředí ve všech fázích životního cyklu systému.
Pozměňovací návrh 298
Návrh nařízení
Čl. 12 – odst. 3
3.  Schopnosti vedení protokolů umožňují zejména monitorování činnosti vysoce rizikového systému UI ve vztahu k výskytu situací, které mohou vést k tomu, že daný systém UI bude představovat riziko ve smyslu čl. 65 odst. 1, nebo které mohou vést k podstatné změně, a usnadňují monitorování po uvedení na trh uvedené v článku 61.
vypouští se
Pozměňovací návrh 299
Návrh nařízení
Čl. 13 – název
Transparentnost a poskytování informací uživatelům
Transparentnost a poskytování informací
Pozměňovací návrh 300
Návrh nařízení
Čl. 13 – odst. 1
1.  Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby bylo jejich fungování dostatečně transparentní a uživatelům umožňovalo interpretovat výstup systému a vhodně jej používat. Je zajištěn vhodný typ a stupeň transparentnosti s cílem dosáhnout souladu s příslušnými povinnostmi uživatele a poskytovatele stanovenými v kapitole 3 této hlavy.
1.  Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby bylo jejich fungování dostatečně transparentní a poskytovatelům i uživatelům umožňovalo přiměřeně porozumět fungování systému. V souladu s určeným účelem systému UI je zajištěna odpovídající transparentnost s cílem dosáhnout souladu s příslušnými povinnostmi poskytovatele a uživatele stanovenými v kapitole 3 této hlavy.
Transparentnost znamená, že v okamžiku, kdy je vysoce rizikový systém UI uveden na trh, se používají všechny dostupné technické prostředky odpovídající obecně uznávanému nejnovějšímu vývoji s cílem zajistit, aby byly výstupy systému UI poskytovatelem i uživatelem interpretovatelné. Uživateli musí být umožněno systém UI náležitě chápat a používat, a to na základě obecných vědomostí o tom, jak systém UI funguje a jaká data zpracovává, aby mohl vysvětlit rozhodnutí přijatá systémem UI dotčené osobě podle čl. 68 písm. c).
Pozměňovací návrh 301
Návrh nařízení
Čl. 13 – odst. 2
2.  Vysoce rizikové systémy UI musí být opatřeny návodem k použití ve vhodném digitálním nebo jiném formátu, který obsahuje stručné, úplné, správné a jasné informace, které jsou pro uživatele relevantní, přístupné a srozumitelné.
2.  Vysoce rizikové systémy UI musí být opatřeny srozumitelným návodem k použití ve vhodném digitálním formátu nebo ve formátu, jenž jej jiným způsobem zpřístupní na trvalém nosiči, který obsahuje stručné, správné, jasné a pokud možno úplné informace, jež pomáhají provozovat a udržovat systém UI, podporují informované rozhodování uživatelů a jsou pro uživatele přiměřeně relevantní, přístupné a srozumitelné.
Pozměňovací návrh 302
Návrh nařízení
Čl. 13 – odst. 3 – návětí
3.  Informace podle odstavce 2 uvádějí:
3.  Za účelem dosažení výsledků uvedených v odstavci 1 informace podle odstavce 2 uvádějí:
Pozměňovací návrh 303
Návrh nařízení
Čl. 13 – odst. 3 – písm. a
a)  totožnost a kontaktní údaje poskytovatele a tam, kde je to relevantní, jeho zplnomocněného zástupce;
a)  totožnost a kontaktní údaje poskytovatele a tam, kde je to relevantní, jeho zplnomocněných zástupců;
Pozměňovací návrh 304
Návrh nařízení
Čl. 13 – odst. 3 – písm. a a (nové)
aa)  není-li totožný s poskytovatelem, totožnost a kontaktní údaje subjektu, který provedl posouzení shody, a tam, kde je to relevantní, jeho zplnomocněného zástupce;
Pozměňovací návrh 305
Návrh nařízení
Čl. 13 – odst. 3 – písm. b – návětí
b)  vlastnosti, schopnosti a omezení výkonnosti vysoce rizikového systému UI, včetně:
b)  vlastnosti, schopnosti a omezení výkonnosti vysoce rizikového systému UI, případně včetně:
Pozměňovací návrh 306
Návrh nařízení
Čl. 13 – odst. 3 – písm. b – bod ii
ii)  úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti uvedené v článku 15, ve vztahu k níž byl daný vysoce rizikový systém UI testován a ověřen a kterou lze očekávat, a jakékoli známé a předvídatelné okolnosti, které mohou mít na tuto očekávanou úroveň přesnosti, spolehlivost a kybernetické bezpečnosti dopad;
ii)  úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti uvedené v článku 15, ve vztahu k níž byl daný vysoce rizikový systém UI testován a ověřen a kterou lze očekávat, a jakékoli jednoznačně známé a předvídatelné okolnosti, které mohou mít na tuto očekávanou úroveň přesnosti, spolehlivost a kybernetické bezpečnosti dopad;
Pozměňovací návrh 307
Návrh nařízení
Čl. 13 – odst. 3 – písm. b – bod iii
iii)  jakýchkoli známých nebo předvídatelných okolností souvisejících s používáním daného vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, které mohou vést k rizikům pro zdraví a bezpečnost nebo pro základní práva;
iii)  jakýchkoli jednoznačně známých nebo předvídatelných okolností souvisejících s používáním daného vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, které mohou vést k rizikům pro zdraví a bezpečnost, pro základní práva nebo pro životní prostředí, případně včetně ilustrativních příkladů takových omezení a scénářů, pro něž by systém neměl být používán;
Pozměňovací návrh 308
Návrh nařízení
Čl. 13 – odst. 3 – písm. b – bod iii a (nový)
iiia)  míry, do jaké může systém UI poskytovat vysvětlení rozhodnutí, která přijímá;
Pozměňovací návrh 309
Návrh nařízení
Čl. 13 – odst. 3 – písm. b – bod v
v)  případně specifikací vstupních údajů nebo jakýchkoli dalších informací příslušných z hlediska použitých souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat při zohlednění určeného účelu systému UI;
v)  relevantních informací o činnostech uživatelů, které mohou ovlivnit výkonnost systému, včetně druhu či kvality vstupních údajů nebo jakýchkoli dalších informací příslušných z hlediska použitých souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat při zohlednění určeného účelu systému UI;
Pozměňovací návrh 310
Návrh nařízení
Čl. 13 – odst. 3 – písm. e
e)  očekávanou životnost vysoce rizikového systému UI a veškerá nezbytná opatření v oblasti údržby a péče umožňující zajistit řádné fungování tohoto systému UI, včetně aktualizací softwaru.
e)  veškerá nezbytná opatření v oblasti údržby a péče umožňující zajistit řádné fungování tohoto systému UI, včetně aktualizací softwaru, po celou dobu jeho očekávané životnosti.
Pozměňovací návrh 311
Návrh nařízení
Čl. 13 – odst. 3 – písm. e a (nové)
ea)  popis mechanismů zahrnutých do systému UI, které uživatelům umožňují řádně shromažďovat, uchovávat a interpretovat protokoly v souladu s čl. 12 odst. 1.
Pozměňovací návrh 312
Návrh nařízení
Čl. 13 – odst. 3 – písm. e b (nové)
eb)  Tyto informace se poskytují alespoň v jazyce země, v níž se systém UI používá.
Pozměňovací návrh 313
Návrh nařízení
Čl. 13 – odst. 3 a (nový)
3a.  Za účelem splnění povinností stanovených v tomto článku musí poskytovatelé a uživatelé zajistit dostatečnou úroveň gramotnosti v oblasti umělé inteligence v souladu s článkem 4b.
Pozměňovací návrh 314
Návrh nařízení
Čl. 14 – odst. 1
1.  Vysoce rizikové systémy UI musí být navrženy a vyvinuty takovým způsobem, a to i pomocí vhodných nástrojů rozhraní člověk-stroj, aby na ně mohly během období, kdy je daný systém UI používán, účinně dohlížet fyzické osoby.
1.  Vysoce rizikové systémy UI musí být navrženy a vyvinuty takovým způsobem, a to i pomocí vhodných nástrojů rozhraní člověk-stroj, aby na ně účinně dohlížely fyzické osoby tak, jak je to přiměřené rizikům spojeným s těmito systémy. Fyzické osoby pověřené zajišťováním lidského dohledu musí mít dostatečnou úroveň gramotnosti v oblasti UI v souladu s článkem 4b a dále nezbytnou podporu a pravomoc k výkonu této funkce během období, kdy je daný systém UI používán, a k důkladnému vyšetřování po případném incidentu.
Pozměňovací návrh 315
Návrh nařízení
Čl. 14 – odst. 2
2.  Lidský dohled je zaměřen na prevenci nebo minimalizaci rizik pro zdraví, bezpečnost nebo základní práva, která mohou vzniknout při používání vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, zejména pokud tato rizika přetrvávají bez ohledu na uplatňování dalších požadavků stanovených v této kapitole.
2.  Lidský dohled je zaměřen na prevenci nebo minimalizaci rizik pro zdraví, bezpečnost, základní práva nebo životní prostředí, která mohou vzniknout při používání vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, zejména pokud tato rizika přetrvávají bez ohledu na uplatňování dalších požadavků stanovených v této kapitole a pokud mají rozhodnutí založená výhradně na automatizovaném zpracování systémy UI právní nebo jinak významné dopady na osoby nebo skupiny osob, na něž se má systém používat.
Pozměňovací návrh 316
Návrh nařízení
Čl. 14 – odst. 3 – návětí
3.  Lidský dohled je zajištěn prostřednictvím jednoho nebo všech následujících opatření:
3.  Lidský dohled zohledňuje specifická rizika, úroveň automatizace a kontext systému UI a je zajištěn prostřednictvím jednoho nebo všech následujících druhů opatření:
Pozměňovací návrh 317
Návrh nařízení
Čl. 14 – odst. 4 – návětí
4.  Opatření uvedená v odstavci 3 umožňují jednotlivcům, kteří jsou pověřeni lidským dohledem, aby v závislosti na okolnostech:
4.  Pro účely provádění odstavců 1 až 3 je vysoce rizikový systém UI poskytován uživateli takovým způsobem, aby fyzickým osobám, které jsou pověřeny lidským dohledem, umožňoval, pokud je to vhodné a přiměřené okolnostem, aby:
Pozměňovací návrh 318
Návrh nařízení
Čl. 14 – odst. 4 – písm. a
a)  plně porozuměli kapacitámomezením daného vysoce rizikového systému UI a byli schopni náležitě monitorovat jeho fungování tak, aby bylo možné co nejdříve objevit a řešit příznaky anomálií, dysfunkcí a neočekávaného výkonu;
a)  si uvědomovaly a dostatečně chápaly příslušné kapacityomezení daného vysoce rizikového systému UI a byly schopny náležitě monitorovat jeho fungování tak, aby bylo možné co nejdříve objevit a řešit příznaky anomálií, dysfunkcí a neočekávaného výkonu;
Pozměňovací návrh 319
Návrh nařízení
Čl. 14 – odst. 4 – písm. e
e)  byli schopni zasáhnout do fungování vysoce rizikového systému UI nebo jej přerušit tlačítkem „stop“ nebo podobným postupem.
e)  byly schopny zasáhnout do fungování vysoce rizikového systému UI nebo jej přerušit tlačítkem „stop“ nebo podobným postupem, který umožňuje zastavení systému v bezpečném stavu, s výjimkou případů, kdy lidský zásah zvyšuje rizika nebo by měl negativní dopad na výkonnost s ohledem na obecně uznávaný aktuální stav technologického vývoje.
Pozměňovací návrh 320
Návrh nařízení
Čl. 14 – odst. 5
5.  U vysoce rizikových systémů UI uvedených v bodu 1 písm. a) přílohy III musí být opatření uvedená v odstavci 3 taková, aby navíc zajišťovala, že uživatel neprovede žádné kroky ani rozhodnutí na základě identifikace vyplývající z tohoto systému, pokud tato identifikace nebude ověřena a potvrzena alespoň dvěma fyzickými osobami.
5.  U vysoce rizikových systémů UI uvedených v bodu 1 písm. a) přílohy III musí být opatření uvedená v odstavci 3 taková, aby navíc zajišťovala, že uživatel neprovede žádné kroky ani rozhodnutí na základě identifikace vyplývající z tohoto systému, pokud tato identifikace nebude ověřena a potvrzena alespoň dvěma fyzickými osobami s dostatečnými kompetencemi, školeními a pravomocemi.
Pozměňovací návrh 321
Návrh nařízení
Čl. 15 – odst. 1
1.  Vysoce rizikové systémy UI jsou navrženy a vyvinuty tak, aby s ohledem na svůj určený účel dosahovaly odpovídající úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti a aby v tomto ohledu dosahovaly konzistentních výsledků v průběhu celého svého životního cyklu.
1.  Vysoce rizikové systémy UI jsou navrženy a vyvinuty v souladu se zásadou bezpečnosti již od návrhu a na základě výchozího nastavení. S ohledem na svůj určený účel by měly dosahovat odpovídající úrovně přesnosti, spolehlivosti, bezpečnosti a kybernetické bezpečnosti a v tomto ohledu dosahovat konzistentních výsledků v průběhu celého svého životního cyklu. Splnění těchto požadavků musí být spojeno s prováděním nejmodernějších opatření podle konkrétního segmentu trhu nebo oblasti použití.
Pozměňovací návrh 322
Návrh nařízení
Čl. 15 – odst. 1 a (nový)
1a.  S cílem řešit technické aspekty toho, jak měřit odpovídající úrovně přesnosti a robustnosti stanovené v odstavci 1 tohoto článku, sdružuje Úřad pro UI vnitrostátní a mezinárodní metrologické a referenční orgány a poskytne nezávazné pokyny k této záležitosti, jak je stanoveno v čl. 56 odst. 2 písm. a).
Pozměňovací návrh 323
Návrh nařízení
Čl. 15 – odst. 1 b (nový)
1b.  Do řešení nových problémů na vnitřním trhu týkajících se kybernetické bezpečnosti se zapojí Agentura Evropské unie pro kybernetickou bezpečnost (ENISA) spolu s Evropskou radou pro umělou inteligenci, jak je stanoveno v čl. 56 odst. 2 písm. b).
Pozměňovací návrh 324
Návrh nařízení
Čl. 15 – odst. 2
2.  Úrovně přesnosti a příslušná měřítka přesnosti vysoce rizikových systémů UI jsou oznámeny v přiloženém návodu k použití.
2.  Úrovně přesnosti a příslušná měřítka přesnosti vysoce rizikových systémů UI jsou oznámeny v přiloženém návodu k použití. Použité formulace musejí být jasné a nesmějí vést k nedorozumění nebo obsahovat zavádějící tvrzení.
Pozměňovací návrh 325
Návrh nařízení
Čl. 15 – odst. 3 – pododstavec 1
Vysoce rizikové systémy UI musí být odolné vůči chybám, poruchám nebo nesrovnalostem, které se mohou vyskytnout v daném systému nebo v prostředí, ve kterém tento systém funguje, zejména v důsledku jejich interakce s fyzickými osobami nebo jinými systémy.
Je třeba přijmout technická a organizační opatření, jež zajistí, aby vysoce rizikové systémy UI byly co nejodolnější vůči chybám, poruchám nebo nesrovnalostem, které se mohou vyskytnout v daném systému nebo v prostředí, ve kterém tento systém funguje, zejména v důsledku jejich interakce s fyzickými osobami nebo jinými systémy.
Pozměňovací návrh 326
Návrh nařízení
Čl. 15 – odst. 3 – pododstavec 2
Spolehlivosti vysoce rizikových systémů UI lze dosáhnout pomocí technicky redundantních řešení, která mohou zahrnovat plány zálohování nebo zajištění proti selhání.
Spolehlivosti vysoce rizikových systémů UI může příslušný poskytovatel, v případě nutnosti za přispění uživatele, dosáhnout pomocí technicky redundantních řešení, která mohou zahrnovat plány zálohování nebo zajištění proti selhání.
Pozměňovací návrh 327
Návrh nařízení
Čl. 15 – odst. 3 – pododstavec 3
Vysoce rizikové systémy UI, které se po uvedení na trh nebo do provozu dále učí, musí být vyvíjeny způsobem zajišťujícím, že výstupy, které budou případně zkresleny v důsledku výstupů použitých jako vstup pro budoucí operace („smyčky zpětné vazby“) budou řádně řešeny formou vhodných zmírňujících opatření.
Vysoce rizikové systémy UI, které se po uvedení na trh nebo do provozu dále učí, musí být vyvíjeny způsobem zajišťujícím, že výstupy, které budou případně zkresleny a které ovlivňují vstup pro budoucí operace („smyčky zpětné vazby“), a zlovolné manipulace se vstupy použitými při učení během operace budou řádně řešeny formou vhodných zmírňujících opatření.
Pozměňovací návrh 328
Návrh nařízení
Čl. 15 – odst. 4 – pododstavec 1
Vysoce rizikové systémy UI musí být odolné proti pokusům neoprávněných třetích stran změnit jejich použití nebo výkonnost zneužitím zranitelných míst těchto systémů.
Vysoce rizikové systémy UI musí být odolné proti pokusům neoprávněných třetích stran změnit jejich použití, chování, výstupy nebo výkonnost zneužitím zranitelných míst těchto systémů.
Pozměňovací návrh 329
Návrh nařízení
Čl. 15 – odst. 4 – pododstavec 3
Technická řešení umožňující řešení zranitelných míst specifických pro UI zahrnují tam, kde je to vhodné, opatření pro prevenci a kontrolu útoků, které se pokoušejí manipulovat soubory tréninkových dat (tzv. data poisoning), vstupů, jejichž cílem je přimět daný model k tomu, aby udělal chybu (tzv. matoucí vzory), nebo chyb v modelech.
Technická řešení umožňující řešení zranitelných míst specifických pro UI zahrnují tam, kde je to vhodné, opatření pro prevenci, detekci, řešení a kontrolu útoků, které se pokoušejí manipulovat soubory tréninkových dat (tzv. data poisoning) nebo předtrénovaných součástí používaných v tréninku (tzv. model poisoning), vstupů, jejichž cílem je přimět daný model k tomu, aby udělal chybu (tzv. matoucí vzory nebo vyhýbání se modelu), útoků na důvěrnost nebo chyb v modelech, které mohou vést k závadnému rozhodování, a také opatření týkající se reakcí na tyto útoky.
Pozměňovací návrh 330
Návrh nařízení
Hlava III – kapitola 3 – název
POVINNOSTI POSKYTOVATELŮ A UŽIVATELŮ VYSOCE RIZIKOVÝCH SYSTÉMŮ UI A DALŠÍCH STRAN
POVINNOSTI POSKYTOVATELŮ A PROVOZOVATELŮ VYSOCE RIZIKOVÝCH SYSTÉMŮ UI A DALŠÍCH STRAN
Pozměňovací návrh 331
Návrh nařízení
Čl. 16 – název
Povinnosti poskytovatelů vysoce rizikových systémů UI
Povinnosti poskytovatelů a provozovatelů vysoce rizikových systémů UI a dalších stran
Pozměňovací návrh 332
Návrh nařízení
Čl. 16 – odst. 1 – písm. a
a)  zajišťují, aby jejich vysoce rizikové systémy UI splňovaly požadavky stanovené v kapitole 2 této hlavy;
a)  zajišťují, aby jejich vysoce rizikové systémy UI před uvedením na trh nebo do provozu splňovaly požadavky stanovené v kapitole 2 této hlavy;
Pozměňovací návrh 333
Návrh nařízení
Čl. 16 – odst. 1 – písm. a a (nové)
aa)  uvádějí na vysoce rizikovém systému UI, případně není-li to možné, v doprovodné dokumentaci, své jméno, zapsaný obchodní název nebo zapsanou ochrannou známku, adresu a kontaktní údaje;
Pozměňovací návrh 334
Návrh nařízení
Čl. 16 – odst. 1 – písm. a b (nové)
ab)  zajišťují, aby fyzické osoby pověřené zajišťováním lidského dohledu nad vysoce rizikovými systémy UI byly konkrétně upozorněny na riziko automatizačního nebo konfirmačního zkreslení;
Pozměňovací návrh 335
Návrh nařízení
Čl. 16 – odst. 1 – písm. a c (nové)
ac)  stanovují specifikace vstupních údajů nebo jakýchkoli jiných relevantních informací z hlediska použitých souborů dat, včetně jejich omezení a předpokladů, s přihlédnutím k zamýšlenému účelu a předvídatelným a rozumně předvídatelným zneužitím systému UI;
Pozměňovací návrh 336
Návrh nařízení
Čl. 16 – odst. 1 – písm. c
c)  vypracovávají technickou dokumentaci daného vysoce rizikového systému UI;
c)  vypracovávají a vedou technickou dokumentaci daného vysoce rizikového systému UI uvedeného v článku 11;
Pozměňovací návrh 337
Návrh nařízení
Čl. 16 – odst. 1 – písm. d
d)  pokud jsou vysoce rizikové systémy UI pod jejich kontrolou, zajišťují automatické generování protokolů těmito systémy;
d)  pokud jsou vysoce rizikové systémy UI pod jejich kontrolou, zajišťují automatické generování protokolů těmito systémy, což je v souladu s článkem 20 nezbytné pro zajištění a prokázání souladu s tímto nařízením;
Pozměňovací návrh 338
Návrh nařízení
Čl. 16 – odst. 1 – písm. e
e)  zajišťují, aby byl u daného vysoce rizikového systému UI před jeho uvedením na trh nebo do provozu proveden příslušný postup posuzování shody;
e)  zajišťují, aby byl u daného vysoce rizikového systému UI před jeho uvedením na trh nebo do provozu proveden příslušný postup posuzování shody v souladu s článkem 43;
Pozměňovací návrh 339
Návrh nařízení
Čl. 16 – odst. 1 – písm. e a (nové)
ea)  vypracovávají EU prohlášení o shodě v souladu s článkem 48;
Pozměňovací návrh 340
Návrh nařízení
Čl. 16 – odst. 1 – písm. e b (nové)
eb)  umisťují na své vysoce rizikové systémy UI označení CE k označení souladu s tímto nařízením podle článku 49;
Pozměňovací návrh 341
Návrh nařízení
Čl. 16 – odst. 1 – písm. g
g)  přijímají nezbytná nápravná opatření v případě, že daný vysoce rizikový systém UI není v souladu s požadavky stanovenými v kapitole 2 této hlavy;
g)  přijímají nezbytná nápravná opatření uvedená v článku 21 a poskytují v tomto ohledu informace;
Pozměňovací návrh 342
Návrh nařízení
Čl. 16 – odst. 1 – písm. h
h)  informují příslušné vnitrostátní orgány členských států, do kterých daný systém UI dodali nebo jej uvedli do provozu, případně oznámený subjekt o nesouladu a o případných přijatých nápravných opatřeních;
vypouští se
Pozměňovací návrh 343
Návrh nařízení
Čl. 16 – odst. 1 – písm. i
i)  umisťují na své vysoce rizikové systémy UI označení CE, aby vyjádřili jejich soulad s tímto nařízením podle článku 49;
vypouští se
Pozměňovací návrh 344
Návrh nařízení
Čl. 16 – odst. 1 – písm. j
j)  na žádost příslušného vnitrostátního orgánu prokazují soulad daného vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy.
j)  na odůvodněnou žádost vnitrostátního dozorového orgánu prokazují soulad daného vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy.
Pozměňovací návrh 345
Návrh nařízení
Čl. 16 – odst. 1 – písm. j a (nové)
ja)  zajišťují, aby vysoce rizikový systém UI splňoval požadavky na přístupnost.
Pozměňovací návrh 346
Návrh nařízení
Čl. 17 – odst. 1 – návětí
1.  Poskytovatelé vysoce rizikových systémů UI zavádějí systém řízení kvality, který zajišťuje soulad s tímto nařízením. Tento systém je systematicky a řádně dokumentován formou písemných politik, postupů a pokynů a obsahuje alespoň tyto aspekty:
1.  Poskytovatelé vysoce rizikových systémů UI mají zaveden systém řízení kvality, který zajišťuje soulad s tímto nařízením. Je systematicky a řádně dokumentován formou písemných politik, postupů nebo pokynů a může být začleněn do stávajícího systému řízení kvality v rámci odvětvových legislativních aktů Unie. Obsahuje alespoň tyto aspekty:
Pozměňovací návrh 347
Návrh nařízení
Čl. 17 – odst. 1 – písm. a
a)  strategii pro zajištění souladu s právními předpisy, včetně souladu s postupy posuzování shody a postupy pro řízení úprav daného vysoce rizikového systému UI;
vypouští se
Pozměňovací návrh 348
Návrh nařízení
Čl. 17 – odst. 1 – písm. e
e)  technické specifikace, včetně norem, které mají být uplatňovány, a pokud nejsou příslušné harmonizované normy uplatňovány v plném rozsahu, prostředky, které mají být použity k zajištění toho, aby vysoce rizikový systém UI splňoval požadavky stanovené v kapitole 2 této hlavy;
e)  technické specifikace, včetně norem, které mají být uplatňovány, a pokud nejsou příslušné harmonizované normy uplatňovány v plném rozsahu nebo nepokrývají všechny příslušné požadavky, prostředky, které mají být použity k zajištění toho, aby vysoce rizikový systém UI splňoval požadavky stanovené v kapitole 2 této hlavy;
Pozměňovací návrh 349
Návrh nařízení
Čl. 17 – odst. 1 – písm. f
f)  systémy a postupy pro správu dat, včetně shromažďování, analýzy, označování, ukládání, filtrace, vytěžování, agregace a uchovávání dat a jakékoli další operace týkající se dat, které se provádějí před uvedením vysoce rizikových systémů UI na trh nebo do provozu a pro účely tohoto uvedení;
f)  systémy a postupy pro správu dat, včetně získávání, shromažďování, analýzy, označování, ukládání, filtrace, vytěžování, agregace a uchovávání dat a jakékoli další operace týkající se dat, které se provádějí před uvedením vysoce rizikových systémů UI na trh nebo do provozu a pro účely tohoto uvedení;
Pozměňovací návrh 350
Návrh nařízení
Čl. 17 – odst. 1 – písm. j
j)  řešení komunikace s příslušnými vnitrostátními orgány a příslušnými orgány, včetně odvětvových, a zajišťování nebo podpora přístupu k datům, k oznámeným subjektům, k jiným provozovatelům, zákazníkům nebo k jiným zúčastněným stranám;
j)  řešení komunikace s relevantními příslušnými orgány, včetně odvětvových;
Pozměňovací návrh 351
Návrh nařízení
Čl. 17 – odst. 2
2.  Provádění aspektů uvedených v odstavci 1 musí být přiměřené velikosti organizace poskytovatele.
2.  Provádění aspektů uvedených v odstavci 1 musí být přiměřené velikosti organizace poskytovatele. Poskytovatelé za všech okolností dodržují míru přísnosti a úroveň ochrany, jež jsou vyžadovány, aby byly jejich systémy UI v souladu s tímto nařízením.
Pozměňovací návrh 352
Návrh nařízení
Čl. 18 – název
Povinnost vypracovat technickou dokumentaci
vypouští se
Pozměňovací návrh 353
Návrh nařízení
Čl. 18 – odst. 1
1.  Poskytovatelé vysoce rizikových systémů UI vypracují technickou dokumentaci uvedenou v článku 11 v souladu s přílohou IV.
vypouští se
Pozměňovací návrh 354
Návrh nařízení
Čl. 18 – odst. 2
2.  Poskytovatelé, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, vedou technickou dokumentaci jako součást dokumentace týkající se vnitřní správy, systémů, postupů a mechanismů podle článku 74 uvedené směrnice.
vypouští se
Pozměňovací návrh 355
Návrh nařízení
Článek 19
Článek 19
vypouští se
Posuzování shody
1.  Poskytovatelé vysoce rizikových systémů UI zajišťují, že bude u jejich vysoce rizikových systémů UI před uvedením na trh nebo do provozu proveden příslušný postup posuzování shody v souladu s článkem 43. Pokud je po tomto posouzení shody prokázán soulad daných systémů UI s požadavky stanovenými v kapitole 2 této hlavy, vypracují poskytovatelé EU prohlášení o shodě v souladu s článkem 48 a umístí označení shody CE v souladu s článkem 49.
2.  U vysoce rizikových systémů UI uvedených v bodu 5 písm. b) přílohy III, uváděných na trh nebo do provozu poskytovateli, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, se posuzování shody provádí jako součást postupu uvedeného v článcích 97 až 101 uvedené směrnice.
Pozměňovací návrh 356
Návrh nařízení
Čl. 20 – odst. 1
1.  Poskytovatelé vysoce rizikových systémů UI uchovávají protokoly automaticky generované jejich vysoce rizikovými systémy UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou na základě smluvního ujednání s uživatelem nebo jinak na základě právních předpisů. Tyto protokoly jsou uchovávány po dobu, která je přiměřená z hlediska určeného účelu vysoce rizikového systému UI a příslušných právních povinností podle práva Unie nebo vnitrostátního práva.
1.  Poskytovatelé vysoce rizikových systémů UI uchovávají protokoly automaticky generované jejich vysoce rizikovými systémy UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou. Aniž jsou dotčeny platné právní předpisy Unie nebo vnitrostátní právní předpisy, jsou protokoly uchovávány nejméně šest měsíců. Doba uchovávání musí být v souladu s průmyslovými normami a přiměřená z hlediska určeného účelu vysoce rizikového systému UI.
Pozměňovací návrh 357
Návrh nařízení
Čl. 21 – odst. 1
Poskytovatelé vysoce rizikových systémů UI, kteří se domnívají nebo mají důvod se domnívat, že vysoce rizikový systém UI, který uvedli na trh nebo do provozu, není ve shodě s tímto nařízením, přijmou okamžitě nezbytná nápravná opatření k uvedení daného systému ve shodu nebo k jeho případnému stažení z trhu či z oběhu. Náležitě informují distributory dotčeného vysoce rizikového systému UI a tam, kde je to relevantní, zplnomocněného zástupce a dovozce.
Poskytovatelé vysoce rizikových systémů UI, kteří se domnívají nebo mají důvod se domnívat, že vysoce rizikový systém UI, který uvedli na trh nebo do provozu, není ve shodě s tímto nařízením, přijmou okamžitě nezbytná nápravná opatření k uvedení daného systému ve shodu, k jeho případnému stažení z trhu či z oběhu nebo k jeho vyřazení z provozu.
V případech uvedených v prvním pododstavci poskytovatelé neprodleně informují:
a.  distributory;
b.  dovozce;
c.  příslušné vnitrostátní orgány členských států, v nichž systém UI zpřístupnily nebo uvedly do provozu, a dále,
d.  je-li to možné, provozovatele.
Pozměňovací návrh 358
Návrh nařízení
Čl. 21 – odst. 1 a (nový)
Poskytovatelé rovněž informují zplnomocněného zástupce, pokud byl jmenován v souladu s článkem 25, a oznámený subjekt, pokud měl být vysoce rizikový systém UI podroben posouzení shody třetí stranou v souladu s článkem 43. Je-li to relevantní, ve spolupráci s provozovatelem rovněž prošetří příčiny.
Pozměňovací návrh 359
Návrh nařízení
Čl. 22 – odst. 1
Pokud vysoce rizikový systém UI představuje riziko ve smyslu čl. 65 odst. 1 a toto riziko je poskytovateli systému známo, informuje tento poskytovatel okamžitě příslušné vnitrostátní orgány členských států, do kterých tento systém dodal, a tam, kde je to relevantní, oznámený subjekt, který vydal pro daný vysoce rizikový systém UI certifikát, a uvede při tom zejména informace o nesouladu a o veškerých přijatých nápravných opatřeních.
Pokud vysoce rizikový systém UI představuje riziko ve smyslu čl. 65 odst. 1 a poskytovatel systému se o tomto riziku dozví, informuje tento poskytovatel okamžitě vnitrostátní dozorové orgány členských států, do kterých tento systém dodal, a tam, kde je to relevantní, oznámený subjekt, který vydal pro daný vysoce rizikový systém UI certifikát, a uvede při tom zejména informace o povaze nesouladu a o veškerých příslušných přijatých nápravných opatřeních.
Pozměňovací návrh 360
Návrh nařízení
Čl. 22 – odst. 1 a (nový)
V případech uvedených v prvním odstavci poskytovatelé vysoce rizikového systému UI neprodleně informují:
a)  distributory;
b)  dovozce;
c)  příslušné vnitrostátní orgány členských států, v nichž systém UI zpřístupnily nebo uvedly do provozu, a
d)  je-li to možné, provozovatele.
Pozměňovací návrh 361
Návrh nařízení
Čl. 22 – odst. 1 b (nový)
Poskytovatelé rovněž informují zplnomocněného zástupce, pokud byl jmenován v souladu s článkem 25.
Pozměňovací návrh 362
Návrh nařízení
Čl. 23 – název
Spolupráce s příslušnými orgány
Spolupráce s příslušnými orgány, Úřadem pro UI a Komisí
Pozměňovací návrh 363
Návrh nařízení
Čl. 23 – odst. 1
Poskytovatelé vysoce rizikových systémů UI předloží příslušnému vnitrostátnímu orgánu na požádání všechny informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy, a to v úředním jazyce Unie, který dotčený členský stát stanoví. Na základě odůvodněné žádosti příslušného vnitrostátního orgánu mu poskytovatelé poskytnou také přístup k protokolům automaticky generovaným jejich vysoce rizikovým systémem UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou na základě smluvního ujednání s uživatelem nebo jinak na základě právních předpisů.
Poskytovatelé, případně provozovatelé vysoce rizikových systémů UI předloží příslušnému vnitrostátnímu orgánu na základě odůvodněné žádosti, případně Úřadu pro UI nebo Komisi, všechny informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy, a to v úředním jazyce Unie, který dotčený členský stát stanoví.
Pozměňovací návrh 364
Návrh nařízení
Čl. 23 – odst. 1 a (nový)
Na základě odůvodněné žádosti příslušného vnitrostátního orgánu, případně Komise poskytnou poskytovatelé, případně provozovatelé žádajícímu příslušnému vnitrostátnímu orgánu nebo případně Komisi také přístup k protokolům automaticky generovaným jejich vysoce rizikovým systémem UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou.
Pozměňovací návrh 365
Návrh nařízení
Čl. 23 – odst. 1 b (nový)
Veškeré informace získané příslušným vnitrostátním orgánem nebo Komisí podle ustanovení tohoto článku jsou považovány za obchodní tajemství a nakládá se s nimi v souladu s povinnostmi zachování důvěrnosti stanovenými v článku 70.
Pozměňovací návrh 366
Návrh nařízení
Čl. 25 – odst. 1
1.  V případě, že poskytovatelé usazení mimo Unii dodávají do Unie systémy umělé inteligence, u nichž nelze identifikovat dovozce, jmenují předem zplnomocněného zástupce usazeného v Unii formou písemného pověření.
1.  V případě, že poskytovatelé usazení mimo Unii dodávají do Unie systémy umělé inteligence, jmenují předem zplnomocněného zástupce usazeného v Unii formou písemného pověření.
Pozměňovací návrh 367
Návrh nařízení
Čl. 25 – odst. 1 a (nový)
1a.  Zplnomocněný zástupce má bydliště nebo je usazen v jednom z členských států, v nichž jsou vykonávány činnosti podle čl. 2 odst. 1 písm. cb).
Pozměňovací návrh 368
Návrh nařízení
Čl. 25 – odst. 1 b (nový)
1b.  Poskytovatel poskytne svému zplnomocněnému zástupci nezbytné pravomoci a zdroje pro plnění úkolů podle tohoto nařízení.
Pozměňovací návrh 369
Návrh nařízení
Čl. 25 – odst. 2 – návětí
2.  Zplnomocněný zástupce provádí úkoly vymezené v pověření, které obdržel od poskytovatele. Pověření zmocňuje zplnomocněného zástupce k provádění alespoň těchto úkolů:
2.  Zplnomocněný zástupce provádí úkoly vymezené v pověření, které obdržel od poskytovatele. Kopii pověření poskytne na požádání orgánům dozoru nad trhem v jednom z úředních jazyků orgánu Unie, který určí příslušný vnitrostátní orgán. Pro účely tohoto nařízení pověření zmocňuje zplnomocněného zástupce k provádění alespoň těchto úkolů:
Pozměňovací návrh 370
Návrh nařízení
Čl. 25 – odst. 2 – písm. a
a)  uchovávat kopii EU prohlášení o shodě a technickou dokumentaci k dispozici pro příslušné vnitrostátní orgány a vnitrostátní orgány uvedené v čl. 63 odst. 7;
a)  zajistit, aby bylo vypracováno EU prohlášení o shodě a technická dokumentace a aby poskytovatel provedl náležitý postup posouzení shody;
Pozměňovací návrh 371
Návrh nařízení
Čl. 25 – odst. 2 – písm. a a (nové)
aa)  uchovávat pro potřebu příslušných vnitrostátních orgánů a vnitrostátních orgánů uvedených v čl. 63 odst. 7 kopii EU prohlášení o shodě, technickou dokumentaci a případně certifikát vydaný oznámeným subjektem;
Pozměňovací návrh 372
Návrh nařízení
Čl. 25 – odst. 2 – písm. b
b)  poskytnout příslušnému vnitrostátnímu orgánu na odůvodněnou žádost veškeré informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy, včetně přístupu k protokolům, které daný vysoce rizikový systém UI automaticky generuje, v rozsahu, v jakém jsou tyto protokoly pod kontrolou poskytovatele na základě smluvního ujednání s uživatelem nebo jinak na základě zákona;
b)  poskytnout příslušnému vnitrostátnímu orgánu na odůvodněnou žádost veškeré informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy, včetně přístupu k protokolům, které daný vysoce rizikový systém UI automaticky generuje, v rozsahu, v jakém jsou tyto protokoly pod kontrolou poskytovatele;
Pozměňovací návrh 373
Návrh nařízení
Čl. 25 – odst. 2 – písm. c
c)  spolupracovat s příslušnými vnitrostátními orgány na základě odůvodněné žádosti na veškerých opatřeních, která takový orgán v souvislosti s daným vysoce takový rizikovým systémem UI přijme.
c)  spolupracovat s vnitrostátními dozorovými orgány na základě odůvodněné žádosti na veškerých opatřeních, která takový orgán přijme s cílem omezit a zmírnit rizika vyvolaná daným vysoce rizikovým systémem UI;
Pozměňovací návrh 374
Návrh nařízení
Čl. 25 – odst. 2 – písm. c a (nové)
ca)  případně splnit registrační povinnosti uvedené v článku 51, nebo pokud registraci provádí poskytovatel sám, zajistit, aby informace uvedené v bodu 3 přílohy VIII byly správné.
Pozměňovací návrh 375
Návrh nařízení
Čl. 25 – odst. 2 a (nový)
2a.  Zplnomocněný zástupce je pověřen k tomu, aby se na něj vedle poskytovatele nebo namísto něj obracely zejména vnitrostátní dozorový orgán nebo příslušné vnitrostátní orgány ve všech otázkách týkajících se zajištění souladu s tímto nařízením.
Pozměňovací návrh 376
Návrh nařízení
Čl. 25 – odst. 2 b (nový)
2b.  Zplnomocněný zástupce pověření ukončí, pokud se domnívá nebo má důvod se domnívat, že poskytovatel jedná v rozporu se svými povinnostmi podle tohoto nařízení. V takovém případě rovněž neprodleně informuje vnitrostátní dozorový orgán členského státu, v němž je usazen, a případně příslušný oznámený subjekt o ukončení pověření a jeho důvodech.
Pozměňovací návrh 377
Návrh nařízení
Čl. 26 – odst. 1 – návětí
1.  Před uvedením vysoce rizikového systému UI na trh dovozci tohoto systému zajistí, aby:
1.  Před uvedením vysoce rizikového systému UI na trh dovozci tohoto systému zajistí, aby byl systém v souladu s tímto nařízením, a to tím, že zajistí, aby:
Pozměňovací návrh 378
Návrh nařízení
Čl. 26 – odst. 1 – písm. a
a)  poskytovatel daného systému UI provedl příslušný postup posuzování shody;
a)  poskytovatel daného systému UI provedl příslušný postup posuzování shody uvedený v článku 43;
Pozměňovací návrh 379
Návrh nařízení
Čl. 26 – odst. 1 – písm. b
b)  poskytovatel vypracoval technickou dokumentaci v souladu s přílohou IV;
b)  poskytovatel vypracoval technickou dokumentaci v souladu s článkem 11 a přílohou IV;
Pozměňovací návrh 380
Návrh nařízení
Čl. 26 – odst. 1 – písm. c a (nové)
ca)  poskytovatel případně jmenoval zplnomocněného zástupce v souladu s čl. 25 odst. 1.
Pozměňovací návrh 381
Návrh nařízení
Čl. 26 – odst. 2
2.  Domnívá-li se dovozce nebo má-li důvod se domnívat, že vysoce rizikový systém UI není ve shodě s tímto nařízením, neuvede tento systém UI na trh, dokud nebude uveden ve shodu. Pokud vysoce rizikový systém UI představuje riziko ve smyslu čl. 65 odst. 1, informuje o tom dovozce poskytovatele systému UI a orgány dozoru nad trhem.
2.  Domnívá-li se dovozce nebo má-li důvod se domnívat, že vysoce rizikový systém UI není ve shodě s tímto nařízením, nebo je padělaný nebo je k němu připojena zfalšovaná dokumentace, neuvede tento systém UI na trh, dokud nebude uveden ve shodu. Pokud vysoce rizikový systém UI představuje riziko ve smyslu čl. 65 odst. 1, informuje o tom dovozce poskytovatele systému UI a orgány dozoru nad trhem.
Pozměňovací návrh 382
Návrh nařízení
Čl. 26 – odst. 3
3.  Dovozci uvedou na vysoce rizikovém systému UI, případně není-li to možné, podle potřeby na obalu nebo v dokumentaci, která je k vysoce rizikovému systému UI přiložena, svoje jméno, zapsaný obchodní název nebo zapsanou ochrannou známku a adresu, na které je lze kontaktovat.
3.  Dovozci uvedou na vysoce rizikovém systému UI a případně na obalu nebo v dokumentaci, která je k vysoce rizikovému systému UI přiložena, svoje jméno, zapsaný obchodní název nebo zapsanou ochrannou známku a adresu, na které je lze kontaktovat.
Pozměňovací návrh 383
Návrh nařízení
Čl. 26 – odst. 5
5.  Dovozci poskytnou příslušným vnitrostátním orgánům na odůvodněnou žádost veškeré informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy v jazyce, který je příslušnému vnitrostátnímu orgánu snadno srozumitelný, včetně přístupu k protokolům automaticky generovaným vysoce rizikovým systémem UI, v rozsahu, v jakém jsou tyto protokoly pod kontrolou poskytovatele na základě smluvního ujednání s uživatelem nebo jinak na základě právních předpisů. S těmito orgány rovněž spolupracují na veškerých opatřeních, která vnitrostátní příslušný orgán v souvislosti s tímto systémem přijme.
5.  Dovozci poskytnou příslušným vnitrostátním orgánům na odůvodněnou žádost veškeré informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy v jazyce, který je jim snadno srozumitelný, včetně přístupu k protokolům automaticky generovaným vysoce rizikovým systémem UI, v rozsahu, v jakém jsou tyto protokoly pod kontrolou poskytovatele v souladu s článkem 20.
Pozměňovací návrh 384
Návrh nařízení
Čl. 26 – odst. 5 a (nový)
5a.  Dovozci spolupracují s příslušnými vnitrostátními orgány na veškerých opatřeních, která tyto orgány přijmou s cílem omezit a zmírnit rizika vyvolaná daným vysoce rizikovým systémem UI.
Pozměňovací návrh 385
Návrh nařízení
Čl. 27 – odst. 1
1.  Před dodáním vysoce rizikového systému UI na trh distributoři ověří, zda je na daném vysoce rizikovém systému UI umístěno požadované označení CE, zda je k němu přiložena požadovaná dokumentace a návod k použití a zda poskytovatel a dovozce systému případně splnili povinnosti stanovené v tomto nařízení.
1.  Před dodáním vysoce rizikového systému UI na trh distributoři ověří, zda je na daném vysoce rizikovém systému UI umístěno požadované označení CE, zda je k němu přiložena požadovaná dokumentace a návod k použití a zda poskytovatel a dovozce systému případně splnili své povinnosti stanovené v článcích 16 a 26 tohoto nařízení.
Pozměňovací návrh 386
Návrh nařízení
Čl. 27 – odst. 2
2.  Domnívá-li se distributor nebo má-li důvod se domnívat, že vysoce rizikový systém UI není ve shodě s požadavky stanovenými v kapitole 2 této hlavy, neuvede tento vysoce rizikový systém UI na trh, dokud nebude uveden ve shodu s těmito požadavky. Pokud navíc tento systém představuje riziko ve smyslu čl. 65 odst. 1, informuje o tom distributor poskytovatele, případně dovozce tohoto systému.
2.  Domnívá-li se distributor na základě informací, které má k dispozici, nebo má-li důvod se domnívat, že vysoce rizikový systém UI není ve shodě s požadavky stanovenými v kapitole 2 této hlavy, neuvede tento vysoce rizikový systém UI na trh, dokud nebude uveden ve shodu s těmito požadavky. Pokud navíc tento systém představuje riziko ve smyslu čl. 65 odst. 1, informuje o tom distributor poskytovatele nebo dovozce tohoto systému a případně dotčený příslušný vnitrostátní orgán.
Pozměňovací návrh 387
Návrh nařízení
Čl. 27 – odst. 4
4.  Distributor, který se domnívá nebo má důvod se domnívat, že vysoce rizikový systém UI, který dodal na trh, není ve shodě s požadavky stanovenými v kapitole 2 této hlavy, přijme nápravná opatření nezbytná k uvedení tohoto systému ve shodu s těmito požadavky nebo k jeho stažení z trhu či z oběhu, případně zajistí, aby tato nápravná opatření přijal poskytovatel, dovozce nebo jakýkoli příslušný provozovatel. Představuje-li vysoce rizikový systém UI riziko ve smyslu čl. 65 odst. 1, distributor okamžitě informuje příslušné vnitrostátní orgány členských států, v nichž tento produkt za tímto účelem dodal na trh, a uvede přitom zejména podrobnosti o nesouladu a o veškerých přijatých nápravných opatřeních.
4.  Distributor, který se na základě informací, které má k dispozici, domnívá nebo má důvod se domnívat, že vysoce rizikový systém UI, který dodal na trh, není ve shodě s požadavky stanovenými v kapitole 2 této hlavy, přijme nápravná opatření nezbytná k uvedení tohoto systému ve shodu s těmito požadavky nebo k jeho stažení z trhu či z oběhu, případně zajistí, aby tato nápravná opatření přijal poskytovatel, dovozce nebo jakýkoli příslušný provozovatel. Představuje-li vysoce rizikový systém UI riziko ve smyslu čl. 65 odst. 1, distributor okamžitě informuje poskytovatele nebo dovozce systému a příslušné vnitrostátní orgány členských států, v nichž tento produkt za tímto účelem dodal na trh, a uvede přitom zejména podrobnosti o nesouladu a o veškerých přijatých nápravných opatřeních.
Pozměňovací návrh 388
Návrh nařízení
Čl. 27 – odst. 5
5.  Na odůvodněnou žádost příslušného vnitrostátního orgánu poskytnou distributoři vysoce rizikových systémů UI tomuto orgánu všechny informace a dokumentaci nezbytné k prokázání shody vysoce rizikového systému s požadavky stanovenými v kapitole 2 této hlavy. Distributoři rovněž spolupracují s příslušným vnitrostátním orgánem na veškerých opatřeních, které tento orgán přijme.
5.  Na odůvodněnou žádost příslušného vnitrostátního orgánu poskytnou distributoři vysoce rizikových systémů UI tomuto orgánu veškeré informace a dokumentaci, jež vlastní nebo mají k dispozici, v souladu s povinnostmi distributorů uvedenými v odstavci 1, které jsou nezbytné k prokázání shody vysoce rizikového systému s požadavky stanovenými v kapitole 2 této hlavy.
Pozměňovací návrh 389
Návrh nařízení
Čl. 27 – odst. 5 a (nový)
5a.  Distributoři spolupracují s příslušnými vnitrostátními orgány na veškerých opatřeních, která tyto orgány přijmou s cílem omezit a zmírnit rizika vyvolaná daným vysoce rizikovým systémem UI.
Pozměňovací návrh 390
Návrh nařízení
Čl. 28 – název
Povinnosti distributorů, dovozců, uživatelů nebo jakékoli jiné třetí strany
Povinnosti poskytovatelů, distributorů, dovozců, provozovatelů nebo jiných třetích stran v rámci hodnotového řetězce UI
Pozměňovací návrh 391
Návrh nařízení
Čl. 28 – odst. 1 – návětí
1.  Jakýkoli distributor, dovozce, uživatel nebo jiná třetí strana se pro účely tohoto nařízení považuje za poskytovatele a vztahují se na něj povinnosti poskytovatele podle článku 16, pokud nastane kterákoli z následujících okolností:
1.  Jakýkoli distributor, dovozce, provozovatel nebo jiná třetí strana se pro účely tohoto nařízení považuje za poskytovatele vysoce rizikového systému UI a vztahují se na něj povinnosti poskytovatele podle článku 16, pokud nastane kterákoli z následujících okolností:
Pozměňovací návrh 392
Návrh nařízení
Čl. 28 – odst. 1 – písm. a
a)  uvádějí vysoce rizikový systém UI na trh nebo do provozu pod svým jménem nebo ochrannou známkou;
a)  označí svým jménem nebo ochrannou známkou vysoce rizikový systém UI již uvedený na trh nebo do provozu;
Pozměňovací návrh 393
Návrh nařízení
Čl. 28 – odst. 1 – písm. b
b)  mění určený účel vysoce rizikového systému UI již uvedeného na trh nebo do provozu;
b)  provádějí podstatnou úpravu vysoce rizikového systému UI, který je již uveden na trh nebo je již uveden do provozu, a to tak, že zůstává vysoce rizikovým systémem UI v souladu s článkem 6;
Pozměňovací návrh 394
Návrh nařízení
Čl. 28 – odst. 1 – písm. b a (nové)
ba)  provádějí podstatnou úpravu systému UI j, včetně systému umělé inteligence pro obecné účely, který nebyl klasifikován jako vysoce rizikový a je již uveden na trh nebo do provozu takovým způsobem, že se systém UI stane vysoce rizikovým systémem UI v souladu s článkem 6.
Pozměňovací návrh 395
Návrh nařízení
Čl. 28 – odst. 2
2.  Pokud nastanou okolnosti uvedené v odst. 1 písm. b) nebo c), není poskytovatel, který původně uvedl vysoce rizikový systém UI na trh nebo do provozu, již nadále považován za poskytovatele pro účely tohoto nařízení.
2.  Pokud nastanou okolnosti uvedené v odst. 1 písm. a) až ba), není poskytovatel, který původně uvedl systém UI na trh nebo do provozu, již nadále považován za poskytovatele tohoto konkrétního systému UI pro účely tohoto nařízení. Tento bývalý poskytovatel poskytne novému poskytovateli technickou dokumentaci a veškeré další relevantní a přiměřeně očekávané informační schopnosti systému UI, technický přístup nebo jinou pomoc na základě obecně uznávaného stavu techniky, které jsou nezbytné pro splnění povinností stanovených v tomto nařízení.
Tento odstavec se rovněž vztahuje na poskytovatele základních modelů vymezených v článku 3, pokud je základní model přímo zabudován do vysoce rizikového systému UI.
Pozměňovací návrh 396
Návrh nařízení
Čl. 28 – odst. 2 a (nový)
2a.  Poskytovatel vysoce rizikového systému UI a třetí strana, která dodává nástroje, služby, součásti nebo procesy, které jsou používány nebo zabudovány do vysoce rizikového systému UI, upřesní v písemné dohodě informace, schopnosti, technický přístup nebo jinou pomoc na základě obecně uznávaného stavu techniky, které je třetí strana povinna poskytnout, aby poskytovatel vysoce rizikového systému UI mohl v plném rozsahu plnit povinnosti podle tohoto nařízení.
Komise vypracuje a doporučí nezávazné vzorové smluvní podmínky mezi poskytovateli vysoce rizikových systémů UI a třetími stranami, které dodávají nástroje, služby, součásti nebo procesy, které jsou používány nebo zabudovány do vysoce rizikových systémů UI, s cílem pomoci oběma stranám při vypracovávání a sjednávání smluv s vyváženými smluvními právy a povinnostmi v souladu s úrovní kontroly každé strany. Při vypracovávání nezávazných vzorových smluvních podmínek Komise zohlední možné smluvní požadavky použitelné v konkrétních odvětvích nebo obchodních případech. Nezávazné smluvní podmínky se zveřejní a bezplatně zpřístupní ve snadno použitelném elektronickém formátu na internetových stránkách Úřadu pro UI.
Pozměňovací návrh 397
Návrh nařízení
Čl. 28 – odst. 2 b (nový)
2b.  Pro účely tohoto článku budou obchodní tajemství zachována a budou zveřejněna pouze za předpokladu, že jsou předem přijata veškerá konkrétní nezbytná opatření podle směrnice EU 2016/943 k zachování jejich důvěrnosti, zejména ve vztahu k třetím stranám. V případě potřeby mohou být dohodnuta vhodná technická a organizační opatření na ochranu práv duševního vlastnictví nebo obchodních tajemství.
Pozměňovací návrh 398
Návrh nařízení
Článek 28 a (nový)
Článek 28a
Nepřiměřené smluvní podmínky jednostranně uložené malému a střednímu podniku nebo začínajícímu podniku
1.  Smluvní podmínka týkající se poskytování nástrojů, služeb, součástí nebo procesů, které jsou používány nebo zabudovány do vysoce rizikového systému UI, nebo prostředků nápravy v případě porušení nebo ukončení souvisejících povinností, které podnik jednostranně uložil malému nebo střednímu podniku nebo začínajícímu podniku, není pro tyto druhé podniky závazná, pokud je nepřiměřená.
2.  Smluvní podmínka se nepovažuje za nepřiměřenou, pokud vyplývá z platných právních předpisů Unie.
3.  Smluvní podmínka je nepřiměřená, pokud je takové povahy, že objektivně narušuje schopnost strany, které byla podmínka jednostranně uložena, chránit svůj oprávněný obchodní zájem na předmětné informaci nebo se její použití výrazně odchyluje od poctivých obchodních praktik při poskytování nástrojů, služeb, součástí nebo procesů, které jsou používány nebo zabudovány do vysoce rizikového systému UI, v rozporu s dobrou vírou a poctivým jednáním nebo vytváří významnou nerovnováhu mezi právy a povinnostmi stran ve smlouvě. Smluvní podmínka je rovněž nepřiměřená, pokud má za následek přesun sankcí uvedených v článku 71 nebo souvisejících nákladů na soudní řízení mezi smluvními stranami, jak je uvedeno v čl. 71 odst. 8.
4.  Smluvní podmínka je pro účely tohoto článku nepřiměřená, je-li jejím cílem nebo účinkem:
a)  vyloučit nebo omezit odpovědnost strany, která jednostranně uložila podmínku, za úmyslné jednání nebo hrubou nedbalost;
b)  vyloučit prostředky nápravy, které má k dispozici strana, jíž byla podmínka jednostranně uložena, v případě neplnění smluvních závazků nebo odpovědnosti strany, která tuto podmínku jednostranně uložila, v případě porušení těchto závazků;
c)  poskytnout smluvní straně, která podmínku jednostranně uložila, výlučné právo určit, zda jsou technická dokumentace a poskytnuté informace v souladu se smlouvou, nebo vykládat kteroukoli podmínku smlouvy.
5.  Smluvní podmínka se považuje za jednostranně uloženou ve smyslu tohoto článku, pokud byla uložena jednou smluvní stranou a druhá smluvní strana nebyla schopna ovlivnit její obsah navzdory pokusu o ní vyjednávat. Smluvní strana, která smluvní podmínku uložila, nese důkazní břemeno, že daná podmínka nebyla uložena jednostranně.
6.  Je-li nepřiměřená smluvní podmínka oddělitelná od ostatních smluvních podmínek, zůstávají ostatní podmínky závazné. Strana, která spornou podmínku předložila, nemůže tvrdit, že se jedná o nepřiměřenou podmínku.
7.  Tento odstavec se použije na všechny nové smlouvy, které vstoupí v platnost po ... [den vstupu tohoto nařízení v platnost]. Podniky přezkoumají stávající smluvní závazky, na něž se vztahuje toto nařízení, do... [tři roky ode dne vstupu tohoto nařízení v platnost].
8.  Vzhledem k tomu, jak rychle se na trhu objevují inovace, bude Komise seznam nepřiměřených smluvních podmínek podle článku 28a pravidelně přezkoumávat a v případě potřeby jej aktualizuje podle nových obchodních postupů.
Pozměňovací návrh 399
Návrh nařízení
Článek 28 b (nový)
Článek 28b
Povinnosti poskytovatele základního modelu
1.  Poskytovatel základního modelu před jeho dodáním na trh nebo uvedením do provozu zajistí, aby byl základní model v souladu s požadavky stanovenými v tomto článku, bez ohledu na to, zda je poskytován jako samostatný model nebo zabudován do systému UI nebo výrobku nebo poskytován na základě bezplatných licencí s otevřeným zdrojovým kódem jako služba, jakož i prostřednictvím jiných distribučních kanálů.
2.  Pro účely odstavce 1 poskytovatel základního modelu:
a)  vhodným návrhem, testováním a analýzou prokáže, že rozumně předvídatelná rizika pro zdraví, bezpečnost, základní práva, životní prostředí a demokracii a právní stát byla před a v průběhu vývoje identifikována, omezena a zmírněna pomocí vhodných metod, jako je zapojení nezávislých odborníků, jakož i byla po vývoji zdokumentována rizika, která nelze zmírnit,;
b)  zpracuje a začlení pouze datové soubory, na něž se vztahují vhodná opatření v oblasti správy dat pro základní modely, zejména opatření k posouzení vhodnosti zdrojů dat a možných zkreslení a vhodného zmírnění;
c)  navrhne a vyvine základní model tak, aby bylo po celou dobu jeho životního cyklu dosaženo odpovídajících úrovní výkonnosti, předvídatelnosti, interpretovatelnosti, napravitelnosti, zabezpečení a kybernetické bezpečnosti posuzovaných pomocí vhodných metod, jako je hodnocení modelů se zapojením nezávislých odborníků, zdokumentovaná analýza a rozsáhlé testování během konceptualizace, navrhování a vývoje;
d)  navrhne a vyvine základní model s využitím platných norem ke snížení spotřeby energie, využívání zdrojů a odpadu, jakož i ke zvýšení energetické účinnosti a celkové účinnosti systému, aniž jsou dotčeny příslušné stávající unijní a vnitrostátní právní předpisy. Tato povinnost neplatí, dokud nejsou zveřejněny normy uvedené v článku 40. Základní modely jsou navrženy tak, aby umožňovaly měření a zaznamenávání spotřeby energie a zdrojů a, je-li to technicky proveditelné, i jiných dopadů na životní prostředí, které může mít zavádění a používání systémů během celého jejich životního cyklu;
e)  vypracuje rozsáhlou technickou dokumentaci a srozumitelný návod k použití, aby navazující poskytovatelé mohli plnit své povinnosti podle článku 16 a čl. 28 odst. 1;
f)  zavede systém řízení kvality s cílem zajistit a dokumentovat soulad s tímto článkem s možností experimentovat při plnění tohoto požadavku,
g)  zaregistruje tento základní model do databáze EU uvedené v článku 60 v souladu s pokyny uvedenými v příloze VIII bodu C.
Při plnění těchto požadavků se zohlední obecně uznávaný stav techniky, včetně toho, jak se odráží v příslušných harmonizovaných normách nebo společných specifikacích, jakož i nejnovější metody posuzování a měření, které se odrážejí zejména v pokynech pro srovnávání a v schopnostech uvedených v článku 58a;
3.  Poskytovatelé základních modelů uchovávají technickou dokumentaci uvedenou v odst. 2 písm. e) k dispozici příslušným vnitrostátním orgánům po dobu 10 let poté, co byly jejich základní modely uvedeny na trh nebo do provozu.
4.  Poskytovatelé základních modelů používaných v systémech UI, které mají s různou úrovní autonomie vytvářet obsah, jako je složitý text, obrázky, audio nebo video („generativní UI“), a poskytovatelé, kteří přetvářejí základní model na generativní systém UI, navíc
a)  dodržují povinnosti týkající se transparentnosti uvedené v čl. 52 odst. 1,
b)  trénují a případně navrhují a rozvíjejí základní model tak, aby byly zajištěny odpovídající záruky proti vytváření obsahu, který je v rozporu s právem Unie, v souladu s obecně uznávaným současným stavem techniky a aniž jsou dotčena základní práva, včetně svobody projevu,
c)  aniž jsou dotčeny právní předpisy Unie nebo vnitrostátní nebo unijní právní předpisy o autorském právu, dokumentují a zveřejňují dostatečně podrobné shrnutí použití tréninkových dat chráněných podle autorského práva.
Pozměňovací návrh 400
Návrh nařízení
Čl. 29 – odst. 1
1.  Uživatelé vysoce rizikových systémů UI tyto systémy používají v souladu s návodem k použití přiloženým k těmto systémům na základě odstavců 2 a 5.
1.  Provozovatelé vysoce rizikových systémů UI přijmou vhodná technická a organizační opatření, aby bylo zajištěno používání těchto systémů v souladu s návodem k použití přiloženým k těmto systémům na základě odstavců 2 a 5 tohoto článku.
Pozměňovací návrh 401
Návrh nařízení
Čl. 29 – odst. 1 a (nový)
1a.  Provozovatelé v rozsahu, v němž vykonávají kontrolu nad vysoce rizikovým systémem UI:
i)  provádějí lidský dohled v souladu s požadavky stanovenými v tomto nařízení,
ii)  zajistí, aby fyzické osoby pověřené lidským dohledem nad vysoce rizikovým systémem UI byly způsobilé, řádně kvalifikované a vyškolené a měly nezbytné zdroje k zajištění účinného dohledu nad systémem UI v souladu s článkem 14,
iii)  zajistí, aby byla pravidelně sledována účinnost příslušných a vhodných opatření v oblasti odolnosti a kybernetické bezpečnosti a aby byla pravidelně upravována nebo aktualizována.
Pozměňovací návrh 402
Návrh nařízení
Čl. 29 – odst. 2
2.  Povinnostmi uvedenými v odstavci 1 nejsou dotčeny ostatní povinnosti uživatelů podle právních předpisů Unie nebo vnitrostátních právních předpisů ani volnost uživatelů při organizaci vlastních zdrojů a činností za účelem provádění opatření v oblasti lidského dohledu uvedených poskytovatelem.
2.  Povinnostmi uvedenými v odstavcích 1 a 1a nejsou dotčeny ostatní povinnosti provozovatelů podle právních předpisů Unie nebo vnitrostátních právních předpisů ani volnost provozovatelů při organizaci vlastních zdrojů a činností za účelem provádění opatření v oblasti lidského dohledu uvedených poskytovatelem.
Pozměňovací návrh 403
Návrh nařízení
Čl. 29 – odst. 3
3.  Aniž je dotčen odstavec 1, zajistí uživatel, aby byla vstupní data relevantní s ohledem na určený účel vysoce rizikového systému UI v rozsahu, v jakém uživatel vykonává kontrolu nad vstupními údaji.
3.  Aniž je dotčen odstavec 1 a 1a, zajistí provozovatel, aby byla vstupní data relevantní a dostatečně reprezentativní s ohledem na určený účel vysoce rizikového systému UI v rozsahu, v jakém provozovatel vykonává kontrolu nad vstupními údaji.
Pozměňovací návrh 404
Návrh nařízení
Čl. 29 – odst. 4 – návětí
4.  Uživatelé monitorují provoz vysoce rizikového systému UI na základě návodu k použití. Pokud mají důvody se domnívat, že použití v souladu s návodem k použití může vést k tomu, že systém UI bude představovat riziko ve smyslu čl. 65 odst. 1, uvědomí o tom poskytovatele nebo distributora a používání systému pozastaví. V případě, že zjistí jakýkoliv závažný incident nebo chybné fungování ve smyslu článku 62, rovněž informují poskytovatele nebo distributora a používání daného systému UI přeruší. V případě, že se uživateli nepodaří poskytovatele kontaktovat, použije se obdobně článek 62.
4.  Provozovatelé monitorují provoz vysoce rizikového systému UI na základě návodu k použití a v příslušných případech informují poskytovatele v souladu s článkem 61. Pokud mají důvody se domnívat, že použití v souladu s návodem k použití může vést k tomu, že systém UI bude představovat riziko ve smyslu čl. 65 odst. 1, bez zbytečného odkladu uvědomí o tom poskytovatele nebo distributora a příslušné vnitrostátní dozorové orgány a používání systému pozastaví. V případě, že zjistí jakýkoliv závažný incident nebo chybné fungování ve smyslu článku 62, rovněž okamžitě informují nejdřív poskytovatele a potom dovozce nebo distributora a příslušné vnitrostátní dozorové orgány a používání daného systému UI přeruší. V případě, že se provozovateli nepodaří poskytovatele kontaktovat, použije se obdobně článek 62.
Pozměňovací návrh 405
Návrh nařízení
Čl. 29 – odst. 4 – pododstavec 1
V případě uživatelů, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, se povinnost monitorování stanovená v prvním pododstavci považuje za splněnou, jsou-li dodržena pravidla týkající se systémů, postupů a mechanismů vnitřní správy podle článku 74 uvedené směrnice.
V případě provozovatelů, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, se povinnost monitorování stanovená v prvním pododstavci považuje za splněnou, jsou-li dodržena pravidla týkající se systémů, postupů a mechanismů vnitřní správy podle článku 74 uvedené směrnice.
Pozměňovací návrh 406
Návrh nařízení
Čl. 29 – odst. 5 – návětí
5.  Uživatelé vysoce rizikových systémů UI uchovávají protokoly automaticky generované jejich vysoce rizikovým systémem UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou. Tyto protokoly jsou uchovávány po dobu, která je přiměřená z hlediska určeného účelu vysoce rizikového systému UI a příslušných právních povinností podle práva Unie nebo vnitrostátního práva.
5.  Provozovatelé vysoce rizikových systémů UI uchovávají protokoly automaticky generované jejich vysoce rizikovým systémem UI v rozsahu, v jakém jsou tyto protokoly pod jejich kontrolou a jsou nezbytné pro zajištění a prokázání souladu s tímto nařízením, pro následné audity veškerých poruch, incidentů nebo zneužití systému, které lze rozumně předvídat, nebo pro zajištění a monitorování řádného fungování systému během jeho životního cyklu. Aniž jsou dotčeny platné právní předpisy Unie nebo vnitrostátní právní předpisy, jsou tyto protokoly uchovávány po dobu nejméně šest měsíců. Doba uchovávání musí být v souladu s odvětvovými normami a přiměřená z hlediska určeného účelu vysoce rizikového systému UI.
Pozměňovací návrh 407
Návrh nařízení
Čl. 29 – odst. 5 – pododstavec 1
Uživatelé, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU udržují tyto protokoly jako součást dokumentace týkající se vnitřní správy, systémů, postupů a mechanismů podle článku 74 uvedené směrnice.
Provozovatelé, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU udržují tyto protokoly jako součást dokumentace týkající se vnitřní správy, systémů, postupů a mechanismů podle článku 74 uvedené směrnice.
Pozměňovací návrh 408
Návrh nařízení
Čl. 29 – odst. 5 a (nový)
5a.  Před uvedením do provozu nebo použitím vysoce rizikového systému UI na pracovišti konzultují provozovatelé zástupce zaměstnanců s cílem dosáhnout dohody v souladu se směrnicí 2002/14/ES a informovat dotčené zaměstnance, že se na ně systém bude vztahovat.
Pozměňovací návrh 409
Návrh nařízení
Čl. 29 – odst. 5 b (nový)
5b.  Provozovatelé vysoce rizikových systémů UI, kteří jsou veřejnými orgány nebo orgány, institucemi nebo jinými subjekty Unie nebo podniky uvedenými v čl. 51 odst. 1a písm. b), plní registrační povinnosti uvedené v článku 51.
Pozměňovací návrh 410
Návrh nařízení
Čl. 29 – odst. 6
6.  Uživatelé vysoce rizikových systémů UI použijí informace poskytnuté podle článku 13 ke splnění své povinnosti provést posouzení vlivu na ochranu osobních údajů podle článku 35 nařízení (EU) 2016/679 a tam, kde je to relevantní, podle článku 27 směrnice (EU) 2016/680.
6.  Tam, kde je to relevantní, použijí provozovatelé vysoce rizikových systémů UI informace poskytnuté podle článku 13 ke splnění své povinnosti provést posouzení vlivu na ochranu osobních údajů podle článku 35 nařízení (EU) 2016/679 a podle článku 27 směrnice (EU) 2016/680, jehož shrnutí se zveřejní s ohledem na konkrétní použití a konkrétní kontext, v němž má systém UI fungovat. Provozovatelé se mohou částečně vrátit k těmto posouzením vlivu na ochranu osobních údajů za účelem splnění některých povinností stanovených v tomto článku, pokud posouzení dopadu na ochranu údajů tyto povinnosti splňuje.
Pozměňovací návrh 411
Návrh nařízení
Čl. 29 – odst. 6 a (nový)
6a.  Aniž je dotčen článek 52, provozovatelé vysoce rizikových systémů UI uvedených v příloze III, kteří přijímají rozhodnutí nebo pomáhají při přijímání rozhodnutí týkajících se fyzických osob, informují fyzické osoby o tom, že se na ně vztahuje použití vysoce rizikového systému UI. Tyto informace zahrnují zamýšlený účel a druh přijímaných rozhodnutí. Provozovatel rovněž informuje fyzickou osobu o jejím právu na vysvětlení uvedeném v článku 68c.
Pozměňovací návrh 412
Návrh nařízení
Čl. 29 – odst. 6 b (nový)
6b.  Provozovatelé spolupracují s dotčenými příslušnými vnitrostátními orgány na veškerých opatřeních, která tyto orgány přijmou v souvislosti s vysoce rizikovým systémem UI za účelem provedení tohoto nařízení.
Pozměňovací návrh 413
Návrh nařízení
Článek 29 a (nový)
Článek 29a
Posouzení dopadu vysoce rizikových systémů UI na základní práva
Před uvedením vysoce rizikového systému UI do provozu, jak je definován v čl. 6 odst. 2, s výjimkou systémů UI, které mají být použity v oblasti 2 přílohy III, provedou provozovatelé posouzení dopadu systému v konkrétním kontextu použití. Toto posouzení zahrne alespoň následující prvky:
a)  jasný nástin zamýšleného účelu, pro který bude systém používán;
b)  jasný nástin zamýšleného zeměpisného a časového rozsahu použití systému;
c)  kategorie fyzických osob a skupin, které by mohly být používáním systému dotčeny;
d)  ověření, že používání systému je v souladu s příslušnými unijními a vnitrostátními právními předpisy v oblasti základních práv;
e)  rozumně předvídatelný dopad používání vysoce rizikového systému UI na základní práva;
f)  konkrétní rizika újmy, která by mohla mít dopad na marginalizované osoby nebo zranitelné skupiny;
g)  rozumně předvídatelný nepříznivý dopad používání systému na životní prostředí;
h)  podrobný plán toho, jak bude zmírněna zjištěná újma nebo negativní dopad na základní práva;
j)  systém správy, který provozovatel zavede, včetně lidského dohledu, vyřizování stížností a nápravy.
2.  Pokud nelze určit podrobný plán na zmírnění rizik nastíněných v průběhu posouzení uvedeného v odstavci 1, provozovatel se zdrží používání vysoce rizikového systému UI a bez zbytečného odkladu informuje poskytovatele a vnitrostátní dozorový orgán. Vnitrostátní dozorové orgány podle článků 65 a 67 vezmou tyto informace v úvahu při prověřování systémů, které představují riziko na vnitrostátní úrovni.
3.  Povinnost uvedená v odstavci 1 platí pro první použití vysoce rizikového systému UI. Provozovatel může v podobných případech vycházet z dříve provedeného posouzení dopadů na základní práva nebo ze stávajícího posouzení, které provedli poskytovatelé. Pokud se provozovatel během používání vysoce rizikového systému UI domnívá, že kritéria uvedená v odstavci 1 již nejsou splněna, provede nové posouzení dopadů na základní práva.
4.  V průběhu posouzení dopadů provozovatel, s výjimkou malých a středních podniků, uvědomí vnitrostátní dozorový orgán a relevantní zúčastněné strany a v co nejvyšší možné míře zapojí zástupce osob nebo skupin osob, které mohou být ovlivněny vysoce rizikovým systémem UI, jak je uvedeno v odstavci 1, mimo jiné včetně: orgánů pro rovné zacházení, agentur na ochranu spotřebitele, sociálních partnerů a agentur pro ochranu údajů s cílem získat informace pro posouzení dopadů. Provozovatel poskytne subjektům lhůtu šesti týdnů na odpověď. Malé a střední podniky mohou dobrovolně uplatňovat ustanovení v tomto odstavci.
V případě uvedeném v čl. 47 odst. 1 mohou být veřejné orgány od těchto povinností osvobozeny.
5.  Provozovatel, který je veřejným orgánem nebo podnikem uvedeným v čl. 51 odst. 1a písm. b), zveřejní souhrn výsledků posouzení dopadu v rámci registrace užívání v souladu se svou povinností podle čl. 51 odst. 2.
6.  V případě, že se od provozovatele již požaduje, aby provedl posouzení dopadu na ochranu osobních údajů podle článku 35 nařízení (EU) 2016/679 nebo článku 27 směrnice (EU) 2016/680, provede se posouzení dopadu na základní práva uvedené v odstavci 1 ve spojení s posouzením dopadu na ochranu osobních údajů. Posouzení dopadu na ochranu údajů se zveřejní jako dodatek.
Pozměňovací návrh 414
Návrh nařízení
Čl. 30 – odst. 1
1.  Každý členský stát jmenuje nebo určí oznamující orgán odpovědný za stanovení a provádění postupů nezbytných pro posuzování, jmenování a oznamování subjektů posuzování shody a za jejich monitorování.
1.  Každý členský stát jmenuje nebo určí oznamující orgán odpovědný za stanovení a provádění postupů nezbytných pro posuzování, jmenování a oznamování subjektů posuzování shody a za jejich monitorování. Tyto postupy se vypracují ve spolupráci mezi oznamujícími orgány všech členských států.
Pozměňovací návrh 415
Návrh nařízení
Čl. 30 – odst. 7
7.  Oznamující orgány mají k dispozici dostatečný počet kvalifikovaných pracovníků, aby mohly řádně vykonávat své povinnosti.
7.  Oznamující orgány mají k dispozici dostatečný počet kvalifikovaných pracovníků, aby mohly řádně vykonávat své povinnosti. V příslušných případech musí mít kvalifikovaní pracovníci nezbytné odborné znalosti, například diplom v odpovídající právní oblasti, v oblasti dohledu nad základními právy zakotvenými v Listině základních práv Evropské unie.
Pozměňovací návrh 416
Návrh nařízení
Čl. 30 – odst. 8
8.  Oznamující orgány zajistí, aby bylo posuzování shody prováděno přiměřeným způsobem s cílem zabránit přílišnému zatížení poskytovatelů a aby oznámené subjekty při výkonu své činnosti řádně zohlednily velikost a strukturu dotčeného podniku, odvětví, v němž působí, a míru složitosti technologie daného systému UI.
8.  Oznamující orgány zajistí, aby bylo posuzování shody prováděno přiměřeným způsobem a včas s cílem zabránit přílišnému zatížení poskytovatelů a aby oznámené subjekty při výkonu své činnosti řádně zohlednily velikost a strukturu dotčeného podniku, odvětví, v němž působí, a míru složitosti technologie daného systému UI. Zvláštní pozornost se věnuje minimalizaci administrativní zátěže a nákladů na dodržování předpisů pro mikropodniky a malé podniky, jak jsou definovány v doporučení Komise 2003/361/ES.
Pozměňovací návrh 417
Návrh nařízení
Čl. 32 – odst. 1
1.  Oznamující orgány mohou oznámit pouze subjekty posuzování shody, které splňují požadavky stanovené v článku 33.
1.  Oznamující orgány oznámí pouze subjekty posuzování shody, které splňují požadavky stanovené v článku 33.
Pozměňovací návrh 418
Návrh nařízení
Čl. 32 – odst. 2
2.  K oznámení Komisi a ostatním členským státům využijí oznamující orgány elektronický nástroj pro oznamování vyvinutý a spravovaný Komisí.
2.  K oznámení každého subjektu posuzování shody uvedeného v odstavci 1 Komisi a ostatním členským státům využijí oznamující orgány elektronický nástroj pro oznamování vyvinutý a spravovaný Komisí.
Pozměňovací návrh 419
Návrh nařízení
Čl. 32 – odst. 3
3.  Oznámení musí obsahovat veškeré podrobnosti o dotčených činnostech posuzování shody, modulu nebo modulech posuzování shody a o dotčených technologiích umělé inteligence.
3.  Oznámení uvedené v odstavci 2 musí obsahovat veškeré podrobnosti o dotčených činnostech posuzování shody, modulu nebo modulech posuzování shody a o dotčených technologiích umělé inteligence, a také příslušné potvrzení o způsobilosti.
Pozměňovací návrh 420
Návrh nařízení
Čl. 32 – odst. 4
4.  Dotčený subjekt posuzování shody může vykonávat činnosti oznámeného subjektu, pouze pokud proti tomu Komise nebo ostatní členské státy nevznesly námitky do jednoho měsíce po oznámení.
4.  Dotčený subjekt posuzování shody může vykonávat činnosti oznámeného subjektu, pouze pokud proti tomu Komise nebo ostatní členské státy nevznesly námitky do dvou týdnů po potvrzení oznámení, jestliže oznámení obsahuje osvědčení o akreditaci podle čl. 31 odst. 2, nebo do dvou měsíců po oznámení, jestliže obsahuje doklady podle čl. 31 odst. 3.
Pozměňovací návrh 421
Návrh nařízení
Čl. 32 – odst. 4 a (nový)
4a.  Jsou-li vzneseny námitky, zahájí Komise neprodleně konzultace s příslušnými členskými státy a subjektem posuzování shody. S ohledem na to Komise rozhodne, zda je povolení oprávněné či nikoli. Rozhodnutí Komise je určeno dotčenému členskému státu a příslušnému subjektu posuzování shody.
Pozměňovací návrh 422
Návrh nařízení
Čl. 32 – odst. 4 b (nový)
4b.  Členské státy oznámí subjekty posuzování shody Komisi a ostatním členským státům.
Pozměňovací návrh 423
Návrh nařízení
Čl. 33 – odst. 2
2.  Oznámené subjekty splňují organizační požadavky a požadavky na řízení kvality, zdroje a postupy, které jsou k plnění uvedených úkolů nezbytné.
2.  Oznámené subjekty splňují organizační požadavky a požadavky na řízení kvality, zdroje a postupy, které jsou k plnění uvedených úkolů nezbytné, jakož i minimální požadavky na kybernetickou bezpečnost stanovené pro subjekty veřejné správy určené jako provozovatelé základních služeb podle směrnice (EU) 2022/2555.
Pozměňovací návrh 424
Návrh nařízení
Čl. 33 – odst. 4
4.  Oznámené subjekty jsou nezávislé na poskytovateli vysoce rizikového systému UI, u něhož provádějí činnosti posuzování shody. Oznámené subjekty jsou rovněž nezávislé na jakémkoliv jiném provozovateli, který má na posuzovaném vysoce rizikovém systému UI zájem, i na jakýchkoliv konkurentech poskytovatele.
4.  Oznámené subjekty jsou nezávislé na poskytovateli vysoce rizikového systému UI, u něhož provádějí činnosti posuzování shody. Oznámené subjekty jsou rovněž nezávislé na jakémkoliv jiném provozovateli, který má na posuzovaném vysoce rizikovém systému UI zájem, i na jakýchkoliv konkurentech poskytovatele. To nevylučuje používání posuzovaných systémů UI, které jsou nezbytné pro činnost subjektu posuzování shody, ani používání takových systémů pro osobní účely.
Pozměňovací návrh 425
Návrh nařízení
Čl. 33 – odst. 4 a (nový)
4a.  Posouzení shody podle odstavce 1 provádějí zaměstnanci oznámených subjektů, kteří v období 12 měsíců před posouzením neposkytli poskytovateli vysoce rizikového systému UI ani žádné právnické osobě spojené s tímto poskytovatelem žádnou jinou službu související s posuzovanou záležitostí než posouzení shody a zavázali se, že jim takové služby neposkytnou v období 12 měsíců od dokončení posouzení.
Pozměňovací návrh 426
Návrh nařízení
Čl. 33 – odst. 6
6.  Oznámené subjekty musí mít zavedeny zdokumentované postupy zajišťující, aby jejich pracovníci, výbory, pobočky, subdodavatelé a jakýkoliv přidružený subjekt nebo pracovníci externích subjektů zachovávali důvěrnost informací získaných při provádění činností posuzování shody, s výjimkou případů, kdy je zveřejnění těchto informací ze zákona povinné. Zaměstnanci subjektů posuzování shody jsou povinni zachovávat služební tajemství, pokud jde o veškeré informace, které obdrželi při plnění svých úkolů podle tohoto nařízení, nikoli však ve vztahu k oznamujícím orgánům členského státu, v němž vykonávají svou činnost.
6.  Oznámené subjekty musí mít zavedeny zdokumentované postupy zajišťující, aby jejich pracovníci, výbory, pobočky, subdodavatelé a jakýkoliv přidružený subjekt nebo pracovníci externích subjektů zachovávali důvěrnost informací získaných při provádění činností posuzování shody, s výjimkou případů, kdy je zveřejnění těchto informací ze zákona povinné. Zaměstnanci subjektů posuzování shody jsou povinni zachovávat služební tajemství, pokud jde o veškeré informace, které obdrželi při plnění svých úkolů podle tohoto nařízení, nikoli však ve vztahu k oznamujícím orgánům členského státu, v němž vykonávají svou činnost. S veškerými informacemi a dokumentací získanými oznámenými subjekty podle ustanovení tohoto článku se nakládá v souladu s povinnostmi zachování důvěrnosti stanovenými v článku 70.
Pozměňovací návrh 427
Návrh nařízení
Čl. 34 – odst. 3
3.  Činnosti lze zadat subdodavateli nebo dceřiné společnosti pouze se souhlasem poskytovatele.
3.  Činnosti lze zadat subdodavateli nebo dceřiné společnosti pouze se souhlasem poskytovatele. Oznámené subjekty zveřejní seznam svých dceřiných společností.
Pozměňovací návrh 428
Návrh nařízení
Čl. 34 – odst. 4
4.  Oznámený subjekt uchovává pro potřebu oznamujícího orgánu příslušné doklady týkající se posouzení kvalifikací subdodavatele nebo dceřiné společnosti a práce provedené subdodavatelem nebo dceřinou společností podle tohoto nařízení.
4.  Oznámený subjekt uchovává pro potřebu oznamujícího orgánu příslušné doklady týkající se ověření kvalifikací subdodavatele nebo dceřiné společnosti a práce provedené subdodavatelem nebo dceřinou společností podle tohoto nařízení.
Pozměňovací návrh 429
Návrh nařízení
Čl. 35 – název
Identifikační čísla a seznamy oznámených subjektů jmenovaných podle tohoto nařízení
Identifikační čísla a seznamy oznámených subjektů
Pozměňovací návrh 430
Návrh nařízení
Čl. 36 – odst. 1
1.  Pokud má oznamující orgán podezření nebo je upozorněn na to, že oznámený subjekt již nesplňuje požadavky stanovené v článku 33 nebo neplní své povinnosti, prošetří tuto záležitost s největší péčí. V této souvislosti informuje dotčený oznámený subjekt o vznesených námitkách a poskytne mu možnost, aby vyjádřil svá stanoviska. Pokud oznamující orgán dospěje k závěru, že šetření oznámeného subjektu již nesplňuje požadavky stanovené v článku 33 nebo že tento subjekt neplní své povinnosti, omezí, pozastaví nebo případně zruší oznámení podle toho, jak je toto neplnění závažné. Informuje o tom rovněž neprodleně Komisi a ostatní členské státy.
1.  Pokud má oznamující orgán podezření nebo je upozorněn na to, že oznámený subjekt již nesplňuje požadavky stanovené v článku 33 nebo neplní své povinnosti, prošetří tuto záležitost s největší péčí. V této souvislosti informuje dotčený oznámený subjekt o vznesených námitkách a poskytne mu možnost, aby vyjádřil svá stanoviska. Pokud oznamující orgán dospěje k závěru, že oznámený subjekt již nesplňuje požadavky stanovené v článku 33 nebo že tento subjekt neplní své povinnosti, omezí, pozastaví nebo případně zruší oznámení podle toho, jak je toto neplnění závažné. Informuje o tom rovněž neprodleně Komisi a ostatní členské státy.
Pozměňovací návrh 431
Návrh nařízení
Čl. 36 – odst. 2
2.  V případě omezení, pozastavení nebo zrušení oznámení nebo v případě, že oznámený subjekt ukončil svou činnost, zajistí oznamující orgán, aby byly spisy tohoto oznámeného subjektu buď převzaty jiným oznámeným subjektem, nebo aby byly na vyžádání k dispozici příslušným oznamujícím orgánům.
2.  V případě omezení, pozastavení nebo zrušení oznámení nebo v případě, že oznámený subjekt ukončil svou činnost, zajistí oznamující orgán, aby byly spisy tohoto oznámeného subjektu buď převzaty jiným oznámeným subjektem, nebo aby byly na vyžádání k dispozici příslušným oznamujícím orgánům a orgánu dozoru nad trhem.
Pozměňovací návrh 432
Návrh nařízení
Čl. 37 – odst. 1
1.  Komise v případě potřeby vyšetří všechny případy, u nichž jsou důvody pochybovat o tom, zda oznámený subjekt splňuje požadavky uvedené v článku 33.
1.  Komise v případě potřeby vyšetří všechny případy, u nichž jsou důvody pochybovat o kvalifikaci oznámeného subjektu nebo o tom, zda oznámený subjekt nadále splňuje příslušné požadavky a povinnosti.
Pozměňovací návrh 433
Návrh nařízení
Čl. 37 – odst. 2
2.  Oznamující orgán předloží Komisi na vyžádání všechny informace týkající se oznámení dotčeného oznámeného subjektu.
2.  Oznamující orgán předloží Komisi na vyžádání všechny informace týkající se oznámení nebo zachování kvalifikace dotčeného oznámeného subjektu.
Pozměňovací návrh 434
Návrh nařízení
Čl. 37 – odst. 3
3.  Komise zajistí, aby se se všemi důvěrnými informacemi získanými v průběhu jejího šetření podle tohoto článku nakládalo jako s důvěrnými.
3.  Komise zajistí, aby se se všemi citlivými informacemi získanými v průběhu jejího šetření podle tohoto článku nakládalo jako s důvěrnými.
Pozměňovací návrh 435
Návrh nařízení
Čl. 37 – odst. 4
4.  Pokud Komise zjistí, že oznámený subjekt nesplňuje nebo přestal splňovat požadavky uvedené v článku 33, přijme odůvodněné rozhodnutí a vyzve oznamující členský stát, aby přijal nezbytná nápravná opatření, včetně případného zrušení oznámení. Tento prováděcí akt se přijme přezkumným postupem uvedeným v čl. 74 odst. 2.
4.  Pokud Komise zjistí, že oznámený subjekt nesplňuje nebo přestal splňovat požadavky pro své oznámení, informuje o tom oznamující členský stát a vyzve ho, aby přijal nezbytná nápravná opatření, včetně případného pozastavení nebo zrušení oznámení. Pokud členský stát nepřijme nezbytná nápravná opatření, může Komise prostřednictvím prováděcího aktu jmenování pozastavit, omezit nebo zrušit. Tento prováděcí akt se přijme přezkumným postupem uvedeným v čl. 74 odst. 2.
Pozměňovací návrh 436
Návrh nařízení
Čl. 38 – odst. 2 a (nový)
2a.  Komise zajistí výměnu poznatků a osvědčených postupů mezi vnitrostátními orgány členských států, které jsou odpovědné za politiku oznamování.
Pozměňovací návrh 437
Návrh nařízení
Čl. 40 – odst. 1
Předpokládá se, že vysoce rizikové systémy UI, které jsou ve shodě s harmonizovanými normami nebo jejich částmi, na něž byly zveřejněny odkazy v Úředním věstníku Evropské unie, jsou ve shodě s požadavky stanovenými v kapitole 2 této hlavy v rozsahu, v jakém se tyto normy vztahují na tyto požadavky.
Předpokládá se, že vysoce rizikové systémy UI a základní modely, které jsou ve shodě s harmonizovanými normami nebo jejich částmi, na něž byly zveřejněny odkazy v Úředním věstníku Evropské unie v souladu s nařízením (EU) 1025/2012, jsou ve shodě s požadavky stanovenými v kapitole 2 této hlavy nebo v článku 28b v rozsahu, v jakém se tyto normy vztahují na tyto požadavky.
Pozměňovací návrh 438
Návrh nařízení
Čl. 40 – odst. 1 a (nový)
Komise vydá žádosti o normalizaci, které se týkají všech požadavků tohoto nařízení, v souladu s článkem 10 nařízení (EU) č. 1025/2012 do ... [dva měsíce od vstupu tohoto nařízení v platnost]. Při přípravě žádosti o normalizaci Komise konzultuje Úřad pro UI a poradní fórum.
Pozměňovací návrh 439
Návrh nařízení
Čl. 40 – odst. 1 b (nový)
Při vydávání žádosti o normalizaci evropským normalizačním organizacím Komise upřesní, že normy musí být v souladu, a to i s odvětvovými právními předpisy uvedenými v příloze II, a zaměřené na zajištění toho, aby systémy UI nebo základní modely UI uváděné na trh nebo do provozu v Unii splňovaly příslušné požadavky stanovené v tomto nařízení.
Pozměňovací návrh 440
Návrh nařízení
Čl. 40 – odst. 1 c (nový)
Subjekty zapojené do procesu normalizace zohlední obecné zásady pro důvěryhodnou UI stanovené v čl. 4 písm. a), usilují se podporovat investice a inovace v oblasti UI, jakož i konkurenceschopnost a růst trhu Unie a přispívají k posílení globální spolupráce v oblasti normalizace, přičemž zohledňují stávající mezinárodní normy v oblasti UI, které jsou v souladu s hodnotami, základními právy a zájmy Unie, a zajišťují vyvážené zastoupení zájmů a účinnou účast všech příslušných zúčastněných stran v souladu s články 5, 6 a 7 nařízení (EU) č. 1025/2012.
Pozměňovací návrh 441
Návrh nařízení
Čl. 41 – odst. 1
1.  Pokud neexistují harmonizované normy uvedené v článku 40 nebo pokud má Komise za to, že příslušné harmonizované normy nejsou dostatečné nebo že je třeba reagovat na konkrétní obavy týkající se bezpečnosti nebo základních práv, může Komise prostřednictvím prováděcích aktů přijímat společné specifikace, pokud jde o požadavky stanovené v kapitole 2 této hlavy. Tyto prováděcí akty se přijímají přezkumným postupem podle čl. 74 odst. 2.
vypouští se
Pozměňovací návrh 442
Návrh nařízení
Čl. 41 – odst. 1 a (nový)
1a.  Komise může prostřednictvím prováděcího aktu přijatého přezkumným postupem podle čl. 74 odst. 2 a po konzultaci s Úřadem pro UI a poradním fórem pro UI přijmout společné specifikace týkající se požadavků stanovených v kapitole 2 této hlavy nebo v článku 28b, pokud jsou splněny všechny tyto podmínky:
a)  neexistuje žádný odkaz na harmonizované normy, které již byly zveřejněny v Úředním věstníku Evropské unie a které se týkají základního požadavku (základních požadavků), pokud daná harmonizovaná norma není stávající normou, která musí být revidována;
b)  Komise požádala jednu nebo více evropských normalizačních organizací o vypracování harmonizované normy pro základní požadavek (základní požadavky) stanovené v kapitole 2;
c)  žádost uvedená v písm. b) nebyla žádnou z evropských normalizačních organizací přijata; nebo při vytváření vhodné harmonizované normy dochází ke zbytečným prodlevám; nebo předložená norma nesplňuje požadavky příslušných právních předpisů Unie nebo není v souladu se žádostí Komise.
Pozměňovací návrh 443
Návrh nařízení
Čl. 41 – odst. 1 b (nový)
1b.  Pokud se Komise domnívá, že je třeba řešit konkrétní obavy týkající se základních práv, společné specifikace přijaté Komisí v souladu s odstavcem 1a tyto konkrétní obavy týkající se základních práv rovněž řeší.
Pozměňovací návrh 444
Návrh nařízení
Čl. 41 – odst. 1 c (nový)
1c.  Komise vypracuje společné specifikace pro metodiku ke splnění požadavku na podávání zpráv a dokumentaci o spotřebě energie a zdrojů během vývoje, trénování a zavádění vysoce rizikového systému UI.
Pozměňovací návrh 445
Návrh nařízení
Čl. 41 – odst. 2
2.  Při přípravě společných specifikací uvedených v odstavci 1 shromáždí Komise názory příslušných subjektů nebo skupin odborníků zřízených podle příslušných odvětvových právních předpisů Unie.
2.  Komise v průběhu celého procesu vypracovávání společných specifikací uvedených v odstavcích 1a a 1b pravidelně konzultuje Úřad pro UI a poradní fórum, evropské normalizační organizace a subjekty nebo skupiny odborníků zřízené podle příslušných odvětvových právních předpisů Unie, jakož i další příslušné zúčastněné strany. Komise plní cíle uvedené v čl. 40 odst. 1c a řádně odůvodní, proč se rozhodla použít společné specifikace.
Pokud má Komise v úmyslu přijmout společné specifikace podle odstavce 1a tohoto článku, rovněž jasně určí konkrétní obavy týkající se základních práv, které je třeba řešit.
Při přijímání společných specifikací podle odstavců 1a a 1b tohoto článku Komise zohlední stanovisko vydané Úřadem pro UI uvedeným v čl. 56e písm. b) tohoto nařízení. Pokud se Komise rozhodne neřídit se stanoviskem Úřadu pro UI, poskytne Úřadu pro UI odůvodněné vysvětlení.
Pozměňovací návrh 446
Návrh nařízení
Čl. 41 – odst. 3
3.  Předpokládá se, že vysoce rizikové systémy UI, které jsou ve shodě s obecnými specifikacemi uvedenými v odstavci 1, jsou ve shodě s požadavky stanovenými v kapitole 2 této hlavy v rozsahu, v jakém se tyto obecné specifikace vztahují na uvedené požadavky.
3.  Předpokládá se, že vysoce rizikové systémy UI, které jsou ve shodě s obecnými specifikacemi uvedenými v odstavci 1a a 1b, jsou ve shodě s požadavky stanovenými v kapitole 2 této hlavy v rozsahu, v jakém se tyto obecné specifikace vztahují na uvedené požadavky.
Pozměňovací návrh 447
Návrh nařízení
Čl. 41 – odst. 3 a (nový)
3a.  Pokud některá evropská normalizační organizace harmonizovanou normu přijme a navrhne Komisi, aby zveřejnila na ni odkaz v Úředním věstníku Evropské unie, Komise harmonizovanou normu posoudí v souladu s nařízením (EU) č. 1025/2012. Je-li odkaz na harmonizovanou normu zveřejněn v Úředním věstníku Evropské unie, Komise zruší akty uvedené v odstavci 1 a 1b nebo jejich části, které se týkají stejných požadavků stanovených v kapitole 2 této hlavy.
Pozměňovací návrh 448
Návrh nařízení
Čl. 41 – odst. 4
4.  Pokud poskytovatelé nejsou ve shodě se společnými specifikacemi uvedenými v odstavci 1, řádně zdůvodní, že přijali technická řešení, která jsou s nimi přinejmenším rovnocenná.
4.  Pokud poskytovatelé vysoce rizikových systémů UI nejsou ve shodě se společnými specifikacemi uvedenými v odstavci 1, řádně zdůvodní, že přijali technická řešení, která splňují požadavky uvedené v kapitole 2 v míře, která je s nimi přinejmenším rovnocenná.
Pozměňovací návrh 449
Návrh nařízení
Čl. 42 – odst. 1
1.  U vysoce rizikových systémů UI, které byly trénovány a testovány na údajích týkajících se konkrétního zeměpisného, behaviorálního a funkčního prostředí, ve kterém mají být používány, se s ohledem na jejich zamýšlený účel předpokládá, že jsou v souladu s požadavkem stanoveným v čl. 10 odst. 4.
1.  U vysoce rizikových systémů UI, které byly trénovány a testovány na údajích týkajících se konkrétního zeměpisného, behaviorálního, kontextuálního a funkčního prostředí, ve kterém mají být používány, se s ohledem na jejich zamýšlený účel předpokládá, že jsou v souladu s příslušnými požadavky stanovenými v čl. 10 odst. 4.
Pozměňovací návrh 450
Návrh nařízení
Čl. 43 – odst. 1 – návětí
1.  V případě vysoce rizikových systémů UI uvedených v bodu 1 přílohy III, u nichž poskytovatel při prokazování souladu vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy použil harmonizované normy uvedené v článku 40, nebo tam, kde je to relevantní, společné specifikace uvedené v článku 41, uplatňuje poskytovatel jeden z následujících postupů:
1.  V případě vysoce rizikových systémů UI uvedených v bodu 1 přílohy III, u nichž poskytovatel při prokazování souladu vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy použil harmonizované normy uvedené v článku 40, nebo tam, kde je to relevantní, společné specifikace uvedené v článku 41, zvolí poskytovatel jeden z následujících postupů:
Pozměňovací návrh 451
Návrh nařízení
Čl. 43 – odst. 1 – písm. a
a)  postup posuzování shody založený na vnitřní kontrole podle přílohy VI;
a)  postup posuzování shody založený na vnitřní kontrole podle přílohy VI; nebo
Pozměňovací návrh 452
Návrh nařízení
Čl. 43 – odst. 1 – písm. b
b)  postup posuzování shody založený na posouzení systému řízení kvality a posouzení technické dokumentace za účasti oznámeného subjektu podle přílohy VII.
b)  postup posuzování shody založený na posouzení systému řízení kvality a technické dokumentace za účasti oznámeného subjektu podle přílohy VII.
Pozměňovací návrh 453
Návrh nařízení
Čl. 43 – odst. 1 – pododstavec 1
Pokud poskytovatel při prokazování souladu vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy nepoužil harmonizované normy uvedené v článku 40 nebo je použil pouze částečně, případně pokud tyto harmonizované normy neexistují a společné specifikace uvedené v článku 41 nejsou k dispozici, uplatňuje poskytovatel postup posuzování shody podle přílohy VII.
Při prokazování souladu vysoce rizikového systému UI s požadavky stanovenými v kapitole 2 této hlavy se poskytovatel řídí postupem posuzování shody stanoveným v příloze VII v těchto případech:
a)  pokud harmonizované normy uvedené v článku 40, jejichž referenční čísla byla zveřejněna v Úředním věstníku Evropské unie a které zahrnují všechny příslušné požadavky na bezpečnost systému UI, neexistují a společné specifikace uvedené v článku 41 nejsou k dispozici;
b)  pokud technické specifikace uvedené v písmenu a) existují, ale poskytovatel je nepoužil nebo je použil pouze částečně;
c)  pokud jedna nebo více technických specifikací uvedených v písmenu a) bylo zveřejněno s omezením a pouze pro tu část normy, která byla omezena;
d)  pokud se poskytovatel domnívá, že povaha, návrh, konstrukce nebo účel systému UI vyžaduje ověření třetí stranou, bez ohledu na úroveň rizika.
Pozměňovací návrh 454
Návrh nařízení
Čl. 43 – odst. 1 – pododstavec 2
Pro účely postupu posuzování shody uvedeného v příloze VII si poskytovatel může zvolit kterýkoli z oznámených subjektů. Je-li však systém určen k uvedení do provozu donucovacími, imigračními nebo azylovými orgány, jakož i institucemi, orgány nebo agenturami EU, jedná jako oznámený subjekt orgán dozoru nad trhem uvedený v čl. 63 odst. 5, případně 6.
Pro účely provádění postupu posuzování shody uvedeného v příloze VII si poskytovatel může zvolit kterýkoli z oznámených subjektů. Je-li však systém určen k uvedení do provozu donucovacími, imigračními nebo azylovými orgány, jakož i institucemi, orgány nebo agenturami EU, jedná jako oznámený subjekt orgán dozoru nad trhem uvedený v čl. 63 odst. 5, případně 6.
Pozměňovací návrh 455
Návrh nařízení
Čl. 43 – odst. 4 – návětí
4.  U vysoce rizikových systémů UI musí být proveden nový postup posuzování shody pokaždé, když jsou podstatně změněny, bez ohledu na to, zda má být změněný systém dále distribuován nebo zda jej i nadále používá jeho současný uživatel.
4.  U vysoce rizikových systémů UI, u kterých již byl postup posuzování shody proveden, musí být proveden nový postup posuzování shody pokaždé, když jsou podstatně změněny, bez ohledu na to, zda má být změněný systém dále distribuován nebo zda jej i nadále používá jeho současný provozovatel.
Pozměňovací návrh 456
Návrh nařízení
Čl. 43 – odst. 4 a (nový)
4a.  Při stanovování poplatků za posuzování shody třetí stranou podle tohoto článku se zohlední zvláštní zájmy a potřeby malých a středních podniků tak, že se tyto poplatky sníží úměrně jejich velikosti a podílu na trhu.
Pozměňovací návrh 457
Návrh nařízení
Čl. 43 – odst. 5
5.  Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace příloh VI a VII s cílem zavést prvky postupů posuzování shody, které mohou být nutné s ohledem na technický pokrok.
5.  Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace příloh VI a VII s cílem zavést prvky postupů posuzování shody, které mohou být nutné s ohledem na technický pokrok. Při přípravě těchto aktů v přenesené pravomoci Komise konzultuje Úřad pro UI a dotčené zúčastněné strany.
Pozměňovací návrh 458
Návrh nařízení
Čl. 43 – odst. 6
6.  Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci za účelem změny odstavců 1 a 2 s cílem podrobit vysoce rizikové systémy UI uvedené v bodech 2 až 8 přílohy III postupu posuzování shody uvedenému v příloze VII nebo jejích částech. Komise přijímá tyto akty v přenesené pravomoci s přihlédnutím k účinnosti postupu posuzování shody založeného na vnitřní kontrole podle přílohy VI v oblasti prevence nebo minimalizace rizik pro zdraví, bezpečnost a ochranu základních práv, která tyto systémy představují, jakož i k dostupnosti přiměřených kapacit a zdrojů mezi oznámenými subjekty.
6.  Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci za účelem změny odstavců 1 a 2 s cílem podrobit vysoce rizikové systémy UI uvedené v bodech 2 až 8 přílohy III postupu posuzování shody uvedenému v příloze VII nebo jejích částech. Komise přijímá tyto akty v přenesené pravomoci s přihlédnutím k účinnosti postupu posuzování shody založeného na vnitřní kontrole podle přílohy VI v oblasti prevence nebo minimalizace rizik pro zdraví, bezpečnost a ochranu základních práv, která tyto systémy představují, jakož i k dostupnosti přiměřených kapacit a zdrojů mezi oznámenými subjekty. Při přípravě těchto aktů v přenesené pravomoci Komise konzultuje Úřad pro UI a dotčené zúčastněné strany.
Pozměňovací návrh 459
Návrh nařízení
Čl. 44 – odst. 1
1.  Certifikáty vydané oznámenými subjekty v souladu s přílohou VII se vyhotovují v úředním jazyce Unie, který stanoví členský stát, v němž je oznámený subjekt usazen, nebo v úředním jazyce Unie, který je pro oznámený subjekt případně jinak přijatelný.
1.  Certifikáty vydané oznámenými subjekty v souladu s přílohou VII se vyhotovují v jednom nebo několika úředních jazycích Unie, které stanoví členský stát, v němž je oznámený subjekt usazen, nebo v jednom nebo několika úředních jazycích Unie, které jsou pro oznámený subjekt případně jinak přijatelné.
Pozměňovací návrh 460
Návrh nařízení
Čl. 44 – odst. 2
2.  Certifikáty jsou platné po dobu v nich uvedenou, která nesmí překročit délku pěti let. Na základě žádosti poskytovatele může být platnost certifikátu prodlužována o další období, z nichž žádné nepřekročí délku pěti let, a to na základě nového posouzení v souladu s příslušnými postupy posuzování shody.
2.  Certifikáty jsou platné po dobu v nich uvedenou, která nesmí překročit délku čtyř let. Na základě žádosti poskytovatele může být platnost certifikátu prodlužována o další období, z nichž žádné nepřekročí délku čtyř let, a to na základě nového posouzení v souladu s příslušnými postupy posuzování shody.
Pozměňovací návrh 461
Návrh nařízení
Čl. 44 – odst. 3
3.  Pokud oznámený subjekt zjistí, že systém UI již nesplňuje požadavky uvedené v kapitole 2 této hlavy, pozastaví s ohledem na zásadu proporcionality platnost certifikátu nebo ho zruší či jinak omezí, dokud není vhodnými nápravnými opatřeními přijatými poskytovatelem tohoto systému v rámci příslušné lhůty stanovené oznámeným subjektem zajištěno dosažení souladu s těmito požadavky. Oznámený subjekt své rozhodnutí zdůvodní.
3.  Pokud oznámený subjekt zjistí, že systém UI již nesplňuje požadavky uvedené v kapitole 2 této hlavy, pozastaví platnost certifikátu nebo ho zruší či jinak omezí, dokud není vhodnými nápravnými opatřeními přijatými poskytovatelem tohoto systému v rámci příslušné lhůty stanovené oznámeným subjektem zajištěno dosažení souladu s těmito požadavky. Oznámený subjekt své rozhodnutí zdůvodní.
Pozměňovací návrh 462
Návrh nařízení
Čl. 45 – odst. 1
Členské státy zajistí, aby byl stranám, které mají na uvedeném rozhodnutí oprávněný zájem, k dispozici postup pro podání opravného prostředku proti rozhodnutím oznámených subjektů.
Členské státy zajistí, aby byl stranám, které mají na uvedeném rozhodnutí oprávněný zájem, k dispozici postup pro podání opravného prostředku proti rozhodnutím oznámených subjektů, včetně rozhodnutí týkajících se vydaných certifikátů shody.
Pozměňovací návrh 463
Návrh nařízení
Čl. 46 – odst. 3
3.  Každý oznámený subjekt poskytne ostatním oznámeným subjektům, které vykonávají obdobné činnosti posuzování shody a zabývají se stejnými technologiemi umělé inteligence, příslušné informace o otázkách týkajících se negativních a na vyžádání pozitivních výsledků posuzování shody.
3.  Každý oznámený subjekt poskytne ostatním oznámeným subjektům, které vykonávají obdobné činnosti posuzování shody, příslušné informace o otázkách týkajících se negativních a na vyžádání pozitivních výsledků posuzování shody.
Pozměňovací návrh 464
Návrh nařízení
Čl. 47 – odst. 1
1.  Odchylně od článku 43 může kterýkoli orgán dozoru nad trhem povolit uvedení konkrétních vysoce rizikových systémů UI na trh nebo do provozu na území dotčeného členského státu z výjimečných důvodů veřejné bezpečnosti nebo ochrany života a zdraví osob, ochrany životního prostředí a ochrany klíčových průmyslových a infrastrukturních aktiv. Toto povolení se uděluje na omezenou dobu, dokud jsou prováděny nezbytné postupy posuzování shody, a končí, jakmile jsou tyto postupy dokončeny. Dokončení těchto postupů bude provedeno bez zbytečného odkladu.
1.  Odchylně od článku 43 může kterýkoli vnitrostátní dozorový orgán požádat justiční orgán, aby povolil uvedení konkrétních vysoce rizikových systémů UI na trh nebo do provozu na území dotčeného členského státu z výjimečných důvodů ochrany života a zdraví osob, ochrany životního prostředí a ochrany kritické infrastruktury. Toto povolení se uděluje na omezenou dobu, dokud jsou prováděny nezbytné postupy posuzování shody, a končí, jakmile jsou tyto postupy dokončeny. Dokončení těchto postupů bude provedeno bez zbytečného odkladu;
Pozměňovací návrh 465
Návrh nařízení
Čl. 47 – odst. 2
2.  Povolení uvedené v odstavci 1 bude vydáno jen tehdy, pokud orgán dozoru nad trhem dospěje k závěru, že daný vysoce rizikový systém UI splňuje požadavky kapitoly 2 této hlavy. Orgán dozoru nad trhem informuje Komisi a ostatní členské státy o každém povolení vydaném podle odstavce 1.
2.  Povolení uvedené v odstavci 1 bude vydáno jen tehdy, pokud vnitrostátní dozorový orgán a justiční orgán dospějí k závěru, že daný vysoce rizikový systém UI splňuje požadavky kapitoly 2 této hlavy. Vnitrostátní dozorový orgán informuje Komisi, Úřad pro umělou inteligenci a ostatní členské státy o každé žádosti a každém následném povolení vydaném podle odstavce 1;
Pozměňovací návrh 466
Návrh nařízení
Čl. 47 – odst. 3
3.  Pokud do patnácti kalendářních dnů od obdržení informací uvedených v odstavci 2 žádný členský stát ani Komise nevznese námitku proti povolení vydanému orgánem dozoru nad trhem členského státu v souladu s odstavcem 1, považuje se povolení za oprávněné.
3.  Pokud do patnácti kalendářních dnů od obdržení informací uvedených v odstavci 2 žádný členský stát ani Komise nevznese námitku proti žádosti vnitrostátního dozorového orgánu o povolení vydané vnitrostátním dozorovým orgánem členského státu v souladu s odstavcem 1, považuje se povolení za oprávněné;
Pozměňovací návrh 467
Návrh nařízení
Čl. 47 – odst. 4
4.  Pokud členský stát do patnácti kalendářních dnů od přijetí oznámení uvedeného v odstavci 2 vznese námitky proti povolení vydanému orgánem dozoru nad trhem jiného členského státu nebo pokud se Komise domnívá, že toto povolení je v rozporu s právními předpisy Unie nebo se závěrem členských států ohledně souladu systému podle odstavce 2 neopodstatněné, zahájí Komise neprodleně konzultace s příslušným členským státem; dotčený provozovatel či provozovatelé jsou konzultováni a mají možnost předložit svá stanoviska. S ohledem na to Komise rozhodne, zda je povolení oprávněné či nikoli. Rozhodnutí Komise je určeno dotčenému členskému státu a příslušnému provozovateli nebo provozovatelům.
4.  Pokud členský stát do patnácti kalendářních dnů od přijetí oznámení uvedeného v odstavci 2 vznese námitky proti žádosti podané vnitrostátním dozorovým orgánem jiného členského státu nebo pokud se Komise domnívá, že toto povolení je v rozporu s právními předpisy Unie nebo se závěrem členských států ohledně souladu systému podle odstavce 2 neopodstatněné, zahájí Komise neprodleně konzultace s příslušným členským státem a Úřadem pro umělou inteligenci; dotčený provozovatel či provozovatelé jsou konzultováni a mají možnost předložit svá stanoviska. S ohledem na to Komise rozhodne, zda je povolení oprávněné či nikoli. Rozhodnutí Komise je určeno dotčenému členskému státu a příslušnému provozovateli nebo provozovatelům;
Pozměňovací návrh 468
Návrh nařízení
Čl. 47 – odst. 5
5.  Pokud je povolení považováno za neodůvodněné, orgán dozoru nad trhem dotčeného členského státu jej zruší.
5.  Pokud je povolení považováno za neodůvodněné, vnitrostátní dozorový orgán dotčeného členského státu jej zruší;
Pozměňovací návrh 469
Návrh nařízení
Čl. 48 – odst. 1
1.  Poskytovatel vypracuje pro každý systém UI písemné EU prohlášení o shodě a po dobu deseti let od uvedení systému UI na trh nebo do provozu je uchovává pro potřebu příslušných vnitrostátních orgánů. V EU prohlášení o shodě je uveden systém UI, pro nějž bylo vypracováno. Kopie EU prohlášení o shodě bude na vyžádání poskytnuta dotčeným příslušným vnitrostátním orgánům.
1.  Poskytovatel vypracuje pro každý vysoce rizikový systém UI písemné, strojově čitelné, fyzické nebo elektronické EU prohlášení o shodě a po dobu deseti let od uvedení vysoce rizikového systému UI na trh nebo do provozu je uchovává pro potřebu vnitrostátního dozorového orgánu a příslušných vnitrostátních orgánů. Kopie EU prohlášení o shodě bude na vyžádání předložena vnitrostátnímu dozorovému orgánu a dotčeným příslušným vnitrostátním orgánům.
Pozměňovací návrh 470
Návrh nařízení
Čl. 48 – odst. 2
2.  EU prohlášení o shodě stanoví, že dotyčný vysoce rizikový systém UI splňuje požadavky stanovené v kapitole 2 této hlavy. EU prohlášení o shodě obsahuje informace stanovené v příloze V a je přeloženo do úředního jazyka nebo jazyků Unie požadovaných členským státem nebo členskými státy, v nichž je vysoce rizikový systém UI dodáván na trh.
2.  EU prohlášení o shodě stanoví, že dotyčný vysoce rizikový systém UI splňuje požadavky stanovené v kapitole 2 této hlavy. EU prohlášení o shodě obsahuje informace stanovené v příloze V a je přeloženo do úředního jazyka nebo jazyků Unie požadovaných členským státem nebo členskými státy, v nichž je vysoce rizikový systém UI uveden nebo dodáván na trh;
Pozměňovací návrh 471
Návrh nařízení
Čl. 48 – odst. 3
3.  Pokud se na vysoce rizikové systémy AI vztahují jiné harmonizační právní předpisy Unie, které také vyžadují EU prohlášení o shodě, vypracuje se jediné EU prohlášení o shodě s ohledem na všechny právní předpisy Unie, které se vztahují na daný vysoce rizikový systém UI. Toto prohlášení musí obsahovat veškeré informace požadované pro identifikaci harmonizačních právních předpisů Unie, k nimž se prohlášení vztahuje.
3.  Pokud se na vysoce rizikové systémy AI vztahují jiné harmonizační právní předpisy Unie, které také vyžadují EU prohlášení o shodě, může se vypracovat jediné EU prohlášení o shodě s ohledem na všechny právní předpisy Unie, které se vztahují na daný vysoce rizikový systém UI. Toto prohlášení musí obsahovat veškeré informace požadované pro identifikaci harmonizačních právních předpisů Unie, k nimž se prohlášení vztahuje.
Pozměňovací návrh 472
Návrh nařízení
Čl. 48 – odst. 5
5.  Komisi je svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace obsahu EU prohlášení o shodě uvedeného v příloze V s cílem zavést prvky, které mohou být nutné s ohledem na technický pokrok.
5.  Po konzultaci s Úřadem pro umělou inteligenci je Komisi svěřena pravomoc přijímat akty v přenesené pravomoci v souladu s článkem 73 za účelem aktualizace obsahu EU prohlášení o shodě uvedeného v příloze V s cílem zavést prvky, které mohou být nutné s ohledem na technický pokrok.
Pozměňovací návrh 473
Návrh nařízení
Čl. 49 – odst. 1
1.  Označení CE se viditelně, čitelně a nesmazatelně umístí na daný vysoce rizikový systém UI. Pokud to není možné nebo to nelze s ohledem na charakter vysoce rizikového systému UI zaručit, umístí se podle potřeby na obal nebo na průvodní doklady.
1.  Fyzické označení CE se viditelně, čitelně a nesmazatelně umístí na daný vysoce rizikový systém UI před takového systému UI na trh. Pokud to není možné nebo to nelze s ohledem na charakter vysoce rizikového systému UI zaručit, umístí se podle potřeby na obal nebo na průvodní doklady. Za označením CE může následovat piktogram nebo jakékoli jiné označení upozorňující na specifické riziko použití;
Pozměňovací návrh 474
Návrh nařízení
Čl. 49 – odst. 1 a (nový)
1a.  U pouze digitálních vysoce rizikových systémů UI se digitální označení CE použije pouze tehdy, je-li snadno přístupné prostřednictvím rozhraní, z něhož se přistupuje do systému UI, nebo prostřednictvím snadno přístupného strojově čitelného kódu nebo jiných elektronických prostředků.
Pozměňovací návrh 475
Návrh nařízení
Čl. 49 – odst. 3
3.  Tam, kde je to relevantní, následuje za označením CE identifikační číslo oznámeného subjektu odpovědného za postupy posuzování shody stanovené v článku 43. Identifikační číslo je rovněž uvedeno ve všech propagačních materiálech, které uvádí, že daný vysoce rizikový systém UI splňuje požadavky na označení CE.
3.  Tam, kde je to relevantní, následuje za označením CE identifikační číslo oznámeného subjektu odpovědného za postupy posuzování shody stanovené v článku 43. Identifikační číslo oznámeného subjektu umístí sám subjekt, nebo jej umístí podle jeho pokynů zplnomocněný zástupce poskytovatele. Identifikační číslo je rovněž uvedeno ve všech propagačních materiálech, které uvádí, že daný vysoce rizikový systém UI splňuje požadavky na označení CE.
Pozměňovací návrh 476
Návrh nařízení
Čl. 49 – odst. 3 a (nový)
3a.  Pokud se na vysoce rizikové systémy UI vztahují jiné právní předpisy Unie, které rovněž stanoví připojení označení CE, pak se v tomto označení uvádí, že vysoce rizikové systémy UI splňují také požadavky daných jiných právních předpisů.
Pozměňovací návrh 477
Návrh nařízení
Čl. 50 – odst. 1 – návětí
Poskytovatel uchovává po dobu deseti let od uvedení systému UI na trh nebo do provozu pro potřebu příslušných vnitrostátních orgánů následující dokumenty:
Poskytovatel uchovává po dobu deseti let od uvedení systému UI na trh nebo do provozu pro potřebu vnitrostátních dozorových orgánů a příslušných vnitrostátních orgánů následující dokumenty:
Pozměňovací návrh 478
Návrh nařízení
Čl. 51 – odst. 1
Před uvedením vysoce rizikového systému UI podle čl. 6 odst. 2 na trh nebo do provozu jej poskytovatel nebo tam, kde je to relevantní, zplnomocněný zástupce zaregistruje do databáze EU uvedené v článku 60.
Před uvedením vysoce rizikového systému UI podle čl. 6 odst. 2 na trh nebo do provozu jej poskytovatel nebo tam, kde je to relevantní, zplnomocněný zástupce zaregistruje do databáze EU uvedené v článku 60 v souladu s čl. 60 odst. 2;
Pozměňovací návrh 479
Návrh nařízení
Čl. 51 – odst. 1 a (nový)
Před uvedením vysoce rizikového systému UI podle čl. 6 odst. 2 do provozu nebo před jeho použitím následující kategorie provozovatelů zaznamenají použití tohoto systému UI do databáze EU uvedené v článku 60:
a)  provozovatelé, kteří jsou orgány veřejné moci nebo orgány, institucemi nebo jinými subjekty Unie nebo provozovateli jednajícími jejich jménem;
b)  provozovatelé, kteří jsou podniky určenými jako strážci podle nařízení (EU) 2022/1925.
Pozměňovací návrh 480
Návrh nařízení
Čl. 51 – odst. 1 b (nový)
Provozovatelé, na něž se nevztahuje pododstavec 1a, jsou oprávněni dobrovolně zaznamenat použití vysoce rizikového systému UI uvedeného v čl. 6 odst. 2 v databázi EU uvedené v článku 60.
Pozměňovací návrh 481
Návrh nařízení
Čl. 51 – odst. 1 c (nový)
Aktualizovaný registrační záznam musí být vyplněn ihned po každé podstatné změně.
Pozměňovací návrh 482
Návrh nařízení
Hlava IV
POVINNOSTI TRANSPARENTNOSTI URČITÝCH SYSTÉMŮ UI
POVINNOSTI TRANSPARENTNOSTI
Pozměňovací návrh 483
Návrh nařízení
Čl. 52 – název
Povinnosti transparentnosti určitých systémů UI
Povinnosti transparentnosti
Pozměňovací návrh 484
Návrh nařízení
Čl. 52 – odst. 1
1.  Poskytovatelé zajistí, že systémy UI určené k interakci s fyzickými osobami budou navrhovány a vyvíjeny tak, aby byly fyzické osoby informovány o tom, že komunikují se systémem UI, pokud to není zřejmé z okolností a kontextu použití. Tato povinnost se nevztahuje na systémy UI, které jsou ze zákona oprávněny odhalovat trestné činy, předcházet jim, vyšetřovat je a stíhat, s výjimkou případů, kdy jsou tyto systémy k dispozici veřejnosti za účelem hlášení trestných činů.
1.  Poskytovatelé zajistí, aby systémy UI určené k interakci s fyzickými osobami byly navrhovány a vyvíjeny tak, aby systém UI či sám poskytovatel nebo uživatel informoval fyzickou osobu vystavenou systému UI o tom, že komunikuje se systémem UI, a to včas, jasně a srozumitelně, pokud to není zřejmé z okolností a kontextu použití.
Je-li to vhodné a relevantní, patří mezi příslušné informace rovněž funkce, které jsou na umělé inteligenci založeny, zda existuje lidský dohled a kdo je odpovědný za rozhodovací proces a dále stávající práva a postupy, které v souladu s unijním a vnitrostátním právem umožňují fyzickým osobám nebo jejich zástupcům vznést proti tomu, aby na ně byly tyto systémy použity, námitku a domáhat se v souvislosti s rozhodnutími přijatými systémy UI nebo škodami jimi způsobenými soudní nápravy, včetně práva žádat o vysvětlení. Tato povinnost se nevztahuje na systémy UI, které jsou ze zákona oprávněny odhalovat trestné činy, předcházet jim, vyšetřovat je a stíhat, s výjimkou případů, kdy jsou tyto systémy k dispozici veřejnosti za účelem hlášení trestných činů.
Pozměňovací návrh 485
Návrh nařízení
Čl. 52 – odst. 2
2.  Uživatelé systému rozpoznávání emocí nebo systému biometrické kategorizace musí o fungování tohoto systému informovat fyzické osoby, které jsou mu vystaveny. Tato povinnost se nevztahuje na systémy UI používané pro biometrickou kategorizaci, u nichž zákon povoluje odhalování, prevenci a vyšetřování trestných činů.
2.  Uživatelé systému rozpoznávání emocí nebo systému biometrické kategorizace, který není zakázán podle článku 5, informují včas, jasně a srozumitelně fyzické osoby, které jsou těmto systémům vystaveny, a před zpracováním jejich biometrických a jiných osobních údajů v souladu s nařízením (EU) 2016/679, nařízením (EU) 2016/1725 a případně směrnicí (EU) 2016/280 získají jejich souhlas. Tato povinnost se nevztahuje na systémy UI používané pro biometrickou kategorizaci, u nichž zákon povoluje odhalování, prevenci a vyšetřování trestných činů.
Pozměňovací návrh 486
Návrh nařízení
Čl. 52 – odst. 3 – pododstavec 1
3.  Uživatelé systému UI vytvářejícího obrazový, zvukový nebo video obsah, který se znatelně podobá existujícím osobám, objektům, místům nebo jiným subjektům nebo událostem a který by se určité osobě mohl nepravdivě jevit jako autentický nebo pravdivý (tzv. deep fake), případně manipulujícího s takovým obsahem, zveřejní, že tento obsah byl uměle vytvořen nebo s ním bylo manipulováno.
3.  Uživatelé systému UI vytvářejícího textový, zvukový nebo vizuální obsah, který vyvolává klamné zdání autentičnosti či pravdivosti a v němž se, bez svého souhlasu, objevují osoby, které zdánlivě říkají nebo dělají něco, co neřekly nebo nedělaly (tzv. deep fake), případně manipulujícího s takovým obsahem, zveřejní vhodným způsobem, včas, jasně a viditelně informaci o tom, že obsah byl uměle vytvořen nebo zmanipulován, a je-li to možné, uvedou jméno fyzické nebo právnické osoby, která obsah vytvořila nebo s ním manipulovala. Zveřejněním se rozumí jasně viditelné označení obsahu způsobem, který jeho příjemce informuje o tom, že obsah není autentický. Při označování obsahu uživatelé zohlední obecně uznávaný nejnovější vývoj a příslušné harmonizované normy a specifikace.
Pozměňovací návrh 487
Návrh nařízení
Čl. 52 – odst. 3 – pododstavec 2
První pododstavec se však nepoužije, pokud toto použití povoluje zákon pro účely odhalování, prevence, vyšetřování a stíhání trestných činů nebo pokud je to nezbytné pro výkon práva na svobodu projevu a práva na svobodu umění a věd zaručených Listinou základních práv EU a s výhradou příslušných záruk práv a svobod třetích stran.
3a.  Odstavec 3 se nepoužije, pokud toto použití systému UI, jenž vytváří textový, zvukový nebo vizuální obsah nebo s ním manipuluje, povoluje zákon nebo pokud je to nezbytné pro výkon práva na svobodu projevu a práva na svobodu umění a věd zaručených Listinou základních práv EU a s výhradou příslušných záruk práv a svobod třetích stran. Pokud je obsah součástí zjevně tvůrčího, satirického, uměleckého nebo smyšleného kinematografického, videoherního, vizuálního a podobného díla nebo programu, omezují se povinnosti týkající se transparentnosti stanovené v odstavci 3 na zveřejnění existence takto vytvořeného nebo manipulovaného obsahu, a to vhodným, jasným a viditelným způsobem, který nebrání zobrazení díla, a případně na zveřejnění příslušných autorských práv. Rovněž nebrání donucovacím orgánům v používání systémů UI určených k odhalování „deep fakes“ a k prevenci, vyšetřování a stíhání trestných činů spojených s jejich používáním.
Pozměňovací návrh 488
Návrh nařízení
Čl. 52 – odst. 3 b (nový)
3b.  Informace uvedené v odstavcích 1 až 3 se fyzickým osobám poskytují nejpozději v době první interakce nebo expozice. Jsou přístupné zranitelným osobám, jako jsou osoby se zdravotním postižením nebo děti, a je-li to relevantní a vhodné, musí být doplněny o postupy zásahu nebo označení ze strany fyzické osoby, která byla vystavena tomuto obsahu, s přihlédnutím k obecně uznávanému nejnovějšímu vývoji a příslušným harmonizovaným normám a společným specifikacím.
Pozměňovací návrh 489
Návrh nařízení
Čl. 53 – odst. 1
1.  Regulační pískoviště UI vytvořená jedním nebo více příslušnými orgány členských států nebo evropským inspektorem ochrany údajů poskytují kontrolované prostředí, které usnadňuje vývoj, testování a ověřování inovativních systémů UI po omezenou dobu před jejich uvedením na trh nebo do provozu podle konkrétního plánu. K tomu dochází pod přímým dohledem a vedením příslušných orgánů s cílem zajistit soulad s požadavky tohoto nařízení a případně dalších právních předpisů Unie a členských států, nad nimiž je prováděn dohled v rámci tohoto pískoviště.
1.  Členské státy zřídí alespoň jedno regulační pískoviště UI na vnitrostátní úrovni, které bude funkční nejpozději v den vstupu tohoto nařízení v platnost. Toto pískoviště může rovněž zřídit několik členských států společně;
Pozměňovací návrh 490
Návrh nařízení
Čl. 53 – odst. 1 a (nový)
1a.  Další regulační pískoviště UI mohou být rovněž zřízena na regionální nebo místní úrovni nebo společně s jinými členskými státy;
Pozměňovací návrh 491
Návrh nařízení
Čl. 53 – odst. 1 b (nový)
1b.  Komise a evropský inspektor ochrany údajů mohou sami, společně nebo ve spolupráci s jedním či více členskými státy rovněž zřídit regulační pískoviště UI na úrovni Unie;
Pozměňovací návrh 492
Návrh nařízení
Čl. 53 – odst. 1 c (nový)
1c.  Zřizující orgány přidělí dostatečné zdroje k účinnému a včasnému dodržování tohoto článku;
Pozměňovací návrh 493
Návrh nařízení
Čl. 53 – odst. 1 d (nový)
1d.  Regulační pískoviště UI poskytují v souladu s kritérii stanovenými v článku 53a kontrolované prostředí, které podporuje inovace a usnadňuje vývoj, testování a ověřování inovativních systémů UI po omezenou dobu před jejich uvedením na trh nebo do provozu podle konkrétního plánu, na kterém se dohodli potenciální poskytovatelé a zřizující orgán;
Pozměňovací návrh 494
Návrh nařízení
Čl. 53 – odst. 1 e (nový)
1e.  Vytvoření regulačních pískovišť UI přispívá k těmto cílům:
a)  příslušné orgány poskytují pokyny potenciálním poskytovatelům systémů UI za účelem dosažení souladu s tímto nařízením nebo případně jinými příslušnými právními předpisy Unie a členských států;
b)  potenciální poskytovatelé umožní a usnadní testování a vývoj inovativních řešení souvisejících se systémy UI;
c)  regulační učení v kontrolovaném prostředí.
Pozměňovací návrh 495
Návrh nařízení
Čl. 53 – odst. 1 f (nový)
1f.  Zřizující orgány poskytují v rámci pískoviště pokyny a dohled s cílem identifikovat rizika, zejména pro základní práva, demokracii a právní stát, zdraví a bezpečnost a životní prostředí, testovat a demonstrovat zmírňující opatření pro zjištěná rizika a jejich účinnost a zajistit soulad s požadavky tohoto nařízení a případně dalšími právními předpisy Unie a členských států;
Pozměňovací návrh 496
Návrh nařízení
Čl. 53 – odst. 1 g (nový)
1g.  Zřizující orgány poskytnou potenciálním poskytovatelům pískovišť, kteří vyvíjejí vysoce rizikové systémy UI, pokyny a dohled týkající se toho, jak plnit požadavky stanovené v tomto nařízení, aby systémy UI mohly opustit pískoviště s předpokladem shody se zvláštními požadavky tohoto nařízení, které byly posouzeny v rámci pískoviště. Pokud systém UI splňuje požadavky při opuštění pískoviště, předpokládá se, že je v souladu s tímto nařízením. V tomto ohledu orgány dozoru nad trhem nebo případně oznámené subjekty zohlední zprávy o opuštění pískoviště vypracované zřizujícím orgánem v souvislosti s postupy posuzování shody nebo kontrolami v rámci dozoru nad trhem;
Pozměňovací návrh 497
Návrh nařízení
Čl. 53 – odst. 2
2.  Členské státy zajistí, aby v rozsahu, v němž dané inovativní systémy UI zahrnují zpracování osobních údajů nebo jinak spadají do oblasti dohledu jiných vnitrostátních orgánů nebo příslušných orgánů poskytujících nebo podporujících přístup k údajům, byly vnitrostátní orgány pro ochranu údajů a tyto další vnitrostátní orgány spojovány s fungováním daného regulačního pískoviště UI.
2.  Zřizující orgány zajistí, aby v rozsahu, v němž dané inovativní systémy UI zahrnují zpracování osobních údajů nebo jinak spadají do oblasti dohledu jiných vnitrostátních orgánů nebo příslušných orgánů poskytujících nebo podporujících přístup k osobním údajům, byly vnitrostátní orgány pro ochranu údajů nebo v případech uvedených v odstavci 1b evropský inspektor ochrany údajů a tyto další vnitrostátní orgány spojovány s fungováním daného regulačního pískoviště UI a byly zapojeny do dohledu nad těmito aspekty v úplném rozsahu svých příslušných pravomocí;
Pozměňovací návrh 498
Návrh nařízení
Čl. 53 – odst. 3
3.  Regulační pískoviště UI nebudou mít vliv na pravomoci příslušných orgánů v oblasti dohledu a nápravy. Veškerá významná rizika pro zdraví, bezpečnost a základní práva, která budou zjištěna během vývoje a testování těchto systémů, budou mít za následek okamžité zmírnění, a pokud se to nezdaří, pozastavení procesu vývoje a testování, dokud k tomuto zmírnění nedojde.
3.  Regulační pískoviště UI nebudou mít vliv na pravomoci příslušných orgánů v oblasti dohledu a nápravy, a to ani na regionální či místní úrovni. Veškerá významná rizika pro základní práva, demokracii a právní stát, zdraví, bezpečnost nebo životní prostředí, která budou zjištěna během vývoje a testování těchto systémů UI, budou mít za následek okamžité a přiměřené zmírnění. Příslušné orgány mají pravomoc dočasně nebo trvale pozastavit zkušební proces nebo účast v pískovišti, není-li účinné zmírnění možné, a o tomto rozhodnutí informují Úřad pro umělou inteligenci;
Pozměňovací návrh 499
Návrh nařízení
Čl. 53 – odst. 4
4.  Účastníci regulačního pískoviště UI nesou podle platných právních předpisů Unie a členských států o odpovědnosti nadále odpovědnost za jakoukoli škodu způsobenou třetím stranám v důsledku experimentů prováděných v daném pískovišti.
4.  Potenciální poskytovatelé v regulačním pískovišti UI nesou podle platných právních předpisů Unie a členských států nadále odpovědnost za jakoukoli škodu způsobenou třetím stranám v důsledku experimentů prováděných v daném pískovišti. Nicméně v případě, že potenciální poskytovetelé dodržují zvláštní plán uvedený v odstavci 1c a podmínky účasti a řídí se v dobré víře pokyny vydanými zřizujícími orgány, orgány v případě porušení tohoto nařízení neuloží žádné správní pokuty;
Pozměňovací návrh 500
Návrh nařízení
Čl. 53 – odst. 5
5.  Příslušné orgány členských států, které zřídily regulační pískoviště UI, koordinují své činnosti a spolupracují v rámci Evropské rady pro umělou inteligenci. Předkládají této radě a Komisi výroční zprávy o výsledcích provádění uvedených systémů, včetně osvědčených postupů, získaných zkušeností a doporučení o jejich uspořádání a případně o uplatňování tohoto nařízení a dalších právních předpisů Unie, nad nimiž je prováděn dohled v rámci daného pískoviště.
5.  Zřizující orgány koordinují své činnosti a spolupracují v rámci Úřadu pro umělou inteligenci;
Pozměňovací návrh 501
Návrh nařízení
Čl. 53 – odst. 5 a (nový)
5a.  Zřizující orgány informují Úřad pro umělou inteligenci o zřízení pískoviště a mohou požádat o podporu a pokyny. Úřad pro umělou inteligenci zveřejní a aktualizuje seznam plánovaných a stávajících pískovišť s cílem podpořit větší interakci v regulačních pískovištích a nadnárodní spolupráci;
Pozměňovací návrh 502
Návrh nařízení
Čl. 53 – odst. 5 b (nový)
5b.  Zřizující orgány předkládají Úřadu pro umělou inteligenci, a pokud není jediným zřizujícím orgánem, Komisi výroční zprávy, a to od jednoho roku po zřízení pískoviště a poté každý rok až do jeho ukončení, a závěrečnou zprávu. Tyto zprávy obsahují informace o pokroku při zavádění uvedených pískovišť a jejich výsledcích, včetně osvědčených postupů, incidentů, získaných zkušeností a doporučení o jejich uspořádání a případně o uplatňování a případné revizi tohoto nařízení a dalších právních předpisů Unie, nad nimiž je prováděn dohled v rámci daného pískoviště. Tyto výroční zprávy nebo jejich shrnutí se zpřístupní veřejnosti online;
Pozměňovací návrh 503
Návrh nařízení
Čl. 53 – odst. 6
6.  Způsob a podmínky fungování regulačních pískovišť UI, včetně kritérií způsobilosti a postupu pro podávání žádostí o účast na tomto pískovišti, výběr, účast a ukončení této účasti, jakož i práva a povinnosti účastníků, jsou stanoveny v prováděcích aktech. Tyto prováděcí akty se přijímají přezkumným postupem podle čl. 74 odst. 2.
6.  Komise vytvoří jednotné a vyhrazené rozhraní obsahující veškeré relevantní informace týkající se pískovišť spolu s jednotným kontaktním místem na úrovni Unie, které umožní interakci s regulačními pískovišti a také umožní zúčastněným stranám pokládat příslušným orgánům dotazy a žádat o nezávazné pokyny týkající se souladu inovativních produktů, služeb a obchodních modelů zahrnujících technologie UI s tímto nařízením;
Komise aktivně koordinuje svou činnost s vnitrostátními, regionálními a případně místními orgány;
Pozměňovací návrh 504
Návrh nařízení
Čl. 53 – odst. 6 a (nový)
6a.  Pro účely odstavce 1 a 1a Komise plní doplňkovou úlohu, kdy na jedné straně umožňuje členským státům stavět na svých odborných znalostech a na druhé straně pomáhá členským státům, které žádají o pokyny ohledně zřízení a provozu těchto regulačních pískovišť, a poskytuje jim odborné poznatky a zdroje;
Pozměňovací návrh 505
Návrh nařízení
Článek 53 a (nový)
Článek 53a
Způsoby a fungování regulačních pískovišť UI
1.  Aby se zabránilo roztříštěnosti v celé Unii, přijme Komise po konzultaci s Úřadem pro umělou inteligenci akt v přenesené pravomoci, v němž podrobně stanoví způsoby zřizování, vývoje, provádění a fungování regulačních pískovišť UI a dohled nad nimi, včetně kritérií způsobilosti a postupu pro podávání žádostí, výběr, účast a opuštění tohoto pískoviště, a práv a povinností účastníků na základě ustanovení tohoto článku;
2.  Komise je zmocněna přijímat akty v přenesené pravomoci v souladu s postupem uvedeným v článku 73 nejpozději 12 měsíců po vstupu tohoto nařízení v platnost, přičemž zajistí následující:
a)  regulační pískoviště jsou otevřena jakémukoli potenciálnímu poskytovateli systému UI, který splňuje kritéria způsobilosti a výběru. Kritéria pro přístup k regulačnímu pískovišti jsou transparentní a spravedlivá a zřizující orgány informují žadatele o svém rozhodnutí do tří měsíců od podání žádosti;
b)  regulační pískoviště umožňují široký a rovný přístup a drží krok s poptávkou po účasti v nich;
c)  přístup k regulačním pískovištím UI je bezplatný pro malé, střední a začínající podniky, aniž jsou dotčeny mimořádné náklady, které mohou zřizující orgány vymáhat spravedlivým a přiměřeným způsobem;
d)  regulační pískoviště usnadňují zapojení dalších příslušných subjektů v ekosystému UI, jako jsou oznámené subjekty a normalizační organizace (malé a střední podniky, začínající podniky, podniky, inovátoři, zkušební a experimentální zařízení, výzkumné a experimentální laboratoře a centra pro digitální inovace, centra excelence, jednotliví výzkumní pracovníci), s cílem umožnit a usnadnit spolupráci s veřejným a soukromým sektorem;
e)  umožní potenciálním poskytovatelům v kontrolovaném prostředí splnit povinnosti týkající se posuzování shody stanovené tímto nařízením nebo dobrovolně uplatňovat kodexy chování uvedené v článku 69;
f)  postupy, procesy a správní požadavky týkající se podávání žádostí, výběru, účasti v pískovišti a jeho opuštění jsou jednoduché, snadno srozumitelné a jasně sdělené s cílem usnadnit účast malých, středních a začínajících podniků s omezenými právními a správními kapacitami a jsou dostupné v celé Unii, aby se zabránilo roztříštěnosti a aby účast v regulačním pískovišti zřízeném členským státem, Komisí nebo evropským inspektorem ochrany údajů byla vzájemně a jednotně uznávána a měla stejné právní účinky v celé Unii;
g)  účast v regulačním pískovišti UI je omezena na dobu, která je přiměřená složitosti a rozsahu projektu;
h)  pískoviště usnadní vývoj nástrojů a infrastruktury pro testování, srovnávání, posuzování a vysvětlování rozměrů systémů umělé inteligence relevantních pro pískoviště, jako je přesnost, spolehlivost a kybernetická bezpečnost a rovněž minimalizace rizik pro lidská práva, životní prostředí a společnost obecně.
3.  Potenciálním poskytovatelům v pískovištích, zejména malým, středním a začínajícím podnikům, se usnadní přístup ke službám před zavedením, jako jsou pokyny k provádění tohoto nařízení, k dalším službám vytvářejícím přidanou hodnotu, jako je pomoc s normalizačními dokumenty a certifikací a konzultacemi, a k dalším iniciativám v oblasti jednotného digitálního trhu, jako jsou testovací a experimentální zařízení, digitální centra, centra excelence a schopnosti EU pro srovnávání;
Pozměňovací návrh 506
Návrh nařízení
Čl. 54 – název
Další zpracování osobních údajů pro účely vývoje určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI
Další zpracování údajů pro účely vývoje určitých systémů UI ve veřejném zájmu v rámci regulačního pískoviště UI
Pozměňovací návrh 507
Návrh nařízení
Čl. 54 – odst. 1 – návětí
1.  V regulačním pískovišti UI budou zpracovávány osobní údaje zákonně shromážděné pro jiné účely za účelem vývoje a testování určitých inovativních systémů UI v daném pískovišti za následujících podmínek:
1.  V regulačním pískovišti UI mohou být zpracovávány osobní údaje zákonně shromážděné pro jiné účely pouze za účelem vývoje a testování určitých inovativních systémů UI v daném pískovišti, pokud jsou splněny všechny následující podmínky:
Pozměňovací návrh 508
Návrh nařízení
Čl. 54 – odst. 1 – písm. a – návětí
a)  inovativní systémy UI budou vyvinuty za účelem ochrany podstatného veřejného zájmu v jedné nebo více z následujících oblastí:
a)  systémy UI budou vyvinuty za účelem ochrany podstatného veřejného zájmu v jedné nebo více z následujících oblastí:
ii)  veřejná bezpečnost a veřejné zdraví, včetně odhalování, diagnózy, prevence, tlumení a léčby nemocí;
iii)  vysoká úroveň ochrany a zlepšování kvality životního prostředí, ochrana biologické rozmanitosti, jakož i zmírňování znečištění a změny klimatu a přizpůsobování se této změně;
iiia)  bezpečnost a odolnost dopravních systémů, infrastruktury a sítí.
Pozměňovací návrh 509
Návrh nařízení
Čl. 54 – odst. 1 – písm. a – bod i
i)  prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkon trestů, včetně ochrany před hrozbami pro veřejnou bezpečnost a jejich předcházení pod dozorem a v pravomoci příslušných orgánů. Zpracování je založeno na právu členských států nebo na právu Unie;
vypouští se
Pozměňovací návrh 510
Návrh nařízení
Čl. 54 – odst. 1 – písm. c
c)  existují účinné monitorovací mechanismy umožňující identifikovat, zda mohou během experimentování v pískovišti vzniknout vysoká rizika pro základní práva subjektů údajů, jakož i mechanismus reakce umožňující okamžité zmírnění těchto rizik a v případě potřeby i zastavení zpracování;
c)  existují účinné monitorovací mechanismy umožňující identifikovat, zda mohou během experimentování v pískovišti vzniknout vysoká rizika pro práva a svobody subjektů údajů stanovených v článku 35 nařízení (EU) 2016/679 a článku 35 nařízení (EU) 2018/1725, jakož i mechanismus reakce umožňující okamžité zmírnění těchto rizik a v případě potřeby i zastavení zpracování;
Pozměňovací návrh 511
Návrh nařízení
Čl. 54 – odst. 1 – písm. d
d)  veškeré osobní údaje, které mají být zpracovány v rámci pískoviště, se nacházejí ve funkčně odděleném, izolovaném a chráněném prostředí pro zpracování údajů pod kontrolou účastníků a mají k nim přístup pouze oprávněné osoby;
d)  veškeré osobní údaje, které mají být zpracovány v rámci pískoviště, se nacházejí ve funkčně odděleném, izolovaném a chráněném prostředí pro zpracování údajů pod kontrolou potenciálního poskytovatele a mají k nim přístup pouze oprávněné osoby;
Pozměňovací návrh 512
Návrh nařízení
Čl. 54 – odst. 1 – písm. f
f)  žádné zpracování osobních údajů v rámci pískoviště nevede k opatřením nebo rozhodnutím ovlivňujícím subjekty údajů;
f)  žádné zpracování osobních údajů v rámci pískoviště nevede k opatřením nebo rozhodnutím ovlivňujícím subjekty údajů ani nemá vliv na uplatňování jejich práv stanovených v právních předpisech Unie o ochraně osobních údajů;
Pozměňovací návrh 513
Návrh nařízení
Čl. 54 – odst. 1 – písm. g
g)  veškeré osobní údaje zpracovávané v rámci pískoviště jsou vymazány, jakmile skončí účast v pískovišti nebo skončí doba uchovávání osobních údajů;
g)  veškeré osobní údaje zpracovávané v rámci pískoviště jsou chráněny prostřednictvím technických a organizačních opatření a vymazány, jakmile skončí účast v pískovišti nebo skončí doba uchovávání osobních údajů;
Pozměňovací návrh 514
Návrh nařízení
Čl. 54 – odst. 1 – písm. h
h)  protokoly o zpracování osobních údajů v rámci pískoviště jsou uchovávány po dobu účasti na pískovišti a jeden rok po jejím ukončení pouze za účelem splnění povinností odpovědnosti a dokumentace podle tohoto článku nebo jiného uplatňování právních předpisů Unie nebo členských států a pouze po dobu k tomu nezbytnou;
h)  protokoly o zpracování osobních údajů v rámci pískoviště jsou uchovávány po dobu účasti na pískovišti;
Pozměňovací návrh 515
Návrh nařízení
Čl. 54 – odst. 1 – písm. j
j)  zveřejnění stručného shrnutí projektu UI vyvinutého v pískovišti, jeho cílů a očekávaných výsledků na internetových stránkách příslušných orgánů.
j)  zveřejnění stručného shrnutí systému UI vyvinutého v pískovišti, jeho cílů, hypotéz a očekávaných výsledků na internetových stránkách příslušných orgánů;
Pozměňovací návrh 516
Návrh nařízení
Článek 54 a (nový)
Článek 54a
Podpora výzkumu a vývoje v oblasti umělé inteligence na podporu dosažení sociálně a environmentálně prospěšných výsledků
1.  Členské státy propagují výzkum a vývoj řešení v oblasti umělé inteligence na podporu dosažení sociálně a environmentálně prospěšných výsledků, včetně mimo jiné vývoje řešení založených na umělé inteligenci s cílem zvýšit jejich přístupnost pro osoby se zdravotním postižením, řešit socioekonomické nerovnosti a splnit cíle v oblasti udržitelnosti a životního prostředí, a to na základě:
a)  poskytování přednostního přístupu příslušným projektům k regulačním pískovištím UI, pokud splňují podmínky způsobilosti;
b)  vyčlenění veřejných finančních prostředků, mj. z příslušných fondů EU, na výzkum a vývoj v oblasti umělé inteligence na podporu dosažení sociálně a environmentálně prospěšných výsledků;
c)  organizování zvláštní činnosti zaměřené na zvyšování povědomí o uplatňování tohoto nařízení, dostupnosti účelového financování a postupech podávání žádostí o tyto finanční prostředky, které jsou přizpůsobeny potřebám těchto projektů;
d)  zřízení přístupných specializovaných kanálů pro komunikaci s projekty ve vhodných případech, a to i v rámci pískovišť, s cílem poskytnout pokyny a reagovat na dotazy týkající se provádění tohoto nařízení.
Členské státy podporují občanskou společnost a zúčastněné strany ze sociální oblasti, aby tyto projekty vedly nebo se jich účastnily;
Pozměňovací návrh 517
Návrh nařízení
Čl. 55 – název
Opatření pro malé poskytovatele a uživatele
Opatření pro malé, střednízačínající podniky a uživatele
Pozměňovací návrh 518
Návrh nařízení
Čl. 55 – odst. 1 – písm. a
a)  poskytovat malým poskytovatelům a začínajícím podnikům přednostní přístup k regulačním pískovištím UI v rozsahu, v jakém splňují podmínky způsobilosti;
a)  poskytovat malým, středním a začínajícím podnikům usazeným v Unii přednostní přístup k regulačním pískovištím UI v rozsahu, v jakém splňují podmínky způsobilosti;
Pozměňovací návrh 519
Návrh nařízení
Čl. 55 – odst. 1 – písm. b
b)  organizovat konkrétní činnosti zaměřené na zvyšování povědomí o uplatňování tohoto nařízení přizpůsobené potřebám malých poskytovatelů a uživatelů;
b)  organizovat konkrétní činnosti zaměřené na posilování rozvoje digitálních dovedností a zvyšování povědomí, pokud jde o uplatňování tohoto nařízení, přizpůsobené potřebám malých, středních a začínajících podniků a uživatelů;
Pozměňovací návrh 520
Návrh nařízení
Čl. 55 – odst. 1 – písm. c
c)  případně zřídit vyhrazený kanál pro komunikaci s malými poskytovateli a uživateli a dalšími inovátory, který bude poskytovat pokyny a reagovat na dotazy týkající se provádění tohoto nařízení.
c)  používat stávající vyhrazené kanály a případně zřídit nové vyhrazené kanály pro komunikaci s malými, středními a začínajícími podniky, uživateli a dalšími inovátory, které budou poskytovat pokyny a reagovat na dotazy týkající se provádění tohoto nařízení;
Pozměňovací návrh 521
Návrh nařízení
Čl. 55 – odst. 1 – písm. c a (nové)
ca)  podporovat účast malých a středních podniků a dalších příslušných zúčastněných stran na procesu rozvoje normalizace.
Pozměňovací návrh 522
Návrh nařízení
Čl. 55 – odst. 2
2.  Při stanovování poplatků za posuzování shody podle článku 43 jsou zohledňovány zvláštní zájmy a potřeby malých poskytovatelů, přičemž se tyto poplatky snižují úměrně jejich velikosti a velikosti trhu.
2.  Při stanovování poplatků za posuzování shody podle článku 43 jsou zohledňovány zvláštní zájmy a potřeby malých, středních a začínajících podniků a uživatelů, přičemž se tyto poplatky snižují úměrně fázi jejich rozvoje, jejich velikosti, velikosti trhu a poptávce na trhu. Komise pravidelně posuzuje náklady malých, středních a začínajících podniků na certifikaci a dodržování předpisů, mj. na základě transparentních konzultací s malými, středními a začínajícími podniky a uživateli, a spolupracuje podle možnosti s členskými státy na snižování těchto nákladů. Komise podá zprávu o těchto zjištěních Evropskému parlamentu a Radě v rámci zprávy o hodnocení a přezkumu tohoto nařízení podle čl. 84 odst. 2.
Pozměňovací návrh 523
Návrh nařízení
Čl. 56 – oddíl 1 – název
Název
ODDÍL 1: Obecná ustanovení týkající se Evropského úřadu pro umělou inteligenci
Pozměňovací návrh 524
Návrh nařízení
Čl. 56 – název
Zřízení Evropské rady pro umělou inteligenci
Zřízení Evropského úřadu pro umělou inteligenci
Pozměňovací návrh 525
Návrh nařízení
Čl. 56 – odst. 1
1.  Zřizuje se „Evropská rada pro umělou inteligenci“ (dále jen „rada“).
1.  Tímto se zřizuje „Evropský úřad pro umělou inteligenci“ (dále jen „Úřad pro umělou inteligenci“). Úřad pro umělou inteligenci je nezávislým orgánem Unie. Tento úřad má právní subjektivitu.
Pozměňovací návrh 526
Návrh nařízení
Čl. 56 – odst. 2 – návětí
2.  Rada poskytuje Komisi poradenství a pomoc Komisi s cílem:
2.  Úřad pro umělou inteligenci má k dispozici sekretariát a je přiměřeně financován a personálně obsazen pro účely plnění svých úkolů podle tohoto nařízení.
Pozměňovací návrh 527
Návrh nařízení
Čl. 56 – odst. 2 a (nový)
2a.  Úřad pro umělou inteligenci sídlí v Bruselu.
Pozměňovací návrh 528
Návrh nařízení
Článek 56 a (nový)
Článek 56a
Struktura
Řídící a správní struktura Úřadu pro umělou inteligenci zahrnuje:
a)  správní radu, včetně předsedy,
b)  sekretariát, který řídí výkonný ředitel;
c)  poradní sbor.
Pozměňovací návrh 529
Návrh nařízení
Článek 56 b (nový)
Článek 56b
Úkoly Úřadu pro umělou inteligenci
Úřad pro umělou inteligenci plní tyto úkoly:
a)  podporuje členské státy, vnitrostátní dozorové orgány, Komisi a další orgány, instituce a jiné subjekty Unie, poskytuje jim poradenství a spolupracuje s nimi, pokud jde o provádění tohoto nařízení;
b)  sleduje a zajišťuje účinné a jednotné uplatňování tohoto nařízení, aniž jsou dotčeny úkoly vnitrostátních dozorových orgánů;
c)  přispívá ke koordinaci mezi vnitrostátními dozorovými orgány odpovědnými za uplatňování tohoto nařízení;
d)  jedná jako prostředník při jednáních o závažných sporech, které mohou vzniknout mezi příslušnými orgány ohledně uplatňování tohoto nařízení;
e)  koordinuje společné vyšetřování podle článku 66a;
f)  přispívá k účinné spolupráci s příslušnými orgány třetích zemí a s mezinárodními organizacemi;
g)  shromažďuje a sdílí odborné znalosti a osvědčené postupy členských států a pomáhá vnitrostátním dozorovým orgánům členských států a Komisi při rozvoji organizačních a technických odborných znalostí potřebných pro provádění tohoto nařízení, mimo jiné tím, že usnadní vytvoření a správu unijní skupiny odborníků;
h)  z vlastního podnětu nebo na žádost své správní rady nebo Komise posuzuje otázky týkající se provádění tohoto nařízení a vydává stanoviska, doporučení nebo písemné příspěvky, a to i pokud jde o:
i)  technické specifikace nebo stávající normy;
ii)  pokyny Komise;
iii)  kodexy chování a jejich uplatňování, v úzké spolupráci s průmyslem a dalšími příslušnými zúčastněnými stranami;
iv)  případnou revizi tohoto nařízení, přípravu aktů v přenesené pravomoci a možné sladění tohoto nařízení s právními akty uvedenými v příloze II;
v)  trendy, jako je evropská globální konkurenceschopnost v oblasti umělé inteligence, zavádění umělé inteligence v Unii, rozvoj digitálních dovedností a vznikající systémové hrozby související s umělou inteligencí;
vi)  pokyny k tomu, jak se toto nařízení použije na neustále se vyvíjející typologii hodnotových řetězců UI, zejména pokud jde o výsledné důsledky z hlediska odpovědnosti všech zúčastněných subjektů;
i)  vydává:
i)  výroční zprávu, která zahrnuje hodnocení provádění tohoto nařízení, přezkum zpráv o závažných incidentech podle článku 62 a fungování databáze uvedené v článku 60, a
ii)  doporučení Komisi týkající se kategorizace zakázaných praktik, vysoce rizikových systémů UI uvedených v příloze III, kodexů chování uvedených v článku 69 a uplatňování obecných zásad uvedených v článku 4a
j)  pomáhá orgánům při zřizování a rozvoji regulačních pískovišť a usnadňuje spolupráci mezi regulačními pískovišti;
k)  organizuje setkání s agenturami a správními orgány Unie, jejichž úkoly souvisejí s umělou inteligencí a prováděním tohoto nařízení;
l)  organizuje čtvrtletní konzultace s poradním sborem a případně veřejné konzultace s dalšími zúčastněnými stranami a výsledky těchto konzultací zveřejňuje na svých internetových stránkách;
m)  zvyšuje povědomí a informovanost veřejnosti o přínosech, rizicích, zárukách a právech a povinnostech v souvislosti s používáním systémů UI;
n)  usnadňuje rozvoj společných kritérií a společného porozumění, pokud jde o příslušné pojmy stanovené v tomto nařízení, mezi hospodářskými subjekty a příslušnými orgány;
o)  zajišťuje monitorování základových modelů a organizuje pravidelný dialog s vývojáři základových modelů, pokud jde o jejich soulad, jakož i o systémy UI, které tyto modely UI využívají;
p)  poskytuje výkladové pokyny ohledně toho, jak se akt o umělé inteligenci použije na neustále se vyvíjející typologii hodnotových řetězců UI a jaké budou důsledky z hlediska odpovědnosti všech zúčastněných subjektů v rámci různých scénářů založených na obecně uznávaném nejnovějším vývoji, včetně toho, jak se odráží v příslušných harmonizovaných normách;
q)  zajistí zvláštní dohled a monitorování a institucionalizuje pravidelný dialog s poskytovateli základových modelů o souladu základových modelů a systémů UI, které tyto modely UI využívají, s článkem 28b tohoto nařízení a o osvědčených postupech, pokud jde o samosprávu. Každého takového setkání se mohou účastnit vnitrostátní dozorové orgány, oznámené subjekty a orgány dohledu nad trhem a mohou k diskusi také přispět;
r)  vydává a pravidelně aktualizuje pokyny týkající se prahových hodnot, které kvalifikují odbornou přípravu jako model rozsáhlé odborné přípravy, zaznamenává a sleduje známé případy velkých kurzů odborné přípravy a vydává výroční zprávu o aktuálním stavu vývoje, šíření a využívání základových modelů spolu s politickými možnostmi odstraňování rizik a využívání příležitostí specifických pro základové modely;
s)  podporuje gramotnost v oblasti umělé inteligence podle článku 4b.
Pozměňovací návrh 530
Návrh nařízení
Článek 56 c (nový)
Článek 56c
Odpovědnost, nezávislost a transparentnost
1.  Úřad pro umělou inteligenci:
a.  je odpovědný Evropskému parlamentu a Radě v souladu s tímto nařízením;
b.  jedná při plnění svých úkolů nebo výkonu svých pravomocí nezávisle a
c.  zajišťuje vysokou úroveň transparentnosti svých činností a rozvíjí v tomto ohledu osvědčené správní postupy.
Na dokumenty v držení Úřadu pro umělou inteligenci se vztahuje nařízení (ES) č. 1049/2001.
Pozměňovací návrh 531
Návrh nařízení
Čl. - 57 a – oddíl 2 – název (nový)
Název
ODDÍL 2: Správní rada
Pozměňovací návrh 532
Návrh nařízení
Článek - 57 a (nový)
Článek - 57a
Složení správní rady
1.  Správní rada je složena z těchto členů:
a)  jeden zástupce vnitrostátního dozorového orgánu za každý členský stát;
b)  jeden zástupce Komise;
c)  jeden zástupce úřadu evropského inspektora ochrany údajů;
d)  jeden zástupce Agentury Evropské unie pro kybernetickou bezpečnost (ENISA);
e)  jeden zástupce Agentury pro základní práva (FRA).
Každý zástupce vnitrostátního dozorového orgánu má jeden hlas. Zástupci Komise, úřadu evropského inspektora ochrany údajů a Agentury Evropské unie pro základní práva nemají hlasovací práva. Každý člen má jednoho náhradníka. Při jmenování členů a náhradníků správní rady se zohlední potřeba vyváženého zastoupení žen a mužů. Jména členů správní rady a jejich náhradníků se zveřejní.
2.  Členové a náhradníci správní rady nesmí být ve střetu zájmů, ať už jde o jejich funkci nebo obchodní zájmy, pokud jde o jakékoli téma související s uplatňováním tohoto nařízení.
3.  Pravidla pro zasedání a hlasování správní rady a pro jmenování a odvolání výkonného ředitele se stanoví v jednacím řádu uvedeném v čl. 57b písm. a).
Pozměňovací návrh 533
Návrh nařízení
Článek - 57 b (nový)
Článek - 57b
Funkce správní rady
1.  Správní rada plní tyto úkoly:
a)  přijímá strategická rozhodnutí o činnosti Úřadu pro umělou inteligenci a svůj jednací řád dvoutřetinovou většinou svých členů;
b)  přijímá svůj jednací řád;
c)  přijímá jednotný programový dokument Úřadu pro umělou inteligenci a jeho výroční veřejnou zprávu a předává je Evropskému parlamentu, Radě, Komisi a Účetnímu dvoru;
d)  přijímá rozpočet Úřadu pro umělou inteligenci;
e)  jmenuje výkonného ředitele a případně prodlužuje nebo zkracuje jeho funkční období nebo jej odvolává z funkce;
f)  rozhoduje o zřízení vnitřních struktur Úřadu pro umělou inteligenci a v případě potřeby o změnách těchto vnitřních struktur nezbytných pro plnění úkolů tohoto úřadu;
Pozměňovací návrh 534
Návrh nařízení
Článek - 57 c (nový)
Článek - 57c
Předsednictví správní rady
1.  Správní rada si prostou většinou zvolí z řad svých členů s hlasovacím právem předsedu a dva místopředsedy.
2.  Funkční období předsedy a místopředsedů je čtyři roky. Funkční období předsedy a místopředsedů lze jednou obnovit.
Pozměňovací návrh 535
Návrh nařízení
Čl. 57 – oddíl 3 – název
Struktura rady
Sekretariát
Pozměňovací návrh 536
Návrh nařízení
Čl. 57 – odst. 1
1.  Rada se skládá z vnitrostátních dozorových úřadů, které jsou zastoupeny vedoucím nebo odpovídajícím vysokým úředníkem daného úřadu a evropským inspektorem ochrany údajů. Na zasedání mohou být přizvány další vnitrostátní orgány v případě, že jsou pro ně projednávané otázky relevantní.
1.  Činnost sekretariátu řídí výkonný ředitel. Výkonný ředitel je odpovědný správní radě. Aniž jsou dotčeny pravomoci správní rady a orgánů Unie, výkonný ředitel nežádá o žádné pokyny od žádné vlády ani od žádného jiného subjektu ani takové pokyny nepřijímá.
Pozměňovací návrh 537
Návrh nařízení
Čl. 57 – odst. 2
2.  Rada přijímá svůj jednací řád prostou většinou svých členů na základě souhlasu Komise. Jednací řád obsahuje rovněž provozní aspekty související s plněním úkolů rady uvedených v článku 58. Rada může podle potřeby zřizovat podskupiny pro účely zkoumání konkrétních otázek.
2.  Výkonný ředitel se účastní slyšení ve všech záležitostech souvisejících s činností Úřadu pro umělou inteligenci a podává na žádost Evropského parlamentu nebo Rady zprávu o plnění povinností výkonného ředitele.
Pozměňovací návrh 538
Návrh nařízení
Čl. 57 – odst. 3
3.  Radě předsedá Komise. Komise svolává zasedání a připravuje pořad jednání v souladu s úkoly rady podle tohoto nařízení a s jejím jednacím řádem. Komise poskytuje administrativní a analytickou podporu činnostem rady podle tohoto nařízení.
3.  Výkonný ředitel zastupuje Úřad pro umělou inteligenci, a to i na mezinárodních fórech pro spolupráci v oblasti umělé inteligence;
Pozměňovací návrh 539
Návrh nařízení
Čl. 57 – odst. 4
4.  Rada může přizvat k účasti na svých zasedáních externí odborníky a pozorovatele a může provádět výměny se zúčastněnými třetími stranami s cílem získávat v přiměřeném rozsahu informace pro účely svých činností. Za tímto účelem může Komise umožňovat výměny mezi radou a jinými subjekty, úřady, agenturami a poradními skupinami Unie.
4.  Sekretariát poskytuje správní radě a poradnímu sboru analytickou, administrativní a logistickou podporu nezbytnou k plnění úkolů Úřadu pro umělou inteligenci, mimo jiné tím, že:
a)  provádí rozhodnutí, programy a činnosti schválené správní radou;
b)  každý rok připravuje návrh jednotného programového dokumentu, návrh rozpočtu, výroční zprávu o činnosti Úřadu pro umělou inteligenci, návrhy stanovisek a návrhy postojů Úřadu pro umělou inteligenci a předkládá je správní radě;
c)  spolupracuje s mezinárodním fórem pro spolupráci v oblasti umělé inteligence;
Pozměňovací návrh 540
Návrh nařízení
Čl. 58 – oddíl 4 – název
Úkoly rady
Poradní sbor
Pozměňovací návrh 541
Návrh nařízení
Čl. 58 – odst. 1 – návětí
Při poskytování poradenství a pomoci Komisi v souvislosti čl. 56 odst2 rada zejména:
Poradní sbor poskytuje Úřadu pro umělou inteligenci připomínky zúčastněných stran v záležitostech týkajících se tohoto nařízení, zejména pokud jde o úkoly stanovené v čl. 56b písml).
Pozměňovací návrh 542
Návrh nařízení
Čl. 58 – odst. 2 (nový)
Složení poradního sboru je vyváženou směsí zúčastněných stran, včetně průmyslu, začínajících podniků, malých a středních podniků, občanské společnosti, sociálních partnerů a akademické obce. Složení poradního sboru musí být vyvážené s ohledem na komerční a nekomerční zájmy a v rámci kategorie komerčních zájmů musí být vyvážený také poměr malých a středních podniků a jiných podniků.
Pozměňovací návrh 543
Návrh nařízení
Čl. 58 – odst. 3 (nový)
Správní rada jmenuje členy poradního sboru v souladu s výběrovým řízením stanoveným v jednacím řádu Úřadu pro umělou inteligenci a s přihlédnutím k potřebě transparentnosti a v souladu s kritérii stanovenými v odstavci 2;
Pozměňovací návrh 544
Návrh nařízení
Čl. 58 – odst. 4 (nový)
Funkční období členů poradního sboru je dvouleté a nelze je prodloužit více než dvakrát po sobě.
Pozměňovací návrh 545
Návrh nařízení
Čl. 58 – odst. 5 (nový)
Evropský výbor pro normalizaci (CEN), Evropský výbor pro normalizaci v elektrotechnice (CENELEC) a Evropský ústav pro telekomunikační normy (ETSI) jsou stálými členy poradního sboru. Společné výzkumné středisko je stálým členem bez hlasovacího práva.
Pozměňovací návrh 546
Návrh nařízení
Čl. 58 – odst. 6 (nový)
Poradní sbor vypracuje svůj jednací řád. Ze svých členů volí dva spolupředsedy v souladu s kritérii stanovenými v odstavci 2. Funkční období spolupředsedů je dvouleté a lze je jednou prodloužit.
Pozměňovací návrh 547
Návrh nařízení
Čl. 58 – odst. 7 (nový)
Zasedání poradního sboru se konají alespoň čtyřikrát ročně. Poradní sbor může na svá zasedání přizvat odborníky a další zúčastněné strany. Zasedání poradního sboru se může z moci úřední účastnit výkonný ředitel.
Pozměňovací návrh 548
Návrh nařízení
Čl. 58 – odst. 8 (nový)
Při plnění své úlohy stanovené v odstavci 1 může poradní sbor připravovat stanoviska, doporučení a písemné příspěvky.
Pozměňovací návrh 549
Návrh nařízení
Čl. 58 – odst. 9 (nový)
Poradní sbor může podle potřeby zřídit stálé nebo dočasné podskupiny pro účely posuzování konkrétních otázek souvisejících s cíli tohoto nařízení.
Pozměňovací návrh 550
Návrh nařízení
Čl. 58 – odst. 10 (nový)
Poradní sbor vypracuje výroční zprávu o své činnosti. Tato zpráva se zveřejní.
Pozměňovací návrh 551
Návrh nařízení
Čl. 58 a – oddíl 5 – název
Evropské orgány pro referenční srovnávání
Pozměňovací návrh 552
Návrh nařízení
Článek 58 a (nový)
Článek 58a
Proces srovnávání (benchmarking)
Evropské orgány pro referenční srovnávání uvedené v čl. 15 odst. 1a a Úřad pro umělou inteligenci v úzké spolupráci s mezinárodními partnery společně vypracují nákladově efektivní pokyny a kapacity pro měření a srovnávání aspektů systémů UI a součástí UI, a zejména základních modelů relevantních pro soulad a prosazování tohoto nařízení, na základě obecně uznávaného nejnovějšího vývoje, včetně toho, jak se odráží v příslušných harmonizovaných normách.
Pozměňovací návrh 553
Návrh nařízení
Čl. 59 – název
Určení příslušných vnitrostátních orgánů
Určení vnitrostátních dozorových orgánů
Pozměňovací návrh 554
Návrh nařízení
Čl. 59 – odst. 1
1.  Každý členský stát zřizuje nebo určuje příslušné vnitrostátní orgány s cílem zajistit uplatňování a provádění tohoto nařízení. Příslušný vnitrostátní orgán je organizován tak, aby chránil objektivitu a nestrannost svých činností a úkolů.
1.  Každý členský stát určí jeden vnitrostátní dozorový orgán, který je organizován tak, aby chránil objektivitu a nestrannost svých činností a úkolů, do ... [tři měsíce ode dne vstupu tohoto nařízení v platnost].
Pozměňovací návrh 555
Návrh nařízení
Čl. 59 – odst. 2
2.  Každý členský stát určí z řad příslušných vnitrostátních orgánů vnitrostátní dozorový orgán. Vnitrostátní dozorový orgán jedná jako oznamující orgán a orgán dozoru nad trhem, pokud daný členský stát nemá organizační a správní důvody k určení více než jednoho orgánu.
2.  Vnitrostátní dozorový orgán zajistí uplatňování a provádění tohoto nařízení. Pokud jde o vysoce rizikové systémy UI související s produkty, na něž se vztahují právní akty uvedené v příloze II, správní postupy nadále vedou příslušné orgány určené podle těchto právních aktů. Pokud se však případ týká aspektů, na něž se vztahuje pouze toto nařízení, jsou tyto příslušné orgány vázány opatřeními, která se týkají těchto aspektů, vydanými vnitrostátním dozorovým orgánem určeným podle tohoto nařízení. Vnitrostátní dozorový orgán jedná jako orgán dozoru nad trhem.
Pozměňovací návrh 556
Návrh nařízení
Čl. 59 – odst. 3
3.  Členské státy informují Komisi o tom, který orgán nebo orgány určily a tam, kde je to relevantní, o důvodech určení více než jednoho orgánu.
3.  Členské státy do ... [3 měsíce od vstupu tohoto nařízení v platnost] sdělí Úřadu pro umělou inteligenci a Komisi jméno vnitrostátního dozorového orgánu a informace o tom, jak je možné tento orgán kontaktovat, a tyto informace zveřejní. Vnitrostátní dozorový orgán působí jako jednotné kontaktní místo, pokud jde o toto nařízení, a mělo by být možné jej kontaktovat prostřednictvím elektronické komunikace.
Pozměňovací návrh 557
Návrh nařízení
Čl. 59 – odst. 4
4.  Členské státy zajistí, aby příslušným vnitrostátním orgánům byly poskytnuty odpovídající finanční a lidské zdroje, které jim umožní plnit úkoly podle tohoto nařízení. Příslušné vnitrostátní orgány mají zejména trvale k dispozici dostatečný počet pracovníků, jejichž způsobilost a odborné znalosti zahrnují důkladné porozumění technologiím umělé inteligence, údajům a výpočtu údajů, základním právům a zdravotním a bezpečnostním rizikům, jakož i znalost platných norem a právních předpisů.
4.  Členské státy zajistí, aby vnitrostátnímu dozorovému orgánu byly poskytnuty odpovídající technické, finanční a lidské zdroje a infrastruktura, které mu umožní účinně plnit úkoly podle tohoto nařízení. Vnitrostátní dozorový orgán má zejména trvale k dispozici dostatečný počet pracovníků, jejichž způsobilost a odborné znalosti zahrnují důkladné porozumění technologiím umělé inteligence, údajům a jejich výpočtu, ochraně osobních údajů, kybernetické bezpečnosti, právu hospodářské soutěže, základním právům a zdravotním a bezpečnostním rizikům, jakož i znalost platných norem a právních předpisů. Členské státy každoročně posoudí a – pokud je to považováno za nezbytné – aktualizují požadavky na odbornost a zdroje uvedené v tomto odstavci.
Pozměňovací návrh 558
Návrh nařízení
Čl. 59 – odst. 4 a (nový)
4a.  Každý vnitrostátní dozorový orgán vykonává své pravomoci a plní své povinnosti nezávisle, nestranně a nezaujatě. Členové každého vnitrostátního dozorového orgánu nesmějí při plnění svých úkolů a výkonu svých pravomocí podle tohoto nařízení vyžadovat ani přijímat pokyny od žádného jiného subjektu a zdrží se veškeré činnosti, která je neslučitelná s povahou jejich funkcí.
Pozměňovací návrh 559
Návrh nařízení
Čl. 59 – odst. 4 b (nový)
4b.  Vnitrostátní dozorové orgány splňují minimální požadavky na kybernetickou bezpečnost stanovené pro subjekty veřejné správy označené za provozovatele základních služeb podle směrnice (EU) 2022/2555.
Pozměňovací návrh 560
Návrh nařízení
Čl. 59 – odst. 4 c (nový)
4c.  Při plnění svých úkolů jedná vnitrostátní dozorový orgán v souladu s povinnostmi týkajícími se důvěrnosti stanovenými v článku 70.
Pozměňovací návrh 561
Návrh nařízení
Čl. 59 – odst. 5
5.  Členské státy podávají Komisi každoročně zprávy o stavu finančních a lidských zdrojů příslušných vnitrostátních orgánů s hodnocením jejich přiměřenosti. Komise předá tyto informace radě k projednání a případným doporučením.
5.  Členské státy podávají Komisi každoročně zprávy o stavu finančních a lidských zdrojů vnitrostátních dozorových orgánů s hodnocením jejich přiměřenosti. Komise předá tyto informace Úřadu pro umělou inteligenci k projednání a případným doporučením.
Pozměňovací návrh 562
Návrh nařízení
Čl. 59 – odst. 6
6.  Komise usnadňuje výměnu zkušeností mezi příslušnými vnitrostátními orgány.
vypouští se
Pozměňovací návrh 563
Návrh nařízení
Čl. 59 – odst. 7
7.  Příslušné vnitrostátní orgány mohou poskytovat pokyny a rady ohledně provádění tohoto nařízení, a to i malým poskytovatelům. Kdykoli mají příslušné vnitrostátní orgány v úmyslu poskytnout pokyny a rady týkající se systému UI v oblastech, na které se vztahují jiné právní předpisy Unie, provedou podle potřeby konzultaci s vnitrostátními orgány příslušnými podle těchto právních předpisů Unie. Členské státy mohou rovněž zřídit jedno ústřední kontaktní místo pro komunikaci s provozovateli.
7.  Vnitrostátní dozorové orgány mohou poskytovat pokyny a rady ohledně provádění tohoto nařízení, a to i malým, středním a začínajícím podnikům, přičemž zohlední pokyny a rady Úřadu pro umělou inteligenci nebo Komise. Kdykoli vnitrostátní dozorový orgán v úmyslu poskytnout pokyny a rady týkající se systému UI v oblastech, na které se vztahují jiné právní předpisy Unie, vydá tyto pokyny případně po konzultaci s vnitrostátními orgány příslušnými podle těchto právních předpisů Unie.
Pozměňovací návrh 564
Návrh nařízení
Čl. 59 – odst. 8
8.  Pokud orgány, instituce a subjekty Unie spadají do oblasti působnosti tohoto nařízení, jedná jako orgán příslušný pro dohled nad nimi evropský inspektor ochrany údajů.
8.  Pokud orgány, instituce a subjekty Unie spadají do oblasti působnosti tohoto nařízení, jedná jako orgán příslušný pro dohled nad nimi a jejich koordinaci evropský inspektor ochrany údajů.
Pozměňovací návrh 565
Návrh nařízení
Článek 59 a (nový)
Článek 59a
Mechanismus spolupráce vnitrostátních dozorových úřadů v případech zahrnujících dva nebo více členských států
1.  Každý vnitrostátní dozorový úřad plní na území svého členského státu úkoly a vykonává pravomoci, které mu byly svěřeny v souladu s tímto nařízením.
2.  V případě dvou nebo více vnitrostátních dozorových orgánů se za vedoucí dozorový úřad považuje vnitrostátní dozorový orgán členského státu, v němž k porušení došlo.
3.  V případech uvedených v odstavci 2 příslušné orgány dohledu spolupracují a včas si vyměňují veškeré relevantní informace. Vnitrostátní dozorové úřady spolupracují na dosažení konsenzu.
Pozměňovací návrh 566
Návrh nařízení
Hlava VII
VII DATABÁZE EU OBSAHUJÍCÍ SAMOSTATNÉ VYSOCE RIZIKOVÉ SYSTÉMY UI
DATABÁZE EU OBSAHUJÍCÍ RIZIKOVÉ SYSTÉMY UMĚLÉ INTELIGENCE
Pozměňovací návrh 567
Návrh nařízení
Čl. 60 – název
Databáze EU obsahující samostatné vysoce rizikové systémy UI
Databáze EU obsahující rizikové systémy umělé inteligence
Pozměňovací návrh 568
Návrh nařízení
Čl. 60 – odst. 1
1.  Komise ve spolupráci s členskými státy zřizuje a udržuje databázi EU obsahující informace uvedené v odstavci 2 ohledně vysoce rizikových systémů UI podle čl. 6 odst. 2, které jsou registrovány v souladu s článkem 51.
1.  Komise ve spolupráci s členskými státy zřídí a udržuje veřejnou databázi EU obsahující informace uvedené v odstavcích 2 a 2a týkající se vysoce rizikových systémů UI uvedených v čl. 6 odst. 2, které jsou registrovány v souladu s článkem 51.
Pozměňovací návrh 569
Návrh nařízení
Čl. 60 – odst. 2
2.  Údaje uvedené v příloze VIII zadávají do databáze EU poskytovatelé. Komise jim poskytuje technickou a administrativní podporu.
2.  Údaje uvedené v příloze VIII oddíle A vloží poskytovatelé do databáze EU.
Pozměňovací návrh 570
Návrh nařízení
Čl. 60 – odst. 2 a (nový)
2a.  Údaje uvedené v příloze VIII oddíle B vkládají do databáze EU provozovatelé, kteří jsou nebo jednají jménem orgánů veřejné moci nebo orgánů, institucí nebo jiných subjektů Unie, a provozovatelé, kteří jsou podniky uvedenými v čl. 51 odst. 1a a 1b.
Pozměňovací návrh 571
Návrh nařízení
Čl. 60 – odst. 3
3.  Informace obsažené v databázi EU jsou přístupné veřejnosti.
3.  Informace obsažené v databázi EU jsou volně přístupné veřejnosti, uživatelsky vstřícné a přístupné, přehledné a strojově čitelné a obsahují strukturované digitální údaje založené na standardizovaném protokolu.
Pozměňovací návrh 572
Návrh nařízení
Čl. 60 – odst. 4
4.  Databáze EU obsahuje osobní údaje pouze do té míry, která je nezbytná pro shromažďování a zpracovávání informací v souladu s tímto nařízením. Tyto informace zahrnují jména a kontaktní údaje fyzických osob, které odpovídají za registraci systému a mají zákonnou pravomoc zastupovat poskytovatele.
4.  Databáze EU obsahuje osobní údaje pouze do té míry, která je nezbytná pro shromažďování a zpracovávání informací v souladu s tímto nařízením. Tyto informace zahrnují jména a kontaktní údaje fyzických osob, které jsou odpovědné za registraci systému a mají právní pravomoc zastupovat poskytovatele nebo provozovatele, který je orgánem veřejné moci nebo orgánem, institucí nebo jiným subjektem Unie nebo provozovatelem jednajícím jejich jménem nebo provozovatelem, který je podnikem uvedeným v čl. 51 odst. 1a písm. b) a odst. 1b.
Pozměňovací návrh 573
Návrh nařízení
Čl. 60 – odst. 5
5.  Správcem databáze EU je Komise. Ta rovněž zajišťuje poskytovatelům přiměřenou technickou a administrativní podporu.
5.  Správcem databáze EU je Komise. Rovněž zajistí poskytovatelům a provozovatelům odpovídající technickou a administrativní podporu.
Databáze musí splňovat požadavky na přístupnost stanovené v příloze I směrnice 2019/882.
Pozměňovací návrh 574
Návrh nařízení
Čl. 61 – odst. 2
2.  Systém monitorování po uvedení na trh aktivně a systematicky shromažďuje, dokumentuje a analyzuje příslušné údaje získané od uživatelů nebo shromážděné z jiných zdrojů, které se týkají výkonnosti vysoce rizikových systémů UI po celou dobu jejich životnosti, a umožňuje poskytovateli vyhodnocovat nepřetržitý soulad systémů UI s požadavky stanovenými v hlavě III kapitole 2.
2.  Systém monitorování po uvedení na trh aktivně a systematicky shromažďuje, dokumentuje a analyzuje příslušné údaje získané od provozovatelů nebo shromážděné z jiných zdrojů, které se týkají výkonnosti vysoce rizikových systémů UI po celou dobu jejich životnosti, a umožňuje poskytovateli vyhodnocovat nepřetržitý soulad systémů UI s požadavky stanovenými v hlavě III kapitole 2. Monitorování po uvedení na trh případně zahrnuje analýzu interakce s prostředím jiných systémů UI, včetně jiných zařízení a softwaru, s přihlédnutím k pravidlům platným v oblastech, jako je ochrana údajů, práva duševního vlastnictví a právo hospodářské soutěže.
Pozměňovací návrh 575
Návrh nařízení
Čl. 61 – odst. 3
3.  Systém monitorování po uvedení na trh je založen na plánu monitorování po uvedení na trh. Plán monitorování po uvedení na trh je součástí technické dokumentace uvedené v příloze IV. Komise přijme prováděcí akt, kterým se stanoví podrobná ustanovení zavádějící vzor plánu monitorování po uvedení na trh a seznam prvků, které mají být do tohoto plánu zahrnuty.
3.  Systém monitorování po uvedení na trh je založen na plánu monitorování po uvedení na trh. Plán monitorování po uvedení na trh je součástí technické dokumentace uvedené v příloze IV. Komise do [dvanáct měsíců od vstupu tohoto nařízení v platnost] přijme prováděcí akt, kterým se stanoví podrobná ustanovení zavádějící vzor plánu monitorování po uvedení na trh a seznam prvků, které mají být do tohoto plánu zahrnuty.
Pozměňovací návrh 576
Návrh nařízení
Čl. 62 – název
Ohlašování závažných incidentů a chybného fungování
Ohlašování závažných incidentů
Pozměňovací návrh 577
Návrh nařízení
Čl. 62 – odst. 1 – návětí
1.  Poskytovatelé vysoce rizikových systémů UI uváděných na trh Unie ohlašují každý závažný incident nebo chybné fungování těchto systémů představující porušení povinností podle práva Unie, jehož cílem je ochrana základních práv, orgánům dozoru nad trhem v členských státech, v nichž k této nežádoucí příhodě nebo porušení došlo.
1.  Poskytovatelé a v případě, že provozovatelé zjistili závažný incident, provozovatelé vysoce rizikových systémů UI uváděných na trh Unie nahlásí jakýkoli závažný incident těchto systémů, který představuje porušení povinností podle práva Unie za účelem ochrany základních práv, vnitrostátnímu dozorovému orgánu členských států, v nichž k incidentu nebo porušení došlo.
Pozměňovací návrh 578
Návrh nařízení
Čl. 62 – odst. 1 – pododstavec 1
Toto oznámení musí být učiněno neprodleně poté, co poskytovatel zjistí příčinnou souvislost mezi daným systémem UI a daným závažným incidentem nebo chybným fungováním nebo přiměřenou pravděpodobnost této souvislosti, v každém případě však nejpozději do patnácti dnů poté, co se poskytovatelé o daném závažném incidentu nebo chybném fungování dozvěděli.
Toto oznámení se učiní bez zbytečného odkladu poté, co poskytovatel nebo případně provozovatel zjistí příčinnou souvislost mezi systémem UI a incidentem nebo přiměřenou pravděpodobnost takové souvislosti, a v každém případě nejpozději do 72 hodin poté, co se poskytovatel nebo případně provozovatel o závažném incidentu dozvěděl.
Pozměňovací návrh 579
Návrh nařízení
Čl. 62 – odst. 1 a (nový)
1a.  Po zjištění příčinné souvislosti mezi systémem UI a závažným incidentem nebo přiměřené pravděpodobnosti takové souvislosti přijmou poskytovatelé vhodná nápravná opatření podle článku 21.
Pozměňovací návrh 580
Návrh nařízení
Čl. 62 – odst. 2
2.  Po obdržení oznámení týkajícího se porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv, informuje orgán dozoru nad trhem vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty uvedené v čl. 64 odst. 3. Komise vypracuje zvláštní pokyny s cílem usnadnit plnění povinností stanovených v odstavci 1. Tyto pokyny jsou vydány nejpozději dvanáct měsíců po vstupu tohoto nařízení v platnost.
2.  Po obdržení oznámení týkajícího se porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv, informuje státní dozorový orgán vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty uvedené v čl. 64 odst. 3. Komise vypracuje zvláštní pokyny s cílem usnadnit plnění povinností stanovených v odstavci 1. Tyto pokyny se vydají do [vstup tohoto nařízení v platnost] a budou pravidelně vyhodnocovány.
Pozměňovací návrh 581
Návrh nařízení
Čl. 62 – odst. 2 a (nový)
2a.  Vnitrostátní dozorový orgán přijme vhodná opatření do sedmi dnů ode dne, kdy obdržel oznámení uvedené v odstavci 1. Dojde-li k porušení předpisů nebo je-li pravděpodobné, že k němu dojde v jiných členských státech, oznámí to vnitrostátní dozorový orgán Úřadu pro umělou inteligenci a příslušným vnitrostátním dozorovým orgánům těchto členských států.
Pozměňovací návrh 582
Návrh nařízení
Čl. 62 – odst. 3
3.  vysoce rizikových systémů UI podle bodu 5 písm. b) přílohy III uváděných na trh nebo do provozu poskytovateli, kteří jsou úvěrovými institucemi podléhajícími směrnici 2013/36/EU, a u vysoce rizikových systémů UI, které jsou bezpečnostními součástmi zařízení nebo jsou samy zařízeními a na něž se vztahuje nařízení (EU) 2017/745 a nařízení (EU) 2017/746, se oznamování závažných incidentů nebo chybného fungování omezuje na ty, které představují porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv.
3.  V případě vysoce rizikových systémů UI uvedených v příloze III, které uvádějí na trh nebo do provozu poskytovatelé, na něž se vztahují legislativní nástroje Unie, které stanoví oznamovací povinnosti rovnocenné povinnostem stanoveným v tomto nařízení, se oznamování závažných incidentů, které představují porušení základních práv podle práva Unie, převádí na vnitrostátní dozorový orgán.
Pozměňovací návrh 583
Návrh nařízení
Čl. 62 – odst. 3 a (nový)
3a.  Vnitrostátní dozorové orgány každoročně informují Úřad pro umělou inteligenci o závažných incidentech, které jim v souladu s tímto článkem hlášeny.
Pozměňovací návrh 584
Návrh nařízení
Čl. 63 – odst. 1 – návětí
1.  Na systémy UI upravené tímto nařízením se vztahuje nařízení (EU) 2019/1020. Pro účely účinného prosazování tohoto nařízení však platí, že:
1.  Na systémy UI a základní modely, na něž se vztahuje toto nařízení, se použije nařízení (EU) 2019/1020. Pro účely účinného prosazování tohoto nařízení však platí, že:
Pozměňovací návrh 585
Návrh nařízení
Čl. 63 – odst. 1 – písm. b a (nové)
ba)  vnitrostátní dozorové orgány jednají jako orgány dozoru nad trhem podle tohoto nařízení a mají stejné pravomoci a povinnosti jako orgány dozoru nad trhem podle nařízení (EU) 2019/1020.
Pozměňovací návrh 586
Návrh nařízení
Čl. 63 – odst. 2
2.  Vnitrostátní dozorový orgán podává Komisi pravidelné zprávy o výsledcích příslušných činností v oblasti dozoru nad trhem. Vnitrostátní dozorový orgán neprodleně ohlásí Komisi a příslušným vnitrostátním orgánům pro hospodářskou soutěž veškeré informace zjištěné v průběhu činností v oblasti dozoru nad trhem, které by mohly mít potenciální význam pro uplatňování právních předpisů Unie na pravidla hospodářské soutěže.
2.  Vnitrostátní dozorový orgán každoročně podává Komisi a Úřadu pro umělou inteligenci zprávu o výsledcích příslušných činností dozoru nad trhem. Vnitrostátní dozorový orgán neprodleně ohlásí Komisi a příslušným vnitrostátním orgánům pro hospodářskou soutěž veškeré informace zjištěné v průběhu činností v oblasti dozoru nad trhem, které by mohly mít potenciální význam pro uplatňování právních předpisů Unie na pravidla hospodářské soutěže.
Pozměňovací návrh 587
Návrh nařízení
Čl. 63 – odst. 3 a (nový)
3a.  Pro účely zajištění účinného prosazování tohoto nařízení mohou vnitrostátní dozorové orgány:
a)  provádět u rizikových systémů umělé inteligence neohlášené kontroly na místě a na dálku,
b)  získávat vzorky týkající se rizikových systémů umělé inteligence, a to i prostřednictvím kontrol na dálku, k reverznímu inženýrství těchto systémů a k získání důkazů pro zjištění porušování předpisů.
Pozměňovací návrh 588
Návrh nařízení
Čl. 63 – odst. 5
5.  Pokud jde o systémy UI uvedené v bodu 1 písm. a), pokud se tyto systémy používají pro účely prosazování práva dle bodů 6 a 7 přílohy III, určí členské státy jako orgány dozoru nad trhem pro účely tohoto nařízení buď příslušné dozorové úřady pro ochranu údajů podle směrnice (EU) 2016/680 či nařízení 2016/679, nebo příslušné vnitrostátní orgány vykonávající dohled nad činností donucovacích, imigračních nebo azylových orgánů, které uvádějí tyto systémy do provozu nebo je využívají.
5.  Pro systémy UI, které se používají pro účely prosazování práva, určí členské státy jako orgány dozoru nad trhem pro účely tohoto nařízení příslušné dozorové úřady pro ochranu údajů podle směrnice (EU) 2016/680.
Pozměňovací návrh 589
Návrh nařízení
Čl. 63 – odst. 7
7.  Členské státy usnadňují koordinaci mezi orgány dozoru nad trhem určenými podle tohoto nařízení dalšími příslušnými vnitrostátními orgány nebo subjekty, které dohlížejí na uplatňování harmonizačních právních předpisů Unie uvedených v příloze II nebo jiných právních předpisů Unie, které by mohly být relevantní pro vysoce rizikové systémy UI uvedené v příloze III.
7.  Vnitrostátní dozorové orgány určené podle tohoto nařízení koordinují svou činnost s dalšími příslušnými vnitrostátními orgány nebo subjekty, které dohlížejí na uplatňování harmonizačního práva Unie uvedeného v příloze II nebo jiného práva Unie, které by mohlo být relevantní pro vysoce rizikové systémy UI uvedené v příloze III.
Pozměňovací návrh 590
Návrh nařízení
Čl. 64 – odst. 1
1.  Orgány dozoru nad trhem mají přístup k údajům a dokumentaci v rámci svých činností a je jim poskytnut neomezený přístup k souborům tréninkových dat, dat pro ověřování platnosti a testovacích dat využívaných poskytovatelem, a to i prostřednictvím aplikačních programovacích rozhraní (API) nebo jiných vhodných technických prostředků a nástrojů umožňujících vzdálený přístup.
1.  V souvislosti s jejich činnostmi a na jeho odůvodněnou žádost je vnitrostátnímu dozorovému orgánu prostřednictvím vhodných technických prostředků a nástrojů poskytnut plný přístup k souborům tréninkových dat, dat pro ověřování platnosti a testovacích dat používaných poskytovatelem nebo případně provozovatelem, které jsou relevantní a nezbytně nutné pro účely jeho žádosti.
Pozměňovací návrh 591
Návrh nařízení
Čl. 64 – odst. 2
2.  Je-li to nezbytné k posouzení shody vysoce rizikového systému UI s požadavky uvedenými v hlavě III kapitole 2 a na odůvodněnou žádost bude orgánům dozoru nad trhem poskytnut přístup ke zdrojovému kódu daného systému UI.
2.  Je-li to nezbytné k posouzení shody vysoce rizikového systému UI s požadavky stanovenými v hlavě III kapitole 2 poté, co byly vyčerpány a ukázaly se jako nedostatečné všechny ostatní přiměřené způsoby ověřování shody, mimo jiné na základě odstavce 1, a na základě odůvodněné žádosti je vnitrostátnímu dozorovému orgánu poskytnut přístup také k tréninkovým a trénovaným modelům systému UI, včetně jeho příslušných parametrů. Se všemi získanými informacemi v souladu s článkem 70 se zachází jako s důvěrnými informacemi, vztahují se na ně stávající právní předpisy Unie o ochraně duševního vlastnictví a obchodního tajemství a vymažou se po skončení vyšetřování, pro které byly informace vyžádány.
Pozměňovací návrh 592
Návrh nařízení
Čl. 64 – odst. 2 a (nový)
2a.  Odstavci 1 a 2 nejsou dotčena procesní práva dotčeného provozovatele v souladu s článkem 18 nařízení (EU) 2019/1020.
Pozměňovací návrh 593
Návrh nařízení
Čl. 64 – odst. 3
3.  Vnitrostátní veřejné orgány nebo subjekty, které dohlížejí na dodržování povinností stanovených v právních předpisech Unie na ochranu základních práv v souvislosti s používáním vysoce rizikových systémů UI uvedených v příloze III, případně je vymáhají, jsou oprávněny vyžádat si jakoukoli dokumentaci vytvořenou nebo vedenou podle tohoto nařízení a mít k ní přístup, pokud je přístup k této dokumentaci nezbytný k plnění pravomocí vyplývajících z jejich pověření v rámci jejich příslušnosti. Příslušný veřejný orgán nebo subjekt o každé této žádosti informuje orgán dozoru nad trhem dotčeného členského státu.
3.  Vnitrostátní veřejné orgány nebo subjekty, které dohlížejí na dodržování povinností stanovených v právních předpisech Unie na ochranu základních práv v souvislosti s používáním vysoce rizikových systémů UI uvedených v příloze III, případně je vymáhají, jsou oprávněny vyžádat si jakoukoli dokumentaci vytvořenou nebo vedenou podle tohoto nařízení a mít k ní přístup, pokud je přístup k této dokumentaci nezbytný k plnění pravomocí vyplývajících z jejich pověření v rámci jejich příslušnosti. Příslušný orgán veřejné moci nebo veřejný subjekt o každé takové žádosti informuje vnitrostátní dozorový orgán dotčeného členského státu.
Pozměňovací návrh 594
Návrh nařízení
Čl. 64 – odst. 4
4.  Každý členský stát určí do tří měsíců po vstupu tohoto nařízení v platnost orgány veřejné moci nebo subjekty uvedené v odstavci 3 a jejich seznam zveřejní na internetových stránkách vnitrostátního dozorového orgánu. Členské státy oznámí tento seznam Komisi a všem ostatním členským státům a průběžně jej aktualizují.
4.  Každý členský stát určí do tří měsíců po vstupu tohoto nařízení v platnost orgány veřejné moci nebo subjekty uvedené v odstavci 3 a jejich seznam zveřejní na internetových stránkách vnitrostátního dozorového orgánu. Vnitrostátní dozorové orgány oznámí tento seznam Komisi, Úřadu pro umělou inteligenci a všem ostatním vnitrostátním dozorovým orgánům a tento seznam průběžně aktualizují. Komise zveřejní na vyhrazených internetových stránkách seznam všech příslušných orgánů určených členskými státy v souladu s tímto článkem.
Pozměňovací návrh 595
Návrh nařízení
Čl. 64 – odst. 5
5.  Pokud dokumentace uvedená v odstavci 3 není dostatečná k tomu, aby bylo možné zjistit, zda došlo k porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv, může orgán veřejné moci nebo subjekt uvedený v odstavci 3 podat orgánu dozoru nad trhem odůvodněnou žádost o uspořádání testů vysoce rizikového systému UI technickými prostředky. Orgán dozoru nad trhem uspořádá tyto testy, do nichž bude dožadující orgán veřejné moci nebo subjekt významně zapojen, v přiměřené lhůtě po podání žádosti.
5.  Pokud dokumentace uvedená v odstavci 3 není dostatečná k tomu, aby bylo možné zjistit, zda došlo k porušení povinností podle právních předpisů Unie, jejichž cílem je ochrana základních práv, může orgán veřejné moci nebo subjekt uvedený v odstavci 3 podat vnitrostátnímu orgánu dozoru odůvodněnou žádost o uspořádání testů vysoce rizikového systému UI technickými prostředky. Vnitrostátní orgán dozoru uspořádá tyto testy, do nichž bude dožadující orgán veřejné moci nebo subjekt významně zapojen, v přiměřené lhůtě po podání žádosti.
Pozměňovací návrh 596
Návrh nařízení
Čl. 65 – odst. 1
1.  Systémy UI, které představují riziko, jsou považovány za výrobek představující riziko podle čl. 3 bodu 19 nařízení (EU) 2019/1020, pokud jde o rizika pro zdraví, bezpečnost nebo ochranu základních práv osob.
1.  Systémy UI představující riziko se považují za systém UI, který může nepříznivě ovlivnit zdraví a bezpečnost, základní práva osob obecně, a to i na pracovišti, ochranu spotřebitelů, životní prostředí, veřejnou bezpečnost nebo demokracii nebo právní stát a další veřejné zájmy, které jsou chráněny použitelným harmonizačním právem Unie, v míře, která přesahuje míru považovanou za přiměřenou a přijatelnou ve vztahu k jeho určenému účelu nebo za běžných nebo rozumně předvídatelných podmínek používání systému, včetně doby používání a případně požadavků na jeho uvádění do provozu, instalaci a údržbu.
Pozměňovací návrh 597
Návrh nařízení
Čl. 65 – odst. 2 – návětí
2.  Pokud má orgán dozoru nad trhem členského státu dostatečné důvody domnívat se, že systém UI představuje riziko podle odstavce 1, provede hodnocení dotčeného systému UI z hlediska jeho souladu se všemi požadavky a povinnostmi stanovenými v tomto nařízení. Pokud existují rizika z hlediska ochrany základních práv, informuje orgán dozoru nad trhem rovněž příslušné vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty uvedené v čl. 64 odst. 3. Příslušní provozovatelé podle potřeby spolupracují s orgány dozoru nad trhem a s dalšími vnitrostátními orgány veřejné správy nebo veřejnoprávními subjekty uvedenými v čl. 64 odst. 3.
2.  Pokud má vnitrostátní orgán dozoru členského státu dostatečné důvody domnívat se, že systém UI představuje riziko podle odstavce 1, provede hodnocení dotčeného systému UI z hlediska jeho souladu se všemi požadavky a povinnostmi stanovenými v tomto nařízení. Pokud existují rizika pro základní práva, vnitrostátní dozorový orgán rovněž neprodleně informuje příslušné vnitrostátní veřejné orgány nebo subjekty uvedené v čl. 64 odst. 3 a plně s nimi spolupracuje; Existuje-li dostatečný důvod domnívat se, že systém UI využívá zranitelnosti zranitelných skupin nebo porušuje jejich práva úmyslně nebo neúmyslně, má vnitrostátní dozorový orgán povinnost prošetřit cíle návrhu, vstupy údajů, výběr modelu, zavedení a výsledky systému UI. Příslušné hospodářské subjekty podle potřeby spolupracují s vnitrostátním dozorovým orgánem a ostatními vnitrostátními veřejnými orgány nebo subjekty uvedenými v čl. 64 odst. 3;
Pozměňovací návrh 598
Návrh nařízení
Čl. 65 – odst. 2 – pododstavec 1
Pokud v průběhu tohoto hodnocení orgán dozoru nad trhem zjistí, že systém UI nesplňuje požadavky a povinnosti stanovené tímto nařízením, neprodleně vyzve příslušného provozovatele, aby přijal veškerá vhodná nápravná opatření k uvedení systému UI do souladu nebo k jeho stažení z trhu nebo z oběhu ve lhůtě, kterou může orgán dozor nad trhem stanovit a která je přiměřená povaze rizika.
Pokud v průběhu tohoto hodnocení vnitrostátní dozorový orgán nebo případně vnitrostátní veřejný orgán uvedený v čl. 64 odst. 3 zjistí, že systém UI nesplňuje požadavky a povinnosti stanovené v tomto nařízení, neprodleně vyzve příslušného provozovatele, aby přijal veškerá vhodná nápravná opatření k uvedení systému UI do souladu, k jeho stažení z trhu nebo z oběhu ve lhůtě, kterou může stanovit a která je přiměřená povaze rizika, a v každém případě nejpozději do patnácti pracovních dnů nebo jak je stanoveno v příslušných harmonizačních právních předpisech Unie.
Pozměňovací návrh 599
Návrh nařízení
Čl. 65 – odst. 2 – pododstavec 2
Orgán dozoru nad trhem o tom informuje příslušný oznámený subjekt. Na opatření uvedená v druhém pododstavci se použije článek 18 nařízení (EU) 2019/1020.
Vnitrostátní orgán dozoru o tom informuje příslušný oznámený subjekt. Na opatření uvedená v druhém pododstavci se použije článek 18 nařízení (EU) 2019/1020.
Pozměňovací návrh 600
Návrh nařízení
Čl. 65 – odst. 3
3.  Domnívá-li se orgán dozoru nad trhem, že se nesoulad netýká pouze území jeho členského státu, informuje Komisi a ostatní členské státy o výsledcích hodnocení a o opatřeních, která má provozovatel na jeho žádost přijmout.
3.  Pokud se vnitrostátní dozorový orgán domnívá, že nedodržení není omezeno na jeho území, informuje bez zbytečného odkladu Komisi, Úřad pro umělou inteligenci a vnitrostátní dozorový úřad ostatních členských států o výsledcích hodnocení a o opatřeních, která má provozovatel přijmout.
Pozměňovací návrh 601
Návrh nařízení
Čl. 65 – odst. 5
5.  Pokud provozovatel systému UI ve lhůtě uvedené v odstavci 2 nepřijme přiměřená nápravná opatření, přijme orgán dozoru nad trhem všechna vhodná dočasná opatření k omezení nebo zákazu dodávání systému UI na trh svého členského státu nebo k zajištění toho, že je tento produkt stažen z trhu nebo z oběhu. O takových opatřeních tento orgán neprodleně informuje Komisi a ostatní členské státy.
5.  Pokud provozovatel systému UI ve lhůtě uvedené v odstavci 2 nepřijme přiměřená nápravná opatření, přijme vnitrostátní dozorový orgán veškerá vhodná prozatímní opatření, aby zakázal nebo omezil dodávání systému UI na svůj vnitrostátní trh nebo do provozu, aby systém UI stáhl z trhu nebo z oběhu. Tento orgán o těchto opatřeních neprodleně informuje Komisi, Úřad pro umělou inteligenci a vnitrostátní dozorový orgán ostatních členských států.
Pozměňovací návrh 602
Návrh nařízení
Čl. 65 – odst. 6 – návětí
6.  Součástí informací uvedených v odstavci 5 jsou všechny dostupné podrobnosti, zejména údaje nezbytné pro identifikaci nevyhovujícího systému UI, údaje o původu systému UI, povaze nesouladu a souvisejícího rizika, povaze a době trvání opatření přijatých na vnitrostátní úrovni a stanoviska příslušného poskytovatele. Orgány dozoru nad trhem zejména uvedou, zda je důvodem nesouladu jeden nebo více těchto nedostatků:
6.  Součástí informací uvedených v odstavci 5 jsou všechny dostupné podrobnosti, zejména údaje nezbytné pro identifikaci nevyhovujícího systému UI, údaje o původu systému UI a dodavatelském řetězci, povaze nesouladu a souvisejícího rizika, povaze a době trvání opatření přijatých na vnitrostátní úrovni a stanoviska příslušného poskytovatele. Vnitrostátní orgány dozoru zejména uvedou, zda je důvodem nesouladu jeden nebo více těchto nedostatků:
Pozměňovací návrh 603
Návrh nařízení
Čl. 65 – odst. 6 – písm. a
a)  systém UI nesplňuje požadavky uvedené v hlavě III kapitole 2;
a)  pokud vysoce rizikový systém UI nesplňuje požadavky stanovené v tomto nařízení;
Pozměňovací návrh 604
Návrh nařízení
Čl. 65 – odst. 6 – písm. b a (nové)
ba)  nedodržení zákazu postupů v oblasti umělé inteligence uvedených v článku 5;
Pozměňovací návrh 605
Návrh nařízení
Čl. 65 – odst. 6 – písm. b b (nové)
bb)  nedodržení ustanovení uvedených v článku 52;
Pozměňovací návrh 606
Návrh nařízení
Čl. 65 – odst. 7
7.  Orgány dozoru nad trhem členských států jiné než orgán dozoru nad trhem členského státu, který zahájil tento postup, neprodleně informují Komisi a ostatní členské státy o veškerých opatřeních, která přijaly, a o všech doplňujících údajích týkajících se nesouladu dotčeného systému UI, které mají k dispozici, a v případě nesouhlasu s oznámeným vnitrostátním opatřením o svých námitkách.
7.  Vnitrostátní dozorové orgány jiných členských států, než je vnitrostátní dozorový orgán členského státu, který zahájil řízení, neprodleně informují Komisi, Úřad pro UI a ostatní členské státy o veškerých přijatých opatřeních a o veškerých doplňujících informacích týkajících se nesouladu dotčeného systému UI, které mají k dispozici, a v případě nesouhlasu s oznámeným vnitrostátním opatřením o svých námitkách.
Pozměňovací návrh 607
Návrh nařízení
Čl. 65 – odst. 8
8.  Jestliže do tří měsíců od přijetí informací uvedených v odstavci 5 nevznese žádný členský stát ani Komise námitku proti předběžnému opatření přijatému členským státem, považuje se uvedené opatření za odůvodněné. Tím nejsou dotčena procesní práva dotčeného provozovatele v souladu s článkem 18 nařízení (EU) 2019/1020.
8.  Pokud do tří měsíců od obdržení informací uvedených v odstavci 5 nevznese vnitrostátní dozorový úřad členského státu ani Komise námitku proti prozatímnímu opatření přijatému vnitrostátním dozorovým orgánem jiného členského státu, považuje se toto opatření za odůvodněné. Tím nejsou dotčena procesní práva dotčeného provozovatele v souladu s článkem 18 nařízení (EU) 2019/1020. Lhůta uvedená v první větě tohoto odstavce se zkracuje na třicet dnů v případě nedodržení zákazu praktik umělé inteligence uvedeného v článku 5.
Pozměňovací návrh 608
Návrh nařízení
Čl. 65 – odst. 9
9.  Orgány dozoru nad trhem všech členských států zajistí, aby byla v souvislosti s dotčeným produktem bezodkladně přijata náležitá restriktivní opatření, například stažení daného produktu z jejich trhů.
9.  Vnitrostátní dozorové orgány všech členských států zajistí, aby byla v souvislosti s dotčeným systémem UI neprodleně přijata vhodná omezující opatření, jako je stažení systému UI z jejich trhu.
Pozměňovací návrh 609
Návrh nařízení
Čl. 65 – odst. 9 a (nový)
9a.  Vnitrostátní dozorové orgány podávají Úřadu pro umělou inteligenci každoročně zprávu o používání zakázaných praktik, k nimž došlo v daném roce, a o opatřeních přijatých k odstranění nebo zmírnění rizik v souladu s tímto článkem.
Pozměňovací návrh 610
Návrh nařízení
Čl. 66 – odst. 1
1.  Pokud do tří měsíců od obdržení oznámení uvedeného v čl. 65 odst. 5 vznese některý členský stát námitky proti opatření přijatému jiným členským státem nebo pokud se Komise domnívá, že je dané opatření v rozporu s právem Unie, zahájí Komise neprodleně konzultaci s dotčeným členským státem a provozovatelem nebo provozovateli a provede hodnocení tohoto vnitrostátního opatření. Na základě výsledků tohoto hodnocení Komise do devíti měsíců od oznámení uvedeného v čl. 65 odst. 5 rozhodne, zda je dané vnitrostátní opatření odůvodněné či nikoli, a toto rozhodnutí oznámí dotčenému členskému státu.
1.  Pokud do tří měsíců od obdržení oznámení uvedeného v čl. 65 odst. 5 nebo do 30 dnů v případě nedodržení zákazu praktik umělé inteligence uvedeného v článku 5 vznese vnitrostátní dozorový orgán členského státu námitky proti opatření přijatému jiným vnitrostátním dozorovým orgánem, nebo pokud se Komise domnívá, že je dané opatření v rozporu s právem Unie, zahájí Komise neprodleně konzultace s vnitrostátním dozorovým orgánem příslušného členského státu a s provozovatelem nebo provozovateli a provede hodnocení vnitrostátního opatření. Na základě výsledků tohoto hodnocení Komise rozhodne, zda je vnitrostátní opatření oprávněné, či nikoli do tří měsíců, nebo do 60 dnů v případě nedodržení zákazu praktik umělé inteligence uvedeného v článku 5, počínaje oznámením podle čl. 65 odst. 5 a oznámí toto rozhodnutí vnitrostátnímu dozorovému orgánu dotčeného členského státu. Komise o tomto rozhodnutí rovněž informuje všechny ostatní vnitrostátní dozorové orgány.
Pozměňovací návrh 611
Návrh nařízení
Čl. 66 – odst. 2
2.  Pokud je dané vnitrostátní opatření považováno za odůvodněné, přijmou všechny členské státy opatření nezbytná k zajištění toho, aby byl nevyhovující systém UI stažen z jejich trhu, a informují o tom Komisi. Je-li vnitrostátní opatření považováno za neodůvodněné, dotčený členský stát toto opatření zruší.
2.  Je-li vnitrostátní opatření považováno za odůvodněné, přijmou všechny vnitrostátní dozorové orgány určené podle tohoto nařízení opatření nezbytná k zajištění toho, aby byl nevyhovující systém UI neprodleně stažen z jejich trhu, a informují o tom Komisi a Úřad pro UI. Je-li vnitrostátní opatření považováno za neodůvodněné, vnitrostátní orgán dozoru dotčeného členského státu opatření zruší.
Pozměňovací návrh 612
Návrh nařízení
Článek 66 a (nový)
Článek 66a
Společná vyšetřování
Pokud má vnitrostátní dozorový orgán důvodné podezření, že porušení tohoto nařízení ze strany poskytovatele nebo provozovatele vysoce rizikového systému UI nebo základního modelu představuje rozsáhlé porušování právních předpisů na ochranu spotřebitele s unijním rozměrem nebo se dotýká nebo pravděpodobně dotkne nejméně 45 milionů osob ve více než jednom členském státě, informuje tento vnitrostátní dozorový orgán Úřad pro umělou inteligenci a může požádat vnitrostátní dozorové orgány členských států, v nichž k takovému porušení došlo, aby zahájily společné vyšetřování. Úřad pro umělou inteligenci zajišťuje centrální koordinaci společného vyšetřování. Vyšetřovací pravomoci zůstávají v pravomoci vnitrostátních dozorových orgánů.
Pozměňovací návrh 613
Návrh nařízení
Čl. 67 – odst. 1
1.  Pokud orgán dozoru nad trhem členského státu po provedení hodnocení podle článku 65 zjistí, že ačkoli je systém UI v souladu s tímto nařízením, představuje riziko pro zdraví nebo bezpečnost osob, pro plnění povinností podle právních předpisů Unie nebo vnitrostátních právních předpisů, jejichž záměrem je chránit základní práva, nebo pro jiné aspekty ochrany veřejného zájmu, vyzve dotčeného provozovatele, aby přijal veškerá vhodná opatření k zajištění toho, aby dotčený systém UI, pokud bude uveden na trh nebo do provozu, dále nepředstavoval toto riziko, nebo aby byl tento systém UI stažen z trhu nebo z oběhu ve lhůtě, kterou může členský stát stanovit a která je přiměřená povaze rizika.
1.  Pokud vnitrostátní dozorový orgán členského státu po provedení hodnocení podle článku 65 v plné spolupráci s příslušným vnitrostátním veřejným orgánem uvedeným v čl. 64 odst. 3 zjistí, že ačkoli je systém UI v souladu s tímto nařízením, představuje vážné riziko pro zdraví nebo bezpečnost osob, plnění povinností podle práva Unie nebo vnitrostátního práva, které mají chránit základní práva, životní prostředí nebo demokracii a právní stát nebo pro jiné aspekty ochrany veřejného zájmu, požádá příslušný provozovatel, aby přijal veškerá vhodná opatření k zajištění toho, aby dotčený systém UI při uvedení na trh nebo do provozu již nepředstavoval toto riziko.
Pozměňovací návrh 614
Návrh nařízení
Čl. 67 – odst. 2
2.  Poskytovatel nebo jiní příslušní provozovatelé zajistí, aby byla přijata nápravná opatření ve vztahu ke všem dotčeným systémům UI, které dodali na trh v rámci celé Unie, ve lhůtě stanovené orgánem dozoru nad trhem členského státu uvedeného v odstavci 1.
2.  Poskytovatel nebo jiní příslušní provozovatelé zajistí, aby byla přijata nápravná opatření ve vztahu ke všem dotčeným systémům UI, které dodali na trh v rámci celé Unie, ve lhůtě stanovené vnitrostátním dozorovým úřadem členského státu uvedeného v odstavci 1.
Pozměňovací návrh 615
Návrh nařízení
Čl. 67 – odst. 2 a (nový)
2a.  Pokud poskytovatel nebo jiní příslušní provozovatelé nepřijmou nápravná opatření podle odstavce 2 a systém UI nadále představuje riziko uvedené v odstavci 1, může vnitrostátní dozorový orgán požadovat, aby příslušný provozovatel stáhl systém UI z trhu nebo z oběhu v přiměřené lhůtě úměrné povaze rizika.
Pozměňovací návrh 616
Návrh nařízení
Čl. 67 – odst. 3
3.  Tento členský stát o tom neprodleně informuje Komisi a ostatní členské státy. Tato informace musí obsahovat všechny dostupné podrobnosti, zejména údaje nezbytné pro identifikaci dotčeného systému UI, údaje o jeho původu a dodavatelském řetězci, údaje o povaze souvisejícího rizika a údaje o povaze a době trvání opatření přijatých na vnitrostátní úrovni.
3.  Vnitrostátní dozorový orgán neprodleně informuje Komisi, Úřad pro umělou inteligenci a ostatní vnitrostátní dozorové orgány. Tato informace musí obsahovat všechny dostupné podrobnosti, zejména údaje nezbytné pro identifikaci dotčeného systému UI, údaje o jeho původu a dodavatelském řetězci, údaje o povaze souvisejícího rizika a údaje o povaze a době trvání opatření přijatých na vnitrostátní úrovni.
Pozměňovací návrh 617
Návrh nařízení
Čl. 67 – odst. 4
4.  Komise neprodleně zahájí konzultaci s členskými státy a s příslušným provozovatelem a vyhodnotí přijatá vnitrostátní opatření. Na základě výsledků tohoto hodnocení Komise rozhodne, zda jsou opatření odůvodněná či nikoli, a pokud je to nutné, navrhne vhodná opatření.
4.  Komise po konzultaci s Úřadem pro umělou inteligenci neprodleně zahájí konzultace s dotčenými vnitrostátními dozorovými orgány a příslušným provozovatelem a vyhodnotí přijatá vnitrostátní opatření. Na základě výsledků tohoto hodnocení Úřad pro umělou inteligenci rozhodne, zda je opatření oprávněné, či nikoli a v případě potřeby navrhne vhodná opatření.
Pozměňovací návrh 618
Návrh nařízení
Čl. 67 – odst. 5
5.  Rozhodnutí Komise je určeno všem členským státům.
5.  Komise po konzultaci s Úřadem pro umělou inteligenci své rozhodnutí neprodleně sdělí vnitrostátním dozorovým orgánům dotčených členských států a příslušným provozovatelům. Rozhodnutí rovněž informuje všechny ostatní vnitrostátní dozorové orgány.
Pozměňovací návrh 619
Návrh nařízení
Čl. 67 – odst. 5 a (nový)
5a.  Komise přijme pokyny s cílem pomoci příslušným vnitrostátním orgánům identifikovat a v případě potřeby napravit podobné problémy, které vznikají v jiných systémech UI.
Pozměňovací návrh 620
Návrh nařízení
Čl. 68 – odst. 1 – návětí
1.  Orgán dozoru nad trhem daného členského státu požádá příslušného provozovatele, aby odstranil dotčený nesoulad, pokud zjistí jeden z těchto nedostatků:
1.  Vnitrostátní dozorový orgán členského státu požádá příslušného provozovatele, aby odstranil dotčený nesoulad, pokud zjistí jeden z těchto nedostatků:
Pozměňovací návrh 621
Návrh nařízení
Čl. 68 – odst. 1 – písm. a
a)  označení CE bylo umístěno v rozporu s článkem 49;
(Netýká se českého znění.)
Pozměňovací návrh 622
Návrh nařízení
Čl. 68 – odst. 1 – písm. b
b)  označení CE nebylo umístěno;
(Netýká se českého znění.)
Pozměňovací návrh 623
Návrh nařízení
Čl. 68 – odst. 1 – písm. e a (nové)
ea)  není k dispozici technická dokumentace;
Pozměňovací návrh 624
Návrh nařízení
Čl. 68 – odst. 1 – písm. e b (nové)
eb)  nebyla provedena registrace v databázi EU;
Pozměňovací návrh 625
Návrh nařízení
Čl. 68 – odst. 1 – písm. e c (nové)
ec)  v příslušných případech nebyl jmenován zplnomocněný zástupce.
Pozměňovací návrh 626
Návrh nařízení
Čl. 68 – odst. 2
2.  Pokud nesoulad uvedený v odstavci 1 nadále trvá, přijme dotčený členský stát všechna vhodná opatření a omezí nebo zakáže dodávání vysoce rizikového systému UI na trh, nebo zajistí, aby byl tento systém stažen z oběhu nebo z trhu.
2.  Pokud nesoulad uvedený v odstavci 1 nadále trvá, přijme vnitrostátní dozorový orgán dotčeného členského státu vhodná a přiměřená opatření s cílem omezit nebo zakázat dodávání vysoce rizikového systému UI na trh nebo zajistit, aby byl neprodleně stažen z oběhu nebo z trhu. Vnitrostátní dozorový orgán dotčeného členského státu neprodleně informuje Úřad pro umělou inteligenci o nesouladu a o přijatých opatřeních.
Pozměňovací návrh 627
Návrh nařízení
Čl. 68 – Kapitola 3a (nová)
3a.  Opravné prostředky
Pozměňovací návrh 628
Návrh nařízení
Článek 68a
Článek 68a
Právo podat stížnost u vnitrostátního dozorového úřadu
1.  Aniž jsou dotčeny jakékoli jiné správní nebo soudní opravné prostředky, má každá fyzická osoba nebo skupina fyzických osob právo podat stížnost u vnitrostátního dozorového úřadu, zejména v členském státě svého obvyklého bydliště, místa výkonu práce nebo místa, kde došlo k údajnému porušení, pokud se domnívají, že systém UI, který se jich týká, porušuje toto nařízení.
2.  Vnitrostátní dozorový úřad, u něhož byla stížnost podána, informuje stěžovatele o pokroku a výsledku stížnosti, včetně možnosti soudního opravného prostředku podle článku 78.
Pozměňovací návrh 629
Návrh nařízení
Článek 68 b (nový)
Článek 68b
Právo na účinnou soudní ochranu vůči vnitrostátnímu dozorovému úřadu
1.  Aniž jsou dotčeny jakékoli jiné správní nebo mimosoudní opravné prostředky, má každá fyzická nebo právnická osoba právo na účinný soudní opravný prostředek proti právně závaznému rozhodnutí vnitrostátního dozorového úřadu, které se jí týká.
2.  Aniž jsou dotčeny jakékoli jiné správní nebo mimosoudní opravné prostředky, má každá fyzická nebo právnická osoba právo na účinný soudní opravný prostředek, pokud vnitrostátní dozorový úřad, který je příslušný podle článku 59, stížnost nevyřizuje nebo neinformuje subjekt údajů do tří měsíců o pokroku nebo výsledku stížnosti podané podle článku 68a.
3.  Řízení proti vnitrostátnímu dozorovému úřadu se vede u soudů členského státu, v němž je vnitrostátní dozorový úřad.
4.  Je-li zahájeno řízení proti rozhodnutí vnitrostátního dozorového úřadu, kterému předcházelo stanovisko nebo rozhodnutí Komise v rámci ochranného postupu Unie, předá dozorový úřad toto stanovisko nebo rozhodnutí soudu.
Pozměňovací návrh 630
Návrh nařízení
Článek 68 c (nový)
Článek 68c
Právo na vysvětlení individuálního rozhodování
1.  Každá dotčená osoba, na kterou se vztahuje rozhodnutí přijaté provozovatelem na základě výstupu z vysoce rizikového systému UI, který má právní účinky nebo se jí podobně významně dotýká způsobem, který podle jejího názoru nepříznivě ovlivňuje její zdraví, bezpečnost, základní práva, sociálně-ekonomický blahobyt nebo jakákoli jiná práva vyplývající z povinností stanovených v tomto nařízení, má právo požádat provozovatele o jasné a smysluplné vysvětlení podle čl. 13 odst. 1 ohledně úlohy systému UI v rozhodovacím procesu, hlavních parametrů přijatého rozhodnutí a souvisejících vstupních údajů.
2.  Odstavec 1 se nevztahuje na používání systémů UI, pro něž jsou stanoveny výjimky nebo omezení povinnosti podle odstavce 1 z práva Unie nebo vnitrostátního práva, pokud tyto výjimky nebo omezení respektují podstatu základních práv a svobod a představují nezbytné a přiměřené opatření v demokratické společnosti.
3.  Tento článek se použije, aniž jsou dotčeny články 13, 14, 15 a 22 nařízení 2016/679.
Pozměňovací návrh 631
Návrh nařízení
Článek 68 d (nový)
Článek 68d
Změna směrnice (EU) 2020/1828
V příloze I směrnice Evropského parlamentu a Rady (EU) 2020/18281a se doplňuje nový bod, který zní:
„Nařízení Evropského parlamentu a Rady xxxx/xxxx, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a mění určité legislativní akty Unie.“
_________________
1a Směrnice Evropského parlamentu a Rady (EU) 2020/1828 ze dne 25. listopadu 2020 o zástupných žalobách na ochranu kolektivních zájmů spotřebitelů a o zrušení směrnice 2009/22/ES (Úř. věst. L 409, 4.12.2020, s. 1).
Pozměňovací návrh 632
Návrh nařízení
Článek 68 e (nový)
Článek 68e
Oznamování porušení a ochrana oznamujících osob
Oznamování porušení tohoto nařízení a ochrana osob oznamujících taková porušení se řídí směrnicí Evropského parlamentu a Rady (EU) 2019/1937.
Pozměňovací návrh 633
Návrh nařízení
Čl. 69 – odst. 1
1.  Komise a členské státy podporují a usnadňují vypracovávání kodexů chování, které mají podpořit dobrovolné uplatňování požadavků stanovených v hlavě III kapitole 2 na systémy UI jiných než vysoce rizikové systémy UI na základě technických specifikací a řešení představujících vhodné prostředky k zajištění souladu s těmito požadavky s ohledem na určený účel uvedených systémů.
1.  Komise, Úřad pro umělou inteligenci a členské státy podporují a usnadňují vypracování kodexů chování, včetně případů, kdy jsou vypracovány s cílem prokázat, jak systémy UI dodržují zásady stanovené v článku 4a, a lze je tudíž považovat za důvěryhodné, s cílem podpořit dobrovolné uplatňování požadavků stanovených v hlavě III kapitole 2 na jiné než vysoce rizikové systémy UI na základě technických specifikací a řešení, která jsou vhodnými prostředky k zajištění souladu s těmito požadavky s ohledem na určený účel těchto systémů.
Pozměňovací návrh 634
Návrh nařízení
Čl. 69 – odst. 2
2.  Komise a rada podporují a usnadňují vypracovávání kodexů chování, které mají podpořit dobrovolné uplatňování požadavků týkajících se například udržitelnosti z hlediska životního prostředí, přístupnosti pro osoby se zdravotním postižením, účasti zúčastněných stran na návrhu a vývoji systémů UI a rozmanitosti vývojových týmů na systémy UI na základě jasných cílů a klíčových ukazatelů výkonnosti umožňujících měřit dosahování těchto cílů.
2.  Kodexy chování, které mají podpořit dobrovolné dodržování zásad, na nichž jsou založeny důvěryhodné systémy UI, zejména:
a)   usilují o to, aby jejich zaměstnanci a další osoby, které se zabývají provozem a používáním systémů UI, měli dostatečnou úroveň znalostí v oblasti UI, aby mohli tyto zásady dodržovat;
b)   posoudí, jak velký dopad mohou jejich systémy UI mít na zranitelné osoby nebo skupiny osob, včetně dětí, starších osob, migrantů a osob se zdravotním postižením, nebo zda by mohla být zavedena opatření, která by zlepšila přístupnost nebo tyto osoby či skupiny osob jinak podpořila;
c)   zváží, jak může používání jejich systémů UI ovlivnit nebo zlepšit rozmanitost, genderovou vyváženost a rovnost žen a mužů;
d)   věnují pozornost tomu, zda jejich systémy UI nemohou být používány způsobem, který přímo či nepřímo může zbytkově nebo významně posílit existující předsudky nebo nerovnosti;
e)   zváží potřebu a význam rozmanitosti vývojových týmů s ohledem na zajištění inkluzivního designu jejich systémů;
f)   pečlivě zváží, zda jejich systémy mohou mít negativní společenský dopad, zejména pokud jde o politické instituce a demokratické procesy;
g)   posoudí, jak mohou systémy UI přispět k udržitelnosti z hlediska životního prostředí, a zejména k naplnění závazků Unie vyplývajících ze Zelené dohody pro Evropu a Evropského prohlášení o digitálních právech a zásadách pro digitální dekádu.
Pozměňovací návrh 635
Návrh nařízení
Čl. 69 – odst. 3
3.  Kodexy chování mohou vypracovat jednotliví poskytovatelé systémů UI nebo organizace, které je zastupují, případně obojí, a to i za účasti uživatelů a veškerých zúčastněných stran a jejich zastupujících organizací. Kodexy chování se mohou vztahovat na jeden nebo více systémů UI s přihlédnutím k podobnosti určeného účelu daných systémů.
3.  Kodexy chování mohou vypracovat jednotliví poskytovatelé systémů UI nebo organizace, které je zastupují, případně obojí, a to i za účasti uživatelů a veškerých zúčastněných stran, včetně výzkumných vědeckých pracovníků, a jejich zastupujících organizací, zejména odborů a spotřebitelských organizací. Kodexy chování se mohou vztahovat na jeden nebo více systémů UI s přihlédnutím k podobnosti určeného účelu daných systémů. Poskytovatelé, kteří přijmou kodexy chování, určí alespoň jednu fyzickou osobu odpovědnou za interní sledování.
Pozměňovací návrh 636
Návrh nařízení
Čl. 69 – odst. 4
4.  Při podpoře a usnadňování vypracovávání kodexů chování zohlední Komise a rada konkrétní zájmy a potřeby malých poskytovatelů a začínajících podniků.
4.  Komise a Úřad pro umělou inteligenci při podpoře a usnadňování vypracovávání kodexů chování zohlední zvláštní zájmy a potřeby malých a středních podniků a začínajících podniků.
Pozměňovací návrh 637
Návrh nařízení
Čl. 70 – odst. 1 – návětí
1.  Příslušné vnitrostátní orgány a oznámené subjekty zapojené do používání tohoto nařízení zachovávají důvěrnost informací a údajů, které získají při provádění svých úkolů a činností, takovým způsobem, aby chránily zejména:
1.  Komise, příslušné vnitrostátní orgány a oznámené subjekty, Úřad pro umělou inteligenci a všechny další fyzické nebo právnické osoby zapojené do uplatňování tohoto nařízení respektují důvěrnost informací a údajů získaných při plnění jejich úkolů a činností způsobem, který chrání zejména;
Pozměňovací návrh 638
Návrh nařízení
Čl. 70 – odst. 1 – písm. a
a)  práva duševního vlastnictví a důvěrné obchodní informace nebo obchodní tajemství fyzických nebo právnických osob, včetně zdrojového kódu s výjimkou případů, na které se vztahuje článek 5 směrnice 2016/943 o ochraně nezveřejněného know-how a obchodních informací (obchodního tajemství) před jejich neoprávněným získáním, využitím a zpřístupněním;
a)  práva duševního vlastnictví a důvěrné obchodní informace nebo obchodní tajemství fyzické nebo právnické osoby v souladu s ustanoveními směrnic 2004/48/ES a 2016/943/ES, včetně zdrojového kódu, s výjimkou případů uvedených v článku 5 směrnice 2016/943 o ochraně nezveřejněného know-how a obchodních informací (obchodního tajemství) před jejich neoprávněným získáním, použitím a zveřejněním;
Pozměňovací návrh 639
Návrh nařízení
Čl. 70 – odst. 1 – písm. b a (nové)
ba)  veřejné a národní bezpečnostní zájmy;
Pozměňovací návrh 640
Návrh nařízení
Čl. 70 – odst. 1 a (nový)
1a.  Orgány zapojené do uplatňování tohoto nařízení podle odstavce 1 minimalizují množství údajů požadovaných pro zpřístupnění údajů, které jsou nezbytně nutné pro vnímané riziko a posouzení tohoto rizika. Údaje vymažou, jakmile již nejsou potřebné pro účel, pro který byly vyžádány. Zavedou přiměřená a účinná opatření v oblasti kybernetické bezpečnosti a technická a organizační opatření na ochranu bezpečnosti a důvěrnosti informací a údajů získaných při plnění jejich úkolů a činností;
Pozměňovací návrh 641
Návrh nařízení
Čl. 70 – odst. 2 – návětí
2.  Aniž je dotčen odstavec 1, informace vyměňované důvěrně mezi příslušnými vnitrostátními orgány a mezi příslušnými vnitrostátními orgány a Komisí se nezpřístupní bez předchozí dohody s příslušným vnitrostátním orgánem, který informace poskytl, a uživatelem, pokud jsou vysoce rizikové systémy UI uvedené v bodech 1, 6 a 7 přílohy III používány donucovacími, imigračními nebo azylovými orgány a jejich zveřejnění by ohrozilo zájmy veřejné a vnitrostátní bezpečnosti.
2.  Aniž jsou dotčeny odstavce 1 a 1a, informace vyměňované důvěrně mezi příslušnými vnitrostátními orgány a mezi příslušnými vnitrostátními orgány a Komisí se nezveřejní bez předchozí konzultace s příslušným vnitrostátním orgánem a provozovatelem, pokud jsou vysoce rizikové systémy UI uvedené v bodech 1, 6 a 7 přílohy III používány donucovacími, imigračními nebo azylovými orgány, pokud by takové zveřejnění ohrozilo veřejnou nebo národní bezpečnost.
Pozměňovací návrh 642
Návrh nařízení
Čl. 70 – odst. 3
3.  Ustanoveními odstavců 1 a 2 nejsou dotčena práva a povinnosti Komise, členských států a oznámených subjektů ohledně vzájemného informování a šíření výstrah, ani povinnosti dotčených stran poskytovat informace podle trestního práva členských států.
3.  Ustanoveními odstavců 1, 1a a 2 nejsou dotčena práva a povinnosti Komise, členských států a oznámených subjektů ohledně vzájemného informování a šíření výstrah, ani povinnosti dotčených stran poskytovat informace podle trestního práva členských států.
Pozměňovací návrh 643
Návrh nařízení
Čl. 70 – odst. 4
4.  Komise a členské státy si mohou v případě potřeby vyměňovat důvěrné informace s regulačními orgány třetích zemí, s nimiž uzavřely dvoustranná nebo vícestranná ujednání o ochraně důvěrnosti zaručující přiměřenou úroveň důvěrnosti.
4.  Je-li to nezbytně nutné a v souladu s příslušnými ustanoveními mezinárodních a obchodních dohod, mohou si Komise a členské státy vyměňovat důvěrné informace s regulačními orgány třetích zemí, s nimiž uzavřely dvoustranná nebo vícestranná ujednání o důvěrnosti zaručující odpovídající úroveň důvěrnosti.
Pozměňovací návrh 644
Návrh nařízení
Čl. 71 – název
Sankce a pokuty
Sankce
Pozměňovací návrh 645
Návrh nařízení
Čl. 71 – odst. 1
1.  Členské státy stanoví v souladu s podmínkami uvedenými v tomto nařízení pravidla pro ukládání sankcí, včetně správních pokut za porušení tohoto nařízení, a přijmou veškerá opatření nezbytná k zajištění jejich řádného a účinného uplatňování. Stanovené sankce musí být účinné, přiměřené a odrazující. Zohledňují zejména zájmy malých poskytovatelů a začínajících podniků a jejich ekonomickou životaschopnost.
1.  V souladu s podmínkami stanovenými v tomto nařízení stanoví členské státy pravidla pro sankce za porušení tohoto nařízení kterýmkoli operátorem a přijmou veškerá opatření nezbytná k zajištění jejich řádného a účinného provádění a souladu s pokyny vydanými Komisí a Úřadem pro umělou inteligenci podle článku 82b. Stanovené sankce musí být účinné, přiměřené a odrazující. Zohledňují zájmy malých a středních podniků a začínajících podniků a jejich ekonomickou životaschopnost;
Pozměňovací návrh 646
Návrh nařízení
Čl. 71 – odst. 2
2.  Členské státy oznámí tato pravidla a opatření Komisi a neprodleně oznámí všechny jejich následné změny.
2.  Členské státy oznámí tato pravidla a opatření Komisi a Úřadu do ... [12 měsíců ode dne vstupu tohoto nařízení v platnost] a neprodleně jim oznámí veškeré následné změny, které se jich týkají.
Pozměňovací návrh 647
Návrh nařízení
Čl. 71 – odst. 3 – návětí
3.  Za následující porušení předpisů lze uložit správní pokuty až do výše 30 000 000 EUR nebo, dopustí-li se porušení společnost, až do výše 6 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší:
3.  Za nedodržení zákazu praktik umělé inteligence uvedeného v článku 5 se uloží správní pokuty až do výše 40 000 000 EUR, nebo je-li pachatelem společnost, až do výše 7 % jejího celkového ročního obratu celosvětově za předchozí účetní období, podle toho, která hodnota je vyšší:
Pozměňovací návrh 648
Návrh nařízení
Čl. 71 – odst. 3 – písm. a
a)  nedodržení zákazu postupů v oblasti umělé inteligence uvedených v článku 5;
vypouští se
Pozměňovací návrh 649
Návrh nařízení
Čl. 71 – odst. 3 – písm. b
b)  nesoulad systému UI s požadavky stanovenými v článku 10.
vypouští se
Pozměňovací návrh 650
Návrh nařízení
Čl. 71 – odst. 3 a (nový)
3a.  Za nesoulad systému UI s požadavky stanovenými v článcích 10 a 13 se uloží správní pokuty až do výše 20 000 000 EUR, nebo je-li pachatelem společnost, až do výše 4 % jejího celkového ročního obratu celosvětově za předchozí účetní období, podle toho, která hodnota je vyšší.
Pozměňovací návrh 651
Návrh nařízení
Čl. 71 – odst. 4
4.  Za nesoulad systému UI s jakýmikoli požadavky nebo povinnostmi podle tohoto nařízení s výjimkou těch, které jsou stanoveny v článcích 5 a 10, se uloží správní pokuty až do výše 20 000 000 EUR, nebo, dopustí-li se porušení společnost, až do výše 4 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší.
4.  Za nesoulad systému UI nebo základního modelu s jakýmikoli požadavky nebo povinnostmi podle tohoto nařízení, s výjimkou požadavků nebo povinností stanovených v článcích 5, 10 a 13, se uloží správní pokuty až do výše 10 000 000 EUR, nebo je-li pachatelem společnost, až do výše 2 % jejího celkového ročního obratu celosvětově za předchozí účetní období, podle toho, která hodnota je vyšší;
Pozměňovací návrh 652
Návrh nařízení
Čl. 71 – odst. 5
5.  Za poskytnutí nesprávných, neúplných nebo zavádějících informací oznámeným subjektům a příslušným vnitrostátním orgánům v reakci na žádost se uloží správní pokuty až do výše 10 000 000 EUR, nebo, dopustí-li se porušení společnost, až do výše 2 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší.
5.  Za poskytnutí nesprávných, neúplných nebo zavádějících informací oznámeným subjektům a příslušným vnitrostátním orgánům v reakci na žádost se uloží správní pokuty až do výše 5 000 000 EUR, nebo, dopustí-li se porušení společnost, až do výše 1 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší.
Pozměňovací návrh 653
Návrh nařízení
Čl. 71 – odst. 6 – návětí
6.  Při rozhodování o výši správní pokuty v jednotlivých případech se zohlední všechny příslušné okolnosti konkrétní situace s náležitým přihlédnutím k následujícím okolnostem:
6.  Pokuty mohou být uloženy společně s nepeněžními opatřeními, jako jsou příkazy nebo varování, nebo místo nich. Při rozhodování o výši správní pokuty v jednotlivých případech se zohlední všechny příslušné okolnosti konkrétní situace s náležitým přihlédnutím k následujícím okolnostem:
Pozměňovací návrh 654
Návrh nařízení
Čl. 71 – odst. 6 – písm. a
a)  povaha, závažnost a doba trvání porušení těchto ustanovení a jeho následky;
a)  povaha, závažnost a dobu trvání protiprávního jednání a jeho důsledků, s přihlédnutím k účelu systému UI, jakož i případně k počtu dotčených osob a k úrovni škod, které jim vznikly;
Pozměňovací návrh 655
Návrh nařízení
Čl. 71 – odst. 6 – písm. b
b)  zda již byly stejnému provozovateli za stejné protiprávní jednání uloženy správní pokuty jinými orgány dozoru nad trhem;
b)  zda již byly správní pokuty uloženy jinými vnitrostátními orgány dohledu jednoho nebo více členských států stejnému provozovateli za stejné porušení předpisů;
Pozměňovací návrh 656
Návrh nařízení
Čl. 71 – odst. 6 – písm. c
c)  velikost provozovatele, který se porušení dopustil, a jeho podíl na trhu.
c)  velikost a roční obrat hospodářského subjektu, který se dopustil protiprávního jednání;
Pozměňovací návrh 657
Návrh nařízení
Čl. 71 – odst. 6 – písm. c a (nové)
ca)  veškerá opatření přijatá provozovatelem ke zmírnění škody způsobené postiženým osobám;
Pozměňovací návrh 658
Návrh nařízení
Čl. 71 – odst. 6 – písm. c b (nové)
cb)  zda k porušení došlo úmyslně nebo z nedbalosti;
Pozměňovací návrh 659
Návrh nařízení
Čl. 71 – odst. 6 – písm. c c (nové)
cc)  míra spolupráce s příslušnými vnitrostátními orgány za účelem nápravy porušení a zmírnění jeho možných nežádoucích účinků;
Pozměňovací návrh 660
Návrh nařízení
Čl. 71 – odst. 6 – písm. c d (nové)
cd)  míra odpovědnosti provozovatele s přihlédnutím k technickým a organizačním opatřením, která provedl;
Pozměňovací návrh 661
Návrh nařízení
Čl. 71 – odst. 6 – písm. c e (nové)
ce)  způsob, jakým se příslušné vnitrostátní orgány dozvěděly o porušení předpisů, zejména zda, a pokud ano, v jakém rozsahu provozovatel porušení oznámil;
Pozměňovací návrh 662
Návrh nařízení
Čl. 71 – odst. 6 – písm. c f (nové)
cf)  dodržování schválených kodexů chování nebo schválených certifikačních mechanismů;
Pozměňovací návrh 663
Návrh nařízení
Čl. 71 – odst. 6 – písm. c g (nové)
cg)  veškerá případná porušení, kterých se provozovatel dopustil v minulosti;
Pozměňovací návrh 664
Návrh nařízení
Čl. 71 – odst. 6 – písm. c h (nové)
ch)  jakoukoli jinou přitěžující nebo polehčující okolnost vztahující se na okolnosti daného případu.
Pozměňovací návrh 665
Návrh nařízení
Čl. 71 – odst. 7
7.  Každý členský stát stanovuje pravidla týkající se toho, zda a do jaké míry je možno ukládat správní pokuty orgánům veřejné moci a veřejným subjektům usazeným v daném členském státě.
7.  Každý členský stát stanovuje pravidla týkající se správních pokut ukládaných orgánům veřejné moci a veřejným subjektům usazeným v daném členském státě.
Pozměňovací návrh 666
Návrh nařízení
Čl. 71 – odst. 8 a (nový)
8a.  Pokuty uvedené v tomto článku i související náklady na soudní spory a nároky na odškodnění nesmí být předmětem smluvních doložek nebo jiné formy dohod o sdílení zátěže mezi poskytovateli a distributory, dovozci, provozovateli nebo jinými třetími stranami.
Pozměňovací návrh 667
Návrh nařízení
Čl. 71 – odst. 8 b (nový)
8b.  Vnitrostátní dozorové orgány každoročně informují Úřad pro umělou inteligenci o pokutách, které v daném roce v souladu s tímto článkem vydaly.
Pozměňovací návrh 668
Návrh nařízení
Čl. 71 – odst. 8 c (nový)
8c.  Výkon pravomocí příslušných orgánů podle tohoto článku podléhá vhodným procesním zárukám v souladu s právem Unie a vnitrostátním právem, k nimž patří soudní opravné prostředky a řádné řízení.
Pozměňovací návrh 669
Návrh nařízení
Čl. 72 – odst. 1 – písm. a
a)  povaha, závažnost a doba trvání porušení těchto ustanovení a jeho následky;
a)  povaha, závažnost a doba trvání porušení těchto ustanovení a jeho následky, s přihlédnutím k účelu dotčeného systému UI, k počtu dotčených osob a k úrovni škod, které jim vznikly, i k jakémukoli relevantnímu předchozímu protiprávnímu jednání;
Pozměňovací návrh 670
Návrh nařízení
Čl. 72 – odst. 1 – písm. a a (nové)
aa)  veškerá opatření přijatá orgánem, agenturou nebo subjektem Unie ke zmírnění škod, které dotčené osoby utrpěly;
Pozměňovací návrh 671
Návrh nařízení
Čl. 72 – odst. 1 – písm. a b (nové)
ab)  míra odpovědnosti orgánu, agentury nebo subjektu Unie s přihlédnutím k technickým a organizačním opatřením, která provádějí;
Pozměňovací návrh 672
Návrh nařízení
Čl. 72 – odst. 1 – písm. b
b)  spolupráce s evropským inspektorem ochrany údajů za účelem nápravy daného porušení a zmírnění jeho možných nežádoucích účinků, včetně splnění případných opatření, která dříve nařídil evropský inspektor ochrany údajů dotčené instituci, orgánu nebo subjektu Unie v souvislosti s toutéž záležitostí;
b)  úroveň spolupráce s evropským inspektorem ochrany údajů za účelem nápravy daného porušení a zmírnění jeho možných nežádoucích účinků, včetně splnění případných opatření, která dříve nařídil evropský inspektor ochrany údajů dotčené instituci, orgánu nebo subjektu Unie v souvislosti s toutéž záležitostí;
Pozměňovací návrh 673
Návrh nařízení
Čl. 72 – odst. 1 – písm. c a (nové)
ca)  způsob, jakým se evropský inspektor ochrany údajů o porušení dozvěděl, zejména zda orgán nebo subjekt Unie porušení oznámil, a pokud ano, v jakém rozsahu;
Pozměňovací návrh 674
Návrh nařízení
Čl. 72 – odst. 1 – písm. c b (nové)
cb)  roční rozpočet subjektu;
Pozměňovací návrh 675
Návrh nařízení
Čl. 72 – odst. 2 – návětí
2.  Za porušení následujících ustanovení lze uložit správní pokuty až do výše 500 000 EUR:
2.  Za porušení zákazu postupů v oblasti umělé inteligence uvedených v článku 5 lze uložit správní pokuty až do výše 500 000 EUR.
Pozměňovací návrh 676
Návrh nařízení
Čl. 72 – odst. 2 – písm. a
a)  nedodržení zákazu postupů v oblasti umělé inteligence uvedených v článku 5;
vypouští se
Pozměňovací návrh 677
Návrh nařízení
Čl. 72 – odst. 2 a (nový)
2a.  Za nesoulad systému UI s požadavky stanovenými v článku 10 lze uložit správní pokuty až do výše 1 000 000 EUR.
Pozměňovací návrh 678
Návrh nařízení
Čl. 72 – odst. 3
3.  Za nesoulad systému UI s jakýmikoli požadavky nebo povinnostmi podle tohoto nařízení s výjimkou těch, které jsou stanoveny v článcích 5 a 10, se uloží správní pokuty až do výše 250 000 EUR.
3.  Za nesoulad systému UI s jakýmikoli požadavky nebo povinnostmi podle tohoto nařízení s výjimkou těch, které jsou stanoveny v článcích 5 a 10, se uloží správní pokuty až do výše 750 000 EUR.
Pozměňovací návrh 679
Návrh nařízení
Čl. 72 – odst. 6
6.  Prostředky vybrané ukládáním pokut podle tohoto článku jsou příjmem souhrnného rozpočtu Unie.
6.  Prostředky vybrané ukládáním pokut podle tohoto článku jsou příspěvkem do souhrnného rozpočtu Unie. Pokutami není zasaženo účinné fungování sankcionovaného orgánu, subjektu nebo agentury Unie.
Pozměňovací návrh 680
Návrh nařízení
Čl. 72 – odst. 6 a (nový)
6a.  Evr